TI-ACC 加速工具包含哪些产品功能?
AI 模型训练加速(TI-ACC-Training)、AI 模型推理加速(TI-ACC-Inference)。
TI-ACC 加速工具适用于哪些业务场景?
如下使用场景可以使用 TI-ACC 加速工具能力:
场景一:AI 模型训练加速nTI-ACC 在推荐、CV、NLP 等模型训练场景中,实现计算优化、通信优化、并行训练、显存优化等功能,帮助客户在进行模型训练时,显著节省训练时间和计算成本。
场景二:AI 模型推理加速nTI-ACC 在推荐、CV、NLP 等模型推理场景中,实现通用模型转换、深层性能优化、低精度加速等功能,帮助客户在进行模型推理时,显著降低推理时延和计算成本。
AI 推理加速支持的框架和模型?
支持原生框架 TensorFlow、PyTorch,通过 ONNX 支持 MXNet、Caffe 等多种训练框架,充分利用和融入不断完善的 ONNX 开源生态。当前支持算子100+,覆盖主流 CNN、NLP 和推荐网络。
AI 训练加速支持的框架和模型?
深度优化 TensorFlow 训练框架,支持 CV、NLP、REC 等模型超大规模分布式训练。