TI-ACC 加速工具
文档中心>TI-ACC 加速工具

常见问题

最近更新时间:2024-08-23 11:36:11

我的收藏

TI-ACC 加速工具包含哪些产品功能?

AI 模型训练加速(TI-ACC-Training)、AI 模型推理加速(TI-ACC-Inference)。

TI-ACC 加速工具适用于哪些业务场景?

如下使用场景可以使用 TI-ACC 加速工具能力:
场景一:AI 模型训练加速nTI-ACC 在推荐、CV、NLP 等模型训练场景中,实现计算优化、通信优化、并行训练、显存优化等功能,帮助客户在进行模型训练时,显著节省训练时间和计算成本。
场景二:AI 模型推理加速nTI-ACC 在推荐、CV、NLP 等模型推理场景中,实现通用模型转换、深层性能优化、低精度加速等功能,帮助客户在进行模型推理时,显著降低推理时延和计算成本。

AI 推理加速支持的框架和模型?

支持原生框架 TensorFlow、PyTorch,通过 ONNX 支持 MXNet、Caffe 等多种训练框架,充分利用和融入不断完善的 ONNX 开源生态。当前支持算子100+,覆盖主流 CNN、NLP 和推荐网络。

AI 训练加速支持的框架和模型?

深度优化 TensorFlow 训练框架,支持 CV、NLP、REC 等模型超大规模分布式训练。