什么是腾讯云大模型训推平台 TI-ONE
腾讯云大模型训推平台 TI-ONE（以下简称 TI-ONE 平台 或 TI-ONE）是为 AI 工程师打造的一站式大模型训练推理平台，为用户提供从数据准备、模型训练、模型管理到模型评测、模型服务的全流程支持。TI-ONE 也提供高效的 GPU 算力管理与调度能力，支持在/离线工作负载的混合潮汐调度，帮助提升企业在训练、推理过程中的 GPU 利用率。单击前往 TI-ONE 控制台 开始使用。
产品架构
核心功能
大模型广场：预置多种预训练大模型及指令微调大模型，覆盖各类下游任务，如多轮对话、逻辑推理、内容创作等。用户可一键将内置大模型部署为在线服务，通过网页问答快速直观地体验大模型的效果；也可一键发起基于内置大模型的精调任务，将模型优化为可满足垂直场景需求的生产级模型。
数据中心：提供面向传统深度学习和大模型训练的数据集管理以及数据构建、标注功能。其中：
数据构建：内置开源可扩展的数据处理 Pipeline，涵盖有监督-单轮、有监督-多轮、无监督的数据场景，可一键启动基于开发机的数据构建任务。
训练工坊：提供开发机和任务式建模两种训练方式，可基于内置镜像或自定义镜像快速、灵活发起训练任务，并基于腾讯自研的 Angel 框架提供训练加速。其中：
开发机：提供交互式的开发功能，支持 Jupyter Notebook 和 VS Code。
两种在线编码 IDE，内置主流框架，支持 SSH 远程连接、Git 存储库。不仅支持算法调试与模型训练，也可以进行数据准备和预处理。
任务式建模：提供向导式的训练任务提交、管理功能，特别适用于多机多卡大规模训练。基于训练任务优先级管理以及多层容错机制，保障训练任务高效、稳定运行。
模型管理：内置丰富大模型资源，支持对 AI 模型进行管理和评测。其中：
内置大模型：内置主流开源大模型和腾讯自研大模型，支持快速发起精调训练和模型部署、体验。
模型仓库：支持模型导入和版本管理。
模型优化：内置腾讯自研的 Angel 推理加速框架，提升模型推理性能。
模型评测：支持轻量体验、客观评测、主观评测三阶段评测能力，全方位保障模型效果。
模型服务：支持将模型快速发布为推理服务，支持离线批量预测。同时提供腾讯自研大模型推理框架 TACO，采用全异步设计，在推理性能、显存占用、启动耗时等方面显著优于社区方案。其中：
在线服务：在一键部署之外，还支持丰富的服务管理和监控能力，包括热更新、手动/自动扩缩容、流量分配、在线测试、服务监控。
对接云原生：无缝打通腾讯云的存储、镜像、权限、监控、日志等产品，提供一站式、全方位的云上大模型训推体验。
产品定价
其他相关产品
TI-ONE 依托腾讯云提供一站式的大模型训练与推理体验，在不同场景下会使用包括存储（COS、CFS、GooseFSx）、镜像（TCR）、权限（CAM）、监控（TCOP）、日志（CLS）等在内的其他腾讯云产品。在使用其他云产品时可能需进行单独计费。相关产品介绍及计费说明请参考：开通关联产品。
