大模型服务平台 TokenHub 创建推理服务

1. 接口描述

接口请求域名： tokenhub.tencentcloudapi.com 。

创建推理服务。

创建一个在线推理服务，创建成功后返回推理服务 ID。

默认接口请求频率限制：20次/秒。

推荐使用 API Explorer

点击调试

API Explorer 提供了在线调用、签名验证、SDK 代码生成和快速检索接口等能力。您可查看每次调用的请求内容和返回结果以及自动生成 SDK 调用示例。

2. 输入参数

以下请求参数列表仅列出了接口请求参数和部分公共参数，完整公共参数列表见公共请求参数。

参数名称	必选	类型	描述
Action	是	String	公共参数，本接口取值：CreateEndpoint。
Version	是	String	公共参数，本接口取值：2026-03-22。
Region	是	String	公共参数，详见产品支持的地域列表。
EndpointName	是	String	服务名称。最大 64 字符。示例值：test-endpoint
ModelId	是	String	模型 ID。可通过 DescribeModelList 接口获取。示例值：deepseek-v4-pro
ChargeType	是	String	计费方式。取值：FREE（免费体验）、TOKEN（按 Token 计费）、TPM（TPM 保障）、COMPUTE_UNIT（按算力单元计费）。示例值：TOKEN
RPM	否	Integer	RPM（每分钟请求数）限流上限。可选。必须大于 0，且不能超过用户在该模型上的 RPM 上限。不传则使用默认值（60）。示例值：100
TPM	否	Integer	TPM（每分钟 Token 数）限流上限，单位为 tokens/min。可选。必须大于 0，且不能超过用户在该模型上的 TPM 上限。设置后会同时作用于输入 TPM 和输出 TPM。不传则使用默认值（0 表示不限流）。示例值：1000000
AutoAdjustQuota	否	Integer	自动调整配额示例值：1
EndpointId	否	String	自定义推理服务 id 示例值：ep-123456

3. 输出参数

参数名称	类型	描述
EndpointId	String	推理服务 ID。示例值：ep-abcd123
Endpoint	EndpointCreateDetail	推理服务详情信息。
StopReason	String	停止原因。当推理服务状态为已停止时返回。取值：FREE_QUOTA_EXHAUSTED（免费额度已用尽）、NO_FREE_PACKAGE（无可用免费包）、INSUFFICIENT_BALANCE（余额不足）、BILLING_ISOLATED（账户欠费隔离）、INTERNAL_ERROR（内部错误）。示例值：INSUFFICIENT_BALANCE
RequestId	String	唯一请求 ID，由服务端生成，每次请求都会返回（若请求因其他原因未能抵达服务端，则该次请求不会获得 RequestId）。定位问题时需要提供该次请求的 RequestId。

4. 示例

示例1 正常响应

输入示例

POST / HTTP/1.1
Host: tokenhub.tencentcloudapi.com
Content-Type: application/json
X-TC-Action: CreateEndpoint
<公共请求参数>

{
    "EndpointName": "test-endpoint",
    "ModelId": "deepseek-v3.2",
    "ChargeType": "FREE"
}

输出示例

{
    "Response": {
        "Endpoint": {},
        "EndpointId": "ep-mxorl8ln",
        "RequestId": "41cb8232-655d-42b4-b021-4f500866bd57"
    }
}

5. 开发者资源

腾讯云 API 平台

腾讯云 API 平台是综合 API 文档、错误码、API Explorer 及 SDK 等资源的统一查询平台，方便您从同一入口查询及使用腾讯云提供的所有 API 服务。

API Inspector

用户可通过 API Inspector 查看控制台每一步操作关联的 API 调用情况，并自动生成各语言版本的 API 代码，也可前往 API Explorer 进行在线调试。

SDK

云 API 3.0 提供了配套的开发工具集（SDK），支持多种编程语言，能更方便的调用 API。

Tencent Cloud SDK 3.0 for Python: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Java: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for PHP: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Go: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Node.js: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for .NET: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for C++: CNB, GitHub, Gitee
Tencent Cloud SDK 3.0 for Ruby: CNB, GitHub, Gitee

命令行工具

Tencent Cloud CLI 3.0

6. 错误码

以下仅列出了接口业务逻辑相关的错误码，其他错误码详见公共错误码。

错误码	描述
FailedOperation.CreateInstanceFailed	FailedOperation.CreateInstanceFailed
FailedOperation.EnablePostPaidFailed	FailedOperation.EnablePostPaidFailed
FailedOperation.EndpointAlreadyExists	FailedOperation.EndpointAlreadyExists
FailedOperation.FreeQuotaExhausted	FailedOperation.FreeQuotaExhausted
FailedOperation.PackageQueryFailed	FailedOperation.PackageQueryFailed
FailedOperation.PurchaseTpmFailed	FailedOperation.PurchaseTPMFailed
InternalError.InternalError	InternalError.InternalError
InvalidParameter.InvalidParameter	InvalidParameter.InvalidParameter
InvalidParameter.ModelIdNotFound	InvalidParameter.ModelIdNotFound
InvalidParameter.QPMLimitExceeded	InvalidParameter.QPMLimitExceeded
InvalidParameter.TPMBelowQuota	InvalidParameter.TPMBelowQuota
InvalidParameter.TPMLimitExceeded	InvalidParameter.TPMLimitExceeded
InvalidParameterValue.EndpointNameTooLong	InvalidParameterValue.EndpointNameTooLong
InvalidParameterValue.InvalidParameterValue	InvalidParameterValue.InvalidParameterValue
LimitExceeded.EndpointQuota	LimitExceeded.EndpointQuota
MissingParameter.MissingParameter	MissingParameter.MissingParameter
UnauthorizedOperation.UnauthorizedOperation	UnauthorizedOperation.UnauthorizedOperation

创建推理服务

本页目录：