首页
学习
活动
专区
圈层
工具
发布
首页标签API 网关

#API 网关

API 全生命周期托管服务

对账:七类核对、五种容差,以及"只报告不修复"为什么是对的

孟斯特

《micro-one-api 拆解》第 16 篇 代码基线:develop(v0.26.x)

300

熔断、超时和降级:跨服务调用的那些保护,以及我接错了的地方

孟斯特

《micro-one-api 拆解》第 15 篇 代码基线:develop(v0.26.x)

2900

96 个迁移文件、三个 SQL 方言:迁移治理是怎么被逼出来的

孟斯特

《micro-one-api 拆解》第 14 篇 代码基线:develop(v0.26.x)

7810

大模型项目成本治理:通过 API 网关做好 Token 消耗管控

用户12696949

随着大模型项目从 demo 走向正式落地,成本管控变成不可回避的课题。不管是业务系统调用,还是大模型微调过程中的批量推理、数据集过滤,都会产生大量 token ...

10210

大模型微调训练过程中,API 中转网关容易被忽略的工程价值

用户12696949

很多开发者在做大模型 SFT 微调、RLHF 对齐训练时,更多聚焦数据集清洗、参数调优、LoRA 权重配置,却容易忽略推理阶段的 API 网关架构。微调完成之后...

14010

构建企业级 LLM 网关:计价、路由、治理的五级演进

dongdonglog

传统软件的成本治理单位是"实例"和"席位",AI 时代变成了 token——而且它按请求实时计量,一次 agent 工作流的成本可能超过一个月的 seat 费用...

14122

不用消息队列也能做事件驱动:路由失效的 Outbox 实践

孟斯特

《micro-one-api 拆解》第 13 篇 代码基线:develop(v0.26.x)

12310
领券