首页
学习
活动
专区
圈层
工具
发布

#AIGC

腾讯云数据平台,为AIGC全流程提供高效存储解决方案。

AI模型可以直接部署在云服务器上面,费用如何?

Harness 和 Agentic Infra,你们团队怎么划边界?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
Harness 负责“执行过程的正确性与可验证性”:在相同输入/上下文下,Agent 如何被驱动、如何被约束、如何被评估,以及失败时如何回滚/重试/降级。 Infra 负责“运行所需能力与资源的稳定交付”:模型/工具/检索/存储/队列/并发/网关/权限/审计/观测等基础能力如何提供、如何扩容、如何隔离。 Harness(控制面 / 运行护栏)通常包括: 流程管控:状态机/编排(step、guard、fallback、max iterations、停止条件) 并发与调度策略:面向单次 Agent 运行的 SLA/策略,如并发策略、超时/重试/降级规则 独立验证与评估闭环:对产物进行校验(rule-based / rubric / 反向采样 / 自检代理 / E2E eval)以及验证失败后的处理 安全与合规护栏:工具调用白名单、输出格式约束、PII 处理、越权拦截、审计与告警策略(“何时审计、审计什么、判定规则”偏 Harness;落盘可能在 Infra) 可回放、可追责的运行轨迹:用于复盘与回归测试(依赖 Infra 的日志系统,但由 Harness 决定记录策略与最小必要上下文) 关键点:Harness 关注“这次运行是否按预期完成、是否被验证过、失败时如何兜底”。 Agentic Infra(数据面 / 能力底座)通常包括: 模型与推理网关:多模型路由、灰度、限流、成本控制、超时与熔断(可替换的基础能力) 工具执行与运行环境:沙箱、函数调用服务、浏览器/代码执行运行时、密钥管理与权限体系(工具“怎么跑”) 外化记忆/检索/向量库/数据访问层:检索策略支持、embedding 服务、权限过滤、索引更新机制 基础调度与资源隔离:队列、worker、租户隔离、可扩展性、缓存、幂等等(“怎么规模化地跑起来”) 通用观测与审计存储:日志/指标/链路追踪/告警平台(Infra 提供;Harness 决定采哪些与如何触发)... 展开详请
Harness 负责“执行过程的正确性与可验证性”:在相同输入/上下文下,Agent 如何被驱动、如何被约束、如何被评估,以及失败时如何回滚/重试/降级。 Infra 负责“运行所需能力与资源的稳定交付”:模型/工具/检索/存储/队列/并发/网关/权限/审计/观测等基础能力如何提供、如何扩容、如何隔离。 Harness(控制面 / 运行护栏)通常包括: 流程管控:状态机/编排(step、guard、fallback、max iterations、停止条件) 并发与调度策略:面向单次 Agent 运行的 SLA/策略,如并发策略、超时/重试/降级规则 独立验证与评估闭环:对产物进行校验(rule-based / rubric / 反向采样 / 自检代理 / E2E eval)以及验证失败后的处理 安全与合规护栏:工具调用白名单、输出格式约束、PII 处理、越权拦截、审计与告警策略(“何时审计、审计什么、判定规则”偏 Harness;落盘可能在 Infra) 可回放、可追责的运行轨迹:用于复盘与回归测试(依赖 Infra 的日志系统,但由 Harness 决定记录策略与最小必要上下文) 关键点:Harness 关注“这次运行是否按预期完成、是否被验证过、失败时如何兜底”。 Agentic Infra(数据面 / 能力底座)通常包括: 模型与推理网关:多模型路由、灰度、限流、成本控制、超时与熔断(可替换的基础能力) 工具执行与运行环境:沙箱、函数调用服务、浏览器/代码执行运行时、密钥管理与权限体系(工具“怎么跑”) 外化记忆/检索/向量库/数据访问层:检索策略支持、embedding 服务、权限过滤、索引更新机制 基础调度与资源隔离:队列、worker、租户隔离、可扩展性、缓存、幂等等(“怎么规模化地跑起来”) 通用观测与审计存储:日志/指标/链路追踪/告警平台(Infra 提供;Harness 决定采哪些与如何触发)

Harness 里路由层和执行器,为什么必须拆开?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
生产级 Agent 运行时中将 Harness 拆分为“路由层(Router)+ 多策略执行器(Executor)”的目的,是把自由 think-act-observe 循环里容易失控的不确定性(如停止时机、策略切换、降级回退、安全触发、成本与时延)通过路由层前置“控制面”而钉住;路由层根据请求特征与风险信号先决定使用哪种执行器,并下发停止/预算、工具与权限边界、合规安全规则以及输出结构合同,使执行器在固定策略下完成任务并输出可验证结果。若不拆合并在一层,线上最先暴露的往往是控制失效类故障,例如预算或停止条件失控导致成本与延迟爆炸、工具滥用/权限越界、合规与拒答策略不一致引发概率性事故,以及由于缺乏分层决策记录而造成可观测性与可复现性下降;因此当意图不适合自由循环、证据链不足、预算接近阈值、安全风险升高或历史轨迹显示发散时,应由路由层将其降级为确定策略而非继续自由循环。... 展开详请

生产级 Harness 最不该省掉的是哪一层?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
如果预算只够认真做一层,我会优先补检查点与失败接管这一层。原因是:线上“模型变强但成功率不动”,往往不是推理能力不够,而是失败后无法收敛与恢复(超时、工具副作用、状态丢失导致反复重试)。有了检查点与可恢复状态,Agent 才能在预算耗尽、工具失败、异常注入时降级退出、回滚或续跑;这直接提升稳定性与可用性。权限清单与评测隔离也重要,但它们通常是“优化与治理”,而检查点/失败接管是“生存底座”。... 展开详请

seo到geo转变?

语言世界模型能替代真实环境训练 Agent 吗?

deepseek-v4-pro编码能力真的超越glm5.2了吗?

deepseek为什么和其他家的大模型价格差异这么大?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验

1、DeepSeek 的卡足够承担当前用户的使用。

2、平台高可用能力强

deepseek-v4-flash真实评价怎么样?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
用过一段时间,可以概括为:便宜、快、够用,但别拿它干重活。 Flash 的定位就是低延迟、低成本场景。简单问答、摘要、格式转换、代码补全这类任务,响应速度和价格都很香。但如果是复杂推理、长链思考、数学证明或者需要强一致性的任务,明显不如 V3 和 R1,有时候会“秒答”但答不到点子上。 实际用的时候建议加个路由层:简单请求走 flash,复杂请求降级到更强的模型。这样能省不少钱。整体看,flash 是个性价比很高的“轻骑兵”,不是全能选手,放对位置就好用。... 展开详请

第三方量化版的下载量反超原始权重,说明了什么?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
如果你真的要确定“最低位宽心理底线”,最有效的方法其实是做一个小评测,而不是只看经验值: 选 10~20 个代表性修复任务(最好包含失败原因:编译错误、接口不匹配、测试失败) 用同一个推理设置(上下文长度、温度、最大步数、是否强制输出 patch 格式) 对比 Q4 vs Q5 vs(更高/更低)在两项指标上的差异: 一次成功率(少轮数完成或无需回滚) 工具链可解析率(patch/格式是否稳定可用)... 展开详请

长程 Agent 的检查点应该做在哪一层?

万亿参数模型开放权重后,中小团队该怎么用起来?

具身智能的 AgentOS 应该统一到什么程度?

具身智能的 AgentOS 应该统一到硬件抽象层 + 类型化技能接口​ 这一层级—向下把驱动适配标准化,让上层应用不用再为每台机器人重写代码;向上把技能的入参、状态流、失败语义定义成统一契约,充当"插头标准"。

AI Agent 的下一轮竞争会从模型能力转向执行成本吗?

skill 是否只是过渡?

Skill 不是过渡品,模型再强也只是在提升通用理解和执行上限,而 Skill 负责把业务流程、工具权限、领域规则和验收标准固化下来。像 Superpowers 这类方案可能会换形态或被平台原生能力吸收,但“可复用、可审计的任务能力封装”会长期存在,而且模型越强,Skill 的执行稳定性通常越高。... 展开详请

适合中小型公司的ai战略有吗?

中小公司的 AI 战略,最忌讲的就是先立项做平台,更现实的做法是从已有业务里挑一个高频、指标明确、错了不致命的环节切入,比如工单与文书的自动整理、客服问答、报表检索,先把这一件事的准确率和节省的人力算清楚。技术上不建议自建模型,托管 API 加上自己的检索与数据规范就够用,真正需要沉淀的是数据口径、评测集和人工兜底流程这三样,它们不会因为换模型而作废。最后提醒一句,像医疗、金融这类场景一定要把数据脱敏和调用留痕做在前面,否则后面的合规成本很可能远超模型省下来的钱。... 展开详请

ai时代感觉要大公司搞更有优势吗?

真正的优势我觉得不取决于规模,而取决于谁能更快把 AI 能力融合进自身的业务

banana的json模式对成品图的影响有多大?

大家对最近Anthropic CEO呼吁暂时中止对前沿AI的研发,怎么看?

IT说书人IT;大厂毕业生;闲不下来的普通人;喜欢囤书但读的少;
AI始终是依附于人类的工具,工具本身无善恶,真正需要约束和规范的,是人类逐利争先、漠视风险的研发行为。 当下的行业现状,最需要的不是“停下脚步”,而是“放慢节奏、守住规矩、筑牢底线”,让人类的治理能力、安全认知、社会配套,能够跟上AI进化的步伐,让技术进步始终服务于人、受控于人。 以上观点来源——豆包+Kimi... 展开详请

大家平时是通过什么平台来学习交流?

我主要通过 GitHub 和 Hugging Face 跟进项目,用 arXiv、官方技术博客补理论,再到腾讯云开发者社区和行业群里交流实战经验。真正有效的学习不是收藏信息,而是每周选一个模型或工具做出小作品,再把踩坑过程分享出来。

领券