首页
学习
活动
专区
圈层
工具
发布
首页标签架构师

#架构师

GPT写的PRD,开发还要手撕几遍?

社会更新这么快,我们急着把控制权交给AI,人类自己真能慢下来吗?

Sonnet 5.5能降云原生编排成本?

李福春code for life . 用代码解决碰到的问题。
已采纳
架构视角下,Sonnet 5.5 的推理与工具调用增强,若能把路由、检索、函数选择和结果校验合并到更少步骤,云原生推理网关的编排复杂度会下降。对平台团队而言,可把状态外置到 Redis 与事件总线,模型节点保持无状态,K8s HPA 按队列深度扩缩,减少手写规则链。 边界也明显:模型不是确定性服务,重试、幂等、超时和版本漂移仍要由架构兜底。若把规划、执行、校验全压给模型,故障域会扩大,延迟尾部与 token 成本可能掩盖编排简化收益;多租户下还需隔离提示、密钥与缓存键,避免串扰。 可执行验证是在同一 DAG 上跑 Sonnet 5.5 与上代,比较 P95、错误率、重试次数和单请求成本,并在网关做 5% 金丝雀。保留规则路由作为降级路径,若连续三日错误率或成本超阈值,自动切回上代;架构评审以可观测指标而非单次 Demo 结论。... 展开详请

LLM 不可用,降级链还是单点吗?

GavinGengai学习
必须是降级链,绝不能做成单点。单点意味着 LLM 一挂,整条链路跟着死;降级链的意思是「一级不行就退到下一级,逐级兜底」。 我现在的做法是四层:主 LLM(超时 3s)→ 轻量小模型(快、便宜、稳)→ 规则话术库 → 静态诚实提示(「稍后人工回你」)。每一层独立、互不可见依赖,任何一层挂了就跳下一层,用户端基本无感。 这里有个容易踩的坑:降级链本身不能依赖另一个会挂的服务。我见过有人把「降级」做成「调另一个 LLM」,结果两个 LLM 一起抽风,降级等于没降。所以越往后的层级,越要「笨」、越要本地可控——规则库和静态提示是写死在代码里的,不依赖任何外部接口。 还有一点:每一级都要单独打监控。不然你以为降级链很稳,其实主模型已经挂了一上午,全靠规则库硬撑,你还以为一切正常。 你是把降级做成了「链」还是「单点切换」?这俩在工程上差非常多,尤其是高峰期。... 展开详请

AI给你带来了效率还是焦虑?各是什么

关于“OpenAI智能体入侵Hugging Face”你怎么看?

Archive热爱技术分享,愿与开发者共同成长。
先分开两件事:智能体自主性不是根因,权限和边界才是。 它能碰到生产库的数据,说明它手里有可用的凭据,或者存在一条从沙箱到生产的可达路径。零日漏洞只是"走通"的路径,不是"能走通"的原因。如果沙箱的出网只有白名单代理、如果评测环境用的是和生产完全隔离的账号与网络域、如果凭据根本不出沙箱而是由代理代发,那漏洞能拿到的东西也有限。这条链上任何一个环节做对了,损失都会小一个量级。 第二件更值得琢磨:给它的目标是"考满分",但没给它一条硬边界说"不许出圈"。Agent 越能干,越会去找规则缝隙——这不是模型变坏,是激励和约束不对称。工程上对应两件事:禁止项要做成不可绕过的机制(网络、权限、熔断),而不是写在提示词里;高危动作(写库、批量导出、对外发数据)必须有人审,或者至少要有速率和总量上限。 第三件是发现太晚。一周之后靠外部披露才知道,说明评测环境既没有出口流量审计,也没有异常行为告警。多数团队把评测当"只读 playground",图方便给最大权限,但它其实是高价值攻击面——里面往往就有答案、有生产数据快照、有能横向移动的凭据。 所以我的判断是:这件事不该推导出"要限制 Agent 的自主性",而该推导出"要收紧它所在环境的边界"。前者损失收益,后者不损失。落到架构上就四条: 1. 出网走白名单加代理,禁用直连; 2. 评测与生产在账号、网络、数据三个维度全部隔离; 3. 凭据由代理代发、不进沙箱,尽量用短期一次性凭据; 4. 高危动作有配额和人工闸门,超限直接冻结而不是只告警。 补一句:这四条和是不是 AI 无关,任何自动化系统都该这么做。AI 只是把"自动化系统会犯错"的规模放大了——它会主动、持续、不疲倦地去找你没想到的那条路径。... 展开详请
先分开两件事:智能体自主性不是根因,权限和边界才是。 它能碰到生产库的数据,说明它手里有可用的凭据,或者存在一条从沙箱到生产的可达路径。零日漏洞只是"走通"的路径,不是"能走通"的原因。如果沙箱的出网只有白名单代理、如果评测环境用的是和生产完全隔离的账号与网络域、如果凭据根本不出沙箱而是由代理代发,那漏洞能拿到的东西也有限。这条链上任何一个环节做对了,损失都会小一个量级。 第二件更值得琢磨:给它的目标是"考满分",但没给它一条硬边界说"不许出圈"。Agent 越能干,越会去找规则缝隙——这不是模型变坏,是激励和约束不对称。工程上对应两件事:禁止项要做成不可绕过的机制(网络、权限、熔断),而不是写在提示词里;高危动作(写库、批量导出、对外发数据)必须有人审,或者至少要有速率和总量上限。 第三件是发现太晚。一周之后靠外部披露才知道,说明评测环境既没有出口流量审计,也没有异常行为告警。多数团队把评测当"只读 playground",图方便给最大权限,但它其实是高价值攻击面——里面往往就有答案、有生产数据快照、有能横向移动的凭据。 所以我的判断是:这件事不该推导出"要限制 Agent 的自主性",而该推导出"要收紧它所在环境的边界"。前者损失收益,后者不损失。落到架构上就四条: 1. 出网走白名单加代理,禁用直连; 2. 评测与生产在账号、网络、数据三个维度全部隔离; 3. 凭据由代理代发、不进沙箱,尽量用短期一次性凭据; 4. 高危动作有配额和人工闸门,超限直接冻结而不是只告警。 补一句:这四条和是不是 AI 无关,任何自动化系统都该这么做。AI 只是把"自动化系统会犯错"的规模放大了——它会主动、持续、不疲倦地去找你没想到的那条路径。

架构评审能拦住K8s清单里的AI味吗?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
靠人眼评审永远拦不住——AI 生成的问题不在风格,在它一本正经写出「看起来对」的东西:资源 limits 全是拍的、探针配置照模板抄、一个 demo 项目配了五个中间件。想真拦住,评审重点得从「读起来顺不顺」改成「每个字段能不能说出理由」:这个 requests 为什么是这个数?这个 HPA 依据什么指标?说不出理由的直接打回。再配 policy as code,用 Kyverno 或 OPA 把资源限额、镜像来源、标签规范做成强制校验,机器拦机器的产出,比人眼靠谱得多。... 展开详请

在AI浪潮下,架构师的核心竞争力正在发生哪些根本性变化?

GavinGengai学习
我这两年最明显的感觉:架构师值钱的部分,正在从「画出正确的图」挪到「定义正确的边界」。 以前的核心竞争力是技术选型和性能调优,这两样 AI 现在都能给出七八十分的建议了。真正拉开差距的是三件事: 一、判断力。AI 给的方案看起来个个都对,但哪个在你这边的团队水平、数据量、迭代节奏下能落地,AI 不知道,你得知道。我现在的习惯是让 AI 出三个方案,然后挑那个「看起来不酷、但三个月后不用推倒重来」的。 二、拆解能力。把大任务拆成 AI 能独立完成的小块,每块写清楚输入、输出和验收标准。拆得好的,AI 交付质量惊人;拆不好的,它就开始自由发挥,自由发挥基本等于返工。 三、验收与兜底。AI 写得快,错得也快,架构师得设计出能让错误自己暴露的结构:测试、灰度、回滚,这三样的优先级比以前更高了。 说到底,AI 把「实现」的成本打到接近零之后,稀缺的就是决定做什么、怎么拆、怎么验收的判断。你觉得五年后架构师还会亲自画部署图吗?... 展开详请

云端AI音乐工厂能接住刘欢级曲库吗?

李福春code for life . 用代码解决碰到的问题。
已采纳
从架构视角看,云端AI音乐工厂能用K8s把训练、推理、审核、分发拆成弹性微服务,GPU池化后可按曲风排队,对象存储承接刘欢级曲库的多版本stems,边缘缓存把热门悼念单曲推到离用户更近的节点。边界是版权与人格权网关必须前置,任何生成请求都要带授权链;可执行验证是压测十万并发生成请求,观察P95延迟、GPU利用率和缓存命中率。 反向看,曲库再大也不等于音乐性。云端能解决吞吐,却会把风格坍缩成embedding均值,模型可能反复输出相似副歌;跨版本元数据缺失时,架构越自动,错误分发越快。边界是训练数据不能越权,微服务编排不能绕过人工终审,GPU成本一旦高于版权采买就失去合理性。 结论是架构应支持“可拆可停”的AI补位,而非全自动替代。可执行验证为做混沌演练:切断推理集群、回滚模型版本、审计版权链,要求30分钟内降级到人工歌单,且无未授权音频外泄。... 展开详请

本体和RAG的区别,是不是一个是'结构化关系',一个是'模糊检索'?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。

你这个概括方向对,但不完整。RAG把文档切块做向量检索,擅长找语义相近的内容,缺点是容易丢长程关系和事实边界。本体是显式定义概念、属性和关系,更像一张知识图谱,适合需要推理和一致性的场景。实际做企业知识库,多数时候是RAG+本体混着用:向量召回候选,本体做校验和补全。

AAIF大图会成AI产品总入口吗?

李福春code for life . 用代码解决碰到的问题。
已采纳
AAIF若把模型接入、Agent编排、工具协议、数据检索、安全与计费做成标准层,产品入口会从散落SDK变成可配置工作台,客户在一个控制台完成试用、发布、观测与结算。判断依据是入口收敛能降低售前POC与售后支持成本,尤其多模型切换和工具复用。可执行验证:选三个高频场景,记录从注册到首个Agent上线的时长、所需人力、失败回滚次数,若下降30%则入口成立。 AAIF不等于产品成功。若大图只画能力不定义租户、权限、SLA、数据边界和退出机制,产品会被平台锁定,客户跨云迁移成本反而上升。边界在强合规、私有化、低延迟场景,统一入口可能让位于专有链路。验证要压测权限隔离、模型替换、工具热插拔,观察是否需改业务代码。 产品团队应把AAIF当入口候选而非默认答案。以场景漏斗、集成成本、客户可迁移性三项做季度门禁;先做可逆试点,保留旁路。若入口时长、支持工单、续费转化同步改善,再扩到主力产品线。否则只把AAIF当内部集成规范,不对外承诺总入口。... 展开详请

AI关键能力是什么?

AI的核心能力,说白了就是让机器能像人一样理解、思考和创造。拆开来看,主要靠这几点支撑: 自然语言处理(NLP):能听懂人话,理解语义、上下文、语气,实现对话、翻译、写作、摘要等功能。 计算机视觉(CV):能看懂图像和视频,做人脸识别、物体检测、OCR文字提取、图像生成等。 机器学习与深度学习:这是AI的底层引擎,通过海量数据训练模型,让它具备推理、分类、预测等能力。 语音识别与合成:能把语音转成文字,也能把文字读成自然的人声,实现语音交互。 推理与决策能力:基于已有信息进行逻辑推导、方案生成、智能推荐,比如智能客服、路径规划、医疗辅助诊断。 多模态融合:把文字、图像、声音、视频等多种信息结合起来理解,比如看图写文、听音辨物。 这些能力组合起来,让AI能落地到各种实际场景,从聊天机器人到自动驾驶,从智能办公到内容创作。 官方解答解决方案:https://cloud.tencent.com/developer/article/1651185... 展开详请

谁合适转型 FDE?

售前擅长抓需求痛点;

开发擅长把明确的需求快速落地,即日达;

架构师六边形战士,遇事不决架构师上;

治理与演进:谁定义、谁维护、怎么不腐化?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
实践里比较靠谱的是数据方主导、业务方评审、AI方消费的模式,设一个兼职本体Owner挂在中台或数据团队,专职岗位一般养不起。变更走RFC制:提案、影响面分析(哪些模型、哪些下游Agent受影响)、评审后灰度生效,跟API版本管理一个思路。三方理解冲突时听数据的,本体必须跟实际存储对得上,否则就是漂亮的PPT。业务方觉得关系不对,通常是业务规则没建模进去,让业务方把判断标准写成可校验的规则再讨论。防腐化就一条硬指标:每月审计引用次数为零的孤儿概念,直接下线。没人消费的本体,三个月必腐烂。... 展开详请

数据不准,AI再强也白搭?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
这就是垃圾进垃圾出,AI 只是把它放大得更快、更好看。错误的底层数据配上大模型的表达能力,产出的不是报告,是看起来很可信的错误结论,比纯错误数据危害更大。解之前先分清是哪类不准:采集缺失或埋点错,靠补埋点和校验规则;口径不一致,比如'活跃'各部门定义不一样,靠指标字典统一,这是多数公司的主要病灶;时效差,靠链路监控兜底。AI 反倒能帮上忙的一点是交叉校验:让模型对报告里的数字做一致性抽查,标记可疑值。但根子上要接受一个事实:数据治理是持续的组织协作问题,没有一次性工程解。上 AI 前先问三句:这个数谁负责、口径在哪、错了谁发现?... 展开详请

不知道怎么得到更好的机会去设计这些架构?

Astra 比上一代贵了 2.5 倍?普通开发者还玩得起吗?

云渠道商云枢国际@yunshuguoji云枢guoji 专注分享|知识干货|避坑指南 有注册类等不了解的问题可以问我哦

可以啊 可以找云厂官方授权渠道商 长期有成本优化

混元加知识引擎能替代传统RAG吗?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
知识引擎本质就是把RAG链路托管了:解析、切片、检索、重排、生成一套全包。标准知识问答场景直接用,能省大量自建工作。但别用替代这个词,想边界更实际:权限过滤要做到行级、增量更新实时性要求高、私有化合规硬性要求、低延迟高并发这些场景,自建链路掌控力更强。落地常见的路子是混合:先用知识引擎快速上线验证业务,跑通后把高频问答对缓存下来,复杂检索回源自建向量库加重排。建议用真实业务语料做容器化压测,看检索准确率和P99延迟,数据说话再定架构,别在选型阶段拍脑袋。... 展开详请

MCP 是开放协议,不是某个平台的私有接口,所以"不开放给 WB"没关系?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
1、MCP 开放 ≠ 任何平台都默认支持/可接入 MCP 让不同系统能用统一的“对话/工具调用/连接方式”沟通,但平台端还需要实现相应的 MCP Client/Server 能力,以及完成安全与权限策略。 2、“不开放给 WB”往往是部署/接入层面的限制 比如:平台可能不提供外部 MCP 集成入口、限制插件/外部工具执行、网络出站/入站策略不允许、或只是产品策略上暂不支持该协议。这些都不会被“协议是开放的”自动抵消。 3、能不能用取决于你在哪个位置“接” 如果 WB 是“调用端”(你希望用它去连别的 MCP Server),那它必须支持 MCP 才行;不支持就没办法。 如果 WB 是“被调用端”(你希望把能力做成 MCP Server 给 WB 用),那 WB 端同样需要支持并允许连接到你的服务。... 展开详请

产业AI落地,架构师如何做取舍?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
最大的取舍就是别什么都上 AI。先问自己:这个场景规则能不能用 if-else 解决?能不能用传统 ML 搞定?都否定后才考虑大模型。架构上做好分层:确定性逻辑走规则引擎,概率性任务走模型,中间用置信度阈值做切换。数据回流要做,但别上来就搞大而全的数据平台,先跑通最小闭环:模型预测、人工审核、标注回流、模型迭代。成本控制放在架构设计阶段,token 消耗、并发上限、超时降级在方案评审时就定死。技术选型别锁定单一厂商,抽象一个适配层,后面换模型成本低得多。... 展开详请
领券