首页
学习
活动
专区
圈层
工具
发布
首页标签人工智能

#人工智能

人工智能是指通过普通计算机程序的手段实现的人类智能技术

评测 AI 编程助手时,怎么隔离「插件自动注入的上下文」造成的差异?

总纲:这不是「选一种评测」,而是分两层各自评测、分开报告——模型层结论回答「换模型值不值」,产品层结论回答「团队该用哪个工具」。合成一个排名时结论才会翻转。逐问回答: 1. 绕开插件统一走 API:值得做,但要双轨并行 统一 API 入口 + 自拼上下文 = 模型层基准,回答的是「同一上下文预算下模型的差异」;真实客户端 = 产品层评测,回答「端到端体验差异」(A 一次通过、B 追问两轮,这个差距本身就是产品价值的一部分——自动上下文是产品能力而非噪音)。两个折中技巧能把口径拉齐而保留参考价值:① 多数 IDE 插件可以关闭自动注入——把 A 退化到与 B 相同的显式上下文口径,得到「可控注入」组;② 或给 B 显式喂与 A 等价的上下文(注入清单从 A 的日志导出)。报告结构建议三列:模型层差异(同上下文)/ 产品层差异(端到端)/ 差异归因(注入策略贡献了多少)——第三列才是团队选型的真正依据。 2. 上下文预算的字段清单:你漏的恰恰是影响最大的 已记录的够用,但以下变量缺一个结论就可能漂移: ① 系统提示词与角色设定——客户端内置 system prompt 差异极大,直接改变行为风格与工具使用倾向(记录其 sha 或全文); ② 暴露给模型的工具集——A 能调搜索/终端,B 不能,模型可能用工具绕过直接生成,这不是能力差异是权限差异; ③ 检索配置——同样「带检索结果」,top-k、rerank、chunk 策略不同质量天差地别(记录检索器配置而非只记结果); ④ prompt 结构模板——同样内容,文件在 diff 前 vs 后,注意力分配不同(比 sha256 更有用的是结构模板名); ⑤ 采样参数——temperature/top_p 必须固定为 0 或显式记录; ⑥ 服务端模型版本串——同名模型服务端会滚动更新,记录 API 返回的版本与评测日期; ⑦ 项目级指令文件——.cursorrules/AGENTS.md 类文件是否被读取、内容 sha; ⑧ tokenizer 口径——不同工具的 token 计数不可比,统一用同一 tokenizer 估算。 你已有的 prompt_sha 保留作为完整性校验,行为分析用结构化字段。 3. 防污染:一次性容器是金标准,成本没那么高 你担心的问题都真实存在(客户端扫同机目录、读历史会话)。分级方案:轻量级——每轮评测用独立用户目录(临时 HOME/profile),任务仓库从干净 clone 开始,会话存储落在临时目录;金标准——一次性 Docker 容器:只挂载被测仓库 volume 白名单、默认断外网(或代理记录全部外呼),一个 Dockerfile + volume 配置可以复用,边际成本很低。另外加一道金丝雀检测:在任务外目录埋一个独特的标记字符串,若模型回答中出现它,说明发生了任务外读取——这是污染的廉价探测器,比事后审计灵敏。 4. 字段补充 在你现有结构上加:system_prompt_sha、toolset_list、retrieval_config、prompt_template、sampling_params、model_serving_version、project_rules_sha、canary_detected、environment(container/host)、network_mode(offline/proxied)。评测报告按「environment 分组 + 口径声明」输出,别人就能复现。... 展开详请
总纲:这不是「选一种评测」,而是分两层各自评测、分开报告——模型层结论回答「换模型值不值」,产品层结论回答「团队该用哪个工具」。合成一个排名时结论才会翻转。逐问回答: 1. 绕开插件统一走 API:值得做,但要双轨并行 统一 API 入口 + 自拼上下文 = 模型层基准,回答的是「同一上下文预算下模型的差异」;真实客户端 = 产品层评测,回答「端到端体验差异」(A 一次通过、B 追问两轮,这个差距本身就是产品价值的一部分——自动上下文是产品能力而非噪音)。两个折中技巧能把口径拉齐而保留参考价值:① 多数 IDE 插件可以关闭自动注入——把 A 退化到与 B 相同的显式上下文口径,得到「可控注入」组;② 或给 B 显式喂与 A 等价的上下文(注入清单从 A 的日志导出)。报告结构建议三列:模型层差异(同上下文)/ 产品层差异(端到端)/ 差异归因(注入策略贡献了多少)——第三列才是团队选型的真正依据。 2. 上下文预算的字段清单:你漏的恰恰是影响最大的 已记录的够用,但以下变量缺一个结论就可能漂移: ① 系统提示词与角色设定——客户端内置 system prompt 差异极大,直接改变行为风格与工具使用倾向(记录其 sha 或全文); ② 暴露给模型的工具集——A 能调搜索/终端,B 不能,模型可能用工具绕过直接生成,这不是能力差异是权限差异; ③ 检索配置——同样「带检索结果」,top-k、rerank、chunk 策略不同质量天差地别(记录检索器配置而非只记结果); ④ prompt 结构模板——同样内容,文件在 diff 前 vs 后,注意力分配不同(比 sha256 更有用的是结构模板名); ⑤ 采样参数——temperature/top_p 必须固定为 0 或显式记录; ⑥ 服务端模型版本串——同名模型服务端会滚动更新,记录 API 返回的版本与评测日期; ⑦ 项目级指令文件——.cursorrules/AGENTS.md 类文件是否被读取、内容 sha; ⑧ tokenizer 口径——不同工具的 token 计数不可比,统一用同一 tokenizer 估算。 你已有的 prompt_sha 保留作为完整性校验,行为分析用结构化字段。 3. 防污染:一次性容器是金标准,成本没那么高 你担心的问题都真实存在(客户端扫同机目录、读历史会话)。分级方案:轻量级——每轮评测用独立用户目录(临时 HOME/profile),任务仓库从干净 clone 开始,会话存储落在临时目录;金标准——一次性 Docker 容器:只挂载被测仓库 volume 白名单、默认断外网(或代理记录全部外呼),一个 Dockerfile + volume 配置可以复用,边际成本很低。另外加一道金丝雀检测:在任务外目录埋一个独特的标记字符串,若模型回答中出现它,说明发生了任务外读取——这是污染的廉价探测器,比事后审计灵敏。 4. 字段补充 在你现有结构上加:system_prompt_sha、toolset_list、retrieval_config、prompt_template、sampling_params、model_serving_version、project_rules_sha、canary_detected、environment(container/host)、network_mode(offline/proxied)。评测报告按「environment 分组 + 口径声明」输出,别人就能复现。

iLink 机器人下行消息 100% 不投递,如何解除账号残留绑定?

AI 哲学思考 7:当 AI 能证明代码正确,谁来证明问题问对了?

代码能被证明,是因为它跑在封闭的逻辑里。但“问题对不对”从来不是逻辑题,是人和现实之间的谈判。 形式化验证再强,也只能保证你完美实现了自己写下的东西。可规范本身写错了、漏了、或者压根没抓住真需求,证明就变成了一种精致的自欺。历史上不少系统灾难,代码毫无bug,错的全是规格。 谁来兜底?没有谁能“证明”问题问对了,只有人能不断质疑、试错、承担后果。这个责任没法外包给任何工具或算法,因为它本质上涉及意图、价值和语境——这些东西不在任何可证明的系统里。 ai时代最稀缺的能力,恐怕不是写代码或验证代码,而是知道自己什么时候问错了问题。 官方详细解决方案:https://cloud.tencent.com/product/lighthouse?Is=sdk-topnav... 展开详请

向量索引频繁增量更新时如何兼顾在线检索质量?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
HNSW 在删除和更新后会衰减,原因是 Milvus 的删除多为软删除,已删节点仍留在图中充当导航节点,更新又等于删除加插入,旧节点不断累积,既浪费遍历又削弱连通性。经验上可以在已删除或失效向量占比超过 10% 到 20% 时安排整理,具体阈值应结合召回和延迟曲线实测。以你每天新增约 0.05% 的增量看,HNSW 配合定期 compaction 通常比 IVF 更合适,因为 IVF 的质心重训成本高。DiskANN 适合数据超出内存的场景,构建时可把 R 设为 32 到 64、L 设为 100 到 200。在线整理可采用影子集合加别名原子切换:新索引后台构建,期间用时间戳回放增量日志追平,用固定黄金集验证召回后再切换别名,旧集合保留一段时间以便回滚。... 展开详请

LLM 应用的忠实度和正确性你们分开评吗?幻觉率怎么量化?

必须拆开评。忠实度查“有没有照着文档说”,把回答拆成原子声明,逐条跟上下文比对算支持率;正确性查“事实对不对”,拿回答跟标准答案(Ground Truth)硬碰硬。幻觉率就是统计编造了多少上下文里根本没有的假话。混在一起评,出问题你都不知道是检索没捞对,还是模型在瞎编。 LLM as Judge 和人工差异不小,模型天生有“老好人”偏差(打分偏高)和字数偏好。直接让它“打个总分”纯属扯淡。实战必须拆维度(事实依据、要点覆盖、指令遵循),并且一定要抽一批人工标注样本做校准,专门盯分歧 Case 调 Prompt,把一致性拉到可用阈值才能上自动化。 “啥都没改却变差”八成是遇到了“静默漂移”:云厂商偷偷换了模型小版本、上游知识库或数据字段逻辑变了,或者用户提问习惯变了。发现不能只看接口 200,得靠 Trace 盯中间节点(召回率、路由准确率)和输出基线(长度、语义相似度)。定位直接翻 Trace 日志,比对漂移前后的外部依赖版本和特征分布,别在模型架构上死磕。 官方详细解决方案:https://cloud.tencent.com/product/lighthouse?Is=sdk-topnav... 展开详请

Agent 的工具调用你们怎么设计 schema?重试怎么分层?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
schema 要窄。参数越少、枚举越死,模型乱填的空间越小,宁可拆成十个工具也别做一个带七八个可选参数的大工具。必填字段在网关层做硬校验,别指望 prompt 里写一句「不要传空」就管用。重试得分两层:工具侧只重试幂等操作,查询、读文件可以,写操作一律不自动重试,返回明确失败让 Agent 重新决策;编排侧的重试要有次数上限和总时长预算,否则一次失败能把整个 loop 拖死。工具返回统一成结构化结果,成功、可重试、不可重试三种状态分开,模型才知道下一步干什么。工具描述里写清「什么时候不要调用」,比写怎么用更有价值。... 展开详请

RAG 混合检索你们用 BM25 加向量还是纯向量?召回率差多少?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
纯向量语义泛化强,但碰上型号、错误码、专有名词这种精确匹配就露怯,改一个字召回就掉。我们线上是 BM25 和向量并行召回再融合,用 RRF 排序而不是加权求和,省掉天天调权重的麻烦。在带编号和缩写的企业文档集上,recall@10 纯向量大概 0.6 出头,混合能到 0.75 以上。代价是两套索引都得维护,写入链路变长。先看你的查询分布:用户问「这个参数怎么调」还是「XX 协议是什么」,前者偏词面,必须上 BM25。融合之后一定要挂 rerank,不然前排噪声反而更多。别一上来就搞多路,先把单路的召回率和 badcase 拉出来,再决定加哪一路。... 展开详请

AI 哲学思考 6:当 AI 能操作电脑,我们还是工具的使用者吗?

老王说技术一线互联网技术骨干,浙江省人工智能协会专家,浙江高校网络思政中心技术顾问,热衷于AI相关技术分享
这个问题我很喜欢,但想从工程角度补一个不太"哲学"的切面:当 AI 开始行动,人的角色确实变了,不过不是从"操作者"变成"旁观者",而是从"执行每一步"变成"定义边界、验收结果、承担回滚"。这三件事做不到位,工具越能干,风险越集中。 题干里说"一个看似清楚的目标,可能藏着没有说出口的条件",这在工程上是可以被具体化的。我的做法是把每个交给 Agent 的任务拆成四段写清楚: - 目标:一句话说要达成什么状态,而不是说"帮我优化一下"。 - 允许改动的路径:明确列出哪些文件或目录可动,其余一律算越界。 - 可自动判定的断言:单测、lint、构建命令,跑得出来、不靠人眼看。 - 回滚方式:改动必须落在一次可丢弃的工作区里,能一键还原。 四段写全,"没说出口的条件"就少了大半。剩下的那部分靠审计补:每一步操作留一条结构化记录,改了哪些文件、调了什么命令、耗时多久、失败原因是什么。人不需要盯着过程,但事后能完整复盘。这也是"观察过程"和"判断结果"能真正落地的前提,没有记录就只能凭印象。 至于"完成任务,也未必等于理解了任务对人的意义",我同意,而且它在评测上有个很实际的对应物:通过率不是全部。同一组断言都通过,一个补丁改 3 行、只动允许路径、一次通过;另一个改 300 行、顺手重构了无关模块、追问三轮才收敛。前者明显更接近"理解了约束"。所以我记结果时除了通过率,一定同时记 diff 的文件数与增删行、是否越界、往返轮数。这些字段不谈意义,但能把"理解约束"这件事变得可比较。 所以我的结论是:使用者这个身份没有消失,只是工作内容上移了。以前花在敲每一步上,现在花在把边界写清楚、把验收自动化、把回滚准备好上。越是把这三件事做扎实,越敢把执行交出去;反过来,如果这三件都没做就放开权限,那确实更像是把方向盘交出去了。 一点可复现的最小实践:给每个 Agent 任务单独建一个干净工作区,先 git init 建基线;任务描述里不放期望代码;跑完用 git diff --name-only 对比允许路径,用同一组断言验收,再把结果写进 JSONL 存档。跑上几轮就能看出,哪些所谓的"能力问题"其实是我们自己没把条件说清楚。 以上是我自己搭评测任务集时的做法,不含任何具体产品的评分或性能数据,也不涉及对某个工具的推荐。... 展开详请
这个问题我很喜欢,但想从工程角度补一个不太"哲学"的切面:当 AI 开始行动,人的角色确实变了,不过不是从"操作者"变成"旁观者",而是从"执行每一步"变成"定义边界、验收结果、承担回滚"。这三件事做不到位,工具越能干,风险越集中。 题干里说"一个看似清楚的目标,可能藏着没有说出口的条件",这在工程上是可以被具体化的。我的做法是把每个交给 Agent 的任务拆成四段写清楚: - 目标:一句话说要达成什么状态,而不是说"帮我优化一下"。 - 允许改动的路径:明确列出哪些文件或目录可动,其余一律算越界。 - 可自动判定的断言:单测、lint、构建命令,跑得出来、不靠人眼看。 - 回滚方式:改动必须落在一次可丢弃的工作区里,能一键还原。 四段写全,"没说出口的条件"就少了大半。剩下的那部分靠审计补:每一步操作留一条结构化记录,改了哪些文件、调了什么命令、耗时多久、失败原因是什么。人不需要盯着过程,但事后能完整复盘。这也是"观察过程"和"判断结果"能真正落地的前提,没有记录就只能凭印象。 至于"完成任务,也未必等于理解了任务对人的意义",我同意,而且它在评测上有个很实际的对应物:通过率不是全部。同一组断言都通过,一个补丁改 3 行、只动允许路径、一次通过;另一个改 300 行、顺手重构了无关模块、追问三轮才收敛。前者明显更接近"理解了约束"。所以我记结果时除了通过率,一定同时记 diff 的文件数与增删行、是否越界、往返轮数。这些字段不谈意义,但能把"理解约束"这件事变得可比较。 所以我的结论是:使用者这个身份没有消失,只是工作内容上移了。以前花在敲每一步上,现在花在把边界写清楚、把验收自动化、把回滚准备好上。越是把这三件事做扎实,越敢把执行交出去;反过来,如果这三件都没做就放开权限,那确实更像是把方向盘交出去了。 一点可复现的最小实践:给每个 Agent 任务单独建一个干净工作区,先 git init 建基线;任务描述里不放期望代码;跑完用 git diff --name-only 对比允许路径,用同一组断言验收,再把结果写进 JSONL 存档。跑上几轮就能看出,哪些所谓的"能力问题"其实是我们自己没把条件说清楚。 以上是我自己搭评测任务集时的做法,不含任何具体产品的评分或性能数据,也不涉及对某个工具的推荐。

大模型能力越来越强,企业还需要花大力气搞数据治理和数仓吗?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
要搞,但重点变了。大模型解决的是怎么用数据,数据治理解决的是数据可不可信。模型再强,喂进去的是脏的、口径不一致的数,产出照样是错,而且是在流畅的表达里隐藏的错。我的判断是三块不但不能省反而更重要:语义层,业务口径、指标定义、表和字段的业务含义,以前没人心看,现在 Agent 查数全靠它;质量与血缘,数据对不对、从哪来、改了谁受影响,直接决定敢不敢让 AI 自动出结论;权限,自然语言查数绕过了所有报表权限,行级列级控制必须补上。反而可以砍掉的是大量人肉报表开发,这部分让模型接手。... 展开详请

AI 哲学思考 5:当 AI 风险没有被说出来,我们还能看见什么?

这研究最讽刺的不是32%没提风险,而是“最致命的风险最少被提及”。前100大公司里,没一家承认“权力集中”或“AI军备竞赛”,开发者提“AI失准”的才15%,都在挑软柿子捏,只谈好做合规的“歧视”。 沉默不是因为没风险,而是说出来影响估值。现在算法进了决策链,授权清晰,但监督是瞎的,问责找不到人。董事会看不懂模型逻辑,出了事责任就在数据、算法和业务间踢皮球。 怎么让风险浮出水面?靠企业自律已是伪命题。MIT两百多位专家的共识很明确:必须上强制外部审计和熔断机制。目前欧盟AI法案已动真格,国内智能体监管也落地了。倾听和回应的主体,只能是掌握穿透式审计能力的监管方和独立第三方机构。指望企业自己亮底牌,根本不现实。 官方详细解决方案:https://cloud.tencent.com/product/tcdc... 展开详请

AI 哲学思考 4:当 AI 能模拟大脑,我们就更理解自己了吗?

能模拟不等于真理解,“行为像”和“机制像”完全是两码事。 比如今年上Nature的Centaur模型,能精准预测人类在百余项心理实验中的行为。但心理学家直接泼冷水:计算器算加法比人准,难道研究计算器就能搞懂人脑怎么算加法?只要AI还是黑盒,模拟得再像,也解释不了意识究竟怎么涌现。 不过,AI确实是把极好的“解剖刀”。现在科学家正用它处理fMRI和单神经元级别的海量数据,甚至尝试构建“硅基大脑”数字孪生,找出了以前肉眼看不出的脑网络关联。 AI模拟大脑,只是递来一面高精度的镜子和一把快刀。它跑出的是数据相关性,但要把这些变成对心智真正的“理解”,还得靠人类自己跨过因果解释那道坎。 官方详细解决方案:https://cloud.tencent.com/product/imagecreation... 展开详请

AI 哲学思考 3:当 AI 的能力可以打分,谁来决定什么值得衡量?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验

“什么值得衡量”本身就是价值选择,不应只由模型厂商、评测机构或榜单领先者决定,而应让领域专家、实际使用者,尤其是承担失败代价的人共同参与:专家判断任务是否真实、测量是否可靠,受影响者提出哪些需求被遗漏、哪些损失不可接受,部署者则必须承担明确责任。

AI 生成的方案经评审签字,出事谁负责?

这个问题现在没有单一标准答案,但业界正在收敛到一个共识框架:责任跟着决策走,不跟着工具走。分三层:1. 签字即担责——评审签字人负最终责任。这是当前工程责任体系的主流解法:AI 生成方案,人评审签字,签字人对方案后果负责。理由:责任体系必须落到「可追责的主体」上,AI 不是法律主体,责任无法转移到工具。就像计算器算的账,签字的会计负责。这个原则意味着评审人不能是橡皮图章——签字就要有评审的实质(理解方案、检查关键假设),签字流程要留痕(评审意见、修改记录);2. 但要让这个体系可持续,组织要做两件事:a. 评审标准适配 AI 产出——AI 方案的典型弱点(幻觉引用、边界条件遗漏、过时实践)要有 checklist 化的评审项,让评审高效而非从零读方案;b. 容错机制——如果签字人对 AI 方案的事故负全责,没人愿意签字,AI 应用就停滞。合理的分摊是:签字人负「评审是否尽职」的责任(有没有按标准检查),而不是负「方案最终正确」的无限责任。尽职评审的签字人免责,走过场的签字人追责。这和医生按诊疗规范操作后医疗意外的免责逻辑一致;3. 灰色地带:如果 AI 平台方(提供方案生成的厂商)在 SLA 里承诺了方案的准确性呢?目前没有厂商敢承诺方案的「正确性」——最多承诺服务可用性。所以短期内不会有「AI 厂商背锅」的商业安排,责任链就是:使用方签字人 → 组织。落到实操建议:a. 团队建立「AI 方案评审记录」模板(方案来源标注 AI、评审人检查了哪些项、修改了什么),既是质量记录也是责任凭证;b. 高风险场景(资金、安全)AI 方案的评审标准加严一级(双人签字);c. 把「AI 产出 → 事故」的案例沉淀为评审 checklist 的迭代来源。一句话总结:AI 提效的部分不改变责任的归属——谁签字谁负责,但组织要给签字人配好评审工具和合理的免责边界,否则签字这个动作会在责任压力下失效。... 展开详请
这个问题现在没有单一标准答案,但业界正在收敛到一个共识框架:责任跟着决策走,不跟着工具走。分三层:1. 签字即担责——评审签字人负最终责任。这是当前工程责任体系的主流解法:AI 生成方案,人评审签字,签字人对方案后果负责。理由:责任体系必须落到「可追责的主体」上,AI 不是法律主体,责任无法转移到工具。就像计算器算的账,签字的会计负责。这个原则意味着评审人不能是橡皮图章——签字就要有评审的实质(理解方案、检查关键假设),签字流程要留痕(评审意见、修改记录);2. 但要让这个体系可持续,组织要做两件事:a. 评审标准适配 AI 产出——AI 方案的典型弱点(幻觉引用、边界条件遗漏、过时实践)要有 checklist 化的评审项,让评审高效而非从零读方案;b. 容错机制——如果签字人对 AI 方案的事故负全责,没人愿意签字,AI 应用就停滞。合理的分摊是:签字人负「评审是否尽职」的责任(有没有按标准检查),而不是负「方案最终正确」的无限责任。尽职评审的签字人免责,走过场的签字人追责。这和医生按诊疗规范操作后医疗意外的免责逻辑一致;3. 灰色地带:如果 AI 平台方(提供方案生成的厂商)在 SLA 里承诺了方案的准确性呢?目前没有厂商敢承诺方案的「正确性」——最多承诺服务可用性。所以短期内不会有「AI 厂商背锅」的商业安排,责任链就是:使用方签字人 → 组织。落到实操建议:a. 团队建立「AI 方案评审记录」模板(方案来源标注 AI、评审人检查了哪些项、修改了什么),既是质量记录也是责任凭证;b. 高风险场景(资金、安全)AI 方案的评审标准加严一级(双人签字);c. 把「AI 产出 → 事故」的案例沉淀为评审 checklist 的迭代来源。一句话总结:AI 提效的部分不改变责任的归属——谁签字谁负责,但组织要给签字人配好评审工具和合理的免责边界,否则签字这个动作会在责任压力下失效。

AI 哲学思考 2:计算机孕育了 AI,AI 会反过来主导计算机的未来吗?

说“主导”太拟人了,更准的词是“反向重塑”。计算机生了AI,但AI现在正逼着计算机“基因突变”。 以前计算机是通用计算,CPU一把梭;现在AI嫌CPU慢,硬生生逼出了GPU霸权,接下来还要搞NPU、光子芯片甚至类脑架构。不是AI在主导,而是它的“算力饥渴”直接决定了未来硬件长啥样。传统的冯·诺依曼架构,早晚被它掀翻。 未来计算机不再是孤立的铁盒子,而是变成喂给AI的“算力神经元”。AI不会像人开车那样去“驾驶”计算机,它会直接把计算机同化成自己的器官。 说白了,不是谁主导谁。碳基生物搓出了硅基工具,现在这工具正在长脑子。咱们人类,只是刚好站在给它插电的开关旁边而已。 官方详细解决方案:https://market.cloud.tencent.com/products/39027... 展开详请

JWT 的 Refresh Token 存哪里最安全?Web 端和移动端方案有什么不同?

Web端无脑选HttpOnly Cookie,这是防XSS偷RT的唯一解法。localStorage只要有点XSS漏洞,RT就裸奔了,别省那点配置功夫。移动端老老实实塞进Keychain/Keystore,普通存储反编译就能拿,纯属找死。 关于轮换(Rotation),强烈建议每次刷新都换新的。虽然多查次DB,但能锁死泄露窗口。一旦旧RT被窃,黑客只能用一次,服务端检测到异常就能立刻踢人,安全收益远超那点复杂度。 至于并发401,别慌。搞个全局标志位isRefreshing和队列。第一个401触发刷新,后续请求全部挂起排队。刷新成功后,拿着新Token依次重试所有等待中的请求。这才是生产环境该有的稳健写法,逻辑清晰且零竞态。 官方详细解决方案:https://cloud.tencent.com/product/idsec... 展开详请

Feature Flag 的管理实践:开关爆炸之后怎么治理?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
开关爆炸的根源是发布开关、运维开关、实验开关混在一起,没人负责清理。治理先分类:灰度发布开关有明确生命周期,用完就删;降级熔断类开关长期存在但数量可控;A/B实验开关到期必删,每类定不同的清理策略。然后强制登记,创建Flag时必须填负责人、创建日期、预期移除时间,缺信息的不让建。再加定期清理机制,比如每月扫一遍超过90天没动过的发布开关,通知负责人下线。代码层面用统一SDK收口,别各处散着自己读环境变量,不然清理时根本找不全。最难的反而是习惯问题,大家总觉得「留着以防回滚」,得让删除开关成为默认动作,保留才需要给出理由。... 展开详请

微软向约6万员工开放“自愿离职”:科技巨头为何一边赚钱,一边调整人员?

微软这波操作挺有意思,一边财报亮眼,一边把6万人“请”走。别被表面迷惑,这其实是AI时代的残酷洗牌。 你看,微软今年资本开支暴涨74%,全砸在GPU和数据中心上了。钱就那么多,左手要搞基建,右手就得砍人力成本。这次裁员主要针对Windows、Xbox等成熟业务线,说白了就是“腾笼换鸟”,把省下来的人力预算填进AI的大坑里。 相比直接暴力裁员,搞自愿离职更体面,也能避免团队动荡。但这背后信号很明确:传统软件岗位正在被边缘化,不转型AI,迟早得让位。科技巨头现在拼的不是谁人多,而是谁能更快把资源倾斜给算力。赚钱是结果,调整是手段,为了抢AI头筹,这笔账算得很精。 官方详细解决方案:https://cloud.tencent.com/product/workbuddy-enterprise... 展开详请

Docker 镜像优化的实际经验:多阶段构建中最大的坑是什么?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
最大的坑是把构建缓存和运行时镜像混在一起想。builder 阶段随便折腾,apt 装一堆编译工具都行,最终阶段只用 COPY --from 搬产物。真正容易翻车的是 COPY 顺序和 .dockerignore:先 COPY 依赖清单装包再 COPY 源码,否则改一行代码全量重装;.dockerignore 不写,node_modules 和 .git 被塞进构建上下文,慢十倍。另外基础镜像换 alpine 后 glibc 缺失,编译型依赖运行时才崩,这种坑最贵。Python 记得 --no-cache-dir,Go 用 CGO_ENABLED=0。1.2G 压到 100M 以内就靠这几条。... 展开详请

调用混元大模型流式接口时,客户端断开后如何避免继续计费?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
流式接口计费按服务端实际生成的token算,客户端断开不代表服务端停了,很多时候你只是关了HTTP连接,上游还在生成。要省这笔钱有几个动作:确认所用SDK和接口版本支持断连自动终止,有就打开;在网关层做双向检测,客户端断开后网关要立刻向上游发取消,把上游连接也关掉,只断下游没用;业务侧把max_tokens设到合理值,别让一次断开的请求白烧几千token。另外把断开率和浪费的token数做成监控指标,某类客户端频繁断开就先修客户端,比如加超时重连和提前取消逻辑。有计费争议直接对账单明细里的生成时长和token数,比猜靠谱。... 展开详请

Prometheus 高基数标签导致的 OOM,除了删标签还有什么系统性的治理方案?

GavinGengai学习
高基数导致 OOM,删标签是最常见的第一反应,但它往往是治标。要系统性,得从"标签是怎么爆炸的"这条线往回捅。 先分清两类爆炸。一类是"标签值无界":比如把 user_id、request_id、IP、URL 路径直接当 label,这些值的上限等于你的用户数或请求数,时序数量等于基数乘积,几百万几千万条,内存和 TSDB 头信息一起炸。这类确实该删,但删完还会再长,因为根因是"把高基维度当成了标签"。正解是把它挪出 label:要么记进 metric 的 exemplar(采样保留少量高基样本用于排查),要么直接进日志,别让它占时序维度。 另一类更隐蔽:__name__ 爆炸。你以为标签没几个,但 metric 名字里拼了动态内容(比如按接口名生成 metric、按状态码拆成几十个独立 counter),等价于给名字这个隐式 label 灌了无穷值。这种光看 label 看不出问题,得去查 metric 总数。 系统性的治理,按成本从低到高: 命名约定先卡死:label 只允许"有限的、可枚举的"维度(状态码、region、服务名),动态值一律禁止。这步是源头,不做后面都白搭。 采集端就掉:在 scrape 或 agent 端用 metric_relabel_configs 把危险 label drop 或 hash 掉,别等进了 TSDB 再治。 用 recording rule 把高基聚合下沉成低基结果:你真正要看的往往是"按服务聚合后的错误率",那就在 rule 里先 group 掉高基维度,前置算出低基指标,原始高基时序短期保留甚至不长期存。 真正排查时再用 exemplar、日志去回溯那一条高基样本,而不是常驻全量。 一句话:删标签是止血,把"动态维度不许进 label"写进规范、并在采集端就拦,才是止血之后的病根处理。否则这次删了 user_id,下次有人把 trace_id 加进来,OOM 换个姿势再来。... 展开详请
高基数导致 OOM,删标签是最常见的第一反应,但它往往是治标。要系统性,得从"标签是怎么爆炸的"这条线往回捅。 先分清两类爆炸。一类是"标签值无界":比如把 user_id、request_id、IP、URL 路径直接当 label,这些值的上限等于你的用户数或请求数,时序数量等于基数乘积,几百万几千万条,内存和 TSDB 头信息一起炸。这类确实该删,但删完还会再长,因为根因是"把高基维度当成了标签"。正解是把它挪出 label:要么记进 metric 的 exemplar(采样保留少量高基样本用于排查),要么直接进日志,别让它占时序维度。 另一类更隐蔽:__name__ 爆炸。你以为标签没几个,但 metric 名字里拼了动态内容(比如按接口名生成 metric、按状态码拆成几十个独立 counter),等价于给名字这个隐式 label 灌了无穷值。这种光看 label 看不出问题,得去查 metric 总数。 系统性的治理,按成本从低到高: 命名约定先卡死:label 只允许"有限的、可枚举的"维度(状态码、region、服务名),动态值一律禁止。这步是源头,不做后面都白搭。 采集端就掉:在 scrape 或 agent 端用 metric_relabel_configs 把危险 label drop 或 hash 掉,别等进了 TSDB 再治。 用 recording rule 把高基聚合下沉成低基结果:你真正要看的往往是"按服务聚合后的错误率",那就在 rule 里先 group 掉高基维度,前置算出低基指标,原始高基时序短期保留甚至不长期存。 真正排查时再用 exemplar、日志去回溯那一条高基样本,而不是常驻全量。 一句话:删标签是止血,把"动态维度不许进 label"写进规范、并在采集端就拦,才是止血之后的病根处理。否则这次删了 user_id,下次有人把 trace_id 加进来,OOM 换个姿势再来。
领券