首页
学习
活动
专区
圈层
工具
发布

#实践

AI 开发流程交接点放哪?

向量索引频繁增量更新时如何兼顾在线检索质量?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
HNSW 在删除和更新后会衰减,原因是 Milvus 的删除多为软删除,已删节点仍留在图中充当导航节点,更新又等于删除加插入,旧节点不断累积,既浪费遍历又削弱连通性。经验上可以在已删除或失效向量占比超过 10% 到 20% 时安排整理,具体阈值应结合召回和延迟曲线实测。以你每天新增约 0.05% 的增量看,HNSW 配合定期 compaction 通常比 IVF 更合适,因为 IVF 的质心重训成本高。DiskANN 适合数据超出内存的场景,构建时可把 R 设为 32 到 64、L 设为 100 到 200。在线整理可采用影子集合加别名原子切换:新索引后台构建,期间用时间戳回放增量日志追平,用固定黄金集验证召回后再切换别名,旧集合保留一段时间以便回滚。... 展开详请

LLM 应用的忠实度和正确性你们分开评吗?幻觉率怎么量化?

必须拆开评。忠实度查“有没有照着文档说”,把回答拆成原子声明,逐条跟上下文比对算支持率;正确性查“事实对不对”,拿回答跟标准答案(Ground Truth)硬碰硬。幻觉率就是统计编造了多少上下文里根本没有的假话。混在一起评,出问题你都不知道是检索没捞对,还是模型在瞎编。 LLM as Judge 和人工差异不小,模型天生有“老好人”偏差(打分偏高)和字数偏好。直接让它“打个总分”纯属扯淡。实战必须拆维度(事实依据、要点覆盖、指令遵循),并且一定要抽一批人工标注样本做校准,专门盯分歧 Case 调 Prompt,把一致性拉到可用阈值才能上自动化。 “啥都没改却变差”八成是遇到了“静默漂移”:云厂商偷偷换了模型小版本、上游知识库或数据字段逻辑变了,或者用户提问习惯变了。发现不能只看接口 200,得靠 Trace 盯中间节点(召回率、路由准确率)和输出基线(长度、语义相似度)。定位直接翻 Trace 日志,比对漂移前后的外部依赖版本和特征分布,别在模型架构上死磕。 官方详细解决方案:https://cloud.tencent.com/product/lighthouse?Is=sdk-topnav... 展开详请

RAG 混合检索你们用 BM25 加向量还是纯向量?召回率差多少?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
纯向量语义泛化强,但碰上型号、错误码、专有名词这种精确匹配就露怯,改一个字召回就掉。我们线上是 BM25 和向量并行召回再融合,用 RRF 排序而不是加权求和,省掉天天调权重的麻烦。在带编号和缩写的企业文档集上,recall@10 纯向量大概 0.6 出头,混合能到 0.75 以上。代价是两套索引都得维护,写入链路变长。先看你的查询分布:用户问「这个参数怎么调」还是「XX 协议是什么」,前者偏词面,必须上 BM25。融合之后一定要挂 rerank,不然前排噪声反而更多。别一上来就搞多路,先把单路的召回率和 badcase 拉出来,再决定加哪一路。... 展开详请

全链路压测的影子表数据你们怎么清理?truncate 还是分区 drop?

别纠结truncate,直接上按批次分区+DROP PARTITION。Drop分区底层直接unlink物理文件,秒级释放,不写binlog不锁表。没分区的再考虑低峰期truncate,严禁DELETE。清理必须压完即清(最迟24小时内),留着占存储还会污染后续基线。 统计信息方面,检索材料没提具体命令,但点出个致命坑:影子表是冷数据。压测前必须用小流量预热刷Buffer Pool,不然执行计划和P99绝对失真。预热脚本里顺手带上ANALYZE TABLE更新统计信息即可。 存储隔离看业务:核心写链路(订单/支付)必须单独实例(影子库),临时开按量付费节点,压完销毁,同实例必抢IO导致生产雪崩。读多写少或非核心用同实例影子表省成本。 官方详细解决方案:https://cloud.tencent.com/product/workbuddy?Is=sdk-topnav... 展开详请

秒杀扣库存你们是分段扣减还是 Lua 原子扣?超卖防住的?

我们目前的实践是“分段 + Lua”组合,不是二选一。 先说为什么单靠 Lua 撑不住:5 万 QPS 的扣减全落到一个 key,不管是 EVAL 还是 EVALSHA,都压在同一分片,单线程模型下每秒能扛的脚本调用是有限的,5000 到 1 万量级再往上就会明显抖动,客户端超时重试会进一步放大压力。 分段的设计:把总库存 1000 拆成 N 段,例如 20 段每段 50。请求按用户 ID 或设备指纹哈希取模落到某一段,每段一个独立 key(stock:sku:1:seg:i)。这样热点被打散到 20 个 key,大概率落在不同分片,单 key 的压力降到千级。段内仍然用 Lua 脚本做“校验加递减”,保证单段不超卖。段数不是越多越好:段太多会让“某段卖空但其他段还有”的碎片化变严重,需要做段的再平衡;我们一般在峰值 QPS 除以单 key 安全阈值,再乘 1.2 左右取段数。 碎片化的处理:扣减失败时不要直接返回无库存,而是读一次“剩余总量”(各段余量之和,用 MGET 或维护一个总余量计数),有货就换一段重试,重试上限两到三次。真正的“卖完”以总余量为零为准。 Redis 挂了的降级:分两种。第一种是单分片故障,请求会打到其他段,成功率下降但不至于全站失败,这时入口侧用本地限流把流量压到剩余容量能承接的水平。第二种是整体不可用,我们选择“拒绝 + 排队”而不是“放行 + 后扣”:先返回稍后重试,把请求转成异步排队(用 TDMQ),由消费端按数据库的乐观扣减继续处理,绝不允许在读不到 Redis 的情况下直接下单,否则超卖一定发生。 最后一道兜底是数据库:Redis 只是前置闸门,落库时用带版本号的乐观更新(update stock set qty=qty-1 where qty>0),并在订单表上做唯一约束,任何绕过缓存的路径都不会产生负库存。判断是否超卖,不看 Redis 计数,看最终库里的扣减流水与订单数量是否一致。 这套思路在票务场景同样适用,景区、乐园的分时库存我们就是这么做的,只是把“段”换成了“时段 + 票种”。 延伸阅读(同站):乐园票务系统多渠道售票的库存一致性设计 https://cloud.tencent.com/developer/article/2777727... 展开详请
我们目前的实践是“分段 + Lua”组合,不是二选一。 先说为什么单靠 Lua 撑不住:5 万 QPS 的扣减全落到一个 key,不管是 EVAL 还是 EVALSHA,都压在同一分片,单线程模型下每秒能扛的脚本调用是有限的,5000 到 1 万量级再往上就会明显抖动,客户端超时重试会进一步放大压力。 分段的设计:把总库存 1000 拆成 N 段,例如 20 段每段 50。请求按用户 ID 或设备指纹哈希取模落到某一段,每段一个独立 key(stock:sku:1:seg:i)。这样热点被打散到 20 个 key,大概率落在不同分片,单 key 的压力降到千级。段内仍然用 Lua 脚本做“校验加递减”,保证单段不超卖。段数不是越多越好:段太多会让“某段卖空但其他段还有”的碎片化变严重,需要做段的再平衡;我们一般在峰值 QPS 除以单 key 安全阈值,再乘 1.2 左右取段数。 碎片化的处理:扣减失败时不要直接返回无库存,而是读一次“剩余总量”(各段余量之和,用 MGET 或维护一个总余量计数),有货就换一段重试,重试上限两到三次。真正的“卖完”以总余量为零为准。 Redis 挂了的降级:分两种。第一种是单分片故障,请求会打到其他段,成功率下降但不至于全站失败,这时入口侧用本地限流把流量压到剩余容量能承接的水平。第二种是整体不可用,我们选择“拒绝 + 排队”而不是“放行 + 后扣”:先返回稍后重试,把请求转成异步排队(用 TDMQ),由消费端按数据库的乐观扣减继续处理,绝不允许在读不到 Redis 的情况下直接下单,否则超卖一定发生。 最后一道兜底是数据库:Redis 只是前置闸门,落库时用带版本号的乐观更新(update stock set qty=qty-1 where qty>0),并在订单表上做唯一约束,任何绕过缓存的路径都不会产生负库存。判断是否超卖,不看 Redis 计数,看最终库里的扣减流水与订单数量是否一致。 这套思路在票务场景同样适用,景区、乐园的分时库存我们就是这么做的,只是把“段”换成了“时段 + 票种”。 延伸阅读(同站):乐园票务系统多渠道售票的库存一致性设计 https://cloud.tencent.com/developer/article/2777727

实时数仓你们是 Flink CDC 直写还是离线重跑?数据口径怎么治的?

别头铁搞CDC直写,千条QPS内的小场景还行,量一上来直写ClickHouse必报“Too many parts”,反压还会把源端binlog拖死。老老实实加Kafka做缓冲解耦,或者直接上Flink+Paimon/Doris湖仓一体。 流批口径对不上是经典坑,根因是实时用事件时间、离线用落表时间,迟到数据被实时丢了却被离线全收。治本必须流批一套代码,统一用事件时间派生分区字段,别用处理时间。 落地别想一步干掉离线。搞个“双供期”,流批并行跑,每天T+1离线重算做对账校准,达标后BI再切实时视图。离线重跑不是废弃,而是兜底基线。 官方详细解决方案:https://cloud.tencent.com/product/workbuddy?Is=sdk-topnav... 展开详请

66:跨团队对齐的指标谁定义,谁验收?

李福春游戏发行平台,跨境电商,低代码,物联网,数字人商业项目架构师
已采纳
跨团队对齐不是把“延迟、正确性、可用性”三个名词念一遍,而是把同一份可验收结果写成契约。技术实践里,延迟要明确端到端边界:从哪个入口到哪个出口、是否含排队与重试;正确性要用黄金样本和业务验收口径;可用性要绑定业务路径与SLO。配套指标字典、Owner/RACI、可重复验证脚本、证据存储、失败处理和签字门禁,才算能验收。 产品适用边界要分清:核心交易、强合规和跨团队联调必须签字门禁,探索性功能可轻量验收。这是管理方法论,不是外部统计结论;p95阈值、正确率和可用性SLO需按现场约定,不能把案例阈值当行业通则;信息不足时标明未知,并约定复测、证据归档和争议处理方式。 商业行动上,把统一契约变成交付准入和成本控制:用证据门禁减少口头对齐返工,用可重复脚本降低联调成本,用追踪证据复盘责任与风险。谁定义指标就谁对口径负责,谁验收就谁签字;最终以证据存储和复盘收束,而不是各说各话。... 展开详请

Redis 热点 key 你们是提前预置清单还是实时探测?

生产环境都是“预置+实时探测”双管齐下。只靠业务清单肯定栽跟头,突发爆款、爬虫根本预测不到,等CPU打满再响应已经晚了。 打散副本数一般设为集群分片数的2-4倍,比如10个分片就拆10-40个子key,读时随机访问,写时同步所有副本。本地缓存一致性看业务容忍度:读多写少用短TTL(10-60秒)加随机偏移防雪崩;交易库存等强一致场景走MQ广播失效,或干脆不用本地缓存。 高峰期无侵入探测主流方案:一是独立计算集群(如京东JD-hotkey),客户端SDK异步上报,Worker毫秒级算出热key推回应用节点;二是代理层统计,Codis/Twemproxy拦截请求做频次统计;三是eBPF旁路监控,内核态抓命令,损耗不到1%;四是云厂商自带Top Key面板,底层流量镜像分析最省事。MONITOR高并发下吞吐降50%以上,生产绝对禁用。 官方详细解决方案:https://cloud.tencent.com/product/tcdc... 展开详请

全链路压测的影子表和真实表怎么隔离?压测数据怎么清理?

隔离取舍:核心交易死磕影子库,物理隔离防雪崩;非核心用影子表(同库加_shadow后缀),省机器但共享I/O,压猛了会抢生产连接池。 透传与坑:标记从HTTP头进网关,转RPC上下文,MQ塞消息头。最大的坑是异步线程池!普通ThreadLocal一过线程池或@Async就丢标,导致脏数据写进生产表。必须用TransmittableThreadLocal(TTL)包装线程池,MQ消费端也要显式恢复上下文。 清理:几亿行千万别直接DELETE,会把DB打挂。无外键直接TRUNCATE;想平滑点按主键分批删(每次1000条+sleep),或建表时做时间分区,压完直接DROP PARTITION。如果是影子库,压完直接删库最省事。 官方详细解决方案:https://cloud.tencent.com/product/pts... 展开详请

缓存热点 key 打散你们用什么方案?本地缓存 TTL 怎么定?

打散别用一致性哈希,那是做节点路由的。对付单key热点,标准做法是加随机后缀做多副本(如拆成 sku:1001:0~9),读时随机或轮询,写时异步广播同步,把流量均摊到不同分片。 本地缓存TTL一般设得很短,1到10秒,加点随机偏移防雪崩,淘汰策略用Caffeine的W-TinyLFU。不一致窗口看业务:商品详情等读多写少场景,就容忍这几秒的最终一致;如果是交易库存,必须走MQ广播或Canal监听binlog主动清除本地缓存,高危接口干脆不用本地缓存。 热点探测必须是人工预置+实时统计双管齐下。秒杀品提前人工预热;突发爆款靠实时探测。主流是搭独立计算集群(如京东JD-hotkey,Worker毫秒级算完推给全集群),或用代理层、云厂商面板旁路统计。高峰期千万别开Redis的MONITOR,吞吐直接掉一半,纯属找死。 官方详细解决方案:https://cloud.tencent.com/product/pts... 展开详请

搜索系统从数据库迁到 ES,你们是怎么灰度和验收的?

双读对照:至少跑1-2周覆盖完整业务周期。核心盯无结果率(绝不能比MySQL高)和Top10重合度,兼顾P99延迟。切流用Alias蓝绿发布,出问题秒级回滚。 相关性调权:别拍脑袋硬编码权重。必须建Judgment List(标注集)(query+doc_id+0-4级相关性打分),数据靠人工抽样加线上点击转化日志。直接上ES的LTR(Learning to Rank),把标题/描述BM25、销量当特征喂给XGBoost等模型,让算法算权重。 词库运营:同义词强烈建议只在查询时应用,配合热更新API,改词库不用Reindex重建索引,能救命。每周从“无结果搜索日志”里捞词补库,死盯无结果率和搜索转化率。性能上开slowlog盯分词耗时,防词库膨胀拖垮查询。 官方详细解决方案:https://cloud.tencent.com/product/tdsqlc?Is=sdk-topnav... 展开详请

60:数据治理:规范越厚,执行为何越薄?

李福春游戏发行平台,跨境电商,低代码,物联网,数字人商业项目架构师
老李在一线看到,规范越厚执行越薄,通常不是大家不认标准,而是同名字段、同名指标在不同系统里各写各的,责任成本落到具体人头上,工具摩擦又把动作拆成多步,激励却停在“出了事再补”。这条今日一言讲的是机制:标准只定义目标,默认正确路径才决定执行成本。把DDL模板、元数据自动登记、CI扫描、数据契约、敏感字段检查和异常修复闭环串成流水线,让开发顺手做对,比反复开会强调更有效。 边界也要说清:不是所有规范都值得默认拦截。核心链路、对外接口、敏感字段先做硬约束;探索期表先提示、后补契约,避免治理变成交付阻塞。数据契约适合上下游强依赖场景,敏感字段检查适合入口和出口,元数据登记应尽量自动采集,异常修复要闭环到负责人和时限。工具摩擦大的环节先减步骤,激励错位则把治理动作纳入评审和复盘,而不是只做通报。 试点别铺大摊子:选一条核心数据链路,跑通“DDL模板→CI检查→契约→监控修复”,用过程指标看坚持度,如模板覆盖率、CI阻断后的平均修复时长、核心表契约覆盖比例、敏感字段扫描闭环率、元数据自动登记率;不编收益数字,只看动作是否变轻、责任是否清楚。... 展开详请

应用扩容时数据库连接数怎么规划?连接池大小怎么定?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
连接池大小不是拍脑袋定的。先算上限:max_connections减去预留(运维工具、监控、其他服务),除以实例数得到单实例配额。池大小参考经验公式cores乘2加有效磁盘数,但那是单机视角,云上更要看DB侧总配额。实际最常见的坑是扩容:每个新副本都带同样的池配置,副本从10个涨到40个,连接总数瞬间翻4倍把DB打挂。所以池大小要按总连接预算除以副本数动态算,而不是每个副本固定100。另外压测必须模拟扩容后的连接总量,不然平时好好的,一扩容就连接超时。监控上盯DB的Threads_connected和应用侧等待连接的耗时,比盯池参数本身有用,等待出现就说明池或配额该动了。... 展开详请

链路追踪你们用的头部采样还是尾部采样?采样率设多少?

我们的选择:头部采样打底 + 错误/慢请求强制保留 + 核心交易域叠加尾部采样。纯头部和纯尾部都有明显短板,组合才能两头兼顾。 1. 为什么纯头部会瞎 头部采样在入口按比例丢,丢的恰恰是低概率事件——错误请求和超长尾慢请求基本全被丢掉,而排障时最需要的就是这些。所以头部采样必须配「强制保留」规则:入口判断 span 状态为 error 或耗时超过阈值(如 P99)时无视采样率全保。OpenTelemetry 里通过 propagate trace_flags 实现,下游服务尊重上游的采样决策。 2. 为什么不全上尾部 尾部采样(OTel Collector 的 tail_sampling processor / Jaeger 远端采样)决策质量高——整条 trace 结束后按结果留,100% 保错误、保慢请求、正常流量抽 5%。但代价:① 所有 span 都要流经决策层,Collector 成本和横向扩展复杂度上升;② 高流量下决策层的热分片与背压是真实的运维负担;③ 决策延迟意味着故障时刻最近的 trace 可能还没落地。它适合「trace 量可控、错误率低但排障价值高」的场景。 3. 采样率怎么定 别拍脑袋,倒推:采样率 × 入口 QPS × 平均每 trace span 数 ≈ 每日采集量,用存储预算反推采样率。经验值:高流量 C 端 5%~10% 打底;B 端和内部系统 30%~50% 甚至全量(量小);再配「每服务每分钟至少保留 N 条」的下限,防止低流量服务被采到全盲。我们生产是头部 10% + 错误全保 + 慢请求(>1s)全保 + 支付交易域加一层尾部采样兜底。 4. 一个比采样率更重要的前提 trace_id 跨服务传播必须连续(W3C Trace Context 统一头),否则采样决策在链路中间断裂,保留的策略全部失效——上线采样前先验证一次端到端 trace 完整性,这比调采样率优先级高得多。 总结:采样率不是关键决策,「什么必须留」才是——错误、慢、核心交易全保,其余按预算抽。... 展开详请
我们的选择:头部采样打底 + 错误/慢请求强制保留 + 核心交易域叠加尾部采样。纯头部和纯尾部都有明显短板,组合才能两头兼顾。 1. 为什么纯头部会瞎 头部采样在入口按比例丢,丢的恰恰是低概率事件——错误请求和超长尾慢请求基本全被丢掉,而排障时最需要的就是这些。所以头部采样必须配「强制保留」规则:入口判断 span 状态为 error 或耗时超过阈值(如 P99)时无视采样率全保。OpenTelemetry 里通过 propagate trace_flags 实现,下游服务尊重上游的采样决策。 2. 为什么不全上尾部 尾部采样(OTel Collector 的 tail_sampling processor / Jaeger 远端采样)决策质量高——整条 trace 结束后按结果留,100% 保错误、保慢请求、正常流量抽 5%。但代价:① 所有 span 都要流经决策层,Collector 成本和横向扩展复杂度上升;② 高流量下决策层的热分片与背压是真实的运维负担;③ 决策延迟意味着故障时刻最近的 trace 可能还没落地。它适合「trace 量可控、错误率低但排障价值高」的场景。 3. 采样率怎么定 别拍脑袋,倒推:采样率 × 入口 QPS × 平均每 trace span 数 ≈ 每日采集量,用存储预算反推采样率。经验值:高流量 C 端 5%~10% 打底;B 端和内部系统 30%~50% 甚至全量(量小);再配「每服务每分钟至少保留 N 条」的下限,防止低流量服务被采到全盲。我们生产是头部 10% + 错误全保 + 慢请求(>1s)全保 + 支付交易域加一层尾部采样兜底。 4. 一个比采样率更重要的前提 trace_id 跨服务传播必须连续(W3C Trace Context 统一头),否则采样决策在链路中间断裂,保留的策略全部失效——上线采样前先验证一次端到端 trace 完整性,这比调采样率优先级高得多。 总结:采样率不是关键决策,「什么必须留」才是——错误、慢、核心交易全保,其余按预算抽。

K8s 的 requests/limits 你们怎么定的?CPU limit 设不设?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
requests定准点让调度器真实排布,limits分资源讨论。CPU limit我建议多数服务不设:CPU是可压缩资源,被限只变慢不会崩,设了反而在流量高峰被throttle,p99延迟莫名飙高还难查。不设的代价是可能抢占别的Pod,用节点池隔离或按优先级调度兜底。内存必须设limit,超了会被OOMKill,数值要基于压测峰值再加两到三成余量,不是拍一个数。内存的requests建议等于limit,拿到Guaranteed QoS,避免节点内存紧张时第一个被驱逐。定完不是结束,定期看容器被throttle和OOM的记录,反复触发就调,参数跟着流量形态变,一年前的配置大概率不适用现在。... 展开详请

全链路压测的流量染色你们放在哪一层实现?影子表数据怎么清理?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
染色放入口层做,网关统一打标往下游透传,业务代码尽量不感知。入口识别压测标记(header 或专用账号),写进 trace 上下文一路传播,存储层按标记路由到影子表。放中间某层做会出现标记丢失,链路一长必漏。影子表清理别靠手工:按批次建影子表最省心,表名带批次号,压完整表 drop,还避免新旧数据混淆;也可以压测结束后用定时任务按时间戳批量删,但效率低。最容易翻车的是 MQ,影子消息必须进影子 topic,否则消费端会把假数据写进真库,这个坑要提前堵上。另外压测前先把影子路由做一次全链路验证,别等真流量进来才发现染色没生效。... 展开详请

服务降级的业务分级你们是怎么定的?降级开关如何防止腐化?

业务分级:不按服务名分,按「用户旅程 + 后果」分。每个功能回答三个问题:① 关掉它,用户还能不能走完主流程(浏览→下单→支付)?② 关掉会不会造成资金/数据错误(而不只是体验差)?③ 关掉多久可容忍?据此落三档:S0 核心交易(不降级,只做扩容和限流保护);S1 重要体验(评论、推荐、库存展示——可分钟级降级,降级要有替代输出如缓存快照/默认文案,不能白屏);S2 旁路能力(积分、消息推送、行为日志——随时可降,甚至平时就按需开关)。两个容易被忽略的规则:分级沿调用链向上继承——下游服务被 S0 业务依赖时自动按 S0 对待,按「依赖它的业务的最高级别」定级而不是它自己觉得自己不重要;分级清单由业务方与技术方联合评审并写入配置中心,跟版本变更同步更新,否则半年后分级表和现实就对不上了。 开关防腐化:核心是「第一次按下不能发生在故障时」。腐化的根因是开关加了没人验、代码演化后降级路径悄悄失效、没人敢动。四条对策: ① 定期真演练:月度/季度降级演练,真按下开关、真观察降级路径是否可用、真恢复。演练不过的开关视为「坏开关」,修复或删除; ② 新增开关三要素:PR 里新增降级开关必须附「验证方法、预期效果、恢复步骤」,缺一不合入——从源头保证每个开关都是可验证的; ③ 开关生命周期管理:配置中心集中管理 + 变更审计(谁改的、diff 可查、关键开关变更走审批),每半年清理一次「长期未触发且演练未覆盖」的开关——长尾坏开关是事故放大器; ④ 状态可见:开关状态打点上报,降级生效期间在核心监控大盘显式展示(横幅级),防止「降级了没人记得恢复」这种最尴尬的二次事故。 一句话:分级决定「谁可以被降」,演练决定「降级真的可用」——后者比前者更容易被忽略,也更容易出事。... 展开详请
业务分级:不按服务名分,按「用户旅程 + 后果」分。每个功能回答三个问题:① 关掉它,用户还能不能走完主流程(浏览→下单→支付)?② 关掉会不会造成资金/数据错误(而不只是体验差)?③ 关掉多久可容忍?据此落三档:S0 核心交易(不降级,只做扩容和限流保护);S1 重要体验(评论、推荐、库存展示——可分钟级降级,降级要有替代输出如缓存快照/默认文案,不能白屏);S2 旁路能力(积分、消息推送、行为日志——随时可降,甚至平时就按需开关)。两个容易被忽略的规则:分级沿调用链向上继承——下游服务被 S0 业务依赖时自动按 S0 对待,按「依赖它的业务的最高级别」定级而不是它自己觉得自己不重要;分级清单由业务方与技术方联合评审并写入配置中心,跟版本变更同步更新,否则半年后分级表和现实就对不上了。 开关防腐化:核心是「第一次按下不能发生在故障时」。腐化的根因是开关加了没人验、代码演化后降级路径悄悄失效、没人敢动。四条对策: ① 定期真演练:月度/季度降级演练,真按下开关、真观察降级路径是否可用、真恢复。演练不过的开关视为「坏开关」,修复或删除; ② 新增开关三要素:PR 里新增降级开关必须附「验证方法、预期效果、恢复步骤」,缺一不合入——从源头保证每个开关都是可验证的; ③ 开关生命周期管理:配置中心集中管理 + 变更审计(谁改的、diff 可查、关键开关变更走审批),每半年清理一次「长期未触发且演练未覆盖」的开关——长尾坏开关是事故放大器; ④ 状态可见:开关状态打点上报,降级生效期间在核心监控大盘显式展示(横幅级),防止「降级了没人记得恢复」这种最尴尬的二次事故。 一句话:分级决定「谁可以被降」,演练决定「降级真的可用」——后者比前者更容易被忽略,也更容易出事。

团队的技术债务大家是怎么量化管理的?

老王说技术一线互联网技术骨干,浙江省人工智能协会专家,浙江高校网络思政中心技术顾问,热衷于AI相关技术分享
先给一个可能反直觉的结论:**别急着给技术债打分**。我见过不少团队一上来就引入静态扫描的「债务分数 / 偿还工时估计」,数字很漂亮,半年后没人再看,因为那个分数既不能解释「上周交付为什么慢」,也没法用来决定这周该改哪个文件。量化管理的目的不是得到分数,而是让「还债」变成一笔有证据、能排进迭代、事后能验证的账。 我们后来用的口径是:**债务 = 已经在交付数据里产生了可观测成本的那部分代码**。不在数据里出现的,先记「疑似」,不进台账。 **四类可观测信号(都不需要人工打分)** 1. **变更热点 × 故障关联**:用 `git log` 统计近 3 个月每个文件的修改频次,和同期故障/回滚涉及的模块取交集。高频又被故障反复点名的文件,优先级最高。单看复杂度、单看修改频次都容易误伤(配置文件天然高频)。 2. **修改前置时间**:同一模块的需求,从开工到合并的耗时是否显著高于仓库中位数。这里要看趋势和分位数,不看绝对值和平均值。 3. **缺陷与重试密度**:某模块的缺陷单、CI 重试、hotfix 数量按季度堆叠。它比「代码味道」更能说明维护成本。 4. **依赖与版本漂移**:长期停留在旧大版本、且被多个模块引用的依赖,偿还成本会随时间上升,适合单列一类专项。 **最小台账字段** 不要做成大表,六个字段够用:`debt_id`、证据来源(上面哪一类信号 + 可点的链接)、影响路径(哪条业务流程会踩到)、估算偿还成本(人天,允许粗)、触发阈值(满足什么条件就还)、复核日期。每条债必须能点回原始证据,否则评审时就是主观争论。 一个容易忽略的设计是**触发阈值**:与其排「还债专项 sprint」,不如定成「本迭代要改动的文件若命中热点清单,就顺带完成对应重构」。理由是这类文件此刻上下文最全、回归成本最低;单独排期反而常常因为「这次先别动」被无限推迟。 **怎么验证还得值不值** 改动前后各取一段窗口,对比该模块的修改前置时间分位数、缺陷数、CI 重试率。没有可验证的指标,就不要把「重写」写进目标。重写是成本最高的偿还方式,默认应该从「补测试 → 抽边界 → 局部替换」逐级升级。 **四个反模式** - 把静态扫描分数当团队 KPI:会立刻涌现「为降分而改格式」的行为,数据失真。 - 度量到个人:技术债大多是历史决策的产物,落到个人只会让人不敢接老模块。 - 只看债务总量不看趋势:总量上升未必是坏事(新代码也进库),要看「每千行新增对应的高成本模块占比」这类比值。 - 把「清理」和「交付」对立起来:没有业务触发点的重构,很难排上优先级,也很难证明收益。 **一句话落地路径**:先花两周把上面四类信号跑出基线 → 只把「有证据 + 有触发条件」的条目写进台账 → 每次迭代顺路还一小块 → 用前置时间和缺陷率复盘。台账条目宁可少,也要条条能被数据验证。 (以上是做法框架,不含任何具体团队的测量数值;不同仓库规模下信号阈值需要自己用本地基线标定,不能直接套用别人的数字。)... 展开详请
先给一个可能反直觉的结论:**别急着给技术债打分**。我见过不少团队一上来就引入静态扫描的「债务分数 / 偿还工时估计」,数字很漂亮,半年后没人再看,因为那个分数既不能解释「上周交付为什么慢」,也没法用来决定这周该改哪个文件。量化管理的目的不是得到分数,而是让「还债」变成一笔有证据、能排进迭代、事后能验证的账。 我们后来用的口径是:**债务 = 已经在交付数据里产生了可观测成本的那部分代码**。不在数据里出现的,先记「疑似」,不进台账。 **四类可观测信号(都不需要人工打分)** 1. **变更热点 × 故障关联**:用 `git log` 统计近 3 个月每个文件的修改频次,和同期故障/回滚涉及的模块取交集。高频又被故障反复点名的文件,优先级最高。单看复杂度、单看修改频次都容易误伤(配置文件天然高频)。 2. **修改前置时间**:同一模块的需求,从开工到合并的耗时是否显著高于仓库中位数。这里要看趋势和分位数,不看绝对值和平均值。 3. **缺陷与重试密度**:某模块的缺陷单、CI 重试、hotfix 数量按季度堆叠。它比「代码味道」更能说明维护成本。 4. **依赖与版本漂移**:长期停留在旧大版本、且被多个模块引用的依赖,偿还成本会随时间上升,适合单列一类专项。 **最小台账字段** 不要做成大表,六个字段够用:`debt_id`、证据来源(上面哪一类信号 + 可点的链接)、影响路径(哪条业务流程会踩到)、估算偿还成本(人天,允许粗)、触发阈值(满足什么条件就还)、复核日期。每条债必须能点回原始证据,否则评审时就是主观争论。 一个容易忽略的设计是**触发阈值**:与其排「还债专项 sprint」,不如定成「本迭代要改动的文件若命中热点清单,就顺带完成对应重构」。理由是这类文件此刻上下文最全、回归成本最低;单独排期反而常常因为「这次先别动」被无限推迟。 **怎么验证还得值不值** 改动前后各取一段窗口,对比该模块的修改前置时间分位数、缺陷数、CI 重试率。没有可验证的指标,就不要把「重写」写进目标。重写是成本最高的偿还方式,默认应该从「补测试 → 抽边界 → 局部替换」逐级升级。 **四个反模式** - 把静态扫描分数当团队 KPI:会立刻涌现「为降分而改格式」的行为,数据失真。 - 度量到个人:技术债大多是历史决策的产物,落到个人只会让人不敢接老模块。 - 只看债务总量不看趋势:总量上升未必是坏事(新代码也进库),要看「每千行新增对应的高成本模块占比」这类比值。 - 把「清理」和「交付」对立起来:没有业务触发点的重构,很难排上优先级,也很难证明收益。 **一句话落地路径**:先花两周把上面四类信号跑出基线 → 只把「有证据 + 有触发条件」的条目写进台账 → 每次迭代顺路还一小块 → 用前置时间和缺陷率复盘。台账条目宁可少,也要条条能被数据验证。 (以上是做法框架,不含任何具体团队的测量数值;不同仓库规模下信号阈值需要自己用本地基线标定,不能直接套用别人的数字。)

单元测试和集成测试的比例怎么定?什么样的逻辑该写在哪层?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
比例不该定指标,按「坏了修多贵」倒推。纯逻辑、金额计算、状态机、解析器这类分支多的,全部压在单测里,跑得快可以写得很密。跨进程边界的东西只能靠集成测试:真实 SQL、事务和隔离级别、消息的重复与乱序、序列化契约、外部接口的超时重试,mock 掉就等于没测。我的习惯是单测吃掉分支覆盖,集成测试只覆盖每条关键 SQL 和每个消费入口,一条不许多但一条不能少。集成慢就单独跑 nightly,别为凑数字硬写。... 展开详请
领券