首页
学习
活动
专区
圈层
工具
发布

#缓存

缓存就是数据交换的缓冲区(称作Cache),当某一硬件要读取数据时,会首先从缓存中查找需要的数据,如果找到了则直接执行,找不到的话则从内存中找。缓存的作用是帮助硬件更快地运行。

低成本模型能立即替换企业Agent吗?

老王说技术一线互联网技术骨干,浙江省人工智能协会专家,浙江高校网络思政中心技术顾问,热衷于AI相关技术分享
前面那份回答把「该不该换、账怎么算、哪些场景先试点」讲得很完整了,我补一个它没展开、但在企业里经常真正卡住迁移的角度:**模型替换不是一次模型选型,而是一次跨角色的产品变更,最容易翻车的地方不是能力下降,是没人说得清改了什么、谁该签字、出问题时按什么切回去**。 在企业级产品里,一次换模型至少牵动产品、后端、测试、实施和客户成功五个角色:产品改验收口径,后端改调用配置与重试策略,测试要重建回归集,实施要更新交付说明,客户成功要面对「为什么这次回答和上周不一样」的追问。只发一条「已切换到 X 模型」的通知,等于让每个角色自己猜影响面。 我的做法是把这次替换当成一个普通变更来管,用同一个 `change-id` 串三份短材料: **1. 决策记录**:只记一个决策——为什么选这个模型、放弃了哪个备选、代价是什么(比如长链路任务成功率可能下降、prefix 缓存计价规则变了)。重点是留住「当时基于什么数据做的判断」,三周后 ROI 对不上时能反查,而不是事后重新编一个理由。 **2. 影响面清单**:按维度强制枚举,每维必须指到具体的人,`none` 也要显式写。对模型替换,我用的维度是:系统提示词与 few-shot、工具 schema 与参数约束、输出 schema 与解析容错、缓存键与 prefix 命中、重试/超时/降级策略、审计日志字段、回归用例集、成本与正确率报表口径、交付文档与客户通知 / SLA。最容易漏的是最后两项:报表口径一变,历史数据就不可比;客户没被通知,一次语气变化就会被当成故障。 **3. 验收契约**:把「效果不低于现网」写成 Given/When/Then 断言,每条挂一个真实用例或自动化检查,并写清触发回滚的阈值。下面是一份最小示例,字段值是演示用的,不代表任何真实阈值: ```yaml change_id: CHG-MODEL-2026-004 adr: status: accepted decision: 仅在内部知识问答场景替换,旗舰模型保留给赔付与风控类任务 consequences: 长链路任务不纳入本次范围;报表需按 model_version 切分 impact: prompt: { owner: pm@example.com, note: 系统提示词同步调整,旧版本留档 } tool_schema: { owner: backend@example.com, note: none } output_schema: { owner: backend@example.com, note: 解析失败率纳入观测 } cache_key: { owner: backend@example.com, note: prefix 缓存键随模型变化,需重建基线 } audit_log: { owner: backend@example.com, note: 每条记录带 model_version + change_id } report_metric: { owner: data@example.com, note: 按版本切分,禁止新旧模型混算 } doc_notice: { owner: cs@example.com, note: 交付说明与客户通知 } acceptance: - id: AC-01 given: 同一批影子流量 when: 切换前后各跑一轮 then: 两个模型的结果分别带 model_version 落库,可分开统计 check: trace_schema_check rollback: trigger: 正确完成率连续两个观测窗口低于约定阈值 owner: oncall@example.com action: 切回旧模型配置,并标记在途任务需人工复核 ``` **一个很隐蔽的观测陷阱**:影子运行期间,如果两个模型的结果混在同一张报表里,会得出「质量没变化」或「质量突然下降」的假结论——那只是混合分布。所以审计日志和 trace 里必须带 `model_version` 与 `change_id`,成本和正确率都按版本切分统计。这件事要在切换**之前**就做完,事后补字段是补不回来的。 **回滚也不是一个配置开关**。要提前写清三件事:谁有权切(到岗不到人)、基于哪个指标和多大窗口判定、切回后已经产生但还在流转的任务怎么处理(是否需要人工复核、已发出的回答要不要追回)。没写这三条,真出问题时通常会在群里讨论半小时才有人敢动。 **紧急通道要留,但不能留成欠账**。线上出故障临时切模型,允许先切后补,但事后记录必须显式标 `retro: true`,并单独列「未评估项」——比如「未评估长链路任务」「未通知客户成功」。否则事后补写会不自觉地把「当时没时间评估」包装成「经过权衡选择先切」,这份记录以后反而误导人。可以用 CI 扫描超时未补的 `change-id`,阻断下一次变更,比靠人记得可靠。 最后说边界:这套契约管的是「改了什么、影响谁、怎么算做完、怎么退」,管不了「这个模型该不该换」——那是前面回答里成本公式和场景梯度要解决的问题。两者是互补的,不是替代。度量也别看「契约填写率 100%」,只看两个数:上线后两周内因口径或配置不一致产生的缺陷数、以及评审后临时补影响面的次数。这两个降下来,才说明迁移真的被管住了。... 展开详请
前面那份回答把「该不该换、账怎么算、哪些场景先试点」讲得很完整了,我补一个它没展开、但在企业里经常真正卡住迁移的角度:**模型替换不是一次模型选型,而是一次跨角色的产品变更,最容易翻车的地方不是能力下降,是没人说得清改了什么、谁该签字、出问题时按什么切回去**。 在企业级产品里,一次换模型至少牵动产品、后端、测试、实施和客户成功五个角色:产品改验收口径,后端改调用配置与重试策略,测试要重建回归集,实施要更新交付说明,客户成功要面对「为什么这次回答和上周不一样」的追问。只发一条「已切换到 X 模型」的通知,等于让每个角色自己猜影响面。 我的做法是把这次替换当成一个普通变更来管,用同一个 `change-id` 串三份短材料: **1. 决策记录**:只记一个决策——为什么选这个模型、放弃了哪个备选、代价是什么(比如长链路任务成功率可能下降、prefix 缓存计价规则变了)。重点是留住「当时基于什么数据做的判断」,三周后 ROI 对不上时能反查,而不是事后重新编一个理由。 **2. 影响面清单**:按维度强制枚举,每维必须指到具体的人,`none` 也要显式写。对模型替换,我用的维度是:系统提示词与 few-shot、工具 schema 与参数约束、输出 schema 与解析容错、缓存键与 prefix 命中、重试/超时/降级策略、审计日志字段、回归用例集、成本与正确率报表口径、交付文档与客户通知 / SLA。最容易漏的是最后两项:报表口径一变,历史数据就不可比;客户没被通知,一次语气变化就会被当成故障。 **3. 验收契约**:把「效果不低于现网」写成 Given/When/Then 断言,每条挂一个真实用例或自动化检查,并写清触发回滚的阈值。下面是一份最小示例,字段值是演示用的,不代表任何真实阈值: ```yaml change_id: CHG-MODEL-2026-004 adr: status: accepted decision: 仅在内部知识问答场景替换,旗舰模型保留给赔付与风控类任务 consequences: 长链路任务不纳入本次范围;报表需按 model_version 切分 impact: prompt: { owner: pm@example.com, note: 系统提示词同步调整,旧版本留档 } tool_schema: { owner: backend@example.com, note: none } output_schema: { owner: backend@example.com, note: 解析失败率纳入观测 } cache_key: { owner: backend@example.com, note: prefix 缓存键随模型变化,需重建基线 } audit_log: { owner: backend@example.com, note: 每条记录带 model_version + change_id } report_metric: { owner: data@example.com, note: 按版本切分,禁止新旧模型混算 } doc_notice: { owner: cs@example.com, note: 交付说明与客户通知 } acceptance: - id: AC-01 given: 同一批影子流量 when: 切换前后各跑一轮 then: 两个模型的结果分别带 model_version 落库,可分开统计 check: trace_schema_check rollback: trigger: 正确完成率连续两个观测窗口低于约定阈值 owner: oncall@example.com action: 切回旧模型配置,并标记在途任务需人工复核 ``` **一个很隐蔽的观测陷阱**:影子运行期间,如果两个模型的结果混在同一张报表里,会得出「质量没变化」或「质量突然下降」的假结论——那只是混合分布。所以审计日志和 trace 里必须带 `model_version` 与 `change_id`,成本和正确率都按版本切分统计。这件事要在切换**之前**就做完,事后补字段是补不回来的。 **回滚也不是一个配置开关**。要提前写清三件事:谁有权切(到岗不到人)、基于哪个指标和多大窗口判定、切回后已经产生但还在流转的任务怎么处理(是否需要人工复核、已发出的回答要不要追回)。没写这三条,真出问题时通常会在群里讨论半小时才有人敢动。 **紧急通道要留,但不能留成欠账**。线上出故障临时切模型,允许先切后补,但事后记录必须显式标 `retro: true`,并单独列「未评估项」——比如「未评估长链路任务」「未通知客户成功」。否则事后补写会不自觉地把「当时没时间评估」包装成「经过权衡选择先切」,这份记录以后反而误导人。可以用 CI 扫描超时未补的 `change-id`,阻断下一次变更,比靠人记得可靠。 最后说边界:这套契约管的是「改了什么、影响谁、怎么算做完、怎么退」,管不了「这个模型该不该换」——那是前面回答里成本公式和场景梯度要解决的问题。两者是互补的,不是替代。度量也别看「契约填写率 100%」,只看两个数:上线后两周内因口径或配置不一致产生的缺陷数、以及评审后临时补影响面的次数。这两个降下来,才说明迁移真的被管住了。

流量团队供应商变了,旧架构能复用吗?

一只特立独行的兔先生腾讯云+社区TOP100优秀作者/华为云MVP专家/CSDN博客专家/深信服MVP专家/阿里云MVP专家
不能按「接口能调通」复用。多 Pod 下旧限流和缓存是否还成立,取决于计数存在哪、存储挂了是放行还是拒绝,以及新供应商的配额单位和错误语义有没有变。这三件没复验,峰值仍会超卖,或继续吐上一家的旧数据。 一、技术:先复验这五条 进程内令牌桶(例如 Guava RateLimiter)每个 Pod 各持一份。副本从 4 扩到 20,实际放行大约是配置值的 5 倍。配额若是集群总额,这就是超卖。复验:配额设为 Q,N 个 Pod 合计打出 QPS = Q,看上游拒绝比例。几乎不触发,说明限额被副本数放大了。 共享计数不能把 INCR 和 EXPIRE 拆开。进程在两条命令之间退出,key 没有 TTL,额度会被永久占住。限流走一条 EVAL。官方写明 EVAL / EVALSHA 在服务端同一事件循环里执行,不会被其他命令打断。固定窗口: local n = redis.call('INCR', KEYS[1]) if n == 1 then redis.call('PEXPIRE', KEYS[1], ARGV[1]) end if redis.call('PTTL', KEYS[1]) < 0 then redis.call('PEXPIRE', KEYS[1], ARGV[1]) end if n > tonumber(ARGV[2]) then return 0 end return 1 KEYS[1] 用 rl:{tenantA}:qps,ARGV[1] 是窗口毫秒,ARGV[2] 是限额。花括号内才参与选 slot。这是固定窗口,边界仍可能约 2 倍突发,配额留余量。不要用各 Pod 本地时间戳写 ZSET。 集群还有 slot 约束。官方说明:标准架构和集群架构都默认开通 Lua,但脚本里的 key 必须在同一 slot,否则可能失败。Redis 按 CRC16 分到 16384 个 slot,跨 slot 返回 CROSSSLOT。同时改 rl:tenantA 和 rl:global,单机能跑,上集群会失败。要原子更新的 key 用同一个 tag;不要把所有租户打成 {global},否则变成单分片热 key。全局限额和租户限额拆成两次调用。上线前在目标实例上跑这条 EVAL,单机通过、集群报错,就是 slot 或方言问题。 部分较新版本为修 CVE,沙箱禁止全局函数,非 local 会报 ERR Attempt to modify a readonly table。升级或换实例前把 function foo() 改成 local function foo(),适用版本以命令差异文档为准。 Redis 超时后是放行还是拒绝,要在代码里搜出来。对合同配额,放行等于把超卖打到新供应商。降级用更严的单机额度:配置值除以当前 ready 副本数,再留余量;副本数读服务发现,读不到就用保守上限。缓存三件套:key 加版本前缀如 v2:,避免旧结构反序列化失败;负缓存错误码重审,上一家的 404 不是新供应商的「尚未同步」;只靠 TTL 的本地缓存,不一致窗口等于最长 TTL,价格、库存、权限不能只放本地。连接池另算:Pod 数乘以每 Pod 最大连接,必须低于实例上限,上限以控制台规格为准。 二、产品:四格有一格为否,就不算复用 复用机制,不复用供应商适配。每个接口填四格,有一格为否就只留骨架: 配额单位是否同构。按 QPS,和按每分钟成功调用或按字节,阈值不能照搬。 身份键是否同构。旧 appId 和新的账号加项目不是同一维,限流 key、缓存 key 都要重映射。 错误码是否可映射。哪些可缓存、哪些必须穿透、哪些算已消耗配额。 不一致窗口是否可接受。价格、库存、权限不沿用旧 TTL;展示文案可以。 四格都通过,才留下观测字段 tenant、route、cache_hit、limit_decision、upstream_status。旧阈值和旧 TTL 不要一起搬。 三、商业:三步影子验证,不过就停 契约回放:脱敏旧请求打新供应商沙箱,对状态码映射、配额消耗次数、会写入缓存的字段。不过就停。 影子限流:旧限流继续拦截,新限流只记 would_reject,跑满一个含峰值的业务日。看新旧判定一致率、实际放行 QPS 与配置配额的比值(进程内限流会接近副本数)、改一个上游字段后所有 Pod 读到新值的最大延迟。一致率按合同罚则自定,不要抄「行业 99%」。 金丝雀:只切一个低风险读接口,小流量,一键回旧供应商。门禁看新供应商 5xx、本方 P99 增量、429 比例、缓存命中率,越线即回滚。成本只算这一条:单价乘调用量,加上未命中打到上游的次数乘单价,与旧供应商同口径对比。 影子期的计数和日志,远小于一次超卖后的封禁。若本来就是网关集中限流,多 Pod 放大不存在,改查超时、重试和配额单位。不要假设普通多 key 读命令能跨 slot,Lua 仍要求同一 slot。 参考:功能与使用、大版本命令使用差异、CROSSSLOT 与 hash tag。... 展开详请
不能按「接口能调通」复用。多 Pod 下旧限流和缓存是否还成立,取决于计数存在哪、存储挂了是放行还是拒绝,以及新供应商的配额单位和错误语义有没有变。这三件没复验,峰值仍会超卖,或继续吐上一家的旧数据。 一、技术:先复验这五条 进程内令牌桶(例如 Guava RateLimiter)每个 Pod 各持一份。副本从 4 扩到 20,实际放行大约是配置值的 5 倍。配额若是集群总额,这就是超卖。复验:配额设为 Q,N 个 Pod 合计打出 QPS = Q,看上游拒绝比例。几乎不触发,说明限额被副本数放大了。 共享计数不能把 INCR 和 EXPIRE 拆开。进程在两条命令之间退出,key 没有 TTL,额度会被永久占住。限流走一条 EVAL。官方写明 EVAL / EVALSHA 在服务端同一事件循环里执行,不会被其他命令打断。固定窗口: local n = redis.call('INCR', KEYS[1]) if n == 1 then redis.call('PEXPIRE', KEYS[1], ARGV[1]) end if redis.call('PTTL', KEYS[1]) < 0 then redis.call('PEXPIRE', KEYS[1], ARGV[1]) end if n > tonumber(ARGV[2]) then return 0 end return 1 KEYS[1] 用 rl:{tenantA}:qps,ARGV[1] 是窗口毫秒,ARGV[2] 是限额。花括号内才参与选 slot。这是固定窗口,边界仍可能约 2 倍突发,配额留余量。不要用各 Pod 本地时间戳写 ZSET。 集群还有 slot 约束。官方说明:标准架构和集群架构都默认开通 Lua,但脚本里的 key 必须在同一 slot,否则可能失败。Redis 按 CRC16 分到 16384 个 slot,跨 slot 返回 CROSSSLOT。同时改 rl:tenantA 和 rl:global,单机能跑,上集群会失败。要原子更新的 key 用同一个 tag;不要把所有租户打成 {global},否则变成单分片热 key。全局限额和租户限额拆成两次调用。上线前在目标实例上跑这条 EVAL,单机通过、集群报错,就是 slot 或方言问题。 部分较新版本为修 CVE,沙箱禁止全局函数,非 local 会报 ERR Attempt to modify a readonly table。升级或换实例前把 function foo() 改成 local function foo(),适用版本以命令差异文档为准。 Redis 超时后是放行还是拒绝,要在代码里搜出来。对合同配额,放行等于把超卖打到新供应商。降级用更严的单机额度:配置值除以当前 ready 副本数,再留余量;副本数读服务发现,读不到就用保守上限。缓存三件套:key 加版本前缀如 v2:,避免旧结构反序列化失败;负缓存错误码重审,上一家的 404 不是新供应商的「尚未同步」;只靠 TTL 的本地缓存,不一致窗口等于最长 TTL,价格、库存、权限不能只放本地。连接池另算:Pod 数乘以每 Pod 最大连接,必须低于实例上限,上限以控制台规格为准。 二、产品:四格有一格为否,就不算复用 复用机制,不复用供应商适配。每个接口填四格,有一格为否就只留骨架: 配额单位是否同构。按 QPS,和按每分钟成功调用或按字节,阈值不能照搬。 身份键是否同构。旧 appId 和新的账号加项目不是同一维,限流 key、缓存 key 都要重映射。 错误码是否可映射。哪些可缓存、哪些必须穿透、哪些算已消耗配额。 不一致窗口是否可接受。价格、库存、权限不沿用旧 TTL;展示文案可以。 四格都通过,才留下观测字段 tenant、route、cache_hit、limit_decision、upstream_status。旧阈值和旧 TTL 不要一起搬。 三、商业:三步影子验证,不过就停 契约回放:脱敏旧请求打新供应商沙箱,对状态码映射、配额消耗次数、会写入缓存的字段。不过就停。 影子限流:旧限流继续拦截,新限流只记 would_reject,跑满一个含峰值的业务日。看新旧判定一致率、实际放行 QPS 与配置配额的比值(进程内限流会接近副本数)、改一个上游字段后所有 Pod 读到新值的最大延迟。一致率按合同罚则自定,不要抄「行业 99%」。 金丝雀:只切一个低风险读接口,小流量,一键回旧供应商。门禁看新供应商 5xx、本方 P99 增量、429 比例、缓存命中率,越线即回滚。成本只算这一条:单价乘调用量,加上未命中打到上游的次数乘单价,与旧供应商同口径对比。 影子期的计数和日志,远小于一次超卖后的封禁。若本来就是网关集中限流,多 Pod 放大不存在,改查超时、重试和配额单位。不要假设普通多 key 读命令能跨 slot,Lua 仍要求同一 slot。 参考:功能与使用、大版本命令使用差异、CROSSSLOT 与 hash tag。

CI 阶段耗时埋点放编排层还是脚本内部?跨仓库怎么统一口径?

埋点位置得“宏观靠编排,微观靠脚本”: 编排层(YAML):负责抓 Job/Stage 级总耗时和排队时间。直接用 CI 内置变量(如 GitLab 的 CI_JOB_DURATION),或加个 when: always 的 metrics stage 统一推数据,不侵入业务代码。 脚本内部:负责抓步骤级瓶颈。用 time 命令包裹核心操作(如 time docker build),或开启工具自带统计(如 pytest --durations),专治“Stage 没超时但某一步卡死”的黑盒问题。 跨仓库统一口径核心是“模板化+统一出口”: 抽离公共模板:把埋点和上报逻辑封装成公共 CI 模板(GitLab 用 include,Jenkins 用 Shared Library),各仓库直接引用,杜绝各自为战。 规范 Label:统一定义指标名(如 cicd_stage_duration_seconds)和必填标签(project, branch, stage, status)。 统一数据出口:全量推送到同一个 Pushgateway/Prometheus 或 CI Visibility 平台,用统一看板盯 P90 耗时趋势,别让数据散落在各仓库的日志里。 官方详细解决方案:https://cloud.tencent.com/product/lighthouse?Is=sdk-topnav... 展开详请

缓存热点 key 打散你们用什么方案?本地缓存 TTL 怎么定?

打散别用一致性哈希,那是做节点路由的。对付单key热点,标准做法是加随机后缀做多副本(如拆成 sku:1001:0~9),读时随机或轮询,写时异步广播同步,把流量均摊到不同分片。 本地缓存TTL一般设得很短,1到10秒,加点随机偏移防雪崩,淘汰策略用Caffeine的W-TinyLFU。不一致窗口看业务:商品详情等读多写少场景,就容忍这几秒的最终一致;如果是交易库存,必须走MQ广播或Canal监听binlog主动清除本地缓存,高危接口干脆不用本地缓存。 热点探测必须是人工预置+实时统计双管齐下。秒杀品提前人工预热;突发爆款靠实时探测。主流是搭独立计算集群(如京东JD-hotkey,Worker毫秒级算完推给全集群),或用代理层、云厂商面板旁路统计。高峰期千万别开Redis的MONITOR,吞吐直接掉一半,纯属找死。 官方详细解决方案:https://cloud.tencent.com/product/pts... 展开详请

域名解析修改后迟迟不生效,如何判断是 TTL 缓存还是配置问题?

别干等,先确认改没改对。用 dig @权威DNS服务器 域名 直接查权威源,如果返回的还是旧记录,说明配置根本没提交成功或主从同步延迟,跟ttl无关。 权威源已更新但本地解析仍旧,才是缓存问题。用 dig 域名 看返回的ttl剩余值,结合你修改的时间点推算是否还在缓存窗口内。也可以换台从未访问过该域名的机器或用公共dns(如8.8.8.8)测试,新环境能解析出新记录就实锤是本地缓存。 注意多级缓存陷阱:浏览器、操作系统、ldns、cdn都可能各自缓存。排查时逐级绕过:清浏览器缓存、刷新系统dns、指定公共dns查询,定位卡在哪一层。 还有个坑:修改前ttl设得很长(比如24小时),改完才调小,那旧缓存依然按原ttl生效。正确做法是提前48小时把ttl调到60秒,再改记录,否则只能等自然过期。 官方详细解决方案:https://cloud.tencent.com/product/domain?Is=sdk-topnav... 展开详请

滚动发布的优雅上下线:排空怎么做?新实例怎么预热?

一只特立独行的兔先生腾讯云+社区TOP100优秀作者/华为云MVP专家/CSDN博客专家/深信服MVP专家/阿里云MVP专家
结论:优雅下线的核心是“先让流量不再进来,再等已有请求处理完,最后才退出进程”;新实例预热的核心是“先完成初始化和预热,再对外宣告可接收流量,并且逐步放量”。下面按这两部分说明,并以 Kubernetes 加负载均衡的常见部署为例。 一、优雅下线(排空) 正确的顺序: 1. 把实例从负载均衡摘除,或让健康检查失败,使新请求不再被路由过来。 2. 等待已经在处理的请求完成,也就是排空(drain)。 3. 关闭长连接、停止消费者、释放资源,然后进程退出。 常见的坑:收到终止信号就立刻退出,或者摘流和终止信号几乎同时发生。因为负载均衡和服务发现的摘除是异步的,需要几秒才生效,这段时间里仍有新请求被转发到正在关闭的实例,表现为发布时的偶发 502、连接被重置。 在 Kubernetes 中的做法: - 为 Pod 配置 readinessProbe,并在收到终止信号时让就绪检查立即失败。 - 利用 preStop 钩子先等待一小段时间(例如睡眠若干秒),给负载均衡、服务发现和各层缓存留出摘除的时间。等待时长要大于摘除生效的耗时,具体数值需要实测。 - terminationGracePeriodSeconds 要大于“preStop 等待时间加上应用排空最长请求的时间”,否则会被强制杀死。 - 应用要处理 SIGTERM:停止接收新连接,等待在途请求完成,再退出。很多框架提供优雅停机开关,例如 Spring Boot 的 server.shutdown=graceful,需要确认已开启并设置超时时间。 - 通过容器入口脚本启动时,要确保信号能传递给应用进程,避免 shell 吞掉信号,可以使用 exec 启动,或使用 tini 这类 init 进程。 负载均衡侧: - 使用云负载均衡时,摘除后端或把权重降为 0 之后,已建立的连接如何处理,取决于具体产品和配置,部分产品提供连接排空或优雅下线选项,请以所用产品文档为准,并实测验证。 - 长连接(WebSocket、gRPC、HTTP/2)不会自然结束,需要应用主动通知客户端重连,例如发送 GOAWAY 或业务层的断开通知,并让客户端带退避地重连。 - 消息消费者先停止拉取消息,处理完当前批次并提交位点,再退出。 二、新实例预热 冷启动的实例刚上线就承受全量流量,容易出现延迟尖刺或超时,原因包括:JIT 尚未优化代码、缓存为空、连接池未建立、懒加载的类和配置第一次触发。 做法: 1. 把预热放在就绪之前:启动后先加载配置、初始化连接池、预加载热点缓存、对关键接口发送若干合成请求触发类加载和 JIT,完成后 readinessProbe 才返回成功。可以用 startupProbe 给慢启动的应用更长的启动窗口。 2. 慢启动放量:新实例加入后,权重或流量从小到大逐步增加,而不是一次打满。部分负载均衡、网关或服务网格支持慢启动(slow start)功能,是否支持以及参数以具体产品为准。 3. 滚动发布节奏控制:设置 maxUnavailable 为 0、maxSurge 为大于 0,先起新实例并等待就绪,再下线旧实例,避免容量下降。同时设置 minReadySeconds,让实例就绪后再观察一段时间。 4. 缓存预热:对强依赖缓存的服务,发布前后可以通过脚本回放热点请求,或让新实例从旧实例或数据源预加载热点数据。 5. 分批发布:先发一小批,观察错误率和延迟,再继续,出现异常自动暂停和回滚。 三、如何验证 1. 在测试环境持续压测,同时执行滚动发布,统计发布期间的错误数、5xx 比例和 P99 延迟,目标是发布期间接近零错误。 2. 观察日志里是否有关闭过程中被拒绝或中断的请求。 3. 在监控里对比发布时间窗口的 QPS、延迟和错误,有尖刺就按上述两部分逐项排查:是摘流太晚、排空时间不足,还是预热不够。 总结:摘流在前、排空居中、退出在后;预热在前、就绪居中、放量在后。两边都要把时间留够,并且用压测加发布演练来验证。... 展开详请
结论:优雅下线的核心是“先让流量不再进来,再等已有请求处理完,最后才退出进程”;新实例预热的核心是“先完成初始化和预热,再对外宣告可接收流量,并且逐步放量”。下面按这两部分说明,并以 Kubernetes 加负载均衡的常见部署为例。 一、优雅下线(排空) 正确的顺序: 1. 把实例从负载均衡摘除,或让健康检查失败,使新请求不再被路由过来。 2. 等待已经在处理的请求完成,也就是排空(drain)。 3. 关闭长连接、停止消费者、释放资源,然后进程退出。 常见的坑:收到终止信号就立刻退出,或者摘流和终止信号几乎同时发生。因为负载均衡和服务发现的摘除是异步的,需要几秒才生效,这段时间里仍有新请求被转发到正在关闭的实例,表现为发布时的偶发 502、连接被重置。 在 Kubernetes 中的做法: - 为 Pod 配置 readinessProbe,并在收到终止信号时让就绪检查立即失败。 - 利用 preStop 钩子先等待一小段时间(例如睡眠若干秒),给负载均衡、服务发现和各层缓存留出摘除的时间。等待时长要大于摘除生效的耗时,具体数值需要实测。 - terminationGracePeriodSeconds 要大于“preStop 等待时间加上应用排空最长请求的时间”,否则会被强制杀死。 - 应用要处理 SIGTERM:停止接收新连接,等待在途请求完成,再退出。很多框架提供优雅停机开关,例如 Spring Boot 的 server.shutdown=graceful,需要确认已开启并设置超时时间。 - 通过容器入口脚本启动时,要确保信号能传递给应用进程,避免 shell 吞掉信号,可以使用 exec 启动,或使用 tini 这类 init 进程。 负载均衡侧: - 使用云负载均衡时,摘除后端或把权重降为 0 之后,已建立的连接如何处理,取决于具体产品和配置,部分产品提供连接排空或优雅下线选项,请以所用产品文档为准,并实测验证。 - 长连接(WebSocket、gRPC、HTTP/2)不会自然结束,需要应用主动通知客户端重连,例如发送 GOAWAY 或业务层的断开通知,并让客户端带退避地重连。 - 消息消费者先停止拉取消息,处理完当前批次并提交位点,再退出。 二、新实例预热 冷启动的实例刚上线就承受全量流量,容易出现延迟尖刺或超时,原因包括:JIT 尚未优化代码、缓存为空、连接池未建立、懒加载的类和配置第一次触发。 做法: 1. 把预热放在就绪之前:启动后先加载配置、初始化连接池、预加载热点缓存、对关键接口发送若干合成请求触发类加载和 JIT,完成后 readinessProbe 才返回成功。可以用 startupProbe 给慢启动的应用更长的启动窗口。 2. 慢启动放量:新实例加入后,权重或流量从小到大逐步增加,而不是一次打满。部分负载均衡、网关或服务网格支持慢启动(slow start)功能,是否支持以及参数以具体产品为准。 3. 滚动发布节奏控制:设置 maxUnavailable 为 0、maxSurge 为大于 0,先起新实例并等待就绪,再下线旧实例,避免容量下降。同时设置 minReadySeconds,让实例就绪后再观察一段时间。 4. 缓存预热:对强依赖缓存的服务,发布前后可以通过脚本回放热点请求,或让新实例从旧实例或数据源预加载热点数据。 5. 分批发布:先发一小批,观察错误率和延迟,再继续,出现异常自动暂停和回滚。 三、如何验证 1. 在测试环境持续压测,同时执行滚动发布,统计发布期间的错误数、5xx 比例和 P99 延迟,目标是发布期间接近零错误。 2. 观察日志里是否有关闭过程中被拒绝或中断的请求。 3. 在监控里对比发布时间窗口的 QPS、延迟和错误,有尖刺就按上述两部分逐项排查:是摘流太晚、排空时间不足,还是预热不够。 总结:摘流在前、排空居中、退出在后;预热在前、就绪居中、放量在后。两边都要把时间留够,并且用压测加发布演练来验证。

大促容量:全弹性还是预留+弹性混合?缩容策略怎么定?

结论:大促场景用「预留基线 + 预热式弹性」混合,且按层区别对待;缩容策略比扩容更容易出事,要单独设计。 1. 为什么大促不全弹性 大促流量是「时间已知、斜率陡峭」的强脉冲,反应式弹性(HPA 基于指标)天生追不上:扩容要过镜像拉取、应用启动、就绪探针、节点池扩容(CA 又是分钟级),等指标触发再扩,脉冲已经把入口打挂了。而且全弹性带来数据库连接数、下游依赖的剧烈抖动。全弹性适合平时的日常波动,不适合「确定性事件」。 2. 混合策略按层分 ① 有状态与中间件(MySQL/Redis/MQ):纯预留,大促前按容量规划扩到预估峰值水位(压测验证过的水位,不是拍脑袋),结束后保留观察再缩——有状态缩容风险最高;② 无状态应用层:预留基线覆盖日常峰值的 P90,弹性部分承接增量(约占峰值 30%~50%),且用定时预热扩容为主(活动开始时间已知,提前 15~30 分钟扩到位)+ HPA 指标触发兜底超预期流量;③ 核心交易链路比旁路链路预留比例更高,弹性只给非核心。 3. 缩容策略(防抖四原则) ① 拉长稳定窗口:HPA scaleDown stabilizationWindow 300~600 秒,避免流量毛刺触发缩了又扩;② 扩缩阈值错开(滞后带):扩容 70%、缩容 40%,中间留 30% 的死区;③ 分批分层缩:先缩旁路无状态,核心服务最保守,有状态最后;④ 大促结束先观察 24 小时再梯度缩(分 2~3 天),避免「活动刚结束尾部流量还在」时缩过头,配合 PDB + 优雅终止做连接排空。 4. 成本闭环 预留部分用包年包月锁定单价,弹性部分全按量;大促后必做一次容量复盘:记录实际峰值、各层水位命中率、预留浪费比和弹性触发次数,作为下次大促基线的输入。预留命中率长期低于 60% 说明基线虚高,弹性频繁打满说明基线虚低——用数据收敛,而不是每次拍脑袋。... 展开详请
结论:大促场景用「预留基线 + 预热式弹性」混合,且按层区别对待;缩容策略比扩容更容易出事,要单独设计。 1. 为什么大促不全弹性 大促流量是「时间已知、斜率陡峭」的强脉冲,反应式弹性(HPA 基于指标)天生追不上:扩容要过镜像拉取、应用启动、就绪探针、节点池扩容(CA 又是分钟级),等指标触发再扩,脉冲已经把入口打挂了。而且全弹性带来数据库连接数、下游依赖的剧烈抖动。全弹性适合平时的日常波动,不适合「确定性事件」。 2. 混合策略按层分 ① 有状态与中间件(MySQL/Redis/MQ):纯预留,大促前按容量规划扩到预估峰值水位(压测验证过的水位,不是拍脑袋),结束后保留观察再缩——有状态缩容风险最高;② 无状态应用层:预留基线覆盖日常峰值的 P90,弹性部分承接增量(约占峰值 30%~50%),且用定时预热扩容为主(活动开始时间已知,提前 15~30 分钟扩到位)+ HPA 指标触发兜底超预期流量;③ 核心交易链路比旁路链路预留比例更高,弹性只给非核心。 3. 缩容策略(防抖四原则) ① 拉长稳定窗口:HPA scaleDown stabilizationWindow 300~600 秒,避免流量毛刺触发缩了又扩;② 扩缩阈值错开(滞后带):扩容 70%、缩容 40%,中间留 30% 的死区;③ 分批分层缩:先缩旁路无状态,核心服务最保守,有状态最后;④ 大促结束先观察 24 小时再梯度缩(分 2~3 天),避免「活动刚结束尾部流量还在」时缩过头,配合 PDB + 优雅终止做连接排空。 4. 成本闭环 预留部分用包年包月锁定单价,弹性部分全按量;大促后必做一次容量复盘:记录实际峰值、各层水位命中率、预留浪费比和弹性触发次数,作为下次大促基线的输入。预留命中率长期低于 60% 说明基线虚高,弹性频繁打满说明基线虚低——用数据收敛,而不是每次拍脑袋。

缓存与数据库一致性你们用的什么方案?什么量级下换的?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
大部分团队从头到尾就一个方案:先更新数据库,再删缓存(Cache Aside),配合缓存过期时间兜底。别小看它,这方案有一致性窗口但概率极低,绝大多数业务扛得住,读写分离下偶尔读到旧值也通常可容忍。真要抠强一致,就得引入分布式锁或订阅binlog异步删除,复杂度陡增。我们到日请求千万级才遇到第一个真实痛点:删缓存后瞬间大量请求穿透回源。解法是删除后加短时逻辑过期,或用消息队列串行化回源,而不是换一致性方案。所以先问业务能不能容忍秒级旧值,能就别升级方案,别为了报告上的一致性指标给自己挖坑。... 展开详请

CDN 缓存命中率偏低,应如何用日志和缓存规则排查?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
先把请求在日志里拆成四类:命中、回源、不可缓存(动态、带 Cookie、带参数)、状态码非 200 的。拆完问题基本就浮出来了。 最常见三个原因:Cache-Control 给了 no-cache 或 max-age 太小;URL 带随机参数或时间戳,每次都是新对象,得配置忽略指定参数;Vary 或 Cookie 把缓存打散。 还有一类容易漏,预热没做,长尾文件首次访问必然回源;边缘节点容量有限,大文件把热门小文件挤出去了。 看日志别只盯总命中率,按文件类型、状态码、节点维度分组,往往某一类把整体拖下来了。改完规则用响应头里的 X-Cache 和 Age 验证,别只看控制台那条曲线。... 展开详请

HTTP缓存强缓存与协商缓存怎么区分?

叶一一苍生涂涂,天下缭燎,诸子百家,唯我纵横。
区分看一个点:强缓存浏览器自己说了算,压根不发请求,靠响应里的 Cache-Control,max-age 设一年,一年内都读本地。协商缓存每次都要问服务器,带上 If-None-Match 或 If-Modified-Since,资源没变回 304,浏览器再用本地的。实际搭配着用:HTML 文档用协商缓存,保证发版及时生效;带 hash 的 JS 和 CSS 用强缓存,文件名变了缓存自然失效。只记一句也行:变的用协商,不变的用强缓存。... 展开详请

DeepInfer 开源了,你就能自建在线?

DeepInfer 开源不代表你随便就能“自建在线”,这中间隔着几道硬门槛。 首先,算力成本极高。这类推理框架通常针对高并发、低延迟优化,对 GPU 显存和带宽要求苛刻。你得有 A100/H800 级别的硬件集群,或者租用昂贵的云端实例,电费和维护费不是小数目。 其次,工程复杂度不低。开源代码只是起点,你需要自行搭建服务化接口(如 vLLM/TGI 的替代方案)、处理负载均衡、故障转移、模型热更新等生产级问题。很多团队倒在这一步,因为缺乏成熟的运维体系。 最后,合规与安全风险。自建意味着你要自己负责数据隐私、访问控制和审计日志。如果处理不好,一旦泄露或出错,责任全在你身上,不像大平台那样有兜底机制。 所以,除非你有明确的商业需求、充足的算力和专业的运维团队,否则别轻易尝试“自建在线”。对于大多数场景,调用成熟的大厂 API 或基于开源模型本地部署(非在线服务)更实际。 官方详细解决方案:https://cloud.tencent.com/product/cngw... 展开详请

EdgeOne 开启缓存后源站更新的静态资源迟迟不生效,应如何排查?

别在那干等,90%的情况是源站 Cache-Control 设太长了。先去源站看返回头,要是 max-age=86400,EdgeOne 肯定死守缓存。 最快解法:去 EdgeOne 控制台搞“URL 刷新”,填完整路径,别偷懒只写目录。如果还不行,检查是不是浏览器本地缓存没清(Ctrl+F5 试下)。 长期建议:静态资源全上文件名哈希(hash),更新直接换文件名,彻底告别清理缓存的坑。这招一劳永逸,比天天调参数靠谱多了。 官方详细解决方案:https://cloud.tencent.com/product/teo... 展开详请

EdgeOne 开启缓存后源站更新文件,访问仍返回旧内容怎么处理?

GavinGengai学习
先说结论:这基本不是配置错了,是边缘节点上的旧缓存还没失效。源站改了内容,不等于 EdgeOne 边缘节点手里的副本也跟着变,缓存 TTL 没到期之前它会一直吐旧文件。 排查和处理的顺序我建议这样走: 第一,先确认到底是哪一层在返回旧内容。用 curl 打边缘节点,带上 -H "Cache-Control: no-cache" 和 -I 看响应头里的 x-cache(是 HIT 还是 MISS)、age、etag。如果加了 no-cache 还是旧内容,说明是边缘缓存没清,需要去控制台主动「清除缓存 / 刷新」对应 URL 或目录前缀;如果加了 no-cache 就变新了,那问题在浏览器本地缓存层,得让用户强刷或调 Cache-Control。 第二,别靠「覆盖同名文件」指望它自动更新。静态资源同名覆盖是最容易踩的坑,边缘根本不知道你源站换过内容。两条更稳的路:要么改完主动 purge,要么从根上给文件加版本号或内容哈希(比如 app.3f2a.js),URL 变了自然绕开旧缓存。 第三,注意缓存键(cache key)的配置。如果你开了「按查询参数 / 按特定 Header 区分缓存」,你本地测的那个 URL 和别人实际命中的可能不是同一份,会出现「我看着是新的是不是别人还是旧的」的错觉。统一用 curl 带相同参数验证才准。 第四,CDN 缓存和浏览器缓存是叠层的。就算边缘清干净了,用户浏览器还揣着 304 和本地副本,所以上线后如果发现还有人报旧内容,先让他们强刷,再回头查是不是自己的 Cache-Control 头写得太长。 一句话:改源站之后,凡是同名静态资源,养成「改完即 purge 或换版本号」的习惯,比事后排查省事得多。... 展开详请
先说结论:这基本不是配置错了,是边缘节点上的旧缓存还没失效。源站改了内容,不等于 EdgeOne 边缘节点手里的副本也跟着变,缓存 TTL 没到期之前它会一直吐旧文件。 排查和处理的顺序我建议这样走: 第一,先确认到底是哪一层在返回旧内容。用 curl 打边缘节点,带上 -H "Cache-Control: no-cache" 和 -I 看响应头里的 x-cache(是 HIT 还是 MISS)、age、etag。如果加了 no-cache 还是旧内容,说明是边缘缓存没清,需要去控制台主动「清除缓存 / 刷新」对应 URL 或目录前缀;如果加了 no-cache 就变新了,那问题在浏览器本地缓存层,得让用户强刷或调 Cache-Control。 第二,别靠「覆盖同名文件」指望它自动更新。静态资源同名覆盖是最容易踩的坑,边缘根本不知道你源站换过内容。两条更稳的路:要么改完主动 purge,要么从根上给文件加版本号或内容哈希(比如 app.3f2a.js),URL 变了自然绕开旧缓存。 第三,注意缓存键(cache key)的配置。如果你开了「按查询参数 / 按特定 Header 区分缓存」,你本地测的那个 URL 和别人实际命中的可能不是同一份,会出现「我看着是新的是不是别人还是旧的」的错觉。统一用 curl 带相同参数验证才准。 第四,CDN 缓存和浏览器缓存是叠层的。就算边缘清干净了,用户浏览器还揣着 304 和本地副本,所以上线后如果发现还有人报旧内容,先让他们强刷,再回头查是不是自己的 Cache-Control 头写得太长。 一句话:改源站之后,凡是同名静态资源,养成「改完即 purge 或换版本号」的习惯,比事后排查省事得多。

推理成本治理:先上量化还是先上前缀缓存?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
这俩不是二选一,而是解决不同瓶颈。前缀缓存(Prefix Caching)降低的是重复计算的浪费,适合长上下文、多轮对话、批量相似请求的场景,收益立竿见影且几乎无损精度。量化(INT8/INT4/FP8)降的是单次推理的显存和算力占用,但可能带来精度损失和推理异常。 建议顺序:先上前缀缓存。它不改模型、不碰训练 pipeline,部署层就能做,ROI 最高。等缓存红利吃完,再按业务敏感度做分级量化——对精度容忍度高的链路用低比特,核心链路保持 FP16。别一上来就全量量化,出了问题不好定位是模型本身还是量化造成的。... 展开详请

看到价格页后我会做的三步核验?

看到价格页后做的三步核验,我理解为买云产品前的成本核算动作。我们的标准流程:1. 计费模式确认:这个产品是按量(用多少付多少)还是包年包月(固定费)?有没有免费额度?超出后的单价是什么?——很多产品的「入口价」和「实际使用价」差距很大(如按量计费的流量费,入口价看着便宜但流量大时爆账单);2. 成本预估:用你的真实业务量算一遍——比如对象存储:存 1TB + 每月出 500GB 流量,在计费器里输入这些参数得到预估月费用。建议用云厂商的价格计算器(腾讯云的费用估算工具),比心算准;3. 降本手段检查:有没有资源包/预付费包可以买(通常比按量便宜 20-50%)?有没有生命周期规则(如冷数据转归档存储类)可以设?是否需要设置费用告警(余额低于阈值发通知)?这三步做完再下单,月账单不会有惊喜。如果是已有的账单想优化:导出上一月的费用明细,按产品分组看哪项占比最大,逐项找替代方案。... 展开详请

EdgeOne 对于中文文件名如:测试.txt 刷新缓存经常没有效果?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
大概率是 URL 编码不一致的问题。中文文件名在请求时会被编码成百分号形式,比如「测试.txt」会变成 %E6%B5%8B%E8%AF%95.txt,而 EdgeOne 的缓存键和刷新接口对「原始字符」和「编码后字符」的处理可能不一致:你刷新的是 A 形式,缓存里存的是 B 形式,自然刷不掉。排查方法:先从浏览器 Network 面板复制实际请求的完整 URL(编码后的那个),用它去提交刷新。长期方案是源站和分发路径统一改用 ASCII 或哈希命名,中文路径在 CDN 这层坑太多,不值得耗着。... 展开详请

云端AI音乐工厂能接住刘欢级曲库吗?

悼念日AI音乐并发洪峰会压垮平台吗?

悼念日AI音乐并发洪峰会压垮平台吗?

缓存设计最容易出现哪些线上故障?

GavinGengai学习
先说结论: discussion 里常背的那几个词——击穿、穿透、雪崩——都不难,难的是它们发生的时候,你根本不知道自己踩了哪一个。大部分线上事故真正让人难受的,不是某个概念没听说过,而是它换了个伪装找上门。 一、最容易中招的三个,以及它们"长得不一样" 缓存击穿:一个热点 key 过期,那一瞬间几百个请求一起打到数据库。它有个典型特征——监控曲线是一根针:平时平平的,到某个点突然飙上去,然后过一会儿自己又下来了。看到这个形状,十有八九就是它。 缓存穿透:查的 key 压根不存在。黑客拿随机 ID 刷你,缓存里永远命中不了,每次都落到数据库。这个的特征是命中率诡异地低,而且流量涨的时候数据库跟着涨,曲线长得像复制粘贴。 缓存雪崩:一批 key 同时过期。这个最隐蔽,因为它是"正常操作"引起的——为了-uniform 分布,大家喜欢给过期时间设成整点。于是到点全一起死。特征是整个接口的耗时一起抬头,不是某一个接口的问题。 二、三个真踩过的现场 第一个,击穿伪装成了"数据库偶发慢查询"。那次我们排查了一天,最后发现是每天早上八点固定来一波——那批 key 的过期时间都是晚上八点设的,到点集体阵亡。从此我们所有 key 的过期时间都加了随机抖动。 第二个,穿透伪装成了"接口有 bug"。我们给所有查询加了默认值兜底,结果有个场景用户真的需要"查无此数据"和"参数不合法"的区别,被兜底成了一样的返回,前端直接白屏。教训是:穿透防护别一刀切用默认值,null 也要分种类存。 第三个,雪崩是我在压测里自己造的。为了模拟效果,我把过期时间统一设成了 300 秒,结果第二轮压测直接把数据库压垮了。这算个笨办法但很好用——想验证雪崩,就手动把一批 key 的过期时间设成一样,看它塌不塌。 三、几个不那么"标准答案"的点 先更新数据库再删缓存这件事,说实话我们长期是这么干的,但也确实出现过删了又被旧值填回去的情况。如果业务能接受强一致,我的建议是那个功能干脆别用缓存,比折腾删除策略省心。 大 key 是个常年没人提的坑。一个几百 KB 的 value,读一次能把内网带宽吃满,业务代码看着完全正常。上线前顺手查一下 value 体积,能省掉后面一半的怪事。 缓存过期路径一定要压测。90% 的缓存故障只发生在 key 失效那一刻,平时跑一百遍都是好的。把过期时间调到 30 秒跑一天,比留着它过期时间三个月更保险。 四、一句可操作的收尾 真要排优先级,我会把顺序排成:先盯命中率和过期那根针 → 再查 value 体积 → 最后才纠结一致性策略。 你们踩过的缓存故障里,最麻烦的是哪一种?有没有那种"看起来是缓存问题,查到最后发现是别的地方"的?我特别想听听反直觉的那种。... 展开详请
先说结论: discussion 里常背的那几个词——击穿、穿透、雪崩——都不难,难的是它们发生的时候,你根本不知道自己踩了哪一个。大部分线上事故真正让人难受的,不是某个概念没听说过,而是它换了个伪装找上门。 一、最容易中招的三个,以及它们"长得不一样" 缓存击穿:一个热点 key 过期,那一瞬间几百个请求一起打到数据库。它有个典型特征——监控曲线是一根针:平时平平的,到某个点突然飙上去,然后过一会儿自己又下来了。看到这个形状,十有八九就是它。 缓存穿透:查的 key 压根不存在。黑客拿随机 ID 刷你,缓存里永远命中不了,每次都落到数据库。这个的特征是命中率诡异地低,而且流量涨的时候数据库跟着涨,曲线长得像复制粘贴。 缓存雪崩:一批 key 同时过期。这个最隐蔽,因为它是"正常操作"引起的——为了-uniform 分布,大家喜欢给过期时间设成整点。于是到点全一起死。特征是整个接口的耗时一起抬头,不是某一个接口的问题。 二、三个真踩过的现场 第一个,击穿伪装成了"数据库偶发慢查询"。那次我们排查了一天,最后发现是每天早上八点固定来一波——那批 key 的过期时间都是晚上八点设的,到点集体阵亡。从此我们所有 key 的过期时间都加了随机抖动。 第二个,穿透伪装成了"接口有 bug"。我们给所有查询加了默认值兜底,结果有个场景用户真的需要"查无此数据"和"参数不合法"的区别,被兜底成了一样的返回,前端直接白屏。教训是:穿透防护别一刀切用默认值,null 也要分种类存。 第三个,雪崩是我在压测里自己造的。为了模拟效果,我把过期时间统一设成了 300 秒,结果第二轮压测直接把数据库压垮了。这算个笨办法但很好用——想验证雪崩,就手动把一批 key 的过期时间设成一样,看它塌不塌。 三、几个不那么"标准答案"的点 先更新数据库再删缓存这件事,说实话我们长期是这么干的,但也确实出现过删了又被旧值填回去的情况。如果业务能接受强一致,我的建议是那个功能干脆别用缓存,比折腾删除策略省心。 大 key 是个常年没人提的坑。一个几百 KB 的 value,读一次能把内网带宽吃满,业务代码看着完全正常。上线前顺手查一下 value 体积,能省掉后面一半的怪事。 缓存过期路径一定要压测。90% 的缓存故障只发生在 key 失效那一刻,平时跑一百遍都是好的。把过期时间调到 30 秒跑一天,比留着它过期时间三个月更保险。 四、一句可操作的收尾 真要排优先级,我会把顺序排成:先盯命中率和过期那根针 → 再查 value 体积 → 最后才纠结一致性策略。 你们踩过的缓存故障里,最麻烦的是哪一种?有没有那种"看起来是缓存问题,查到最后发现是别的地方"的?我特别想听听反直觉的那种。
领券