对输入prompt中的每个词，我们生成三个向量：

 向量，去点积序列中所有词的 

Mask是注意力计算中的一个控制开关，用于在Softmax归一化之前，有选择地屏蔽掉（遮盖住）某些位置的信息，使其不参与当前步骤的注意力计算。

当前位置的输出只能依赖于它之前已生成的词，而不能“偷看”未来的词。否则在推理时会造成信息泄露（因为未来词尚未生成）。

在注意力分数计算之后，需要先进行mask掩码，才能做后续计算。

假设用户输入8个token，prefill阶段的mask如下图黄色部分。

decode阶段一个一个词的生成，每一个query向量的mask是一行。

prefill阶段：q_len = k_len = prefill_len

decode阶段：q_len = 1，k_len=prefill_len+N（N代表第几步decode）

假设用户输入8个token，其中前4个token命中了KV Cache，实际输入模型的query只有后4个token，prefill阶段的mask如下图黄色部分。

prefill阶段：q_len = 没有命中的cache的token数，k_len = prefill_len

假设用户输入8个token，其中前4个token已经计算过，mask的计算和Prefix Caching一样。

MTP，即多Token预测，是一项用于推理加速的技术。它的核心思想是让模型从传统的“每次只猜下一个词”的自回归方式，转变为一次性智能推测多个后续Token作为候选，然后集中验证和修正。

假设用户输入8个token，Prefill阶段计算完成，用到的是图中黄色部分的mask。

MTP一次生成4个token，第一次MTP decode生成的mask是图中绿色部分。

第二次MTP decode生成的mask是图中橙色部分。

decode阶段：q_len = mtp_token，k_len=prefill_len+N * mtp_token（N代表第几步decode，mtp_token代表MTP模型一次最多可以生成多少个token）

总结：无论是prefill，还是decode，mask的作用都是掩码当前query词之前的key向量，被掩码掉的部分是对结果没有用的。

vLLM优化模式下Mask生成

AI Infra工程师

人工智能

本文详解注意力机制中的mask计算过程，涵盖prefill和decode阶段的不同场景，包括PrefixCaching、ChunkPrefill和MTP技术。重点解析mask如何控制信息流，防止未来信息泄露，确保模型仅关注有效上下文。适用于理解Transformer推理优化技术。

AI驱动 智领未来

tione

文章

问答

视频

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

vLLM优化模式下Mask生成

vLLM优化模式下Mask生成

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐