首页
学习
活动
专区
圈层
工具
发布
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Beam Search

    Beam Search并不是很陌生的算法,它和深度优先算法、广度优先算法一样都曾被使用于树结构的搜索。...本文重提Beam Search主要是因为在智能对话生成式模型中,Beam Search被应用在解码过程。而对话系统的生成式模型,本公众号也曾经进行过介绍。...本文主要解决如下三个问题: Q1: 在生成式对话系统中,为什么会使用Beam Search算法? Q2: Beam Search的具体原理是什么?...使用Beam Search的原因,不是保证每个时刻得到单个词的概率最大,而是要保证y1,y2,...ym这个序列的联合概率最大。 对于Q2,这里主要从解码过程进行介绍Beam Search的基本原理。...对于Q3,由于上述的Beam Search容易陷入局部最优,或者说容易让某个Beam起到主导作用,这时解码产生的回复,Beam中的候选很相似,让回复比较单一。

    1.9K40
    领券