首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Viterbi(维特比)算法在CRF(条件随机场)中是如何起作用的?

首先,让我们简单回顾一下BERT和CRF在命名实体识别中各自的作用: 命名实体识别中,BERT负责学习输入句子中每个字和符号到对应的实体标签的规律,而CRF负责学习相邻实体标签之间的转移规则。详情可以参考这篇文章CRF在命名实体识别中是如何起作用的?。该文章中我们对CRF做了简单易懂的介绍,其中提到CRF的损失函数计算要用到最优路径,因为CRF的损失函数是求最优路径的概率占所有路径概率和的比例,而我们的目标是最大化这个比例。那么这里就涉及到计算最优路径的问题。这里的路径在命名实体识别的例子中,就是最终输出的与句子中的字或符号一 一对应的标签序列。不同标签序列的顺序组成了不同的路径。而CRF就是要找出最正确的那条标签序列路径,也就是说这条标签路径的概率将是所有路径中最大的,那么我们可以穷举出所有可能的标签路径,计算出每条路径的概率和,然后比较出最大的那条,但是这样做的代价太大了,所以crf选择了一种称为维特比的算法来求解此类问题。

05

Viterbi(维特比)算法在CRF(条件随机场)中是如何起作用的?

命名实体识别中,BERT负责学习输入句子中每个字和符号到对应的实体标签的规律,而CRF负责学习相邻实体标签之间的转移规则。详情可以参考这篇文章CRF在命名实体识别中是如何起作用的?。该文章中我们对CRF做了简单易懂的介绍,其中提到CRF的损失函数计算要用到最优路径,因为CRF的损失函数是求最优路径的概率占所有路径概率和的比例,而我们的目标是最大化这个比例。那么这里就涉及到计算最优路径的问题。这里的路径在命名实体识别的例子中,就是最终输出的与句子中的字或符号一 一对应的标签序列。不同标签序列的顺序组成了不同的路径。而CRF就是要找出最正确的那条标签序列路径,也就是说这条标签路径的概率将是所有路径中最大的,那么我们可以穷举出所有可能的标签路径,计算出每条路径的概率和,然后比较出最大的那条,但是这样做的代价太大了,所以crf选择了一种称为维特比的算法来求解此类问题。

00
您找到你想要的搜索结果了吗?
是的
没有找到

有关动态规划问题DP的详细讲解

首先我们要注意,我们学习DP主要是学一种解决问题的思想,而不是一种算法。 动态规划的思想 动态规划是求解多阶段决策过程最优化的方法。 通过把多阶段过程转化为一系列的单阶段问题,利用各阶段之间的关系,逐个求解。 找到各阶段之间的关系是难点。 举个栗子~ 矩阵取数问题 从矩阵的左上走到右下,每次只能向右或者向下走,问怎样走才能使得最后走过路径的和最 大。 分析 当然可以用BFS, DFS去暴力搜索出所有的矩阵,但是暴力完全体现不出任何优美。 如果用的思想,应该怎么做?? 首先我们想到的一定是贪心策略,每次只能向右或者向下两种选择,那么 是不是只要每次都选择 右面和下面 的中,其元素最大的那个方向,最后的答案就是最大的呢?

01
领券