利用射频、支持向量机和KNN等异构算法可以实现叠加。然而,这种异质性能在套袋或提升中实现吗?例如,在增强,而不是在所有的迭代中使用RF,我们可以使用不同的算法吗?
发布于 2021-04-10 08:35:41
简短的回答是肯定的。助推和打包元算法都不会假设特定的弱学习者,因此任何学习者都可以这样做,无论是使用相同的算法还是使用不同的算法。
在定义元算法的方法上,它们使用弱学习者作为黑匣子模型,不考虑它们的实现或算法原理,也不考虑它们的相似性。
用于促进:
在机器学习中,boosting是一种基本减少偏倚的集成元算法,也是监督学习中的方差1算法,也是一组将弱学习者转化为强学习的机器学习算法。2 Boosting是基于卡恩斯和瓦利安特提出的问题(1988,1989):3.:“一组弱学习者能创造出单个强学习者吗?”弱学习者被定义为一个分类器,它只与真正的分类稍有关联(它能比随机猜测更好地标记示例)。相反,一个强的学习者是一个分类器,它与真正的分类有很好的相关性.
用于套袋:
虽然它通常被应用于决策树方法,但它可以与任何类型的方法一起使用。套袋是模型平均法的特例。
要提高学习成绩所需的条件是弱学习者应该是不稳定的(因此,受干扰的学习者版本会影响结果),除此之外,正如前面提到的,学习者是黑匣子。
供进一步参考:
https://datascience.stackexchange.com/questions/92847
复制