我们令训练数据集为
, 对于一个新的点
, 我们希望给出一个预测分布
其中,
是
阶多项式的参数 在PRML一书中,直接给出了这么一个结论
预测分布由高斯分布
给出 其中均值
方差
其中
,
这个结论给的非常突然,让人无所适从,我决定花点时间分析一下,并记录下来,以供大家参考!
如上式所述,其可以被写成积分的形式,我们利用一些结论来进行分析
, 其正比于先验分布和似然的乘积
如果$\alpha, \beta$ 已知, 可以写成:
所以我们可以继续将积分式子改写:
从而,对于高斯分布
, 可以写成:
同样的,我们可以写出N个高斯分布乘积的形式
于是,如下:
如果我们将
, 且
则有
注意到,高斯积分的形式
故,
相当于对于一个二次式进行配方,我们简单记作:
从而,
存在一个常数项,即
从而,
代入到原式得
对于指数部分的系数:
而指数部分为:
故,我们可以从上式中,直接推出均值
倘若上述配方成功,方差为