一个样本也能准确学习，OpenAI 最新元学习算法邀你体验

雷锋网 AI 科技评论按：OpenAI 今天发表了一篇博客介绍了自己新设计的元学习算法「Reptile」。算法的结构简单，但却可以同时兼顾单个样本和大规模样本的精确学习。OpenAI 甚至还在博客页面上做了一个互动界面，可以直接在四个方框里画出训练样本和要分类的样本，算法可以立即学习、实时更新分类结果。

用 Reptile 实时小样本学习，分类手绘图案。训练数据和要分类的图案都可以任意绘制。欢迎到博客页面 自行尝试一下。

根据 OpenAI 的介绍，这个新的元学习（meta-learning）算法 Reptile 的运作原理是反复对任务采样、在其上运用梯度下降，并从初始参数开始持续地向着任务上学到的参数更新。Reptile 可以和应用广泛的元学习算法 MAML （model-agnostic meta-learning）达到同样的表现，同时还更易于实现、计算效率更高。雷锋网 AI 科技评论把这篇介绍博客全文翻译如下。

元学习是一个学习「如何学习」的过程。一个元学习算法要面对一组任务，其中每一个任务都是一个学习问题；然后算法会产生一个快速学习器，这个学习器有能力从很小数目的一组样本中泛化。小样本分类（few-shot classification）就是一个得到了充分研究的元学习问题，其中的每个任务都是一个分类问题，这里的学习器只能看到每个类别的 1 个到 5 个输入-输出样本，然后它就要开始对新的输入样本进行分类。

Reptile 的工作方式

和 MAML 类似，Reptile 首先会为神经网络寻找一组初始参数，以便网络稍后可以根据来自新任务的数量不多的几个样本进行精细调节（fine-tune）。不过，相比于 MAML 需要在梯度下降算法的计算图中展开并求导，Reptile 只需要简单地在每个任务中以标准方法执行随机梯度下降（SGD），并不需要展开一个计算图以及计算任何二阶导数。这样的设计让 Reptile 所需的计算资源和存储资源都比 MAML 更小。Reptile 的伪码如下所示：

这里的最后一步也有另一种做法，可以把 ΦW 整体作为梯度，然后把它嵌入进 Adam 之类的更复杂的优化器中。

OpenAI 的研究人员们从一开始就感到惊讶，惊讶的是这个算法居然能运行出结果。当 k =1 的时候，这个算法就相当于是「联合训练」，在所有任务的混合体中做随机梯度下降。虽然联合训练在某些状况下可以作为一种有用的初始化手段，但是零样本学习（zero-shot learning）不可用的时候（比如当输出标签被随机替换了），它所能学到的东西就非常有限。Reptile 算法中需要 k