元学习在语言异常检测中的小样本应用

元学习框架在语言异常检测中的应用

摘要

研究提出了一种元学习框架，用于在标注数据有限的情况下检测不同领域的人类语言异常。语言异常（包括垃圾邮件、虚假新闻和仇恨言论）因其稀疏性和变异性而构成重大挑战。该方法将异常检测视为小样本二分类问题，并利用元学习训练能够跨任务泛化的模型。

方法

问题设定

• 将异常检测建模为小样本二分类任务
• 使用情景训练（episodic training）结合原型网络（prototypical networks）
• 采用领域重采样技术快速适应新异常检测任务

实验设置

使用来自以下领域的数据集进行评估：

• SMS垃圾邮件
• COVID-19虚假新闻
• 仇恨言论

评估重点在于模型在未见任务上使用最少标注异常样本时的泛化能力。

实验结果

实证结果表明：

• 在F1分数和AUC指标上显著优于强基线模型
• 证明了元学习方法在文本异常检测任务中的有效性

资源发布

为促进小样本文本异常检测的进一步研究：

• 提供PyTorch实现代码
• 发布基准测试数据集
• 代码可通过GitHub获取