人工智能幻觉也可以帮助人类

人工智能（AI）已经超越了科幻小说领域，越来越多的人开始尝试利用它。凭借从预测分析到创意内容生成等各个领域的应用程序，人工智能将改变我们的生活和工作方式。人工智能的一个有趣方面，特别是在语言模型领域，是被称为“幻觉（hallucination）”的现象。

人工智能幻觉

在人工智能术语中，幻觉是指产生输出，虽然合理且连贯，但可能与现实或已知数据不能完全符合。这些模型在负责生成或预测信息时，可以编造看起来令人信服但与实际事实或真相不符的细节。

幻觉的根本原因在于这些模型的统计性质。人工智能模型从大量数据中学习模式，并使用这些模式来生成输出。然而，他们对数据或整个世界缺乏与人类类似的理解，导致他们只能根据他们从训练数据中学到的模式生成似乎合理的信息，但不一定与事实一致。当模型的任务是在其训练数据之外生成信息时，或者当输入模棱两可或提示不足时，这种倾向尤为明显。

如何控制人工智能幻觉

在人工智能模型中控制和优化幻觉是一个值得深入研究的问题。一个常见的策略是在范围更窄的数据集上微调模型，并制定具体的指南，以遏制幻觉。也可以使用数据增强方法，其中训练数据辅以各种示例，包括明确的反例，以引导模型远离某些类型的幻觉。

另一种方法是，如果模型生成了输入中不存在的信息，则在训练过程中施加明确的惩罚。使用人工反馈来指导模型也可能是有益的。例如，有公司已采用通过人类反馈进行强化学习，以减少其模型中的有害或不真实的输出。

有益的幻觉

虽然人工智能幻觉通常被视为需要克服的挑战，但它也具有某些好处，特别是在新颖性受到赞赏的创造性任务中。在DNA语言模型领域可以看到建设性使用幻觉的一个典型例子。

DNA语言模型，也称为基因组或核苷酸语言模型，利用大型语言模型的能力来发现DNA序列中的统计模式。他们接受了大量DNA序列的训练，以提高我们对基因组语法的理解，其应用范围从预测基因组特征到基因相互作用。

在这种情况下，产生幻觉的能力被证明是有益的，特别是在蛋白质设计中。语言模型可以生成全新的蛋白质序列，这些序列可以折叠成具有潜在有用特性的新型蛋白质。这种“创造性”能力在生物医学研究和药物开发中非常宝贵，因为新蛋白质的发现可以带来创新的治疗和疗法。

此外，这些模型已被用于在各种创意任务中产生新的视角或者观点等，包括为视频游戏生成诗歌、故事和对话。同样，在艺术和音乐领域，人工智能幻觉被用来生成新的和独特的图像或音乐作品。

虽然人工智能的幻觉带来了挑战，但它也为创新和创造力开辟了道路。关键在于以可控的方式利用这种能力，并清楚地了解每个特定情况下的潜在风险和收益。随着人工智能的不断发展和成熟，看到我们如何进一步优化和利用这一现象来推动创新和发现将是值得期待的。