GPT-4技术报告中文版，千呼万唤始出来！（附下载）

本技术报告介绍了GPT-4，这是一个大型多模态模型，能够处理图像和文本输入并产生文本输出。这种模型是一个重要的研究领域，因为它们具有广泛应用的潜力，如对话系统、文本摘要和机器翻译。因此，近年来，它们一直是人们极大兴趣和进步的主题【1-28】。

开发这种模型的主要目标之一是提高它们理解和生成自然语言文本的能力，特别是在更复杂和微妙的场景中。为了测试它在这种情况下的能力，GPT-4在最初为人类设计的各种考试中进行了评估。在这些评估中，它表现得相当好，通常得分超过绝大多数人类考生。例如，在一次模拟律师考试中，GPT-4的分数在考生中排名前10%。

这与GPT的3.5分形成鲜明对比，后者排名倒数10%。在一套传统的NLP基准测试中，GPT-4优于以前的大型语言模型和大多数最先进的系统（通常有特定于基准测试的训练或手工工程）。在MMLU基准【29，30】上，一套涵盖57个科目的英语多项选择题，GPT-4不仅在英语方面远远超过现有模型，而且在其他语言方面也表现强劲。在MMLU的翻译版本上，GPT-4在26种语言中的24种超过了英语的最先进水平。我们将在后面的章节中更详细地讨论这些模型功能结果，以及模型安全性改进和结果。

该报告还讨论了该项目的一个关键挑战，即开发深度学习基础设施和优化方法，这些方法在广泛的规模上表现可预测。这使我们能够预测GPT-4的预期性能（基于以类似方式训练的小跑步），并在最后一次跑步中进行测试，以增加我们训练的信心。