OpenAI与谷歌前CEO合作，启动1000万美元Superalignment资助项目

深潮 TechFlow 消息，OpenAI宣布与谷歌前CEO Eric Schmidt合作启动价值1000万美元的“超级对齐(Superalignment)快速资助”Grants项目，支持技术研究，以确保超人类AI系统的对齐和安全。这项资助项目专注于未来超人类AI系统可能面临的对齐和安全挑战。这些系统将具有强大能力，既可能带来巨大益处，也可能存在重大风险。当前的AI对齐技术，如基于人类反馈的强化学习（RLHF），可能无法应对超人类AI的复杂性和创造性行为。该研究资助类别包括从弱到强的泛化、可解释性、可扩展的监督等。

资助项目将为学术实验室、非营利组织和个人研究者提供10万至200万美元的资助。对于研究生，还将提供一年期的15万美元OpenAI超级对齐奖学金，包括75,000美元的津贴和75,000美元的计算和研究资金。资助项目不要求申请者有对齐领域的先前经验，欢迎首次研究对齐的研究者申请。申请截止日期为2月18日。