Meta：我们新的语音生成AI模型对公众来说太危险了

站长之家（ChinaZ.com）6月20日 消息:Meta 表示其新的语音生成 AI 模型如果公开发布就太危险了。

日前，Meta 宣布了一种名为 Voicebox 的新 AI 模型，据称它是迄今为止用于语音生成的最通用的模型。Meta表示，虽然生成式语音模型有许多令人兴奋的用例，但由于可能被滥用的潜在风险，他们目前不会公开Voicebox模型或代码。

该模型仍然只是一个研究项目，但 Meta 表示可以从短短两秒的样本中生成六种语言的语音，并且可以在未来用于“自然、真实”的翻译等。与其他文本转语音模型不同的是，Voicebox能够执行许多未经过训练的任务，包括编辑、去除噪音和样式转换。

值得一提的是，此前谷歌也对其员工发出了明确的指示:要小心聊天机器人，即使是 Bard。这家大型科技巨头已建议员工不要将机密信息输入 OpenAI 的 ChatGPT 或谷歌自己的 Bard 等聊天机器人，以免泄露。Alphabet 担心员工将敏感信息输入这些聊天机器人，因为人工审阅者可能会审阅聊天条目。这些聊天机器人还可能使用之前的条目来训练自己，从而构成另一个泄密风险。