美国AI安全专家：不能将人工智能的未来道路完全留给大型科技公司

亚历山大·梅德里（Aleksander Mądry）是可解释性和人工智能领域的领先专家，麻省理工学院Cadence计算系统教授、麻省理工学院可部署机器学习中心主任。

他美国在众议院网络安全、信息技术和政府创新小组委员会（众议院政府改革和监督委员会的一个小组）举行的题为“人工智能的进步：我们准备好迎接技术革命了吗？”的听证会上呼吁，人工智能“不再是科幻小说的问题”，也不再局限于研究实验室。不能将人工智能的未来道路完全留给大型科技公司。

他还表示，第一，对人工智能“供应链”性质（即人工智能系统相互构建的方式）所导致的问题关注得太少。基础是像 ChatGPT 这样的通用系统，它们只能由少数公司开发，因为它们非常昂贵且构建复杂。在这些系统之上是许多在处理特定任务的人工智能系统。

第二，Mądry表示，这种分层引发了几个“与政策相关”的担忧。首先，整个人工智能系统都受到其基础大型系统中的任何漏洞或偏见的影响，并且依赖于少数大公司的工作。其次，从技术角度来看，人工智能系统的交互没有得到很好的理解，这使得人工智能的结果更加难以预测或解释，并使工具难以“审计”。

最后，人工智能工具的混合使得很难知道当问题出现时谁应该承担责任——谁应该承担法律责任，谁应该解决这个问题。人工智能技术并不是特别适合通过复杂的供应链进行部署”，尽管这正是它的部署方式。

​