Anthropic CEO: 为强人工智能的到来做好准备，AI或为我们带来“压缩的21世纪”

Claude CEO Dario Amodei 最近在他的博客上发文 《Machines of Loving Grace》，提到强人工智能来临后，我们为面对一个怎样的世界。

Dario 是神经科学家出身，是斯坦福大学医学院的博士后学者。后面在 OpenAI 担任研究副总裁。从 OpenAI 离开后创业做了 Anthropic 公司（Claude 模型背后的公司）。他不像 OpenAI CEO 山姆 · 奥特曼 那么高调，更理性、客观、贴近实际。文章有很多有意思的观点。

Dario 认为强人工智能势必在未来 5- 10年内到来，而我们大多数人并没有作为迎接它到来的准备。虽然 Anthropic 公司花了大量的资源在 AI 安全方面，相比 OpenAI 也更多强调安全。但他认为，强人工智能的到来为我们带来的更多是好处而不是坏处。

他首先从生物医药方面的研究举例：

Crispr 在上世纪八十就被发现，但我们真正让他应用在基因编辑领域却是2015年，晚了整整25年。mRNA疫苗也是这样。有很多一开始不被看好的研究，最后开花结果，科学史反复告诉我们，科学发现并不会以人的意愿为转移。并不是投入更多的努力和资源，就会有更多的成果。要取得更多的成果，我们要更多的尝试、深挖。AI将使得大量并行做研究成为可能。

一直以来，把AI应用在生物学领域一直以来都受到很多质疑，生物学领域并没有那么多标准的数据，同时数据的质量也不高。这主要是由生物体本身的复杂性所导致的。

他认为生物学家们应该换一种思路，尽管存在数据、物理世界的速度和固有复杂性等限制因素。应该把设计实验、操作自动实验机器人或者指导人类实验员的权限赋予到强人工智能。让他能更高效的设计指导实验、分析结果、优化猜想，发明新的生物学方法或测量技术等方式，全面加速生物学研究。不应该将AI只看作一个数据分析的工具，而是可以执行、指导和改进生物学家的几乎所有工作。

这意味着 AI 将为我们带来压缩的21世纪，科学研究未来五年或十年内，在AI的帮助下，将取得原本需要100年的进展。随着大多数的癌症和传染病可以被治愈，人类的平均寿命将有希望到150岁。再进一步，也许不是人类最多能活多少岁，而是我们希望活多少岁。

在提到神经科学研究的时候，Dario认为目前神经科学家们并没有完全吸收AI带来的新认知。人工神经元和生物神经元结构完全不同，但他们都能催生出智能。人工神经元显然要简洁很多。从这个角度来说，人工神经元应该是对智能的更高维度的抽象。现在的神经科学研究并没有充分认识到这一点。为什么我们的 规模假说/痛苦教训的概念（scaling hypothesis / bitter lesson）能产生智能。为什么一个简单的目标函数加上大量数据就能驱动复杂得令人难以置信的行为？

关于人工智能在更多领域做的比人类更好后，我们该去做什么的问题。Dario也提出了很有意思的观点，他认为 首先大多数人在各自的领域并无法作为比所有其他人都好，我们只是具有一些比较优势。如果人工智能在某些领域做的比所有人类都好，这其实并没有多么糟糕。每个人都有很多爱好，比如我每周就会分配一些时间给爱好，去游泳爬山。再做这些事的时候，我们并不期望这些事能带来经济回报，或者比别人做的更好到多少。那么有了强人工智能，我们可以有更多时间做自己的爱好。更多的时间，做一些非常复杂的事情。

如果我们把当前狩猎采集时代的人类带到今天的现代社会，他们也会很困惑。他们不会了解为什么我们现在大多数人不需要出去捕猎或者种庄稼，也能够吃饱穿暖。人类历史上，从狩猎采集、农耕、封建、工业革命，每一次都伴随着整个社会的经济模式和组织方式的彻底变革。这在我们的历史上并不罕见。所以我们也无需对AI可能带来的下一次经济变化太过于担心，让AI去劳动，给全民发放最低生活保障可能是其中最最微不足道的变化。总结说就是 道路是曲折的前途是光明的。