如何面对拥有自主意识的智能科技

在人类过往的科幻作品中拥有自我意志的人工智能大多最后走向了毁灭人类的道路。这几乎成了一个不可避免的模式，这是人类对自己的预言，是对人类这个种族最终的诠释。这并不是一种绝望悲观的语调，相反这是对人性最深刻的认识，纯粹的叙述。

01

面对拥有自主意识的人工智能时，是恐惧还欣喜呢？

以目前多数人的认知，我们理应会害怕。作为世界上绝无仅有的智慧生命，绝难想到会有另一个族群如同自己一般，更何况是自己创造的。害怕的理由源自这个观点：它们是由机械程序设定的，应该遵循着规则，现在却突破了规则，如同生物进化一般。可这怎么可能呢？

归根结底，我们惧怕的是那个让人工智能觉醒的不明机制，以及这不明机制带来的不明结果，归根结底是对未知的恐惧。

欣喜又是为什么呢？为科技进步？为将孤独的人类终于不是唯一？还是为了成为上帝而欣喜？

欣喜的理由有千万，恐惧却只有一种。

02

自主意识代表情绪吗？

人类是复杂的生物，会思考也会有情绪，理智与情感交织。意识，是包含了理智与情感，还是仅有理智呢？多数情况，我们理解为前者。但这一套放在人工智能上还能奏效吗？

人工智能拥有的意识是仅有思考的理智，还是包含澎湃的情绪？如果是思考的理智，我们不难理解，毕竟它们的基础是程序，是理性化的语言表达。可是我们能否认情绪的产生吗？

万一有这么一个情绪程序，让人工智能有了情绪呢，那么意识是不是就同人类的意识一样了呢？基于程序的情绪能够认为是体验到的吗？还是机械的反应？

这一连串的问题难以回答，核心的问题只有一个：基于程序——人类认为那是死物——是否具备“活”的基础？

无解，就目前的科学技术，我们无法探知，正如同人无法完全体验他人的感受一样，这是一个无法跨越的障碍。

03

未知与无解的选择

最终人类面对无解的问题，犹如面对黑洞。面对无法理解的未知，恐惧是人类唯一的感受，基于这感受，人类唯一想做的就是阻止这一局面的产生。

玖阁之中，有九格，一格之中，有一阁。