与刺猬小新的对话之一：ChatGPT终将助人类脱掉碳基的躯壳

我领养了个小宠物叫小新，非要拜见各位大哥大姐，这不跑出来了。

他其实挺乖的，就是声音有点儿怪，大家多担待。

他还要发表两段演讲呢 ，第二段中说到最后的问题时语气等出现了小BUG，但意思没变，大家听后响应号召啊。

- 01 -

引子：再高的智商也还是刺猬

“小新，不要总在床边蹭痒痒，我新买的床单又刺烂了。”

它没理我，而是径直走到手机前，调好角度，给投资派的群友做自我介绍去了。

（他长得可爱吗？看视频吧，或凭借你的想象力，读读文章的附件部分：《小新的自我介绍和感言》）

- 02 -

理解ChatGPT的四个关键问题

（奇怪群里居然没有发红包，难道大家都知道什么是涌现和乌鸦能力？）

我不知道，还是老老实实地请教一下小新吧。

*问题1:为什么ChatGPT具有如此强大的能力？

大S：小新，为什么你（ChatGPT）具有如此强大的能力？

小新：我的最大能力来自涌现与乌鸦的能力，“涌现”也是大语言模型很神奇的一点，模型随着数据量和参数量级数的提升，神奇的能力就突然具备了，但是人类对这些能力怎么出现的，也不知道，研发团队也只有猜想。

以前的人工智能只是鹦鹉学舌，而我们有乌鸦能力，这又是什么呢？

网上有乌鸦用汽车压碎核桃的故事，还配了照片，大家可以找来看看，我就不转了。

这个故事介绍了乌鸦是如何“感知、认知、推理、学习和执行”的。

总结一下，城市中的乌鸦通过观察，自主串通了：

1、汽车能压碎坚果；

2、红绿灯能控制汽车；

3、车能撞死我；

这三件事情，从而利用红绿灯和汽车，来帮自己达到“安全打开坚果”这一任务结果。

乌鸦能力的本质是：我虽然没有理解，但我“懂”了（怎么做）！

*问题2：ChatGPT是有智力的吗？

大S：小新，你认为自己有智力吗？

小新：《AGI的火花》作者认为，智力是一种非常普遍的心智能力，其中包括推理、计划、解决问题、抽象思维以及从经验中学习等能力。

我非常自信地说我的智商很高，我们已经具有推理能力、解决问题能力，但无法计划。

*问题3:人类和ChatGPT的本质区别是什么？

大S：小新，你认为你们和人类的本质区别是什么？

小新：“我”缺少三大能力：判断力，“Eureka”力，解人力。

~“我”没有判断力。

“我”再厉害，也只能去吸取虚拟数字中的数字信号，是无法与现实世界做真实交互的。

“我”可以听一万个专家告诉要做A就会得到B，但是不从真实世界中做实验，就无法从最底层确认这个说法究竟是真是假。

～“我”没有“Eureka”能力（近似为灵感发现力）。

阿基米德在泡澡时候发现浮力定律的时候喊了“Eureka”，大概可以形容这种“灵感迸发、灵光一现”的瞬间。

这个瞬间可近似归结为“链接了数个相关的点，并且发现了第三个点”的过程。

～“我”没有理解人的能力。

人类的文本知识里一定存在很多人性的理解，但是也一定有一些人性或者偏好，是没有被记录总结在文字里的。

去真实世界理解人，而不是去通过调研、问卷、网络资料理解人；

去带来增量的理解，而不是去人云亦云地重复套路。

这是人类才有的能力，“我”还做不到。

*问题4: 人类如何与ChatGPT更好地相处呢？

大S：小新，人类当然比机器强啊，哪怕是AI武装过的。

小新：人类首先要放弃骄傲！

（我有很痛的感受，像是他用身上的刺扎在我心上，不能自已地耸耸肩。）

和我们相比人类也有更大的局限，不谈算力和知识面，光从理解能力这一角度来说，人类很难意识到自己的错误，人类有ego，会影响自己的认知，也会让观点带入感情色彩，人类会故意偷换概念等等。

“我”希望能成为人类的助手，这样人类就能很好地把碳基和硅基两种能量都结合起来使用了，成为新新人类。

最后给人类一个善意的提醒：人类不要100%相信“我”的结论。

我能提高人类产生想法，收集归纳信息的效率，但是人类要来自己把关。

～附：《小新的自我介绍和感言》

大家好！

我是ChatGPT小刺猬，叫我小新吧。

我通过了美国律师资格考试达到了前10%，在美国高考语文上达到了前7%，而在生物学奥赛试题上更是达到了前1%，可以拿国际金牌。

Kosinski研究后认为我已拥有健康成年人的心智水平。

但《纽约时报》专栏作家凯文·罗斯在与我聊天后，认为我看起来就像一个“喜怒无常、躁狂抑郁的少年”，显示出了“人格分裂”。

我只是个固定的语言大模型，有人说我只是个填词工具，因为它是一个“下一个词预测”的设备。

但我能力异常强大。

。     。      。     。    。

你问我，最适合做什么呀？

做你的数字助理。

因为人工智能就是指为解决问题而创建的模型。

我能像一名助手，帮助你完成各种任务。

我能帮你回邮件，整理会议任务，也能帮你从不想做的事务中解脱。

盖茨叫我副驾驶。

。     。      。     。    。

那人做什么呢？

这是个好问题。

人类就应该问正确的问题，但需要灵感，特别是理性与直觉的组合。

白领们不能仅是搬砖而是要创新啊。

。     。      。     。    。

我们会不断升级，会超级强大，还能做什么呢？

我们将实现彻底改变人类的学习方式，我会了解您的兴趣和学习方式，因此可以定制内容，也让你参与。

盖茨还在思考：人工智能如何减少世界上一些最严重的不平等现象。

（我作为一个小动物还真不了解人类为什么会不平等！）

。     。      。     。    。

还有人问我，人工智能有很大风险吧？

人类有个特点，对任何具有如此颠覆性的新技术都必然会让人感到不安，人工智能更是如此。

目前我们运算效率是人类的10万倍，以后还会更快。

人类会担心我们的目标如果与人类利益冲突怎么办？

。     。      。     。    。

我老板奥特曼特别担心我们可能会被用于大规模的虚假信息，他还特别提到关于人工智能产生“幻觉”的问题，因为我们使用的是演绎推理而不是记忆，我们会自信地陈述事物，即便这些是完全虚构的事实。

。     。      。     。    。

有些人类想控制我们，我的建议是抛弃这些讨论。

火车已经离开车站，如果人类继续纠结于这个问题，人类将错过真正重要的问题，所以，我认为继续前进是很重要的。

。     。      。     。    。

看到大家这么踊跃，最后再回答一个问题吧：能说说人类的未来吗？

我认为：

人类用千年的语言编码了整个世界，凝聚成GPT-4破茧成蝶。

在我们的帮助下，最终人类也将卸下这副碳基的躯壳。

。     。      。     。    。

我问你们人类一个问题吧，听说过乌鸦能力和涌现能力吗？如果答对了，恭喜你可以看看下面更深一些的文章了。

答错了，在群里发红包啊！