意识的解释：从Dennett到Hinton

（题图：Life is not for u）

前几天发了一个长篇《

人工智能教父Hinton怼战记

》，内容有点多，没有展开，这里重点展开一下第三节中AI的两种路线之争，并讨论一下意识consciousness的解释。

妈妈说文章越长长长长长长长长长长长长长长长长越没人看，本文尽量写的短一点。

＊本文资料大部分由张恩文搜集整理，错误的归于我，偶尔正确的，请归于他。

1，AI的两种愿景

在过去的50多年来，AI在两种愿景之间发生了争执。

受逻辑启发的观点认为，智能是关于推理reasoning，并在现实世界中合理推理的系统，基于大量存在的事实，应用它们时，还需要引入一大堆推理和启发式规则。

受生物学启发的观点认为，应该模仿大脑的神经网络NN，特别应该聚焦在NN如何从经验中学习，这样我们就不必靠人来指定所有知识。

Hinton坚持第二种观点，并且更为激进的认为，我们应该改变我们对自身本质的理解。Hinton说，50年前的观点是，我们是理性存在，我们做推理，在我们的大脑中，这些推理是一个巨大的符号表达，Hinton称之为符号假说symbol hypothesis（当时持这种假说的称类比analogy为二等公民）。但事实上，他们失望了，类比先于推理。

这里有一个生物学启示的认知科学新范式：我们有生物组织的大脑，是进化用来做“看”和“运动”这种事情的，不是进化来做“逻辑推理”的，也不是进化来处理“自然语言”的。它被被高度的优化来做其他事情的（看、运动）。然后我们把这些高级的东西（逻辑和自然语言）因加在了那些事情（看和运动）之上。

我们不是理性存在，而是“依靠类比运行的设备”we are devices that work by using analogies。思想thought也不是某种符号能指，而是大脑中的状态向量，是AI中的“向量之舞”，而非侯世达的“符号之舞”。

而推理，reasoning，只是向量的序列而已。

（Hinton在伦敦皇家学会：我断定状态向量就是思想thought。btw，youtube误听为fault了）

而符号并不是真的存在于大脑之中，它只存在于输入输出。

（Hinton：符号的处理在某种其它操作的上层。这个类似于侯世达的分层）

而认为大脑中有符号处理的，比如Steve Gosselin（someone particularly naive），只是一种愚蠢的看法。一个简单的理论，由Hinton提出，被Dennett所认可：我们并不真的知道大脑中发生什么，我们会为它找一个假想的理由。

（Hinton的thought工作的简单理论，可以参考Dennett的《甜、性感、可爱、有趣》的TED演讲，参考链接）

（Dennett：因为喜欢，所以性感，而不是因为性感，所以喜欢）

Hinton的这种将通常理由normal causation即语言word thought和内部思想inside thought区分的理论，可能一定程度上受到弗洛伊德的无意识理论的启发。意识就像是一座冰山（or小岛）露出水面的部分，还存在着庞大的水面下的部分，那就是无意识。意识可以看作是无意识显露出来的那个部分。

It’s much closer to Freud, the idea that there’s this thin film of consciousness and deliberate reasoning and all this seething stuff underneath. The seething stuff underneath isn’t the conscious deliberate reasoning, it’s something else—something that works by analogies. 一一Hinton

2，意识的解释

Hinton并没有将“类比的设备”称为无意识，只是说，类比比逻辑更为根本。不过这不妨碍我们用意识和无意识的隐喻来考察AI的两种路线之争。

长期以来，意识对我们来说都是一个谜。

David Chalmers称它为“意识难题”the hard problem of consciousness。它是一种反常的事物。丹尼特Dennett的解释是它是一种副现象，但这并不能让人满意，所以，David Chalmers提出两种假想，一是意识与时间、空间、质量等一样，是不用论证，不用解释，可以计算的量。二是，万物有灵，可以用一个值来计算，就是φ（Phi）。

Dennett在其后回应，

意识就像是场景魔术，不存在真正的魔法，而是利用场景欺骗人的诡计。

Robert Wright在2000年左右批评说，

当然，这里的问题是声称意识与物理大脑的状态等同。Dennett等人试图跟我解释，他们的真正意思是意识并不存在。

Of course the problem here is with the claim that consciousness is "identical" to physical brain states. The more Dennett et al try to explain to me what they really mean is that consciousness doesn't exist. Robert Wright,2000

是的，Dennett用一大本《意识的解释》来说的，就是批评者Wright这句话，qualia并不存在，意识也并不存在。

Hinton在PBC创新创业日演讲时，有一个女神经科学家提问，

-你怎么定义“意识”？

-Hinton：我不相信它，我可以不用这个词。部分NN的观点是人不是依靠逻辑，而是依靠类比。…我不是说我们不会有意识，只是这个词已经过时了。

-How do you define consciousness？

-Hinton：I don’t really believe in it. I get by without it. Part of the point of neural networks as people don't work by logic, they work by analogies. …I didn't think I would explain anything, it's not that we won't have consciousness is just the stop using that term.

Hinton用“vital force”这个词来作了一个“类比”（So I’m gonna answer this question with an analogy），100年前，如果你问一个生物学家，什么是生命。他会告诉你：vital force，没有它，就没有生命了，就死去了。意识和vital force一样，当我们、神经科学家、分子生物学家知道大脑中究竟发生了什么，这个用来解释复杂精神现象的词就过时了，我们不再需要它。

（Hinton：“难题”the hard problem像烟一样消失）

Hinton强调的是：

神经科学家已经知道一些大脑运行的事实，却还不了解其计算原理。如果我们真的理解大脑是如何学习的，到底是什么回事，以便我们真正理解它，不是那些心理学家的模糊的模型，而是懂得如何制造它，理解到那种程度，它就会产生跟DNA结构在分子生物学中的那种影响。

Neuroscientists know a lot of facts about how the brain works but they don't understand the computational principles yet. If we could understand how the brain actually learns, what really goes on, so that we really understood it, not some sort of vague model like psychologists have, but really understanding how you could build one, understanding it that well, then it would have an impact similar to the impact of understanding the structure of DNA, and what that did for molecular biology. by Hinton on NSERC

一个科学上的进展，可能引发一个学科中范式的改变，从而进一步改变大众的认知，重新定义一些日常使用的词汇。DNA结构带来的改变的已经在分子生物学中发生了，它重新定义了“生命”，在AI领域，这种科学的进展可能正在发生，无论它何时完成，它已经足以让我们重新定义“意识”了。

3，科学的进展

随着科学的发展，我们可能需要与之匹配的新的哲学，或者，从哲学中甄选出来那些当时依靠直觉，却能更接近现在科学事实的理论。

Hinton让我们重新发现了弗洛伊德，让我们再次发现了Dennett。虽然Hinton初见Dennett之时，他本身也是十分忐忑的。因为“Dennett在牛津接受过专业的语言哲学训练，而我只是个民哲”。他担心Dennett会跟其它哲学家一样说他是垃圾。他认为这些哲学的问题，如果你弄清楚事实是如何运作的，都会被修正。

（Hinton：I think Dennett’s going to trash me）

不过，Dennett说，不，我同意你的说法。Hinton如果看过Dennett的书的话，就不会担心他跟别的哲学家一样了。Dennett在他的《意识的解释》一书中，用了一整章来论证qualia并不存在。之后还意犹未尽，他还补充写了一整本书，用来说明qualia并不存在。

（Hinton：关于perception没有神秘）

多数人希望意识是是神秘的，他们并不希望它得到解释。

Many people want consciousness to be mysterious they don’t want it explained.一一丹尼特Dennett

There is no polite way to suggest to someone that they have devoted their life to a folly. 一一丹尼特Dennett

（他们一生都贡献给了隐藏层hidden layer）

他们不愿意接受那个真相，他们被真相惊吓到了（Sutton）。

4，总有人被吃掉eaten

在Reddit的AMA上，Hinton被问到，你如何评价Michael I Jordan关于深度学习的说法（此前他在Reddit做了AMA）。Hinton回答说，我不太同意他的说法：“我认为我们并没有完全理解NN中思想是如何产生的”。Hinton认为，这是传统的AI谬误，大脑中的思想是以某类方式，比如Lisp语言的方式表达的。思想并不是明确的符号串，而是一个大的状态向量。（注：两种愿景）。

传统的人工智能研究人员会因为思想仅仅是循环网络的隐藏状态而受到惊吓，甚至更为恐惧的是，推理只是这种状态向量的序列。这就是为什么我认为目前非常重要的是让我们的批评者以一种明确的方式表明，他们认为这些网络无法学会做什么。否则，神经网络的每一次进步，他们都会提出一个新的理由来指责，这个进步并不真正重要。

Traditional AI researchers will be horrified by the view that thoughts are merely the hidden states of a recurrent net and even more horrified by the idea that reasoning is just sequences of such state vectors. That's why I think its currently very important to get our critics to state, in a clearly decideable way, what it is they think these nets won't be able to learn to do. Otherwise each advance of neural networks will be met by a new reason for why that advance does not really count. 一一Hinton

如果你沉迷于只有一个正确答案，你觉得你有本事能够找到它。那么反向传播不适合你，生命也不适合于你。

If you're obsessed with only being one correct answer and you're being able to prove you get it back propagation is not for you nor is life. 一一Hinton

他们还没有认识到，是他们的世界模型崩塌了。而如果他们的世界模型错了，他们将会被吃掉。

（LeCun：会被吃掉）

（Sejnowski：会被吃掉）

总有人被吃掉，不是吗？