人工智能全传

以上讲述的一切，跟人工智能的宏伟梦想有什么关系呢？

现在，请让我冒昧地提出一些具体的建议，展望一下通往有意识的机器之路，以及我们将如何制造它。(我期待着自己年老的时候再重读这一节，看看预测是否准确。)

让我们回顾一下第五章提到的深度思维著名的雅达利游戏系统，你应该还记得，深度思维创造了一个智能体来学习大量的雅达利游戏，这些游戏在很多方面都相对简单。当然，随后深度思维的智能体进展到玩更复杂的游戏，比如星际争霸^[154]。目前，这种实验值得人关注的点是：智能体能够处理具有庞大分支因子的游戏；游戏中存在有关游戏状态或者其他玩家行为的不完美信息；游戏中执行的操作或许要等到很久以后才能得到奖励的反馈；智能体必须执行的操作不是简单的二元决策，例如打砖块，而是涉及冗长而复杂的操作序列，还可能存在与其他玩家的协作或者竞争。

这是一项令人着迷的研究，取得的进展也是令人惊叹的，但是，我们很难看到这项研究通过一些简单的进展或者突破就能制造出有意识的机器。因为这些研究正在解决的似乎不是跟意识有关的问题(当然，我不是在批评深度思维的研究，毕竟解决有意识的机器问题并不是他们研究的要点)。

鉴于以上讨论，我对如何实现这个目标提出一些初步建议。假设我们有一个机器学习程序，它可以独立学习，就像深度思维的智能体学习打砖块游戏一样。它被放在一个需要有意义的、复杂的高阶意向推理的场景中进行学习；或者是一个需要智能体说出复杂谎言的场景，这也意味着需要高阶意向推理能力。又或者是在一个场景中，智能体学会了交流，并且能够有意向地表达出自己和其他实体的意识状态。我认为，如果一个人工智能的智能体系统能够学会有意义地去做这些事情，那就是通往有意识的机器之路^[155] 。

我在这里想到的是莎莉-安妮测试 (Sally-Anne test)，这个测试被用来帮助诊断儿童自闭症^[156] 。自闭症是一种严重而常见的精神疾病，在儿童时期就会表现出来^[157] ：

在儿童时期，自闭症的主要症状表现为社交和交流的发育明显不正常，典型表现是缺乏正常的灵活性、想象力和伪装本能……自闭症的社交异常主要特征表现……包括缺乏眼神交流、缺乏正常的社交意识或者适当的社交行为，即“孤独”，在互动中表现出片面性以及无法加入社交团体。

典型的莎莉-安妮测试是给被测试的孩子讲述或者表演一个小故事，通常是这样的：

莎莉和安妮同在一间屋子里，屋子里有一个篮子，一个盒子和一颗弹珠。莎莉把弹珠放在篮子里，然后离开了房间。当莎莉不在房间时，安妮从篮子里把弹珠拿出来，放进盒子里。

后来，莎莉回到了房间，想玩弹珠。

然后孩子们会被问到一个问题：

“莎莉会去哪里寻找弹珠？”

比较合理的答案是“去篮子里找”，但要得出这个答案，受试者需要能够对其他人的信念做一些推理：莎莉没有看到安妮把弹珠放到盒子里，所以莎莉相信弹珠就在她放置的地方——篮子里。绝大多数自闭症儿童都会回答错误，而适龄的正常儿童几乎总能正确回答。

这个方法率先由精神病学及实验心理学家西蒙·巴伦-科恩(Simon Baron-Cohen)和他的合著者提出，以此证明自闭症儿童缺乏所谓的心智理论 (Theory of Mind)的能力。心智理论能力是一种实际的、常识性的能力，成熟的成年人拥有这种能力，能够对自己和他人的精神状态 (信念、欲望等)进行推理。人类并不是天生就拥有心智理论能力的，但临床上正常的人类天生就有发育它的能力。正常儿童的心智理论能力是逐步发育起来的：4岁的时候，儿童基本上能够进行推理，包括他人的态度和观点；到了青少年时期，心智理论能力就得到了充分发育。

在撰写本书之时，人们已经开始研究机器学习程序如何学习原始的心智理论能力^[158] 。研究人员最近开发了一个名叫ToMnet(心智理论网络)的神经网络系统，它能够学习如何对其他智能体建模，并在类似莎莉-安妮测试的情况下选择正确的行为。然而，这项研究还处于一个非常原始的阶段，解决莎莉-安妮测试问题还不足以证明人工智能拥有意识。但我认为，这是朝着正确方向迈出的第一步。它给了我们一个目标：能够通过自主学习达到人类心智理论水平的人工智能系统。