深度学习: 智能时代的核心驱动力量

20世纪30年代，研究学习行为的心理学家把行为看作将感官输入转化为运动输出的过程，并自称为“行为主义者”。关联学习是行为主义的研究重点，许多学习规律在通过用不同的奖励机制训练动物时被陆续发现。哈佛大学的B. F. 斯金纳是这一领域的领导者，他撰写了几本畅销书籍来解释他的发现对社会造成的影响。^[7] 当时有关行为主义的大众出版物非常受欢迎。

1971年，著名语言学家诺姆·乔姆斯基（图17–2）在《纽约书评》（图17–3）上发表了一篇全面抨击行为主义的文章，矛头直指斯金纳。^[8] 下面是他的论点中关于语言方面的一段摘录：

把一些我从来没有听过或说过的英语句子，而不是中文句子说成属于我的“语录”（只因为我说前者的“概率”更大），这是什么意思？斯金纳主义在讨论中涉及这一点时，一直诉诸“相似性”或“泛化”，但始终没有精确地描述新句子与熟悉的例子如何“相似”，或从例子中如何“泛化”的方式。这种失败的原因很简单。就目前所了解的信息而言，相关属性只能用描述有机体内部假定状态的抽象理论（例如语法）来表达，而这种理论被从斯金纳的“科学理论”中先验地排除了。由此导致的直接后果就是，只要讨论涉及事实世界，斯金纳主义就必然会陷入神秘主义（不能解释的“相似性”和无法描述的“泛化”）。尽管在语言中情况可能更为清楚，但没有理由认为，人类行为的其他方面也会落入斯金纳用先验限制了的“科学”体系之中。^[9]

以今天的角度，我们可以看到乔姆斯基明白了问题的关键，但他并不了解学习的力量。深度学习已经向我们展示了，像大脑本身的神经网络那样，模型神经网络能够做到被乔姆斯基解释为“神秘主义”的那种“泛化”，并且可以经过训练，选择性地识别多国语言并进行翻译，为图像生成在语法上无可挑剔的标题。最具讽刺意味的是，机器学习已经解决了自动解析语句的问题，尽管计算语言学家做出了艰苦的努力，但乔姆斯基的句法“抽象理论”从来没有解答过这个问题。当与斯金纳开创的强化学习结合起来时，机器学习就可以解决需要做出一系列选择以实现目标的复杂问题。这是解决问题的实质，也是智能的基础。

乔姆斯基的文章充满了鄙视，其影响也远远超过了对斯金纳的抨击：它挑战了，甚至驳斥了将学习作为理解认知的一种方式。这在20世纪70年代对认知心理学产生了决定性的影响。乔姆斯基所持观点的核心在于，根本无法想象（至少对乔姆斯基而言）关联式学习能够产生一种像语言那样复杂的认知行为。但请注意，这个论点是基于无知——仅因为世界顶尖的语言学家说他无法想象某件事，并不能否定这件事发生。

但乔姆斯基的言辞与70年代的时代精神产生了共鸣，因此颇受追捧。到了20世纪80年代，对认知进行符号处理已成为主流方法，并为一个名为“认知科学”的新领域打下了基础——认知科学是认知心理学、语言学、哲学和计算机科学的混合体。神经科学则像是认知科学的小兄弟，在20世纪90年代认知神经科学兴起前，一直或多或少地受到忽视。