深度学习: 智能时代的核心驱动力量

马文·明斯基于2016年去世，他坚信神经网络无法实现通用的人工智能。斯蒂芬·沃尔夫勒姆在一篇关于他与明斯基友谊的文章中关切地写道：“虽然我认为没有人能在当时就预见到，但我们现在知道，马文早在1951年就已经在研究的神经网络，在朝着他所希望的那种令人叹为观止的AI能力发展的正确道路上前进。可惜这个过程太久了，马文几乎没能看到它的实现。”^[25]

明斯基去世后不久，DeepMind的研究人员艾历克斯·格雷夫斯（Alex Graves）和格雷格·韦恩（Greg Wayne）通过添加动态外部存储器，实现了基于深度学习的通用人工智能的下一步。^[26] 活动模式在深度循环神经网络中只能被暂时存储，这就很难对推理和推断进行模拟。通过在网络中添加一个稳定的存储器，可以像数字计算机内存一样灵活地写入和读取，研究人员展示了一个训练好的强化学习网络，可以回答需要推理的问题。例如，一个这样的网络对伦敦地铁路线做出了合理的规划，另一个则回答了关于家谱中成员关系的问题。动态记忆网络（Dynamic Memory Networks）也能够掌握20世纪60年代对麻省理工学院人工智能实验室提出挑战的“积木世界”任务（图2–1）。这就带我们回到了第2章开始的地方。

弗朗西斯·克里克于2004年去世，此后不久，莱斯利·奥格尔在2007年也去世了，这标志着索尔克研究所一个时代的终结。现在这些科学巨人已经不在我们身边了，而新一代的学者仍在向前迈进。我在索尔克研究所工作了30年，相当于它一半的寿命。我们的大家庭组建于1960年，所有的教职工都在同一条小船上。“索尔克号”很小，小到每个人都认识对方。但即使在今天，我们有了1000人的团队，它仍然会带给我们一种家的感觉，也证明了这个机构文化的持久性。

我们是一个伟大的生物链（可以回溯到细菌出现之前）中的一员。

现在我们已经到了理解大脑以及它们是如何发展的边缘，这将会是一个奇迹，能够永远改变我们对自己的看法。

1. T. A. Lincoln and G. F. Joyce, “Self-Sustained Replication of an RNA Enzyme,”Science 323, no. 5918 (2009): 1229–1232.
2. T. R. Cech, “The RNA Worlds in Context,” Cold Spring Harbor Perspectives in Biology 4, no.7 (2012), http://cshperspectives.cshlp.org/content/4/7/a006742.full. pdf+ html.
3. J. A. Feldman, “Mysteries of Visual Experience” (2016: rev. 2017), https://arxiv.org/ftp/arxiv/papers/1604/1604.08612.pdf.
4. 法定失明是一种视力丧失程度，在法律上被定义来确定可接受福利的资格。——译者注
5. Patricia S. Churchland, V. S. Ramachandran, and Terrence J. Sejnowski, “A Critique of Pure Vision,” in Christof Koch and Joel D. Davis, eds., Large-Scale Neuronal Theories of the Brain(Cambridge, MA: MIT Press, 1994), 23–60.
6. John Allman, Evolving Brains (New York: Scientific American Library, 1999).
7. B. F. Skinner, Beyond Freedom and Dignity (Indianapolis: Hackett, 1971).
8. Noam Chomsky, “The Case against B. F. Skinner,” New York Review of Books , 17,no. 11(1971): 18–24. http://www.nybooks.com/articles/1971/12/30/the-caseagainst-bf-skinner/。
9. 同上，第27段。有关语言基于规则和统计分析的更详细的对比，请参阅Peter Norvig,“On Chomsky and the Two Cultures of Statistical Learning” http://norvig.com/chomsky.htm.。
10. Noam Chomsky, Rules and Representations (Oxford: Basil Blackwell, 1980).
11. A. Gopnik, A. Meltzoff, and P. Kuhl, The Scientist in the Crib : What Early Learning Tells Us about the Mind (New York: William Morrow, 1999).
12. T. Mikolov, I. Sutskever, K. Chen, G. Corrado, and J. Dean, “Distributed Representations of Words and Phrases and Their Compositionality,” Advances in Neural Information Processing Systems 26 (2013): 3111–3119.
13. 这是在麻省理工学院麦戈文学院（McGovern Institute）的一次演讲，提议该学院致力于对理解有关语言和语言障碍的生物学基础的研究。
14. “愿原力与你同在”，引自《星球大战》中绝地大师欧比旺·肯诺比的流行台词。
15. J. A. Fodor, “The Mind/Body Problem,” Scientific American 244, no. 1 (1981):114–123.
16. D. Hassabis, D. Kumaran, C. Summerfield, and M. Botvinick, “Neuroscience Inspired Artificial Intelligence,” Neuron 95, no. 2 (2017): 245–258.
17. Paul W. Glimcher and Ernst Fehr, Neuroeconomics: Decision Making and the Brain , 2nd ed.

    (Boston: Academic Press, 2013).

18. Colin Camerer, Behavior Game Theory: Experiments in Strategic Interaction (Princeton: Princeton University Press, 2003).
19. Minsky and Papert，《感知器》 (1969), 231. 这本书于1988年发表的增订版中，包含这段节选的13.2节内容被删掉了，同时加入了一个新章节，“Epilogue:The new connectionism”。这是长达40页的对多层感知器学习早期成果的评估，从后续的发展情况来看，这本书值得一读。
20. 参阅https://www.dartmouth.edu/~ai50/homepage.html。也可参阅https://en.wikipe dia.org/wiki/AI@50/。
21. Marvin Minsky, The Society of Mind (New York: Simon & Schuster, 1985).
22. 参阅“Society of Mind,” Wikipedia , last edited August 22, 2017。

    https://en.wikipedia.org/wiki/Society_of_Min.。

23. 麻省理工学院的辛西娅·布雷齐尔（Cynthia Breazeal）和哈维尔·莫维兰开发了能够与人类互动，并会使用面部表情进行交流的社交机器人，这很可能预示着向情感计算理论迈出的第一步。
24. Marvin Minsky, “Theory of Neural-Analog Reinforcement Systems and Its Application to the Brain Model Problem” (Ph.D. diss., Princeton University,1954).
25. Stephen Wolfram, “Farewell, Marvin Minsky (1927–2016),” Stephen Wolfram Blog , posted January 26, 2016, http://blog.stephenwolfram.com/2016/01/farewell-marvin-minsky-19272016/.
26. A. Graves, G. Wayne, M. Reynolds, T. Harley, I. Danihelka, A. Grabska-Barwiska,et al.,“Hybrid Computing Using a Neural Network with Dynamic External Memory,” Nature 538, no. 7626(2016): 471–476.