从深度学习到通用人工智能
马文·明斯基于2016年去世,他坚信神经网络无法实现通用的人工智能。斯蒂芬·沃尔夫勒姆在一篇关于他与明斯基友谊的文章中关切地写道:“虽然我认为没有人能在当时就预见到,但我们现在知道,马文早在1951年就已经在研究的神经网络,在朝着他所希望的那种令人叹为观止的AI能力发展的正确道路上前进。可惜这个过程太久了,马文几乎没能看到它的实现。”[25]
明斯基去世后不久,DeepMind的研究人员艾历克斯·格雷夫斯(Alex Graves)和格雷格·韦恩(Greg Wayne)通过添加动态外部存储器,实现了基于深度学习的通用人工智能的下一步。[26] 活动模式在深度循环神经网络中只能被暂时存储,这就很难对推理和推断进行模拟。通过在网络中添加一个稳定的存储器,可以像数字计算机内存一样灵活地写入和读取,研究人员展示了一个训练好的强化学习网络,可以回答需要推理的问题。例如,一个这样的网络对伦敦地铁路线做出了合理的规划,另一个则回答了关于家谱中成员关系的问题。动态记忆网络(Dynamic Memory Networks)也能够掌握20世纪60年代对麻省理工学院人工智能实验室提出挑战的“积木世界”任务(图2–1)。这就带我们回到了第2章开始的地方。
弗朗西斯·克里克于2004年去世,此后不久,莱斯利·奥格尔在2007年也去世了,这标志着索尔克研究所一个时代的终结。现在这些科学巨人已经不在我们身边了,而新一代的学者仍在向前迈进。我在索尔克研究所工作了30年,相当于它一半的寿命。我们的大家庭组建于1960年,所有的教职工都在同一条小船上。“索尔克号”很小,小到每个人都认识对方。但即使在今天,我们有了1000人的团队,它仍然会带给我们一种家的感觉,也证明了这个机构文化的持久性。
我们是一个伟大的生物链(可以回溯到细菌出现之前)中的一员。
现在我们已经到了理解大脑以及它们是如何发展的边缘,这将会是一个奇迹,能够永远改变我们对自己的看法。
- T. A. Lincoln and G. F. Joyce, “Self-Sustained Replication of an RNA Enzyme,”Science 323, no. 5918 (2009): 1229–1232.
- T. R. Cech, “The RNA Worlds in Context,” Cold Spring Harbor Perspectives in Biology 4, no.7 (2012), http://cshperspectives.cshlp.org/content/4/7/a006742.full. pdf+ html.
- J. A. Feldman, “Mysteries of Visual Experience” (2016: rev. 2017), https://arxiv.org/ftp/arxiv/papers/1604/1604.08612.pdf.
- 法定失明是一种视力丧失程度,在法律上被定义来确定可接受福利的资格。——译者注
- Patricia S. Churchland, V. S. Ramachandran, and Terrence J. Sejnowski, “A Critique of Pure Vision,” in Christof Koch and Joel D. Davis, eds., Large-Scale Neuronal Theories of the Brain(Cambridge, MA: MIT Press, 1994), 23–60.
- John Allman, Evolving Brains (New York: Scientific American Library, 1999).
- B. F. Skinner, Beyond Freedom and Dignity (Indianapolis: Hackett, 1971).
- Noam Chomsky, “The Case against B. F. Skinner,” New York Review of Books , 17,no. 11(1971): 18–24. http://www.nybooks.com/articles/1971/12/30/the-caseagainst-bf-skinner/。
- 同上,第27段。有关语言基于规则和统计分析的更详细的对比,请参阅Peter Norvig,“On Chomsky and the Two Cultures of Statistical Learning” http://norvig.com/chomsky.htm.。
- Noam Chomsky, Rules and Representations (Oxford: Basil Blackwell, 1980).
- A. Gopnik, A. Meltzoff, and P. Kuhl, The Scientist in the Crib : What Early Learning Tells Us about the Mind (New York: William Morrow, 1999).
- T. Mikolov, I. Sutskever, K. Chen, G. Corrado, and J. Dean, “Distributed Representations of Words and Phrases and Their Compositionality,” Advances in Neural Information Processing Systems 26 (2013): 3111–3119.
- 这是在麻省理工学院麦戈文学院(McGovern Institute)的一次演讲,提议该学院致力于对理解有关语言和语言障碍的生物学基础的研究。
- “愿原力与你同在”,引自《星球大战》中绝地大师欧比旺·肯诺比的流行台词。
- J. A. Fodor, “The Mind/Body Problem,” Scientific American 244, no. 1 (1981):114–123.
- D. Hassabis, D. Kumaran, C. Summerfield, and M. Botvinick, “Neuroscience Inspired Artificial Intelligence,” Neuron 95, no. 2 (2017): 245–258.
- Paul W. Glimcher and Ernst Fehr, Neuroeconomics: Decision Making and the Brain , 2nd ed.
(Boston: Academic Press, 2013).
- Colin Camerer, Behavior Game Theory: Experiments in Strategic Interaction (Princeton: Princeton University Press, 2003).
- Minsky and Papert,《感知器》 (1969), 231. 这本书于1988年发表的增订版中,包含这段节选的13.2节内容被删掉了,同时加入了一个新章节,“Epilogue:The new connectionism”。这是长达40页的对多层感知器学习早期成果的评估,从后续的发展情况来看,这本书值得一读。
- 参阅https://www.dartmouth.edu/~ai50/homepage.html。也可参阅https://en.wikipe dia.org/wiki/AI@50/。
- Marvin Minsky, The Society of Mind (New York: Simon & Schuster, 1985).
- 参阅“Society of Mind,” Wikipedia , last edited August 22, 2017。
- 麻省理工学院的辛西娅·布雷齐尔(Cynthia Breazeal)和哈维尔·莫维兰开发了能够与人类互动,并会使用面部表情进行交流的社交机器人,这很可能预示着向情感计算理论迈出的第一步。
- Marvin Minsky, “Theory of Neural-Analog Reinforcement Systems and Its Application to the Brain Model Problem” (Ph.D. diss., Princeton University,1954).
- Stephen Wolfram, “Farewell, Marvin Minsky (1927–2016),” Stephen Wolfram Blog , posted January 26, 2016, http://blog.stephenwolfram.com/2016/01/farewell-marvin-minsky-19272016/.
- A. Graves, G. Wayne, M. Reynolds, T. Harley, I. Danihelka, A. Grabska-Barwiska,et al.,“Hybrid Computing Using a Neural Network with Dynamic External Memory,” Nature 538, no. 7626(2016): 471–476.
本书评论