深度学习: 智能时代的核心驱动力量

1988年，我曾服务于麦克唐奈和皮尤基金会（McDonnell and Pew Foundations）的一个委员会，需要走访知名的认知科学家和神经科学家，就如何启动一个名为“认知神经科学”的新领域听取建议。^[19] 该委员会辗转于世界各个国家，与专家会面，听取他们关于哪些科学专题最有前途，以及在哪里建设新的认知神经科学研究中心的建议。8月的一个烈日炎炎的下午，我们在哈佛大学教员俱乐部征询了杰瑞·福多（Jerry Foder）的意见，他是思想语言方面的专家，也是模块化思想的倡导者。他开门见山，直接驳斥了我们的战略，“认知神经科学不是一门科学，而且永远不会是”。他给人的印象是，他已经阅读了关于视觉和记忆的所有神经科学论文，但这些文章都没有达到他的标准。但是当他评论说“麦当劳基金会正在浪费它的资金”时，麦克唐奈基金会主席约翰·布鲁尔（John Bruer）立刻就指出，福多把他的基金会和街头制作汉堡包的地儿搞混了。

福多丝毫不为所动。他解释了为什么头脑应该被当作运行智能计算机程序的模块化符号处理系统。加州大学圣迭戈分校的哲学家帕特里夏·丘奇兰德（Patricia Churchland）问他的理论是否也适用于猫。“是的，”福多说，“猫正在运行猫程序。”但是当NIH研究视觉和记忆的神经科学家莫蒂默·米什金（Mortimer Minshkin）让他介绍他自己的实验室的发现时，福多嘟囔着说了一些我听不太懂的话，好像是关于在语言实验中的事件相关电位。幸运的是，那一刻，消防演习的警铃响了，我们都被要求去室外等待。站在院子里，我听到米什金对福多说：“那些都是雕虫小技罢了。”演习结束后，福多就再没出现。

认知神经科学已经发展成为一个重要的领域，吸引了各个科学领域的很多研究人员，包括社会心理学和经济学，这些领域以前与神经科学很少有或没有任何直接联系。使这一切成为可能的是在20世纪90年代早期采用的非侵入式大脑活动可视化方法，尤其是功能磁共振成像（fMRI），其目前的空间分辨率为几毫米。fMRI生成的庞大的成像数据集被交由新的计算方法进行分析，如独立分量分析（将在第6章讨论）。

由于大脑在缺氧的情况下无法运转，并且血流在亚毫米级别被严格控制，fMRI所测量的血氧水平依赖（BOLD）信号就被当作大脑活动的替代指标。血液中的含氧量改变了它的磁性，可以用fMRI进行无创监测，并且以几秒的时间分辨率产生大脑活动的动态图像。这种时间分辨率足够追踪在实验过程中大脑的哪些部分在活动。fMRI已经被用于探索视觉层级结构不同部分的时值整合。

普林斯顿大学的尤里·哈森（Uri Hasson）进行了一项fMRI实验，旨在探究视觉层级的哪些部分涉及处理不同长度的电影。^[20] 查理·卓别林（Charlie Chaplin）的无声电影被剪辑为4秒、12秒和36秒的片段呈现给受试者。在4秒的剪辑中，受试者可以识别一个场景；12秒时，可以看清连接的动作；在36秒的长度下，能够看到一个有开头和结尾的故事。在层级底部的初级视觉皮层中的fMRI反应，无论在什么样的时间尺度上，都强大且可靠。但在视觉等级的较高层次上，只有较长的时间尺度才能引起可靠的反应，而位于层级顶层的前额叶皮层区需要最长的时间间隔。这与其他实验结果一致，即工作记忆也按照层级分布。工作记忆是我们掌握信息的能力，比如要记住的电话号码，以及我们正在处理的任务的要素。最长的工作记忆时间尺度同样位于前额叶皮层。

作为神经科学中最让人兴奋的学术领域之一，对大脑学习行为的研究可以在不同的层面进行，从分子层面到行为层面。

1. 由克里克、拉马钱德兰（V. S. Ramachandran）和戈登·肖（Gordon Shaw）在20世纪80年代建立的亥姆霍兹俱乐部持续活跃了20多年。关于它的历史，可以参阅C. Aicardi, “Of the Helmholtz Club, South-Californian Seedbed for Visual and Cognitive Neuroscience, and Its Patron Francis Crick,” Studies in History and Philosophy of Biological and Biomedical Sciences 45, no. 100(2014):1–11。
2. 用一位满意的与会者的话来说：“我从遇到的每个人身上都学到了很多。我对采纳别人的想法一点也不觉得难为情。……对我来说，最有收获的学习经历就是这个亥姆霍兹俱乐部。

   我不知道你是否听说过这个团体。……他们大概有20个人。我从来没有错过一次他们的例会。

   我还得找人替我上课，这个会比我的课还重要，我绝对不能错过。” Carver Mead, in James A. Anderson and Edward Rosenfeld, eds., Talking Nets: An Oral History of Neural Networks (Cambridge, MA: MIT Press, 2000), 138。

3. R. Desimone, T. D. Albright, C. G. Gross, and C. Bruce, “Stimulus-Selective Properties of Inferior Temporal Neurons in the Macaque,” Journal of Neuroscience 4, no. 8 (1984): 2051–2062. 查尔斯·格罗斯实验室的许多研究人员都留了胡子，因此，对马桶刷做出反应的视觉皮层中的神经元可能是胡须细胞。
4. David Hubel, Eye, Brain, and Vision (New York: W. H. Freeman, 1988), 191–216.
5. 猫的关键时期从3周到几个月不等，而人类是从几个月到七八岁不等。关键期的结束可能不会像以前认为的那样突然，在经过高强度的练习后，接受过斜视矫正的成人仍然可以获得立体视觉的能力。参阅Susan R. Barry, Fixing My Gaze:AScientist’s Journey into Seeing in Three Dimensions (New York: Basic Books, 2009)。当我还是普林斯顿大学的研究生时，就认识了Barry，她现在被叫作“立体苏”（Stereo Sue）。
6. 这条规则也存在一些例外的情况：海马体中齿状回的颗粒细胞和嗅球中的神经元在我们的一生当中都会不断更新。参阅Michael Specter, “Rethinking the Brain: How the Songs of Canaries UpsetaFundamental Principle of Science,” New Yorker,July 23, 2001, http://www.

   michaelspecter.com/2001/07/rethinking-thebrain/。

7. Terrence Sejnowski, “How Do We Remember the Past?” in John Brockman, ed.,What We Believe but Cannot Prove: Today ’s Leading Thinkers on Science in the Age of Certainty (London: Free Press, 2005), 97–99: and R. Y. Tsien, “Very Long Term Memories May Be Stored in the Pattern of Holes in the Perineuronal Net,” Proceedings of the National Academy of Sciences of the United States of America 110, no. 30 (2013): 12456–12461.
8. 在阿尔兹海默症中，细胞外基质的完整性受到损害，这可能导致了长期记忆的丧失。

   John Allman, private communication, July, 2017.

9. 小说中的主人公也是故事的叙述者，按照“头脑中思想的延续”来描述若干杂乱的事件，依据主人公脑海中事件出现的顺序来叙事，而非按照传统的时间顺序。——译者注
10. 关于盖里演讲的概述，可以参阅Shelley Batts, “SFN Special Lecture:Architecture Frank Gehry and Neuro-Architecture,” Science Blogs,posted October 15, 2006, http://scienceblogs.com/retrospectacle/2006/10/15/sfn-special-lecturearchitect-1/。
11. B. S. Kunsberg and S.W. Zucker, “Critical Contours: An Invariant Linking Image Flow with Salient Surface Organization,” May 20, 2017, https://arxiv.org/pdf/1705.07329.pdf.
12. 在山脉的等高线图上看到的表面的三维轮廓，和图像上的等照轮廓之间的联系，可以用表面上的临界点和梯度流的几何形状来解释，后者被叫作“Morse Smale复形”。
13. S. R. Lehky and T. J. Sejnowski, “Network Model of Shape-from-Shading: Neural Function Arises from Both Receptive and Projective Fields,” Nature 333, no. 6172(1988): 452–454.
14. Terrence J. Sejnowski, “What Are the Projective Fields of Cortical Neurons?”in J. Leo van Hemmen and Terrence J. Sejnowski, eds. 23 Problems in Systems Neuroscience (New York: Oxford University Press, 2005), 394–405.
15. 格式塔学派主张人脑的工作原理是基于整体的，其效果不同于其各个部件功能的总和。——译者注
16. C. N. Woolsey, “Cortical Localization as Defined by Evoked Potential and Electrical Stimulation Methods,” in G. Schaltenbrand and C. N. Woolsey (eds.),Cerebral Localization and Organization (Madison: University of Wisconsin Press,1964), 17–26: J. M. Allman and J. H. Kaas, “A Representation of the Visual Field in the Caudal Third of the Middle Temporal Gyms of the Owl Monkey (Aotus trivirgatus ),” Brain Research 31 (1971): 85–105.
17. L. Geddes, “Human Brain Mapped in Unprecedented Detail: Nearly 100 Previously Unidentified Brain Areas Revealed by Examination of the Cerebral Cortex,” Nature,July 20, 2016.

    doi: 10.1038/nature.2016.20285.

18. 其中一种技术——弥散张量成像（diffusion tensor imaging，DTI），能够追踪构成大脑皮层中白质的轴突的方向。
19. Elizabeth Penisi, “Two Foundations Collaborate on Cognitive Neuroscience,”Scientist , October 1989, http://www.the-scientist.com/?articles.view/articleNo/10719/title/Two-Foundations-Collaborate-On-Cognitive-Neuroscience/.
20. U. Hasson, E. Yang, I. Vallines, D. J. Heeger, and N. Rubin, “A Hierarchy of Temporal Receptive Windows in Human Cortex,” Journal of Neuroscience 28, no.10 (2008): 2539–2550.