计算机科学的兴起
但是如果物理学太简单,生物学又过于复杂,我应该在哪里寻求指导呢?与物理学中的力不同,大脑回路有一个目的,就是解决计算问题,比如看见和移动,以便在世界上生存。即使是一个关于神经元如何工作的完美的物理模型,也不会告诉我们它的目的是什么。神经元负责处理携带信息的信号,而计算则是试图理解大自然这一过程中缺失的环节。我在过去的40年中一直在追求这一目标,并开创了一个新的领域,叫作“计算神经科学”。
在加州大学圣迭戈分校结束博士后研究员工作之后,杰弗里·辛顿返回了英格兰,在剑桥医学研究理事会(MRC)的应用心理学部门找到了一个研究职位。1981年的一天,他在凌晨两点接到一个电话,对方自称是加利福尼亚州帕洛阿尔托市(Palo Alto)系统开发基金会总裁查尔斯·史密斯(Charles Smith)。[18] 史密斯表示,他的基金会希望为潜在的、有前景的,但风险较高、成功希望渺茫的研究提供资金,而有人强烈推荐了杰弗里。杰弗里不确定这件事可不可靠。作为我的一个好朋友,杰弗里向史密斯提到了我的研究,告诉他我的研究成功的概率比他的还要小。
基金会是货真价实的,还为我们提供了第一笔款项,这大大加快了我们的研究进度。我们可以买得起运算能力更强大的电脑,并吸引更多的学生加入。在杰弗里加入位于匹兹堡的卡内基–梅隆大学时,他用一台炫酷的Lisp机[19] 取代了他的二代苹果电脑;而在我搬到巴尔的摩的约翰·霍普金斯大学时,我短暂地拥有过比整个计算机科学系还要多的计算能力。[20] 我还购买了第一个将霍普金斯与阿帕网(ARPANET,互联网的前身)连接起来的调制解调器,这样杰弗里和我就可以互相发送电子邮件了。能够在新的起点有个好的开端,我们都感到很满意(图4–6)。
图片来源:杰弗里·辛顿。
- Christoph von der Malsburg, “The Correlation Theory of Brain Function,”Internal Report 81–2(Göttingen: Max-Planck Institute for Biophysical Chemistry,1981), https://fias.uni-frankfurt.de/fileadmin/fias/malsburg/publications/vdMcorrelation. pdf.
- P. Wolfrum, C. Wolff, J. Lücke, and C. von der Malsburg. “A Recurrent Dynamic Model for Correspondence-Based Face Recognition,” Journal of Vision 8, no. 34(2008): 1–18.
- K. Fukushima, “Neocognitron:ASelf-Organizing Neural Network Model foraMechanism of Pattern Recognition Unaffected by Shift in Position.” Biological Cybernetics 36, no. 4 (1980): 93–202.
- T. Kohonen, “Self-Organized Formation of Topologically Correct Feature Maps,”Biological Cybernetics 43, no. 1 (1982): 59–69.
- Judea Pearl, Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference(San Mateo, CA: Morgan Kaufmann, 1988).
- 他们的论文集也由此而来:Geoffrey E. Hinton and James A. Anderson, eds.,Parallel Models of Associative Memory (Hillsdale, NJ: Erlbaum, 1981)。
- Terrence J. Sejnowski, “David Marr:APioneer in Computational Neuroscience,”in Lucia M. Vaina, ed., From the Retina to the Neocortex: Selected Papers of David Marr (Boston: Birkhäuser,1991), 297–301: 参阅D. Marr, “A Theory of Cerebellar Cortex,” Journal of Physiology 202 (1969): 437–470: D. Marr, “A Theory for Cerebral Neocortex,” Proceedings of the Royal Society of London:B Biological Sciences 176 (1970): 161–234: D. Marr, “Simple Memory:ATheory for Archicortex,” Philosophical Transactions of the Royal Society of London:BBiological Sciences 262 (1971): 23–81。
- D. Marr and T. Poggio, “Cooperative Computation of Stereo Disparity,” Science 194, no. 4262(1976): 283–287: 关于随机点立体图(random-dot stereograms)的描述,也可以参考Béla Julesz, Foundations of Cyclopean Perception (Chicago:University of Chicago Press, 1971)。
- 魔眼图像(Magic Eye images)是一种立体图,在图案中有一个隐藏的三维结构,可以通过偏移你的双眼视线看到。1979年,克里斯托弗·泰勒(Christopher Tyler)创造了第一个黑白立体图。参阅http://www.magiceye.com.。
- David Marr, Vision:AComputational Investigation into the Human Representation and Processing of Visual Information (New York: W. H. Freeman, 1982).
- Terrence Joseph Sejnowski, “A Stochastic Model of Nonlinearly Interacting Neurons” (Ph.D.
diss., Princeton University, 1978).
- T. J. Sejnowski, “Vernon Mountcastle: Father of Neuroscience,” Proceedings of the National Academy of Sciences of the United States of America 112, no. 4262(2015): 6523–6524.
- 约翰·霍普金斯大学有三个生物物理学系,分别在医学、公共卫生和艺术与科学学院。
(我当时在位于Homewood校区艺术与科学学院的托马斯·詹金斯生物物理系。)
- T. J. Sejnowski and M. I. Yodlowski, “A Freeze-Fracture Study of the Skate Electroreceptor,” Journal of Neurocytology 11, no. 6 (1982): 897–912.
- T. J. Sejnowski, S. C. Reingold, D. B. Kelley, and A. Gelperin, “Localization of[3H]-2-Deoxyglucose in Single Molluscan Neurones,” Nature 287, no. 5781(1980): 449–451.
- 这句话的灵感来自遗传学家和进化生物学家西奥多西厄斯·多布赞斯基(Theodosius Dobzhansky)的名言:“没有进化论支持,生物学中的任何东西都讲不通。”(Nothing in biology makes any sense except in the light of evolution.)这个版本来自比尔·纽瑟(Bill Newsome),可以在“大脑2025”这一美国国家卫生研究院(NIH)的“BRAIN计划”发展蓝图中找到。
- S. W. Kuffler and T. J. Sejnowski, “Peptidergic and Muscarinic Excitation at Amphibian Sympathetic Synapses,” Journal of Physiology 341 (1983): 257–278.
- 系统开发公司(The System Development Corporation)是位于加州圣莫尼卡(Santa Monica)市的一家非营利性软件公司,为美国军方提供合约服务。当公司解散时,他们清算了公司的建筑资产,并从中获得了高额利润,这在非营利机构中是不允许的。1969年,他们在加州帕洛阿尔托成立了系统开发基金会(The System Development Foundation),目的是通过1980年到1988年间的赠款计划,来分配从建筑物销售中获得的收益。
- 由Symbolis公司制造的Lisp机,是为能够编写符号处理的AI程序而设计的,但它们并不擅长进行大规模数字运算,而后者正是模拟神经网络所需要的。
- 1984年,作为美国国家科学基金会(NSF)总统青年研究员奖(Presidential Young Investigator Award)的获得者,我得到了新成立的计算机公司Ridge提供的巨大购买折扣,我买的这台计算机拥有匹敌VAX 780的计算能力,后者是当时学术计算领域的骨干机型。
本书评论