什么在操控我们的言行
独立分量分析的故事说明了技术在科学和工程领域取得新发现中的重要性。我们通常将技术看作测量设备,比如显微镜和放大器。但算法也是技术,它们能够利用旧仪器获得的数据得出新的发现。脑电图技术已经存在了将近100年,但是如果没有独立分量分析,就无法确定潜在的大脑信息源,大脑本身就是一个环环相扣的算法体系,如果大脑的某些部分发现了实施独立分量分析的方法,我并不会对此感到惊讶。[14]
20世纪90年代,在为神经元网络开发新的学习算法的过程中,也诞生了许多其他的发现,其中很多(如独立分量分析)现在都成了机器学习中的数学工具。这些算法被嵌入许多常用的设备中,不过没有一个标明了“内含神经网络”。拿耳机或手机来举个例子。Te-Won Lee和Tzyy-Ping Jung曾经是我实验室的博士后研究员,他们后来创立了一家名为“SoftMax”的公司,在带有两个麦克风的蓝牙耳机中应用ICA来消除背景噪声。这样的设计能够让戴耳机的人在嘈杂的餐厅或体育赛事中听到别人说话。2007年,SoftMax被高通收购(高通为许多品牌的手机设计芯片)。而如今,类似独立分量分析的解决方案也已嵌入10亿部手机中。如果你能从运行独立分量分析的每部手机上分到一分钱,那你现在就是个千万富翁了。
安东尼·贝尔多年来一直对一个更加棘手的问题感兴趣。作为人类,我们的体内有许多网络,信息从一个网络层到另一个网络层,从分子到突触,到神经元,到神经群,直到形成决策,所有这些都可以用物理学和生物化学的法则来解释(见图4–4)。但我们都有这样的感受,是我们自己,而非物理或生物化学反应,在操控我们的一言一行。我们的大脑神经群中出现的内部活动如何引导我们做出决定,例如阅读这本书或者打网球,一直是一个谜。这些远远低于我们意识水平的决定,在某种程度上是由神经元通过基于分子机制的经验形成的突触相互作用形成的。但从我们人类的视角来看,是我们的决定导致了所有这些事件在我们的脑中发生:内省行为告诉我们,因果关系中的因和果,似乎与物理和生物化学领域中的因和果相反。如何调和这两个观点,是一个深刻的科学问题。[15]
- J. Herault and C. Jutten, “Space or Time Adaptive Signal Processing by Neural Network Models,” in J. S. Denker, ed., Neural Networks for Computing, AIP Conference Proceedings 151, no. 1(1986): 206–211.
- A. J. Bell and T. J. Sejnowski, “An Information-Maximization Approach to Blind Separation and Blind Deconvolution,” Neural Computation 7, no. 6 (1995): 1129–1159.
- 早些时候,IBM的拉夫·林斯克(Ralph Linsker)引入了一种名为“infomax”的算法,以解释在发育过程中视觉系统是如何彼此连接起来的。R. Linsker,“Self-Organization inaPerceptual Network,” Computer 21, no. 3 (1988): 105–117.
- A. J. Bell and T. J. Sejnowski, “An Information-Maximization Approach to Blind Separation and Blind Deconvolution.”
- 对ICA的发展做出了重要贡献的人还包括:Pierre Comon, Jean-François Cardoso, Apo Hyvarinen, Erkki Oja, Andrzej Cichocki, Shunichi Amari, Te-Won Lee, Michael Lewicki, and many others。
- A. J. Bell and T. J. Sejnowski, “The ‘Independent Components’ of Natural Scenes Are Edge Filters,” Vision Research 37, no. 23 (1997): 3327–3338.
- 布鲁诺·奥尔斯豪森(Bruno Olshausen)和大卫·菲尔德(David Field)也用另一种基于稀疏性的学习算法得出了同样的结论。B. A. Olshausen and D. J.Field, “Emergence of Simple-Cell Receptive Field Properties by LearningaSparse Code for Natural Images,” Nature 38, no. 6583(1996): 607–609.
- Horace Barlow, “Possible Principles Underlying the Transformation of Sensory Messages,” in Walter A. Rosenblith, ed., Sensory Communication (Cambridge, MA:MIT Press, 1961), 217–234.
- A. J. Bell and T. J. Sejnowski, “Learning the Higher-Order Structure ofaNatural Sound,” Network: Computation in Neural Systems 7, no. 2 (1996): 261–267.
- A. Hyvarinen and P. Hoyer, “Emergence of Phase- and Shift Invariant Features by Decomposition of Natural Images into Independent Feature Subspaces.” Neural Computation 12, no. 7(2000): 1705–1720.
- M. J. McKeown, T.-P. Jung, S. Makeig, G. D. Brown, S. S. Kindermann, T.-W. Lee,and T. J. Sejnowski, “Spatially Independent Activity Patterns in Functional MRI Data during the Stroop Color-Naming Task,” Proceedings of the National Academy of Sciences of the United States of America 95, no. 3 (1998): 803–810.
- D. Mantini, M. G. Perrucci, C. Del Gratta, G. L. Romani, and M. Corbetta,“Electrophysiological Signatures of Resting State Networks in the Human Brain,” Proceedings of the National Academy of Sciences of the United States of America 104, no. 32(2007):13170–13175.
- D. L. Donoho, “Compressed Sensing,”IEEE Transactions on Information Theory 52, no. 4(2006): 1289–1306: Sanjoy Dasgupta, Charles F. Stevens, and Saket Navlakha, “A Neural Algorithm foraFundamental Computing Problem,” Science 358 (2017): 793–796. doi: 10.1126/science.aam9868.
- 小脑可能在苔藓纤维输入汇聚到颗粒细胞树突的层面上进行了独立分量分析。参阅D.
M. Eagleman, O. J.-M. D. Coenen, V. Mitsner, T. M. Bartol, A.J. Bell, and T. J. Sejnowski, “Cerebellar Glomeruli: Does Limited Extracellular Calcium ImplementaSparse Encoding Strategy?” in Proceedings of the 8 th Joint Symposium on Neural Computation (La Jolla, CA: Salk Institute, 2001).
- 托尼·贝尔(Tony Bell)正在使用独立分量分析和近红外光谱来研究水的结构。他试图证明,在当今仪器看不见的尺度上,水形成了可通过光线进行沟通的连贯结构,并形成了生物分子生命的基底。这个想法是,当“神经机制”(nerual schemes)放松到足够的程度时,体内广泛分布的原子网络会出现连贯的信息,决定就是这样产生的。
本书评论