深度学习: 智能时代的核心驱动力量

在通信系统中，无论是空间上还是时间上，变化都具有很高的信息价值。强度均匀的图像和没有变化的信号一样，几乎不提供任何信息。

向大脑发送信号的传感器主要用来检测变化，我们已经在第5章的视网膜和第14章中托拜厄斯·德尔布吕克的DVS相机中看到了一些例子。一旦在视网膜上稳定下来，图像会在几秒钟后消失。^[7] 尽管我们没有意识到这一点，我们的眼睛进行的微小跳动，即微跳动（microsaccades），每秒钟都会发生几次，每次跳动都会刷新我们大脑内部针对外部世界所搭建的模型。当外部世界的某些事物发生移动时，视网膜会及时向上报告，它们的报告还更新了大脑的外界模型，如图15–5所示。大脑的模型是一个层级结构的模型，传入的感官信息和模型期望值之间的比较发生在多个层次上。^[8] 明亮的闪光或巨大的噪声，通过自下而上地突显差异，立刻引起了你的注意。但是你通过对记忆自上而下的比较，注意到桌面上的某些东西在更高的层级上发生了变化。

所有这些在大脑中实时发生的事情，都会让人想起卡弗·米德的口头禅，“时间是它自己的代表”。^[9]

预测编码可以追溯到赫尔曼·冯·亥姆霍兹，他将视觉解释为无意识推理，或自上而下生成视觉信息以消除噪声，填充不完整的信息，并解释视觉场景。^[10] 例如，一个熟人的照片在我们视网膜里是有单眼深度线索的，因为我们熟悉那个人的实际大小，并且具备视网膜中大小如何随着距离变化的经验。在更高的认知水平上，詹姆斯·麦克莱兰和大卫·鲁姆哈特发现，当字母位于单词中时，被试者能够比在没有语境的非单词环境中更快地将它们识别出来。^[11] 他们的并行处理模型展现出了类似的行为，这使得两位研究人员相信，他们正在沿着理解信息如何在我们的大脑中呈现的正确轨道上前行。