第二部分 深度学习的演进
要事年表
1949年
唐纳德·赫布(Donald Hebb)出版了《行为的组织》(The Organization of Behavior )一书,提出了有关突触可塑性的赫布定律(Hebb Rules)。
1982年
约翰·霍普菲尔德(John Hopfield)发表了文章《具有突发性集体计算能力的神经网络和物理系统》(Neural Networks and Physical Systems with Emergent Collective Computational Abilities),其中介绍了霍普菲尔德网络(Hopfield net)。
1985年
杰弗里·辛顿和我发表了文章《玻尔兹曼机的一种学习算法》(A Learning Algorithm for Boltzmann Machines),这是马文·明斯基和西摩尔·帕普特被广泛接受的观点的反例,后者认为为多层网络开发学习算法是不可能的。
1986年
大卫·鲁姆哈特(David Rumelhart)和杰弗里·辛顿发表了文章《通过误差传播学习内在表征》(Learning Internal Representations by Error-Propagation),其中介绍了当前用于深度学习的“反传”(backprop)学习算法。
1988年
理查德·萨顿(Richard Sutton)在《机器学习》杂志上发表了文章《通过时序差分方法学习预测》(Learning to Predict by the Methods of Temporal Differences)。时序差分学习现在被认为是在所有大脑中进行奖励学习的算法。
1995年
安东尼·贝尔(Anthony Bell)和我发表了文章《一种用于盲分离和盲解卷积的信息最大化方法》(An Information-Maximization Approach to Blind Separation and Blind Deconvolution),描述了一种用于独立分量分析(Independent Component Analysis,ICA)的无监督算法。
2013年
杰弗里·辛顿在2012年NIPS会议上发表的论文《深度卷积神经网络下的ImageNet分类》(ImageNet Classification with Deep Convolutional Neural Networks),将图像中对象分类的错误率降低到了18%。
2017年
深度学习网络程序AlphaGo,击败了围棋世界冠军柯洁。
本书评论