暗知识：机器认知如何颠覆商业和社会

算力的增加基于摩尔定律。目前除了芯片的线宽继续变窄（最新半导体工艺线宽4纳米）导致集成度继续变高以外，还有各种封装技术，例如三维芯片封装可以将64个芯片摞在一起。目前芯片的耗电比人脑耗电还大几个数量级，在许多数据中心能耗成为制约瓶颈，大幅度降低耗电也是芯片设计的重要方向。虽然单个芯片计算能力的增长变缓，但是现在倾向于用越来越多的芯片。对于AI计算来讲，不论是训练还是识别，重要的不仅是单个芯片的能力，更是能够把多少芯片有效地组织在一起来完成一个计算任务。2012年以前还很少使用GPU，现在一个计算任务动辄使用成千上万个GPU或专用计算芯片，例如TPU。2018年Open AI发布的一份报告显示，自2012年以来，在AI训练运行中所使用的计算能力呈指数级增长，每3.5个月增长一倍。2012—2018年，这个指标已经增长了30万倍以上。具体说就是2018年谷歌的AlphaGo Zero比2012年ImageNet大赛获胜的AlexNet快了30万倍。