机器会产生自我意识吗
包括马斯克、霍金等人都非常担心AI有一天会控制人类。在机器能控制人类之前,机器必须产生自我意识。自我意识是一个复杂问题,到今天都没有公认的严格定义,但大致上自我意识是指一个人对自己存在的知觉,或者说明确知道自己和周围的环境(他者)的区别。人的自我意识并非天生就有,而是儿童在大约18个月开始产生的。纽约州立大学奥尔巴尼校区的戈登·盖洛普教授(Gordon Gallup)在1970年设计了一个简单巧妙的测试自我意识的实验。实验是这样进行的:先让一个儿童看到镜子里的自己,然后在不让他察觉的情形下在他的脸颊上贴上一张明显的记号(例如一张红色的圆点纸),再让孩子对着镜子。如果孩子去摸自己脸上这个记号或试图撕下来,这个孩子就被认为具有了自我意识。实验证明,只有达到一定年龄(例如18个月)的孩子才会有自我意识。科学家还对几十种动物包括十几种猴子做了这个实验,只有黑猩猩这一种动物能够通过这个测试。而其他动物不管在镜子前待多长时间,永远都会把镜子里的自己当成“别人”。
具有自我意识是灵长类动物和其他动物的本质区别,这使人类在进化中获得了巨大优势。人类可以从“自己”的视角观察、认知和理解世界,并最终根据自己的意愿改造世界。人类根据自己的知觉记忆的清晰程度开始有了“时间”概念。随着“时间”概念的产生,人类可以想象多种不同的“未来”,即那些未曾发生的事情,创造力产生了。人类获得自我意识的最大代价就是必须面对一个无法理解的事实:自我意识终将消失,“自己”终将死亡。对死亡的恐惧成为伴随人一生的恐惧。一旦获得了自我意识的“自己”,就再也无法理性地理解“自己”的消失,所以几乎全世界所有的宗教都是从“非理性”或“超级存在”的角度回应死亡的问题,至少能提供某种解释减少人类对死亡的恐惧。
近年来随着脑成像仪器的成熟,关于意识的研究有了许多实验性的发现。用于大脑研究的主要成像仪器是功能性核磁共振成像仪,该成像仪的原理如下:当大脑某部分神经元激活产生电脉冲信号时,就会有含氧量高的新鲜血液流到该部分大脑去替换原先氧气已经耗尽的血液。由于缺氧血液的磁性比富氧血液高,所以在磁场中会呈现不同的信号强度。借此原理,核磁共振成像仪就可以看出大脑中哪部分神经元正在活跃。科学家可以用功能性核磁共振判断一个人是否有意识。该实验要求被实验者想一个动作如打网球,从成像仪上可以看到一个正常清醒的人的大脑皮质的某一个特定区域活跃。实验表明大多数人在想同一个动作时相同的脑区域活跃。这样就可以用实验判断一个对外来信号没有任何肢体和表情反应的“植物人”是否已经丧失了意识。如果该“植物人”听到指令后对应的大脑皮质部位活跃就可以认为他仍然具有意识。
加利福尼亚州理工学院的克里斯托弗·科赫(Christof Koch)教授通过检测单个神经元信号发现当被实验者看到自己熟悉的影像时(例如喜爱的电影演员),某一个神经元会被激发而其他神经元没有动静。每次看到这个演员的不同照片时,同一个神经元都会被激发。甚至在看到这个演员的名字时,同一个神经元也会被激发。但如果看到这个演员和其他人的合影时,这个神经元就不会被激发。
单个的神经元虽然可以和外界刺激建立一对一的对应关系,但是这还不是自我意识。目前公认的自我意识是许多神经元共同的作用。位于美国威斯康星州的精神病学研究所(Psychiatric Institute and Clinic)设计了一种精妙的实验用于证实意识在大脑的存在是一个整体,而不是某个部分。仪器类似我们前面提到过的罩在头上的“电极罩”,电极罩上布满了电极,可以接收到来自大脑皮质不同部位的电信号。另外一个能发射磁场的电极在脑壳的不同部位发射磁脉冲。每个磁脉冲都能引起大脑神经元的激发,通过分布在头上不同位置的电极就可以观察到大脑不同部位神经元的活动。实验发现当受试者清醒时,每次脑外刺激信号在脑内不同的区域都会造成激发,先是离刺激电极最近的区域激发,然后这种激发先后传导到大脑皮质的不同区域,这些激活区域形成复杂的图案。但当受试者入睡后再刺激,发现只有刺激电极附近的区域被激活,并不会传导到其他区域。这个实验证明了意识是大脑不同区域互相传导连通后的共同结果,而不是某个部分。
遗憾的是以上的脑神经研究仍然无法精准地定位意识在大脑中到底是以什么样的方式产生和存在的。但这些研究已经能够给我们一些启示来回答:以神经网络为基础的人工智能是否能在不远的将来产生自我意识呢?
首先,如果我们能够确认“自我意识”无非是大量神经元之间复杂的激活和连接模式,那么我们应该可以预测未来有一天当基于半导体或生物芯片的神经网络足够复杂时,机器完全可能产生自我意识。但这个神经网络要多么复杂呢?
第一个问题是神经元的数量。人类大脑大约有1 000亿个神经元,每个神经元会有上千个突触和其他神经元相连接,也就是说人脑有约100万亿个连接。目前谷歌大脑已经达到了1万亿个连接,芯片上晶体管的密度增加速度已经开始放缓,以远慢于摩尔定律(每18个月翻番)的速度发展。增加计算能力主要是靠多核,即把许多CPU/GPU封装在一起。按目前的发展速度来看,最多20~30年机器神经网络就能够达到人脑的连接数。但是神经元和连接数量只是一个必要条件,即使达到或超过人脑的数量也未必能产生自我意识。
第二个问题是神经元之间的连接方式。目前的机器神经网络为了数学上可以分析,工程上实现方便,神经元都是简单清楚地分成许多层级。每个神经元要么是只和下一层级的神经元相连(例如全连接网络或卷积网络),要么是只和自己相连(例如RNN)。但人脑中的神经元根本没有清晰的层级,而是在一个三维空间随机的、复杂的互联。已知的连接有短连接和长连接,前者是附近的神经元之间的连接,后者是和很远的神经元之间的连接。
第三个问题是目前的人工神经网络的信号输出是上一级输入加权求和后被一个门限截断的信号,而人脑中每个神经元的信号强弱、门限的高低都可能不同。也就是说目前的人工神经网络是对人脑大大简化后的模仿,这种简化模仿即使达到了相同的神经元和连接数也不一定能够达到人脑的复杂程度。
本书评论