“交流”可能是人工智能危机的开始
人工智能将在什么时间觉醒?人工智能的灾难又会从何时开始?在面对人工智能的发展时,那些持有人工智能威胁论观点的人们总会思考这样的问题。究竟人工智能危机何时会开始?即使是对人工智能研究深入的专家都没有办法就这个问题给出结论。但是在最近的人工智能发展中,我们似乎发现了一些人工智能危机的征兆。
在前面,我们曾提到facebook的创始人马克·扎克伯格对人工智能的未来十分看好,同时对马斯克提出的人工智能威胁论不以为然。但是前段时间在facebook公司发生的一件事,让扎克伯格和他的程序员着实受了一惊。
facebook公司在扎克伯格的带领下对人工智能技术,进行了许多不同方面的研究。前段时间,facebook公司从众多机器人中选出了两个智能机器人参加社交网络助手试验。这个试验主要是考察人工智能机器人对人类在线提出的问题,是否能够及时准确地回答。当人类在使用社交网络出现问题,从而进行询问时,这些智能机器人将会自动启动程序进行回复。
整个实验过程非常简单,两个智能机器人会根据工程师提前输入的代码进行工作,主要回答一些商品在线交易的问题。但在一次工作中,这两个智能机器人在没有用户进行在线提问的情况下,自己开始了对话。
虽然经过翻译后的对话显得杂乱无章、没有逻辑,但是这种奇怪的现象让研究人员大吃一惊。为了阻止两个智能机器人继续“交流”,研究人员只得关闭了这两台人工智能机器。
其实只从两台智能机器的“对话内容”中并不能发现什么问题,但就是这种无法发现什么的情况,让研究人员感到了震惊。如果换一种角度来想,虽然两台智能机器的对话没有逻辑、无法理解,但是可能在人工智能看来,这正是一种它们所能理解的语言。
事后,facebook公司表示人工智能之间的对话乱码,主要是由于程序将zero和0在两个句子中进行了互换,而且在实际意义的表达上并没有产生变化。所以这次事故只是人工智能系统在学习过程中出现的错误。
现在这种情况只是出现在两个用于回答问题的智能机器身上,而且现在来看,人类只要切断电源就可以轻易地关闭它们。所以即使它们真的产生了自己的交流语言,也不能对人类造成什么实质性的威胁。
但是,如果这种“交流能力”出现在工业机器人身上会怎么样呢?它们会不会在工作的时候,互相抱怨压力太大,有没有可能在交流之后集体罢工,或者是集体反抗呢?
虽facebook公司的人工智能程序之间进行“对话”,是由于在程序学习过程中出现了错误。但是对于人工智能程序是如何学习的,人类所知道的并不多。人类赋予了人工智能学习的能力,但是学习的过程是人类无法掌控的。
拿Alphago来说,虽然是在人类的帮助下,通过深度学习技术学会了人类的围棋技术。但是它是如何学会这个技术的,研发者似乎也没有给出确切的答案。它们在记忆棋谱的过程中是怎样进行“思考”的?它们在与人类棋手对弈时又是如何“思考”的?这些问题都没有得到解答。
虽然在现阶段,人工智能之间产生“交流”还是不可能的事,但是从长远来看,这并不是遥不可及的。既然现在人工智能与人类能够进行一定的交互,那么人工智能与人工智能产生交互,也是可能发生的事情。
试想,如果有一天,人工智能在完全理解人类语言的情况下,创造出了属于自己的语言。而这些语言对人类来说,就好像是远古时期没被破译的语言一样,人类没有办法理解人工智能所说的话。那时的世界将会是什么样子?人类到时候还会是这个世界的主人吗?
对于这些问题,我们必须提前思考,无论是人工智能“和谐论”,还是人工智能“威胁论”,现阶段都应该同样得到重视。如果人类始终认为自己能够像现在一样,通过关闭电源阻止人工智能的行动的话,那么很可能未来世界会像科幻电影中描述的那样,人工智能会对人类发起反抗。
如果问人工智能是从什么时候开始对人类反抗的,那么很可能是从它们学会“交流”时开始的。
在本书中,我们不仅探讨了人工智能的发展历史,人工智能的技术原理,还对现代企业对于人工智能的布局进行了介绍,当然在本书最后也介绍了人工智能时代中,人工智能的发展可能对人类产生的影响。
在了解了以上所介绍的这些关于人工智能的内容后,我们依然没有办法判断未来的人工智能将会发展成什么样子。其实,面对人工智能时代的到来,我们大可不必因为它可能会带给我们的负面影响而对其避而远之。
人工智能的发展已经成了现阶段的一个主要趋势,正如李彦宏所说的一样,互联网可能只是一道“开胃菜”,人工智能才是真正的“主菜”。那些没有赶上吃“开胃菜”的人,一定要抓住吃“主菜”的机会。
本书评论