第七章 “神人”与“闲人”——AI时代的社会与伦理
导读
AI带来的变化绝不只是在商业和科技领域，而是和互联网一样会冲击今天的社会结构甚至道德伦理，每一个在社会中生活的人都会受到影响。即使没有读前面的章节，也可以直接读这一章。
AI机器的崛起会不会导致大规模失业？迄今为止，历史上大的技术突破并没有对人类的工作产生毁灭性的打击。蒸汽机的诞生替代了传统的骡马，印刷机的诞生取代了传统的抄写员，农业自动化设施的产生替代了很多农民的工作，但这都没有致使大量的人流离失所。相反，人们找到了更适合人类的工作。
但这次还会一样吗？随着智能机器的崛起，大量重复性劳动将被替代。在这个社会中，人类能够在技术帮助下做更多的事情，从而更多负责创造新事物。但如何保证原有重复性劳动者能够稳步过渡到新工作，将成为一项挑战，毕竟这次变革的冲击将超过历史上的任何一次变革。
各国政府都在未雨绸缪应对可能会出现的贫富分化加速。
《未来简史》一书的作者尤瓦尔·赫拉利（Yuval Harari）曾预测，若干年后，人类社会最大的问题是人工智能带来一大批“无用的人类”；同时，也会催生出“超人类”（Superhuman）。他认为，一小部分超人类将可以借助科学技术不断地“更新”自身，操控基因，甚至实现人脑与计算机互联，获得一种不死的状态。“在以前的历史上，贫富差距只是体现在财富和权力上，而不是生物学上，帝王和农民的身体构造是一样的。在人可以变成超人类后，传统的人性就不存在了，人类会分化为在体能和智能上都占据绝对优势的超人阶层和成千上万普通的无用的人类。”他的担心会成为现实吗？
机器酿成的事故由谁负责？自主化武器、无人驾驶汽车、生产机器人等都可能因为代码错误或在环境巨变下失控酿成灾难。随着智能产品的逐渐普及，我们对它们的依赖也越来越深。当机器遇到困难时，往往会将操控权转交给人类，而人类很难瞬间接管好一项突然转来的工作。
比如人类接管无人车驾驶时可能因为睡着了或注意力不集中而发生事故，这种事故在人类和机器之间也很难厘清责任。
在未来的战争中，军方为了减少己方伤亡将尽可能用自主化武器代替人进行军事活动。自主化武器将让后台操纵人员不用对每个具体结果负责任。而且随着自主化武器任务的日益复杂，后台操纵人员也越来越多，每个人只是完成一个任务的一小部分。这使人们对这种“杀戮”变得心安理得。
本章内容
本书评论