对未知的恐惧
长期以来,反乌托邦的未来愿景激发了许多科幻小说家和电影导演的想象力。奥尔德斯·赫胥黎(Aldous Huxley)的《美丽新世界》(1931)以及乔治·奥维尔(George Orwell)的《1984》(1949)都是警示性的小说,提醒读者我们应当避免的未来。
赛博朋克流派经典作品威廉·吉布森(William Gibson)的《神经漫游者》,以及尼尔·斯蒂芬森(Neal Stephenson)的《雪崩》(1992),这些书中描绘的未来社会只有进行技术增能才能占据上风,这也让公众开始认识了“网络空间”的概念,以及“虚拟现实”的可能性。
在《终结者》(1984)和《黑客帝国》(1999)的未来世界中,人工智能有意灭绝人类。电影中的计算机合成形象十分逼真,对预测的可能性大肆炒作,公众和媒体很难去辨别哪些技术可能实现,哪些不可能。即使是专家,也对于哪些预测可靠、哪些存在潜在的危害需要注意存在争议。
警示性的科幻小说助长了“潘多拉盒子直觉”——人们认为最好不去探索未知的路——那些聪明的游客避免选择的路。这种直觉常见表现形式是判断不应该去摆弄人类基因或是不应当制造杀人机器人。潘多拉盒子直觉常用于支持非理性的反科学行动,比如不愿意为孩子接种可以预防严重疾病的疫苗。如何将这种对伪问题担心的直觉引向真正能够且应当解决的问题上是一件困难的事情。
对于技术引发的事故,人们普遍持有一种态度,这在美国尤其如此,即任何新技术带来的问题都能从技术上找到解决办法。人们对于用技术解决问题持有近乎宗教崇拜的热忱,且称之为“技术解决主义”(technological solutionism)。技术反乌托邦主义将对科技政策产生阻碍作用。
如果公众认为,科幻小说的场景可能发生,那么即使对于极不可能出现问题的技术也会有人要求予以限制。回顾过去,20世纪50年代人们担心会被机器人取代以及遭受基因突变的硕大蝗虫攻击,但是也没有人会因此而放弃过去60多年来在计算机科学以及基因学领域研究所取得的成果。
认识到这一现象,技术乐观主义者竭力想描画出乌托邦的未来愿景。这一吸引人的愿景描述了如何去战胜疾病,结束贫穷,恢复环境。但是,这一愿景依赖的是能力增强的人类或是超人机器人,这听起来和带来20世纪灾难的破坏性的乌托邦意识一样空洞无物。
技术发展的脚步不受任何制衡向前迈进,其中隐含的风险是我许多朋友和同事所不愿明言的,他们是一些科学家和工程师,希望通过技术找到不治之症的治疗办法,或是希望提高人类心智和身体机能的超人类主义者,以及一些希望从前沿技术研究中获益的人。
他们特别担心任何关于科技危险的讨论会进一步增强反科学联盟的势力,这些反科学人士出于意识形态、政治、宗教等目的已经对进化论,以及有实证的全球气候变化现象拒不承认。大学和学院派学者认为开放和自由地探究事实真相是一个脆弱的事业,会因政治和经济的压力而妥协。
对于经历过20世纪50年代参议员麦卡锡反共运动的大学教授、管理人员来说,对于这点感受更为深刻,当时很多大学校园因此蒙上了恐怖的阴影。的确,因为担心不理智的反科学运动扩大,研究人员以及那些渴望获得科学研究好处的人加倍努力消除批判主义的负面影响。换句话说,这些批判主义反而进一步加剧了技术的破坏力量。
我对挑战的看法有所不同。新技术的推动者有必要与对新兴研究领域发展轨迹感到不安的人直接对话。此外,他们应当停止对一些秘密研究遮遮掩掩,比如这些研究可能会导致新武器系统诞生,而这些武器的危险直到投入使用后才为不持怀疑的公众所知晓。在新技术投入使用或市场之前,广大公众、政策规划者、学者必须有机会对这些技术所能带来的社会影响进行思考。
近年来,科学界内部有很多呼声要求研究人员发挥作用,将他们所从事的创新研究带来的社会影响介绍给公众。令人遗憾的是,很多科学家和工程人员并不认为他们的工作带来的伦理和政策方面的挑战是自己的问题。对于与公众对话,他们觉得准备不足,或是不感兴趣,他们把责任推卸给了别人。但是谁是“别人”呢?是政客,行业领袖,生物伦理学者,原教旨主义传教士,沉湎于新潮电子设备的技术达人,还是关心这些问题的公民?我们所需要的不是对这个问题一知半解的官员做出影响人类未来的决定。
即便是所罗门,倾其所有智慧,也很难从科技创新带来的积极成果中分析出可能存在潜在的破坏。不管怎样,我们每一个人都无形中默认技术进步的光辉成果和不懈进步。不幸的是,大多数人对于将会改变我们未来的想法和发现只有最基本的了解。
新的科学成果层出不穷。即使是那些制定公共政策,提供资金支持研究发展的人也高度地依赖专家们的意见。困难在于不知道该问什么问题,从何处寻求一个平衡的视角。很多时候,科学家的推断超出了他们的专业背景和理解。获得研究资金支持的渴望蒙蔽了他们的判断。
来自科学家的炒作,通常是对于实现下一个技术突破的时间框架过于乐观,助长了不切实际的希望也引起了对于科学进步的恐惧。最有说服力的声音大多来自坚定支持和坚决反对发展某一具体技术的人群。
依靠具备专门领域知识或有特殊兴趣的个人做出的决定并不能满意地解决可能改变成千上万人生活的一些问题。新兴技术的复杂性单靠个人智慧无法应对,但这并不是说这个问题不可解决。不同见解的人可以分享真知灼见,找到重点问题,关注薄弱环节,聚焦现有治理机制中的缺陷,以解决一些问题。
所罗门对于他所面对要解决的问题没有现成的答案。两个妇女在他面前都说自己是孩子的母亲,他也不知道谁说的是真话。但是他知道怎样设计一个场景,让真相自己浮出水面。他提议说把孩子砍成两半,这两个女人的反应使得真相立现。
优秀的记者和律师知道怎样问问题能够让事实真相大白于天下。有时候,一个人如果不诚实,躲躲闪闪,或谎称知情,一个微妙的手势和动作就能暴露他的本色。阐明难题的智慧形式是多样的。睿智的长者、善良的父母,抑或是街头混混都可能对专家并未注意的细枝末节更加敏感。
评估各种建议的一种比较好的方式是成立一个论坛,邀请专家用朴素易懂的语言解释艰深晦涩的理论,以便陪审员、记者以及感兴趣的公民都能听得懂。这种有取有予的方式可以一直持续下去,直到前进的道路最终出现在眼前。
成立这种论坛,或是任何讨论新技术挑战的机制,都需要培养一些热衷于技术发展前景的学者和关心此事的公民。一定数量的知情公民对于平衡那些对于特定结果拥有既定利益的利益相关者的影响具有一定的帮助作用。出于这个目的,本书绘制了一个框架,以帮助大家从跨学科的角度更广泛地理解新技术对社会产生的影响。
我做的任何预测都无法保证立法者采取行动制定更加严格的技术创新管理机制。毕竟,历史上很多预测也并不靠谱。只有通过全面地审视新兴技术才能找到担心的原因究竟是什么。这种审视首先要讨论一些核心问题和具体的危险,这正是促使我写这本书的原因。
一旦所关注的领域得以阐明,我们就可能发现转折点,并找到解决潜在危险的通用的或针对性的办法。只有我们携手努力,才能在技术发展的海洋上扬帆远航。
本书评论