必然、不安和沉默
我的担心并不是在于某些具体的创新技术的应用,而是科学发现的过程。历史证明,政府对科学研究的干预在无数层面上损害科研自由。即便如此,在很多方面政府都应当更加关心他们需要资助哪些领域,以及要求科学家采取怎样的保障措施。
将科学发现活动与新技术应用区分开可能有些武断。大部分研究的目的在于开发新工具,比如更精确的诊断扫描系统,既能用于促进科学发现,也可用于治疗目的。大型强子对撞机(LHC)不仅仅是一个研究项目,也是部署一种新技术。如果没有大规模的粒子加速器,就没办法对一些重要理论进行测试。实验室创造的新物种通常也被接受为科学发现,但是将这种物种释放到实验室以外的环境中则完全是另一个问题。
区分科学发现和不应当开发或部署的技术需要工程师、政府官员、行业领袖以及军事规划者具备一定程度的认知成熟。至今为止,令人遗憾的是,这些人经常缺乏这种成熟,而且说来容易做起来难。
自由和开放的科学发明自然会带来新技术发明。当一种新型武器看起来可行时,可能在军事规划者认识到它的战略价值之前,早就获得了必要的开发资金。科学人员和工程师在“想到就要做到”这件事上很容易迷失,都在努力回答这个问题:“我们做不做得到?”很少人会问:“我们应不应该去做?”
过去10年来,我担任耶鲁大学生物伦理多学科中心技术和伦理(T&E)研究小组主席。该研究小组成立于2002年,是运行时间最长的调查新兴技术带来的伦理、法律以及社会等方面挑战的论坛。通过这个研究小组以及其他数不清的机制,我有机会认识了许多创造未来的科学家和工程师,开发和推销创新技术的企业家,部署新武器的军队领袖,以及宣扬改变人类进化方式有好处的未来主义者,我与他们还成了朋友。几乎所有的案例都证明这些善良的人都致力于让人类的生存条件更好,救死扶伤,济贫扶弱。
此外,我还结识了国际上不少政策规划者、生物伦理学家、社会科学家、法律学者、理论家、科幻小说家、批评人士,以及只关注新技术社会影响的“讨厌之人”。
对于新兴技术的社会影响每个人都只是从七零八碎的片面角度去理解。学术界倾向于囚禁于各自学科的窠臼。决策者深受政治和经济方面考量的影响,尤其是一旦出现问题则一心躲避批评。新兴技术的支持者或是批评者也通常用一个宏大的确定性观念来看待争议。我们真的需要就新兴技术的发展轨迹、影响以及管理开展更全面和跨学科的讨论。
T&E研究小组会议中所开展的讨论虽然很有意思,但也非常令人担心。要么是政策规划者完全没有认识到存在如此多的风险,或是没有人去解决这些风险。认为所有人类的问题都将从技术上很快得到解决办法的人实在是很天真、很危险。
技术发烧友则沉迷其中,肤浅地轻视历史的教训。这种轻视论调自圆其说,认为技术创造的工具足以超越所有加之于后代的限制。因此,历史的教训不适用于今天的挑战,总能找到技术方案解决任何一个问题。这种思维方式令人不安,因为它认为任何能够想到的技术解决方案都应去实现。
技术乐观主义者认为科学发现和技术发展不可分开。只要可行就能实现。在他们眼中,根据技术创新的必然路线,将在不远的未来实现设计婴儿和超人类智能机器人。但是,即使是不可避免也可以迅速减速。放慢发展的脚步可以有更多的机会用心设计安全机制,也能改变各种目标的重要性。如果有充足的时间,人们就会关注转折点,并延长做出航线修正的时机。
我8岁的时候,华特·迪士尼以及当时的美国太空项目主任维纳·凡·布朗恩(Werner Von Braun)承诺说可以去国际空间站度假,还可以顺便去趟月球。我一直在等待这一天的到来。布朗恩的大型太空站并没有建成,但是美国公众已经不允许政府出资支持一个超出目前需求的项目。60年后,美国公民仍然希望有机会去太空度假,但是很少有人愿意将此设为国家的头等大事。
几千年以来,创新技术为人类的渴望和追求服务。大部分人都认为技术是推动理想和生产力的引擎,但仍有许多人普遍对具体的研究领域感到忧虑,对于技术发展的整体趋势感到困惑。这种忧虑,以及打消忧虑的各种努力很容易找到证明,比如世界各国都禁止克隆人类,禁止运动员使用生长激素,欧盟限制生产和进口转基因食物,美国国内对于胚胎干细胞研究激烈争辩等。国际上正在讨论有关禁止致命自主化武器(杀人机器人)的提议,也有人提议禁止旨在减轻全球气候变化影响的大气层实验。
如果有人能够将真正的前景与猜测区分开来,那么源自科幻小说和炒作的忧虑则能被驱散,有一些担忧可以当作是对于未知的正常恐惧而不予理会。但是通常这种敏感伴随着一种直觉智慧,我们穿过繁忙的街道时,不安的作用是作为身体中的一种工具,提醒我们对周围情况保持高度注意。同样,普遍的社会不安也能说明这是一个需要解决的问题。
当然,分辨恰当措施的智慧很难顺手拈来。在生物安全和网络安全上投入巨额资金也并没有消除这些新威胁所带来的忧虑。对于网络犯罪、网络情报以及网络战争等威胁的应对看起来似乎是技术螺旋式升级中的下一步而已。换句话说,对于这些新威胁所做出的响应只是看到了问题的一部分,不可能作为长期的解决办法发挥有效作用。
无人驾驶的车辆给我们提供了一个有关理解和感受技术发展轨迹不可避免的最恰当的比喻。难道是技术悄悄地开始掌舵了吗——无论是实际上还是象征意义上?上千年以来,技术为人类的愿望服务,而现在我们需要改变生活方式和愿望以适应新技术所创造的生活吗?科学的可能性和技术上的当务之急已经成为人类未来的主要决定因素?难道我们都将成为技术的“好仆人”吗?
我和大家一样对科学发现和技术发展的趋向很是忧虑。但是我也很感兴趣究竟能够发现些什么,也急切地想了解科学家和工程师能够有哪些发明。这两种态度内在的矛盾可以成为一种指导力量。我因为在技术和伦理学领域的工作,有幸有时间去探索防止技术脱离人类控制的创新性战略。的确,其他的一些矛盾,比如说专家之间的冲突通常都热火朝天,而不是专家的人则一般沉溺于对猜测的担心,当然这也可以作为寻找未来解决路径的素材。
大部分的忧虑之所以浮出水面是因为旷日持久地争辩通过技术方式提升人类的能力究竟是人类的机会还是败坏了人类的天性。对于沉湎于辩论之中的人来说,这证明了在揭露错误或肤浅的论据方面取得了一些进步。
但是,从大的方面说,我们的社会仍不能就哪些是实际创造的与哪些才是我们真正应当追求的目标进行一场令人满意的讨论。一些人急切地欢迎那些可以提升或改变人类能力的技术,而另一些人则对此深恶痛绝,而这之间的对抗,目前来说,仍是平局。僵持的局面对于项目投资人来说是有利的,但也导致一些有发展势头的技术研究戛然而止。但是有些事,比如克隆人类或是认知提升类药物引起意料之外的神经损伤,可能会改变事情的发展进程。
大众对于克隆人类和转基因的忧虑程度让人很难理解为什么对于因特网、智能手机以及其他的信息技术接受起来相对顺利很多。毫无疑问,不同技术引起人们的担心程度是不一样的,但是即使大众对于数码系统或装置的欣然接受也带来一些令人困扰的问题。
比如,一位母亲只顾着看电脑,对孩子一天在学校的表现不闻不问,这种骇人故事也许看起来不足为信,但是一个孩子在讲述一天中发生的事情,而他的母亲时不时点个头,手却仍然敲着键盘,这种情形恐怕屡见不鲜。带屏幕的电子设备总让人着迷;玩智能电子设备的乐趣超越了与周围人相处的乐趣;社交媒体无疑给我们提供了不一样的社交方式;短信来时的哔哔声或是打赢《接龙》《糖果粉碎传奇》《愤怒的小鸟》等游戏不断带来的多巴胺分泌进一步强化了这一类似于上瘾的行为,计算机将我们训练成了他们的奴仆。
技术奇迹引人敬畏和顺从。这种顺从有更广泛的意义,有人说技术的进步已踏上了不归路,还有一种表述是,这条路一直走下去,人类将变得无用。的确,各种技术预言家声称,我们已经进入了必然趋势的第一阶段,在这个过程中,人类这个物种将会因各种技术发明而消失。未来的主宰将是半机器人、电子智人、超智能计算机。如果我们对于驱动技术进步的经济、政治以及社会力量不当作无所不能的话,这些言论的影响力可能会削减。
这本书起源于2011年与好朋友的一次谈话。他对于基因学和人工智能研究方向不可避免感到困扰。他的沮丧和无奈也让我困扰。他提到技术发展的未来路径已经确定了。为什么人们相信技术发展的进程已经被确定,也许是技术奇迹带来的小恩小惠转移了注意力,或是掩盖了面对业已失控局面时的无助和沉默。
幸运的是,技术发展的路线并非已成定局。本书中,我将探讨技术发展必然性有关的各种问题。必然性的说法贬低了跨越重大技术门槛的难度,任何理论上的解决方案并不一定都能带来实际成果。未来主义者认为,高级人工智能发展的必然性将不利于人类对危险系统薄弱性进行探索。随着科学知识的累积,很有可能实现新的可能,但是我们是否接受这些可能,倾听内心的不安,或是抓住转折点的机遇,这些选择仍在人类手中。
虽然我们已走上不可避免的征程,但是目前还没有人制订新技术部署的管理计划。没人能真正了解人类历史上这一重大时刻。我们从不缺乏掌握特殊知识的专家。有特别目的的支持者通过网络、媒体以及电视、广播访谈放大自己的声音。少数有思想的人与大家分享对于基因学、神经学以及纳米技术的看法;夸夸其谈者打得不可开交,还四处宣扬自由、安全、平等以及责任等个人价值;
“预言大师”做出无数预
测;在任的政府官员忙于应对各种危机,勉强应对一两件大事。
正在徐徐掀开面纱的技术风景画卷令人困惑——相当于现代版本的大西部,在此间探寻宝藏的工程师发现了以新的应用程序或社交网络方案为形式的黄金。一旦这些探宝人被授勋封爵,他们就加入了商人的阶层保护自己的经济利益,而对影响他们利润、自由以及特权的规定嗤之以鼻。
一方面,需要对正在发挥作用的力量和可能性有更深、更全面的了解。另一方面,任何设想都存在偶然性。就好像我们正在拼一个技术风景画拼图,有一些拼图块不停地变化形状,还有一些找不到了。
找不到的拼图中最重要的那些区块的原因也是大部分有公知的公民并没有参与讨论,没有一群致力于全面了解问题的学者,也缺乏有公知的公民以及学者能够发出声音从而纳入政策规划者决策中去的论坛。没有这些,技术可能性的发展只能是以机械式的发展为主导。
年轻学者当然更愿意更全面地处理问题,但是他们也承受着在现存的学术生态环境下,在某一特别领域中建立专业地位以证明自身存在合理的压力。大学对于跨学科了解问题的需要只是口头说说而已,很少有学者因此追求而收到报酬。
鉴于这种不确定性,以及认识到必须做出有重大意义的决定,学者和政策规划者都在呼吁公众更多地参与到讨论中来。对于科学方面思想自由的公民,他们能问出好问题,能认真倾听,分享他们的看法、观点以及直觉等,他们是能发挥作用的。但是公民们有效参与讨论、表达关切的渠道十分有限。如果没有建设性参与的方式,知晓情况的价值则削弱了,权利也会被转移到已知情的公民手中。
本书的最后两章将介绍培养知情公民和跨学科学者的做法,就是建立一些能够倾听他们声音的论坛。但是,首先要为广泛了解具有极大吸引力的新兴技术图景奠定基础。
本书评论