科技失控：用科技思维重新看懂未来

阔步前进的游行示威人群看到一辆军绿色的悍马开过来，停在了200码之外，车顶上装着大型的八角反射器。在视频画面和操纵杆的帮助下，悍马驾驶员可以确保反射器冲着不可驯服的示威人群。他按下操纵杆上的按钮，片刻之后，示威人群中哪怕是再有男子气概的人也逃散了。

这种武器发射灼烧/疼痛射线（委婉地命名为主动拒止系统），是雷神公司为美国国防部开发的一种非致命人群管理武器，并于2007年第一次进行演示。初始两个系统的开发预算为6377762美元。

2010年在阿富汗部署了一台主动拒止系统（ADS），该武器一直争议不断，据我所知，从来没有在战争中使用。不过，雷神公司开发了一个小型的ADS武器系统，命名为沉默的守护者，并向执法机构进行推销。

ADS是新型定向能武器的一种，这些武器着重利用不同形式的能量：微波、无线电波、激光或粒子束等用在各种用途上。比如，目前正在开发使用激光武器击落来袭的超音速导弹和无人机。1998年，关于禁止在战场上使用导致士兵和平民致盲的激光爆炸的国际禁令生效。到2014年9月，103个国家批准了协议，将致盲激光器列为不应该使用的武器之一。

ADS的关键在于微波。家用微波炉在较低的微波长度即2.48千兆赫可以运行，能使一个土豆熟透。ADS发射的微波光束在95千兆赫，这将仅刺穿皮肤1/64英寸（0.4毫米）的深度。据志愿实验者称，ADS让人感觉一种炽热的烧灼感，实际上却并不存在热量。研究表明，这种强度的微波不会造成永久损伤。但是，仍有担忧ADS是否会损害眼睛或造成二度烧伤，特别是对于无法迅速逃离现场的残疾人。也有人争议使用ADS是否可以被看作是一种酷刑。酷刑是《武装冲突法》中众多禁止项之一，该法律是国际商定的一套规则，对战争期间（战时法）可以接受的行为设定限制。

使用非致命热射线驱散暴民应当被视为一个可以接受的做法还是违反了国际人道主义法？可以或应该采取什么行动阻止赞助恐怖主义的国家停止开发大规模杀伤性合成生物武器？军方是否可以自由地提升作战士兵的能力？NeXTech公司对这些问题进行了考虑，并开发了一系列独特的战争游戏，探索新兴和未来军事技术的利用。

基本的场景都很熟悉，但是考虑的军事手段是新的：网际和生物武器，无人机和陆基机器人，增能士兵，定向能武器包括可以摧毁所有电子设备的电磁脉冲（EMP）。

布鲁金斯学会的学者和畅销书《操纵的战争》的作者辛格（P.W.Singer），与Noetic Group顾问公司举办了一系列研讨会。美国国防部的快速反应技术办公室赞助了战争游戏的开发。军事规划者很感兴趣的是，这些新的高科技武器是否能像当年飞行器和潜艇的发明一样改变游戏规则。第一次研讨会探讨了指挥官、战地军官和士兵是否认为这些新兴的军事技术是有效的、实际的，或者具有战略用途的。另一次研讨的重点是新兴的军事技术的使用如何不被敌人察觉。例如，无人机袭击增加了基地组织招募人员的势头，这是军事规划人员意想不到的结果，但是在部署其他创新武器之前这应当成为考虑在内的因素。

我有幸参加了一次研讨会，汇集了公共政策、国际法和伦理学等领域的专家。我们普遍认为，使用ADS违反了“武装冲突法”（LOAC）。

《武装冲突法》规定，永远不能将目标对准非战斗人员，哪怕出于好意。但是，如果恐怖分子混入示威者人群做袭击准备怎么办？这个问题很复杂，1949年“日内瓦公约”确立了《武装冲突法》基本原则，认为在针对武装分子做出成比例响应过程中导致非战斗人员受伤是可以接受的。但什么是成比例的响应，这是战争伦理学中一直存在争议的难题。当有机会用无人机一举歼灭恐怖主义组织高层时，没有去估算究竟多少数量的平民死亡是可以接受的。

政治、法律、伦理往往搅和在一起，好像是三者存在共同语言，但是每一领域强调的问题大有不同。举例而言，伦理学家特别擅长强调人文方面的问题，如违反特定社区的社会价值观。律师从现有的国际人道主义法的角度来评判技术。政治分析往往基于实际或政治因素，并不考虑伦理学家和法律专家的评判。在选择最后的行动方案时应当全面考虑上述因素，但很少见。

我一直记得研讨会第二天结束之前就一个问题进行的特别交流。我们正在讨论如果在某个特定日子遭受到恐怖袭击的严重威胁，可以采取什么办法应对，当然并没有设定会针对哪一个美国城市。这一假设是针对最近恐怖组织在一个欧洲城市发动的袭击，导致100多人死亡的事件。

我们讨论了各种方式来向预期的攻击做出响应，但所有选项都似乎存在问题。这时候一个在场的记者说：“我们应该什么都不做！”虽然这是一个搅局者插进来发言，但是整个房间顿时安静下来，大家陷入了沉默，开始思考这个似乎很理智的提议。这时候美国海军学院网络安全方面的教授、退役上校马克·黑格罗特（Mark Hagerott）打破了沉默，说道：“总统不能这样做，他会被弹劾的。”

马克·黑格罗特说的当然是对的。其他各国的总统和领导人都会采取许多行动，从政治上证明自己在守卫国防和国土安全方面的强硬立场。他们不得不这样做，虽然有些政策是不明智，因为万一出了什么问题，反对派和公民会责怪他们。自2001年9月11日以来，这样的思维导致了战争，国土安全、监控体系对于社会和基本民主价值的破坏力比恐怖主义威胁还严重。伊斯兰国（ISIS），一个激进的伊斯兰“国家”在伊拉克和叙利亚的崛起。在努力营造安全港湾的过程中，我们已经让身处的世界更加不安全。这种情况将继续延续下去，直至民众能够接受一定程度的风险，当恐怖主义事件发生时，不会自动地归罪于他们的政府。在此之前，政界和军界领导人只是做好自己的工作而已。

令人遗憾的是，政治和军事领导人承担着如何避免未来遭受恐怖袭击的压力，这带来另一个令人不安的影响。尽管我们期待领导人在接受新技术时能控制好节奏，不要贸然行事，但他们往往反其道而行之。

事实上，技术风暴的主要驱动力来自于对安全和防御的未雨绸缪。

正如斯诺登所透露的那样，美国国家安全局利用信息技术收集了前所未有的大量个人数据，这些数据以前都认为是个人隐私，不容侵犯。美国进行了大量的投资，开发先进技术进行大数据分析，在信息的海洋中寻找有价值的银针。

此外，美国国防部每年投入数十亿美元，资助先进武器装备的研发。2014年美国国防部高级研究计划局（DARPA）预算是28.17亿美元。这笔钱赞助的研究大部分是秘密的，比如：人工智能、网络战、无人武器系统、激光防御系统，以及21世纪士兵增能等。光是DARPA的投入就将产生巨大的影响，而现在很多国家都有研究前沿技术的机构。

推动技术风暴的其他因素包括在医学领域的研究，以及非医学领域的科学和工程研究。政府资助一些研究项目以改善公民的生活，保持竞争力，希望更好地了解我们所居住的世界，也能提高政府预测和防范未来威胁的能力。但这种趋势不仅限于政府行为，非政府基金会也在花费大量资金资助一些项目，开发新的手段解决全球健康、贫穷、和平方面的问题。保持竞争力还需要很多企业在研发方面制定合理预算。

按照逻辑继续推动这些风暴的驱动力似乎无可厚非。我们怎能不竭尽全力通过寻找疾病的治愈办法用以减轻病人患病的痛苦，比如癌症和阿尔茨海默氏病人的疼痛和痛苦？难道不是防御薄弱的帝国最后都被毁灭了吗？难道不是养兵千日用兵一时，未雨绸缪非常重要吗？企业领导者对他们股东的责任和承诺就是通过创新增加利润，科学家们自然而然应当去努力了解世界并从事创新活动推动技术的进步。

上述这套理论的逻辑，以及它们对于目前发展趋势的支撑令人觉得发展不可避免，技术发展的速度和轨迹不可更改。发挥作用的力量有不可阻挡的势头。然而，个别行业的增长可能受到替代技术的影响。汽车的出现导致马和制作马鞭的行业消失，电影和照片处理已被数码摄影取代，报纸出版也在做垂死前的挣扎，努力重塑传媒行业。

国家首脑和立法者很快发现自己的力量有限，无法改变科学发现和技术创新的势头。预算可以增加，但难以降低，特别是一旦一个行业变得根深蒂固，并为政治选区提供就业和带来经济增长。新的合资企业，如欧盟和美国政府资助的大脑研究项目很容易启动。开展新的技术创新事业最大的困难是如何说明能带来长远利益，并在已经紧张的预算中找到资金支持。

悲剧可以减缓一个产业的发展势头，或者至少对于该产业的一些重要论断提出质疑。1957年至1961年间孕妇服用沙利度胺，累积造成全球超过1万名婴儿出生时四肢畸形等缺陷，之后监管部门对于不受控制的药物推销行为严加控制。在美国，医药行业曾长期抵制成本昂贵的新药测试，但沙利度胺悲剧催化了美国食品和药物管理局支持对药品实行认证制度。为了确保创新药物和设备安全，需要经过大量的测试。合成生物体或自动机器人设备未来也可能带来悲剧性事件，这需要联邦政府对这些行业加强监管。

灾难性的事故导致公众不再愿意支持一项影响广泛的政策或大型政府项目。以前有一段时间人们很少对假设方案提出质疑，直到出了问题才去补救。现在这种情况很少，但可能以后会经常发生，不再因为危机而被迫采取行动的能力是一种聪明的表现。

许多基本假设是如此根深蒂固，很少会有人质疑。军事工业研究设施以及医疗学术研究设施等例子就足以说明这一点。

本章内容