没有终点线
在写作本书而进行的对话和采访中,来自nuTonomy的卡尔·亚涅马的一段评论一直让我铭记于心。在说到自动驾驶汽车和人工智能整体的发展时,他说:
谁会最先到达终点线,赢得这次竞赛?竞赛一般来说有一个终点且只有唯一的胜者,就这个行业来说,这两者都不适用,路上会有初始版本的自动汽车,足够安全并且类人,而且人们会使用它。
这已经很棒了,但它的软件会随着时间进一步完善,这些进步的取得是通过智能改进,模仿人类的行为实现的。
有些挑战是有终点线的——尼尔·阿姆斯特朗(Neil Armstrong)第一次登月,人类基因组测序。这些是我们在第二章中介绍过的钟类问题,而其他的挑战则需要不断变化的应对方案,属于永远也无法彻底解决的云类问题。在很大程度上,这就是我们所描述的那种未来,是人性和技术共同演变的未来。
有一件事非常清楚,当我们回顾20世纪和21世纪初的时候,想到人类竟能在对行为没有深刻认识的前提下,取得各种成就并成功在这个系统中存活下来,心中必将充满敬畏。我们经常谈论的反乌托邦社会并非未来人类的栖居地,而恰是我们当今所处的社会。
我们会对过去的人类充满同情,他们很少被认识到,在人口统计中充当一张张生疏的面孔。他们乘坐原始的机器出行,简直是在拿自己的生命冒险,他们必须要面对各种限制,每天要面对的不确定性和变化无常都是我们难以理解的。
《隐藏的行为》一开始就是讨论工业时代的终结,新时代的开启,我们在其中构建经济、商业和生活,对自己的行为以及地球上共同栖居的智能机器的行为有深刻的理解——智能机器这一全新的物种将会是我们的合作伙伴和同事。
未来充满不确定性,我们对之心存恐惧和担忧,但同时也看到了前景和价值,在深入探究这些不确定性的过程中,我们尝试保持中立的观点,而在指出透明和隐私的风险时我们直言不讳,因为风险是实实在在的,需要人们时刻警惕。但在向所有人,无论是个人还是社会整体描述隐藏的行为的益处时,我们也同样毫无保留。
我们可以再写8万字,推测所有这些趋势将如何一步步展开,但从亲身经历中所学的远比纸上读来的多,所以写科幻小说的工作还是留给科幻小说家吧。事实就是,我们所有人——无论是个人还是集体——都必须要找到平衡点,追求透明所获得的收益相较于需要付出的代价是值得的。这并非全新的话题,但显然其潜力从来没有这样巨大。
我们在本书之初引用了亨利·戴维·梭罗的名言:“人已成为其工具之工具。”在工业时代之初,梭罗无疑是在说人性已经沦为商业化、物质化、工业化,甚至战争的工具,工具正以一种前所未有的方式包围人类,工厂的壮观景象,蒸汽船取代航船,蒸蒸日上的铁路系统,所有这些都推动了全球发展,但同时也深深镌刻在梭罗所预见的那种人性中。我们可能需要再度提醒自己:1850年,地球上共有10亿人口,其中有93%的人生活在极度贫困中。今天全球有70亿人口,生活在极度贫困线以下的人不到10%。[16] 令人吃惊的是,这意味着今天生活在极度贫困中的人大约不到4亿。而梭罗最担心的工业机器,却正是人类摆脱深度绝望最重要的原因。
无论在哪个时期,伟大的进步都不免被反对者批评为人类的威胁;所谓即将到来的宇宙崩塌的厄运,从来也没有发生过,但这种反对的论调并不会就此打住。
我们希望以一个非常简单的想法结束本书:“这不是终点。”未来还有无数的决定、创新、挫折和飞跃。我们无数次走到改变的边缘,还会无数次回到那里,每一次我们依然会面对二选一的抉择。
一条路是只盯着未来的风险,为曾经的失去悲伤不已,对熟悉的环境习以为常;不论结果如何,对其缺点确定无疑,因为这就是我们所知道的,我们也是这般定义自我的。正如在险象环生的海上行驶的船长,为自己善于避开昔日的障碍而倍感骄傲。把未来留给那些更年轻、更愚蠢、没有太多东西可失去的人。
另一条路是无所畏惧、大胆地走向未来,清楚地认识到,很多已知的东西都会面临前所未有的变化和冲击,但我们也会收获同样难以想象的益处。
所谓选择只是一种幻觉,通常并非人们选择走向未来,而是被整个未来所吸引和吞噬。选择不在于找到逃避未来或让它放慢脚步的办法,而是愿意成为观察者或积极的参与者,塑造未来,使之朝着对我们有利的方向发展。
亚原子的隐藏机制让我们对宇宙运行有了深入、准确的认识——促成了20世纪很多意义非凡的科学发现——同样地,揭示隐藏的行为也会为构建21世纪所需的透明奠定基础。这其中有没有风险?当然有,正如前文所述,我们需要保持警惕,但更大的风险在于什么也不做,在于我们害怕和无力创新,意识不到更有价值的未来的前景最终会胜过风险。历史从来不是在恐惧中诞生的。
隐藏的终会浮出水面,未来也将随之而来,这一切都不可避免。
- “Cryptocurrency Market Capitalizations,” Coin MarketCap website,accessed October 2, 2017, https://coinmarketcap.com/: and“Currency in Circulation: Value,” Board of Governors of the Federal Reserve System website, accessed October 2, 2017, https://www.federalreserve.gov/paymentsystems/coin_currcircvalue.htm.
- 这意味着它不是基于黄金标准或任何其他商品的价值。
- “Spend Anywhere, Without Fees,” Monaco, accessed October 2,2017, https://mona.co/.
- Ben Dickson, “How Blockchain Can Create the World’s Biggest Supercomputer,” Tech Crunch , December 27, 2016, https://techcrunch.com/2016/12/27/how-Blockchain-can-create-theworlds-biggest-supercomputer/.
- “The Golem Project Crowdfunding Whitepaper,” Golem Project,November 2016, https://golem.network/doc/Golemwhitepaper.pdf.
- “Vitalik Buterin: ‘Putin Knows What Blockchain Is – This Is the Hype’ [article translation from Russian],” Reddit web log post by “Treo123,” accessed October 2, 2017, https://www.reddit.com/r/ethereum/comments/6xdsvr/vitalik_buterin_putin_knows_what_Blockchain_is/.
- Patrick Howell O’Neill, “The Cyberattack That Changed the World,” Daily Dot , May 20, 2016, https://www.dailydot.com/layer8/web-war-cyberattack-russia-estonia/.
- “Facebook Statement of Rights and Responsibilities,” last modified January 30, 2015, accessed October 1, 2017, https://www.facebook.com/terms.php.
- Gar Alperovitz. “The War Was Won Before Hiroshima-And the Generals Who Dropped the Bomb Knew It,” The Nation . August 5,2015, accessed October 7, 2017, https://www.thenation.com/article/why-the-us-really-bombed-hiroshima/.
- Mike Gault, “Block Cloud: Re-inventing Cloud with Blockchains,”Guardtime website, accessed October 2, 2017, https://guardtime.com/blog/blockcloud-re-inventing-cloud-with-Blockchains.
- Robert M. Wachter, The Digital Doctor: Hope, Hype, and Harm at the Dawn of Medicine’s Computer Age (New York: McGrawHill Education, 2017).
- Sam Levin, “Face-Reading AI Will Be Able to Detect Your Politics and IQ, Professor Says,”Guardian , September 12, 2017,https://www.theguardian.com/technology/2017/sep/12/artificial-intelligence-face-recognition-michal-kosinski.
- Isaac Asimov, “Runaround,” in I, Robot (New York: Doubleday,1950), 40.
- James Vincent, “Satya Nadella’s Rules for AI Are More Boring(and Relevant) Than Asimov’s Three Laws,” The Verge , June 29, 2016, https://www.theverge.com/2016/6/29/12057516/satyanadella-ai-robot-laws.
- Vincent, “Google’s AI Researchers Say These Are the Five Key Problems for Robot Safety,”The Verge , June 22, 2016, https://www.theverge.com/circuitbreaker/2016/6/22/11999664/googlerobots-ai-safety-five-problems.
- Our World in Data., “World Population Living in Extreme Poverty, 1820-2015,” 2017, accessed October 7, 2017, https://ourworldindata.org/grapher/world-population-in-extremepoverty-absolute.
本书评论