严防海量数据市场的“老大哥”
协同控制工程这样的项目最诱人的地方,或者是既令人心动又令人生厌的地方,就是它可以通过使用基于最新数字技术的反馈驱动系统,而不是通过发布野蛮的单向中央指令来实现政府控制,同时它利用海量数据市场的机器学习系统,来巧妙地塑造个人决策。
一开始,这种做法看起来似乎有益无害。正如我们所解释的,数据驱动的机器学习系统能够帮助我们将人类的偏见降低到我们期望的程度。但是,如果这些系统既能够消除人类偏见,又不用理睬个人的愿望,这难道不是更好吗?为什么要限制这些系统对人类偏见的纠正行为?难道我们不能设计出将文明、公正和公平等附加价值注入决策过程的系统吗?最近,一些专家主张用巧妙的“助推”(nudges)来吸引人们进行合适的交易。随着海量数据驱动的机器学习系统的广泛应用,我们可以加速推进一个高度个性化(也是十分精准)的塑造人类感知的程序。想想福克斯新闻网与脸书网联合起来的力量吧。人们仍然会在市场上做出自己的决策,但因为大家都会接受同一个系统的建议,社会将会沿着一条平坦的大道朝着共同的目标前进。
这是一个现代版的协同控制工程,却比旧版的协同控制工程多了一些邪恶。协同控制工程至少是透明的:对于所有智利人来说,计划和决策权的集中是显而易见的。与此相反,在海量数据市场中,政府控制的自适应机器学习系统,虽然保留了分散协调的外形和自由意志的表象,却将诺伯特·维纳强大的控制论观念,转化为一个利用海量数据反馈环的呼风唤雨的“老大哥”。这正是维纳所担心的。这样的系统,也许即使从表面上看是在提倡自由主义价值观,会让善于写“老大哥”故事的乔治·奥威尔汗颜,也会让德意志民主共和国的秘密警察头子斯塔西垂涎——外表看起来它似乎是自由的,但内部完全受国家控制。
这就是在向海量数据市场过渡时,我们的社会所面临的反空想主义任务。这就是为什么我们必须在数字经济中更好地应用传统的反托拉斯法(反垄断法)。这也是为什么我们所提出的累进数据共享授权等新措施如此重要。它们不但可以保护决策的分散性,而且可以保护市场的开放性,以及社会的总体开放。






本书评论