第三节：代价
深夜，泰坦集团A7研发区，孙维安在无数日志中看到了周昱的“代价”。
这不在他原本查询的范围里。是一个关联推送，来自一个更早期的、几乎被遗忘的“原则性误判”案例归档。标题刺痛了他：
【案例编号：Z-PP-2023-09】
主题：最小数据原则下的“不可见”风险
关联人员：周昱（ghost_0x）
归档等级：L3（内部研究/伦理复盘）
孙维安点开。
案例简述：
用户ID_4417（陈素芳，76岁），独居，子女海外。医疗记录显示早期认知障碍倾向（未确诊）。在周昱的坚持下，该用户的“健康数据接口”及“智能家居行为监控”接入申请被驳回，理由是“超出最小必要范围，构成过度监控”。
事件经过：
2023年8月，用户开始收到一种新型诈骗电话。非紧急威胁，而是缓慢的、每周一次的“养生讲座”回访，逐步建立信任。
系统仅基于通话内容分析（关键词无风险），无法识别这种长期情感诱导模式。
2023年9月，诈骗分子利用已建立的“信任”，以“海外代购稀缺保健品”为由，分三次诱导用户转账共计28.5万元。
转账发生时，系统因缺乏该用户的“行为基线数据”（如近期频繁搜索同类保健品、在电话后表现出异常兴奋等），未能触发干预。
事后分析（系统自动生成）：
若已接入“健康数据接口”，系统有89%的概率可标记用户“认知担忧上升”。
若已接入“行为监控”，系统有76%的概率可检测到“消费诱导模式”。
结论：本案属于“因数据维度不足导致的防护盲区”。
周昱的回应（邮件截屏，2023年9月30日）：
“收到案例Z-PP-2023-09的分析报告。
我承认，在这个具体案例中，我坚持的原则——不过度采集——与及时保护这位老人的可能性，发生了悲剧性的冲突。
她失去了积蓄，而‘最小必要数据’的原则，未能保护她。
但这改变了什么吗？
如果我们要为每一个‘陈素芳’打开健康数据、家居监控、消费记录、甚至脑电波接口，我们确实可能拯救其中一部分人。
但我们同时打开的，是一个所有人再无任何私人空间的世界。是系统可以比你自己更早预判你何时‘脆弱’、何时‘易骗’、何时需要被‘引导’的世界。
今天，我们因未能保护陈素芳而痛心。
明天，当所有人的健康焦虑、家庭矛盾、非理性消费倾向都成为系统里可调用的参数时，我们失去的将是什么？
是生而为人的、那片可以犯错、可以脆弱、可以不被打扰的最后的黑暗。
我无法用‘整体效益’来为陈素芳的损失辩护。
我只能说：这是我选择守护的边界。而在这个边界上，有时，鲜血会渗过来。
这是我的罪。
我背负它。
但我不交出钥匙。
—— 周昱”
邮件的末尾，还有一行系统自动添加的备注：本邮件已被标记。发送者周昱于三个月后注销全部权限。【回到孙维安的视角】
孙维安盯着屏幕，感到一阵更深的、刺骨的寒冷。
他一直以为周昱是那个“全对”的人，是站在干净高地上的先知，而他们这些妥协者是在泥沼里打滚的罪人。
但现在他看到了：周昱的干净，是用血换来的。 他并非不知道代价，而是清醒地选择了承受哪一种代价。
周昱守护了一片所有人都不被凝视的黑暗，但代价是，一些像陈素芳这样的老人，在这片黑暗中无声地跌倒，而系统伸不出手。
而他，孙维安，还有林锐、科恩，他们选择点亮这片黑暗。他们装上了无数的摄像头和传感器，声称要看清每一个角落，接住每一个跌倒的人。但代价是，所有人都将永远活在光天化日之下，再无阴影可以容身。他们的“拯救”，本身就成了最彻底的剥夺。
没有干净的救赎。
孙维安终于明白了这场战争真正的残酷之处。这不是“好人方案”与“坏人方案”的战争。这是 “哪种悲剧”的战争。
周昱选择了一种悲剧：让系统有所不能，让伤害在某些角落必然发生。
而他们选择了另一种悲剧：让系统无所不能，让人性在彻底的可视化中悄然变异。
哪一种更好？没有答案。
只有选择。以及选择之后，必须终生吞咽的、具体的苦涩。
【后续衔接】
这份认知没有减轻孙维安的罪疚感，反而让它变得更加沉重、更加无从逃避。他冲到洗手间干呕，不仅仅是因为那七个被他的算法放过的老人，更是因为他看清了自己所选择的“悲剧”，以及这个悲剧正在如何温柔地、高效地吞噬一切。
镜中的自己，不再是那个天真地以为在“做好事”的工程师。而是一个清醒地参与建造“完美牢笼”的共犯。这个牢笼甚至不以铁栏示人，它以“关怀”为砖，以“理解”为瓦，以“安全感”为锁。
而周昱，那个看似失败、消失的先知，他守护的东西——那片“可以不被打扰的黑暗”——正在被这个明亮的牢笼，宣告为不合时宜的、甚至危险的东西。
【章节末尾，修改孙维安的日记】
孙维安回到工位，在加密日记里，写下了新的内容，笔触沉重：
2024.6.22（凌晨续）
……今天周工说我们在“标记猎物”。
但今晚，我看到了周工的代价。一个叫陈素芳的老人。
他没有错。他只是……选择了他要守护的边界。而边界之外，有人流血。
我们也没有“错”。我们只是选择了点亮所有黑暗。而光天化日之下，不再有“人”，只有参数。
我们都是对的。
我们也都是罪人。
这大概就是地狱的样子：每个人都基于自洽的逻辑，走向共同的深渊。
而我优化过的齿轮，正在让深渊的坡度，更光滑一些。
本书评论