电子弗兰肯斯坦
人类文明积累的所有知识都可以通过使用谷歌、必应（Bing）、雅虎和其他搜索引擎找到。很快，有历史记载以来，出版的所有书籍也都可以在网上找到。研究和自学的潜力不可限量。
但对于年幼的孩子来说，这并不是一件好事。即使是对8~12岁的孩子来说，也不是一件好事，尽管美国的一项研究报告声称他们当中有很多人经常用谷歌搜索。
问题的关键在于搜索算法。设计这些算法的目的，是让最常见的搜索短语快速地显示出来。因为极端的内容和可怕的场景总会吸引大多数成年人的眼球，所以会最快显示出来（不管搜索者的年纪），耸人听闻的信息总会非常流行。
所以只要一个10岁的女孩坐在电脑前，在空白的搜索框中开心地输入一个词，然后按下“回车”，就立即开始了与机器智能的交流。这时，几乎所有的事情都有可能发生，既可能是意外，也可能是因为孩子的好奇心太重，进入了一个儿童不宜网站。搜索结果列表的内容让一个小孩真的难以抗拒。不同网站的访问量，包括问题网站在内的访问量，有一半是通过口碑产生的，不管是在学校里或在操场上，还是在网上。你不必成为一名心理学家或儿童发展专家也会知道，孩子在这个年龄段最感兴趣的事就是分享儿童不宜网站的名字，相互挑战，然后访问这些网站。
帮助这个10岁女孩搜索的这种技术尽管很聪明，却没有意识到自己在为一个10岁的儿童提供大量的信息。作为一个社会，我们并没有给予与孩子交互的机器或人工智能的伦理道德足够的重视。如果机器伤害了人，该由谁来负责？是行业、技术的设计师，还是机器的主人？（第一起记录在案的由机器人造成的死亡发生在1979年。福特汽车公司的一个流水线工人被机器人的手臂撞倒，当场死亡。）
这让我想起了1931年的经典电影《弗兰肯斯坦》里的一幕。怪物与一个在湖边摘花的小女孩成了朋友。整件事看起来很温馨，直到怪物把女孩扔进了水里，女孩淹死了。
因为对工业化感到迷惑和恐惧，玛丽·雪莱（Mary Shelley）撰写了小说《弗兰肯斯坦》。她在预测，科学在未来会带来什么。与几十本纪实作品的描述相比，这部小说更加充分地展示、说明了一个复杂的历史转变。这本书完美地展示了小说的力量。雪莱有没有想过，搜索算法是如何让机器智能进入人们的日常生活的？
在线搜索——这个电子弗兰肯斯坦怪物，是在什么地方抓住小女孩的？在参加了爱尔兰的一个咨询小组，为互联网管理提供指导时，我需要研究一下网络提供的那些儿童可以轻松访问的、合法但儿童不宜的内容。相信我，这些内容大大超出了色情和极端暴力的范围。
实际上，以斗酒游戏的方式促使人吸毒和酗酒的网站非常容易找到。始于澳大利亚的吹啤酒挑战是社交媒体上流行的一种娱乐方式，非常令人担忧。2014年，这种娱乐方式迅速席卷了世界上其他一些社交媒体。在其他网站上，还有一些充满了浓浓敌意的攻击性行为：种族歧视、仇恨言论、反同性恋（女同性恋、男同性恋、双性恋和跨性别者）态度或表达极端的政治观点和激进的尝试。别忘了，还有支持厌食和暴食的网站（因为非常受欢迎，甚至还出现了俚语缩写“pro-ana”和“pro-mia”），积极鼓励把危及生命的进食障碍当成一种生活方式。更糟糕的是，还有许多自残（割伤）和自杀的网站以年轻人为目标，为他们提供论坛，帮助他们认识其他自残的孩子，使这种行为得到强化和常态化。
想象一下，我们10岁的女孩发现了这些网站中的一个。也许她在学校里和电视上听到过许多关于肥胖的介绍。美国前第一夫人米歇尔·奥巴马是这个话题的积极推动者。在过去的几年里，肥胖一直是个热门话题。从发展的角度来看，10岁女孩正在以一种全新的方式，考自己——思考自己与学校其他女孩的关系。她会把自己与在网上、杂志上和电视上见到的女孩进行比较。她知道自己有一点儿胖，因为她的姑姑和奶奶总是掐着她苹果般的脸庞这样说。她胖吗？她可能会为此担心，于是她输入“瘦”这个词，几秒钟后就会找到支持厌食和暴食网站的链接（有时称为“励瘦”）。
从以往的研究中，我们知道了儿童观看适龄的电视内容的重要性。适龄节目和课程对幼儿会有非常积极的影响，但是如果内容不合适，就会有负面影响。什么样的负面影响？我曾经说过，研究色情或暴力对孩子的影响存在一些问题，因为让未成年人参与这样的实验是违反道德的。但是，我们可以调查一下孩子的上网经历，从调查结果中得出相应的结论。2015年，在英国进行的儿童帮助热线的调查报告显示，12~13岁儿童中有1/10的人“担心自己可能会沉迷色情”；12~17岁的人中有1/5的人说他们看到色情图片时感到震惊或心烦。令人不安的是，12%的人说他们参与过或制作过一部色情视频。
最近，爱丽丝·汤姆森（Alice Thomson）在《伦敦时报》的一篇社论中强调，赤裸裸的色情内容无处不在，对于孩子意味着什么。一个名叫色情中心（Porn Hub）的网站上的视频在2015年被观看了870亿次，也就是说，全球人均观看了12部视频。汤姆森指出，因为色情作品随处可见，人们（甚至是儿童）只要点击几下鼠标，就会造成性侵犯案件的泛滥，警方对此疲于应付。2016年，犹他州州长加里·赫伯特（Gary Herbert）签署的一项决议声称，色情在网上的盛行和简单的访问方式带来了“公共健康危机”。这是个社会危机。
为了从搜索和社交媒体网站上删除斩首、酷刑、强奸和虐待儿童的图像，这些网站还专门雇用了一些网络内容版主。据他们说，工作时看到的内容已经严重影响到了他们的情绪，让他们产生了失眠、焦虑、抑郁、反复做噩梦的问题。这些不良影响与患有创伤后应激障碍的人的症状非常相似。《犯罪现场调查：网络》（第二季）有专门的一集呈现这些不良影响。这集名叫“五宗罪”，指的是社交媒体公司花钱雇人删除的五种内容：仇恨言论、色情、暴力、毒品、恶意破坏。让我不安的是，这些版主成了极端内容的人工过滤器，这个领域急需技术解决方案。
除了版主和那些致命的罪孽，我们都知道，互联网上的问题材料五花八门。家长直接告诉孩子不要到网上去探索，这是个有效的解决办法吗？我不这么认为。在最近的一项研究中，69%的年轻人承认曾经背着家长上过网。
拥有秘密对孩子来说很正常。监听和监视他们的在线生活——趁孩子不在的时候，打开他的手机，阅读短信，或查看他们的社交媒体活动——才是个真正的问题。研究表明，如果家长专横，孩子的行事只会变得更加隐秘。根据研究，更糟的事情是，如果这些孩子陷入困境，管控过度的家长是他们寻求帮助的最后人选。换句话说，要保持警惕，但别当义务警员。
在现实生活中，假设有这样一种情况，你对一个孩子说：“看见山上那座可怕的房子了吗？不要去那儿，不安全。”他们想要做的第一件事会是什么？
10年来，网络信息安全教育从根本上告诉孩子们，互联网不安全，所以互联网才会超级诱人。在2010年和2014年开展的两项研究之间的短短4年里，欧洲国家研究了儿童的网上行为。结果表明，随着使用平板电脑和台式电脑的儿童越来越多，他们已经成为互联网的普通用户。11~16岁的青少年很有可能会收到憎恨消息，很有可能会接触到网络欺凌、自残和支持厌食的网站。
如果这种现象不断升级，就可能会遇上更多网上悲剧和有害经历。但经过努力，这种升级趋势已经得到了缓和。现在，出现了一个非常积极的变化：欧洲的儿童和青少年与网上未曾谋面的人取得联系的可能性变小了。这可能表明，学校举办的宣传在网络环境中认识陌生人的危害的各种活动和集会，发挥了作用。这是件值得庆祝的事情。
本书评论