在法律法规还未跟上的现实面前，阻止AI作恶，道阻且长。
文 | 冰 姐
在英国，一起震惊社会的案件近日在博尔顿法院宣判。27岁的休·尼尔森（Hugh Nelson）因利用AI制作儿童色情图片，被判处18年监禁，并被判定犯有16项儿童性虐待罪。尼尔森因此成为英国首例利用AI深度伪造图片而被判刑的人。由于没有相关的法律支撑，给尼尔森定罪并不容易。
此案不仅揭示了人工智能技术可能被滥用的黑暗面，也再次为我们敲响了保护儿童免受网络伤害的警钟。
眼下，欧美各国都在加紧推动制定AI深度伪造犯罪的相关法律，尤其是针对儿童的色情犯罪。期盼相关法律能够早日出台，让作恶的人曝光在阳光之下，受到应有的制裁。
“技术宅”入歧途
休·尼尔森今年27岁，住在英国的博尔顿，是一名学平面设计的研究生。他可不是一般的“技术宅”，尤其是对那款名叫Daz 3D的3D建模软件，在他手里简直是“出神入化”。
尼尔森利用软件伪造图片这款具有强大AI功能的3D建模软件，被广泛应用于游戏开发、电影制作和广告设计等领域。然而，在尼尔森的手中，它却成了制造罪恶的工具。
起初，他只是在亲戚朋友的聊天群里，分享自己用AI深度伪造的各种有趣的图片，展示自己的技术实力。渐渐地，亲戚和朋友里的一些年轻人开始私聊他，拐弯抹角地请求他帮忙制作一些“大尺度”的AI图片。一些人甚至求图心切，愿意支付80英镑一张的报酬。
尼尔森一看这个技术居然可以用来赚钱，就开始通过收集网络上儿童的正常照片，利用Daz 3D的AI算法，将这些无辜孩子的形象转化为色情照片，有些甚至是性虐待图片。这些图像并非简单的图像拼接或面部替换，而是基于儿童照片创建的全新3D“角色”，它们看起来栩栩如生，却充满了邪恶。
更过分的是，他还接受“定制服务”。有些恋童癖者，把自己在现实生活中接触过的儿童照片发给他，他就能根据这些照片，“创造”出相应的性虐待图像。这简直就是“量身定制”的罪恶啊！
在长达18个月的时间里，尼尔森不仅自己制作这些图像，还通过暗网或者聊天群将它们出售给有恋童癖的买家。据调查，他至少获利约5000英镑（约合46380元人民币）。
请君入瓮
2022年初，英国警方在网络监控中发现了一系列异常活动。一些不明身份的用户在暗网上频繁交易疑似儿童性虐待的图像。这些图像不同于以往常见的“深度伪造”内容，仅仅是简单的头像移植，它们看起来更为真实，甚至带有一种难以言喻的“创意”。
警方迅速介入，开始追踪这些图像的来源。经过数月的侦查，警方锁定了一个来自博尔顿的IP地址。随着调查的深入，他们惊讶地发现，这些令人不寒而栗的图像竟然是由一名年轻男子——休·尼尔森制作的。他把现实中的儿童头像通过深度伪造创造出一个新的形象，受害儿童大多不超过10岁，最小的只有4岁。
尼尔森接受警方调查
据法院透露，休·尼尔森在在线聊天室中被一名卧底警官抓获，当时他声称已经使用提供的图片创建了多个新角色，并收取了费用。他还向警官炫耀自己制作过的各种虐待图像，包括殴打、窒息、绞刑、溺水和斩首等。
此外，警方在搜查休·尼尔森的设备时还发现，他与三个不同的人交换了信息，鼓励他们对13岁以下的儿童实施强奸。在调查过程中，警官确认了世界各地的嫌疑人和受害者，包括意大利、法国和美国。
尼尔森的辩护律师在法庭上称，尼尔森一直在父母家中过着“孤独的卧室生活”（lonely bedroom life）。他挣钱少，极度渴望得到认可，制作性虐待图像让他完全沉迷其中。
2024年10月，博尔顿法院对尼尔森案进行了公开审理。在庭审中，检方详细展示了尼尔森的犯罪事实和证据链。法庭上，尼尔森面对铁证如山，最终承认了自己的罪行。
检方指出，尼尔森的行为不仅严重侵犯了儿童的权利和尊严，还对社会造成了极大的危害。他制作的图像在网络上流传，可能引发更多人对儿童的性虐待和性剥削。此外，他的教唆行为更是直接鼓励了他人实施性侵犯罪。
经过审慎考虑，博尔顿刑事法院法官马丁·沃尔什于10月28日宣布了对尼尔森的判决。沃尔什法官称，尼尔森制作和展示的图像“令人震惊和作呕”，其“堕落程度令人不寒而栗”。他强调，尼尔森的行为不仅违反了法律，更违背了人类的基本道德和良知。
最终，尼尔森被判处18年监禁，并被判定犯有16项儿童性虐待罪。这一判决不仅是对尼尔森个人的严厉惩罚，也是对所有潜在犯罪者的强烈警示。
英国检控署特别检察官珍妮特·史密斯表示，她希望这一定罪能向那些利用这项技术并对儿童造成伤害的人发出明确的信息：他们将受到执法部门的强烈追捕、起诉和惩罚。
并非孤例
类似的案件并非仅限于英国。
今年8月，美国一名士兵因涉嫌使用人工智能生成儿童性虐待材料（CSAM）被捕；而威斯康星州一名男子因涉嫌制作超过1.3万张儿童性虐待图像面临70年监禁。
不久前，FBI和华盛顿警方抓获了一名儿童精神病专家，搜出这名专家用AI制作的大量儿童色情图片，也就此破获了美国第一起联邦级的AI深度伪造图片案。
韩国一名男子于9月被判刑2年半，因使用人工智能制作360度虚拟儿童虐待图像，这是韩国首次发生这样的案件。在西班牙西南部的一所学校，警方调查了青少年使用手机应用程序使穿着衣服的同学在照片中显露裸体的行为。
《新民周刊》曾就未成年人保护问题进行深度探讨
人们在享受AI轻松利用文字、图片生成图像、视频的时候，不可避免地会遭遇深度伪造难题。这些深度伪造的色情图片、虐待图片乃至视频，不仅在事实上对被伪造的当事人造成了无可挽回的伤害，与此同时，也让调查人员陷入营救事实上是虚拟人物的困境。作恶者还可以利用这些图像来勾引和胁迫新的受害者。
尼尔森案再度引发了社会对人工智能技术监管的广泛关注。Daz 3D作为一款原本用于正当用途的软件，在尼尔森的手中却成了制造罪恶的工具。这不禁让人思考：如何确保技术不被滥用？如何防止类似事件再次发生？
在法律法规还未跟上的现实面前，阻止AI作恶，道阻且长。
美国想借月壤，为什么我们就是不借？
“像老鼠一样被围困”，西班牙遭遇世纪洪灾背后：天灾还是人祸
以色列求俄罗斯调解黎以冲突，很奇怪吗？
版权说明
新民周刊所有平台稿件， 未经正式授权一律不得转载、出版、改编，或进行与新民周刊版权相关的其他行为，违者必究！
VIP课程推荐
APP专享直播
热门推荐
收起
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
