人工智能时代的电车难题：所有的真相VS沉默的真相

原标题：人工智能时代的电车难题：所有的真相VS沉默的真相

编者按：本文作者系无锡市大数据管理局局长胡逸，文章首发于澎湃新闻，创业邦经授权转载。

热播电视剧《沉默的真相》，讲述了隐藏在一起自杀案后面的不可告人的罪恶。一群好人，为了寻求正义，历经十载，不断碰壁，不断失败，最后只能以共谋和放弃生命的方式来拼死一搏。剧中呈现了三条时间线，2000年的侯贵平，2003年的江阳和2010年的严良。编剧为什么把时间轴选在了2000到2010年这十年，而不是2010-2020这十年？

看完全剧，才发现这群好人最后得以获胜的物证是一张照片。而如果放在后十年这么一个时代背景，公安干警们完全可以调用“雪亮工程”支撑下成千上百的摄像头，来找到更多的物证。

让我们想象一下这么一个场景，如果政府有权接入每个人的电子设备（包括但不限于手机、穿戴式设备、智能音箱等等），获取他们的地理位置、记录他们输入的文本内容，点击的手机应用或网页，甚至监听每一通电话和每一条微信和短信，许多犯罪行为会被抓个现行，乃至提前制止。当然，会有反对派会站在隐私的角度站出来，反驳说这是奥威尔式的监控。但是，如果你是好人，你干嘛要害怕呢？政府会保证，这项人工智能技术只用于打击犯罪，所有的无关信息和数据会受到严密保护和及时销毁。

让我们想象一下这么一个场景：《沉默的真相》中，好几次，相关犯罪嫌疑人，比如小寡妇丁春妹、黄毛，都快要开口交代了，但因为种种原因和阻碍，或被灭口，或被封口。如果人工智能技术在2090年，通过机器深度学习技术，通过分析核磁共振扫描仪等脑部传感器搜集的大脑数据，直接还原出嫌疑人脑中的真实想法和事实。那么，法庭的证据质证阶段是否会变得更快、更简单和更公平？

自然，隐私派的支持者还是会站出来质疑，如果这种人工智能系统犯错误了怎么办？还有，人类的坏思想，或者只要有犯罪的计划，是否能够接受合法的检查？同样，技术派会回答，既然你坐飞机，坐高铁，能够接受随身携带物品接受仪器检查，为什么人脑就不可以呢？现代技术可以保证，只检测违法乱纪的那部分，而自动忽略属于你个人的那部分好的思想。在公平和隐私之间，在保护社会整体利益和维护个人自由之间，界限在哪里？这条界限会不会不可阻挡地逐渐走向减少隐私的那个方向，以此来抵消证据会被隐藏和伪造的不良影响？

让我们再次发挥想象力，模拟一下这个场景：如果有朝一日，有人可以借助人工智能，生成一段你实施犯罪的虚假视频，而且它以假乱真，看起来非常真实，那么，你是否会投票支持政府借助人工智能追踪每个人，包括实时位置和通话记录，以此来洗刷你被栽赃陷害的罪名？

英国电视剧《真相捕捉》（The Capture）就是讲述了这个故事：从阿富汗反恐回国的士兵肖恩受审时，战友携带的单兵视频记录仪拍摄下了他在战场上滥杀无辜的镜头。而在即将被判决时，有一个视频专家为大家提供了另一个调整后的版本。由于单兵视频记录仪视频画面和音轨不同步的原因，当调整完毕后，法官发现肖恩的开枪是绝对合理的，肖恩被当庭释放。但很快，肖恩又被控谋杀，一段街头公共摄像头拍下的视频，证明肖恩在无人的公交站头扭打他的律师汉娜；而事实上却是肖恩向汉娜表白后，她上公交车回家了。最后的真相是：律师汉娜假扮自己被杀，借用肖恩上一个案件的名声将当局用高科技手段篡改视频，构陷恐怖分子入狱的事实公之于众。

这是编剧构撰的一个“人工智能时代的电车难题”：警方一方面要制止可能危害公共安全的恐怖活动，另一方面却没有合法证据来证明其有罪。他们伪造视频的初衷是抓捕那些有罪而无实质证据的恐怖分子，以保护更大多数人的公共利益。然而律师汉娜却坚持制度规则不能变，她更想保护的是长远意义上的程序公平和正义，虽然某种程度上，这种程序正义放过了坏人。

技术是中立的，但使用技术的人是有立场的。

在人工智能时代，随着高科技的日新月异，将带来技术边界与伦理道德的冲突。如果你愿意，请你抽个时间，看完上述两部热播剧，然后找一些你的朋友，大家放下手机，一起讨论一下：比如“你想控制你的高科技产品，还是被你的高科技产品所控制？“你是否愿意用自己的隐私去换取绝对的公平？”“在人工智能时代，如果通用人工智能（AGI）真的实现，身为一个人类的意义是什么？”这些问题，不仅很有趣，而且对我们的未来还很重要。

本文为专栏作者授权创业邦发表，版权归原作者所有。文章系作者个人观点，不代表创业邦立场，转载请联系原作者。如有任何疑问，请联系editor@cyzone.cn。