推特反Deepfake策略能否揭下人们换上的“假面”

查看最新行情

鉴于立法总是落后于现实，在类似于Deepfake事件中，由处于第一线的企业制定规则加以约束，确实很有必要。

　　中国的“双十一”狂欢刚刚落幕，大洋彼岸的社交媒体巨头——推特又吸引了来自科技圈的关注度。

　　11月12日，推特正式发布首个反Deepfake（换脸神器）策略草案。该公司表示，如果Deepfake内容威胁到某人的人身安全或可能造成严重伤害，他们会将该内容从推特上删除。目前，推特已开始就此项草案向公众征集意见。

　　可能中国人对Deepfake不太了解，但提起前段时间引发争议的某款换脸软件，大家一定不会陌生。而这款换脸软件就借鉴了Deepfake的原理。

　　Deepfake是个新词，它实际上是个组合词，即“深度学习”和“假”的组合。顾名思义，作为一种人工智能基础的人物图像合成技术，它可以通过机器深度学习，将现有的图像和视频组合并叠加成新的图像和视频。这些内容看起来就像真的一样，但从来没有发生过。

　　比如，在一个场景或新闻事件中，通过Deepfake把某个人加进去，使他说一些话或者做一些动作。

　　在互联网上，类似Deepfake的内容实际上早已有之。比如，各种PS作品、各种剪辑作品，一些色情网站上的换脸内容，以及上次引发争议的实时换脸软件。它们在本质上还属于“恶搞”或“娱乐”，负面影响虽然也有，但是因其并不难识别，恶果总归有限。

　　而Deepfake真正的危害在于，如果这种技术大行其道，它有可能会颠覆人类千年来所形成的某些“朴素真理”，比如“眼见为实”。当真相被轻易混淆，尤其是当这些真相涉及某些重要的人物、场景、事件时，可以想象，将会造成多大的混乱。

　　比如，几个月前，美国民主党议员南希·佩洛西的一段演讲视频在Facebook上疯传。视频中佩洛西的语速被降到了原版的75%左右，同时音调也被人为调高，阴阳怪气，宛如醉酒一般，产生了很恶劣的影响。

　　但由于其被定义为恶搞视频，当时Facebook拒绝将之下架。然而，逼真度能够欺骗过大多数观众，甚至专家、亲人的恶搞视频，到底还算不算恶搞视频呢？

　　假设恐怖分子以Deepfake制造出假的新闻事件传到网上，以现在的社交网络传播速度，很可能会在还未被识别出的情况下，就已经引发某些敏感地区的种族仇杀或宗教仇杀了。

　　技术当然是无罪的，但当技术进步有可能超出人类的把握能力，有可能对人类生活造成威胁的时候，对技术应用加以防范和管控却也是必要的。

　　实际上，很多国家已经充分认识到这一点。比如，在2018年的世界人工智能大会上，中国国家主席习近平曾在贺信中指出，在把握好新一代人工智能所带来之发展机遇的同时，要“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题”。

　　在社会治理中，技术进步与立法能够齐头并进当然是最理想状态，但鉴于立法的慎重性，现实中立法落后于技术进步却是常态。在这种情况下，在类似于Deepfake事件中，由处于第一线的企业制定规则加以约束，确实很有必要。

　　如今，社交巨头推特已经走出了第一步，相信未来各大科技巨头都会有所跟进，而中国的互联网企业也不妨随时保持高度关注。毕竟，技术的“双刃刀”效应是不分国界的。

　　□信海光（专栏作者）

　　编辑：李冰冰  校对：王心

责任编辑：张玉洁 SF107