女子照片被“一键脱衣”，特效师AI换脸与女星亲吻，谁在拿AI作恶？

转自：央视网公众号

眼见为实的时代过去了，

AI 已经学会制造“真实”。

近日，

多起AI换脸或AI换装的争议事件

引起网友讨论。

近年来，

随着AI技术的普及，

“AI换脸”、

“AI合成照片、视频”等技术

逐渐走红网络。

虽然增添了人们趣味，

但也出现了不少负面情况，

有些甚至触及法律底线，

引发纠纷。

这样的“AI换脸”会引发哪些问题？

又可能造成哪些危害呢？

AI “造假”花样多

特效师AI换脸与女星亲吻

3月25日，一网红特效合成师洪某在社交平台上表示，自己的脸被迪丽热巴的粉丝抓伤“破相”，起因是其利用电脑后期制作合成与迪丽热巴亲吻的影片。

洪某在某视频平台拥有100多万粉丝，平常会在个人账号上发布一些“特效合成”的视频，即通过合成技术将自己的脸换到热播电视剧中，比如《小李飞刀》里，他替换了男主角焦恩俊的脸，并对俞飞鸿和贾静雯两名女演员饰演的角色左拥右抱。

更甚的是，他将电视剧中和迪丽热巴有亲密镜头的男主角换成了自己的脸，让不少网友直呼难以接受。目前，这个名为《热巴之恋》的视频已被隐藏。

女子照片被“一键脱衣”传到网上

近日，在广东广州，一张女子在地铁上的照片被AI一键脱衣，造谣图随后在网上广泛传播。

事实上，照片的女主角是一名博主，所谓的“裸照”是她去年7月在某平台分享的一张照片。

原图中她衣着正常，没有任何不妥之处，但被人用AI软件一键脱衣，故意全网散播。

特朗普还没被捕已经越狱

美国前总统特朗普也未能幸免，“特朗普被捕”的事情还没有发生，但“特朗普被捕”的“照片”已经在一些社交平台流传开来。

这些“特朗普被捕”的图片显示，特朗普或被警察围捕、或穿着囚服、或在劳改、或在越狱。

只不过这些都是AI合成图，仅凭肉眼难以辨别真假。

在无意识中侵权或违法

如今，随着技术门槛越来越低，AI换脸更多时候成了大家一种娱乐和社交的方式，掀起了一场又一场的网络狂欢。

AI换脸技术虽简单，可背后暗藏了不少法律风险和侵权纠纷。

据中国社科院法学所网络与信息法研究室副主任周辉介绍，滥用“AI换脸”技术可能会涉及侵犯他人肖像权、名誉权、著作权、个人信息等多项权利。 如果随意使用国家领导人或一些公众人物的肖像进行“AI换脸”，不但构成侵权，还可能危害公共秩序。

首先，《民法典》第一千零一十九条第一款规定，“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权”。因此，未经他人同意，使用其肖像进行AI换脸并公开传播，甚至丑化、污损他人肖像的行为都构成侵权。

而且，如果过程中出现“恶意诽谤”“恶意剪辑”“使用侮辱性词汇”等因素，导致他人社会评价受损的，还涉及侵犯名誉权。

无论是“换脸”APP运营者还是普通用户，未经照片、影视、短视频等作品著作权人授权和许可，擅自使用图片或者视频进行“AI换脸”，还可能侵犯著作权。

此外，AI换脸技术中涉及的人脸信息，属于个人生物识别信息，对人脸信息的不当使用则存在侵害公民个人信息安全的风险。

因此，虽然人们很多时候觉得“AI换脸”只是“闹着玩儿”，殊不知，在无意识中，已经涉及侵权，甚至违法犯罪了。

多方责任，一个都不能少

有句话说：“走太快了，灵魂跟不上。”AI合成技术同样如此，在给大众提供娱乐的同时，也因为滥用和缺少监管，造成了信息安全隐患和传播侵权的乱象。

正如北京航空航天大学法学院副教授、北京科技创新中心研究基地副主任赵精武所说，要遏制AI合成的乱象，还得政府监管部门、平台、网民多方形成合力，多管齐下，一个都不能少。

首先，作为服务的提供者，AI合成平台必须承担主体责任。国家互联网信息办公室于2022年11月25日公布的《互联网信息服务深度合成管理规定》（以下简称“《规定》”），对AI合成的服务提供方做出了多项规定。

比如，AI合成平台必须要求内容创作者实名认证，监督创作者标明“这是由AI合成”之类的标识，以免误导公众；在提供“换脸”技术前，应该征得“被换脸”者的同意；并完善数据管理、保障个人信息安全。

同时，《规定》也指出，网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理， 对不当使用AI合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。

赵精武表示，AI技术确实降低了造谣和作假门槛，尤其是ChatGPT问世之后，AI技术产品能够以最贴近人类思维和表达的方式生成海量虚假信息，而广大用户显然无法有效识别网络虚假信息。

被“AI造谣”后如何维权？赵精武称，首先可以直接要求侵权人删除相关谣言信息并赔礼道歉；其次，可以留存谣言证据， 经由公证机关公证之后作为证据材料，向侵权人提起侵权诉讼。

更重要的是，我们普通人面对视频、图像还得多留个心眼。毕竟，有了“AI换脸”技术之后，眼见不一定为实了，对猎奇、“劲爆”的内容，还得保持理性和警惕，对它们的真实性“打个问号”，别啥都不想就信了。

只有这些精神和物质的“基础设施”真正建立并完善起来，技术的进步才能真正造福于人类，而不是沦为伤害他人的犯罪工具。

（原标题：女子照片被“一键脱衣”，谁在拿AI作恶？）

来源：央视网公众号

流程编辑：TF016

海量资讯、精准解读，尽在新浪财经APP