转自：紫牛新闻
“笑死我了，雷总最近话有点密啊。国庆七天，雷总骂了六天。”这几天，一个雷军AI语音包在网络上悄然走红，一些网友使用AI克隆的雷军声音来吐槽各种不文明行为或者对他人的不满，这一行为引发了不少网友的担忧和不满，10月7日有网友在雷军的微博评论区提问“雷总，最近你怎么在骂人？”雷军回复了三个“怒”的表情包，其他网友则表态“看来他本人知道这事。”“要管一下那些AI了。”
之所以克隆了雷军声音的AI语音包会引发争议，是因为部分恶搞视频的内容已被认为超出了一般开玩笑玩梗的程度，除了骂人、吐槽之外，还有具有造谣嫌疑的，比如说要投资建设某某大学的，捐款给某某的，还有的内容多少有点骇人听闻，比如说要用小米SU7撞死XX的，要用小米手机炸死XX的，当前这些视频正在被平台逐步下架中。
虽说大部分视频下平台都标注了“疑似AI合成”的标识，不过还是有不少网友没有注意到这是AI克隆声音，并在评论区中疑惑的提问：“为啥最近老刷到雷军在到处骂人？”也有网友惊叹于AI克隆声音之真实，“前半段我以为真的是本人。”也不能怪网友反应不过来这是AI语音包，视频画面上是雷军本人，声音也是他的声音，就连说话的口音，停顿的习惯都几乎没有区别。“在AI技术辅助下，造假视频、语音越来越容易，这类视频泛滥后，谁还分得清本人说没说过做没做过，真真假假更难说得清楚了。”尽管当前雷军及小米方面并未正面做出回应，但已有不少“米粉”在呼吁法务部门尽快行动，以避免出现不必要的谣言中伤。
去年网络平台上也曾有一批AI克隆语音爆火出圈，以“AI孙燕姿”为代表的AI克隆歌手语音包风靡一时，引发了大众对于AI歌手侵犯歌手本人的肖像权和歌曲的著作权等方面的讨论，但雷军AI语音包的情况与AI歌手还有所不同，其制作的视频大多为雷军出镜讲话内容，以假乱真程度颇高，北京协理律师事务所周卫法认为网友未经雷军本人同意，借助AI软件，编辑、合成他的视频、声音，到处骂人，如果达到以假乱真的程度，势必造成雷军形象受损，那么恶搞者涉嫌侵犯雷军的肖像权、声音权和名誉权，可能要承担侵权责任，如果借此发布其他信息，导致谣言产生，造成严重社会影响，不排除恶搞者违反治安管理处罚法甚至刑法的可能。
在完善法律和加强监管的同时，为什么一般用户可以如此容易的使用软件克隆他人声纹的问题同样值得关注，AI克隆声音技术本身是中立的，想要用软件克隆自己的声音当然可以，但软件若允许所有用户自行上传语音素材进行训练而不考察是否经过声音所有者的许可，无异于给违法犯罪以可乘之机，AI克隆他人的声音制作成语音包往小了说可以是一些网友的自娱自乐，但往大了说也可能造成严重的社会事件，比如9月底闹得沸沸扬扬的“三只羊录音门”最终就被合肥警方证实相关录音系AI伪造，最终伪造者被采取刑事强制措施。福建师范大学法学院、纪检监察学院院长杨垠红在其发表的学术文章《AI语音克隆技术应用中的人格权保护》中提出，AI语音克隆技术确切针对着某个特定自然人，该技术的利用最直接的影响对象就是原声自然之人格权，除声音权益外，自然人的个人信息、名誉权等均是其最直接、最可能侵犯的对象。针对AI语音克隆技术所产生的法律问题，不仅需要在理论上明确适用和规制思路，完善有关法律，而且必须从实际出发，综合分析以最大程度避免技术应用中的“人格误导”，助力解决克隆所生成声音的法律定性以及完善训练过程的数据保护问题。
扬子晚报|紫牛新闻记者 沈昭
校对 徐珩
VIP课程推荐
APP专享直播
热门推荐
收起
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
