促进生成式人工智能健康发展规范应用_新浪财经

来源：法治日报

□ 本报记者蒲晓磊

“去年‘十一’假期，有网友说，放了7天假，却被‘AI雷军’骂了8天。”全国人大代表，小米集团创始人、董事长兼首席执行官雷军说，当自己想通过法律维权时，却发现对此没有专门的立法，只能以侵犯隐私权、肖像权、名誉权等起诉，而这些都要量化损失，“在网上被骂8天，损失根本没法量化”。

北京互联网法院3月13日在通报建院以来涉网络消费虚假宣传案件审理情况时指出，一些商家利用AI技术假冒公众人物形象制作虚假广告，或利用网红达人进行“种草”营销，并通过算法精准推送，导致消费者容易“踩雷”。

无论是名人还是普通人，在被“AI换脸拟声”行为侵权时，都会感到苦不堪言。

对此，多名全国人大代表建议，加快制定人工智能法，对人工智能法律问题作出全面规定，明确强化技术监管、压实平台责任、加大惩处力度等内容，填补因人工智能技术兴起而形成的各法律之间的空白地带，为促进生成式人工智能健康发展和规范应用提供有力法治保障。

不当滥用带来社会治理风险

近年来，人工智能为社会生活和商业活动带来巨大便利和机遇的同时，也衍生出一系列社会、伦理、安全和法律问题，引发社会公众普遍关注。

陕西警方2024年通报一起案件，某公司财务人员接到经理的视频通话，要求她转账186万元到一个指定账户。因为视频通话中对方的声音、长相和言谈举止都与经理一样，财务人员迅速完成转账。事后当上级领导询问时，财务人员才发现被骗并连忙报警求助，最终保住了其中的156万元。在本案中，犯罪分子就是用人工智能实现了声音和视频画面的深度伪造，以此实施诈骗。

近段时间，有商家在视频切片中通过AI技术更换专家语音和字幕，制作虚假广告，不少消费者上当受骗。

“过去一年，至少有几十个视频冒用我的声音、形象讲述虚假内容，有的连我自己都觉得很逼真。”全国人大代表、中国工程院院士张伯礼表示，利用人工智能生成虚假内容的违法犯罪事件越来越多，必须采取有力措施予以遏制。

雷军指出，“AI换脸拟声”不当滥用造成了违法侵权行为频发，易引发侵犯肖像权、隐私权以及诈骗等犯罪行为，甚至造成难以挽回的大规模声誉损害，带来社会治理等风险。AI深度合成技术具有所需素材获取便利、技术使用门槛低、侵权主体及其手段隐蔽性强等特点，给治理带来较大挑战。

相关制度存在一定滞后性

近年来，为促进生成式人工智能健康发展和规范应用，我国持续完善相关制度。

近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》，该办法将于2025年9月1日起施行。在此之前，我国还颁布实施了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》。

多名全国人大代表认为，相关法规、规章在促进人工智能健康发展方面发挥了重要作用，但由于位阶低、内容分散等原因，不足以充分应对人工智能技术所引发的各类问题。

雷军认为，相关法规、规章的颁布实施，对人工智能立法进行了有益探索。但目前“AI换脸拟声”的有关规定，尚存在效力位阶偏低、内容偏原则且分散、多个部门职责交叉或职权定位有待明晰等不足，导致现阶段针对“AI换脸拟声”造成的侵害，只能依靠基础法律中关于隐私权、肖像权、名誉权等的零散法条进行规制。

全国人大代表、西南政法大学教授付子堂表示，人工智能等技术加速突破，必将深刻改变人们现行的生产生活方式，而目前相关的法律制度存在一定滞后性。例如，生成式人工智能等新兴领域存在规范真空，数据隐私保护、算法责任认定等方面存在法律适用问题，并且在个人数据信息保护、算力治理等方面存在多头管理问题，监管协同性不足。

细化认定标准加大惩处力度

2025年全国人大常委会工作报告指出，要围绕人工智能、数字经济、大数据、自动驾驶、低空经济、航天等新兴领域加强立法研究。

多名全国人大代表建议，加快人工智能立法进程，有力解决人工智能发展和崛起所导致的各类法律问题，促进生成式人工智能健康发展和规范应用。

“立法层面对于谣言的认定标准和处罚措施还有待细化完善，惩处力度也需要加大，此外AI技术服务提供者的监督责任也需要加强，全力引导技术向善。”全国人大代表、中华全国律师协会副会长万立认为，这些内容在立法时都要有所考虑。

“要着手构建阶梯式法律框架，夯实制度根基，可细分制定人工智能法等专门法律，并完善能与个人信息保护法等上位法相衔接的、对深度合成内容进行有效规范的配套条例。”付子堂说。

雷军建议，探索推出人工智能单行法，提高立法位阶及其效力，在分级分类的基础上进行务实治理，明确“AI换脸拟声”应用边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。

“要规范‘AI换脸拟声’技术的不当利用，有必要要求深度合成服务提供商对人工智能生成的内容进行强制标识，减少恶意滥用。这也有助于厘清责任、对违法犯罪行为追责。”全国人大代表，TCL创始人、董事长李东生说。