艺术画作、AI变脸……如何统筹AIGC发展与安全？这场论坛现场网络安全大咖热议_新浪财经

东方网记者薛宁薇9月11日报道：手机导航语音、模型建构、艺术画作……随着ChatGPT的出现，能够生成文本、图像、视频、音频等多种形式的人工智能生成内容技术（Artificial Intelligence Generated Content，以下称“AIGC”），越来越多被应用于生活各领域。

与此同时，不法分子也盯上了AIGC的“蛋糕”，相关“AI变脸”“AI拟声”诈骗案件时有发生。出于对AIGC大模型的风险考虑，马斯克等互联网大咖也曾要求暂停人工智能大模型的训练。

在今天举行的2023年国家网络安全宣传周上海地区高峰论坛活动现场，多位网络安全的业内大咖就分享对AIGC的发展和安全治理话题发表各自见解。

“大模型暂停训练半年的呼吁是理想化的，唯有我们进一步地以科技自强，来保护人民群众的生命财产安全。”在上海交通大学人工智能研究院院长宋海涛看来，人工智能和AIGC的产生，加速了人们对于信息的有效压缩能力以及对知识的表达能力，面临如此重大的科技涌现甚至对网络的外延，要在进一步拥抱科技力量和技术的同时，加强网络安全方面伦理和治理体系的研究。“新业态、新技术到任何一次工业革命最终要遵循伦理和社会治理的规则，我们可以在下一阶段网络安全过程中如何探讨伦理和治理体系的建设。”宋海涛说。

“3-5年后网络上的东西可能都是AIGC生成的，它可以文生万物，比如网上看论文都不知道是不是AIGC写的，这会牵涉到网络安全问题、生态安全问题、数据安全问题。”上海市信息安全测评认证中心创新研究院副院长徐卿表示，对于这个问题，国家层面对数据安全制度供给在加大，包括《数安法》《个保法》等。对此，上海也推动了许多以数据安全为中心的思路去构架城市数据安全体系的试点工作。“目前还是一个起步阶段，还是有大量工作要去做，方向肯定是正确的。”徐卿说。

作为一名法律工作者，公安部第三研究所网络安全法律研究中心主任、研究员黄道丽从事网络安全政策法律研究近二十年，深耕数据安全、个人信息保护、网络安全漏洞治理、关键信息基础设施保护等领域。她认为，AIGC在应用中的风险是否会突破传统所认识的数据安全、个人信息保护，这当中存在一个巨大的张力。相关立法时需要让所有参与人员都能看到一个稳定的预期，对行为有一个准确的判断。

在中国信息通信研究院华东分院院长廖运发看来，从技术上，要加快人工智能技术进一步地研发。从产业维度上，需要加快可信人工智能的落地，形成共识。从生态维度，要加快标准的研究、制定，以及从监管的维度如何推动底线政策的监管。“总体来看，这些监管都不是抑制AIGC大模型的产业发展，而是要统筹发展与安全。”廖运发认为，要构建一个AIGC大模型的数字安全空间，涵盖网络安全以及数据安全、基础设施安全、应用安全，这对于整个AIGC大模型发展是至关重要的。