既要实名认证又要防沉迷！生成式AI将迎国内首份监管新规|人工智能_新浪财经

华夏时报（www.chinatimes.net.cn）记者齐萌张智深圳报道

生成式AI产业将迎来首份监管新规。

为促进生成式人工智能技术健康发展和规范应用，从4月11日到5月10日，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（下称《征求意见稿》），向公开征求意见。

《征求意见稿》共21条，对生成式人工智能产业给出较为详尽的规定，其中包括定义、准入资格、责任义务和处罚措施等。

值得注意的是，《征求意见稿》指出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

对此，受访专家均表示，《征求意见稿》的提出会规范行业发展，避免相关领域出现乱象和风险。

涉及数据、责任承担等多方面

《征求意见稿》所称的生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

在数据方面，《征求意见稿》拟提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息；用于生成式人工智能产品的预训练、优化训练数据不应含有侵犯知识产权的内容，数据包含个人信息的，应当征得个人信息主体同意或符合法律、行政法规规定等。

在事前审查方面，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

在责任承担方面，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

在信息公开方面，《征求意见稿》拟提出，提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。

同时，实名认证与防沉迷被提出。在提供生成式人工智能服务时，用户被要求提供真实身份信息；提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

在后端处理机制方面，《征求意见稿》拟提出，建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续；对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成；提供者发现用户利用生成式人工智能产品过程中违反法律法规，应当暂停或者终止服务。

防范风险，规范行业发展

“当前，生成式人工智能相关法律法规、标准体系和伦理规范等还不健全，存在数据安全风险、著作权侵权风险、深度伪造风险、商业秘密泄露风险、违法信息传播风险、歧视与偏见风险等问题。”天使投资人、资深人工智能专家郭涛对《华夏时报》记者表示。

而中央财经大学证券期货研究所研究员、内蒙古银行研究发展部总经理杨海平对《华夏时报》记者表示，如不实行监管可能产生数据安全、网络安全以及科技伦理道德风险，“人工智能误用滥用可能带来对生产秩序、生活秩序和社会秩序的冲击；更主要的是由于生成式人工智能基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的特征，如果不强化提供者责任，不实行严格监管，可能导致技术创新突破科技伦理的底线，偏离科技向善的方向，造成不可估量、不可挽回的损失。”

同时，全联并购公会信用管理委员会专家安光勇对本报记者表示，如不进行监管，生成式人工智能技术可能被滥用，例如用于虚假信息传播、人身攻击、侵犯隐私等违法行为。其次，生成式人工智能可能存在偏见和歧视，导致不公平的结果和决策。此外，生成式人工智能的产生过程可能缺乏透明度和可解释性，难以追溯和解释其生成的内容。如果没有监管，这些问题可能会对社会、经济和人权等方面产生负面影响。

对于此次监管办法的《征求意见稿》的意义，北京社会科学院研究员王鹏对本报记者表示，《征求意见稿》把握了规范化解风险和鼓励创新的平衡。有利于提前研判规避风险，有助于对行业产生规范作用，有利于行业的发展，同时在管理办法中还规定了国家支持研发的方向。

商务部研究院电商所副研究员洪勇也对《华夏时报》记者表示，《征求意见稿》的发布具有重要的意义。首先，该办法的发布可以规范和规范化生成式人工智能服务，保障消费者和企业的权益，避免相关领域出现乱象和风险；其次，该办法的发布可以促进生成式人工智能技术的发展，推动相关企业和机构加强技术研发和创新，提高服务质量和水平。

在郭涛看来，“随着ChatGPT、AIGC等为代表的人工智能技术的快速大规模落地应用，相关网络安全威胁和风险日益突出，临时暂停一段时间训练更强大的AI模型，期间加速建立或完善相关法律法规和监管体系，可以减少AI技术不当滥用风险，有助于行业健康可持续发展。”

责任编辑：徐芸茜主编：公培佳