数字人产业的发展与规制|数字人_新浪财经

转自：学习时报

　　数字人产业随着生成式人工智能技术多模态的融合发展，迎来了前所未有的发展机遇。从影视娱乐到品牌营销，从电商直播到金融服务，数字人深入各行各业，并重塑商业生态。在今年全国两会期间，有网络媒体推出了数字主持人，实时了解两会热点。近日，深度还原真人整体外观和语言风格的数字人“采销东哥”在其直播首秀中，取得了总观众量达到2000万、直播间整体订单量破10万的优异成绩。数字人应用已成为人工智能企业竞相角逐的新赛道。

　　数字人已近乎实现与真实主体外形上的共用、交互上的共通以及认知上的共生。数字人的构建和运行不仅需采集真实主体肖像、声音等以实现外在的惟妙惟肖，还需要通过学习真实主体所发表言论、生活轨迹等来实现逻辑、语言等深层次特质上的如出一辙。

　　数字人的应用本质与可能存在的问题

　　数字人产业的蓬勃发展是数字化社会生产发展到新阶段的标志，是从人的“生物本体”被数字信息化到“数字化的人”，再发展到“数字人”单独参与数字社会生产的进化过程。

　　首先，数字经济时代已经形成了个人数据与“生物本体”的分离，数据作为生产要素参与社会生产的数字社会生产方式。个体的数据信息是人的数字化表达，可以不同程度地关联到一个可识别的生物个体。不同于工业时代将土地、矿产作为生产资料，数字经济时代已经逐步建立起以数据为生产要素的社会生产方式。人参与数字社会生产的方式即是人的生物信息被提取、分离以个人信息、行踪轨迹等数据作为生产要素。在数字社会生产中，平台需要通过知情同意机制合法取得生物个体的个人信息与行为数据，并通过去标识化转化为企业财产权益，进行数字社会生产。数字社会生产的数字产品如用户画像和行为预测算法，则可通过服务合同和定向广告投放方式进行交易。此外，数字时代的社会管理与社会生产也建立在“人的数字化”基础上，个人数据信息成为人口统计、治安管理、工业生产、交易的实现要素。

　　其次，数字人的本质，是生成式人工智能的自主性使得个人数据在社会生产流程中与“生物本体”进一步分离，数据信息所承载的人格属性减弱，生产要素属性增强。由于生成式人工智能的强大自主功能，人的生物本体与数字要素分离更为彻底，甚至可以单纯生成数字人主体。这一自动化运行的过程是一个使个人和社会“去人性化”的过程。

　　但这一过程也进一步激发了数字人产业伦理的讨论。数字人脱胎于真实人类主体，在其构建及交互过程中，一方面可能存在着对真实主体人格权益不法侵害的风险，另一方面现行法律体系尚未形成对数字人权益的保护规范，对于侮辱数字人以及未经许可擅自使用数字人等风险的应对力所不及。

　　由于数字人与生物本体脱离更为彻底，数字人带来的风险也不同于以往。数字人应用在交互方式上相对自由，底层运行逻辑导致数字人容易生成错误内容，带来可信度风险。甚至有的用户可能利用数字人传播有害信息、侵害他人合法权益以及实施诈骗勒索等违法犯罪行为。在与用户交互的过程中，数字人可能生成歧视侮辱的言论、公开他人隐私，在广告代言场景下还存在虚假广告的风险。

　　当前，数字人已成为平台企业的扩展服务与营销热点，平台企业利用自主研发的人工智能模型提供数字人构建服务，通过用户在平台上对数字人的应用从而实现数字生产要素的汇聚。从人工智能治理体系来看，平台企业不仅是数字人的技术支持者、服务提供者，数字人输出的自动化生成还标志着平台企业扮演着内容生产者的角色。

　　数字人还引发人们对人类主体性以及数字人可控的思考。比如，数字人已深度参与到社会活动中，能否将数字人视为真实人类主体分布式存在的一部分，以及其能否完全代替人类，等等。此外，在交互过程中，数字人经过不断的学习迭代可能会导致最终呈现出与真实主体截然相反的“性格”，如何应对其所带来的弥散式社会风险，也成为人们思考的一个方面。

　　对数字人产业治理需多管齐下

　　从数字社会生产的角度讨论数字人产业治理，需多管齐下，综合治理。

　　首先，要充分借鉴既往个人信息保护与数据治理的经验，对数字人构建过程进行治理。宪法规定，国家尊重和保障人权，公民的人格尊严不受侵犯，公民的通信自由和通信秘密受法律的保护。即使在数字社会生产中，承载人格利益的信息数据与个体分离，个体也保留一定的个体自治与自主性。如果完全偏重于数据生产与利用，则会使人类福祉和人类自决的考虑从属于强大的经济行为者的优先事项和价值。

　　数字社会生产要注意保护“数字化的人”上承载的人格权益等相关权益，同时重视个人数据的社会生产要素属性。例如，各国普遍视为重点规制对象的“用户画像”，实质就是将散落的个人信息与数据集合，目的是模拟个人行为，使个体的行为和偏好成为可计算的、可预测的、可交易的数据集。数字人构建过程的治理应延续这一理念。依据民法典的规定，自然人对其肖像、姓名、声音等享有人格权益，除依照法律规定或者根据其性质不得许可的之外，可以将自己的肖像、姓名、声音等许可他人使用。此外，根据个人信息保护法相关规定，在收集敏感个人信息前，不仅要明确告知信息主体，还需取得信息主体的单独同意。故而，真实主体的书面授权应作为数字人构建的前置要素。

　　其次，对于数字人与个体进一步分离参与数字社会生产产生的交互过程进行治理。鉴于数字人与真实主体的高度对应关系及真实主体授权品牌方使用的实际情况，应当穿透数字人面纱，由背后的真实主体、扮演广告经营者角色的数字人应用企业以及广告主承担相应的责任。

　　探索数字人如何技术向善。数字人一定程度上是个体“生物本体”的数字化表达，连接着数字世界与物理世界。如果对数字人实施侮辱等行为，将间接导致现实世界中真实主体相关权益受到侵犯。在人机共生时代，对人格权的保护应当适当延伸至数字人之上。应明确数字人商业化运营的利益分配机制。随着平台从数字化到数智化发展，数字人产业商业布局将不断走向纵深，各利益主体之间应当通过合同等方式建立公平合理透明的利益分配机制。

　　最后，在数字人产业治理的过程中，应以个人与产业两个层面为切入点，促进科技创新与人权保障协调发展。

　　个人层面，坚持以人为本、以保障人类主体性为根本遵循。应对构建数字人所采集的真实主体个人数据实现全生命周期的严格管理和监督使用，谨防数据泄露与过度使用风险。拒绝将与用户交互后的数字人模型再次投入训练池循环利用。在构建数字人前置阶段，应充分尊重真实主体的人格尊严与自由意志，与其明确约定个人数据的使用范围。在后续的运营阶段，谨防生成与真实主体形象严重不相符或者违背当事人意愿的数字人形象。

　　产业层面，秉持科技向善、可信可控的理念，加强科技伦理风险研判与控制。数字人产业链相关的技术设计、服务运营、应用场景以及交互传播等全流程需强化元伦理分析，从全局角度确保科技成果造福于民。尤其是在人工智能“复活”的具体应用场景下，数字人深层次的情感负载，对人类的伦理理念和行为准则产生重要影响。数字人应用服务提供者作为“守门人”，应采取适当防沉迷措施，对数字人进行显性与隐性标识，避免用户迷失于现实与虚拟的界分。此外，为防止他人去除显性标识进行非法使用，应采取信息流水印等方式以便溯源监督。产业链伦理治理体系的构建还需协同推进，作为产业链末端的用户也应恪守AI伦理与文明底线，不断提升自身数字素养。