伦理框架之外的潘多拉魔盒|AI_新浪财经

吴韵晗

近日，全球首部监管AI法案——欧盟《人工智能法案》正式投票通过并批准。而在中国的互联网上，利用AI“复活”我们熟悉的已故明星或是亲属家人是否合理合法，也成为大家热议的话题。

自Chatgpt等人工智能技术火爆网络的一年半以来，生成式AI技术已经从简单地生成文本、图像，快速进化到生成视频、音频，在从1.0迈入2.0的过程中，大家对AI技术的规范性、法理性以及道德伦理等问题的讨论也愈演愈烈。

AI生成正切实为一部分人缓解焦虑与痛苦，成为寄托思念的工具。“90后”的张泽伟及其团队，自去年5月至今，已为600多个家庭提供AI克隆服务，其中超过半数为失去子女的年长父母。音乐制作人包小柏历时8个月修复已故女儿声纹数据，为女儿制作“数字生命”。而在微博、抖音、小红书等互联网平台上，也常见AI“制作人”，发布自己为网友制作逝去亲人的语音视频的过程，故事往往都触动人心，评论区里也有众多声音，希望能够再现自己家人的音容笑貌。

诚然，在监管力度不够、法律制度不完善的AI“市场”中，隐私泄露和信息安全问题始终是大家最关心的，AI换脸诈骗事件在技术尚不完善的阶段就已层出不穷，当“复活”不再是技术难题，逝者的信息又是否能被保证安全合理地使用？这样以温情名义的二次伤害和消费逝者，又是否能真正地让人感到温暖？

是安抚未亡人，还是新资本手段，这以科技手段打造的“潘多拉魔盒”正徐徐打开，它也正在现有的伦理框架之外，构造属于自己的全新世界。或许，在《人工智能法案》之后，我们会有越来越完善的法理制度出现，为“魔盒”上锁，让AI成为真正为人善用的工具，而非野蛮生长、无序发展，以情感做“绑架”的圈钱游戏。