当科技能实现“数字永生”,有多少边界需要约束

当科技能实现“数字永生”,有多少边界需要约束
2024年05月08日 08:36 兵团日报

●张宣 孔梓萱

今年清明节,“AI复活”话题热度不断攀高,用科技寄托哀思成了一股新潮流。随着生成式人工智能技术的发展,声音克隆、视频合成、数字人等技术化为产品走向市场,开启商业化道路。然而,“AI复活”只是越来越强大的生成式AI技术的应用场景之一,且其中的技术监管及伦理问题值得关注。

记者走访一线技术开发团队发现,“AI复活”只是起点,一线技术开发团队们都有一个共同的终极目标,即以AI赋能“数字永生”。从肉体生命到数字生命,从脑机接口在生物医学领域的应用到“意识上传”服务,数字生命的构建将与现实世界同步,真正的硅基生命时代有望到来。

“AI复活”

生成式AI应用的“一角”

清明节假期期间,一些网络博主利用AI生成技术“复活”已逝明星的视频火爆互联网。在一些AI生成的视频中,被“复活”的李玟、高以翔等明星对大家说着“希望你们都能活得很好”等被他人设定好的台词。视频一经传播,明星家属及经纪人纷纷表达不满与抗议。

3月28日,李玟母亲发布律师声明,要求未经李玟女士近亲属同意、利用李玟肖像制作并发布“AI复活李玟”系列短视频的网络用户立即停止上述侵权行为。而在南京,一家名为“超级头脑”的信息技术有限公司早在舆论风波之前便拿到了由李玟生前经纪公司及近亲属的授权书,被授权“使用已故国际巨星李玟的形象和相关资料制作AI数字分身”。

“班长,班长?”“我在!”“你是谁?”“我是张泽伟!”3月28日,当记者前往超级头脑位于南京市江北新区的新办公区域时,创始人张泽伟正在与自己的3D数字人分身对话。因为上学时期的班长经历,他将自己的数字人分身语音激活口令设置为“班长,班长”。

2014年从大学毕业时,张泽伟公司的初创业务面向研发虚拟现实等应用。2023年初,ChatGPT等大模型技术的兴起,让AI技术受到极大关注,张泽伟开始尝试AI人像模拟训练、声音克隆等技术研发。因为好友的一次求助,张泽伟开始接触AI复活领域。“当时好友的父亲意外离世,他担心年长的奶奶接受不了,就请我用AI技术复刻父亲的形象和声音给奶奶报平安。”张泽伟告诉记者,因为形象和声音的数据样本不够,他们最终选择了人工驱动的方式,也就是通过真人扮演,再通过AI换脸换声音实现AI复活。最终,AI复活的数字人变成善意的谎言,为奶奶带去了问候。“如果形象和声音的数据样本足够,就可以选择AI驱动的方式。”张泽伟解释说,和真人扮演不同,AI驱动通过人工智能通用大模型驱动。

这一次的成功,让张泽伟开始意识到,AI“复活”亲人技术有很大的市场需求,也能满足很多人的情感需要。“我觉得这项技术兼具经济价值和社会价值,所以之后,公司业务开始往这个方向拓展。”张泽伟表示,他的出发点是去帮助更多的人。对于AI“复活”逝者,张泽伟更倾向于称其为“AI疗愈”服务。在他看来,数字生命体真正的价值在于陪伴。目前,超级头脑按照客户需求定制的AI疗愈产品中,有为失独父亲打造、可与已故儿子进行视频聊天、AI大模型驱动的交互平台,有结合心理学“空椅子疗法”、由心理咨询师定期人工驱动、面向由于失去亲人而被困在负面情绪中的人群的情感疗愈产品,也有为已故老红军、明星等社会名人打造的数字偶像分身。“我们的核心理念在于数字陪伴,不是单向度地合成一段视频或一个无法进行互动的数字人形象。真正的数字永生一定是有交互的。”张泽伟团队目前的研发方向聚焦在“数字陪伴助理”,即通过设备授权使得本人的数字分身助理进行更加丰富多元的日常生活活动,如订餐、办理证件等。

“数字永生”

用AI技术打造数字生命体

在结束采访走出超级头脑的信息技术有限公司的大门时,记者看到该公司名称下面的一行小字:让这个世界留下一个永恒的我。这也是张泽伟对公司未来的发展规划——数字永生。“不一定等到逝去,工作繁忙、空闲时间有限的生者也会遇到类似的问题,如何去弥补因为不在场而留下的遗憾、如何把自己的思想赓续传承下去、如何去更好地陪伴自己的下一代,数字生命体或许可以为这些问题提供一套技术解决方案。”张泽伟说。

如何理解“数字永生”?南京大学哲学系科学技术哲学专业潘天群教授所理解的数字永生是虚拟世界中的我的“模拟”,通过将个体的我的生物数据、社会信息、历史记忆、思维方式进行上传形成数字分身,若他人在与我的数字分身的交流中感觉不到数字分身与我之间的不同,即通过了“图灵检验”——这是判定数字永生或者数字分身的一个标准,那么那个数字分身就是虚拟世界的我。潘天群表示,数字永生行业是一个充满前景的行业,但当前而言它仍然处于探索阶段或者说是其他行业的补充;还不能说已经成为一个行业,因而需要企业家、哲学家、技术家的共同努力与“定义”。

位于南京的意识上传行业公司生生科技的创始人刘骁奔和他的创业伙伴们也一直在探索“数字永生”的实践可能性。在技术可行性上得到论证后,他开始了技术层面的开发。刘骁奔认为,数字永生可以被分为两个部分,即数据留存和数据演绎:数据留存指的是通过视频采集、音频采集、思想文本收集的形式收集到一个人的生物数据,并整理成可供AI加工的数据集;数据演绎指的是基于收集到的真人数据集,通过AI算法进行数据加工演绎,呈现出数字人的形象。

天木资本创始合伙人张啸博士是生生科技的第一批种子客户。张啸为他身体康健的父母购买了意识上传服务项目,两位老人家也欣然接受并积极配合科技团队成员的数据采集工作。谈及在意识上传服务起步阶段为父母购买该项技术服务的原因,张啸坦言:“因为父母的年纪都过80岁了,但小孩才12岁。都说隔代亲,他们关系非常好。尽管我的父母目前身体都很康健,但的确会有‘万一’的想法。我们成年人排解亲人离世的情绪都不太容易,更何况孩子。如果有数字人作为过渡的话,我想会比较好一些。我也希望能够留下父母的数字备份,这也是给我和家人留下的数字遗产。”

作为行业一线人员,张泽伟和刘骁奔还敏锐地感知到了养老服务及临终关怀领域的交叉应用可能。张泽伟告诉记者,已有中国生命关怀协会心灵呵护工作委员会的工作人员同工作室联络,希望共同探索临终关怀服务与AI结合的新可能。负责合作对接的协会工作人员直言,第一次看到超级头脑发布在社交媒体平台的视频时,便觉得同生命关怀协会的发展需求特别契合。

“生命”加工

伦理与法律的边界在哪

技术的发展为满足人们的精神与情感需求提供了更多载体,与此同时,“AI复活”也引发强烈争议。有专家提出,“AI复活”技术被滥用,或将带来侵害个人权益、数据隐私安全、传播虚假信息等问题。

对于客户私域数据的储存及保护,超级头脑团队选择了阿里云、腾讯云等第三方专业数据服务器。张泽伟坦言:“单靠我们的小规模团队,无法保证数据的绝对安全,所以我们选择了专业能力更强的龙头企业来帮助我们去做这件事。”基于差异化的客户需求,部分客户会要求在AI产品完成后对所提供的数据进行销毁。

就“AI复活”服务而言,超级头脑会要求客户在申请技术服务项目时提供与逝者的关系证明及其死亡证明,并在需求讨论过后签署相关协议。作为技术开发者,张泽伟感知到的最大风险来源于同行的不良商家及相关不法分子,尤其需要警惕的是利用数字人技术去散播不当言论的行为。“对于业内人士来说或许还能分辨,但对于普通老百姓来说很难。”张泽伟忧心道。基于此类技术风险,超级头脑团队也在积极研究应对法,与无锡科技学院一同致力于算法甄别技术的精进。

如何进行有效技术监管?潘天群认为,AI应当服务于人类,应当说基于“善的数据”生成都应当是善的,但这也不是必然的,比如用已有的善的数据来作恶,如诈骗、操纵政治和经济。恶的数据总会以某种方式存在于社会之中的,而基于“恶的数据”上的使用与生成则会放大恶,这是要警惕与防范的。总的来说,人类要保持一种威慑,且一旦遇到这种不善的应用,社会要及时对之进行压制。

在新技术接连取得重大突破的当下,意识上传、数字永生不再遥远。未来已来,“生命”的概念定义或将被重写,如何理解及选择“死亡”或将成为每个人需要审慎思考的命题。但在此之前,我们迫切需要解决的是当下数字永生业务萌芽期的行业监管及法律规范问题。

据《新华日报》

海量资讯、精准解读,尽在新浪财经APP
AI 永生 李玟 数字人

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 04-29 瑞迪智驱 301596 25.92
  • 04-25 欧莱新材 688530 9.6
  • 04-01 宏鑫科技 301539 10.64
  • 03-29 灿芯股份 688691 19.86
  • 03-27 无锡鼎邦 872931 6.2
  • 新浪首页 语音播报 相关新闻 返回顶部