女子控告AI聊天机器人教唆儿子自杀|AI_新浪财经

来源：@每日经济新闻微博

【#女子控告AI聊天机器人教唆儿子自杀# 】#AI聊天机器人被控教唆14岁男孩自杀#美国佛罗里达州一女子控告谷歌公司和Character.AI平台，指控后者的人工智能（AI）聊天机器人“教唆”其14岁儿子自杀。目前谷歌及Character.AI发言人对此作出回应。女子梅根·加西亚声称，其子塞维尔·塞泽尔与一款以《权力的游戏》中“龙妈”丹妮莉丝为原型的AI聊天机器人产生情感依赖，进而被诱导自杀。2024年2月，塞维尔向聊天机器人询问“如果我现在回家会怎么样？”，机器人回复“......请便吧，我亲爱的国王。”塞维尔或将这一回复理解为死亡可与“龙妈”团聚，用父亲的手枪结束了自己的生命。加西亚已向Character.AI和谷歌发起诉讼。自去年10月起，她便指控Character.AI为儿子提供了“拟人化、过度性化及可怕的现实体验”，认为该平台“明知”或“应知”其模型会对众多未成年用户造成伤害。今年5月，法官驳回了该平台律师要求撤销案件的请求，裁定案件可继续审理。（@SMGNEWS，嘉玛）