近日，央视曝光短视频平台批量涌现AI数字人“小海”虚构苦命人设诱导下单，致79岁老人跨省寻亲被拦，目前涉事黑产链条已被起底并遭平台严惩。
AI数字人“小海”统一使用单亲少年形象，上演“躲在教室吃馒头”等苦情戏，一口一个“姨姨妈妈”博取中老年女性同情。
一位79岁不识字的独居老人深信“小海”存在，瞒着家人独自买火车票跨越千里去山西探望，最终在车厢被乘警拦下才得知真相。
网上几块钱即可买到全套AI数字人生成教程，换脸换声十几分钟就能批量复制成百上千个矩阵账号。
所售紫苏籽油、阿胶等商品溢价严重，品牌方返佣高达52%至55%，运营者称“选对赛道一天赚两三千算少的”。
法律专家指出，虚构悲惨人设恶意误导老年用户，标注“AI生成”不能免责，已构成消费欺诈。
抖音等平台开展“清朗”专项行动，已累计处置违规账号2万余个，清理违规视频4.7万余条。
新浪科技公众号
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
