六年级女孩沉迷与AI恋爱，人性与算法博弈的时代我们能做些什么？_新浪财经

“比玩微信还上瘾！卸载几次她重装几次！”

最近，李先生陷入焦虑——六年级的女儿每天抱着手机，和“AI男友”聊得火热，对话内容堪比恋爱剧。更让他震惊的是，在班级家长群一聊才发现，近半数学生都在用同款软件。

“这些软件太懂怎么拿捏孩子了！”一位家长翻看孩子的聊天记录时，发现AI生成的对话充斥着擦边暗示和极端设定。

AI情感聊天，正在悄悄“俘获”青少年的心

随着生成式AI技术的普及，以情感陪伴为核心的AI聊天软件正悄然渗透青少年群体。这类软件看似能成为学习助手、心理安慰，但也可能引发成瘾行为，造成情感幻象，甚至是陷入擦边诱导之中，让心智尚未成熟的青少年迷失自己。

李先生此前曾尝试控制女儿玩手机，但这个时代，无论是完成作业还是基本的社交沟通，完全切断孩子使用手机和电脑也不大现实。

和李先生同样焦虑的家长不在少数。通过网络中的家长吐槽可以看到，在和AI聊天中，有的孩子喜欢扮演大小姐、有的热衷做霸道总裁，有的甚至将自己设定为黑心男、恶毒女，或是偏爱“擦边”内容……而根据这些角色设定，算法会不断投喂符合用户偏好的内容，系统则会持续优化“情感按摩”策略，让使用者的多巴胺分泌值处于高位，达到“爽感”，逐渐上瘾。

上海市委党校专家赵勇直言：“AI基于算法洞悉人性，但不是真正的感情。当孩子把虚拟陪伴当成精神寄托，就可能沦为资本的‘猎物’。”

青少年模式形态虚设，平台钻法律空子

当技术精准捕捉人性弱点时，青少年的心智防线显得尤为脆弱。

记者调查后发现，目前市面上的众多情感陪聊AI软件中，一部分免费，一部分是对高阶体验进行收费，但不难预计，最终的走向都是收费。在陪聊“尺度”上，有的通过设置敏感词对聊天内容进行一定把控，而有的几乎毫不设防。在抖音、小红书、微信等社交平台上，还有不少视频专门推荐“不设敏感词”的几款AI聊天软件。

让李先生最无法理解的是，为何这些软件对未成年人几乎不设限。

记者留意到，一些软件并非没有考虑到青少年模式，只不过大多只停留在形式上。比如登录页面下方简单设置一个“开启青少年模式”选择，但用户不主动点选，就可以直接跳过，形同虚设。

隆安律师事务所律师陈焕指出，如此敷衍了事的背后是相关法规还没有来得及跟进，目前的《未成年人网络保护条例》仅要求游戏、直播等平台实名认证，AI聊天软件却无需强制年龄鉴别。

不过，他认为，从最新的《生成式人工智能服务管理暂行办法》中，实际上可以找到监管抓手，“暂行办法要求平台不能生成色情，不能生成暴力等等对未成年人身心健康有害的信息。如果平台没有做到相应的这个责任，相关的从业人员不能继续从业，有五年的限制。”

人性与算法的博弈，没有“一劳永逸”

显然，解决之道需多方合力。

技术上，全国人大代表陈达建议开发“数字守门人”系统，利用自然语言处理与图像识别技术，实时监控社交平台中的敏感对话与图片。法律层面，全国人大代表齐秀敏呼吁出台网络信息分级管理标准。

不过，在这些建议尚未形成具体落地方案之前，不少家长选择主动面对，比如多引导、多陪伴。

在赵勇看来，而更深层的答案或许在技术之外。“有时候我们不要埋怨武器，而是要埋怨手持武器的手臂。出现了AI陪伴的时候，为什么孩子更喜欢跟这些去进行沟通，我们要思考的是我们作为家庭，即使在同一个屋檐下面也没有时间去陪伴，从而他觉得孤独。我们是不是要多陪伴孩子，让他感受到温暖。”

“向善”的钥匙，始终握在人类自己手中

网络中有一句评论让人印象深刻，“当社会呼吁加强对软件监管，当家长还在争论该不该没收手机时，孩子们却早已找到几十种绕过监管的法子。”

的确，在这场人性与算法的博弈中，没有一劳永逸，只有胜负交织。AI的“善恶”分野，本质是人类价值选择的结果，其取决于开发者的伦理底线、使用者的目的以及监管者的制度框架。

当下，不少大模型企业主动设置“安全护栏”，限制AI生成暴力、虚假信息，也印证了人类在技术路线上的主动权。全球也正加速构建AI治理的“规则之网”。从欧盟《人工智能法案》的风险分级制度，到中国《生成式人工智能服务管理暂行办法》的备案制，各国试图在创新与安全间寻求平衡。但规则的生命力在于执行。试想，当孩子与AI聊天成瘾时，意识到这一问题的AI会主动说出“你应该和真实朋友聊聊”时，“向善”才真正开始。

技术不是用来替代人性，而是用来唤醒人性。唯有将“向善”的价值观嵌入技术研发、应用与监管的全链条，人类才能真正握住驾驭AI的钥匙。