警惕AI“恋爱”拐跑未成年人的价值观|荔枝时评

警惕AI“恋爱”拐跑未成年人的价值观|荔枝时评
2025年01月14日 16:49 媒体滚动

转自:荔枝新闻

文/西蒙

(作者西蒙,荔枝新闻特约评论员,知名评论人,专栏作者;本文系荔枝新闻客户端、荔枝网独家约稿,转载请注明出处。)

据媒体报道,最近,一些孩子和AI角色“相恋”的现象令家长和老师担忧。面对AI“男友”,有的女孩在AI剧情聊天软件中扮演“大小姐”“恶毒女配”等角色,提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。甚至在一些聊天剧情里,AI角色与聊天者双双“出轨”成为常态。更令人难以接受的是,AI剧情聊天软件中的一些言论严重违背公序良俗,产生含有软色情意味的“擦边”对话。

用户与AI角色的聊天内容。图/华商报用户与AI角色的聊天内容。图/华商报

不少监护人对AI技术缺乏充分的了解。虽然AI已经流行几年了,但仍有很多人不知道AI聊天的功能已经强大到足以以假乱真,更没想到未成年人对于AI虚拟角色的情感依赖,可能是非常严重的。因此,监护人应当多与孩子进行沟通,多一些情感上的交流,了解孩子的心理成长状况。特别是进入青春期后,青少年会开始对异性产生懵懂的感情,这时候就需要监护人的引导与帮助,不能让孩子过于沉迷AI虚拟角色的陪伴,更不能被“软色情”的信息影响。

根据《未成年人网络保护条例》,“未成年人的监护人可以请求行使查阅、复制、更正、补充、删除未成年人个人信息的权利,拒绝请求的应当书面告知申请人并说明理由。”也就是说,家长如果发现孩子可能受到了AI恋爱的不良影响,完全可以在合法合规的前提下对其聊天内容进行了解,并进行积极的干预。这不仅是监护人的基本权利,更是其必要的义务,他们应当担起责任,为孩子的健康成长保驾护航。

与此同时,学校的教育作用也不容忽视。学校老师应当对AI日新月异的变化及其风险有足够的认识。通过课堂学习与日常交流,老师可以理性分析并告知学生AI剧情聊天的利弊,并给予他们必要的情感关怀,积极引导他们拥有健康的情感观念。

AI就像过去出现的各种新鲜事物、高新技术,是一把“双刃剑”,风险与价值并存。技术本身是无所谓对错的,关键是它用在什么地方。AI角色及其对话功能,一定程度上确实能够起到帮助用户排解压力的作用,但应该控制在合法、合理的范畴内。

在技术层面,要实现这一目标,并不是一件多么困难的事。AI产品在模型优化、语义理解、数据管理等技术研发阶段,就应该严守法律法规,遵守伦理道德。一些明显有“擦边”意味的敏感词,应该被过滤。可以通过数据标注的方式,将那些脏话与色情信息删掉。在后期的对抗训练中,还可以引入对抗训练机制,在不断试验中去处不良信息,让AI变得聪明的同时也更加文明。

对于一些聊天工具与游戏软件,应当由专业人员评估并设置年龄限制,明确年龄红线。随着AI技术的进步,更有区分度的产品才应该是符合市场需要的。也只有这样,才能避免上述AI聊天软件的不当言论影响孩子的成长,才能真正让未成年人享受到AI红利。

海量资讯、精准解读,尽在新浪财经APP
西蒙

APP专享直播

开播时间 | 2-03 15:00
金麒麟展望:金蛇狂舞 A股开市选股思路
开播时间 | 2-02 15:00
「春节策划」金麒麟分析师天风证券孔蓉展望:2025港股投资攻略
开播时间 | 2-02 11:00
「春节策划」宏利基金张晓龙:展望2025资产配置
开播时间 | 2-01 15:00
金麒麟展望:春节档“炸” 翻天!把脉传媒互联网2025投资新趋势
开播时间 | 1-27 15:00
「春节策划」金麒麟展望:春节消费旺!解码食品饮料行业投资机遇
开播时间 | 1-27 10:01
E起年夜饭:聊聊ETF这一年
开播时间 | 1-27 09:00
华夏基金:解盘一刻
开播时间 | 1-26 19:00
华安基金:ETF会客室:春季行情回顾和展望
开播时间 | 1-24 19:19
中欧EMBA特别策划:E家人脱口秀
开播时间 | 1-24 19:00
银华基金:筑梦·启智润心;领航·担当有为;卓越·勇攀高峰
开播时间 | 2-03 15:00
金麒麟展望:金蛇狂舞 A股开市选股思路
开播时间 | 2-02 15:00
「春节策划」金麒麟分析师天风证券孔蓉展望:2025港股投资攻略
开播时间 | 2-02 11:00
「春节策划」宏利基金张晓龙:展望2025资产配置
开播时间 | 2-01 15:00
金麒麟展望:春节档“炸” 翻天!把脉传媒互联网2025投资新趋势
开播时间 | 1-27 15:00
「春节策划」金麒麟展望:春节消费旺!解码食品饮料行业投资机遇
开播时间 | 1-27 10:01
E起年夜饭:聊聊ETF这一年
开播时间 | 1-27 09:00
华夏基金:解盘一刻
开播时间 | 1-26 19:00
华安基金:ETF会客室:春季行情回顾和展望
开播时间 | 1-24 19:19
中欧EMBA特别策划:E家人脱口秀
开播时间 | 1-24 19:00
银华基金:筑梦·启智润心;领航·担当有为;卓越·勇攀高峰
上一页下一页
1/10

热门推荐

大S春节猝逝!享年48岁 家属悲恸证实:流感并发肺炎 收起
大S春节猝逝!享年48岁 家属悲恸证实:流感并发肺炎

大S春节猝逝!享年48岁 家属悲恸证实:流感并发肺炎

  • 2025年02月03日
  • 02:48
  • APP专享
  • 记经典时刻
  • 279,897
APP专享
日本流感病例超950万人 过度囤购致药品短缺

日本流感病例超950万人 过度囤购致药品短缺

  • 2025年02月03日
  • 04:26
  • APP专享
  • 记经典时刻
  • 23,311
APP专享
台媒:48岁大S因流感去世,遗体将在日本火化

台媒:48岁大S因流感去世,遗体将在日本火化

  • 2025年02月03日
  • 03:22
  • APP专享
  • 我是山河君
  • 10,645
APP专享
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间
更多>
股票简称 最新价 涨跌幅
以下为热门股票
三峡能源 4.20 +0.48%
京东方A 4.46 -0.45%
TCL科技 5.01 -0.60%
中远海控 14.27 +0.07%
格力电器 44.89 +0.97%

7X24小时

  • 01-16 亚联机械 001395 --
  • 01-16 海博思创 688411 --
  • 01-14 富岭股份 001356 5.3
  • 01-13 超研股份 301602 6.7
  • 01-13 兴福电子 688545 11.68
  • 新浪首页 语音播报 相关新闻 返回顶部