马上评|7000张AI合成裸照!绝不能打开潘多拉的魔盒

马上评|7000张AI合成裸照!绝不能打开潘多拉的魔盒
2024年06月18日 14:31 澎湃新闻

近日,#男子用AI伪造学生同事近7000张裸照#话题冲上热搜。犯罪嫌疑人白某某,原本是一家互联网公司的技术员,他用AI“一键去衣”技术伪造淫秽图片,每张1.5元卖出。图片涉及女性人数多,包括学生、教师、同事。目前白某某已被提起公诉。

近年来,人工智能技术飞速发展,应用越来越广泛,在带给用户便利的同时,技术被滥用的风险也在逐渐放大。此前,一些不法分子利用“AI换脸”制作淫秽视频,就曾引发广泛讨论,这次落网的白某某又提供了活生生的案例。

他用AI“一键去衣”伪造裸照,几秒就能批量生成图片,然后网上公开兜售,非法牟利。人工智能技术的强大和高效,反而为他作恶提供了便利,这不仅给他人造成了伤害,也将AI的应用给带偏了。

技术本身是中性的,它的好坏取决于使用者的意图和行为。而此案的恶劣之处,远不只在于伪造照片数量多、涉及人数广。

比如,白某某使用的其实是一个正规绘图软件,“一键去衣”只是其中的一个功能,凭借着技术员的身份,他将这一功能开发出来非法利用。将正规技术用于歪门邪道,非法获利,性质相当恶劣,是对AI技术伦理和法律红线的双重践踏。

更触目惊心的是,白某某伪造的淫秽图片“畅销”7000多张背后,是大量“一键去衣”服务购买者,将周边的学生、教师、同事,拿去生成去衣裸照。这些伪造的图片,一旦被用于敲诈、性骚扰,后果不堪设想。

白某某以为找到了生财门道,结果把自己送上了被告席,只能说是咎由自取,他将为自己的不法行为付出沉重代价。

而此案也再次提醒我们,在人工智能高速发展的同时,必须正视它的伦理风险,避免技术被滥用,给不法分子提供可乘之机,打开潘多拉的磨盒。

对广大互联网用户来说,在社交媒体上,尽量避免过多暴露自己的头像等照片信息,可以减少被“AI换脸”和“一键去衣”的风险,但这还远远不够。AI技术被用于不道德甚至非法的用途,重要的是管住背后的平台和使用者。

2023年1月开始实行的《互联网信息服务深度合成管理规定》特别提到,“提供深度合成服务,应当遵守法律法规,尊重社会公德和伦理道德”。其中,对深度合成服务提供者的主体责任也进行了明确。

就像此案所显示的,因为底层的技术逻辑是相通的,一些正规软件,其功能也可能被不怀好意的人士“摘”出来非法使用。所以平台在开发和推广新应用时,要充分考虑到技术的潜在风险,采取必要的技术手段和管理措施,防止技术被滥用。

监管层面,一方面,对于恶意使用AI技术的人员,要加强监管和处罚力度,对侵犯他人隐私、制造淫秽内容等违法犯罪行为严厉打击,形成有效的法律震慑。另一方面,要不断完善法律法规体系,进一步明确人工智能技术的使用边界。

如今,人工智能不断发展,“AI换脸”和“一键去衣”已经可以达到肉眼难辨真假的地步。它折射出技术的强大,也提示我们潜在风险之高。监管部门、平台、网民多方合力,引导科技向上向善,技术才不会变成作恶工具。

海量资讯、精准解读,尽在新浪财经APP
AI 魔盒

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 06-26 键邦股份 603285 --
  • 06-24 安乃达 603350 --
  • 06-17 爱迪特 301580 44.95
  • 06-17 永臻股份 603381 23.35
  • 06-11 中仑新材 301565 11.88
  • 新浪首页 语音播报 相关新闻 返回顶部