马上评｜7000张AI合成裸照！绝不能打开潘多拉的魔盒

近日，#男子用AI伪造学生同事近7000张裸照#话题冲上热搜。犯罪嫌疑人白某某，原本是一家互联网公司的技术员，他用AI“一键去衣”技术伪造淫秽图片，每张1.5元卖出。图片涉及女性人数多，包括学生、教师、同事。目前白某某已被提起公诉。

近年来，人工智能技术飞速发展，应用越来越广泛，在带给用户便利的同时，技术被滥用的风险也在逐渐放大。此前，一些不法分子利用“AI换脸”制作淫秽视频，就曾引发广泛讨论，这次落网的白某某又提供了活生生的案例。

他用AI“一键去衣”伪造裸照，几秒就能批量生成图片，然后网上公开兜售，非法牟利。人工智能技术的强大和高效，反而为他作恶提供了便利，这不仅给他人造成了伤害，也将AI的应用给带偏了。

技术本身是中性的，它的好坏取决于使用者的意图和行为。而此案的恶劣之处，远不只在于伪造照片数量多、涉及人数广。

比如，白某某使用的其实是一个正规绘图软件，“一键去衣”只是其中的一个功能，凭借着技术员的身份，他将这一功能开发出来非法利用。将正规技术用于歪门邪道，非法获利，性质相当恶劣，是对AI技术伦理和法律红线的双重践踏。

更触目惊心的是，白某某伪造的淫秽图片“畅销”7000多张背后，是大量“一键去衣”服务购买者，将周边的学生、教师、同事，拿去生成去衣裸照。这些伪造的图片，一旦被用于敲诈、性骚扰，后果不堪设想。

白某某以为找到了生财门道，结果把自己送上了被告席，只能说是咎由自取，他将为自己的不法行为付出沉重代价。

而此案也再次提醒我们，在人工智能高速发展的同时，必须正视它的伦理风险，避免技术被滥用，给不法分子提供可乘之机，打开潘多拉的磨盒。

对广大互联网用户来说，在社交媒体上，尽量避免过多暴露自己的头像等照片信息，可以减少被“AI换脸”和“一键去衣”的风险，但这还远远不够。AI技术被用于不道德甚至非法的用途，重要的是管住背后的平台和使用者。

2023年1月开始实行的《互联网信息服务深度合成管理规定》特别提到，“提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德”。其中，对深度合成服务提供者的主体责任也进行了明确。

就像此案所显示的，因为底层的技术逻辑是相通的，一些正规软件，其功能也可能被不怀好意的人士“摘”出来非法使用。所以平台在开发和推广新应用时，要充分考虑到技术的潜在风险，采取必要的技术手段和管理措施，防止技术被滥用。

监管层面，一方面，对于恶意使用AI技术的人员，要加强监管和处罚力度，对侵犯他人隐私、制造淫秽内容等违法犯罪行为严厉打击，形成有效的法律震慑。另一方面，要不断完善法律法规体系，进一步明确人工智能技术的使用边界。

如今，人工智能不断发展，“AI换脸”和“一键去衣”已经可以达到肉眼难辨真假的地步。它折射出技术的强大，也提示我们潜在风险之高。监管部门、平台、网民多方合力，引导科技向上向善，技术才不会变成作恶工具。

海量资讯、精准解读，尽在新浪财经APP