日本要求 X 平台改善 Grok 生成不当 AI 图像问题，不排除采取法律手段

IT之家 1 月 16 日消息，据《读卖新闻》报道，针对Ｘ平台生成式 AI 图像编辑功能被滥用、他人照片被加工成色情图像的问题，日本政府已正式介入。

当地时间 1 月 15 日，日本政府已要求Ｘ采取改进措施，防止不当图像被生成和传播。若相关问题持续存在，该国政府将考虑首次依据《AI 法》对企业实施行政指导。这也是在国际社会陆续采取行动的背景下，日本政府首次明确表态并披露具体应对方案。

目前，Ｘ的图像编辑功能使用的是 xAI 开发的对话型 AI“Grok”。用户可通过两种方式进行图像加工：一种是在回复栏中输入指令文字，另一种是在选择发布图片后，通过编辑界面下达指示。

自去年 12 月下旬第二种方式上线后，将他人照片加工成泳装或内衣形象的案例在全球范围内激增。日本国内亦出现多起相关事件，包括偶像及疑似未成年人的照片被篡改，甚至被处理成接近裸体的状态。

当地政府人士透露，负责《AI 法》的内阁府已于 9 日以口头方式向Ｘ提出要求，强调他人图像被轻易加工和扩散的问题十分严重，并要求抑制色情加工图像的生成。

同时，内阁府还着眼于 AI 法框架下的行政指导可能性，书面询问了Ｘ对该问题的立场、不当内容生成的拒绝机制，以及未来应对方针，并要求尽快提交说明。截至当地时间 15 日晚间，Ｘ尚未作出正式回应。

在具体应对措施方面，Ｘ已于 9 日将图片生成功能限制为仅限付费用户使用，并于 15 日宣布采取技术手段，防止所有用户将现实存在的人物加工成比基尼等形象。然而《读卖新闻》调查发现，截至当地时间 15 日 19 时，有关功能仍可用于制作高暴露度图像。

据IT之家了解，日本的《AI 法》于去年 9 月正式全面施行，旨在在推动生成式 AI 技术创新的同时控制相关风险。该法规定，在发生侵犯公众权利的情况下，政府可对 AI 企业进行调查，并基于结果提出指导和建议，但并未设立罚则，目前尚无适用先例。