近期，韩国爆出“利用深度伪造技术换脸制作不特定女性的淫秽内容并广泛传播”，再度上演类似“N号房”事件。事发后，也有不少人在社交媒体上发声，表示自己“被换脸了”。
伴随今年AI技术逐渐变得唾手可得，一些以“AI美女视频”为名的创业项目开始出现在网络上，也诞生了以此谋生的灰色产业链。
新浪科技发现，如今在小红书、闲鱼、B站等平台，利用AI美女视频教程吸引用户，号称“流行赛道，5天破万粉，日入四位数”的教程，成为行业灰产的温床。而在另一边，无论是“AI一键换脸”，还是让照片动起来，在一些阴暗的角落，生成式AI技术的崛起，也引发了一系列的行业乱象。
一键换脸：1元教程泛滥，实则全是“卖项目”
新浪科技发现，在闲鱼、小红书上，只需搜索“AI美女”，就能够看到不少通过生AI技术生成的美女跳舞视频。
闲鱼上面，大量标价0.99元、0.55元甚至0.2元的链接内，是一个个内容类似的“教程合集”。价格如此低廉的链接拍下之后，这些商家会发来非常丰富的教学资源，其中包括AI换脸视频需要的软件下载链接、在线工具使用说明、具体的操作教程等内容。也有商家表示，只需要在闲鱼关注他，就能直接分享相关教程，可见获取相关教程的门槛已经趋近于零。
打开这些教程，能够看到商家给出了详细的图文信息，非常直观展示了如何将泰勒·斯威夫特的演讲视频换成另一个女性的脸。而照着教程一步步操作，的确能够实现脸部替换。此外，店主表示，教程里有电脑端操作的教程，也有手机端操作的教程，只要多上手操作几次，就能靠视频在短视频平台吸引关注。
他表示：“美女一直都是流量密码，我们做的生意就是抓住AI风口。”而闲鱼上类似的“AI美女”教程，无一例外基本目的都是引流，标价低只是为了能够让大家在搜索结果上能够显示在最前面。他说，自己主要目的是“卖项目”，所谓“卖项目”，包括《导师IP训练营》视频课程、抖音图文带货、小红书商单、AI自动写文章分发今日头条、付费社群等。
比如，今日头条AI掘金项目，就是通过AI工具，全自动帮你写文章，发布到今日头条，每天有流量收益，但当被问及具体操作时，这位店主表示，这是机密要花钱：“市场价5980元，现在早鸟价2980元”，但当被问及交了钱如果没有月入5万是否能够退款，他直言“大家都是成年人，肯定是不退的。”
可以看到，“AI换脸”变成了“网络卖课”的另一种入口。但是正因如此造成了更大的问题，一方面，号称“日入过千”的零门槛“AI美女换脸”教程的确真实存在，吸引大量用户在尝试后发布AI美女视频席卷各个社交平台，但也因此引发了各种社会问题。
例如近日，有网友在社交平台反映，自己不但被做成了换脸视频，还被放在收费论坛获取非法收入。而另一方面，依靠“AI美女”的幌子，一些人依靠数千元高价“课程”赚取利润，并且即便最终不能实现所谓的月收入5万也无法退费，一条灰色产业链就此形成。
老照片复活：高科技？实则套用免费大模型
新浪科技注意到，除了上述AI技术的生意，另一种让照片动起来的生意如今也风生水起。在电商平台搜索“老照片复活”能够看到很多店铺，一位店主向新浪科技表示，只需要一张照片，就能让其中的人物动起来。目前的局限在于，照片中的人物数量必须在3人以内，不可以穿貌似军装的衣服，不可以没穿衣服。除此之外没有任何要求，不少下单后的用户表示很满意。
而在收费方面，这样一次让照片“动起来”的价格在9.8元到50元之间，这位店主表示，9.8元的一张，能够生成5秒视频，而根据更长生成时间，就需要更多钱。不过新浪科技发现，在小红书等社交平台，类似需求更多以博主拉群的方式进行“私聊”操作，价格并不透明，当问及为何不公开价格时，一位博主表示，具体要看照片质量，“工作量也不一样”。
新浪科技注意到，一些生意不错的店铺，能够靠AI老照片动起来月销量超过1000+，若按照最低价格9.5元计算，则月收入能过万。而实际上，这类操作往往是依靠AI大模型来进行，店主本身甚至完全不懂AI技术原理，一位店主表示，自己用的是某个大模型，他坦言：“目前的局限在于照片生成的视频做出的动作还很随机，所以有时候要多试几次才有理想的效果。”
当被问及生成视频之后，用户的私人照片和生成结果将如何处理，店主表示会删除。但新浪科技发现，在很多店铺内，并没有相应的说明，而对于已经决定下单的用户来说，这样方式并不能确保用户隐私不会泄露。
一键去衣：有人用AI合成不雅照敲诈
AIGC技术的崛起，既给很多普通带来了商机，也让围绕其产生的灰色产业链逐渐进入大众视野。
今年年初，作为“全球顶流”的泰勒·斯威夫特出现了大量“不雅照片”，在国外社交媒体上，相关浏览量不但高达上千万，还有人利用这些照片和视频高价贩卖，甚至以此炒作泰勒·斯威夫特的负面报道。尽管事发后相关的Meta和X平台快速反应并删除大量违规信息，但仍有人质疑，这些照片一开始就不应该出现在这些平台上。
无独有偶，今年6月，在国内，警方也破获了一起利用AI技术“一键去衣”赚取灰色收入的案件。涉案人白某在境外网站发布广告，只需要一张日常生活照片，就可以完成“一键去衣”效果，而据此人描述，在被抓获时，他已经在QQ上向351个人贩卖过相关图片，图片数量将近7000张。
检察官介绍，白某使用的实际上是一个正规的AI绘图软件，而“去衣”只是其中的一个功能模块。而据新浪科技搜索，在B站等平台，相关的内容不仅有介绍，还有教程分享，不少用户在通过私聊和这些视频博主建立联系，并有可能因此已经学习相关技术。而在一键去衣、AI换脸等技术背后，可能潜藏着更大风险。
例如，深圳警方曾接到报案，有人利用AI技术在网络各种渠道搜集被害人信息，通过合成裸照进行敲诈勒索，也有人利用这类工具制作假新闻。
专家：任何人都可能成为潜在受害者
随着人工智能（AI）研发不断深入，深度伪造技术（Deepfake，以下简称深伪技术）也愈发成熟，造成的行业问题格外需要警惕。
浙江大学副教授，浙江数字化发展与治理研究中心研究员高艳东，浙江省平阳县人民检察院检察官李易近期公开发文表示：由于个人生物识别信息具有“唯一性”“不可更改性”等特点，一旦遭泄露、滥用对信息主体伤害大、影响久，因此在个人信息保护等级中应适用最高级别。根据《中华人民共和国个人信息保护法》及相关法律规定，只有在基于国家安全与公共安全需要、刑事侦查与司法程序等特定情况下才可以豁免告知。除上述情形外，任何主体在收集、使用个人生物识别信息时，应当严格落实“知情—许可”机制，非明确同意不得收集，收集即违规。另一边，需要明确个人在网络上公开的信息并不代表其同意个人生物识别信息的再处理。目前深伪以商业应用场景较多，必须打消经营者“网上信息随意取用”的误区，履行其告知义务。此外，信息使用者必须确保告知的有效性。既要包含使用主体、收集目的、处理行为和信息流向等具体信息，又要采取足够显著的告知方式，如强制时限的弹窗等。
产业分析师张书乐向新浪科技表示：“这种AI换脸，就是昔日PS换头一样，可以让人随意去生成任何人的“虚构内容”，其行为哪怕出于自娱自乐，也同样侵犯了被换脸对象的个人权益。此外，这样的换脸术，可能应用的空间很大，包括但不限于恶意捏造、构陷的各种传播，以及通过换脸术实施各种诈骗和绕开人脸识别系统的行为。”
在他看来，如今由于这些AI换脸技术随处可获得，上手使用几乎没有门槛，可能再度引发“N号房”事件，他提到：“每个人的照片或视频，并不仅限于个人拥有，且在摄像头林立的大时代，你甚至不知道你的头像被多少陌生人获得，其风险完全不可测。AI换脸的目标并不局限于女性，任何人都可能成为潜在受害者。”
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
