别让AI沦为造假神器

从大体上看，所有人脸几乎都跟真实的人物一样。但偶尔也会出现一些“意外”，比如谁少了一个耳朵或多了一只眼睛。（资料图片）

网友尝试生成的卡通人物 （资料图片）

□克莉斯汀

最近有个网站在国外大热。它由一位软件工程师菲力浦·王开发设计，虽然网页界面简单，却吸引了很多人——网页主要是利用英伟达（NVIDIA）公司的研究工程师们公开的一个源代码，进行生成对抗网络（简称GAN，是美国蒙特利尔大学的Goodfellow Ian于2014年提出的一种计算机生成模型）。同时网页还公开了Flickr高清人脸数据集（Flickr是雅虎旗下的一个图片分享网站）。人们可以尝试自己动手来训练AI（人工智能）进行学习，并生成全新的模拟真实图片。

于是，有人造出的逼真的“全新人脸”，有人造出了千奇百怪的猫科动物……请千万注意，这些人工智能机器生成的新东西都不是真实的，尽管它们看上去与真人或真猫无异。

A

起因是一个源代码开放

这次大热的网页起源于英伟达公司公开了最新研发的模型StyleGAN源代码。因此在登录这个网页之前，首先，我们需要了解两个概念：生成对抗网络和源代码开放。

源代码开放其实就是一种软件发布模式。通常情况下，使用别人开发的软件仅可取得已经过编译的可执行档部分，只有软件的作者或著作权所有者等才拥有该程序的原始码。而源代码开放则是翻出底牌，公开了这些原始码即最终源材料。

而生成对抗网络，简单地说就是一种AI机器学习技术。它包含了两种生成模式，一个是生成模型，另一个是判别模型。即这个过程让AI不断学习，如何令假的模仿真的，同时它又让AI不断去分辨真的中间的假的部分。这是个AI训练程序，在这个过程中，会让AI在这两方面互相博弈，最终能力都得以增强。

英伟达公司是一家美国人工智能计算公司，创立于1993年。该公司以“游戏显卡”闻名，他们目前在GPU领域（GPU即图形处理器，是一种专门在个人电脑、工作站、游戏机和一些移动设备上进行图像运算工作的微处理器）的绝对垄断性，和英特尔在CPU领域（CPU是指一台计算机的运算核心和控制核心，主要功能是解释计算机指令以及处理计算机软件中的数据）的地位相似。英伟达公司认为AI能够增强人类的认知能力，一直以“AI计算公司”自诩，他们公开最新技术的源代码，相信无非就是为了扩大影响，争取更大市场。

但不管这位软件工程师菲力浦·王是出于什么目的做出了这个网站，都不妨碍我们去尝试一下新技术，感受一下科技的魅力。毕竟这有助于我们了解这个时代，增加对新技术的认知。

B

玩法简单，“造人”无极限

该网站玩法很简单，只要选择一个创作方向，然后不断刷新就可以在每次刷新后得到一张新的图像。

虽然这种机器学习技术并用来生成模拟真实图像的做法并不新鲜了，但与其他生成器不同的是，StyleGAN这次可以定制方向，来得出我们想要的某类图像。比如你可以选择要绘制出人类肖像或者其它某种动物的图像，只“取材”于原有图片库里的图片信息，却会有一张全新的图像。StyleGAN的全新风格迁移生成器架构，甚至能帮助你控制你想要的人物的发色、眼睛大小等细节特征。这些人脸图像让人震惊：他们已让人无法分辨虚拟和现实了。

但尽管它逼真得令人难以置信，却依旧是假的，绝对不会是真实存在的某个人的照片。

因此它被国外一众媒体评价：“可怕”、“令人毛骨悚然”……可怕在何处呢？可能就是这些新生成的图片并非是人类自己创作出来的，它与人类自己画的画不一样，它是由AI通过学习后创造出来的。而且看上去这个过程非常简单——只需要让AI“消化”掉人类所提供的那个有7万张1024×1024像素高清人像的图片库的数据集成包，它就可以自动生成无可挑剔的逼真却又不会与原数据集中的内容重合的新图片。也就是说，AI有了更强的自主性与多样性。

通过这种生成对抗网络的学习，AI还可以将这种过程应用于其它动物、汽车甚至任何内容。

C

缺陷很明显，问题也来了

有趣的是，AI所创造的新图像其实是没有规范的，它并不知道什么是“完美”，什么是“标准”。可以看到，一些率先尝了鲜的网友公布的生成图像中，大多数情况下都是“正常”的，它们和眉善眼、眉清目秀，应发起者的要求，这些人脸还可以有各种表情，或喜或怒，全在发起者一念之间。但其中也不乏一些缺陷很明显的“畸形”图像：有少了只耳朵的帅哥，有半边脸天使半边脸恶魔的少女，有长得像羊驼的猫，还有像被不明力量攻击过的野兽……

英伟达近年一直在引领游戏行业的走向，它不断更新的技术已大大地改变了游戏行业的现状。比如NVIDIA RTX光线追踪技术，已为游戏玩家带来“以假乱真”的游戏画面。这次公开的StyleGAN源代码，似乎更是有意扩大“游戏”范畴。

一些玩家已不是简单地刷新几张人脸，而是用这个公开的软件去创造自己理想中的美女、爱宠甚至更多游戏场景。也有人尝试输入大量的二次元动画图像，然后完全不用自己绞尽脑汁地去创作，就能得各种全新的动漫形象。

于是，问题也来了：这样创作出来的全新的“人物形象”，版权归谁所有？用AI来创造新形象，价值何在？

D

专家呼吁：请负责任地使用AI

我们知道，之前已有种种研究在游戏人物的逼真程度上下工夫，也就是如何让计算机生成更逼真的人脸。而现在英伟达的这种生成器架构其实已经证明，可以通过对样式进行特定尺度的修改来控制图像合成。“换脸”技术应该已没有任何难度。

现在很多年轻人都迷上了“美颜”、“美图秀秀”之类软件美化照片的功能，想必对另一个“换脸”程序Deep Fake也不会陌生吧？

2018年1月，有人曾推出了一个Windows程序Fake App（现已被封，不可再用），允许用户很轻松地自制换脸视频，无需任何AI方面的专业知识，只需要一台包含英伟达GPU的个人电脑，有34GB的存储空间，就能运用Deep Fake技术生成一条“换脸视频”。显然有不少网友已尝试过了，比如微信上流传的一些换脸的搞笑段子，某些直播间里的女主播给自己换上一张明星脸，等等。

事实上，这种AI换脸技术已被滥用，Deep Fake出现一年多，已造出了无数假视频，甚至“DeepFake”这个词也被用于指代所有看起来或听起来像真的一样的假视频或假音频。这些足够以假乱真的视频，也很容易被不法分子利用来做坏事，进行诈骗或制造假新闻搞人身攻击等。而现在StyleGAN的开源，无疑也会增强这种制作能力，带来更多假视频。

此外，还有一些研究人员提出另一种反面意见，他们认为如今所谓的AI的深度学习能力（即生成对抗网络）并没创造性。英特尔神经形态计算实验室主任Mike Davies就在国际固态电路会议（ISSCC）上表示：AI深度学习跟大多数人印象中的其实并不一样，它只是一种优化程序，实际上并不是真正在“学习”。

或许每一位接触新技术的人都会有自己的想法，但一些相关方面的专家已在呼吁：请负责任地使用AI！不要让它轻易沦为犯罪的工具。

当然，对于普通大众来说，还是有必要先了解这些新技术，简单尝试一下并没什么不好，起码我们已知道那些无比逼真的“假视频”是可能存在的，我们不能再轻易相信眼睛看到的就是所谓“有图有真相”。

总之要相信一点，人脑的学习才更具创造价值。

本版制图/范英兰

（《别让AI沦为造假神器》由金羊网为您提供，转载请注明来源，未经书面授权许可，不得转载或镜像。版权联系电话：020-87133589，87133588）