“ZAO”的狂欢与争议：人类即将被科技淹没吗？

　　原标题：【思想界】“ZAO”的狂欢与争议：人类即将被科技淹没吗？ 

　　记者 | 罗广彦

　　“思想界”栏目是界面文化每周一推送的固定栏目，我们会选择上一周被热议的1至2个文化/思想话题，为大家展现聚焦于此的种种争论与观点冲突。本周的“思想界”，我们关注“ZAO”引发的争议和纪录片《他乡的童年》。

　　“ZAO”的狂欢与争议：人类即将被科技淹没吗？

　　8月30日，一款名为“ZAO”的AI换脸App突然爆红。通过AI技术，用户只要上传一张自己的正脸照，就能将电影片段中演员的脸换成自己的脸，从而在熟悉的影视作品中，与明星偶像同台“飙戏”。用户还可以将制作完成的视频分享到微博、朋友圈等社交平台。一时间，朋友圈里被“换脸”视频刷屏。据“ZAO”的官方微博介绍，该App推出几小时内服务器就已经消耗了三分之一。到9月1日，“ZAO”已经跃居苹果商店免费榜第一，其蹿红速度可见一斑。

　　但一夜爆红之后，它迅速引来了公众的质疑与担忧。有网友指出，根据“ZAO”的默认用户协议，用户的面部识别特征等个人隐私信息能够被“ZAO”保存、修改与再利用，也就意味着，用户在使用这个App时，已经将肖像资料与权利完全让渡出去。这种对隐私的侵犯行为马上引爆了公众的讨论：互联网公司是否/通过何种方式过度利用了个人隐私信息？“ZAO”所依托的“Deepfakes”技术应用对当今社会又会产生怎样的影响？人们的讨论已经远远超出对App本身的关注，而开始思考它所代表的科技力量对当代社会的全方位冲击及其所造成的深远后果。

　　在《“换脸”的代价》一文中，作者王梓辉认为“ZAO”引发的一系列风波揭开了中国互联网产业辉煌成就背后的黑暗面：对个人隐私的利用，助推了中国互联网公司的跃进式发展。去年3月的Facebook隐私泄露事件曾经轰动一时：数万名美国用户的信息资料未经许可就被收集与分析，此后用户收到了有针对性的竞选广告推送以影响他们在总统大选中的投票行为。但据相关人士透露，类似的事情在国内也已经司空见惯，甚至有过之而无不及。互联网公司会通过对用户数据的收集、分析、挖掘甚至是交易，赚取巨额的商业利润：例如透过对用户兴趣的分析，精准投放广告，而广告收入正是互联网行业的主要收入；通过不断收集大量不同方面的数据，互联网公司能够更准确地描绘出用户个人画像，他们就能针对每个用户的具体情况做出更有针对性的商业措施。

　　互联网公司有计划地挖掘、分析用户信息，通过大数据牟利的情况值得大众关注，但这些公司收集的个人信息被窃取与泄露的状况同样触目惊心。去年1月，四川省公安厅曾透露，2017年仅四川省就有250余亿条公民个人信息被泄露。普通用户在糟糕的网络数据安全环境下毫无办法，《网络安全法》要求用户实名制，但实名制又会让更多个人信息暴露在危险的网络环境中，事实上，许多搜集了用户个人信息的互联网公司在倒闭破产后根本无法保护用户隐私，而大公司同样也无法保证数据的安全。2015年10月，网易邮箱被曝出过亿数据泄露，泄露信息包括用户名、密码、密码保护信息、登录IP以及用户生日等多个原始信息，影响数量共近5亿条。而公众对“ZAO”的质疑，正是来源于它可能对用户照片进行不正当的商业利用与分析，以及隐私泄露的危险。

　　个人隐私泄露让公众忧虑不已，但正如前文所说，这在今天的中国其实已经司空见惯。“ZAO”激起如此迅速与猛烈的舆论浪潮，源于它采集的是用户的真人图像，相比于身份证号码这种抽象的个人信息，长相、指纹、声音这种生物信息特征的利用与泄露，无疑会引起更严重的焦虑。张丰在《在看脸的时代，脸是我们个人的最后一道屏障》中指出，如今使用任何一款手机应用，都必须要献出我们的一些隐私，这是大家都心知肚明的，人们在享受一些便利的同时，也在忍受着例如被电话骚扰的代价。但“ZAO”引发的担忧如此强烈，是因为“脸”是个人的最后一道屏障，脸就是我们自身，越来越多产品能够透过人脸精准定位个人，支付系统、监控摄像头与交通住宿都需要人脸识别，脸成为个人隐私最后的底线，而创业者为了更丰厚的盈利，正试图攻破这最后一道防线，“ZAO”的成功正说明了创业者已先下一城。

　　对“脸”的识别、定位与替换需要技术进步的滋养，《南风窗》公众号撰文指出，“ZAO”这种替换真人脸部的技术并不是“横空出世”。作者指出，相关换脸技术的发展源于2017年底Reddit论坛上一位ID为“deepfakes”的网友。他基于人工智能的技术，创造了一个算法，能够将已有的图像与视频叠加到另一个图像或视频上，因此这个算法也被称为“Deepfakes”，即“deep learning”（深度学习）和“fake”（伪造）的合体。

　　很快，网络上有一些人开始将该算法用于合成色情影片，他们将影片中的女主角换成明星的脸，并发布到网络上。这种做法除了激起女明星的不满以外，还引出一个发人深省的问题：Deepfakes技术是否会成为网络骚扰——尤其是针对女性——的新利器？尤其在许多私人照片在网络上唾手可得的今天，这是很有可能的。如果只是应用到明星身上，大众很快会发现这是假的，但如果是普通人，发现自己成为网络上任意传播的色情视频主角，恐怕就无力应对可能产生的后果了。另一方面，目前的监管并不能跟上技术发展，虽然包括Facebook、Reddit与Twiiter等网络平台已经宣布对deepfakes视频进行管制，但在许多国家的现行法律下，即使deepfakes视频造成了负面影响，平台方也是免责的；同时发布者可以在其他国家匿名上传，因此同样难以追责。

　　作者认为，当同类技术纷纷出现时，身体、脸与声音这种人们曾经以为独一无二的生物特征都可以用人工智能进行合成伪造，这对现代社会造成了一种全新的、同时也是灾难性的后果：人们不再相信自己亲眼所见的信息，他们要么相信一切，要么不信任一切。这就是所谓的“后真相”时代，信息的真伪已经不重要，因为眼见不一定为实，当情感煽动主导了舆论，已经千疮百孔的社会信任将进一步被撕裂。另一方面，人们要么轻易地被谣言误导，要么就对所有公众言论与辩论产生怀疑，这两种态度都将导致社会舆论两极化，产生无法沟通又充满敌意的阵营。唯一的出路在于促进技术、法规与使用需求的良性耦合，才能驯服AI技术，使其成为安全的科技项目。

　　《黑客帝国》剧照

　　此外，在人类疲于分辨影像中人脸真实与否的同时，人类自身与虚拟的界限也越来越模糊。“新京报书评周刊”的文章讨论了人类身体虚拟化的问题。作者阿莫指出，身体本来被视为天然与本真的，但从美颜、滤镜这种对自己身体与容貌的修改，到彻底“换脸”这种再造真实的尝试，一系列对身体的改造，似乎预示着身体的确定性逐渐消失了，人类技术让真实与虚幻之间的界限越来越模糊，建立在身体之上的身份也能够被编辑与改写。这在互联网上已经部分实现了，每个人在网上的身份与自身与生俱来的身体或外貌特征是脱钩的，人们可以自由创造自己的身份与角色。这种对自我身份的选择，在许多学者看来或许是好事，通过超越自然身体，人类可能建立一个多元的、界限模糊的社会。但作者指出，人们如果真的能自由编辑外表，美感也可能会消失，例如在社交平台上，通过滤镜与技术处理后的面孔非常相似，编辑外表的的自由并不意味着多样性，可能只是让一个“标志性面容“被复制到更多人脸上。此外，摆脱肉身后，人与人的关系并不一定会像期待中那样平等自由，缺少与其他人身体共在的机会，共情就可能不复存在，这很可能带来全新的压迫。

　　“虹膜”公众号则另辟蹊径，讨论“ZAO”可能产生对表演与电影艺术带来的冲击。在电影领域，Deepfakes技术也并不新鲜，许多电影也会运用电脑技术制作数字替身，让这些拥有与真人演员一样脸庞、身材、神态与表情的“人”替代真人演员，完成极度危险的动作，或者代替已经去世的演员进行表演，例如《阿甘正传》中的肯尼迪与《速度与激情7》中的保罗·沃克。

　　《速度与激情7》剧照

　　但这种技术破坏了影像的纪实性，也改变了表演的性质。传统的电影拍摄方式记录了演员在故事中扮演角色的真实反应。随着新技术的出现，新的脸庞可以直接借用原有演员的表情、动作、说话方式，能够代替原有的脸庞，创造一段全新的“表演”，这可能预示着在未来，人们通过技术能够随意生成场景、人物，替换上任何人的脸，让这些数字角色跟随已经写好的剧本表演，过去那种“充满手工感”的方式创作的电影，将会被这种重复但又真假难辨的影像取代。

　　思思在《能“换脸”的时代，你们不害怕吗？》中提出了相似的话题，但与“虹膜”悲观的论调不同，这篇文章则认为新技术的出现，不会让表演消亡，反而会使影像艺术催生出更加丰富多彩的作品。作者认为，当技术能够轻易实现换脸时，这意味着特定演员，乃至明星的存在都不再必要了。未来的电影或许只需要庞大的换脸或造脸系统，而表演也可能会更加精确，尽管，这也势必让演员情绪的自然流露以及即兴表演的因素从此消失。而对于导演来说，他们不再需要依赖演员的表演，也不需要等待某个场景的出现，只要通过后期技术的处理，作者相信Deepfakes这类技术能够为导演提供更多的创作选择。

　　随着“ZAO”的公开道歉，舆论也逐渐平息下来，但这场风波带给大众的思考，绝不应仅仅限于一次互联网公司的公关事件。它是现代社会中科技即将淹没人类本身的缩影，无论是互联网巨头通过分析个人信息榨取利润，还是后真相时代中，真实与虚假的界限越来越模糊，抑或是人类身体的虚拟化，人类对自身以及对社会的反思已经远远跟不上技术飞跃的步伐。

　　我们当然不能像卢德分子一样砸烂服务器与电脑，但我们能做的是竭力驯服技术，而不是让技术控制我们。

　　“顺义妈妈”与《他乡的童年》：我们需要什么样的教育？

　　正值开学季，关于教育的话题总是让许多父母心心念念：到底怎样才是正确的教育方式？“顺义妈妈”和《他乡的童年》为我们提供了不同的答案。

　　“顺义妈妈”指在北京顺义后沙峪别墅区一带活动的妈妈，这里聚集着一批国际私立学校，每年学费至少20万元。不同于目标清华、北大的“海淀妈妈”，“顺义妈妈”的目标是常青藤名校，因此她们也被网友称为“上东区-顺义妈妈”。

　　事实上，早在几个月前，一篇名为《海淀家长对不起，顺义妈妈的生活才叫做“不配有梦想”》的文章就已经让网友管窥了中国精英家庭在教育花费上的惊人手笔以及浓重的焦虑感。

　　9月5日，“每日人物”公众号又对“顺义妈妈”进行了深入的采访。从她们的自述中可以发现，她们养育孩子的方式不仅是对下一代的投资，同时也是对当前自身地位的彰显——在一个同质化的社区中，这一点尤为重要。尤其对于女性而言，一个成功的孩子意味着成功的自己，担心自己成为失败母亲的焦虑始终萦绕着她们。而成功教育产生的多重影响是无法立刻展现的，如何彰显自己是成功的母亲？分数、获奖数量、申请学校就是最好的指标，教育从此就成为竞争名次的锦标赛，竞争对手是来自全世界的精英家庭。这些孩子从小就开始比拼学习成绩、运动成绩、社团表现等等，在层层比试中争取力拔头筹，而这个锦标赛的终点是挤过狭窄的升学通道，进入常青藤高校。

　　顺义一所国际学校门口  图片来源：视觉中国

　　在这个过程中，不仅是孩子，父母也需要保持高强度的专注与投入，否则将立刻出局，这种焦虑感始终缠绕着他们，因为他们不知道自己为孩子做出的选择是不是正确的、这个选择能不能给予孩子足够的回报。正如文中受访者所说：“他如果快乐不了，最后还是选择一条最安全的有成功经验的道路吧，那就是爬藤。”在他们的美好想象中，孩子会通过层层竞争，进入顶尖的圈子，获得最好的资源与人脉，成为新一代的精英阶层。

　　布迪厄在《区隔》一书中对精英阶层维持地位方式分析，似乎就是“顺义妈妈”的写照：永不停止的赛跑。通过将财富转化为文化资本，再通过文化资本巩固自身的地位与经济财富的增长，这个过程是为了维持自己的阶层永不滑落，因为下面的阶层同样在努力上升，希望占据更好的资源，整个社会生活就是一场永不停歇、各自竭尽全力、努力向上攀爬的大型竞赛。

　　带着最重的焦虑感，堆最多的钱，找最好的资源，投入最多的精力……这就是成功的教育吗？这能让孩子幸福吗？这能让自己幸福吗？“顺义妈妈”们也许也会怀疑这条路可能不是对自己或者孩子最好的选择，但这是她们缓解焦虑感的唯一路径。

　　与此同时，周轶君的纪录片《他乡的童年》提供了另一种全新的可能性。她在《一部“致童年”的纪录片：周轶君跨六国的解惑之旅》一文中自述：为了思考孩子应该如何学习，她拜访了芬兰、日本、印度、以色列与英国五个国家，了解他们的教育体系是如何运转的。这也是纪录片名字的寓意：通过观察更大的世界，才能反观本国教育体系的问题。

　　该片虽然展示了鼓励想象力与创造力的芬兰课堂、注重动手能力的以色列课堂等，但它并非只是在学习他国的教学经验，或是学校的制度设置。周轶君认为，自己在纪录片中寻求的并非具体的育儿经验，而希望从社会的宏观层面上，对与教育相关的各种概念进行更深入的思考：竞争是什么？成功是什么？集体教育是什么？教育应该何为？

　　微信公众号“第十放映室”的作者认为，《他乡的童年》不仅展示了其他国家教育系统中优越的一面，同时也会反思这种教育理念是基于怎样的社会环境而产生的、可能会引发怎样的后果，而不是一味奉行“拿来主义”，不假思索就全盘接受。例如，日本集体主义的教育氛围，固然能让孩子学到换位思考，但对情感的压抑以及霸凌文化也根植在校园中，因此，这部纪录片的可贵之处在于没有向观众提供一服立竿见影的解药，而是向观众揭示了不同文化教育理念的逻辑以及它的适用性，鼓励中国教育找到适合自己的路径——在反思与改革的前提下。

　　在作者看来，《他乡的童年》同样值得单身青年细细品味。除了教育以外，它向观众抛出的另一个话题是：什么是理想的亲子关系？

　　即使不是所有观众都是父母，但他们肯定都曾经是被教育的孩子，而有些原生家庭的教育方式，不免会对孩子造成了永久且不断纠缠的伤害。无论是“父母皆祸害”的绝对对立，还是《都挺好》中苏明玉温情脉脉的“回归家庭”，都无法完美解决这种童年伤害，达到一个理想的亲子关系形态。该片在讨论教育时，也正是在思考什么是合理与健康的教育者与被教育者的关系。作者认为，最理想的答案，正是片中日本莲花幼儿园园长的想法：“父母与孩子之间并不是支配关系，父母在养育孩子的过程中同时也获得了成长。从这个角度来看，孩子也是大人的父母。”父母只有承认孩子独立的人格，将双方放在平等的平台上，共同保持学习者的姿态，才能营造健康的亲子关系。

　　当然，这或许也不是最佳答案，《他乡的童年》也并不打算提供任何确定的答案，因为思考、好奇与变革正是教育本身的意义。一切正如片尾所言：“关于成长，没有正确答案。”

责任编辑：鲍一凡