“AI发展现状反思”笔谈｜警惕AI热潮中的娱乐化趋势|AI_新浪财经

【主持人语：刘永谋（中国人民大学吴玉章讲席教授）】近年来，以大模型为代表的AI技术发展迅猛，掀起一波席卷全球的AI发展热潮。关注AI发展状况的人不限于AI的研发者、推广者和AI发展的评论者、人文社科研究者，更包括深感生活将被AI深刻影响的普通公众。AI发展的问题不再是纯粹技术问题，而是成为某种意义上的公共议题。在最近OpenAI发布Sora、马斯克开源Grok等一系列相关事件中，这一点表现得非常清楚。在各种相关公共讨论中，AI发展现状尤其受到关注，其中的基本问题是：当前AI发展的大方向是否有问题，未来应该朝什么方向前进。为此，组织计算机、经济学、马克思主义理论和哲学等领域的八位学者，对AI发展现状进行跨学科反思以期抛砖引玉，求教于方家。

本系列文章共8篇，转载自《科学·经济·社会》2024年第2期，本文《警惕AI热潮中的娱乐化趋势》为第1篇。在文中，刘永谋和王春丽分析“AI宣传术”的得失，认为目前AI发展出现娱乐化趋势，必须以有限主义发展进路对之进行校准。

自ChatGPT横空出世后，以大模型为代表的生成式AI技术发展迅猛。一石激起千层浪，社会各界闻风而动，GPT-4、Gemini1.5、Sora等各类生成式AI产品层出不穷，AI写诗、AI换脸、AI占卜等小程序风生水起，以“AI奇点降临”“AI觉醒”“AI失业”等炸裂性词汇为主题的报道遍地开花，更有不少商家借鸡生蛋，通过售卖“注水”的AI课程获取暴利。

这股“AI热”席卷全球的势头，不禁令人联想起消退不久的“元宇宙热”。在此起彼伏的宣传和炒作中，无论是昨日之元宇宙还是今日之AI，均不再是纯粹的科技概念，而是负载着政治、文化、经济、社会等诸多层面问题的复杂要素集合。当前，AI发展存在着泡沫化、娱乐化过度商业化等脱实向虚的倾向，亟须冷静对待、理性审度。有限主义发展进路认为，AI发展的根本宗旨是造福于人，与其在“AI是否具备道德、情感、意志”“AI是否会失控”“超级AI如何”等带有幻想性的问题中瞻前顾后、过度担忧，倒不如站在有限主义立场上，努力控制AI发展方向，真正思考是否要“控制AI"，如何把握“控制AI”的分寸，确保AI发展以人为本，增进社会福祉。

一、“AI宣传术”的得失

所谓“AI宣传术”，即AI传播过程中面向社会和大众所采取的技术推广策略。自AI技术问世至今，AI宣传术层出不穷，直接参与并影响着半个世纪以来AI发展的迭代起落。从传播学视角看，AI宣传术颇为成功，并且随着AI技术的进步与社会发展的提速，其造势水平越来越高、普及效度越来越广、渗透力度越来越强。

大致来说，AI宣传术主要包括如下三种策略：一是科幻文艺叙事。在小说、动漫、动画、影视作品中植入大量AI主题故事，通过人机友好共处、人机终极大战等情节，将AI“觉醒”“高效”“超能”“神秘”“难以控制”“威胁性强”等鲜明特征灌输给社会公众。二是营造“偶像光环”。由与AI相关的企业主、工程师、科学家亲自代言，扮演“超级科技英雄”角色，“圈粉”无数。如被誉为“ChatGPT之父”的奥特曼（Sam Altman）、因横跨七个高科技创业领域而被称为“硅谷钢铁侠”的马斯克（Elon Reeve Musk）、因在AI领域的杰出贡献和深远影响力而被誉为“中国最杰出的未来主义者”李彦宏等人，他们通常具有极大的话语主导权与公众信服力，能够引领AI发展和舆论风向。三是制造热点话题。擅长从心理学角度抓住受众的痒点、痛点和弱点造势，以达到理想宣传效果，如类似“谷歌工程师宣称计算机聊天机器人已经产生意识”“某人运用ChatGPT赚取百万”的炒作内容，既能挑起受众的焦虑，又能刺激人们的赚钱欲望。

从积极层面看，AI宣传术十分必要且有效。之所以必要，是因为AI巨大社会冲击已经显现，必将引发深刻社会变革，公众有必要理解AI、运用AI、掌握AI控制的主动权。之所以有效，则表现为AI宣传术在助推AI概念迅速普及，AI应用全面推广和AI产业有效“吸睛”“吸金”等方面的巨大作用。如今，AI文化已经成为当今流行文化的重要组成部分和AI产业研发的参考指南。甚至很多人认为，AI发展过程中的许多理念突破、技术创新，来自AI科幻小说的灵感加持，比如，阿西莫夫（Isaac Asimov）在1950年代的科幻小说中提出的“机器人三定律”，已然成为当前科技伦理政策制定的重要参照。

从消极层面看，AI宣传术也导致一些明显的问题。从根本上说，宣传是一种有目的、有计划的引导说服与观念渗透。为了谋求宣传效果，AI宣传术存在着大量虚假夸张、言过其实、胡编乱造的现象。事实上，这种现象并非最近才有，早在20世纪60年代，德雷福斯（Hubert Dreyfus）便将过度的AI吹捧比作炼金术，提醒社会警惕甚嚣尘上的AI热潮。1990年代，罗斯扎克（Theodore Roszak）还曾用“皇帝的新装”来形容计算机宣传术的华而不实，认为背后是包括计算机科学家在内的相关利益群体为吸引大量资金而进行的炒作。Sora大模型的出现，更是从技术层面助推AI宣传术走向‘高光时刻’，能轻而易举地生产出大量失真且无意义的夸张或虚假内容。

展开来看，AI宣传术至少存在如下负面效应：一是泡沫化。传播内容华而不实，想象猜测代替逻辑判断，杜撰臆想多于求证反思。大多数话题上一秒沸沸扬扬，下一秒不了了之，缺乏持续关注度与现实影响力。二是雷同化。传播内容千篇一律，随波逐流，多为“新瓶装旧酒”式的模板套用，唯流量是从，对于客观事实不甚了了。长此以往，社会公众逐渐“审美疲劳”，甚至心生反感。三是娱乐化。叙事内容多为AI觉醒、人机大战、人机恋爱等，大众娱乐气质明显。叙事方式则多用调侃、搞笑、戏谑、恐吓等魅惑性、碎片化表达，迎合当代社会的泛娱乐化趋势。四是焦虑化。AI宣传术抓住AI恐惧大做文章，不断贩卖社会焦虑。AI恐惧是由来已久的技术恐惧的一种。与之前的技术恐惧相比，AI宣传术突出AI恐惧的特殊之处在于AI迟早要觉醒，以及很快会导致大规模的失业。在中国，还有一种特殊的AI恐惧，即恐惧中国AI发展会落后。每次砫谷AI公司发布一个新产品，国内就有人发表“中美AI差距拉大”“中国AI没有原始创新”等言论。

波兹曼（Neil Postman）说，我们终会毁于自己所爱。在AI宣传术营造的虚拟乌托邦中，AI文化被异化，沉浸于其中眼花缭乱、流连忘返、乐此不疲，实则难有收获。短期内，大众以“看客”身份“凑热闹”“图乐呵”，以偏概全地将被异化的AI形象视为AI全貌，又或将对AI的认知局限在单纯意义上的娱乐服务产品范畴，对AI究竟因何、是何、为何全然不知。长此以往，人类极易在AI宣传术营造的这种消遣文化、片面语境中丧失判断精神和思辨意识，在现实世界与虚拟世界的模糊边界中忘乎所以，沦为AI世界的“虚拟人”甚至AI附庸。

二、AI发展的娱乐化趋势

AI传播以现实内容为基本依据，反过来也会影响现实AI发展。AI宣传术盛行，折射出整个AI产业存在着泛娱乐化的危险。发展AI的初衷是帮助人类追求更为高效、高品质的生活，然而在不断发展的过程中可能出现各种问题误导其发展，使之背离发展AI的最初目标。

AI发展娱乐化是泛娱乐主义思潮的典型。这种思潮将趣味性、消遣性、享乐性作为生而为人的第一旨归，推崇万物皆可娱乐理念。波兹曼认为，当代社会存在着“娱乐至死”的趋势。技术赋权、资本驱动和需求变迁是造成AI发展娱乐化趋势的主要原因）。其中，技术赋权是逻辑支撑，得益于AI大模型底座能力的日趋强大，自然语言处理能力的日趋便捷和算法技术的日趋完善。而资本驱动是第一动因，无限扩张的资本逐利使AI产业遵循利润增殖的逻辑，拥抱商业化、娱乐化、功利化。需求变迁则是AI发展娱乐化的重要诱因，即为满足人类对生活情趣、娱乐旨趣和行为乐趣的无限追求，AI产业不得不主动迎合大众娱乐心理与消费理念。

除AI宣传术娱乐化外，当前的AI发展娱乐化趋势至少还体现在研究方向、企业组织和评论研究的娱乐化等三个方面。

第一，研究方向娱乐化。追根溯源，从某种意义上说，本轮AI热潮发迹于人机对弈的娱乐活动及其所引发的“AI觉醒”讨论。由此，AI研发企业、团队敏锐地发现，营造AI产品人格化通俗化娱乐化色彩，是AI产业“走红”“吸金”利器。在利益的驱使下，一些AI产业从业者不再将研发着力点放至社会治理、智慧交通、智能制造等成本高、战线长、关注度低的领域，转而聚焦于AI写“小作文”、生成视频、虚拟陪伴甚至AI“复活”逝者等文化创意与服务业领域的产品研发，倚靠娱乐化产品谋利。已有报道指出，激烈的AI产品竞争加剧了各大科技公司对AI研发的趋利性导向，但研发自由度明显下降。

第二，企业组织娱乐化。当前，雇用大量公关人员，花大力气搞宣传工作已成为互联网公司、AI公司的公关组织常态，并且宣传力度不断飙升。它们以品牌包装、热点炒作为己任，以吸引投资、股市基金作为职责，对AI实质性突破关注不够。一方面，公关形式向娱而行，渠道不断拓宽已在依托报刊、电视等传统媒介的基础上，大量拓展推特、微博、短视频、公众号等自媒体宣传渠道，开展形式活泼、自主便捷、代入感强、无处不在的“病毒式”传播，给受众带来更多新奇特的娱乐感。另一方面，公关内容因娱而生，手段不断丰富。通过数字技术精准定位不同层级的用户喜好，又或通过粉丝互动、在线服务等方式与受众实时交流，再或运用夸张、引诱搞笑共情等内容包装手段博人眼球，收获理想公关效果。

第三，评论研究娱乐化。其一是言辞激烈，夸张至上。“AI元年”“人类完蛋”“世界炸裂”等词汇令人眼花缭乱。有人评论道：在此波AI热潮之前，人们甚至不知道有这么多形容爆炸性突破的词语！其二是资本驱使，利益至上。成千上万的社会机构、自媒体人倚靠AI热潮“借鸡生蛋“，靠评论AI，售卖AI知识谋利。最近“翻车”的“AI教父”李一舟便是其中的一员。就连一向讲究与社会保持距离、反对跟风炒作的学术界，都迫不及待地将AIGC、ChatGPT尊捧为“学术热词”，趁机赚取“学术工分”。其三是内容浮夸，奇葩至上既无独到建树，又无新颖论断，喜好讨论“AI觉醒”相关的空泛问题，与评论研究“站岗放哨，提醒社会未雨绸缪，看护社会福祉”的职责大相径庭。

阿玛拉定律指出，人们总是高估一项科技所带来的短期效益，却又低估它的长期影响。AI发展的娱乐化趋势对人类的长远利益与整体益处不大，而过度娱乐化还可能造成诸多严重的负面问题，必须保持警惕。

从产业层面看，过度娱乐化趋势导致AI发展“走偏”。AI造福人类的初衷无疑是美好的，但大多数AI企业都在为谋利而生产大量哗众取宠、实际意义不大的产品。照此发展，AI产业到底是变得越来越“亲民有趣”，还是在逐渐与技术创新尤其是原始创新脱钩？是增进了全人类的福祉，还是满足了部分人的私心？利益与初心、价值与意义之间的关系张度如何把握？目前，社会上已不乏指责人工智能“不务正业”的声音。类似“我期待人工智能可以帮我做饭、洗碗、料理家务，这样我就可以琴棋书画。结果现在的人工智能却在代替我琴棋书画，而我不得不去生产劳动”的声音，最近在网上被四处转发。

从认知层面上看，AI发展过度娱乐化带来的是“温水煮青蛙”式的消极认知后果，如果放任不管，最终可能反噬自身。短时间内，“走偏”的AI不断以恐惧和恫吓的夸张方式“吸睛”，看似成功，但却在很大程度上传递着技术悲观主义情绪，恐有将社会大众和国家政府吓坏、限制AI发展之嫌。长期来看，娱乐化趋势催生出一种异化的AI文化，带有浓厚的“去价值”色彩。实质为缺乏深度、内容肤浅、低级趣味的庸俗文化、泡沫文化，离散主流意识形态的聚合力，诱导大众沉溺于享乐主义、虚无主义的陷阱中不自知而难自拔。

从现实层面看，过度娱乐化趋势不仅放大了AI引发的包括图文内容失实、知识真假争议隐私风险泄露、失业危机、自主武器系统威胁等系列负面效应，而且还将走向浪费资源的错误路线上。据估计，生成式AI驱动的搜索所消耗的水电是传统网络搜索的四倍到五倍。按照“杰文斯悖论”，如果继续在无节制的能源消耗道路上狂奔，“人类世”势必会在全球范围内加速毁灭。倘若未来AI的着力点在提高生产力、推动工业化、解放人类机械劳动等实体经济方向，才可能有大的发展，可如果只为搞出一些虚拟的、只能在网上再循环的东西，则实属虚有其表、百无一用，发展必然受到很大限制。

三、有限主义的发展进路

警惕AI热潮中的娱乐化趋势并非对AI发展的全盘否定，而是批评过度炒作AI，致使AI过热、过头、过火的现象产生。毕竟，AI非万能，更不具备如科幻小说幻想的完全颠覆世界的力鼠。AI未来发展存在许多不同路径、模式和选择，也蕴含诸多风险与机遇。对于AI引发社会变革究竟是积极的还是消极的，本质上并不仅取决于AI技术发展，更取决于人类自身的选择、布局与应对。

就中国国情而言，AI技术是培育新质生产力的重要引擎，是推进中国式现代化深入发展的有力抓手，其重要性不言而喻。AI发展的有限主义进路认为，我们应该努力控制AI的发展，尽力将之引导至有益于人民的方向上去，做到“有所为、有所不为”。有所为，即站在科技谦虚主义立场上，发展有益AI既要肯定、支持AI技术的探索，又要主动干预、控制AI技术的发展，对AI进行有效治理。有所不为，即树立AI有限价值观，妥善审度AI技术的社会影响尤其是负面效应，提前研究，预先布置，以规避相关风险。

这里从宏观上提几条适合当下中国语境的AI发展方向的建议。

第一，坚持AI以人为本。需谨记，人类发明AI的目的是利用它，不是给自己增加麻烦的。尽管AI发展具有极大的偶然性和不确定性，但到底能不能控制AI，仍取决于人类自己想不想为控制AI付诸努力。鉴于此，在AI研究设计、风险评估和实际应用的各个环节，必须将以人为本的“善”念贯穿始终，避免陷入“科林格里奇困境”。在实际的AI治理中，应当从“大设计转向小设计”，对AI发展进行审时度势的动态控制，把握洞控的局部性、渐进性和灵活性。同时，在多元共治原则的指引下，处理好局部利益与整体利益，短期利益与长远利益的关系，尤其确保社会弱势群体的利益，使AI朝向增进全人类福祉的方向发展。

第二，落实AI实用性原则需明晰，AI的评价标准不在于它的娱乐化水平和类人性程度有多高，而在于是否真正能够为人类带来更好的生活七，实用性追求意味着，在战略选择上将AI发展的着力点聚焦在医疗保健、农业民生、智慧城市、制造业等实体经济领域，而非营造商业化、娱乐化、泡沫化的虚假狂欢。进一步而言，中国的AI发展必须让技术落地，通过“人工智能+”赋能各行各业，在客观性的基础上追求传播效果，在实用性的基础上追求娱乐旨趣，不可为追求片面利益而一味研发脱实向虚、毫无意义的AI产品。已经有人指出，中美AI发展方向不尽相同，中国AI发展更注重技术应用，赋能实体经济，而美国AI似乎更关注基础创新，追求轰动效应。实际上，在无人码头、无人矿山等AI应用领域，中国AI产业处于领头羊的位置。

第三，树立AI发展的底线思维。需牢记，“科学第一，但不唯一”。无论AI多么强大便捷，总要为其设置限度。无法明确预测后果时不为，对技术黑箱持续无解时不为，不利于掌握AI控制的主动权时不为，无法保证对人类福祉有利时不为。特别是要坚持防意识化的技术设计和去道德化的伦理设计。前者要求将AI限制于安全、可控的工具层面，而非将其臆想为与人类意识平等存在的他者。后者则禁止AI具备自主道德，确保全部责任由人类承担，规避责任空缺困境。其实，AI发展的底线思维不是限制AI发展，而是反对在缺乏有效控制方法的情况下随意、任意地发展AI，以免其阻碍或威胁人族利益。控制AI发展以使其适应社会的行为，也许会或多或少减缓技术创新，但从根本上有利于社会进步。

第四，营造正向AI文化氛围。需明确，AI技术社会影响力极强，营造健康、和谐、有序的AI文化至关重要。首先，要引导AI文化适应社会，而非社会适应AI文化。AI文化必须尊重人类文化传统与伦理底线，传播符合主流意识形态和时代发展规律的正向价值观，维护社会和谐稳定。其次，要积极开展科技观和AI方面的教育、科普活动，消除“AI崇拜”“AI恐慌”等AI认知偏见，营造人人懂AI、用AI、对AI负责的社会文化氛围，预防AI成瘾、AI依赖等AI行为偏差，缓冲AI引发的各项社会风险。再次，要加强对AI伦理建设的引导，在责任理念的指导下，把握AI的发展节奏和自主化程度，有效监管、治理已经出现的AI伦理问题，为AI行为的“非预见性”领域留下缓冲的余地。

第五，努力建设绿色低碳和节能环保的AI社会。需注意，AI发展与环境保护之间存在一种悖论。一方面，人类通过AI技术减少能源消耗，促进资源循环再生，提升环境治理能力。另一方面，任何一项AI技术的发展与创新都消耗大量能源，加重自然负担。因此，鼓励绿色AI研发与创新，开创节能环保的AI发展道路，降低AI发展中的能耗和污染风险迫在眉睫。在技术层面，需要加快研发低功耗、高算力的芯片技术与大模型底座，优化数据存储和处理方式，减少数据冗余和不必要的存储。在政策层面，批评AI娱乐化、向虚化，专注AI实际效用与为民的终极旨归，支持设备回收再利用、推动循环经济。在社会层面，开展相关领域合作，优化资源配置，实现技术、数据的开放共享等。