孙明春:不得不谈的ChatGPT

2023年04月21日11:09    作者:孙明春  

  意见领袖 | 孙明春

  ChatGPT的发布及快速迭代引发了全球对人工智能(AI)技术研发与应用的新一轮热潮。与此同时,AI技术快速发展可能给人类社会带来的风险与挑战也日益引发关注。3月29日,以马斯克为首的上千名业界人士联合发出公开信,呼吁“所有人工智能实验室立即暂停对比GPT-4更强大的人工智能系统的培训至少6个月”,以便给业界一段时间来“开发和实施一套高级人工智能设计和开发的共享安全协议”,“并给社会一个适应的机会”。

  许多业界人士担忧,作为一项有可能对各行各业产生颠覆性影响的技术,AI除了有可能导致大量就业岗位消失、加大贫富差距与不平等现象,还会带来技术安全、数据滥用、隐私泄露、信息造假、算法偏见、技术洗脑、机器人操纵等诸多问题;有些人甚至担忧AI会超越人类智慧,进而控制或取代人类,威胁人类社会的生存。虽然对这些风险尚存在争议和分歧,但AI技术进步如此之快,很可能会快速超越全球经济、社会、政治、法律乃至伦理规范的承接与适应能力。鉴于AI技术有可能给人类社会带来重大风险,也许AI技术的确有必要放慢创新与应用的步伐,给人类社会更多适应的时间,以便在认知(包括知识、道德、文化理念等)及制度(如法律、教育、社会保障体系等)等方面抓紧准备和尽快追赶。

  其实,各国政府、国际组织、学术界及行业领军机构早已关注此类风险,并通过制定监管政策、伦理规范及自律措施来应对。例如,联合国教科文组织于2017年发布了《机器人伦理报告》,经合组织(OECD)于2019年发布了《OECD人工智能原则》,欧盟在同年发布了《可信赖的AI伦理指南》,中国政府也于2019年发布了《新一代人工智能治理原则——发展负责任的人工智能》;微软、谷歌、百度、腾讯等业内领军企业都已制定了自身的AI技术开发的伦理原则,将相关风险作为高科技企业ESG实践的一个重点领域来对待。

  然而,这些举措能否有效控制AI技术快速发展所带来的重大风险?马斯克等人的呼吁能否奏效?与马斯克等人的呼吁形成鲜明对比的是,最近一两个月,全球各大科技公司先后宣布了下一步的AI研究和投资计划,一批业界知名人士纷纷投入到AI领域的创业热潮之中,各行各业都在抓紧研究和制定类似于“ChatGPT+”的人工智能技术增强策略。面对巨大的业界竞争压力和诱人的发展机遇,很难想象一家企业会主动暂停自身在该领域的研究和应用。

  从这个意义上讲,政府监管也许是必需的,但政府监管也面临两大难题。

  一方面,AI技术的竞赛不只是发生在企业之间,也是当前大国竞争的重大前沿领域。鉴于该技术对经济发展乃至国防安全的重要性,很难想象哪个国家的政府会真正限制本国在该领域的技术进步,反而更有可能为其提供各类软硬件支持,以帮助本国企业在国际竞争中脱颖而出。这意味着,类似于对核扩散的管控及应对气候变化的措施,对AI技术的监管约束必须在全球范围内、通过国家间的合作与妥协来实现。然而,在当前的全球地缘政治形势下,在这个领域开展实质性国际合作的前景并不乐观。

  另一方面,即便要加强政府监管,如何针对一个加速发展、充满大量未知可能性、影响各行各业乃至伦理规范的技术领域进行有效监管,在价值取向及利益分配方面必然存在诸多分歧。从经济学角度来说,要找到既能控制风险、弥补市场失灵,又不遏制技术创新及经济发展的监管平衡点,也极其困难。

  综上所述,今后几年,AI技术的飞速发展很可能是不可避免的,其所带来的某些风险与挑战也将迅速变为现实。尤其是对就业的冲击,很可能在3~5年里就会非常明显。面对这种可能性,我们需要多管齐下,政府监管、企业自律、学术研究、个人准备都不可或缺。当务之急是要提高全社会对相关风险的认知度和关注度,将该议题提升到与应对气候变化、防止核扩散等重大全球风险议题相当的水平,以推动各利益相关主体抓紧采取行动,以期防患于未然。从这个意义上讲,即便马斯克等人的呼吁未能阻止任何AI实验室的研发进展,它在全球引起的广泛关注及对公众的启蒙教育也意义重大。ESG投资者更要关注这一议题,利用手中的资本及其影响力,对缓解相关风险作出自己的贡献。

  本文来源:第一财经

  (本文作者介绍:中国金融四十人论坛成员、海通国际首席经济学家)

责任编辑:张文

  新浪财经意见领袖专栏文章均为作者个人观点,不代表新浪财经的立场和观点。

  欢迎关注官方微信“意见领袖”,阅读更多精彩文章。点击微信界面右上角的+号,选择“添加朋友”,输入意见领袖的微信号“kopleader”即可,也可以扫描下方二维码添加关注。意见领袖将为您提供财经专业领域的专业分析。

意见领袖官方微信
文章关键词: ESG
分享到:
保存  |  打印  |  关闭
快讯:百度短线下挫跌超7% 文心一言正式发布 315晚会曝光假香米、非标水泥管等,多地连夜处置涉事企业 一图读懂丨“315晚会”都曝光了什么?点名了哪些企业? 刚刚!林毅,被查!2000亿白马跳水!上海突发!警方出手:刑拘! 女学员单飞歼11B向家人报喜笑得真甜 河南某县美术馆馆长群聊发不雅照 解释称手机中病毒 补壹刀:今天最大的国际笑话,但可能是一盘大棋! 视频|红色通缉犯郭文贵在美国被捕 奇葩的创维汽车:碰撞试验0分,专攻司机养生,创始人豪言“开车可续命” | 次世代车研所 “反华五人帮”曝光