专访｜联合国专家谈负责任使用AI：能搜索到信息就别用聊天机器人了|人工智能_新浪财经

“作为计算机科学教授，1984年我就做了一个关于人工智能的项目，可想而知AI的发展经历了多么漫长的讨论。” 英国南安普敦大学教授温迪·霍尔（Wendy Hall）近日在第十二届世界和平论坛上说到这里时，台上同席而坐的几位专家笑称那时候他们还是孩子。

霍尔上大学的时候还几乎接触不到电脑，在数学专业读到博士毕业后，她对新出现的微型计算机颇感兴趣，于是转而攻读计算机科学硕士，并在毕业时写了一个智能教学程序。她7月7日在北京接受澎湃新闻（www.thepaper.cn）专访时说，“那时我只是想眺望一下未来，看看我们可以怎样依靠电脑来使用人工智能。”彼时，全球范围内的人工智能正在从理论研究走向实际应用。

英国南安普敦大学教授温迪·霍尔（Wendy Hall）接受澎湃新闻专访。

自那一眺望之后，霍尔带领的团队在1988年开发出微观世界超媒体系统（Microcosm Hypermedia System），将文档之间的链接存储在单独的数据库中，来构建一个更加互联的网络，那时候万维网还未出现。

“此后，我的职业生涯一直在使用人工智能。”霍尔说道。

上世纪80年代末，霍尔在南安普顿大学计算机科学专业教了3年书之后，意识到一个奇怪的现象，这个专业的学生当中没有女性，英国其他高校也基本如此。她回忆，那个时候计算机被包装为男孩的玩具进行销售，似乎与女性没什么关系。“我们就这样让一代女性对计算机失去了兴趣，之后此学科的性别比例也没有完全恢复平衡，所以相应的做人工智能的女性就更少了。”

不过，令她感到欣喜的是，联合国层面的AI咨询系统注意到了多样性问题。2023年霍尔入选联合国人工智能高级别咨询机构（High-level Advisory Body on Artificial Intelligence），39名专家中包含20名女性和19名男性，代表33个国家。她强调，如果开发人工智能的团队不具有多样性，很有可能存在偏见和不公，因为只是用单一方式思考。

霍尔曾在2017年受英国政府之邀为国家撰写AI产业发展路线图，两周前还与时任英国首相苏纳克一起讨论人工智能安全问题。近一年，她和联合国人工智能咨询机构的团队成员一起撰写《以人为本的人工智能治理》报告，报告最终版将于今夏发布。对于人工智能的治理与监管，这位教授从英国和联合国机构的视角阐述了见解。

人工智能领域的女性角色

澎湃新闻：您从1984年就涉足人工智能领域，至今已经有40年，这期间人工智能的技术和商业应用已经发生了翻天覆地的变化，您一直坚守在这个学科进行研究工作的动力是什么？

温迪·霍尔：我曾是一名数学家，博士毕业正值微型计算机开始出现，当时我想要在研究型大学工作，但因为太年轻了找不到合适的岗位，也发现自己的能力无法与微型计算机的记忆力与算力匹敌。当我了解到除了通过程序代码之外，还可以与计算机进行交互，在计算机上放置图形和多媒体时，我对如何将其应用于教育很感兴趣，之后对超媒体（hypermedia）也变得非常感兴趣，便开始了研究的道路。

二三十年前，人们觉得计算机科学家杰弗里·辛顿（Jeffery Hinton）疯了，因为他不断提出新点子，但这通常就是研究的方式，也是我为什么喜欢做研究的原因。我乐于被告知自己所做的研究永远不会实现，然后时隔多年我可以对人们说，“看，我30年前所做的研究现在已经实现。”我对此感到非常自豪。比如在1990年代我就谈论过可穿戴计算机设备，并有视频记录，当时人们问我为什么需要可穿戴计算机，而现在智能穿戴已经普及。

我不想为科技巨头工作，因为产业界是利益驱动的，必须专注于让股价上涨和销售产品。我在上世纪90年代确实创办了一些初创公司，它们取得了不同程度的成功，但并没让我变得富有。我在大学可以自由地思考，可以做感兴趣的研究，是很棒的体验。

澎湃新闻：在人工智能领域，像您这样的女性研究者并不多见，如何提高女性的参与度？

温迪·霍尔：我认为人工智能不应该被视为计算机科学的一个子集，它比计算机科学要大得多。当我们讨论它时，不仅仅是在谈论编程，还在谈论它的伦理、治理、政策，我们需要立法者、人文学科研究者、商业人士、哲学家和心理学家。所以，性别、年龄、种族方面的多样性非常重要，因为人工智能是为全世界打造的。

我非常担心人工智能通过计算机科学来筛选人才，而研究计算机科学的女性非常少。所以相应的，做人工智能的女性就更少了。从进入人工智能领域至今40年，我仍然是该领域中少数女性之一。

澎湃新闻：人工智能领域中女性研究者较少是否会导致多样性的缺失，进而引发其他问题？

温迪·霍尔：我非常强烈地主张多样性，如果只是单一文化，那么生产的任何东西，无论是研究还是产品，都更有可能存在偏见和不公，因为只是以一种方式思考。如果开发人工智能的团队不具有多样性，那从道德的层面来看是有问题的。

当然，联合国人工智能高级别咨询机构的团队是极具多样性的，不仅男女比例对半分，在年龄、种族、商业背景方面也非常多样化。所以这是一个很棒的团队，是多样性的一个典范。

AI规则制定应由谁主导

澎湃新闻：人工智能高级别咨询机构的39名专家分布在33个不同国家，每个大洲都有代表。当不同国家、学科和背景的专家一起制定报告时会有怎样的分歧？

温迪·霍尔：因为小组具有多样性，各个地区的专家都非常深入地参与其中，所有专家都敢于说出自己的想法，因此我们不是在每件事上都意见一致。但之所以机构运行成功，很大程度上归功于联合国的领导，尤其是联合国秘书长技术特使阿曼迪普•吉尔，他是一个非常有影响力的人物，但他并不显得高高在上，通常能让每个人以自己的方式行事，他鼓励人们发言，让人们真正参与到讨论中。通常来说每个人都会发声，这就是全面的多样性，这让我深有感触。

我特别喜欢听团队中的法律从业者以不同的方式去思考世界，非常合乎逻辑。我们彼此了解，已经进行了多次线上和线下会议，包括一些深入的探讨，包括开源、人工智能的和平，以及儿童和性别等各种议题。

澎湃新闻：联合国人工智能高级别咨询机构去年12月发布了《以人为本的人工智能治理》中期报告，呼吁将国际规范与人工智能的开发和推广方式更紧密地结合起来。最终报告尚未发布，现在的工作进展如何？

温迪·霍尔：最终报告已经基本完成了并提交给了联合国秘书长，还会有一些反馈意见，可能后期会更新和迭代，最重要的是联合国领导层是否乐于接受我们所提出的内容，我们必须要以他们能接受的方式坚定地说出想说的话。这份报告将作为今年9月未来峰会（Summit of the Future）上将讨论的全球数字契约的一部分。我们非常希望报告中的大部分内容被纳入契约。

对于报告的细节，我们为联合国和人工智能机构留有探讨的空间和其他可能性，我们访问了世界卫生组织、知识产权组织、人权组织、国际电信联盟（ITU），他们都在推进有关人工智能的工作，但往往只能看到自己关注的那一部分，我们正试图跨越这个障碍，构建一个网络是一种解决方案。

澎湃新闻：小到科研机构、科技公司，大到国家政府和联合国，都在不同层面讨论和制定人工智能相关的规则来尽可能地确保安全，那么究竟哪一方享有规则制定的主导权？

温迪·霍尔：国家政府在规则制定方面有很大的影响力，比如英国去年成立了人工智能安全研究所，旨在提高对人工智能安全的认识。但我并不是很赞同这种做法，因为它过多地带有政府部门的色彩，缺乏学术界的参与。而联合国是世界上唯一真正具有普遍性的全球组织，可以处理各种问题，尽管它可能是不完美的，但是我们可以利用这样一个平台来构建一个AI治理的网络。

澎湃新闻：英国去年主办了一次国际人工智能安全峰会，时任首相苏纳克说：“目前唯一测试人工智能模型安全性的是开发它的公司。”他认为这是远远不够的。那么如何让更多人参与到人工智能安全性的检测和提升当中？

当地时间2023年11月2日，英国伦敦，人工智能安全峰会期间，英国时任首相苏纳克与特斯拉CEO马斯克出席一场对话活动。视觉中国图

温迪·霍尔：谈到去年在英国举办的人工智能峰会，非常坦率地讲，让我恼火的是有很多国家没有被邀请，受邀的标准并不清楚，而且很多学者完全被排除在外。

关于人工智能的安全性，在很多行业，一般是行业开发测试工具对产品进行检测，然后提交报告给政府接受监管，这也是目前人工智能遵循的一套规则。在英国，人工智能安全研究所都不一定能够访问那些科技公司的数据，更不用说其他机构和个人。我认为公司管理安全性和政府监管的平衡需要更进一步优化。

两周前，我见了苏纳克首相，当时和他谈论了人工智能，我问他试图通过AI安全研究所达成什么目标。他充满热情，希望英国能成为人工智能安全领域的领导者，但实际上这是一个全球性问题。而且我认为很多研究应该在大学里进行，由商业公司来支付费用，然后由政府来监管技术的开发，而且政府需要派人到人工智能的最前沿，以便了解正在发生什么并进行监管。

别让ChatGPT做简单数学题

澎湃新闻：您既参与了2017年英国人工智能独立报告的制定，也参与了联合国人工智能高级别咨询机构的AI治理工作，如何看待欧盟最新发布的人工智能法案？一些科技公司指责这样的法案会打击创新，您怎么看？

温迪·霍尔：我们必须在创新和监管之间找到正确的平衡。我认为英国的手段太软了，当然也对创新比较友好。实际上不管是欧盟还是英国制定的监管方案，确保安全的目标是一致的，只是实现的手段不同。

我们必须要有强力的法规，如果只是科技公司自我监管是不够的。就像烟草行业，人们都知道吸烟的害处，但如果不制定相关法规，烟草公司为了盈利会以自己的方式制造和销售香烟。不同国家的法律会有所不同，但我们需要在联合国层面上形成一定的原则，各国可以在这样的原则基础上制定自己的法规。

澎湃新闻：您在社交平台上分享了一份有关深度伪造（Deepfake）的联名书，呼吁制定新的法律法规，保护人们免受深度造假的危害。现在深度伪造带来的哪些危害值得重点关注？应该从哪些方面努力去应对这种危害？

温迪·霍尔：可以看到今年有很多国家举行选举，我们很担心深度伪造会改变人们在选举中的投票，现在通过任何法律或技术都很难解决这个问题。比如有专家提到可以运用水印来防止伪造，实际上水印也很容易破解。

我认为每个人都应该意识到人工智能能做什么以及它如何被滥用来制造虚假信息和深度伪造。我们不能期望政府做所有事情，而且也不希望政府和科技公司成为审查者。真正困难的是，谁来判定某件事或某个信息的真实性，而且这也涉及到言论自由和隐私的问题。因此还是要回归到人们的意识问题，需要每个人都认识到人工智能应该如何被正当使用。

澎湃新闻：您在演讲中提到生成式人工智能工具ChatGPT改变了很多，在开发和使用生成式人工智能的进程中有哪些需要关注的风险或盲区？

温迪·霍尔：我想强调人工智能的耗能问题，它的庞大电力需求是一个值得关注的问题。人们很多时候不正当地使用生成式人工智能，对ChatGPT提出极其简单的请求，比如输入简单的算术题，这太疯狂了。我们需要负责任地使用人工智能，一些在搜索引擎中可以查找的信息不需要用资源密集型的生成式人工智能来完成。当公司销售产品时，不应该说现在可以用这个来做所有事情，而应该思考如何确保以一种负责任的方式使用它。

当然，对于人工智能的发展我还是比较乐观的，重要的是要看怎么样和人工智能进行合作，比如AI在粮食安全、气候变化、能源、医疗卫生方面已经有很多突破，这是很棒的进展。我们要支持人工智能向好的方向发展，要建立一个机制去确保安全，这是一个漫长的旅程，我们不应该反对人工智能，而是要和人工智能进行协作，因为人工智能可以帮助人类有一个更好的未来。