【文/观察者网 严珊珊】最近,在加拿大温哥华举行的第38届神经信息处理系统年会(NeurIPS)出现了令人不齿的一幕,美国麻省理工学院(MIT)媒体实验室教授罗莎琳德·皮卡德(Rosalind W. Picard)在其演讲中公开发表涉嫌针对中国研究人员的歧视言论,被台下的中国女生当场指出问题所在。
据香港英文媒体《南华早报》12月16日报道,皮卡德13日在提到有关人工智能学术诚信的问题时,历数各种学术不端事迹,但仅在一个反面案例中提到了学术造假者的国籍——中国。她明知幻灯片上的这处举例不恰当,还心虚地补充称“我认识的大多数中国人都是诚实正直的”。
在问答环节,一名中国女性参会者有理有据地指出了皮卡德言论存在无意识偏见和种族主义之嫌,赢得现场掌声。明显慌乱的皮卡德在狡辩了一会后,答应删除幻灯片中存在问题的表述。
这一事件在人工智能领域引发广泛关注,多位行业人士谴责皮卡德的言论。主办方NeurIPS迅速发文承认皮卡德的发言强化了“内隐偏见”,强调这是该会不能容忍的立场。皮卡德也在麻省理工学院网站和NeurIPS网站两度发表道歉声明。
NeurIPS全称神经信息处理系统大会(Conference on Neural Information Processing Systems),被一些业内人士视为机器学习和计算神经科学领域的“顶级国际会议”。
讽刺的是,当地时间12月13日,在这样一个顶会上,麻省理工学院传媒与艺术、健康科学与技术教授皮卡德在讲述人工智能道德准则问题时,放上了一张明显难以通过道德准则审查的幻灯片。
当天,因提出“情感计算”概念在学界享有一定声誉的皮卡德受邀在大会上发表“如何优化最重要的东西”主旨演讲。她提到了生成式人工智能衍生出了很多实际和道德问题,亟待解决,但她在举例学术不端事迹时,引述了这样一段话。
“‘我这么做是为了让论文结果看上去更好,我的学校没人教我们道德或价值观。’——一位中国学生的借口,此人目前已被顶尖大学开除。”这是皮卡德主题演讲幻灯片上的原文。
在这样一段没有信源(皮卡德事后称自己也是听说的)的反面案例上特意注明国籍,此地无银三百两的皮卡德加上了一段免责声明,“我认识的大多数中国人都是诚实正直的。”
到了问答环节,一位中国女生不卑不亢地指出了皮卡德的问题。这位女性先是礼貌地肯定了皮卡德揭露人工智能学术不端行为,随即引出重点,只有一个反面案例提到了国籍,是否因为认识的中国人都诚实正直所以特别留意一两个学术不端者,而其他反面案例都没有提到国籍。
还没等这位中国参会者问完,皮卡德就打断其发言,辩称幻灯片上的例子并非基于自己判断,而是引述,并再次强调自己共事过的中国人都很好,但最后悻悻地来了一句,“也许这就是个例……谁知道呢,我希望这是个特例。”
中国女生没有陷入皮卡德的逻辑漏洞,进一步点明,“我作为一个中国人,明显感觉到了冒犯,虽然你提到了很多反面案例,但那是你唯一一处明确提到国籍的地方。我认为在(人工智能研究)领域之外保持研究者的良好声誉很重要,但在我们这一领域内,我们也需要提高对无意识偏见甚至是种族主义问题的意识。我希望,如果你将来再次展示这个幻灯片,你可以删除国籍备注,因为这对特定的群体来说不公平。”
中国女生话音未落,现场响起了掌声。手足无措的皮卡德立即感谢她并承诺会采纳其建议。
这一事件随即在国内外社交平台发酵。当天参会的中国研究人员记录下了皮卡德的幻灯片内容和同胞勇敢发声的一幕,希望引起行业关注,越来越多的国际学者也加入了谴责皮卡德和会议主办方的阵营。
谷歌旗下人工智能企业DeepMind首席科学家杰夫·迪恩当地时间13日表示:“我没有看那个演讲,但我看到的幻灯片内容似乎相当冒犯。这种(依据不足的)概括言论在NeurIPS和任何地方都不应该有立足之地。”
澳大利亚数据科学家、fast.ai联合创始人杰里米·霍华德(Jeremy Howard)认可迪恩的发声:“我同意,太恶心了,后续的回应更是雪上加霜。”
NeurIPS发布皮卡德演讲预告的评论区也被“真丢脸”的谴责刷屏。同时,有人质疑,这份主旨演讲幻灯片是如何通过主办方审核的。
根据NeurIPS官网行为准则,研究人员应该考虑模型的性能范围或数据集内容是否存在任何可疑偏见或限制,并检查上述内容,以确定是否生成编码、包含或加剧对某种性别、种族、性向或其他受保护的特征的偏见。
当地时间12月13日,NeurIPS迅速作出回应,在X平台发文称,涉事教授当天主旨演讲中所做的“文化概述”,包括对中国学者的概述“强化了内隐的偏见”,“这不是NeurIPS的立场……这是NeurIPS所不能容忍的,也不符合我们的会议行为准则。我们将直接与演讲人讨论这个问题。”
当地时间12月14日,涉事教授皮卡德在麻省理工学院媒体实验室网站发表道歉声明,避重就轻地自称“后悔”把国籍加进去了,“我明白这是没有必要的,与我所提出的观点无关,并且造成了我无意造成的‘消极联想’。我为此道歉,并对这一事件造成的苦恼感到非常抱歉。”
随着争议升温,越来越多的人表态。美国杜克大学电子与计算机工程系教陈怡然就此事发表了评论。
当地时间15日,NeurIPS再次发表声明,重申董事会和2024年年会组委会对行为准则的承诺,以及对促进一个包容、非歧视和相互尊重的社区的重视。
这一次,NeurIPS没有避开皮卡德错在何处,直接承认了皮卡德“毫无必地单独挑出中国学者,并延续有害的刻板印象……我们非常重视这个问题,不容忍任何基于出身国、民族或种族的歧视……我们对这一问题负有全部责任。”
NeurIPS表示,他们已直接向皮卡德表达了关切,并在主会场发表了口头声明。
NeurIPS随文转发了皮卡德对NeurIPS社区的单独道歉。
皮卡德这份道歉显然比上一份要诚恳。她表示,经过反思,认识到不该列出国籍,称自己当时没有意识到此举对有关国家的人意味着什么。她现在明白了此举造成的伤害,“我对造成的伤害毫无保留地道歉,我承担全部责任,我已经从幻灯片中删除了国籍,以免再犯错误……谢谢你们让我负起责任,让我有机会反省、道歉、成长。”
会上勇敢发言的中国女生也在社交平台回应了此事,称自己当天提问后收到了很多现场和线上不同肤色和国籍的朋友们的鼓励和感谢,“这样的氛围让我由最初的紧张不安变成了安心和骄傲。很开心大家认可我的发声!”
本文系观察者网独家稿件,未经授权,不得转载。
VIP课程推荐
APP专享直播
热门推荐
收起24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)