科创观察员|边界既可能是壁垒也可能是中介，科技伦理治理如何跨越边界？

当一位计算机学家和一位哲学家合作，会碰撞出怎样的火花？日前，以“跨越边界的科技伦理”为主题的第二届中国科技伦理高峰论坛在复旦大学举行。科技伦理治理如何跨越边界？解放日报·上观新闻记者专访了中国科学院院士、北京大学教授梅宏和中国科协-复旦大学科技伦理与人类未来研究院院长王国豫，他们合作开展了《大数据的伦理问题与社会治理》研究。

【“雷声隆隆，但雨点还不大”】

今年7月，百度研发的自动驾驶汽车“萝卜快跑”引发关注，它在武汉与一名闯红灯的行人发生轻微碰撞。无独有偶。今年6月，谷歌自动驾驶汽车在施工区误入反向车道并逆行两分钟。当地警方表示“无法向计算机发出传票”。当自动驾驶汽车发生交通事故时，由于研发、生产、销售、使用等环节涉及多个主体，难以确认事故原因和责任归属。自动驾驶决策逻辑的“黑箱性”增加了责任认定的难度。此外，当面临突发状况时，自动驾驶汽车在保护乘客还是行人安全的选择中，也存在道德困境。不仅仅是有可能陷入道德困境，人工智能还会“说谎”。去年3月，在对阿维安卡航空公司的起诉中，美国两位律师提交的法律文书由ChatGPT撰写，引用了多个并不存在的判决案例。对此，美国纽约联邦法官判决：处以罚款5000美元。对此，梅宏认为，我们需对人工智能的应用始终保持审慎，将其作为辅助工具而不是决策依据。

人工智能应用是否正在开启繁荣期？梅宏有着自己的冷思考：“可以说是雷声隆隆，但雨点还不大，还需要一段时期的探索、磨合和积累。”首先要探索行业的真需求，只有在完成数字化、网络化后，才可能实现智能化。其次要不断磨合，提升可信性，现有技术路径下，至少在安全攸关领域人工智能还难以应用。第三要加强数据积累，获取全数据，关键是跨越足够时间尺度的数据。在梅宏看来，当前人工智能热潮存在的问题是泡沫太大，需要一个冷静期；以偏概全，对成功个案不顾前提地放大、泛化；用户期望过高，提出难以实现的需求。数字技术领域是否应该存在研究禁区？梅宏认为，在基础研究阶段，一般不需限制，但涉及对人的认知能力调控、违背人的自由意志的研究应列为禁区。在技术和产品应用阶段，对于大规模远程监控、自主决策的社会评价体系、操纵个人意识和行为并造成身心伤害的技术，以及以超越或替代人的认知能力为目标的人工智能技术研发等，应列为禁区。“在技术领域，我们需要严格限制以替代人的认知能力为目标的技术研发，尤其要严格规范植入式脑机接口类的技术研发。”梅宏说。当下大模型实现了前所未有的突破，很多人都在问，大模型能走向“通用”人工智能吗？“就基本原理而言，大模型还没有跳出‘概率统计’这个框架。”梅宏说，大模型可被视为已有“语料”压缩而成的“知识”库，生成结果的“语义”正确性高度依赖于数据的空间广度、时间深度以及分布密度，更高度依赖于数据的质量。大模型训练以过度的资源消耗为代价，难以永续，必有尽头。不应该走“拼”数据和计算资源的“蛮力”路径，否则极易发展出在覆盖面和复杂度上人们难以掌控的“巨兽”。梅宏认为，大模型的“不可解释性”不符合人类发现知识、发明技术的基本逻辑，希望“知其然并知其所以然”是人的天性，更应该是科学家遵循的基本原则。“我有一个大胆预测，也可以说是我个人的期待吧，基础大语言模型应该开源，成为全世界的共同财富，因为它压缩了人类已有的可公开访问的绝大多数知识。让全世界共同受益，共同维护，避免无谓的浪费。”梅宏说，就像诞生于美国军方的互联网，如果它仅仅停留在美国军方，没有走向民用，没有完全交给一个民间机构，互联网难有今天的繁荣！

【边界也是中介】

实际上早在20世纪中叶，在核技术、生物技术、基因工程等领域就已出现科技伦理问题。进入21世纪，前沿科技技术特别是这一轮人工智能给人们带来了很大的冲击，更加引发了对科技伦理的关注。科技伦理关注科技对人、社会和自然的影响，强调对人的生命和基本权益的尊重、关注社会的公平正义，以及在科技创新的同时如何保证人类社会的可持续发展。“人工智能教父”、2024年诺贝尔物理学奖得主杰弗里·辛顿，在诺奖官方记者会上流露了对人工智能发展的担忧。尽管他也经常使用ChatGPT，并相信人工智能的影响力将媲美工业革命，但他同时认为必须担心人工智能可能带来的不良后果，希望“不会失控”。王国豫介绍，人工智能属于“两用型”技术，即一方面造福人类，但因为它的力量过大，渗透到人类生活的方方面面，也可能带来负面影响。比如，人工智能技术应用所带来的隐私侵犯、虚假信息、责任鸿沟等问题；脑机接口在治疗脑神经疾病方面有很大的前景，但侵入式脑机接口涉及人的神经数据和其他生物数据，尤其是在人工智能技术支持下，可以据此推断出个人的认知、情感和意动状态，进而有可能对个人的身份和行为进行污名化和歧视，增加了对人的行为的操纵甚至控制的风险。

这就促发我们思考，数据采集和对大脑干预的边界在哪里？ “边界既可以是壁垒，也可以是中介。每一次科技革命都伴随着学科边界的突破，甚至可以说恰恰是这些学科边界的突破、新的范式的引进推动了科技革命。边界既是边缘，也可能是中心，两个学科或多个学科交叉的中心地带，也往往是最有活力最有生长力的领域。我们看到2020年的诺贝尔化学奖授予了生物学家，而长期从事深度学习的计算机科学家辛顿获得了2024年的诺贝尔物理学奖”王国豫说。每一门学科有自己的话语体系，伦理也有自己的话语体系，怎么找到一个共同的话语体系非常有挑战。“一个学科一旦成熟，它就相对封闭了，只有打破这个学科的界限，联合其他学科它才能够生长。要有效解决科技创新中蕴含的伦理难题，单一学科的视角已无法充分应对，唯有通过不同学科的深度合作才能找到新的解决问题的路径。”王国豫说，这也是为何本届中国科技伦理高峰论坛由中国科技伦理学会（筹）联合中国伦理学会、中国计算机学会、中国自然辩证法研究会等13家国家一级学会共同主办，正是希望找到大家都可以接受的边界和规范。

【跨越边界，消弭壁垒】

“有时候我也不同意梅老师的观点，比如说梅老师认为如果脑机接口涉及对人的认知能力调控就应列为禁区，但我认为这个边界是很难划分的，治疗自闭症就涉及对人的认知能力的调控，而这恰恰是我们进行治疗的目的，是我们所欲求的改变，不应该列为禁区。”但梅老师并不在意我的这种“冒犯”，他认为学术讨论就应该鼓励争论。谈及与梅宏的合作，王国豫提到了“包容”。

作为计算机科学家和哲学学者，他们都在努力“跨越边界”。

担任中国计算机学会第12届理事会理事长期间，梅宏推动成立了中国计算机学会职业伦理与学术道德委员会，并发布了《中国计算机学会职业伦理与行为守则》。

王国豫也一直在尝试“突破边界”。2023年世界人工智能大会上，由王国豫牵头率领的复旦大学和上海人工智能实验室团队，联合上海交通大学人工智能研究院王延峰、复旦大学人类表型组研究院的田梅教授团队，经过三年的努力撰写的《人工智能医学影像伦理手册》对外发布。就在不久前，王国豫在世卫组织举办的关于人工智能医学伦理规范建议的论证会上介绍了相关工作，得到了与会专家的高度认可。

采访中，两位专家多次提到“寻求共识”。推动科技向善，跨越边界、消弭壁垒，亟不可待。

原标题：科创观察员|边界既可能是壁垒也可能是中介，科技伦理治理如何跨越边界？

海量资讯、精准解读，尽在新浪财经APP