伦敦大学学院机器学习教授格雷顿：不确定性量化是人工智能最大的挑战之一|人工智能_新浪财经

格雷顿解释称，人工智能目前可以就某事做出预测，但往往无法准确衡量预测时的不确定性，因此它在预测时有较大概率会犯下错误。

“它（人工智能）可能会自信地犯错。”当地时间9日，在伦敦举办的中英人工智能协会（CBAIA）年度大会上，伦敦大学学院（UCL）机器学习教授阿瑟·格雷顿（Arthur Gretton）在接受第一财经记者采访时称，当前人工智能领域，尤其是在因果人工智能（Causal AI）领域，最大的挑战之一就是在于不确定性量化。

格雷顿解释称，人工智能目前可以就某事做出预测，比如某款药物的疗效，或者某项政策的效果，但人工智能往往无法准确衡量预测时的不确定性，因此它在预测时有较大概率会犯下错误。

“我认为，这是人工智能研究未来面临的最大挑战之一，也是我的研究小组正在探索的课题之一。”格雷顿教授说。

另一项挑战是统计保障（Statistical Guarantees）。格雷顿教授称，其团队另一项研究课题是，随着数据量的增加，模型会根据数据的哪些特征不断改进，“这同样是一个巨大的挑战。”

本次CBAIA年会以“用数据为人工智能加冕”（Crowning AI with Data）为主题，来自学术界和金融界的多位嘉宾围绕这一主题进行了分享。

医学和金融案例

会上，格雷顿教授分享了一个疾病治疗的案例：假设一种疾病有轻度和重度两种形式，医生根据疾病的严重程度来决定治疗方式，轻度的用药，重度的手术。根据观察，用药治疗的治愈率为85%，手术治疗的治愈率为72%。医院管理层看到相关数字，便认为用药治疗效果更好，且药物往往还比手术费用更低，因此决定所有患者都接受药物治疗。但是，这个决策忽视了治疗与疾病严重程度之间的关系，即轻度患者适合药物，重度患者需要手术。当所有患者都接受药物治疗时，治疗的效果会大大降低，因为重度患者本应接受手术。

这个案例对于研究和使用人工智能的教训在于，在分析数据时，如果没有充分考虑各个因素之间的关系（例如治疗方法与疾病严重程度之间的关系），就可能得出错误的结论。医院管理层的干预打乱了治疗和疾病严重度之间的联系，导致错误决策和低效的治疗方案。因此，必须仔细考虑不同变量、不同数据之间的关系，避免错误简化复杂情况。

大数据公司DBdolphin首席运营官Yangchun Chu则分享了人工智能在金融领域的数据处理和应用案例。他表示，典型的量子对冲基金或量子交易柜台需要处理海量数据，例如，交易指令、公司财务数据以及其他相关数据。通过这些数据，团队会开发多种功能或因子，并将其应用于各种模型，用于预测投资回报；再根据模型的预测结果，生成交易信号。若其模型表现优秀，能够准确预测回报，则将赚取丰厚利润。

人脑提供了一个很好的模板

本次年会举办场所位于伦敦大学学院盖茨比计算神经科学中心。据介绍，该中心成立于1998年，由图灵奖和诺奖双料得主、被称作“AI教父”的杰弗里·辛顿（Geoffrey Hinton）教授参与创立。中心专注于了解大脑计算的神经机制，通过结合神经科学、数学和机器学习等不同学科，探索神经回路如何处理信息、如何进行学习和决策，以及这些过程如何产生感知和行为。

在中心的会议室中，格雷顿教授告诉记者：“利用神经科学来真正理解机器学习的研究还不够成熟。我认为，要理解人类大脑，实在太难了。”

但他也认为，人类大脑为研究人员提供了一个很好的模板，因为它能够在非常少的能量消耗下，处理极为复杂的任务，“所以，某种程度上，（人类大脑）为我们设定了一个目标，值得我们努力去追求”。