尽管人工智能已经愈发频繁地进入我们的日常生活，但它神秘的“面纱”似乎并未完全揭开，人们很难找到其“智能”的边界。
在11月19日举行的世界创新城市论坛的专题分论坛——“人工智能与全球治理国际圆桌会”上，很多行业内专家对人工智能的未来充满憧憬的同时保留着一些担忧。
“人工智能关系到人类发展，它不是一般的新技术，它是影响人类经济社会发展的重要的新的生产力，它会改变这个世界，还没有任何一项技术有人工智能这样的主动性和一定程度的决策能力。”中国新一代人工智能发展战略研究院执行院长龚克提出，人工智能可以帮助人们应对气候变化、自然灾害，以及新冠病毒这样的人类共同的敌人，但也有可能加剧现在发展的不平衡，以及对人类的尊严和隐私保护带来威胁。
“我们人类是否有足够的智慧来驾驭它？我们是否正处于一个创造人类无法控制或理解的技术巨霸的边缘？谁的价值观或者什么样的价值观将塑造第四次工业革命的方向？”耶鲁大学生物伦理学跨学科中心科技与伦理学科主任温德尔·瓦拉赫提出了一系列问题，也表达了很多担忧：
人工智能系统不知道自己在做什么。AlphaGo击败了顶尖围棋玩家但并不知道围棋是什么运动，面部识别系统可以将数字系统中的图像进行适配但并不知道人脸是什么。
机器学习的系统，尤其是基于神经网络架构的深度学习系统是缺乏透明度的。专业也无法理解系统如何从输入中得到输出或行动，甚至具有学习能力的人工智能系统也在自己改变自己。
人工智能没有常识性推理，不能理解符号背后的意义，没有道德和同理心，不能感受到痛苦和快乐，甚至也不会接受惩罚，因此是缺乏道德智能的。
……
如何让人工智能造福于人类而非加害于人类？
“通过道德、工程和监督，也就是治理，我们可以通过现在的行动塑造未来。”温德尔·瓦拉赫强调了对人工智能的治理，并且是全球治理，“如今面临的挑战太大了，任何一个只关注自身利益的人或国家都无法解决这样的挑战，我们需要各方的意见，只有当决策具有包容性，并考虑到各方的利益的时候，才是最好的决策。”
合作也是龚克不断强调的观点。“有效的人工智能治理必须是合作的治理。”龚克认为，今天已经不是一个像牛顿那样的全能科学家能回答所有科学问题的时代，而是一个各国科学家、各不同学科科学家合作回答这些问题的时代。而且，要让人工智能具有人类的价值观，首先要对基本的人类价值观达成共识，并通过有效技术手段将其植入人工智能系统中，而这项技术本身还有许多困难，需要很多技术合作。
与此同时，龚克还提出，人工智能的治理是一种促进型治理，而非遏制型治理，因为人工智能是先进的生产力，我们无法阻止先进生产力的发展，只能适应其发展要求，通过调整让生产关系有利于人工智能生产力的健康发展。同时，人工智能的治理应该是基于人权的可持续发展的治理。此外，因为人工智能有着某种主动性，可以具有某些决策能力，本身具有技术和社会紧密结合的双重属性，因此人工智能的治理应该技术治理和社会治理紧密结合，对人工智能制定的法律和标准要嵌入到人工智能的技术系统中。
（原标题《人工智能的未来走向何方？行业大咖为你打开视角》）
（作者：深圳特区报记者 宁若鸿)
APP专享直播
热门推荐
收起
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
