沈向洋：AI是个黑盒子 需构建更加负责任的系统

　　新浪科技讯 4月28日晚间消息，微软原全球执行副总裁、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋今日表示，AI是个黑盒子，人们在使用时需要更加地谨慎，也需要构建更加负责任的系统。

　　近年来，人工智能取得的成就和进步已经超越了五到十年前人类的想象。按照基准日期的设定，人工智能在演讲、视觉和自然语言等方面的功能，已经逐渐接近人类水平，在语音翻译，智能交互等领域，人们已经看到了越来越多AI赋能生活场景的真实案例。

　　AI，确实已经在做一些独立的决定了，但是，这些决定却并不是我们都完全能够知道的。在沈向洋看来，虽然得益于深度学习算法的突破，最近一次人工智能技术及其产业化确实取得了重大的突破性发展，但由于深度学习系统的复杂性与黑盒化，这导致了人工智能系统内部的发展，存在着越来越多并不公开透明的地方。

　　据沈向洋介绍，在美国的部分州级区域，当地政府虽然已实现了利用AI系统去审判罪犯罪行的业务，但由于AI系统黑盒化的原因，官员们对于自己正在使用的AI系统理解并不深刻，在该系统的公正性受到外界质疑并引来微软技术团队的反向推理验证之后，该系统最终被证实确实存在种族歧视、性别偏见等缺陷，但此前使用该系统的人员对此并不知晓。

　　“人们在使用AI的时候，需要更加地谨慎。”沈向洋建议人们在使用AI系统的时候，需要更加审慎。由于许多构建人工智能技术和应用的AI产品人员并没有充分考虑公平和透明等社会性问题，而目前的AI系统更多是基于历史数据的学习分析，于是自然也会存在一些特定的认知偏差与理解误区。

　　“在从弱人工智能走向强人工智能的过程中，或许我们更需要一个负责的人工智能。”沈向洋表示。而针对于如何构建一个负责任的人工智能系统，其介绍了微软研究院提出的人工智能系统发展“六大原则”：公平、可靠和安全、隐私和保障、包容、透明、负责。

　　在沈向洋看来，人工智能发展的时候需要像其他工程技术领域一样，需要有一个预设的标准和规约，除此之外，还需要产业界、学术界和政府等层面的人共同参与遵守，这样AI才能更好地服务社会。（文猛）