旷视推出国内首份人工智能应用准则：AI不应超越人的自主性

旷视称，这份准则旨在从人工智能企业自身的角度，规范、引导人工智能技术正确运用和健康发展，并确保其安全可控可靠，促进企业及行业生态可持续发展。

据澎湃新闻（www.thepaper.cn)了解，这也是国内首家人脸识别企业从技术安全和伦理角度发布应用准则。国际上，谷歌、微软等科技公司也曾从企业自身角度推出过关于人工智能技术使用的安全和伦理道德规范。强调人在AI使用过程中的自主性，注重隐私安全，以及防止AI带来偏见等成为企业共同关注的准则。

依靠以人脸识别为核心的技术和商业布局，2011年才成立的旷视科技仅用6年时间，跻身中国人工智能领域的“独角兽”公司，最早以“Face++”的名字为外界熟知。人脸识别技术是基于计算机图像处理技术的生物识别手段，在金融、商业、安防等领域有诸多应用。

六大维度，善用科技是关键

据了解，旷视曾先后参与19项人工智能相关的国家及行业标准制定，结合自身经验与行业伙伴共谋技术发展。

旷视称，希望《准则》能够对人工智能行业起到示范作用，呼唤起各界对善用技术的重视，倡导行业提早建立可持续发展的生态。

《准则》全文共六条，：

1.正当性：技术应该是一种正面的力量。我们致力于成为一个负责任的企业公民，遵守适用的法律和普遍接受的道德原则，增进社会福祉。

2.人的监督：人工智能不应该超越人的自主性。人类应该能够监督人工智能技术的发展以及人工智能系统的决策，并在必要时进行干预。

3.技术可靠性和安全性：人工智能解决方案应该能够做出准确有效的决策，同时对外部攻击具有足够的安全性和防御力。人工智能解决方案应该进行广泛的测试，谨慎使用并严格监控。 4.公平和多样性：人工智能技术的开发人员应尽量减少人工智能解决方案的系统性偏差，这种系统性偏差可能来自于用于开发解决方案的数据和算法中固有的偏差。无论年龄，性别，种族或其他特征如何，所有人都应该可以使用人工智能解决方案。 5.问责和及时修正：人工智能解决方案应该是可审核、可追责的。人工智能解决方案的错误、缺陷、偏见或其他负面影响，一经发现，应立即予以承认并积极地加以处理。6. 数据安全与隐私保护：人工智能解决方案的开发及使用过程中，需严格保护用户的个人隐私、保障数据安全。

谷歌的“谷11条”和微软6大准则

国内方面，从企业自身层面推出人工智能应用准则的企业并不多见。但在国际上，硅谷的一些科技公司在人工智能道德规范上做出尝试，例如：谷歌和微软。

去年，谷歌与美国国防部合作的Maven项目被媒体曝光后，引发了公司内部员工的辞职潮。多位员工认为这违背了谷歌不作恶的准则，从而选择辞职。事件发酵后，谷歌随即做出反应，由谷歌CEO颂达尔·皮柴 (Sundar Pichai) 公布了公司在使用人工智能的11条准则。其中包括谷歌进行人工智能研发的7个原则，以及谷歌人工智能绝不会进入的4种应用场景，被外界称为人工智能道德规范的“谷11条”。

谷歌人工智能原则中的第一条就是人工智能产品一要对社会有益，第二条是避免制造或加强不公平的偏见。此外，原则还强调了人的作用，数据隐私安全等。

与7条原则相比，谷歌提到绝不会进入的4个应用场景更有意义。谷歌称，公司不会在以下应用领域设计或部署AI：1.造成或可能造成整体危害的技术。如果存在物质危害的风险，我们将只在我们相信收益大大超过风险的情况下进行，并将纳入适当的安全约束；2.其主要目的或实施导致或直接促进人身伤害的武器或其他技术；3.收集或使用信息进行监视的技术违反国际公认的规范；4.这些技术的目的违反了被广泛接受的国际法和人权原则。

除了谷歌外，微软也曾对如何使用人工智能提出过自己的准则。2016年，微软CEO纳德拉就曾效仿科幻作家阿西莫夫的机器人三定律，撰文提出了人工智能安全6大准则。分别是：AI必须以辅助人类为设计准则；透明性准则，人类必须对AI的工作原理，以及它是怎样看待这个世界的等方面有非常清楚的认识；AI必须在追求效率最大化的同时，不损害人类的尊严，它应当尊重人类文化的多样性；隐私性原则，纳德拉呼吁以精密的技术来保护个人和群体信息；算法可靠准则，这样一来，人类就可以解除AI带来的意料之外的伤害；防偏见准则。应该通过研究确保AI不会存在偏见，歧视特定群体。