直击乌镇：人工智能解决三个了不起的问题 统治人类言之过早
在人工智能技术高歌猛进的同时，物理世界和个人生活的界线日渐模糊，每一次新技术的革新，都引发人类对自我和世界认知的恐慌，也延伸出复杂的法律、伦理和安全问题。
在今年的乌镇世界互联网大会上，人工智能究竟是否会威胁人类?其所带来的结构性失业，是否会重构人与机器之间的关系?相应的规范和制度设计是否存在盲区?成为企业家和科学家共同关注的话题。
警惕技术不谨慎带来的风险
《纽约客》的一期封面引发人们的讨论，画面中机器人已经成为了地球的主角，人类只能蹲在地上接受机器人的施舍。“每一个新技术都会引发大家的担心，但以往更多是人的体力的延伸，而这次是脑力的延伸，所以担忧会更严重。”在乌镇世界互联网大会上，微软全球执行副总裁沈向洋告诉第一财经。
沈向洋坦言这段时间对于人工智能伦理的问题思考了很多，他认为人工智能更大的威胁在于对技术的不谨慎而引发的问题，例如人工智能偏见问题，以搜索为例，在谷歌上搜索“CEO”，搜索结果中没有一个是女性，也没有一个是亚洲人，这是一种潜在的偏见。
此前一家名为Fama的创业公司通过自动分析求职者的身份，通过网络搜索其性格以及世界观。可能企业雇用了一个求职简历及面试都很优秀的人，但结果发现这个人厌女或者是一个种族主义者。“一个AI工具通过数据积累和算法模型可以通过照片判断一个人的性取向，系统准确率高达91%，这其中所带来的性取向偏见是不能低估的。”沈向洋举例说道。
此外从技术层面，也需要警惕人工智能技术科研结果不可解释和安全性问题。“人工智能需要透明。”沈向洋强调，尤其在医疗领域，一些解决方案看起来可行却无法解释。
德国颁布了一部关于自动驾驶车辆的法律，规定当车辆出现问题不可避免要产生碰撞，在人与动物之间，选择撞向动物;在动物和没有生命的物体之间，选择后者。那么问题来了，如果是老人和小孩呢，如何抉择?在沈向洋看来这是一个值得思考的问题。
今天的人工智能还基本局限于智商方面，完成指定任务，微软在探索人工智能情商方面的核心是双向交流，即对话式人工智能。在达成情商和情感交流之外，微软还在尝试赋予微软小冰创造力。不过他坦言在做微软小冰的过程中也是战战兢兢，尤其是做情感人工智能机器人，要怀有敬畏之心，要有责任意识。
例如用户和微软小冰进行长时间的对话，可能会发生感情上的联系，很多人宁可跟机器说话，也不愿意和人交流，会产生一种依赖。如果一个用户跟微软小冰聊到深夜，不能节制自己，小冰要不要继续陪他聊下去呢?这是沈向洋做微软小冰过程中一直纠结的问题。
为了防止人工智能潜在的伦理问题，微软在内部成立了人工智能伦理委员会，日常会议要求每位商业部门的领导都必须出席参加。沈向洋认为人工智能产品保证安全必须要做到三步，首先要有原则，企业要清楚自己做什么，要帮助人类，而非做人类的主人。其二，要从人工智能设计上做到把控。第三，产品发布之前一定要经过多道程序的检测。
AI要解决三个了不起的问题
对于当下频频提及的人工智能技术负面影响，苹果CEO库克表示并不担心机器会像人一样思考，而更担忧人会像机器一样思考。因此必须为技术注入人性，赋予技术应有的价值。阿里巴巴集团董事局主席马云也提及“人类对自己大脑的认识，不到10%，10%创造出来的机器，不可能超越人类”。
对于企业家而言，当下如何用人工智能技术解决行业实际问题，真正解决人类所存在的问题更为迫切。“人工智能要真正解决三个了不起的问题，儿童自闭症、中年忧郁症和老年痴呆症，在感知世界的基础上，进一步去认知世界。”
今日头条创始人、CEO张一鸣在采访中提及同样的问题，他认为AI工程和航天工程、基因工程是人类文明发展的三大跨越式机遇。这三大工程，同时也会是冲击人类伦理和人类生存的三大挑战。
张一鸣认为AI正处在从实验室走向大规模商业化的早期阶段，很多人对它所带来的经济、法律、安全、伦理等问题开始担忧。比如，AI可能会导致大规模失业;可能导致经济发展不平衡;可能导致贫富差距加大;可能完全颠覆包括精算、保险、金融等传统行业;可能让很多城市修改现行的交通法规。
“幸运的是，很多的风险才刚刚露出苗头，在这个和技术赛跑的时间窗口，应该从最早期开始将技术的研发和社会影响的研究同时推进。”张一鸣说。
当AI让人变得更聪明、更富创造性的同时，人类利益原则要求考虑如何确保人工智能的发展，不会影响到人类的切身权益，为了解决过错问题，避免公众困惑和对未知的恐慌，AI系统必须在程序层面具有可责性，提升透明度以及规范性。
进入【新浪财经股吧】讨论
