“一个负责任的人工智能体系不只要有效率，还有公平和安全。”近日，清华大学人工智能治理研究院副院长梁正在北京智源大会“AI安全与产业治理”论坛上说。
梁正过去半年一直在关注数字劳工问题，从外卖骑手“困在”系统里这个案例他看到，算法背后指向的是一个综合性的社会问题，需要各方的参与才能达到一种平衡。
梁正认为，平台在开发、设计、部署相关算法的时候要把相关利益方的利益考虑到，包括对人的尊重，如何保护弱势群体。同时，还要区分哪些问题是算法本身的，哪些是由于算法的不当使用造成的，找到问责主体，区分解决。
安全问题也是论坛上专家们极为关注的。其中，虽然算法安全问题目前仍处于刚“兴起”阶段，但它的危害不容小觑。瑞莱智慧RealAI联合创始人刘荔园说，去年她看到行业里很多人脸识别的应用受到了攻击，相关黑产给用户造成了大规模损失。这些漏洞除了是由深度学习技术本身的缺陷导致，还有恶意攻击者对数据或样本进行“投毒”（通过在训练数据里加入伪装数据、恶意样本，进而导致训练的算法模型决策出现偏差），故意影响AI模型的攻击行为。
阿里安全资深算法专家何源则观察到，以电商场景为例，算法的漏洞可能导致非原创图片逃逸检测，还可能威胁到网站安全和商家权益。自动驾驶场景受到攻击的后果则更为严重。百度安全主任架构师包沉浮透露，模型鲁棒性（模型面对一定变化时的表现是否稳定）的欠缺将导致自动驾驶系统在对抗环境或光线、天气条件多变的复杂环境中发生错误识别。这甚至会危害到生命安全。
解决人工智能的安全可控问题变得越来越迫切。论坛期间，清华大学联合阿里安全、瑞莱智慧发布了首个全面的AI攻防对抗基准平台，该平台可实现对AI防御和攻击算法的自动化评估。
当越来越多的算法深度介入人们的生活中，必然带来相关的社会问题。但要让人工智能更加安全可控，仅有技术支撑还不够，这背后还需要行业标准、法律规范等配套的基础设施。（文/AI财经社 唐煜 编/赵艳秋）
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
