陈曙东：警惕数据共享带来的负面影响 科技伦理成为金融监管研究的重要课题

　　2022年12月13日-14日，由中关村金融科技产业发展联盟、中关村互联网金融研究院、中国互联网金融三十人论坛主办的“2023第十届中关村金融科技论坛年会暨2022‘光大杯’中关村番钛客金融科技国际创新大赛颁奖典礼”在“云端”举办。论坛年会为期两天，包含主题演讲、圆桌对话，发布优秀案例、金融科技与数字普惠报告、《web3.0》图书、中关村金融科技30强、金融科技竞争力报告等多个重要板块。50余位行业专家齐聚一堂，共谋金融科技领域的前沿热点，共克时艰、共话未来！

　　中科院微电子研究所研究员，中国科学院大学教授、博导陈曙东参加了12月14日金融科技伦理&治理——ESG可持续发展专题论坛并发表题为“智能金融向善，科技伦理先行”的演讲。她指出，随着日新月异的技术创新，我们要警惕数据共享带来的负面影响，科技伦理成为金融监管研究的重要课题。由于算法思维的固有缺陷，算法设计过程中数据和技术漏洞以及算法“黑箱”导致的算法歧视，大数据“杀熟”问题，我们要树立“负责任金融”的理念，对金融科技伦理建设实施闭环管理，通过技术创新和法律法规手段规范化的使用数据，进行算法歧视的治理。在日渐丰富的金融数据共享和数据使用的场景当中，实现科技向善。

　　发言内容 （以下内容根据现场速记整理）

　　一、智能金融：警惕数据共享带来的负面影响

　　（一）智能金融的发展情况

　　我国数字经济保持较快发展势头，人工智能技术取得新进展，智能金融推动数字经济和金融的发展作用也更加凸显。金融发展从数字化向智能化的升级步伐加快。在人行发布的《金融科技发展规划（2022-2025年）》中，就如何加快金融机构数字化转型，提出了具体的要求，包括充分释放数据的要素潜能，运用联合建模、图计算等技术手段，建立面向用户场景的大数据知识图谱和综合分析能力；健全自动化风险控制机制，利用大数据、人工智能、关系图谱等技术实现风控全流程智能化，推动风控从人防向技防、智防的转变；加强组织统筹，形成监管、金融机构、科技企业、社会团体等紧密配合、协同高效的工作格局；注重试点示范，探索数字化转型最优路径，形成金融科技模范机构，发挥其示范和带动作用；智慧为民，推进人工智能技术在金融领域的深化应用，实现金融服务全生命周期智能化；公平普惠，合理的运用金融科技手段，丰富市场的层次，优化产品供给服务，扩大服务触达范围。

　　智能技术对金融业务创新起到了推动作用，可表现在多个方面，以下是三个示例。

　　1、智能风控

　　基于停业风险预测的贷前业务策略，利用企业资质、失信等基本信息，关联招聘、企业项目等外部的多元数据，研发停业风险模型，可以为科技扶持资金的贷前评估，绿色金融等场景提供技术支撑。该模型曾为43.7亿规模的科技型中小企业技术创新基金，减少了2.3亿元的损失。

　　2、反洗钱

　　人工智能和大数据技术给金融机构的反洗钱工作带来了革命性的变化，高效的机器学习可以刻画出客户行为，再辅以知识图谱技术，金融机构可以对客户身份识别有清晰的判断，通过实时分析用户的交易行为和资产状态，有效的识别交易中的行为和关联异常，甄别不法分子洗钱和其他的违规行为，实现主动报警，提醒审计专家对于高危人群的关注和防范。智能化技术的应用，也可以降低可疑案宗的误伤，降低人工调查的成本，并且不受数据的量级、维度这些因素的制约。

　　3、交易反欺诈

　　通过实时的分析刷卡交易中的行为和关联异常，使用机器学习方法和图分析，融合用户基本信息、历史和当前的交易数据，计算当前交易和用户可信交易的偏离度，能够检测出可疑的盗卡盗刷的交易。使用机器学习的模型，可以帮助金融机构提升可疑洗钱账户监管的准确性。如再辅以每周的定时跑批，能够生成账户风险评级的报告，银行可以进行风险管控和人行的报备。利用图计算技术，可以在计算资源受限的环境当中，实现在海量数据当中挖掘分析复杂的关联关系，执行例如资金流向穿透，风险传导和产业链分析等等计算任务。

　　（二）数据共享的负面影响

　　上述智能金融应用案例都是在各类数据的共享基础之上实现的，随之而来的是数据安全的风险，数据滥用的风险，法律合规风险，围绕数据的泄露、滥用违规交易等风险事件时有发生，严重侵害了消费者的隐私，对市场也产生了负面冲击。针对于特定消费群体的歧视性服务，运用人工智能过度逐利，特别是对低收入人群进行过度的负债诱惑，导致风险发生。这就是大家所熟知的金融借贷平台歧视，大数据杀熟。

　　算法歧视是在大数据的背景下依靠机器计算的自动决策系统，在对数据主体作出决策分析时，算法和数据本身不具有中立性或者隐含的错误，通过人为操作等等原因，对数据的主体进行差别对待，造成歧视性的后果。其成因主要有以下三种。

　　首先是算法思维的固有缺陷。算法设计者存在着主观歧视的思想，由于掌握了大量的信息，并且占据了信息的优势，所以就能够轻易的对用户进行区别的对待。算法的逻辑也过于绝对，算法是依据人类所设定的固定逻辑去解决问题的，这种固定的逻辑通常只能描述普通适用的经验事实，而忽略现实中的小概率事件，这就容易导致经验上的相关性被算法夸大成为必然存在的因果关系，最终导致对少数群体的算法歧视。

　　另外算法归类简化思想，为了快捷的运用算法去解决问题，算法设计者通常会先对对象进行分类简化，个体依据共性特征进行分类，异质性的特征往往被忽略。如果个体的数量非常庞大时，个体的异质性无法被充分的考虑，这也是导致少数个体被算法歧视的原因之一。

　　其次是算法设计过程中存在数据和技术的漏洞。算法的选取数样本不均匀，如果数据的来源是集中于部分的群体，那么算法仅能捕捉到被采样群体的特征，输出的信息也是仅适用于被采样的群体，而未被采样的群体就有可能成为被歧视的对象。另外算法学习的信息甄别能力较低。如果算法在学习过程当中，存储了具有歧视性的信息，就极大的可能会在其他的交互场景当中输出带有歧视性的信息。

　　最后算法黑箱等信息不对称性的存在，也是导致歧视现象隐藏的更深而不易被察觉的原因，这都给算法的歧视治理问题带来了新的挑战。

　　（三）树立“负责任金融”理念

　　因此，国家的监管部门要求创新主体树立监督智能金融，恪守创新，恪守负责任金融的理念。及时的跟进新技术新产品的发展，发现对数据安全的新挑战，并采取对应的措施。

　　2022年10月9日，人行发布了金融科技伦理指引标准，要求有效隔离科技风险和金融风险。11月，银保监会坚持金融业务必须持牌经营的原则，将所有的金融活动纳入到金融监管。国家也出台了一系列的数据安全和个人信息的保护的指导意见和法律法规，来保障数据的应用和数据的安全。

　　二、科技伦理：成为金融监管研究的重要课题

　　金融科技催生了丰富的新金融的产品和服务，但是同时也带来了更复杂的伦理问题。在这种背景下，科技伦理研究就成为金融监管的重要课题。

　　（一）智能金融科技伦理闭环管理

　　智能金融科技伦理研究应该实现闭环管理。因为科技伦理是金融科技体系设计的一部分，不能事后打补丁，应该像监管一样，由事后的监管向事前和事中的监管去转变。闭环管理覆盖了数据准入、用户权益保护、算法治理、数据治理、多监管业务场景的应用和应用协同处理能力，以此来有效的解决信息不对称的问题，消除信息的壁垒，提供穿透式监管功能来提升金融监管的效率。

　　（二）数据使用规范化

　　从金融机构内部来看，金融数据量大，模型多样，缺乏统一的数据治理平台。而外部来看，金融的活动往往跨多个行业，并且存在不同性质金融活动的交融和嵌套，只有将数据有效的打通，才能够有效的开展风险的管控。而对监管机构而言，数据涉及多种隐私，数据过度的提取可能会侵害消费者的隐私，因此需要用户对数据的处置权要进行保护，通过将数据资产分类、分级管理，智能的识别敏感数据，实现多类机构间的风险识别和预警；以及可信数据检核功能在机构内部前置，促进机构自驱动式提升数据质量，进而保护用户的数据。

　　（三）治理“算法歧视”

　　算法歧视问题严重损害了用户的基本权益，迫切需要从技术和立法的角度展开来探讨算法歧视的治理途径。首先技术创新方面，应该提升我国算法的核心竞争力，尽可能的保证在各类群体中数据充分性和均匀性的采集，避免由于样本缺失而造成数据算法歧视。另外，由于人工智能目前可解释性不完善导致的算法黑箱，建议将认知图谱引入到深度学习模型当中，来应对深度学习网络的黑盒问题，通过知识图谱多模态的解释能力，提供更完备、更有深度、更容易让人类理解的解释。其次，完善法律法规制度，加强道德伦理监督。通过法律手段对IT行业进行约束，是治理算法歧视问题最有效的手段。建议针对不同的主体，法律详细规定其行为规范，明确应该承担的责任和义务，加强算法设计者本身的职业道德的建设，来消除主观歧视思想，用户自身也应该提升个人的信息保护意识和维权意识。

　　三、结语

　　随着日新月异的技术创新，我们要警惕数据共享带来的负面影响，科技伦理成为金融监管研究的重要课题。应对复杂多变的伦理，我们要树立“负责任金融”的理念，对金融科技伦理建设实施闭环管理，规范化的使用数据，进行算法歧视的治理。在日渐丰富的金融数据共享和数据使用的场景当中，实现科技向善。

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

海量资讯、精准解读，尽在新浪财经APP

责任编辑：邓健