AI正在成为打击网络欺诈行为的核心手段 ——访肯睿Cloudera大中华区副总裁刘汨春|AI_新浪财经

本报记者秦枭北京报道

随着ChatGPT、Sora等生成式AI技术的不断发展，一些网络犯罪分子正在利用这些技术来提高他们的攻击能力。也为网络安全防御提出了新的挑战。

肯睿Cloudera大中华区副总裁刘汨春对《中国经营报》记者表示，亚洲快速的数字化转型催生了大量在线服务，为消费者提供了更多便利，比如一些国家允许公民使用本国数字身份证注册银行服务、通过金融整合平台集中管理投资组合等。但这种互联性为网络犯罪分子提供了大量机会，一旦获得某项服务的访问权限，他们便能窃取大量个人数据。另外，日益普及的、易于获取的生成式AI在线工具也使网络欺诈行为（例如网络钓鱼）对于普通用户更具迷惑性。

肯睿Cloudera大中华区副总裁刘汨春

预防欺诈是一场“猫鼠游戏”

在数字化的浪潮中，企业创新及数字化转型的步伐正在持续加速。与此同时，网络犯罪分子攻击的手段也渐趋复杂，破坏着数字经济的基础。其中，勒索软件攻击的影响达到了前所未有的规模，威胁着全球数以万计的企业，其中一些攻击者甚至以挟持关键基础设施为目的。

在过去的一年中，全球网络遭受了勒索软件攻击、重大供应链攻击以及有组织的黑客行动的轮番轰炸，攻击目标遍及医疗、金融、制造业、电信及交通等重点行业。数据泄露的规模、漏洞存在的年限、影响设备的数量、破坏后果呈扩大趋势。

不仅如此，随着生成式AI技术的不断发展，网络犯罪分子正在利用这些技术来提高他们的攻击能力。人工智能面临的安全问题更加复杂，包括网络攻击、漏洞攻击、数据攻击，以及内容安全问题等。特别是当一大批人工智能研究领域的高科技公司将人工智能技术平民化后，新技术带来的隐患也在引起越来越多的关注。

刘汨春表示，近期报告显示，金融业已成为亚洲受攻击最频繁的行业。而且，这些攻击并非仅限于企业层面。2023年上半年，新加坡的诈骗案激增64.5%，主要原因是电商和线上渠道的犯罪活动增多。他分析道，对于许多金融机构和企业来说，在精准识别和打击借助AI实施的欺诈行为上遇到的困难和所需资源正日益增加。为了识别欺诈行为，调查人员不得不投入更多资源和时间，深入研究众多犯罪历史记录和实时行为特征。而且每当一种欺诈手段得到有效遏制，犯罪分子就会迅速转换到另一种攻击手法。

“预防欺诈是一场‘猫鼠游戏’。每当出现一个新的流行数字渠道，金融犯罪分子就会现身并找到实施欺诈的新途径。”刘汨春坦言。

丰富AI和ML（机器学习）是关键

尽管人工智能的发展丰富了网络攻击的手段，但同时也可以赋能网络安全，推动攻防技术朝着主动化、自动化和智能化的方向不断演进。借助高算力和机器学习特性，人工智能可以深入分析海量数据，并自动进行研判，进而在网络安全领域的预测、防范、检测和响应等环节实现自动化和智能化的提升。这不仅有效提高了防护速度和准确率，还显著降低了人为失误的发生和管理成本。

刘汨春表示，毋庸置疑的是，借助AI和机器学习（ML）手段可以帮助企业更加智能和实时地发现欺诈迹象和模式。AI还能帮助调查人员自动进行行为分析、推理和预判，从而降低成本并提高工作效率。如果这些技术能够在全企业范围内的各个业务场景得到充分应用，企业的防欺诈能力将得到显著提升。

“不过，如果未使用高质量的数据训练AI和ML工具，调查人员最终得到的可能是AI幻觉和误报，这不仅浪费时间，还会削弱企业领导人对此类解决方案的信任。”刘汨春提醒道。

为了有效打击欺诈行为，企业必须制定综合全面的战略和政策使员工能够有效利用新工具。

在刘汨春看来，企业应建立一体化数据湖仓，整合传统数仓与算法分析领域的数据管理。AI模型需基于相关且完整的数据进行训练。企业应使用开放标准和互通的数据格式建立数据管道，自由采集、整合、处理数据，并移至训练数据集。

同时，刘汨春表示，企业要优化数据管理实践，保证AI使用可信干净的数据，而且AI必须实时使用数据来预测威胁。除此之外，企业要建设统一的模型管理平台，更好地协调反欺诈行动。

“在管理和治理跨系统的大量数据流，并训练和优化多个模型时，相关业务线共享策略和经验；在平台侧如何提高算力的利用率、降低整体成本。在以上这几方面的企业仍面临很大挑战。”刘汨春建议，“企业应使用数据管理平台，让利益相关方能够简化、集中并改进指挥与控制，同时还应该使用让利益相关者能够预见和管理合规风险的平台。”

（编辑：张靖超审核：李正豪校对：颜京宁）