研究报告:警惕人工智能滥用安全风险上升

研究报告:警惕人工智能滥用安全风险上升
2025年09月24日 08:02 群众新闻网

转自:新华社

国家计算机病毒应急处理中心、三六零科技集团有限公司等联合发布的《网络空间安全态势分析报告(2025)》显示,2024年6月至2025年7月,国内外共发生人工智能相关安全事件59起。未来,需要警惕深度伪造欺诈、滥用人工智能实施网络攻击、人工智能侵权等人工智能滥用风险。

这是记者从23日召开的第三届网络空间安全(天津)论坛上获悉的。

国家计算机病毒应急处理中心高级工程师杜振华介绍,2025年度人工智能技术实现显著突破。大模型训练成本不断降低,人工智能应用也从生成式AI向智能体化AI快速演进。技术的“双刃剑”效应也愈发明显,生成式AI滥用引发深度伪造“实时化+场景化”升级,视频换脸诈骗识别难度提高。

人工智能安全风险主要分为网络安全风险、数据安全风险和模型安全风险。据不完全统计,相较于2024年度,2025年度发生人工智能相关的网络与数据安全事件与风险明显增加,其中网络攻击事件占29%、数据安全事件占26%、安全隐患事件占25%。

国家计算机病毒应急处理中心提供的数据。受访者供图国家计算机病毒应急处理中心提供的数据。受访者供图

网络空间安全(天津)论坛已举办两届。本届论坛聚焦信创产业加速发展面临的安全风险挑战、公民权益保障与数字经济发展的动态平衡等网络空间安全前沿、焦点话题展开探讨。(记者杨文、黄江林)

海量资讯、精准解读,尽在新浪财经APP

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 10-14 禾元生物 688765 --
  • 09-29 道生天合 601026 --
  • 09-24 长江能科 920158 5.33
  • 09-22 奥美森 920080 8.25
  • 09-19 瑞立科密 001285 42.28
  • 新浪首页 语音播报 相关新闻 返回顶部