@全体股民:《投资研报》巨额特惠,满3000减1000,满1500减500!【历史低价手慢无,速抢>>】
炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!
10月18日至20日,2024金融街论坛年会在京举行。中国科学院院士、中国科学院软件研究所研究员冯登国出席“AI重塑金融与安全治理”分论坛并作报告分享。
冯登国表示,人工智能尤其是大模型的广泛应用带来众多的安全风险和挑战。国家重要敏感数据面临极大的泄漏风险,针对关键信息基础设施的网络攻击变得更加自动化和智能化,加剧了深度伪造对国家政治、社会治安、金融秩序、伦理道德的危害。同时,大模型的“幻觉”缺陷导致大量错误信息涌现,人工智能武器化带来极强的攻击优势,大模型安全测评面临技术挑战。
为了减小人工智能尤其是大模型的应用带来的安全风险,冯登国建议加强隐私保护的模型推理研究,增加人工智能在网络攻防领域中的角色,建立大模型安全理论体系与测评体系。“人工智能安全也应有等级之分,需要有针对性地切实提升我国的人工智能安全测评和把关能力,建成国际一流的人工智能安全测评平台。”冯登国称。
海量资讯、精准解读,尽在新浪财经APP
责任编辑:杨赐
相关专题:
2024金融街论坛年会专题
VIP课程推荐
加载中...
APP专享直播
热门推荐
收起
新浪财经公众号
24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)