近日,Gartner发布了2025年企业机构需要探索的十大战略技术趋势,其中关于人工智能的必要性和风险中提到了虚假信息安全(Disinformation Security)。虚假信息安全是一个新兴技术类别,该技术能够系统地辨别信任度,旨在提供一个能够确保信息完整性、评估真实性、防止冒名顶替和追踪有害信息传播的方法体系。
随着深度合成和生成式AI技术的开放开源、深度合成和生成产品及服务的增多,此类内容制作的技术门槛越来越低,实现了技术的“平民化”。通过深度合成和生成式AI技术制造虚假音视频图像等虚假信息进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。因此,虚假信息操纵所带来的危害不可轻视。
Gartner预测,到2028年,将有50%的企业开始采用专为应对虚假信息安全用例而设计的产品、服务或功能,而目前这一比例还不到5%。
针对虚假信息的发现识别,国投智能自主研发AI生成内容检测鉴定的核心引擎,推出AI-3300慧眼视频图像鉴真工作站、人工智能大模型内容检测平台、美亚鉴真内容检测平台小程序等产品,全面支持人工智能生成视频、图像和文本等多媒体内容的检测。目前,市面常见的内容生成工具(如:ChatGPT、Sora、Midjourney、Stable Diffusion等)所生成的文本、视频、图像均可使用公司相关产品进行检测,平均准确率超过90%。
人工智能大模型内容检测平台检测由Sora生成的视频
虚假信息安全涵盖了从信息真实性验证到用户教育等多个层面,包括确保信息的来源可靠且内容真实;控制虚假信息在社交媒体、新闻网站等平台上的广泛传播;利用加密、数字签名等技术手段保护信息不被篡改或伪造;制定和执行相关法律法规;以及提高用户辨别信息真伪的能力,共同构建一个更加安全、真实的信息环境。
未来,国投智能将聚焦生成式人工智能和AI生成内容的检测识别技术,踔厉奋发,持续发力,按照相关管理要求,针对深度合成生成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求,不断打磨推出更为安全、可信、可靠的人工智能技术产品,为打击利用人工智能的新型涉网犯罪,提供有力的技术武器,为维护和保障人工智能的健康发展和规范应用贡献力量!
(转自:国投智能股份)
VIP课程推荐
APP专享直播
热门推荐
收起24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)