国投智能破局虚假信息:AI鉴真,守护真相

国投智能破局虚假信息:AI鉴真,守护真相
2024年10月31日 18:17 市场资讯

近日,Gartner发布了2025年企业机构需要探索的十大战略技术趋势,其中关于人工智能的必要性和风险中提到了虚假信息安全(Disinformation Security)。虚假信息安全是一个新兴技术类别,该技术能够系统地辨别信任度,旨在提供一个能够确保信息完整性、评估真实性、防止冒名顶替和追踪有害信息传播的方法体系。

随着深度合成和生成式AI技术的开放开源、深度合成和生成产品及服务的增多,此类内容制作的技术门槛越来越低,实现了技术的“平民化”。通过深度合成和生成式AI技术制造虚假音视频图像等虚假信息进行诬陷、诽谤、诈骗、勒索等违法行为已屡见不鲜。因此,虚假信息操纵所带来的危害不可轻视。

Gartner预测,到2028年,将有50%的企业开始采用专为应对虚假信息安全用例而设计的产品、服务或功能,而目前这一比例还不到5%。

针对虚假信息的发现识别,国投智能自主研发AI生成内容检测鉴定的核心引擎,推出AI-3300慧眼视频图像鉴真工作站、人工智能大模型内容检测平台、美亚鉴真内容检测平台小程序等产品,全面支持人工智能生成视频、图像和文本等多媒体内容的检测。目前,市面常见的内容生成工具(如:ChatGPT、Sora、Midjourney、Stable Diffusion等)所生成的文本、视频、图像均可使用公司相关产品进行检测,平均准确率超过90%。

人工智能大模型内容检测平台检测由Sora生成的视频

美亚鉴真内容检测平台小程序支持对文本、图像、视频进行检测美亚鉴真内容检测平台小程序支持对文本、图像、视频进行检测

虚假信息安全涵盖了从信息真实性验证到用户教育等多个层面,包括确保信息的来源可靠且内容真实;控制虚假信息在社交媒体、新闻网站等平台上的广泛传播;利用加密、数字签名等技术手段保护信息不被篡改或伪造;制定和执行相关法律法规;以及提高用户辨别信息真伪的能力,共同构建一个更加安全、真实的信息环境。

未来,国投智能将聚焦生成式人工智能和AI生成内容的检测识别技术,踔厉奋发,持续发力,按照相关管理要求,针对深度合成生成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求,不断打磨推出更为安全、可信、可靠的人工智能技术产品,为打击利用人工智能的新型涉网犯罪,提供有力的技术武器,为维护和保障人工智能的健康发展和规范应用贡献力量!

编辑丨林杨珏

(转自:国投智能股份)

海量资讯、精准解读,尽在新浪财经APP

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 11-08 壹连科技 301631 --
  • 11-08 金天钛业 688750 --
  • 10-29 聚星科技 920111 6.25
  • 10-25 港迪技术 301633 37.94
  • 10-25 健尔康 603205 14.65
  • 新浪首页 语音播报 相关新闻 返回顶部