全国政协委员周鸿祎:AI大模型“幻觉”具有两面性

全国政协委员周鸿祎:AI大模型“幻觉”具有两面性
2025年03月08日 16:52 中国经济网

  中国经济网北京3月8日讯(记者 杨秀峰)2025年开年以来,我国人工智能领域迎来里程碑式突破。大模型DeepSeek的出现引发社会各界广泛关注。今年政府工作报告提出,2025年将持续推进“人工智能+”行动,将数字技术与制造优势、市场优势更好结合起来,支持大模型广泛应用。

全国政协委员、360集团创始人周鸿祎(受访者供图)全国政协委员、360集团创始人周鸿祎(受访者供图)

  “以DeepSeek为代表的大模型的出现,让大模型加速走进百行千业,成为推动我国科技进步、经济增长和国家强盛的关键力量。”全国政协委员、360集团创始人周鸿祎同时指出,值得注意的是,包括DeepSeek在内的大模型都存在“幻觉”,偶尔会生成看似不合理、与事实不符的情况。究其原因在于,“幻觉”是一把双刃剑,是大模型与生俱来的特点,不可消除,也决定其创造力和想象力,对于实现AGI(通用人工智能)极其重要。如果大模型没有“幻觉”,就失去了想象力和创造力。并且越是能力强的模型,一般“幻觉”也越多。

  周鸿祎认为,在科研领域,大模型能“想象”新药分子结构、蛋白质的结构等,为新研究指引方向。在医疗、法律、金融等对准确性要求高的领域,“幻觉”虽然可能出错,但可以利用技术手段,如RAG(检索增强生成)技术,通过比对专业知识库、网络实时信息等方式予以矫正。

  他建议,对大模型以及相关的产品和服务实施柔性监管,适度包容大模型的“幻觉”,对于“幻觉”导致的一般性失误,避免直接关停下架,给予企业自我纠正的机会,促进企业大胆创新、放手竞争,争取让更多企业“复制”DeepSeek的成功。

(责任编辑:高原)

海量资讯、精准解读,尽在新浪财经APP

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 03-14 胜科纳米 688757 --
  • 03-14 浙江华远 301535 --
  • 03-11 矽电股份 301629 52.28
  • 03-11 新亚电缆 001382 --
  • 03-10 江南新材 603124 10.54
  • 新浪首页 语音播报 相关新闻 返回顶部