在2024年AIcon全球人工智能应用与开发大会上,腾讯云依托向量数据库和AI代码助手等产品,在RAG领域的创新实践获得了广泛关注,并斩获年度AI最佳实践案例、十大高价值技术团队、十大AI最佳技术服务商三大奖项。
RAG(Retrieval-Augmented Generation,检索增强生成)技术因能有效解决大模型的“幻觉”问题而受到广泛认可,但其实际落地效果一直是业界关注的焦点。腾讯云数据库副总经理罗云透露,自去年上线以来,腾讯云向量数据库已成功支持60多个集团业务及外部3000多家企业,其吞吐能力是业界平均水平的两倍,响应延迟低至毫秒级,助力企业快速构建RAG解决方案。
在大会期间的TechoDay“RAG应用与实践”专场,来自金融、教育、工业等多个行业的头部企业技术负责人还分享了基于RAG的创新策略与实战经验,展现了多样化的RAG技术实现路径。
金融行业:快速构建与高效安全
招商证券自2023年起探索AI辅助编码技术,在取得阶段性成绩后今年选择引入腾讯云AI代码助手,致力于进一步提升智能开发效率。
(招商证券技术平台团队负责人谭成鑫演讲照片)
目前,腾讯内部已经有80%的程序员使用腾讯云AI代码助手实现开发提效,日均有33%的代码由AI生成,整体编码效率提升达到42%。
招商证券技术平台团队负责人谭成鑫表示,结合公司实际需求和技术特点,双方进行了深度定制,利用代码大模型融合内部数据实现跨文件智能扩展,按需扩展插件快捷指令和Prompt,还将运营体系与度量标准对接,提升了软件开发效率和质量。
教育行业:精准问答与知识库构建
作业帮在研发学习机AI助手时,面临大模型“幻觉”问题,传统关键字检索方案效果遭遇瓶颈, 测试准确率仅为60%。
(作业帮高级架基础架构研发工程师许春旭演讲照片)
面对这一挑战,作业帮经过多方调研测试,采用了向量数据库作为大模型的外挂知识库,利用其Embedding功能自动生成向量数据。同时,腾讯云向量数据库的AI套件功能,提供一站式文档检索解决方案,只需上传原始文档,就能在数分钟内快速构建专属知识库,极大地提高了知识接入效率。
上线后的测试结果显示,纯靠向量检索可以覆盖95%的场景,作业帮学习机AI助手目前的效果远优于传统关键字检索方案。
工业行业:标准化设计提升效率
成套电气行业因其产品定制化程度高、交货周期短以及协同工作复杂等特点,面临着诸多挑战。特别是在设计环节,工程师需花费大量时间消化图纸、手工绘制,且行业内元器件和设计的标准化程度较低,导致设计效率低下。此外,工程师的培养过程复杂,需要掌握大量的专业知识、国家和地方标准,以及各种专业术语,这进一步加剧了行业的痛点。
(浙江万榕总经理黄帅演讲照片)
在腾讯云知识引擎的助力下,浙江万榕打了造一套开关设备行业的随身专家系统——“榕博士”。该项目通过建设行业几万个元器件模型和上千个二维、三维方案模型,积累了300多个行业标准文档和近百份顶尖设计方案,以及工程师的专业经验。
目前,“榕博士”系统已成功服务200多位工程师,平均每人设计效率提升超过50%。
未来,腾讯云将继续致力于推动RAG技术的发展和应用,助力更多企业加速拥抱智能时代。
编辑:侯宜均
VIP课程推荐
APP专享直播
热门推荐
收起24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)