江南农商银行：全栈信创大模型应用平台的创新实践_新浪财经

2024年，“人工智能+”首次被写入政府工作报告，是人工智能从技术理论到赋能实体发展的重要标志。在此背景下，江南农商银行自主研发“小江智脑”大模型应用平台，以国内合规的千亿参数开源大模型为基础，整合了国产向量数据库、麒麟操作系统、达梦数据库以及信创GPU显卡、信创CPU等核心组件，构建了一个全栈信创环境下的大模型应用平台，实现了大模型应用技术的自主可控，以及对文本生成、语言理解、逻辑推理、知识问答、代码生成、多模态能力等多种业务场景的全面覆盖，为行内不同岗位定制23项AI智能应用，显著提升了员工办公效能。

智能办公AI助手：开启知识检索新纪元

该行推出的智能办公AI助手平台，采用前沿的“大模型+向量数据库”技术架构，集成了创新的“全行知识问答助手”功能，实现了对银行内部丰富多样、高质量知识资产的深度挖掘和利用，员工能够迅速、精准地获取所需的内部规章制度和操作指引，极大地满足了日常的信息检索需求，提升了工作效率和决策质量。至5月末，该行智能办公AI助手已经累计服务超过21万人次，产出的内容量高达5058万字符。

文本机器人：全天候智能客服专家

目前，该行采用大模型构建的对客24小时文本机器人，在Q&A问答整理的基础上实现工作效率整体提高16倍，客户问题的有效回复率提升约30%。这种提升主要得益于大模型在自然语言处理（NLP）领域的应用，文本机器人通过对大量文本数据的学习，能够更好地理解客户问题的语义，从而更准确地匹配对应的答案，同时以其出色的上下文理解能力，精准捕捉客户问题中的背景信息和语境。

辅助代码编程：解锁编程新境界

大模型代码生成技术在自动化软件开发领域展现出巨大的潜力，尤其在提升编码效率、减少错误率以及缩短开发周期等方面表现突出。基于此技术构建的辅助代码编程助手工具，具备代码补全、代码解释、代码重构、错误检测以及单元测试案例生成等多项功能，有助于提升开发人员的工作效率和代码质量。在实际工作中，该工具使用次数已经突破4.2万次，累积了1689多万个字符的编码数据，使前线开发人员的工作效率平均提升了25%。

虚拟数字人：科技与艺术完美结合

“小江数字人”以大模型为核心智慧引擎，赋予了其优异的自然语言处理能力和深刻的知识理解能力。这使得“小江数字人”在提供行内知识问答服务时表现得游刃有余，同时为外部接待参观者带来了良好的互动体验。自今年3月投入运行以来，“小江数字人”已圆满完成了该行数十次的外部接待参观任务。每一次的接待都是对“小江数字人”能力的一次全面检验和宝贵提升。

多模态大模型应用：业务系统智能化升级

该行引入“多模态大模型”+“专用小模型”的组合方案，对业务系统进行了全面的智能化升级改造。具体而言，多模态大模型能够高效、准确地提取业务申请书、进账单等复杂信息中的文本、图像、表格等多种数据形式，它不仅能够识别这些信息，更能深入理解其背后的含义和逻辑。同时，专用小模型通过“两路一校”的方式，与大模型无缝衔接，对关键信息进行快速校验和处理，推动了业务办理流程的大幅优化，预估单笔交易可节省2分钟，全年预计节约工时高达40万个小时。

未来，江南农商银行“小江智脑”大模型应用平台将持续升级优化，从而更好地为客户提供更加智能化、个性化的金融服务，满足客户日益多样化、个性化的需求。杨凯（江南农商银行首席信息官、信息技术部总经理〈兼〉）