浩鲸科技:从构建数智生产力到价值落地,助力运营商迈进大模型+智能应用时代

浩鲸科技:从构建数智生产力到价值落地,助力运营商迈进大模型+智能应用时代
2024年10月11日 18:16 通信产业网

近年来,以大模型为代表的AI技术快速爆发,显著推动了电信运营商向数智化迈进。从客户服务到网络运维,AI技术已从早期的散点探索,演变为渗透整个业务场景的全面融合与深度应用,显著提升运营效率,构筑起面向客户、面向一线、面向管理的“AI+服务”体系。

在2024中国移动全球合作伙伴大会,浩鲸科技以“智能时代,构建数智生产力”为主题参展,浩鲸科技国内运营商产品专家在接受《通信产业报》全媒体记者采访时表示,浩鲸科技将从大模型技术探索逐步走向工程化落地实践,助力电信运营商加速迈进大模型+智能服务时代。

一、大模型远非单纯技术问题,其落地需多维度的深入工程协作与融合

在数智化建设的过程中,信息系统作为推动时代进步的关键力量,正以前所未有的速度进化与发展。然而,在这由代码与数据构成的宏伟景象之下,尽管技术迭代日新月异,系统不断演进,但仍有一些长期存在的问题未能有效解决:

●  生硬和繁琐的交互设计,增加了用户操作难度,导致使用困惑和效率低下;

●  繁多的分析报告需人工撰写,耗费大量时间和精力;

●  知识分散在代码、文档、视频中,未被有效沉淀整合,无法充分释放其价值;

●  业务处理过程中易受中断影响,需跨系统操作才能继续,给用户带来不便;

●  智能化依赖大量人工标注,智能水平提升受限;

●  每个系统在不同的功能模块采取不同的方式进行注智增强,存在多种多样的规则引擎、控制引擎、流程引擎、算法开发等,聚沙难成塔,散点注智难大幅提升自智水平。这些困扰的存在,导致客户体验、经营效率、自智水平的提升遭遇瓶颈,是数智化转型路上的拦路石。

浩鲸科技国内产品事业部副总经理刘洪文认为,在追求大模型先进技术的同时,仍然需要不断审查和改进现有系统,深入挖掘真实同道需求,不为设计而设计,让大模型技术真正发挥作用,能够真正落地解决实际问题。

“在助推客户数智化转型道路上,浩鲸科技始终致力于大模型技术的前沿探索到实际应用的落地,从理论构想直至实践检验。在此过程中,我们深刻认识到,大模型远非单纯的工程问题,它跨越了众多领域包括群体智能场景设计、超级助理创新体验、AGI技术突破、智能基础平台打造、算力资源优化配置和高效利用,这一切都需要多维度的深入工程协作与融合。”

二、专家谈:五大领域助力,为运营商大模型落地提速增效

1、群体智能,正逐渐从构想变为现实,各种应用场景层出不穷。

无论是内容生成、知识管理、客户服务,还是稽核诊断和风险管理等领域,都已经展现出显著的应用效果,这一趋势正在加速智能技术从理论向实践的转化,推动各个行业的智能化进程。浩鲸科技正在持续构建 "1+N" 的大模型生态,从大模型的 "1",到 AI 原生应用的 "N",不断扩大外延,未来浩鲸科技将投入更多创新精力与资源到多元应用生态的构建,与行业一起打造繁荣的 AI 生态。

在面向运营商政企业务方面,浩鲸科技国内政企业务产品线总经理黄敬彬介绍到,当前IT支撑已进入深水区,数智化时代下,浩鲸科技通过“急用先行、政企+AI”到“生态构建、AI+政企”的两步走策略,将大模型技术应用贯穿于政企业务支撑的全链条之中,从智能引导到合同智审,再到智能调度和风险预判等主要环节,每个步骤都得到了显著注智优化。

§ “融合入口+AI”通过对话式交互,实现智能定位导航菜单、一句话自动导航查询,方便快捷辅助一线人员实现查找信息、业务咨询、答疑解惑,提升业务办理效率和一线使用满意度。

§ “融合协议+AI”利用大模型及其推理能力赋能合同预审、合同稽核、合同履约等,过滤合同漏洞和项目履约风险,提高合同稽核准确性。

§ “融合调度+AI”通过大模型迭代学习和算法优化,更智能化的进行任务分配和执行,快速修复卡单故障,同时基于流程OneID全链设计,加强端到端运维支撑能力,使业务运营更加高效。

§ “融合风控+AI”运用模型推理、OCR识别等技术,自动化采集相关数据并进行风险的智能识别和预警,实现事前风险预警预拦截,减少业务及资金风险。

实践证实,这些智能化的解决方案不仅能够有效降低运营成本、提高服务品质,还助力运营商快速响应市场需求变化,把握发展机遇。浩鲸科技国内OSS产品线总经理林仲仁指出,特别是面向运营商家宽“装”、“维”、“整”、“系”四大运营流程,浩鲸科技构建12个智能支撑场景,全面覆盖家宽运营全部岗位的核心工作。在大模型加持下的“家宽助手”以受众多先行原则,优先为人数最多的岗位如一线装维、综调支撑岗提供智能支撑能力,特别是在智能问答、智能诊断、智能处置场景中为一线装维人员提供知识问答、快速排查故障、自动派单处置等智能化手段,快速提升家宽运营整体效率,实现家宽全专业高度自智。

2、超级助理, 在面对日益复杂的业务场景时,需要一种能够协同工作、超越单一个体能力的工具来理解和处理海量的需求、流程和数据。

浩鲸科技为此推出了基于大模型的AI原生助手框架——“超级助理”,专为复杂业务系统构建智能助手而设计,深度融合了人工智能技术与智能规则引擎,集成了人机协同、多模态感知与理解、任务拆解与流程管理、知识图谱构建与应用以及安全与隐私保护等技术。

它的核心优势在于其强大的复杂任务拆解能力,支持自我学习、自我配置甚至自我开发,从而实现智能交互、智能受理、智能推荐和智能运维等多个实用功能。借助这一系列技术,“超级助理”可以提供自然、流畅且个性化的对话体验,部署轻便,低成本,提供多样化的指令与插件实现无缝接入,让二次开发高效快捷。此外,它还可以实现多助手调度,提供统一的入口,实现跨系统、跨流程的操作,大大提高了系统支撑的便利性。通过结合“超级助理”框架,BSS受理得以实现智能化升级,带来四大方面的改进:

§ 智录:采用“主副驾”+多模态录单的方式,适应不同场景下的受理需求,提供灵活丰富的录单模式。

§ 智荐:大小屏协同营销推荐,协助用户更高效地完成业务办理,提升营销精准度。

§ 智办:智能识别并解决业务受理过程中的异常状况,保障受理流程接续不中断办理。

§ 智答:运用“划词”快问智答功能,即时解答用户疑问,提高咨询效率。

§ 智推:根据实时预测的竣工时间和收益,推送相关建议和提示,增强互动性,提升服务体验。

3、AGI,技术发展正处于关键时刻,被视为解决现有困扰的关键突破口。3、AGI,技术发展正处于关键时刻,被视为解决现有困扰的关键突破口。

当前,多模态理解、示范学习、文案创作、脚本编写、代码生成、图片与视频制作、工具使用、自我学习纠正进化,以及思维链和思维图的构建与多模态推理,都是实现场景落地的重要组成部分,这些能力的组合应用是当前的重点,而技术上的进一步突破则显得尤为关键。

浩鲸科技利用语音信号处理和识别算法开发“智能工牌助手”,该工具在客户接待、业务处理、安装维护等多种场合应用中表现出色。借助智能工牌等采集设备,系统能够高效地收集语音数据,经过压缩、降噪、切片等一系列预处理步骤后,利用自动语音识别(ASR)技术将语音转换成文本。

特别值得一提的是,针对营销推荐、装维服务、业务红线三大核心场景,浩鲸科技已经积累了丰富的实战经验,并形成了超过200个经过验证的金牌营销话术库,可直接应用于实际工作中。以某省级运营商为例,在其超过200家营业厅的试点项目中,通过使用浩鲸科技的智能工牌助手,服务质检的准确性达到了93%,服务规范率从29%跃升至53%,客户挽留成功率更是提高了39%。这些成果充分展示了浩鲸科技大模型解决方案在多模态领域技术创新力。

4、 智能基础平台,构建智能场景不仅依赖单一的大模型,而是将大模型与小模型相结合,通过针对特定领域的微调和训练,形成更多专业化的领域模型。降低模型应用的门槛,也使得智能技术能够在更多的场景中发挥其价值。

浩鲸科技数据智能事业部首席专家吴名朝介绍到,作为核心平台之一的鲸智MaaS平台,可提供高效算力纳管与智能资源调度、高质量数据供给、高效模型纳管和场景化微调等能力,助力客户快速打造企业专属的行业模型。

§ 高效算力纳管与调度,突破资源利用瓶颈:MaaS平台通过资源池化、vGPU、推理加速和云边协同调度等技术, 能够有效的帮助企业解决算力利用率低、资源碎片化严重、资源分配和调度成本高等痛点。利用率最高可达97%、调度速度提升25%、整体运维成本最高可降低30%。

§ 全域高质量数据供给,满足模型更新迭代需求: MaaS平台通过自动化数据采集、智能化数据处理和编排式语料生成等技术,能够较好的应对模型用数体量大、质量要求高、整理投入多等难题。

在9月中国信通院可信 AI权威评估中,鲸智MaaS平台在5大领域、15个能力子项、138个能力评测结果中表现出色,成为唯一一家能力达到 4 + 级的平台,当属国内最高水平。

5、算力门槛降低,算力越多,智能水平越高,随着智能场景和数据量的增加,算力的需求并不是线性增长,而是更接近于平方级的增长,智算中心的运营面临着新挑战,智算中心现正步入以市场需求为导向的阶段。

浩鲸科技国内OSS产品线总经理林仲仁表示,随着国家“东数西算”与“碳达峰、碳中和”重大战略部署下,我国正加速构建全国一体化算力网络,同时智能算力需求在人工智能热潮的推动下也大幅提升。在此背景下,浩鲸科技推出一体化算力服务体系,通过接入不同厂商的异构资源池,实现了算力的接入、验证、感知、编排、调度和按需交易,它们不仅促进了算力资源的纳管、互联互通与可交易性,还为社会各界的算力需求提供了高效、公平、安全和可监管的交易环境。

浩鲸科技一体化算力服务体系划分为资源层、网络层、控制层、应用层和运营层五个层次:资源层汇聚了丰富的算力资源,网络层提供了高质量的网络连接,控制层实现了灵活的算网融合编排,应用层提供了开放的算力服务平台,运营层则通过打造专业的智算运营基地,推动了社会经济的数字化、智能化发展。

三、大模型下的数智时代发展阶段的规划设想

2024至今,三大运营商持续加码AI及算力布局,但大模型的落地远不止最后“一公里”。刘洪文认为,随着大模型技术的日益进步,尤其是大模型在语义理解和生成能力上的显著提升,运营商数智系统的发展将经历初阶、中阶和高阶三个关键阶段。作为大模型真实价值的发挥者和使能者,浩鲸科技围绕AI + 经营、AI + 服务、AI + 运维、AI + 行业等4个方面构建了众多创新应用,覆盖12大场景,为运营商及多行业提供全方位的智能化解决方案,并取得了显著进展,全球运营商及垂直行业已有近60个商用及预商用案例,未来将从以下三个阶段出发持续演进大模型解决方案,携手运营商共拓智能转型新路。

一、初阶阶段 - 智能助手与系统智能增强

在这个阶段,充分利用现有的成熟语义理解和生成技术,开发一系列面向不同业务场景的智能助手,例如:结合客服、营销、装维等人与人、人与机器的交互场景,开发智能助手,提升交互体验和效率。同时,还需要对现有系统进行智能增强,构建更加智能的服务体系。在此过程中,重要的是要梳理和沉淀各领域的专业知识,将其显性化以便更好地被利用,从而提高整个系统的运行效率和服务质量。

二、中阶阶段 - 多模态智能与平台化建设

进入中阶阶段后,将进一步探索多模态智能技术的应用,使智能助手能够处理更多样化的输入输出形式,如语音、图像等,进一步丰富人机交互方式。构建统一的MAAS平台,打破烟囱式建设模式,实现资源的高效共享和利用。One Copilot, Many Expert的理念将被广泛应用,即一个通用的智能助手可以调用多个领域的业务专家,为用户提供全方位的服务。

三、高阶阶段 - 自主学习与超级智能大脑

在高阶阶段,数智系统将朝着自主学习和自主进化的方向发展。系统将以“无系统”的形态存在,用户只需关注任务本身,而无需关心背后的技术细节,所有的应用都将被无缝地整合在一起,由一个超级智能大脑统一调度和管理。Agent as a Service(AaaS)模式将取代传统的微服务架构,成为新的服务交付标准。最终,IT支撑将从传统的技术支持转变为知识运营和知识开发,为运营商带来更加深远的价值创造。

浩鲸科技大模型技术体系,结合多种前沿技术不断演进,提供了一套完整的数智解决方案,具备算力生态的高效适配、模型生态的灵活兼容、数据供给的成本降低、高精度场景的准确性提升、下沉场景的敏捷支撑这五大特性,帮助运营商在生产、运营、管理中,提升效率、质量、安全的同时,降低数字化与业务运营的成本,助推运营商加速“AI+”战略落地,加速AI融入千行万业,加速数智新增长。

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片