大模型落地亟需高质量数据供给 蚂蚁集团推出大模型密算平台

大模型落地亟需高质量数据供给 蚂蚁集团推出大模型密算平台
2024年07月06日 09:20 中国金融信息网

新华财经上海7月6日电(记者 王淑娟)大模型向下扎根深入行业,必须要破解高质量数据供给的挑战。在2024世界人工智能大会上,作为数据要素领域的主要技术服务商,蚂蚁集团发布“隐语Cloud”大模型密算平台,通过软硬件结合的可信隐私计算技术,在大模型托管和大模型推理等环节实现数据密态流转,保护模型资产、数据安全和用户隐私。

当下,高质量数据供给和安全流通,成为大模型进入垂直产业应用的首要挑战。行业大模型要获得解决专业问题的能力,首先要经过数量充足、质量高的专业数据训练。然而,专业数据往往分散在不同的机构、企业中,并且由于价值大、保密要求高,难以流动。此外,在企业、大模型厂商和用户之间存在信任壁垒,企业担心数据对外泄露,大模型厂商担心模型资产安全,用户担心个人数据和隐私风险。

蚂蚁密算CEO王磊介绍,“隐语Cloud”大模型密算平台首批推出两大服务,分别为大模型密态托管和大模型密态推理。大模型密态托管,指模型提供方可以将模型加密后托管在平台上,一键完成云上密态部署,保护模型资产不被泄漏和盗用;大模型密态推理,是指数据以密态形式完成推理,保护用户交互时的数据安全、商业机密等。

当下,大模型在垂直行业应用时,许多企业通过私有化部署来应对数据安全挑战,这不仅增加企业的运维和服务成本,也影响对外服务的效率和质量。对行业的发展来说,私有化方案不利于多方数据跨领域、跨行业高效融合,无法进一步激发大模型的能力。

据介绍,“隐语Cloud”大模型密算平台提供公有云和专有云交付方案,支持市面上主流的通用大模型。

蚂蚁集团副总裁兼首席技术安全官、蚂蚁密算董事长韦韬认为,数据供给决定了大模型应用能力的上限,而隐私计算技术决定了数据跨域供给的上限。当大模型从通用走向专业应用,从技术想象力走向产业的生产力,必须要解决高质量数据集稀缺与专业数据阻滞的挑战,否则大模型作为“智力引擎”,只会陷入空转。今后,高价值数据要深度融合,一定需要以密态方式进行安全流转。

编辑:幸骊莎

海量资讯、精准解读,尽在新浪财经APP
蚂蚁集团 推理

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 07-15 绿联科技 301606 --
  • 07-11 科力装备 301552 --
  • 07-01 乔锋智能 301603 26.5
  • 06-26 键邦股份 603285 18.65
  • 06-24 安乃达 603350 20.56
  • 新浪首页 语音播报 相关新闻 返回顶部