突破90分大关!百度预训练模型ERNIE登顶GLUE榜单 超过微软、谷歌

突破90分大关!百度预训练模型ERNIE登顶GLUE榜单 超过微软、谷歌
2019年12月11日 16:46 前瞻网

感知中国经济的真实温度,见证逐梦时代的前行脚步。谁能代表2019年度商业最强驱动力?点击投票,评选你心中的“2019十大经济年度人物”。【我要投票

原标题:突破90分大关!百度预训练模型ERNIE登顶GLUE榜单 超过微软、谷歌 来源:前瞻网

在“让人工智能与人顺畅交流”的过程中,自然语言处理是很重要的一环。由于计算机语言与人类语言截然不同,有了这项技术,AI才能真正“听懂”人们所说的话。

近日,预训练模型界的“MVP”百度ERNIE,在自然语言处理领域权威数据集GLUE中荣登榜首,并以9个任务平均得分首次突破90大关刷新该榜单历史,超越微软MT-DNN-SMART、谷歌T5、ALBERT等一众国际顶级预训练模型的表现。XLNet、RoBERTa、T5、MT-DNN-SMART等模型平均分数分布在88-89分范围。

GLUE榜单是自然语言处理领域最权威的排行榜之一,由纽约大学、华盛顿大学、谷歌DeepMind等机构联合推出。

据此前报道,百度的可持续学习语义理解框架ERNIE 2.0持增量引入词汇(lexical)、语法 (syntactic) 、语义 (semantic) 等3个层次的自定义预训练任务,能够全面捕捉训练语料中的词法、语法、语义等潜在信息。

继1.0后,ERNIE英文任务方面取得全新突破,在共计16个中英文任务上超越了BERT和XLNet, 取得了SOTA效果。

谷歌 微软 百度

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

7X24小时

  • 12-18 科安达 002972 --
  • 12-17 华特气体 688268 --
  • 12-12 聚辰股份 688123 33.25
  • 12-11 中新集团 601512 9.67
  • 12-11 甬金股份 603995 22.52
  • 股市直播

    • 图文直播间
    • 视频直播间