线上分享 | 阿里巴巴：面向NLP场景的深度迁移学习开源框架EasyTransfer

来源：机器之心

作为一个快速发展的机器学习领域，迁移学习（Transfer Learning, TL）通过从数据充足任务中的知识迁移来提升数据缺乏任务的学习效果。得益于深度神经网络强大的表征能力，基于 TL 方法的神经架构，即深度迁移学习（Deep Transfer Learning）受到了越来越多研究者的青睐，并被证明在各种应用中非常有效。

一系列 TL 工具包的开发也使得 TL 算法应用起来更加简单，如英伟达的迁移学习工具包（TLT）、亚马逊的 xfer 库、清华大学的迁移学习工具包以及 Huggingface 的 Transformers 工具包。但是，当涉及到工业规模的真实应用时，这些工具包的表现总是不尽如人意。所以，开发一个全面的、工业规模的深度迁移学习工具包变得越来越有必要。

在这篇论文中，来自阿里巴巴的研究者开发了一个新的深度迁移学习框架 EasyTransfer，并向开源社区开放。该框架支持多种自然语言处理（NLP）任务中使用的各类 TL 算法，为真实应用中的模型训练、推理和部署提供了统一的 pipeline。目前，该框架已经整合入阿里巴巴的很多深度学习产品中，并实现了显著的性能增益。

机器之心最新一期线上分享邀请到了论文一作、阿里云高级算法专家邱明辉，为大家详细解读此前沿研究。

分享主题：PAI-EasyTransfer 面向 NLP 场景的深度迁移学习框架

分享嘉宾：邱明辉，新加坡 SMU 博士，美国卡耐基梅隆大学访问学者，现为阿里云高级算法专家。主要从事自然语言处理和深度学习算法和框架研究，迄今为止已发表 40 余篇自然语言处理和机器学习方向的顶会和期刊论文，Google 学术引用 1500+，H-index 20。曾获得 Best paper runner-up award 和 Best demo award，并担任多家国际顶会和期刊的审稿人。目前主要负责开源框架 EasyTransfer 的开发和落地，目前该框架已经服务阿里内部多个 BU 业务场景。

分享概要：本次直播将介绍深度迁移学习框架 PAI-EasyTransfer，这是个面向自然语言处理场景的深度迁移学习框架。该框架致力于让自然语言处理场景的模型预训练和迁移学习开发与部署更加简单和高效。EasyTransfer 给自然语言处理和深度迁移学习用户提供了多方面的便利性，包括业界领先的高性能预训练工具链和预训练 ModelZoo，丰富易用的 AppZoo，高效的知识蒸馏工具，全面的深度迁移学习算法，以及全面兼容阿里巴巴 PAI 生态产品。

直播时间：北京时间 12 月 08 日 20:00-21:00

论文链接：https://arxiv.org/abs/2011.09463

项目地址：https://github.com/alibaba/EasyTransfer

加入机动组，一起看直播

「机动组」是机器之心发起的人工智能技术社区，将持续提供技术公开课、论文分享、热门主题解读等线上线下活动，并在社群中提供每日精选论文与教程、智能技术研究周报，同时「机动组」也将不定期组织人才服务、产业技术对接等活动，欢迎所有 AI 领域技术从业者加入。添加机器之心小助手（syncedai5），备注「2020」，加入本次直播群。