共计 1434 个字符,预计需要花费 4 分钟才能阅读完成。
2019 年 7 月,百度 ERNIE 再升级,发布持续学习的语义理解框架 ERNIE 2.0,及基于此框架的 ERNIE 2.0 预训练模型, 它利用百度海量数据和飞桨(PaddlePaddle)多机多卡高效训练优势,通过深度神经网络与多任务学习等技术,持续学习海量数据和知识。基于该框架的艾尼(ERNIE)预训练模型,已累计学习 10 亿多知识,包括词法、句法、语义等多个维度的自然语言知识,有很强的通用语义表示能力,适用于各种 NLP 应用场景,效果提升明显,使用高效、便捷。
本篇内容教大家如何下载和使用!
一、预训练模型下载
ERNIE 2.0 英文 Base 模型
https://ernie.bj.bcebos.com/E…
包含预训练模型参数、词典 vocab.txt、模型配置 ernie_config.json
ERNIE 2.0 英文 Large 模型
https://ernie.bj.bcebos.com/E…
包含预训练模型参数、词典 vocab.txt、模型配置 ernie_config.json
二、数据下载
中文数据:https://ernie.bj.bcebos.com/t…
英文数据:由于数据集协议问题,在这里无法直接提供英文数据集。GLUE 的数据下载方式请参考 GLUE 主页 (https://gluebenchmark.com/tas… GLUE 提供的数据下载代码(https://gist.github.com/W4nga…)。
假设所有数据集下载放置的路径为 $GLUE_DATA
,将数据下载完毕后,执行sh ./script/en_glue/preprocess/cvt.sh $GLUE_DATA
将完成所有数据的格式转换,默认转换后的数据会输出到文件夹./glue_data_processed/
。
三、PaddlePaddle 安装
本项目依赖于 Paddle Fluid 1.5,请参考安装指南
(https://www.paddlepaddle.org….)进行安装。
【重要】安装后,需要及时的将 CUDA、cuDNN、NCCL2 等动态库路径加入到环境变量 LD_LIBRARY_PATH 之中,否则训练过程中会报相关的库错误。具体的 paddlepaddle 配置细节请查阅:
https://www.paddlepaddle.org….
如果您想了解更多的 Paddle 的相关信息,例如针对实际问题建模、搭建自己网络等,这里有更多的来自官方的文档供您参考:
• 基本概念:介绍了 Fluid 的基本使用概念
• 准备数据:介绍使用 Fluid 训练网络时,数据的支持类型及传输方法
• 配置简单的网络:介绍如何针对问题建模,并利用 Fluid 中相关算子搭建网络
• 训练神经网络:介绍如何使用 Fluid 进行单机训练、多机训练、以及保存和载入模型变量
• 模型评估与调试:介绍在 Fluid 下进行模型评估和调试的方法
ERNIE 的其他依赖列在 requirements.txt 文件中,使用以下命令安装 pip install -r requirements.txt
划重点!
查看 ERNIE 模型使用的完整内容和教程,请点击下方链接,建议 Star 收藏到个人主页,方便后续查看。
GitHub:https://github.com/PaddlePadd…
版本迭代、最新进展都会在 GitHub 第一时间发布,欢迎持续关注!
也邀请大家加入 ERNIE 官方技术交流 QQ 群:760439550,可在群内交流技术问题,会有 ERNIE 的研发同学为大家及时答疑解惑。