PaddlePALM NLP 大规模预训练和多任务学习框架

程序名称:PaddlePALM

授权协议: Apache-2.0

操作系统: 跨平台

开发语言: Python

PaddlePALM 介绍

PaddlePALM (PArallel Learning from Multi-tasks) 是一个灵活,通用且易于使用的 NLP
大规模预训练和多任务学习框架。 PALM 是一个旨在快速开发高性能 NLP 模型的上层框架。

使用 PaddlePALM,可以非常轻松灵活地探索具有多种任务辅助训练的“高鲁棒性”阅读理解模型。

除了降低 NLP 研究成本以外,PaddlePALM
已被应用于“百度搜索引擎”,有效的提高了用户查询的理解准确度和挖掘出的答案质量,具备高可靠性和高训练/推理性能。

  • 易于使用 :使用 PALM, 8 个步骤即可实现一个典型的 NLP 任务。此外,模型主干网络、数据集读取工具和任务输出层已经解耦,只需对代码进行相当小的更改,就可以将任何组件替换为其他候选组件。
  • 支持多任务学习 :6 个步骤即可实现多任务学习任务。
  • 支持大规模任务和预训练 :可自动利用多 gpu 加速训练和推理。集群上的分布式训练需要较少代码。
  • 流行的NLP骨架和预训练模型 :内置多种最先进的通用模型架构和预训练模型(如 BERT、ERNIE、RoBERTa 等)。
  • 易于定制 :支持任何组件的定制开发(e.g 主干网络,任务头,读取工具和优化器)与预定义组件的复用,这给了开发人员高度的灵活性和效率,以适应不同的 NLP 场景。

你可以很容易地用较小的代码重新得到很好的结果,涵盖了大多数 NLP 任务,如分类、匹配、序列标记、阅读理解、对话理解等等。

PaddlePALM 官网

https://www.oschina.net/action/visit/ad?id=1091

相关编程语言

欧盟第7框架计划(FP7)的LarKC项目的目标是开发大规模...
Salad 是一种有效且灵活的实现著名的异常检测方法回...
multilanguage 是一个多语开发工具包,用于缓存多语...
go-cortex 是一个服务,通过倾听你的句子,并视图理...
DKPro Core 是基于 Apache UIMA 框架之上的自然语言...
NLTK 会被自然地看作是具有栈结构的一系列层,这些层...