GPT-2 基于 transformer 的大型语言模型

程序名称:GPT-2

授权协议: MIT

操作系统: 跨平台

开发语言: Python

GPT-2 介绍

GPT-2 是一种基于 transformer 的大型语言模型,具有 15 亿个参数,在 800 万网页数据集上进行训练。

它是论文《语言模型是无人监督的多任务学习者》(Language Models are Unsupervised Multitask
Learners)的代码实现。

目前发布了 GPT-2 的小型(117M 参数)和中型(345M
参数)版本,还没有发布更大的模型,但已经发布了一个数据集供研究人员研究行为。该存储库旨在成为研究人员和工程师尝试使用 GPT-2 的起点。

GPT-2 官网

https://github.com/openai/gpt-2

相关编程语言

欧盟第7框架计划(FP7)的LarKC项目的目标是开发大规模...
Salad 是一种有效且灵活的实现著名的异常检测方法回...
multilanguage 是一个多语开发工具包,用于缓存多语...
go-cortex 是一个服务,通过倾听你的句子,并视图理...
DKPro Core 是基于 Apache UIMA 框架之上的自然语言...
NLTK 会被自然地看作是具有栈结构的一系列层,这些层...