使用变形金刚和pytorch的微调因果语言模型
我对使用变压器和PyTorch调整因果语言模型有一些疑问...
在测试 bert 模型期间分配权重
我有一个基本的概念性疑问。当我在句子上训练 bert ...
使用语言模型获得句子的概率
我已经使用以下架构训练了语言模型， <pre>&l...
神经网络语言模型的效果不及预期
我正在尝试使用神经网络来实现一些相对标准的语言模...
如何使用Kenlm检查句子中的单词对齐方式？
我见过很多博客都说语言模型可以用于许多任务，但是...
Bert词嵌入的微调
我想加载预训练的Bert模型并对其进行微调，尤其是使...
有没有一种方法可以计算模型可以适合我的VRAM的大小？
我想从头开始训练语言模型，并使用我拥有的最大VRAM...
具有附加特征向量的RNN
我正在构建语言模型，并且我了解如何设置基本体系结...
用熵还是困惑训练语言模型？
在训练语言模型中，我经常看到困惑被用作评估指标，...
前馈神经网络语言模型
我目前正在尝试使用TensorFlow 2.0开发前馈神经网络...
使用Python计算困惑
我目前正在训练一种语言模型，为了评估它，我编写了...
如何使用n-gram完成分类任务？
我将使用<code>n-gram</code>在样本数据...
变形金刚-如何在Torch版本1.4.0Albert中加载pytorch_model.bin
火炬版本1.4.0 我执行run_language_modeling.py并保...
Keras Lstm预测下一项，采用整个序列或滑动窗口滑动窗口是否需要状态LSTM？
我有一个序列预测问题，其中给定序列中的最后<co...