如何通过 Python 从 XML 获取文本？
我正在训练语言模型。我的输入是 XML 格式的字幕。我...
上下文相关循环神经网络语言模型
最近进行了一定数量的研究，通过将上下文信息合并到...
Huggingface Transformer - GPT2 从保存的检查点恢复训练
恢复从 <code>GPT2</code> 实施的 <...
如何使用 LSTM 滞后模型在一个地方选择最合适的词
每当我要解决特定问题时，我都找不到正确的方法 我已...
关于 GPT-1 辅助目标的输入
论文（通过无监督学习提高语言理解）在微调阶段使用...
从数据生成文件路径的语言模型或 GAN
因此，虽然我是一名中级 ML 工程师，但我的 NLP 技能...
深度学习模型训练过程中修改学习率
以下是配置 <a href="https://huggingface.c...
HuggingFace - config.json 中的 GPT2 Tokenizer 配置
GPT2 微调模型在 <a href="https://huggingf...
用于句子解码的维特比算法
我正在做一个项目，我需要使用 Viterbi 算法在句子列...
解决 ktrain 预测器与学习器预测中的速度差异？
我正在使用 ktrain Huggingface 库来构建语言模型。...
为 Windows 设置 kenlm
官方 <a href="https://kheafield.com/code/...
多大的数据应该适合微调 GPT-2
我正在尝试使用一些用于英语考试数据的文本来微调 &...
使用 FB XLM 遇到数据路径问题os.path.isdir(path) 在它存在时返回 false
我正在尝试对实现 FB 的 XLM（跨语言模型）的 FB 转...
如何为空白令牌预测计算变压器损失？
我目前正在尝试实现一个变压器，但无法理解其损耗计...