BERT 用于词法替换

问题描述

我一直在尝试让 BERT 生成语义上接近目标词的候选词法。 我使用的一种选择是连接原始句子而不像作者在 paper 中所做的那样进行屏蔽。 + 并且我正在将“(或什至 [MASK])”连接到目标词的下一个

然后,this paper 表示您可以使用嵌入删除生成词法替换候选。有人能解释一下这篇论文中“部分被嵌入 dropout 掩盖”是什么意思吗?

如何通过在代码中使用嵌入 dropout 对目标词应用部分掩码?

干杯

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)