在输入传递到transformer模型之前，将位置编码添加到输入中，否则注意力机制将是顺序不变的。然而，编码器和解码器都是分层的，每一层都使用注意力。因此，如果顺序对注意力机制很重要，那么位置编码不应该添加到每个多头注意力块的输入中，而不是在模型的输入中添加一次吗？
暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！
如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@）
