香草编码器-解码器架构中的Implemenet注意

问题描述

我已经尝试过以下一种Vanila enc-dec拱门（英语为法语NMT）

我想知道如何在这里集成keras注意层。也欢迎来自keras docs或第三方仓库中的任何其他关注模块。我只需要集成它，看看它如何工作并对其进行微调即可。

完整代码可用here 。

由于篇幅繁复，因此未在本文中显示任何代码。

解决方法

终于我解决了这个问题。我正在使用layer的第三方注意事项Thushan Ganegedara。使用它的Attentionlayer类。并将其集成到我的体系结构中，如下所示。