Wiki中的GRU Pytorch Keras和Formula不同

问题描述

我正在使用cblas库在iOS设备中实现GRU。我使用了Wiki中的GRU公式,也使用了我在Coursera上学到的Wikipedia中的公式。我发现在我的实现和tf.Keras中具有相同权重的结果是不同的。调试后,我发现Keras和Torch中的GRU使用不同的公式来计算h_t:

接下来在Wiki公式中:

h_t =(1-z)* h_t_prevIoUs + z * h_tilda。

在Keras和Torch中时:

h_t =(1-z)* h_tilda + z * h_t_prevIoUs。

有人可以解释为什么他们与众不同吗?从逻辑上说,更新门乘以新值(我想从新值更新什么),不是吗? 有趣的是,MPSGRUDescriptor具有flipOutputGates变量,可以通过这两个公式来处理此拐杖。

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

Selenium Web驱动程序和Java。元素在(x,y)点处不可单击。其...
Python-如何使用点“。” 访问字典成员?
Java 字符串是不可变的。到底是什么意思?
Java中的“ final”关键字如何工作?(我仍然可以修改对象。...
“loop:”在Java代码中。这是什么,为什么要编译?
java.lang.ClassNotFoundException:sun.jdbc.odbc.JdbcOdbc...