AWD LSTM中的DropConnect

问题描述

我读过Regularizing and Optimizing LSTM Language Models，但我不了解有关DropConnect的这一部分：

由于此删除操作执行一次，因此在向前和向后传递之前，对训练速度的影响极小，并且可以使用任何标准优化的黑盒RNN实现。

什么时候应使用DropConnect？ 是在序列的第一步还是在每一步应用DropConnect？

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）