是否有一种简单的方法可以使用Adam优化器为Tensorflow中的权重和偏差定义不同的学习率？

问题描述

在Caffe中，我们可以为每一层定义两种学习率：一种是权重，另一种是偏倚：

layer {
  name: "conv1"
  type: "Convolution"
  bottom: "data"
  top: "conv1"
  param {
    lr_mult: 1 # this one for weights
  }
  param {
    lr_mult: 0.1 # this one for the bias
  }
  convolution_param {
    ...
  }
}

就我而言，我的所有权重的学习率 alpha 相同，而我的所有偏见的学习率 beta 也相同。

基本上，我只想对模型应用两种不同的学习率：一种用于偏见，一种用于权重。

在Tensorflow 2中使用Adam优化器可以做到这一点吗？

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）

learning-rate tensorflow