使用 .grad 获取 global_model 的梯度

问题描述

我正在联邦学习设置中训练 CNN 模型。我更新我的 local_models，然后平均我从 weights 更新中得到的 local_model 以获得我的 weight 的 global_model。由于我在 loss.backward() 训练期间使用 local_model，因此可以使用以下方法获取梯度：

updates_list = []
for item in model.parameters():
    updates_list.append(copy.deepcopy(item.grad))
print(updates_list)

但是我不能将 .grad 用于我的 global_model，因为在平均 backward() 权重期间没有使用 local_model 函数。我的问题是，如何获得 global_model 的更新梯度？

解决方法

暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！

如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@）