在训练Pytorch模型时,如何掩盖部分参数?

问题描述

我正在训练一个像往常一样初始化的简单pytorch模型:

           model = nn.Sequential(
            nn.Linear(input_dim,output_dim)).

我还有一个特定的矩阵W,它的大小为(input_dim,output_dim),该矩阵W由零和一个我想用作整个训练和评分过程中的掩码的掩码来掩盖网络的不同参数。我该怎么办?

换句话说,我只想训练非零参数

nn.Linear(input_dim,output_dim)*W

并保持所有其他参数等于零。

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

错误1:Request method ‘DELETE‘ not supported 错误还原:...
错误1:启动docker镜像时报错:Error response from daemon:...
错误1:private field ‘xxx‘ is never assigned 按Alt...
报错如下,通过源不能下载,最后警告pip需升级版本 Requirem...