问题描述
在训练CNN时（在ImageNet上为resnet50），我观察到一个奇怪的“楼梯”形状（请参见下面链接中的蓝色下降线-对不起的图例文字表示抱歉）。
这可能导致什么？我使用TensorFlow数据集来获取/生成数据，并且对数据进行了混洗。我使用每个“纪元”分别为40和1000个批次（迭代）的批次大小，因此图中的每个点代表40,000个样本。楼梯每32点下降一次，这意味着每步跨越128,000个样本（大大少于ImageNet的> 1,000,000个训练图像）。我使用的固定学习率为0.01的Adam优化器。
有人猜测是什么原因造成的吗？
Loss and accuracy curves,full view.
解决方法
暂无找到可以解决该程序问题的有效方法，小编努力寻找整理中！
如果你已经找到好的解决方法，欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@）