在 Julia 中使用 batched_mul 自动微分时非法 DGEMM 参数编号 10

问题描述

我在使用 Flux/Zygote 时遇到了一个错误,该错误似乎与快速谷歌搜索中的“CUDA”/“矩阵产品状态”相关。可以使用以下代码在最新的 Julia 稳定版本(撰写本文时为 1.5.3)中复制它:

using Flux,Zygote

f(x,y) = sum(sum(batched_mul(x,y),dims=(1,2)));
g(x,y) = gradient((X_,Y_) -> f(X_,Y_),x,y)[1];
g(rand(1,1,1),rand(1,2,1))

# Result:
#  ** On entry to DGemm  parameter number 10 had an illegal value
# 1×1×1 Array{Float64,3}:
# [:,:,1] =
#  5.0e-324

我不确定引擎盖下发生了什么。我所能说的是“某事”出了问题,但它仍然吐出看起来有效的结果。它还会在我的应用程序中向控制台发送垃圾邮件,调整为每个批次每个批次元素 1 ** On entry to DGemm parameter number 10 had an illegal value 每个时期...使打印到控制台成为应用程序的瓶颈。

这是怎么回事?我该如何解决?是否值得修复,或者我可以忽略它?如果忽略,如何阻止我的屏幕被这些警告/错误淹没?

编辑

我找到了一种使用 OMEinsum解决方法,它可以完成相同的工作,但不会向控制台发送错误消息:

@ein f(x,y)[i,k,l] := x[i,j,l] * y[j,l];
g(x,Y_) -> sum(f(X_,Y_)),y);
g(rand(2,2),rand(2,2))

# Result:
# ([0.9722633852326483 0.33601882819991724; 0.9722633852326483 0.33601882819991724]
# 
# [1.9523351912466416 1.0298638932648905; 1.9523351912466416 1.0298638932648905],[1.833517766235997 1.833517766235997; 1.2580222064250244 1.2580222064250244]
# 
# [0.4056799727986937 0.4056799727986937; 0.7334134199010598 0.7334134199010598])

不确定 OMEinsum 是否是这方面的“最佳”张量库(我是张量的新手,可用库的数量令人眼花缭乱)但对我来说它是最容易理解的。

我没有将其作为答案,因为基本上,batched_mul错误尚未修复。

解决方法

暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!

如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。

小编邮箱:dio#foxmail.com (将#修改为@)

相关问答

Selenium Web驱动程序和Java。元素在(x,y)点处不可单击。其...
Python-如何使用点“。” 访问字典成员?
Java 字符串是不可变的。到底是什么意思?
Java中的“ final”关键字如何工作?(我仍然可以修改对象。...
“loop:”在Java代码中。这是什么,为什么要编译?
java.lang.ClassNotFoundException:sun.jdbc.odbc.JdbcOdbc...