排列后如何进行张量点运算

问题描述

我有 2 个张量，A 和 B：

A = torch.randn([32,128,64,12],dtype=torch.float64)
B = torch.randn([64,12,dtype=torch.float64)
C = torch.tensordot(A,B,([2,3],[0,1]))
D = C.permute(0,2,1,3) # shape:[32,12]

张量 D 来自操作“tensordot -> permute”。如何在 f() 之后实现新的操作 f() 以进行 tensordot 操作，例如：

A_2 = f(A)
B_2 = f(B)
D = torch.tensordot(A_2,B_2)

解决方法

您是否考虑过使用非常灵活的 torch.einsum？

firebase login

D = torch.einsum('ijab,abkl->ikjl',A,B) 的问题在于它在 tensordot 的所有维度之前输出 A 的所有维度，而您正在寻找的（在排列时）是从 {{} 中“交错”维度1}} 和 B。