矩阵的所有行对之间的矢量化 KL 散度计算

问题描述

我想找出矩阵的所有行对之间的 KL 散度。为了解释，让我们假设有一个形状为 V 的矩阵 N x K。现在我想创建一个维度为 L 的矩阵 N x N，其中每个元素 L[i,j] = KL(V[i,:],V[j,:])。到目前为止，我已经使用以下 scipy.stats.entropy 来计算

upper_triangle = [entropy(V[i,:]) for (i,j) in itertools.combinations(range(N,2)]
lower_triangle = [entropy(V[j,V[i,2)]

L = np.zeroes((N,N))

L[np.triu_indices(N,k = 1)] = upper_triangle
L[np.tril_indices(N,k = -1)] = lower_triangle

有更聪明的方法吗？

解决方法

好的，在对 KL 散度方程稍加调整后，以下方程也应该有效，当然，它的数量级更快，

kl = np.dot(V,np.log(Vc).T)
right = kl + kl.T
left = np.tile(np.diag(kl),(kl.shape[0],1))
left = left + left.T
L = left - right