问题描述
我想在两个稀疏矩阵之间执行点积而不使用scipy.sparse
。这仅应使用csrmat.indices
和csrmat.indtpr
数组,因此只能在numpy
中执行。原因是我想在PyKeOps
上的GPU上执行点积运算,该运算符不支持稀疏矩阵,但可以很高兴地在numpy样式的数组上运行。
具有二进制值的稀疏矩阵的示例。这种类型的矩阵可能来自TF-IDF功能化:
import numpy as np
from scipy.sparse import rand
from scipy import sparse
#how many instances?
n = 100
#how many dimensions?
d = 5000
#construct a binary sparse array
x = rand(n,d,density=0.05,format='csr')
x.data[:] = 1
现在,使用自身执行点积运算很简单,导致密集输出,计算稀疏矩阵中每一行之间共享元素的数量。这是计算Jaccard距离或余弦相似度的第一步:
intersections = x.dot(x.T).toarray()
intersections
>>>>>
array([[265.,13.,10.,...,16.,20.,15.],[ 13.,246.,14.,11.,9.,12.],[ 10.,254.,15.,14.],[ 16.,245.,7.,19.],[ 20.,272.,[ 15.,12.,19.,262.]])
是否有使用x.indices
和x.indptr
数组的矢量化方法来执行此操作?一个缓慢而糟糕的例子可能是:
indices = x.indices
indptr = x.indptr
results = np.zeros([n,n])
for countj,j in enumerate(range(indptr[:-1].shape[0])):
startj = indptr[j]
endj = indptr[j+1]
itemsj = indices[startj:endj]
for countk,k in enumerate(range(indptr[:-1].shape[0])):
startk = indptr[k]
endk = indptr[k+1]
itemsk = indices[startk:endk]
overlap = np.isin(itemsk,itemsj)
results[countj,countk] = overlap.sum()
results
>>>>
array([[265.,262.]])
但是,由于该示例不使用广播(即未矢量化),因此无法在PyKeOps中运行。
谢谢!
解决方法
暂无找到可以解决该程序问题的有效方法,小编努力寻找整理中!
如果你已经找到好的解决方法,欢迎将解决方案带上本链接一起发送给小编。
小编邮箱:dio#foxmail.com (将#修改为@)