使用 scipy.sparse 从 Pandas 数据框创建稀疏矩阵

编程问答 2022-05-14

问题描述

我有一个带有两个变量 X 和 Y 的 Pandas 数据框（大约 100 万行），并且想要使用 scipy,sparse 创建一个稀疏矩阵。输出应该是一个 n x m 矩阵，如果 X = x 且 Y = y，其条目为 1。
下面是一个数据结构的例子

import pandas as pd
data = [[1256,10],[3087,15],[2199,14],[1256,[1056,[408,14]]
  
# Create the pandas DataFrame
df = pd.DataFrame(data,columns = ['X','Y'])
  
# print dataframe.
df

所需的输出是

       10  15  14
1256    1   1   1
3087    0   1   0
2199    1   0   1
3087    0   0   1
1056    1   0   0
408     0   1   0

提前致谢

解决方法

将 public void setAddress(String address) { Address = address.replaceAll("[-+.^:,#,*,(,)]",""); } 与 get_dummies 一起尝试，也许可以使用 sparse=True（可选）以减少内存使用

dtype='i8'
out = pd.get_dummies(df.set_index("X")['Y'],sparse=True,dtype='i8').max(level=0)
pandaspandaspythonscipyscipy