python-2.7 – 来自oracle数据库的大数据的内存管理

我使用下面的示例脚本使用cx_oracle从oracle数据库提取大数据:

from cx_Oracle import connect

TABLEDATA = []

con = connect("user/password@host")
curs = con.cursor()
curs.execute("select * from TABLE where rownum < 100000")

for row in curs:
    TABLEDATA.append([str(col) for col in list(row)])

curs.close()                        
con.close()

存储在列表中的问题是它最终达到大约800-900mb的RAM使用.
我知道我可以将其保存在文件中而不是存储在列表中但我使用此列表来使用QTABLEVIEW和QABSTRACTTABLE MODEL显示表.

有没有替代或更有效的方法,我可以最小化存储这些数据的内存使用,并使用它来显示我的表?

解决方法

我尝试了多个possobilities,我认为qsqltablemodel不适合我.虽然它直接从数据库加载数据,但随着您向下滚动它会在表中加载越来越多的数据,因此内存使用量不断增加.

我认为最理想的工作是能够在模型中加载设定的行数.向下滚动时,它会加载新行,但同时也会卸载已存在的行.所以在任何时候我们只在模型中加载了设置的行数.

相关文章

功能概要:(目前已实现功能)公共展示部分:1.网站首页展示...
大体上把Python中的数据类型分为如下几类: Number(数字) ...
开发之前第一步,就是构造整个的项目结构。这就好比作一幅画...
源码编译方式安装Apache首先下载Apache源码压缩包,地址为ht...
前面说完了此项目的创建及数据模型设计的过程。如果未看过,...
python中常用的写爬虫的库有urllib2、requests,对于大多数比...