【代码运行时的内存问题(Python,Networkx)】教程文章相关的互联网学习教程文章

如何在python中将二进制图像转换为内存中的数据结构?【代码】

内容: >我正在使用python 2.6.5 目标: >读取二进制图像文件并在内存中表示它.然后对其运行校验和.交付二进制表示形式,将其存储为mysql中的Blob. 评论: >我已阅读此SO thread.>我查看了struct模块.>我也碰到了io模块.>使用所有可用选项,我不确定哪个是最佳解决方案. BytesIO数据结构似乎适合我的需求.您认为哪一个可以满足我的要求?解决方法: >>> from binascii import crc32 >>> with open(filename, "rb") as f: ... data...

在OS X上运行的Python中读/写另一个进程内存

在Mac OS X Lion上运行时,是否可以使用Python读取/写入另一个进程内存(不是Python进程,并且不使用共享内存或任何东西)? 例如,我要启动Safari并监视Safari使用的多个内存地址. 在Windows中,我找到了很多解决方案,但是可以在Mac OS X上完成吗?解决方法:是的,它可以. 当然,这不是直接的,但是您可以从Python调用所需的任何C API,方法是在C(或Pyrex等)中构建Python扩展模块,或者在Python中使用ctypes. 您要调用的特定C API是task_for_...

Python:脚本中的内存问题【代码】

我编写了一个脚本,在其中读取了大约400万个点和800.000个图.该脚本将每个图的点剪辑,并为每个图保存一个新的文本文件. 一段时间后,我的PC内存已满.我曾尝试在脚本中进行挖掘,但是在xrange(len(sr))中为我进行的每个循环中:替换了每个对象并将剪切的点保存在新的txt文件中. 在这种情况下,有什么策略可以用来提高内存使用率而不降低性能(脚本已经很慢了)?我是python的初学者,对不起,如果问题很简单. 提前致谢詹妮inFile ="C://04-l...

字符串如何存储在python内存模型中【代码】

我来自c背景,并且是python的初学者.我想知道在使用python的情况下字符串实际上是如何存储在内存中的. 我做了类似的事情s="foo"id(s)=140542718184424id(s[0])= 140542719027040 id(s[1])= 140542718832152 id(s[2])= 140542718832152我不明白每个字符如何存储在内存中,为什么s的id不等于s [0]的id(就像以前在c中一样),为什么s1和s2的id相同?解决方法:Python没有字符.索引一个字符串会创建一个新的字符串,如果您不保留对该字符串的...

python递归内存不足【代码】

运行此代码时,OSX通知我我的应用程序内存不足,并暂停了该应用程序. Python使用的空间量很快就打破了10个演出.此代码永远不会达到Python的最大递归级别,它只会遇到525种最坏的情况,但是由于缓存,它应该小得多.我觉得列表链在每个递归级别上都将被复制,但是似乎它是一个全局变量,应该与collat??z()的每次调用共享.我已经在stackoverflow上寻找了类似的问题,但是没有找到相同的问题.# The following iterative sequence is defined fo...

Python读取Linux内存进程错误(/ proc / $pid / mem)【代码】

我已经在某些Linux发行版(Debian,Linux Mint …)上测试了以下代码,并且可以正常工作,但是在CentOS下,即使我以root身份运行,也会出现错误:#!/usr/bin/env python import re maps_file = open("/proc/18396/maps", 'r') mem_file = open("/proc/18396/mem", 'r', 0) for line in maps_file.readlines(): # for each mapped regionm = re.match(r'([0-9A-Fa-f]+)-([0-9A-Fa-f]+) ([-r])', line)if m.group(3) == 'r': # if this is...

如何在Python中使用psutil获得程序的最大内存使用率【代码】

我正在使用以下代码来获取程序的最大内存使用率.import os, subprocess , psutildef mem(cmd):try:with open('in.txt','r') as infile, open('out.txt', 'w') as outfile:p=psutil.Popen("./"+cmd,shell=False,stdin=infile,stdout = outfile)print p.memory_info()except Exception:print "Error"cmd=raw_input()mem(cmd)问题有时是在程序的初始运行中,内存使用量输出为(0,0),但随后它显示正确的输出.我不知道为什么会这样.对于某...

256GB RAM,64位python和64位numpy的Numy内存错误. ulimit问题?【代码】

有很多关于google land中的numpy内存错误的文章,但是我找不到解决我问题的文章.我正在使用具有256GB RAM,64位opensuse 13.1、64位python和64位numpy的高端服务器运行其他人的软件(据我所知).见下文. 原始作者无法获得帮助请求,因此我尽力确定numpy尝试创建的对象的内存大小.首先,这是堆栈跟踪:File "/home/<me>/cmsRelease/trunk/Classes/DotData.py", line 193, in __new__DataObj = numpy.rec.fromarrays(Columns,names = names...

如何使用python请求将图像下载到内存?【代码】

就像这里How to download image using requests一样,但是要使用http://docs.python-requests.org进行存储.解决方法:您可以使用以下代码,将图像数据设置为img而不是磁盘中的文件,而不是可以使用opencv进行操作.import io import requests from PIL import Image import matplotlib.pyplot as plt url = 'http://example.com/img.jpg' data = requests.get(url).content img = Image.open(io.BytesIO(data)) plt.imshow(img) plt.s...

python-为大型对象分配名称似乎会大大增加内存使用量【代码】

通常,当我需要调用一个复杂的公式时,我会将其分解为两行或更多行,以使代码更易于理解.但是,在分析一些计算出RMSE的代码时,我发现这样做似乎会增加代码的内存使用量.这是一个简化的示例:import numpy as np import random from memory_profiler import profile@profile def fun1():#very large datasets (~750 mb each)predicted = np.random.rand(100000000)observed = np.random.rand(100000000)#calculate residuals as interme...

Python:使用Winsound在内存中播放WAV-SND_MEMORY【代码】

我正在尝试从内存而不是文件播放wav文件.这是我尝试过的方法,但是不起作用.>>> with open('my/file/dir/sound.wav','rb') as f: >>> data = f.read() >>> data = base64.b64encode(data) >>> data = data.decode('UTF-8')因此,现在数据是一个字符串对象,表示音频wav文件的字节.>>> winsound.PlaySound(data,winsound.SND_MEMORY) Traceback (most recent call last):File "<string>", line 301, in runcodeFile "<interactive ...

PyCharm中的Python错误消息:无法附加到共享内存段【代码】

我开始在Ubuntu 15.04中使用PyCharm和Python 2.7编写代码.同时,我已经安装了Ubuntu 15.10和PyCharm 4.5.4 CE.现在,当我运行代码时,出现以下错误:QNativeImage: Unable to attach to shared memory segment. (python2.7:8078): Gdk-WARNING **: shmget failed: error 28 (No space left on device) X Error: BadDrawable (invalid Pixmap or Window parameter) 9Major opcode: 62 (X_CopyArea)Resource id: 0x0尽管并不是每次我运...

在python中使用pickle时发生内存泄漏

我有一个很大的泡菜文件,其中包含数百个经过训练的python r模型:这些是使用rpy2库构建的统计模型. 我有一个类,每次调用它的一个方法时都会加载该pickle文件(该方法在循环中多次调用).碰巧,即使没有引用指向加载的内容,也无法释放加载pickle文件内容所需的内存(大约100 MB).我正确打开和关闭输入文件.我还尝试在每次迭代时重新加载pickle模块(甚至rpy).没有什么变化.似乎只是加载内容会永久锁定某些内存.解决方法:我可以重现该问题...

Python FTP“块”迭代器(无需将整个文件加载到内存中)【代码】

关于获取FTP文件并将其写入流(例如字符串缓冲区或文件,然后可以对其进行迭代)的堆栈溢出问题,有几个答案. 如:Read a file in buffer from FTP python 但是,这些解决方案涉及在开始处理内容之前将整个文件加载到内存中或将其下载到磁盘. 我没有足够的内存来缓冲整个文件,并且无法访问该磁盘.这可以通过处理回调函数中的数据来完成,但是我想知道是否有可能将ftp代码包装在某种魔术中,该魔术返回一个迭代器,而不是在回调中添加代码. ...

如何在Python中生成DOCX并将其保存在内存中?【代码】

我的任务是从模板生成DOCX文件,然后通过Flask提供该文件.我使用python-docx-templates,它只是python-docx的包装,允许使用jinja模板. 最后,他们建议使用StringIO仅将文件保存在内存中,因此我的代码如下所示:def report_doc(user_id):# Prepare the data...from docxtpl import DocxTemplatedoc = DocxTemplate(app.root_path+'/templates/report.docx')doc.render({# Pass parameters})from io import StringIOfile_stream = Strin...

NETWORK - 相关标签