Python : 我可以获取映射到 mmap 的内存视图或字节数组吗
Python : can I get a memoryview or a bytearray mapping to a mmap
我正在编写一个相当简单的 python 程序,它读取一个 mmap 区域,并可能修改该 mmap 区域中的一些字节,或者可能获取其中一些字节的副本。
mmap 区域有 MB 大,分割成 2048 字节大的帧。程序在该区域连续快速循环,有时会进行复制,几乎所有时间都会触及 2048 字节帧中每个帧中的几个字节。
为了将创建对象所花费的时间限制在最低限度(即:仅在需要副本时创建对象),我想为每个 2048 字节帧创建一个指向内存的 "some object" 列表。
到目前为止,我已经设法使用 ctypes(2048 个字符的数组)做到了这一点,但我发现使用起来很麻烦。我想知道是否有一种方法可以从 mmap 对象创建内存视图或类似 bytearray 的对象,而不是制作内存的实际副本,而是该对象仅指向 mmap。
这是一些代码:
from ctypes import *
import mmap
class fixed_size_frame_2048(Structure):
_fields_ = [("data",c_ubyte * 2048)]
nb_frames = 4096
#mmap initializing code resulting in a map object pointing to shared memory
#the map object is nb_frames*2048 bytes big
map = mmap.mmap(
-1,
2048 * nb_frames,
flags=(mmap.MAP_SHARED),
prot=(mmap.PROT_READ | mmap.PROT_WRITE)
)
.....
#initial creation of frame objects pointing into the mmap area
frames= [ None ] * nb_frames
for i in range(nb_frames) :
frames[i] = fixed_size_frame_2048.from_buffer(self.map,2048*i)
#that I don't manage to make work
#self.frames[i] = memoryview(self.map[2048*i : 2048*(i+1)])
#in the following loop, I never create an object unless I need a copy
position = 0
while True :
if frames[position].data[2] != 0 :
#copy the frame to another object
newcopy = bytearray(frames[position].data)
#do some other stuff with the new object
#....
#write a byte or a few into the mmap area (I'm looking for a more pythonic thing than ctypes here)
frames[position].data[2] = 0
#loop stuff
position += 1
position %= nb_frames
期待阅读任何答案,我被那个答案难住了。我一定是遗漏了一些明显的东西,但是什么?
昨晚比较晚,所以对下面的内容持保留态度:似乎memoryview returns我是ctype对象的地址,而不是ctype对象指向的内存区域。如果我在 map[:] 切片上 运行 bytearray(),我会得到一个副本,如果我在切片上尝试 memoryview,它似乎坚持指向 mmap 的开始。 (或者至少:对于所有 4096 帧 -,它始终指向 mmap 区域中的相同位置)。
认识到 mmap
的切片导致 bytes
是至关重要的。这意味着数据已被复制,因此不再与原始 mmap
.
相关联
因此,首先有必要从 mmap
本身实际创建 memoryview
,然后切分结果 memoryview
。通过这种方式,您可以查看 mmap
.
提供的内存
创建 bytearray
、array
等部分的 memoryview
时,同样的逻辑也适用
所以代码是:
frames = [ None ] * nb_frames
for i in range(nb_frames) :
frames[i] = memoryview(map)[2048*i : 2048*(i+1)]
或恕我直言,更像蟒蛇:
frames = [memoryview(map)[2048*i : 2048*(i+1)] for i in range(nb_frames)]
我正在编写一个相当简单的 python 程序,它读取一个 mmap 区域,并可能修改该 mmap 区域中的一些字节,或者可能获取其中一些字节的副本。
mmap 区域有 MB 大,分割成 2048 字节大的帧。程序在该区域连续快速循环,有时会进行复制,几乎所有时间都会触及 2048 字节帧中每个帧中的几个字节。
为了将创建对象所花费的时间限制在最低限度(即:仅在需要副本时创建对象),我想为每个 2048 字节帧创建一个指向内存的 "some object" 列表。
到目前为止,我已经设法使用 ctypes(2048 个字符的数组)做到了这一点,但我发现使用起来很麻烦。我想知道是否有一种方法可以从 mmap 对象创建内存视图或类似 bytearray 的对象,而不是制作内存的实际副本,而是该对象仅指向 mmap。
这是一些代码:
from ctypes import *
import mmap
class fixed_size_frame_2048(Structure):
_fields_ = [("data",c_ubyte * 2048)]
nb_frames = 4096
#mmap initializing code resulting in a map object pointing to shared memory
#the map object is nb_frames*2048 bytes big
map = mmap.mmap(
-1,
2048 * nb_frames,
flags=(mmap.MAP_SHARED),
prot=(mmap.PROT_READ | mmap.PROT_WRITE)
)
.....
#initial creation of frame objects pointing into the mmap area
frames= [ None ] * nb_frames
for i in range(nb_frames) :
frames[i] = fixed_size_frame_2048.from_buffer(self.map,2048*i)
#that I don't manage to make work
#self.frames[i] = memoryview(self.map[2048*i : 2048*(i+1)])
#in the following loop, I never create an object unless I need a copy
position = 0
while True :
if frames[position].data[2] != 0 :
#copy the frame to another object
newcopy = bytearray(frames[position].data)
#do some other stuff with the new object
#....
#write a byte or a few into the mmap area (I'm looking for a more pythonic thing than ctypes here)
frames[position].data[2] = 0
#loop stuff
position += 1
position %= nb_frames
期待阅读任何答案,我被那个答案难住了。我一定是遗漏了一些明显的东西,但是什么?
昨晚比较晚,所以对下面的内容持保留态度:似乎memoryview returns我是ctype对象的地址,而不是ctype对象指向的内存区域。如果我在 map[:] 切片上 运行 bytearray(),我会得到一个副本,如果我在切片上尝试 memoryview,它似乎坚持指向 mmap 的开始。 (或者至少:对于所有 4096 帧 -,它始终指向 mmap 区域中的相同位置)。
认识到 mmap
的切片导致 bytes
是至关重要的。这意味着数据已被复制,因此不再与原始 mmap
.
因此,首先有必要从 mmap
本身实际创建 memoryview
,然后切分结果 memoryview
。通过这种方式,您可以查看 mmap
.
创建 bytearray
、array
等部分的 memoryview
时,同样的逻辑也适用
所以代码是:
frames = [ None ] * nb_frames
for i in range(nb_frames) :
frames[i] = memoryview(map)[2048*i : 2048*(i+1)]
或恕我直言,更像蟒蛇:
frames = [memoryview(map)[2048*i : 2048*(i+1)] for i in range(nb_frames)]