Raspberry Pi 3 上的 OpenCV 多 USB 摄像头
OpenCV multiple USB camera on Raspberry Pi 3
我查看了很多以前与此相关的问题,none 对我有所帮助。
我的设置:
- these之一
- 它们显示为
/dev/video0
和 /dev/video1
- 图像为 640 x 480
- Raspberry Pi 3
- Raspbian杰西
- OpenCV 3.1.0
- Python 2.7
对于其中任何一台相机,我都可以捕捉图像并以相当不错的速度显示它们,延迟时间极短(偶尔出现伪像)。
然而,当我尝试同时使用两者时,我得到 可能 帧速率的十分之一(尽管帧之间的延迟似乎随每一帧变化很大)令人讨厌的图像伪影(例如,见下文)和无法忍受的滞后量。
问题 不是 似乎是相机本身或设备上的 USB 带宽:当我将相机连接到我的 Windows PC 时,我能够以 30 FPS 的速度捕捉和显示,没有任何视觉伪影和极少的延迟。
据我所知,问题一定出在 Pi 硬件、驱动程序或 OpenCV 上。我不认为这是 Pi 硬件。如果我能用两个摄像头实现一个摄像头帧速率的一半(而且我不明白为什么不应该这样做)并且没有丑陋的人工制品,我会很高兴.
有人有什么建议吗? 我最终只是想将两个摄像头的视频从我的 Pi 流式传输到我的桌面。如果有不涉及 OpenCV 的建议,我会洗耳恭听;我并不想在 Pi 上对图像进行任何渲染或操作,但 openCV 是我发现的唯一可以相当快地捕捉图像的东西(当然是用一台相机)。
仅供参考,我使用的简单python脚本是这样的:
import cv2
import numpy as np
import socket
import ctypes
import struct
cap = []
cap.append(cv2.VideoCapture(0))
cap.append(cv2.VideoCapture(1))
#grab a single frame from one camera
def grab(num):
res, im = cap[num].read()
return (res,im)
#grab a frame from each camera and stitch them
#side by side
def grabSBS():
res, imLeft = grab(1)
#next line is for pretending I have 2 cameras
#imRight = imLeft.copy()
res, imRight = grab(0)
imSBS = np.concatenate((imLeft, imRight), axis=1)
return res,imSBS
###For displaying locally instead of streaming
#while(False):
# res, imLeft = grab(0)
# imRight = imLeft.copy()
# imSBS = np.concatenate((imLeft, imRight), axis=1)
# cv2.imshow("win", imSBS)
# cv2.waitKey(20)
header_data = ctypes.create_string_buffer(12)
while(True):
sck = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
sck.bind(("10.0.0.XXX", 12321))
sck.listen(1)
while(True):
(client, address) = sck.accept()
print "Client connected:", address
try:
while(True):
res,im = grabSBS()
if(res):
success, coded = cv2.imencode('.jpg', im)
if (success):
height, width, channels = im.shape
size = len(coded)
struct.pack_into(">i", header_data , 0, width)
struct.pack_into(">i", header_data , 4, height)
struct.pack_into(">i", header_data , 8, size)
client.sendall(header_data .raw)
client.sendall(coded.tobytes())
except Exception as ex:
print "ERROR:", ex
client.close()
sck.close()
exit()
更新:通过在初始化 VideoCapture 对象后添加以下代码行,我让它工作得非常非常好:
cap[0].set(cv2.CAP_PROP_FPS, 15)
cap[1].set(cv2.CAP_PROP_FPS, 15)
这既降低了所需的带宽,也降低了 openCV 的工作负载。我仍然每隔几帧就会遇到这些可怕的伪影,所以如果有人对此有任何建议,我很高兴听到。
嗯,折腾了大约5个小时,我似乎找到了解决办法。
首先,显然 OpenCV 试图以 30 FPS 的速度捕获,即使我无法以 30 FPS 的速度拉帧。我将 VideoCapture 帧速率更改为 15 FPS,视频变得更加流畅和快速。
cap[0].set(cv2.CAP_PROP_FPS, 15.0)
cap[1].set(cv2.CAP_PROP_FPS, 15.0)
不过,这并没有消除工件。我最终发现,如果我在通过网络发送图像后执行 del(im)
,伪影就会完全消失。
我查看了很多以前与此相关的问题,none 对我有所帮助。
我的设置:
- these之一
- 它们显示为
/dev/video0
和/dev/video1
- 图像为 640 x 480
- 它们显示为
- Raspberry Pi 3
- Raspbian杰西
- OpenCV 3.1.0
- Python 2.7
对于其中任何一台相机,我都可以捕捉图像并以相当不错的速度显示它们,延迟时间极短(偶尔出现伪像)。
然而,当我尝试同时使用两者时,我得到 可能 帧速率的十分之一(尽管帧之间的延迟似乎随每一帧变化很大)令人讨厌的图像伪影(例如,见下文)和无法忍受的滞后量。
问题 不是 似乎是相机本身或设备上的 USB 带宽:当我将相机连接到我的 Windows PC 时,我能够以 30 FPS 的速度捕捉和显示,没有任何视觉伪影和极少的延迟。
据我所知,问题一定出在 Pi 硬件、驱动程序或 OpenCV 上。我不认为这是 Pi 硬件。如果我能用两个摄像头实现一个摄像头帧速率的一半(而且我不明白为什么不应该这样做)并且没有丑陋的人工制品,我会很高兴.
有人有什么建议吗? 我最终只是想将两个摄像头的视频从我的 Pi 流式传输到我的桌面。如果有不涉及 OpenCV 的建议,我会洗耳恭听;我并不想在 Pi 上对图像进行任何渲染或操作,但 openCV 是我发现的唯一可以相当快地捕捉图像的东西(当然是用一台相机)。
仅供参考,我使用的简单python脚本是这样的:
import cv2
import numpy as np
import socket
import ctypes
import struct
cap = []
cap.append(cv2.VideoCapture(0))
cap.append(cv2.VideoCapture(1))
#grab a single frame from one camera
def grab(num):
res, im = cap[num].read()
return (res,im)
#grab a frame from each camera and stitch them
#side by side
def grabSBS():
res, imLeft = grab(1)
#next line is for pretending I have 2 cameras
#imRight = imLeft.copy()
res, imRight = grab(0)
imSBS = np.concatenate((imLeft, imRight), axis=1)
return res,imSBS
###For displaying locally instead of streaming
#while(False):
# res, imLeft = grab(0)
# imRight = imLeft.copy()
# imSBS = np.concatenate((imLeft, imRight), axis=1)
# cv2.imshow("win", imSBS)
# cv2.waitKey(20)
header_data = ctypes.create_string_buffer(12)
while(True):
sck = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
sck.bind(("10.0.0.XXX", 12321))
sck.listen(1)
while(True):
(client, address) = sck.accept()
print "Client connected:", address
try:
while(True):
res,im = grabSBS()
if(res):
success, coded = cv2.imencode('.jpg', im)
if (success):
height, width, channels = im.shape
size = len(coded)
struct.pack_into(">i", header_data , 0, width)
struct.pack_into(">i", header_data , 4, height)
struct.pack_into(">i", header_data , 8, size)
client.sendall(header_data .raw)
client.sendall(coded.tobytes())
except Exception as ex:
print "ERROR:", ex
client.close()
sck.close()
exit()
更新:通过在初始化 VideoCapture 对象后添加以下代码行,我让它工作得非常非常好:
cap[0].set(cv2.CAP_PROP_FPS, 15)
cap[1].set(cv2.CAP_PROP_FPS, 15)
这既降低了所需的带宽,也降低了 openCV 的工作负载。我仍然每隔几帧就会遇到这些可怕的伪影,所以如果有人对此有任何建议,我很高兴听到。
嗯,折腾了大约5个小时,我似乎找到了解决办法。
首先,显然 OpenCV 试图以 30 FPS 的速度捕获,即使我无法以 30 FPS 的速度拉帧。我将 VideoCapture 帧速率更改为 15 FPS,视频变得更加流畅和快速。
cap[0].set(cv2.CAP_PROP_FPS, 15.0)
cap[1].set(cv2.CAP_PROP_FPS, 15.0)
不过,这并没有消除工件。我最终发现,如果我在通过网络发送图像后执行 del(im)
,伪影就会完全消失。