FDDB评估代码
FDDB evaluation code
我正在研究 opencv 和 dlib,以便在大学项目中使用人脸检测器,而且我对机器学习和计算机视觉这整个事情真的很陌生。如何使用 FDDB 中的评估代码来评估我的人脸检测代码?我正在使用 dlib 的 CNN 方法从图像中检测人脸。
import cv2
import dlib
image = cv2.imread('..\pessoas\beatles.jpg')
detector = dlib.cnn_face_detection_model_v1("..\mmods\mmod_human_face_detector.dat")
detectedFaces = detector(image)
for face in detectedFaces:
l, t, r, b, c = (int(face.rect.left()), int(face.rect.top()), int(face.rect.right()), int(face.rect.bottom()),
face.confidence)
cv2.rectangle(image, (l, t), (r, b), (255, 0, 0), 2)
cv2.imshow("CNN Detector", image)
cv2.waitKey(0)
cv2.destroyAllWindows()
如您所见,代码非常简单,但我必须计算精度、召回率和 F1 分数来绘制 ROC 曲线,但我还不知道该怎么做,自述文件该项目的 github 没有帮助。
你能解释一下你所在的步骤吗?
您需要从以下位置下载带标签的数据:
http://vis-www.cs.umass.edu/fddb/ 上面写着:下载数据库
之后需要下载结果源码:
http://vis-www.cs.umass.edu/fddb/results.html
然后你需要修改你的程序,使输出看起来像这样:
2002/08/11/big/img_591
1
191 88 164 163 0
2002/08/26/big/img_265
3
52 39 95 95 0
282 59 114 114 0
其中第一个是图像的名称,
然后是该图像中的面孔数量,
然后是每张脸的坐标并重复...
我建议您在 linux 上构建 评估 ,因为它要容易得多(至少对我来说是这样)。
希望对您有所帮助。
对于ubuntu16的我来说,必须按照以下步骤来完成:
下载你检测人脸并得到检测的fddb原始图像数据集result.You可以下载here。这是我的目录:
将所有图片文件路径拼接成一个txt文件,将所有fddb注释拼接成一个txt文件。
您可以下载所有文件here
对于我来说,我将所有FDDB-FOLD-%d.txt
移动到目录all_file_path
,然后通过cat * > filePath.txt
将它们合并到一个文件中
通过cat *ellipse*.txt > annotFile.txt
将所有FDDB-fold-%d-ellipseList.txt
合并为一个txt
请注意,您可能不需要创建它,因为 runEvaluate.pl
已经在 运行ning 过程中为您创建了它。
3.Create FDDB evalute exe,这里下载源码here
然后编译它,你可以更改makefile,查看原因here,添加
INCS = -I/usr/local/include/opencv
LIBS = -L/usr/local/lib -lopencv_core -lopencv_imgproc -lopencv_highgui
-lopencv_ml -lopencv_video -lopencv_features2d -lopencv_calib3d
-lopencv_objdetect -lopencv_contrib -lopencv_legacy
生成文件。
评价,可以用runEvaluate.pl
评价,我(ubuntu16),不能直接运行评价。
4.1 更改GUNPLOT
路径(你应该先安装gnuplot
使用它来创建ROC镜像)
4.2 我用的是矩形检测模型,所以我把$detFormat
改成了0.
my $detFormat = 0; # 0: rectangle, 1: ellipse 2: pixels
4.3 所有图片的相对路径:
my $listFile ="/home/xy/face_sample/evaluation/compareROC/FDDB-folds/filePath.txt";
4.4 所有图片标注
my $annotFile = "/home/xy/face_sample/evaluation/compareROC/FDDB-folds/annotFile.txt";
4.5 你要生成的roc文件(由evaluate exe创建):
my $gpFile ="/home/xy/face_sample/evaluation/compareROC/createROC.p";
4.6 你的检测文件(后面会给出如何创建)
my $detFile ="/home/xy/face_sample/evaluation/compareROC/detDir/fddb_rect_ret1.txt";
It’s content like that:
'runEvaluate.pl'有一些错误,将执行评估更改为以下内容:
system($evaluateBin, "-a", $annotFile, "-d", $detFile, "-f", $detFormat, "-i", $imDir, "-l", $listFile, "-r", $detDir, "-z", ".jpg");
也可以使用命令查看:
xy@xy:~/face_sample/evaluation/compareROC$ ./evaluate \
> -a /home/xy/face_sample/evaluation/compareROC/FDDB-folds/annotFile.txt \
> -d /home/xy/face_sample/evaluation/compareROC/detDir/fddb_rect_ret1.txt \
> -f 0 \
> -i /home/xy/face_sample/evaluation/compareROC/originalPics/ \
> -l /home/xy/face_sample/evaluation/compareROC/FDDB-folds/filePath.txt \
> -r /home/xy/face_sample/evaluation/compareROC/detDir/ \
> -z .jpg
使用python创建fddb评估txt文件:
def get_img_relative_path():
"""
:return: ['2002/08/11/big/img_344', '2002/08/02/big/img_473', ......]
"""
f_name = 'E:/face_rec/face__det_rec_code/face_det/FDDB-folds/all_img_files.txt'
lst_name = open(f_name).read().split('\n')
return lst_name
def write_lines_to_txt(lst):
# lst = ['line1', 'line2', 'line3']
f_path = 'fddb_rect_ret.txt'
with open(f_path, 'w') as fp:
for line in lst:
fp.write("%s\n" % line)
# For example use opencv to face detection
def detect_face_lst(img):
"""
:param img: opencv image
:return: face rectangles [[x, y, w, h], ..........]
"""
m_path = 'D:/opencv/sources/data/haarcascades/haarcascade_frontalface_default.xml'
face_cascade = cv2.CascadeClassifier(m_path)
gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
faces = face_cascade.detectMultiScale(gray, 1.3, 5)
return faces
def generate_fddb_ret():
# The directory from which we get the test images from FDDB
img_base_dir = 'E:/face_rec/face__det_rec_code/face_det/originalPics/'
# All the images relative path, like '['2002/08/11/big/img_344', '2002/08/02/big/img_473', ......]'
lst_img_name = get_img_relative_path()
# Store detect result, like:
# ['2002/08/11/big/img_344', '1', '10 10 50 50 1', .............]
lst_write2_fddb_ret = []
try:
for img_name in lst_img_name:
img_full_name = img_base_dir + img_name + '.jpg'
img = cv2.imread(img_full_name)
if img == None:
print 'error %s not exists, can not generate complete fddb evaluate file' % img_full_name
return -1
lst_face_rect = detect_face_lst(img)
# append img name like '2002/08/11/big/img_344'
lst_write2_fddb_ret.append(img_name)
face_num = len(lst_face_rect)
# append face num, note if no face 0 should be append
lst_write2_fddb_ret.append(str(face_num))
if face_num > 0:
# append each face rectangle x y w h score
for face_rect in lst_face_rect:
# append face rectangle x, y, w, h score
# note: opencv hava no confidence so use 1 here
s_rect = " ".join(str(item) for item in face_rect) + " 1"
lst_write2_fddb_ret.append(s_rect)
except Exception as e:
print 'error %s , can not generate complete fddb evaluate file' % e
return -1
# Write all the result to txt for FDDB evaluation
write_lines_to_txt(lst_write2_fddb_ret)
在运行上面的代码之后你可以创建FDDB结果:
注意:在windows中创建上面的txt时,如果在ubuntu中测试可能会出现如下错误Incompatible annotation and detection files. See output specifications
:
只需将内容复制到一个新的txt文件(在ubuntu中创建)即可解决。
结果如下:
一些提示:
可以看到runEvaluate.pl
其实并不难,上面的改动不一定needed.You也可以在runEvaluate.pl
里面改一些变量,比如[=32] =]、$imDir
等。
添加 "-z", ".jpg"
到
系统($evaluateBin,“-a”,$annotFile,“-d”,$detFile,“-f”,$detFormat,“-i”,$imDir,“-l”,$listFile,“-r”, $detDir);
system($evaluateBin, "-a", $annotFile, "-d", $detFile, "-f", $detFormat, "-i", $imDir, "-l", $listFile, "-r", $detDir, "-z", ".jpg");
大家也可以看看evaluate
的代码(主要是通俗易懂的evaluate.cpp
),对如何求值会有深刻的理解。
我正在研究 opencv 和 dlib,以便在大学项目中使用人脸检测器,而且我对机器学习和计算机视觉这整个事情真的很陌生。如何使用 FDDB 中的评估代码来评估我的人脸检测代码?我正在使用 dlib 的 CNN 方法从图像中检测人脸。
import cv2
import dlib
image = cv2.imread('..\pessoas\beatles.jpg')
detector = dlib.cnn_face_detection_model_v1("..\mmods\mmod_human_face_detector.dat")
detectedFaces = detector(image)
for face in detectedFaces:
l, t, r, b, c = (int(face.rect.left()), int(face.rect.top()), int(face.rect.right()), int(face.rect.bottom()),
face.confidence)
cv2.rectangle(image, (l, t), (r, b), (255, 0, 0), 2)
cv2.imshow("CNN Detector", image)
cv2.waitKey(0)
cv2.destroyAllWindows()
如您所见,代码非常简单,但我必须计算精度、召回率和 F1 分数来绘制 ROC 曲线,但我还不知道该怎么做,自述文件该项目的 github 没有帮助。
你能解释一下你所在的步骤吗?
您需要从以下位置下载带标签的数据: http://vis-www.cs.umass.edu/fddb/ 上面写着:下载数据库
之后需要下载结果源码: http://vis-www.cs.umass.edu/fddb/results.html
然后你需要修改你的程序,使输出看起来像这样:
2002/08/11/big/img_591
1
191 88 164 163 0
2002/08/26/big/img_265
3
52 39 95 95 0
282 59 114 114 0
其中第一个是图像的名称, 然后是该图像中的面孔数量, 然后是每张脸的坐标并重复...
我建议您在 linux 上构建 评估 ,因为它要容易得多(至少对我来说是这样)。
希望对您有所帮助。
对于ubuntu16的我来说,必须按照以下步骤来完成:
下载你检测人脸并得到检测的fddb原始图像数据集result.You可以下载here。这是我的目录:
将所有图片文件路径拼接成一个txt文件,将所有fddb注释拼接成一个txt文件。 您可以下载所有文件here
对于我来说,我将所有FDDB-FOLD-%d.txt
移动到目录all_file_path
,然后通过cat * > filePath.txt
通过cat *ellipse*.txt > annotFile.txt
FDDB-fold-%d-ellipseList.txt
合并为一个txt
请注意,您可能不需要创建它,因为 runEvaluate.pl
已经在 运行ning 过程中为您创建了它。
3.Create FDDB evalute exe,这里下载源码here 然后编译它,你可以更改makefile,查看原因here,添加
INCS = -I/usr/local/include/opencv
LIBS = -L/usr/local/lib -lopencv_core -lopencv_imgproc -lopencv_highgui
-lopencv_ml -lopencv_video -lopencv_features2d -lopencv_calib3d
-lopencv_objdetect -lopencv_contrib -lopencv_legacy
生成文件。
评价,可以用
runEvaluate.pl
评价,我(ubuntu16),不能直接运行评价。4.1 更改
GUNPLOT
路径(你应该先安装gnuplot
使用它来创建ROC镜像)
4.2 我用的是矩形检测模型,所以我把$detFormat
改成了0.
my $detFormat = 0; # 0: rectangle, 1: ellipse 2: pixels
4.3 所有图片的相对路径:
my $listFile ="/home/xy/face_sample/evaluation/compareROC/FDDB-folds/filePath.txt";
4.4 所有图片标注
my $annotFile = "/home/xy/face_sample/evaluation/compareROC/FDDB-folds/annotFile.txt";
4.5 你要生成的roc文件(由evaluate exe创建):
my $gpFile ="/home/xy/face_sample/evaluation/compareROC/createROC.p";
4.6 你的检测文件(后面会给出如何创建)
my $detFile ="/home/xy/face_sample/evaluation/compareROC/detDir/fddb_rect_ret1.txt";
It’s content like that:
'runEvaluate.pl'有一些错误,将执行评估更改为以下内容:
system($evaluateBin, "-a", $annotFile, "-d", $detFile, "-f", $detFormat, "-i", $imDir, "-l", $listFile, "-r", $detDir, "-z", ".jpg");
也可以使用命令查看:
xy@xy:~/face_sample/evaluation/compareROC$ ./evaluate \
> -a /home/xy/face_sample/evaluation/compareROC/FDDB-folds/annotFile.txt \
> -d /home/xy/face_sample/evaluation/compareROC/detDir/fddb_rect_ret1.txt \
> -f 0 \
> -i /home/xy/face_sample/evaluation/compareROC/originalPics/ \
> -l /home/xy/face_sample/evaluation/compareROC/FDDB-folds/filePath.txt \
> -r /home/xy/face_sample/evaluation/compareROC/detDir/ \
> -z .jpg
使用python创建fddb评估txt文件:
def get_img_relative_path():
"""
:return: ['2002/08/11/big/img_344', '2002/08/02/big/img_473', ......]
"""
f_name = 'E:/face_rec/face__det_rec_code/face_det/FDDB-folds/all_img_files.txt'
lst_name = open(f_name).read().split('\n')
return lst_name
def write_lines_to_txt(lst):
# lst = ['line1', 'line2', 'line3']
f_path = 'fddb_rect_ret.txt'
with open(f_path, 'w') as fp:
for line in lst:
fp.write("%s\n" % line)
# For example use opencv to face detection
def detect_face_lst(img):
"""
:param img: opencv image
:return: face rectangles [[x, y, w, h], ..........]
"""
m_path = 'D:/opencv/sources/data/haarcascades/haarcascade_frontalface_default.xml'
face_cascade = cv2.CascadeClassifier(m_path)
gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
faces = face_cascade.detectMultiScale(gray, 1.3, 5)
return faces
def generate_fddb_ret():
# The directory from which we get the test images from FDDB
img_base_dir = 'E:/face_rec/face__det_rec_code/face_det/originalPics/'
# All the images relative path, like '['2002/08/11/big/img_344', '2002/08/02/big/img_473', ......]'
lst_img_name = get_img_relative_path()
# Store detect result, like:
# ['2002/08/11/big/img_344', '1', '10 10 50 50 1', .............]
lst_write2_fddb_ret = []
try:
for img_name in lst_img_name:
img_full_name = img_base_dir + img_name + '.jpg'
img = cv2.imread(img_full_name)
if img == None:
print 'error %s not exists, can not generate complete fddb evaluate file' % img_full_name
return -1
lst_face_rect = detect_face_lst(img)
# append img name like '2002/08/11/big/img_344'
lst_write2_fddb_ret.append(img_name)
face_num = len(lst_face_rect)
# append face num, note if no face 0 should be append
lst_write2_fddb_ret.append(str(face_num))
if face_num > 0:
# append each face rectangle x y w h score
for face_rect in lst_face_rect:
# append face rectangle x, y, w, h score
# note: opencv hava no confidence so use 1 here
s_rect = " ".join(str(item) for item in face_rect) + " 1"
lst_write2_fddb_ret.append(s_rect)
except Exception as e:
print 'error %s , can not generate complete fddb evaluate file' % e
return -1
# Write all the result to txt for FDDB evaluation
write_lines_to_txt(lst_write2_fddb_ret)
在运行上面的代码之后你可以创建FDDB结果:
注意:在windows中创建上面的txt时,如果在ubuntu中测试可能会出现如下错误Incompatible annotation and detection files. See output specifications
:
只需将内容复制到一个新的txt文件(在ubuntu中创建)即可解决。
结果如下:
一些提示:
可以看到
runEvaluate.pl
其实并不难,上面的改动不一定needed.You也可以在runEvaluate.pl
里面改一些变量,比如[=32] =]、$imDir
等。 添加"-z", ".jpg"
到 系统($evaluateBin,“-a”,$annotFile,“-d”,$detFile,“-f”,$detFormat,“-i”,$imDir,“-l”,$listFile,“-r”, $detDir);system($evaluateBin, "-a", $annotFile, "-d", $detFile, "-f", $detFormat, "-i", $imDir, "-l", $listFile, "-r", $detDir, "-z", ".jpg");
大家也可以看看
evaluate
的代码(主要是通俗易懂的evaluate.cpp
),对如何求值会有深刻的理解。