微调 Faster RCNN 对象检测模型后，如何可视化 bbox 预测？

Question

我在自己的自定义数据集上微调了 pytorch torchvision 模型 = torchvision.models.detection.fasterrcnn_resnet50_fpn(pretrained=True)。

我遵循了这个指南https://pytorch.org/tutorials/intermediate/torchvision_tutorial.html#torchvision-object-detection-finetuning-tutorial，但只训练了 Faster RCNN，而不是 Mask RCNN。

我成功地完成了训练，没有错误，模型返回了一个包含预测框、标签和分数的字典。

在我遵循的指南中，他们展示了如何可视化训练模型预测的掩码。是否有类似的方法来可视化边界框？我在解决这个问题时遇到了很多麻烦。

谢谢

Answer 1

来自 FasterRCNN 的预测的形式为：

>>> predictions = model([input_img_tensor])
[{'boxes': tensor([[419.6865, 170.0683, 536.0842, 493.7452],
          [159.0727, 180.3606, 298.8194, 434.4604],
          [439.7836, 222.6208, 452.0138, 271.8359],
          [444.3562, 224.4628, 456.1511, 265.5336],
          [437.7808, 226.5965, 446.2904, 271.2691]], grad_fn=<StackBackward>),
  'labels': tensor([ 1,  1, 32, 32, 32]),
  'scores': tensor([0.9997, 0.9996, 0.5827, 0.2102, 0.0943], grad_fn=<IndexBackward>)}]

其中预测框为 [x1, y1, x2, y2] 格式，值介于 0 和 H 以及 0 和 W 之间。

您可以使用 OpenCV 的 rectangle 函数在图像上叠加边界框。

import cv2
img = cv2.imread('input_iamge.png', cv2.COLOR_BGR2RGB)

for i in range(len(predictions[0]['boxes'])):
    x1, x2, x3, x4 = map(int, predictions[0]['boxes'][i].tolist())
    print(x1, x2, x3, x4)
    image = cv2.rectangle(img, (x1, x2), (x3, x4), (255, 0, 0), 1)

cv2_imshow('img', image)

Answer 2

您可以使用FiftyOne to easily make your dataset and add predictions to it. You can then visualize them in an interactive App. This tutorial follows a similar workflow to what you were doing: https://voxel51.com/docs/fiftyone/tutorials/evaluate_detections.html

这比必须单独可视化每个图像要好得多。

微调 Faster RCNN 对象检测模型后，如何可视化 bbox 预测？

After finetuning Faster RCNN object detection model, how to visualize bbox prediction?

computer-vision

deep-learning

pytorch

torchvision

faster-rcnn