问题描述

coco_detection训练测试生成的 pth 和 .pkl能生成 precision 和 recall
coco_instance训练测试生成的 pth和.pkl,在Evaluation的过程中会报未知错误

image.png

AttributeError: ‘list’ object has no attribute ‘shape’, 应该是本应该是numpy的数据,而.pkl出来的是 list数据

debug方案

对比detection 和 coco的数据格式

instance 检测结果

image.png

type(det_results[0]) list
type(det_results[0][0]) list
type(det_results[0][0][0]) numpy.ndarray

detection结果

type(det_results[0]) list
type(det_results[0][0]) numpy.ndarray
type(det_results[0][0][0]) numpy.ndarray
type(det_results[0][0][0][0]) numpy.float32

image.png
image.png

解决方法