1. 首页
  2. 教育
  3. 深度学习

解析OpenVINO™ + SSD 实时对象检测

前面我们了解OpenVINO 如何部署图像分类网络ResNet,本文我们将会学习OpenVINO 中对象检测网络的部署与推理应用。说到对象检测网络,我们首先需要理解两个概念:对象检测与对象检测网络。

前面我们了解OpenVINO 如何部署图像分类网络ResNet,本文我们将会学习OpenVINO 中对象检测网络的部署与推理应用。说到对象检测网络,我们首先需要理解两个概念:对象检测与对象检测网络。

SSD对象检测模型

对象检测是计算机视觉核心任务之一,也是最常见与应用最广泛的视觉场景。OpenVINO 已经提供了以下通用场景下的对象检测包括人脸检测、行人检测、物体检测、车辆检测、车牌检测等,一个图像对象检测显示示意图如下:

解析OpenVINO™ + SSD 实时对象检测

图-1(来自SSD论文)

相比图像分类,对象检测多了每个对象位置信息,所以简单的认为对象检测=图像分类+Box位置信息。第一个深度学习相关的对象检测网络正是基于这样思想的RCNN模型,但是它的缺点是无法实时,所以2015年底有人提出了一个实时对象检测网络Single Shot MultiBox Detector缩写为SSD。它的模型结构如下:

解析OpenVINO™ + SSD 实时对象检测

图2(来自SSD论文)

图2中SSD对象检测网络简单说可以分为三个部分:

– 基础网络(backbone) 这里为VGG16

– 特征提取Neck,构建多尺度特征

– 检测头 – 非最大抑制与输出

OpenVINO 中模型库自带预训练的人脸检测网络有很多,分别针对不同的应用场景与输入分辨率。这里我们以face-detection-0202人脸检测模型为例说明,它是一个MobileNetV2作为基础网络的SSD对象检测模型,模型支持的输入图像大小与格式如下:

NCHW=1x3x384x384其中

N表示图像数目,这里为1

C表示输入图像通道数目,这里彩色图像为3

H表示图像高度

W表示图像宽度

期望的图像通道顺序:BGR

解析OpenVINO™ + SSD 实时对象检测

图-3

模型推理计算得输出格式为:

1x1xNx7其中

N表示检测到的对象数目

7表示[image_id, label, conf, x_min, y_min, x_max, y_max]这七个值,其中

Image_id 表示图像编号,这个输入的是一张图像,base为0

Label 表示标签,跟数据集的label_map文本文件相关,根据标签编号可以查找标签文本名

Conf 表示对象的置信度,取值范围在0~1之间,值越大表示置信程度越高

x_min, y_min, x_max, y_max 四个值对象位置信息,分别是左上角与有下角的坐标

该模型的相关性能参数如下:

解析OpenVINO™ + SSD 实时对象检测

图-4

从上面我们可以知道模型来自Pytorch训练生成。

OpenVINO基于SSD模型实时人脸检测

现在我们已经了解SSD模型的基本网络结构,OpenVINO 自带SSD人脸检测模型face-detection-0202的输入与输出相关格式与参数细节信息,这里我们就基于该模型使用OpenVINO 中的推理引擎模型实现一个实时人脸检测应用,根据之前的内容,我们首先需要加载模型,相关代码如下:

// 加载检测模型

auto network = ie.ReadNetwork(model_xml, model_bin);

其中

model_xml表示face-detection-0202模型文件

model_bin表示face-detection-0202权重文件

然后设置模型的输入与输出相关的格式,代码如下:

// 请求网络输入与输出信息

InferenceEngine::InputsDataMap input_info(network.getInputsInfo());

InferenceEngine::OutputsDataMap output_info(network.getOutputsInfo());

// 设置输入格式

for (auto &item : input_info) {

auto input_data = item.second;

input_data->setPrecision(Precision::U8);

input_data->setLayout(Layout::NCHW);

}

printf(“get it “);

// 设置输出格式

for (auto &item : output_info) {

auto output_data = item.second;

output_data->setPrecision(Precision::FP32);

}

加载可执行网络,创建推理请求对象实例,代码如下:

// 创建可执行网络对象

auto executable_network = ie.LoadNetwork(network, “CPU“);

// 请求推断图

auto infer_request = executable_network.CreateInferRequest();

设置推理输入图像数据,转换为NCHW格式的blob数据,代码如下:

/** Getting input blob **/

auto input = infer_request.GetBlob(input_name);

size_t num_channels = input->getTensorDesc().getDims()[1];

size_t h = input->getTensorDesc().getDims()[2];

size_t w = input->getTensorDesc().getDims()[3];

size_t image_size = h*w;

Mat blob_image;

resize(src, blob_image, Size(w, h));

// NCHW

unsigned char* data = static_cast(input->buffer());

for (size_t row = 0; row < h; row++) {

for (size_t col = 0; col < w; col++) {

for (size_t ch = 0; ch < num_channels; ch++) {

data[image_size*ch + row*w + col] = blob_image.at(row, col)[ch];

}

}

}

预测与解析输出结果,代码如下:

// 执行预测

infer_request.Infer();

// 处理输出结果

for (auto &item : output_info) {

auto output_name = item.first;

// 获取输出数据

auto output = infer_request.GetBlob(output_name);

const float* detection = static_cast::value_type*>(output->buffer());

const SizeVector outputDims = output->getTensorDesc().getDims();

const int maxProposalCount = outputDims[2];

const int objectSize = outputDims[3];

// 解析输出结果

for (int curProposal = 0; curProposal < maxProposalCount; curProposal++) {

float label = detection[curProposal * objectSize + 1];

float confidence = detection[curProposal * objectSize + 2];

float xmin = detection[curProposal * objectSize + 3] * image_width;

float ymin = detection[curProposal * objectSize + 4] * image_height;

float xmax = detection[curProposal * objectSize + 5] * image_width;

float ymax = detection[curProposal * objectSize + 6] * image_height;

if (confidence > 0.5) {

printf(“label id : %d “, static_cast(label));

Rect rect;

rect.x = static_cast(xmin);

rect.y = static_cast(ymin);

rect.width = static_cast(xmax – xmin);

rect.height = static_cast(ymax – ymin);

putText(src, “OpenVINO-2021R02”, Point(20, 20), FONT_HERSHEY_SIMPLEX, 0.75, Scalar(0, 0, 255), 2, 8);

rectangle(src, rect, Scalar(0, 255, 255), 2, 8, 0);

}

std::cout << std::endl;

}

}

imshow(“OpenVINO+SSD人脸检测”, src);

最终显示结果如下:

解析OpenVINO™ + SSD 实时对象检测

图-5

总结

本文我们完成了OpenVINO 人脸检测模型的推理调用演示,关键知识点在于模型的输入与输出格式,以及推理以后的模型输出数据的解析方式。到这里大家希望借助OpenVINO 实现一个视频版本的人脸检测,没关系,下一次我们将来完成这样的事情……

编辑:jq

免责声明:本站旨在传递信息,不代表有传资讯的观点和立场。本站遵循行业规范,如转载您的文章未标注版权,请联系我们(QQ:78799268)改正。本站的原创文章,如若转载,请注明出处:http://www.ainoline.cn/jiaoyu/shenduxuexi/18218.html

发表评论

邮箱地址不会被公开。 必填项已用*标注

联系我们

在线咨询:点击这里给我发消息

邮件:78799268@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

QR code