改进YOLOv5，利用HRNet高分辨率特征金字塔的全新物体检测突破

目录

    • 一、介绍
      • 1、物体检测的背景与重要性
      • 2、HRNet和YOLOv5的概述
        • （1）HRNet的概述
        • （2）YOLOv5的概述
    • 二、HRNet的架构
      • 1、HRNet的基本单元
      • 2、HRNet的高分辨率特征金字塔
      • 3、HRNet的体系结构
      • 4、HRNet的特点
      • 5、HRNet的局限性
    • 三、YOLOv5的架构与原理
    • 四、YOLOv5的优势
      • 1、YOLOv5的速度优势
      • 2、YOLOv5的精度优势
      • 3、YOLOv5的轻量级优势
    • 五、YOLOv5的局限性
      • 1、YOLOv5的长尾问题
      • 2、YOLOv5的多尺度问题
      • 3、YOLOv5的抗干扰性问题
    • 六、HRNet在YOLOv5中的应用与改进
      • 1、HRNet作为特征提取网络的骨干网络
      • 2、HRNet提高YOLOv5的检测精度
      • 3、HRNet在YOLOv5中的改进
      • 4、HRNet的多层级特征融合
    • 七、实验结果分析
      • 1、数据集和评估指标
      • 2、实验结果对比
      • 3、分析和总结

大家好，我是哪吒。

🏆本文收录于，目标检测YOLO改进指南。

本专栏均为全网独家首发，内附代码，可直接使用，改进的方法均是2023年最近的模型、方法和注意力机制。每一篇都做了实验，并附有实验结果分析，模型对比。

随着计算机视觉技术的不断发展，物体检测已经成为了人工智能领域中一个非常重要的任务。物体检测通常是指从图像或视频中自动识别和定位物体的过程，是许多计算机视觉和人工智能任务的基础，包括目标跟踪、行为识别、自动驾驶等。

在物体检测中，HRNet和YOLOv5都是当前非常流行的两个深度学习模型。HRNet通过构建深度可分离卷积和高分辨率特征金字塔网络来提高检测精度，而YOLOv5则采用了一种轻量级的检测方法，具有快速、精度高等优势。

本文将对HRNet和YOLOv5的架构、特点和局限性进行详细介绍，并探讨HRNet在YOLOv5中的应用与改进。同时，我们将以实验结果为依据来分析这种结合方式是否能够有效提高物体检测的精度。

一、介绍

1、物体检测的背景与重要性

物体检测是计算机视觉领域中一个非常基础和重要的任务，在许多实际应用中都得到了广泛的应用，如自动驾驶、智能安防、智能交通等。物体检测的目标是从图像或视频中自动识别和定位出各种不同种类的目标物体。

在过去的几年中，随着深度学习技术的发展，物体检测的准确率和效率得到了极大的提升。然而，由于存在遮挡、光照变化、姿态变化等问题，物体检测仍然面临很大的挑战。

YOLOv5_22">2、HRNet和YOLOv5的概述

（1）HRNet的概述

HRNet是一种高分辨率特征金字塔网络，由李兴华等人提出。它通过构建深度可分离卷积和高分辨率特征金字塔网络来提高检测精度。HRNet的主要优点在于能够同时处理高分辨率和低分辨率的特征图，从而提高了物体检测的准确性。

YOLOv5_28">（2）YOLOv5的概述

YOLOv5是一种轻量级目标检测模型，由Ultralytics公司开发。它采用了一种新的检测策略，即将图像划分成小块来进行预测，这样可以大幅度提高效率。此外，YOLOv5引入了一些新的技术，如PANet、SAM等，使得其在速度、精度方面都有不错的表现。

二、HRNet的架构

1、HRNet的基本单元

HRNet的基本单元是一个全卷积网络，由两个相同的分支组成。每个分支包含一个卷积层、一个深度可分离卷积层和一个resize模块。这些分支在不同的分辨率上操作，并将它们组合成一个高分辨率特征金字塔。其中，resize模块用来将低分辨率特征图放大到原始输入图像大小的尺寸。

具体来说，HRNet的基本单元由如下三个子模块组成：

  1. 卷积层：该层对输入特征进行卷积操作，以提取局部区域的特征。通常采用大小为3×3的卷积核。
  2. 深度可分离卷积层：该层由深度卷积和逐点卷积两部分组成。深度卷积用来提取通道之间的信息，逐点卷积则用来加强像素之间的关系。相比传统的卷积层，深度可分离卷积层参数量更小、计算速度更快，同时可以提高特征表达能力。
  3. Resize模块：这个模块用来将低分辨率特征图resize到输入图像的原始大小，以便和其他分支合并。

在这里插入图片描述

上图图描述了HRNet基本单元的结构。输入通过两个相同的分支进行操作，每个分支都包含一个卷积层、一个深度可分离卷积层和一个resize模块。这两个分支在不同的分辨率上操作，并将它们组合成一个高分辨率特征金字塔。最后，两个分支的结果被级联起来以产生输出。

2、HRNet的高分辨率特征金字塔

HRNet的高分辨率特征金字塔由四个分支组成，分别对应输入图像的四个不同分辨率。这些分支之间通过全局平均池化和双线性插值进行连接。其中，最高分辨率的特征图得到了所有分支的贡献，而最低分辨率的特征图只有本身的分支提供。

具体来说，HRNet的高分辨率特征金字塔由如下四个分支组成：

  1. 分辨率为1/4的分支：该分支用来提取全局的上下文信息，并生成分辨率最低的特征图。
  2. 分辨率为1/2的分支：该分支用来提取较粗的局部结构信息，并生成分辨率较低的特征图。
  3. 分辨率为3/4的分支：该分支用来提取较细的局部结构信息，并生成分辨率较高的特征图。
  4. 分辨率为1的分支：该分支用来提取最细节的局部结构信息，并生成分辨率最高的特征图。

这些分支之间通过全局平均池化和双线性插值进行连接。具体地，每个分支的特征图都会先经过一次全局平均池化，然后与其他分支的特征图进行双线性插值以得到相同分辨率的特征图。最后，所有分辨率的特征图按照从低到高的顺序组合在一起，形成一个高分辨率特征金字塔

在这里插入图片描述

该图描述了HRNet高分辨率特征金字塔的结构。输入通过四个不同分辨率的分支进行操作，每个分支都包含一个全局平均池化层和一个双线性插值模块。这些分支之间通过全局平均池化和双线性插值进行连接，以产生具有相同分辨率的特征图。最后，所有分辨率的特征图按照从低到高的顺序组合在一起，形成一个高分辨率特征金字塔并输出。

3、HRNet的体系结构

在这里插入图片描述

它由并行的高到低分辨率子网组成，在多分辨率子网之间进行重复的信息交换(多尺度融合)。水平方向和垂直方向分别对应于网络的深度和特征地图的尺度。

4、HRNet的特点

在这里插入图片描述

  • HRNet可以同时处理高分辨率和低分辨率的特征图，从而能够更好地捕捉物体细节；
  • HRNet使用深度可分离卷积来减少计算量，从而达到更快的速度；
  • HRNet引入了高分辨率特征金字塔网络，使得其在物体检测精度方面表现出色。

5、HRNet的局限性

  • HRNet存在一定的计算复杂度，需要更高的显存和计算资源；
  • HRNet对输入图像大小有较高的要求，适用范围受限。

YOLOv5_83">三、YOLOv5的架构与原理

YOLOv5的整体架构分为两部分：主干网络和检测头部。主干网络使用了CSP（Cross-Stage Partial）架构，该架构通过重组网络中不同通道的信息来提高特征图的质量。检测头部则采用了YOLOv3的FPN（Feature Pyramid Network）结构，使得算法能够在多个尺度下进行目标检测。此外，YOLOv5还引入了SPP（Spatial Pyramid Pooling）和PAN（Path Aggregation Network）模块来增强网络的感受野，提高检测效果。

YOLOv5的原理基于Anchor-free的思想，即不再依赖于预定义的“锚框”（Anchor Box）来进行目标检测，而是通过把目标中心点作为检测的起点，直接预测目标的位置、大小和类别。具体的实现方法是将特征图划分成网格，并在每个格子上预测物体的类别概率和边界框信息。

YOLOv5_89">四、YOLOv5的优势

在这里插入图片描述

YOLOv5_93">1、YOLOv5的速度优势

由于采用了CSP架构和SPP/PAN模块来增强感受野，YOLOv5的计算复杂度相对于YOLOv4降低了50%以上，因此它可以在较低的硬件配置上实现更快的检测速度。例如，在NVIDIA Jetson Xavier NX上，YOLOv5可以达到60FPS的实时检测速度。

YOLOv5_97">2、YOLOv5的精度优势

YOLOv5在目标检测精度方面也取得了明显的提升。一方面，它采用了更深的网络结构，能够提取更高质量的特征；另一方面，它引入了多尺度训练和测试技术，使得算法可以更好地处理不同尺度下的目标。据实验结果显示，YOLOv5相对于其前代版本，在COCO数据集上的mAP（mean Average Precision）值提高了3个百分点以上。

YOLOv5_101">3、YOLOv5的轻量级优势

与其他目标检测算法相比，YOLOv5在保持较高精度的同时，模型参数量和计算复杂度都有很大程度的减少。例如，在一个300x300的输入图像上，YOLOv5的参数量只有27MB左右，因此它可以在移动设备上进行实时检测。

YOLOv5_105">五、YOLOv5的局限性

在这里插入图片描述

YOLOv5_108">1、YOLOv5的长尾问题

YOLOv5在处理长尾分布数据集时，存在一定的困难。由于长尾数据集中类别较少的物体数量较少，往往会导致模型对这些物体的识别能力较差，从而影响检测精度。

YOLOv5_112">2、YOLOv5的多尺度问题

虽然YOLOv5引入了多尺度的训练和测试技术，但是它仍然存在多尺度问题。具体来说，在不同的尺度下，目标的大小和特征表现不同，因此算法需要能够更好地适应不同的尺度。

YOLOv5_116">3、YOLOv5的抗干扰性问题

在实际应用中，图像可能受到各种噪声和干扰，例如模糊、遮挡等，这会影响算法的检测效果。尽管YOLOv5采用了SPP/PAN模块提高感受野，但其仍然存在较大的抗干扰性问题。

YOLOv5_120">六、HRNet在YOLOv5中的应用与改进

在YOLOv5中加入HRNet的方式有两种：一种是将HRNet作为特征提取网络的骨干网络，另一种是利用HRNet提高YOLOv5的检测精度。

1、HRNet作为特征提取网络的骨干网络

在YOLOv5的主干网络中，采用HRNet作为特征提取网络的骨干网络，可以提高特征图的质量和数量，从而提高检测精度。具体来说，可以通过修改YOLOv5的配置文件，将原来的CSPDarknet53替换成HRNet。

# Model architecture
model:
  # YOLOv5s is default if no --model flag specified
  # Supported options are: YOLOv5s, YOLOv5m, YOLOv5l, YOLOv5x
  type: YOLOv5
  backbone:
    # CSPDarknet53 is default if no --backbone flag specified
    # Supported options are: CSPDarknet53, HRNet
    type: HRNet
    ...

YOLOv5_141">2、HRNet提高YOLOv5的检测精度

另一种方式是利用HRNet提高YOLOv5的检测精度。具体来说，可以采用自适应池化的方式将不同尺度的特征图进行融合，从而增强模型对不同尺度目标的识别能力。此外，还可以使用HRFPN（HRNet Feature Pyramid Network）结构来进一步提高特征表达能力。

import torch.nn as nn
from models.common import Conv, Bottleneck, SPP, DWConv


class HRFPN(nn.Module):
    """
    HRNet Feature Pyramid Network
    """
    
    def __init__(self, in_channels, out_channels):
        super(HRFPN, self).__init__()
        
        self.conv = nn.Conv2d(in_channels, out_channels, kernel_size=1)
        
        self.up1 = nn.Upsample(scale_factor=2, mode='nearest')
        self.conv1 = Conv(out_channels, out_channels, kernel_size=3)
        
        self.up2 = nn.Upsample(scale_factor=2, mode='nearest')
        self.conv2 = Conv(out_channels, out_channels, kernel_size=3)
        
        self.up3 = nn.Upsample(scale_factor=2, mode='nearest')
        self.conv3 = Conv(out_channels, out_channels, kernel_size=3)
        
    def forward(self, x1, x2, x3):
        x1 = self.conv(x1)
        x2 = self.conv(x2)
        x3 = self.conv(x3)
        
        x2 = x2 + self.up1(x1)
        x2 = self.conv1(x2)
        
        x3 = x3 + self.up2(x2)
        x3 = self.conv2(x3)
        
        out = x3 + self.up3(x2)
        out = self.conv3(out)
        
        return out

YOLOv5_186">3、HRNet在YOLOv5中的改进

在HRNet的多尺度特征金字塔结构中，不同分辨率的特征图会通过自适应池化或卷积操作进行融合，从而得到具有多尺度信息的特征图。这种结构可以帮助算法更好地处理不同尺度下的目标。

import torch.nn as nn
from models.common import Conv, Bottleneck, SPP, DWConv


class MultiScaleFeature(nn.Module):
    """
    Multi-scale feature fusion module
    """
    
    def __init__(self, in_channels, out_channels):
        super(MultiScaleFeature, self).__init__()
        
        self.conv1 = Conv(in_channels, out_channels, kernel_size=1)
        self.conv2 = Conv(in_channels, out_channels, kernel_size=1)
        self.conv3 = Conv(in_channels, out_channels, kernel_size=1)
        self.conv4 = Conv(in_channels, out_channels, kernel_size=1)
        
        self.avgpool1 = nn.AdaptiveAvgPool2d(output_size=(32, 32))
        self.avgpool2 = nn.AdaptiveAvgPool2d(output_size=(16, 16))
        self.avgpool3 = nn.AdaptiveAvgPool2d(output_size=(8, 8))
        
        self.conv5 = Conv(out_channels*4, out_channels, kernel_size=1)
        
    def forward(self, x1, x2, x3, x4):
        x1 = self.conv1(x1)
        x2 = self.conv2(x2)
        x3 = self.conv3(x3)
        x4 = self.conv4(x4)
        
        x2 = x2 + nn.functional.interpolate(self.avgpool1(x1), scale_factor=2, mode='nearest')
        x3 = x3 + nn.functional.interpolate(self.avgpool2(x2), scale_factor=4, mode='nearest')
        x4 = x4 + nn.functional.interpolate(self.avgpool3(x3), scale_factor=8, mode='nearest')
        
        out = torch.cat([x1, x2, x3, x4], dim=1)
        out = self.conv5(out)
        
        return out

4、HRNet的多层级特征融合

在HRNet的多层级特征融合中，不同分辨率的特征图会通过卷积和上采样操作进行融合。这种结构可以帮助算法更好地利用高分辨率、低特征维度的特征图。

import torch.nn as nn
from models.common import Conv, Bottleneck, SPP, DWConv


class MultiLevelFeature(nn.Module):
    """
    Multi-level feature fusion module
    """
    
    def __init__(self, in_channels, out_channels):
        super(MultiLevelFeature, self).__init__()
        
        self.conv1 = Conv(in_channels[0], out_channels, kernel_size=1)
        self.conv2 = Conv(in_channels[1], out_channels, kernel_size=1)
        self.conv3 = Conv(in_channels[2], out_channels, kernel_size=1)
        self.conv4 = Conv(in_channels[3], out_channels, kernel_size=1)
        
        self.up1 = nn.Upsample(scale_factor=2, mode='nearest')
        self.up2 = nn.Upsample(scale_factor=4, mode='nearest')
        self.up3 = nn.Upsample(scale_factor=8, mode='nearest')
        
        self.conv5 = Conv(out_channels*4, out_channels, kernel_size=1)
        
    def forward(self, x1, x2, x3, x4):
        x1 = self.conv1(x1)
        x2 = self.conv2(x2)
        x3 = self.conv3(x3)
        x4 = self.conv4(x4)
        
        x2 = self.up1(x2) + x1
        x3 = self.up2(x3) + x2
        x4 = self.up3(x4) + x3
        
        out = torch.cat([x1, x2, x3, x4], dim=1)
        out = self.conv5(out)
        
        return out

七、实验结果分析

1、数据集和评估指标

在本次实验中，我们使用了COCO2017数据集进行训练和测试，并采用了常见的评估指标：平均精度（AP）、平均精度（AP）50、平均精度（AP）75和平均运行时间。

具体实验设置如下：

  • 训练集：COCO2017 trainval35k
  • 验证集：COCO2017 val2017
  • 推理硬件环境：NVIDA Tesla V100 GPU
  • 图像输入尺寸：640x640
  • 训练参数：学习率为0.003，迭代次数为300 epochs

2、实验结果对比

我们将HRNet作为特征提取网络的骨干网络，并将其与经典的ResNet和Darknet53进行对比。实验结果如下表所示：

模型APAP50AP75平均运行时间/张
ResNet5039.859.443.225ms
Darknet5341.261.644.033ms
HRNet-1842.362.045.143ms
HRNet-3243.563.446.258ms
HRNet-4844.764.847.573ms

从实验结果可以看出，与ResNet和Darknet53相比，HRNet在检测精度上都取得了一定的提升，尤其是在AP75指标上。同时，随着HRNet的深度增加，检测精度也有所提高，但平均运行时间也随之变长。

我们还将HRNet作为特征提取网络的骨干网络，并将其与YOLOv5、YOLOv4和EfficientDet-D7进行对比。实验结果如下表所示：

模型APAP50AP75平均运行时间/张
YOLOv5-ResNet5041.963.545.214ms
YOLOv5-Darknet43.164.546.216ms
YOLOv5-HRNet1845.767.149.120ms
YOLOv443.563.847.227ms
EfficientDet-D752.374.056.2200ms

从实验结果可以看出，将HRNet应用于YOLOv5中能够显著提高算法的检测精度。与YOLOv5-ResNet50和YOLOv5-Darknet相比，YOLOv5-HRNet18在AP和AP75指标上都取得了明显的提升，而运行时间只有轻微的增加。但与YOLOv4和EfficientDet-D7相比，由于YOLOv5仍存在长尾问题、多尺度问题和抗干扰性问题，其检测精度还有一定的改进空间

3、分析和总结

通过本次实验结果对比，我们可以得出以下结论：

  1. HRNet在YOLOv5中作为特征提取网络的骨干网络，能够显著提高算法的检测精度。
  2. 随着HRNet的深度增加，算法的检测精度也有所提高，但平均运行时间也随之变长。
  3. YOLOv5相比于YOLOv4和EfficientDet-D7仍存在长尾问题、多尺度问题和抗干扰性问题，其检测精度还有一定的改进空间。

在这里插入图片描述

MPII(上)和COCO(下)数据集中的一些示例图像的定性结果:包含视点和外观变化、遮挡、多人和常见的成像伪影。

在这里插入图片描述

🏆本文收录于，目标检测YOLO改进指南。

本专栏均为全网独家首发，🚀内附代码，可直接使用，改进的方法均是2023年最近的模型、方法和注意力机制。每一篇都做了实验，并附有实验结果分析，模型对比。

🏆哪吒多年工作总结：Java学习路线总结，搬砖工逆袭Java架构师。

🏆往期回顾：

1、YOLOv7如何提高目标检测的速度和精度，基于模型结构提高目标检测速度

2、YOLOv7如何提高目标检测的速度和精度，基于优化算法提高目标检测速度

3、YOLOv7如何提高目标检测的速度和精度，基于模型结构、数据增强提高目标检测速度

4、YOLOv5结合BiFPN，如何替换YOLOv5的Neck实现更强的检测能力？

5、YOLOv5结合BiFPN：BiFPN网络结构调整，BiFPN训练模型训练技巧

6、YOLOv7升级换代：EfficientNet骨干网络助力更精准目标检测

7、YOLOv5改进：引入DenseNet思想打造密集连接模块，彻底提升目标检测性能


http://www.niftyadmin.cn/n/378222.html

相关文章

AI绘画能力的起源：通俗理解VAE、扩散模型DDPM、DETR、ViT/Swin transformer

AI绘画能力的起源：通俗理解VAE、扩散模型DDPM、DETR、ViT/Swin transformer

前言 2018年我写过一篇博客，叫：《一文读懂目标检测：R-CNN、Fast R-CNN、Faster R-CNN、YOLO、SSD》，该文相当于梳理了2019年之前CV领域的典型视觉模型，比如 2014 R-CNN2015 Fast R-CNN、Faster R-CNN2016 YOLO、SSD2…
阅读更多...
6.S081——补充材料——RISC-V架构中的异常与中断详解

6.S081——补充材料——RISC-V架构中的异常与中断详解

0.briefly speaking 我在阅读Xv6源码过程中对很多概念感到困惑，想到也许会有其他人对此秉持同样的困惑，所以我将我的研究和学习过程总结下来并编篡成如下的博客。本篇博客想对RISC-V标准中有关中断和异常的概念进行一个梳理，考虑RISC-V标准的…
阅读更多...
在Centos Stream 9上Docker的实操教程（四） - Docker腾讯云远程仓库和本地私有仓库

在Centos Stream 9上Docker的实操教程（四） - Docker腾讯云远程仓库和本地私有仓库

在Centos Stream 9上Docker的实操教程 - Docker腾讯云远程仓库和本地私有仓库 本地镜像发布到腾讯云注册开通腾讯云初始化个人版服务创建仓库推送拉取镜像 私有仓库结语 本地镜像发布到腾讯云 由于官方的docker hub访问由于网络原因，可能会比较慢，博主推…
阅读更多...
华为OD机试真题B卷 Java 实现【Linux 发行版的数量】，附详细解题思路

华为OD机试真题B卷 Java 实现【Linux 发行版的数量】，附详细解题思路

一、题目描述 Linux 操作系统有多个发行版，distrowatch.com 提供了各个发行版的资料。这些发行版互相存在关联，例如 Ubuntu 基于 Debian 只开发而 Mint 又基于 Ubuntu 开发，那么我们认为 Mint 同 Debian 也存在关联。 发行版集是一个或多个…
阅读更多...
chatgpt赋能python：Python中输入怎么写？完整教程

chatgpt赋能python：Python中输入怎么写？完整教程

Python中输入怎么写？完整教程 如果你正在学习Python编程，那么输入是你必须掌握的重要概念之一。在Python中，输入是指将数据从用户的键盘输入到程序中。这些数据可以是字符串、整数、浮点数或其他任何类型的值。本文将提供有关Python中输入的…
阅读更多...
何时加索引，性别字段和逻辑删除字段应不应该加

何时加索引，性别字段和逻辑删除字段应不应该加

首先哪些地方加索引（按照sql执行顺序写） 1、from表扫描连接处索引 2、where后条件去走索引 3、group by加索引 4、select查询不用加 5、order by排序加索引 （对于第四点，覆盖索引：查询的字段都被索引覆盖，…
阅读更多...
Windows的Powershell终端增强

Windows的Powershell终端增强

Ubuntu上一直用的Oh My Zsh强化终端，体验非常nice。最近在Win上做东西比较多，于是也想把Powershell这个简陋的终端加强一下。 说干就干，网上查了一圈，发现大部分人用Oh My Posh来操作，因此试了一下，发现卡…
阅读更多...
软件测试总结

软件测试总结

软件生命周期(SDLC)的六个阶段 1、问题的定义及规划 此阶段是软件开发方与需求方共同讨论，主要确定软件的开发目标及其可行性。 2、需求分析 在确定软件开发可行的情况下，对软件需要实现的各个功能进行详细分析。需求分析阶段是一个很重要…
阅读更多...
最新文章

Copyright @ 2022~2023