YOLOv1-v7全系列大解析(Backbone篇)

写在前面

【Make YOLO Great Again】栏目专注于从更实战,更深刻的角度解析YOLOv1-v7这个CV领域举足轻重的算法系列,并给出其在业务侧,竞赛侧以及研究侧的延伸思考。欢迎大家一起交流学习💪,分享宝贵的ideas与思考~

大家好,我是Rocky。

近年来YOLO系列层出不穷,更新不断,已经到v7版本。Rocky认为不能简单用版本高低来评判一个系列的效果好坏,YOLOv1-v7不同版本各有特色,在不同场景,不同上下游环境,不同资源支持的情况下,如何从容选择使用哪个版本,甚至使用哪个特定部分,都需要我们对YOLOv1-v7有一个全面的认识

故Rocky将YOLO系列每个版本都表示成下图中的五个部分,逐一进行解析,并将每个部分带入业务向,竞赛向,研究向进行延伸思考,探索更多可能性。

【Make YOLO Great Again】YOLOv1-v7全系列大解析(Neck篇)【Make YOLO Great Again】YOLOv1-v7全系列大解析(Head篇)以及【Make YOLO Great Again】YOLOv1-v7全系列大解析(输入侧篇)已经发布,大家可按需取用~

本文将聚焦于YOLO系列Backbone知识的分享,希望能让江湖中的英雄豪杰获益,也希望大家提出宝贵的建议与观点,让这个栏目更加繁荣。

关于作者

Rocky在校招期间拿到了北京,上海,杭州,深圳,广州等地的约10个算法offer,现在是一名算法工程师,目前在国内大厂专注于AI算法解决方案的实现与创新业务的应用落地。

在研究生期间,Rocky曾在京东研究院,星环科技,联想研究院,北大方正信产集团研究院,百融云创等公司做算法实习生。

Rocky喜欢参加算法竞赛,多次获得CVPR,AAAI,Kaggle平台的算法竞赛冠军和Top成绩。

Rocky相信人工智能,数据科学,商业逻辑,金融工具,终身成长,以及顺应时代的潮流会赋予我们超能力。

Rocky多次进行创业实践,深刻理解商业模式,上下游,现金流,成本利润,产品销量等维度对公司生存的影响。

Rocky喜欢分享和交流,秉持着“也要学习也要酷”的生活态度,希望能和大家多多交流。CV算法,面试,简历,求职等问题都可直接和我交流~

So,enjoy(与本文的BGM一起食用更佳哦):

干货篇

----【目录先行】----

  1. YOLO系列中Backbone结构的特点

  2. YOLOv1 Backbone解析

  3. YOLOv2 Backbone解析

  4. YOLOv3 Backbone解析

  5. YOLOv4 Backbone解析

  6. YOLOv5 Backbone解析

  7. YOLOx Backbone解析

  8. YOLOv6 Backbone解析

  9. YOLOv7 Backbone解析

【一】YOLO系列中Backbone结构的特点

YOLO系列中的Backbone结构主要作为网络的一个核心特征提取器,随着时代的变迁不断发展。

某种程度上,YOLO系列的各个Backbone代表着当时的高价值模型与AI行业的发展记忆,计算机视觉江湖上,曾出现的那些“算法兵器”,它们确实来过。

Backbone与输入侧一样,是通用性非常强的一个部分,具备很强的向目标检测其他模型,图像分类,图像分割,目标跟踪等方向迁移应用的价值。

从业务向,竞赛向,研究向等角度观察,Backbone结构也能在这些方面比较好的融入,从容。

【二】YOLOv1 Backbone解析

YOLOv1的Backbone有着朴素的逻辑,主要受启发于GoogLeNet的结构

YOLOv1整体结构

YOLOv1的backbone结构中使用了Leaky ReLu激活函数,但并没有引入BN层。

【Rocky的延伸思考】

  1. YOLOv1 Backbone逻辑在整个YOLO系列中已不具备竞争力,但是可以作为业务向,竞赛向的入场Baseline,快速搭建,快速试错。

【三】YOLOv2 Backbone解析

YOLOv2的Backbone在YOLOv1的基础上设计了Darknet-19网络,并引入了BN层优化模型整体性能

Darknet-19网络结构

Darknet-19网络包含19个卷积层和5个max pooling层,整体计算量比YOLOv1中采用的GooleNet更少,最后用average pooling层代替全连接层进行Inference。

在YOLOv2的Backbone中加入BN层之后,使得mAP提升了2%,而BN层也成为了YOLO后续系列的标配。

【Rocky的延伸思考】

  1. 业务向:YOLOv2 Backbone结构完全可以应用于业务baseline模型。

【四】YOLOv3 Backbone解析

YOLOv3的Backbone在YOLOv2的基础上设计了Darknet-53结构

YOLOv3将YOLOv2的Darknet-19加深了网络层数,并引入了ResNet的残差思想,也正是残差思想让YOLOv3将Backbone深度大幅扩展至Darknet-53。

YOLOv3优化了下采样方式(无池化层结构),采用卷积层来实现,而YOLOv2中采用池化层实现。

【Rocky的延伸思考】

  1. YOLOv3的Backbone无论是在业务向,竞赛向还是研究向,都可以作为入场Baseline。

【五】YOLOv4 Backbone解析

YOLOv4的Backbone在YOLOv3的基础上,受CSPNet网络结构启发,将多个CSP子模块进行组合设计成为CSPDarknet53,并且使用了Mish激活函数

CSPDarknet53总共有72层卷积层,遵循YOLO系列一贯的风格,这些卷积层都是大小,步长为2的设置,能起到特征提取与逐步下采样的作用。

CSP子模块主要解决了由于梯度信息重复导致的计算量庞大的问题。

CSP模块不仅仅是一个子结构,更是一个处理思想,可以和ResNet、ResNext、DenseNet、EfficientNet等网络结合使用。

DenseNet结构与CSP模块结构

上图左侧是DenseNet的结构,它进行反向传播时会有大量的重复计算,而右侧的图是CSP模块结构,它将基础层的特征图分成两部分,一部分直接与该阶段的末尾concat相连,另一部分经过局部Dense模块,从而既能保留Dense模块的特征复用,又能截断梯度流,避免大量的重复计算,同时可以保证准确率。

总的来说,CSP模块解决了三个方面的问题:

  1. 提升模型的学习能力,同时使模型轻量化。
  2. 降低计算瓶颈,提高硬件利用率。
  3. 降低模型的内存占用。

CSP模块逻辑也可以迁移到其他Backbone网络,例如优化ResNet以提升性能:

ResNet的CSP化

CSPNet论文地址:CSPNet

YOLOv4论文中通过消融实验发现使用Mish激活函数会提升性能,于是在Backbone中将其使用。(注:除Backbone以外的网络结构依旧使用LeakyReLU激活函数)

Mish激活函数消融实验

Mish激活函数的示意图如下,其有三个主要特征:

  1. 无上界有下界。Mish向上无边界避免了由于封顶而导致的梯度饱和,加快训练过程。向下有边界有助于实现强正则化效果。
  2. 非单调函数。允许其在负半轴有稳定的微小负值,从而使梯度流更稳定。与ReLU负半轴的硬零边界相比,其梯度更平滑。
  3. 无穷连续性与光滑性。具有较好的泛化能力,提高训练结果的质量。

Mish激活函数

Mish激活函数的表达式:

Mish激活函数论文地址:Mish激活函数

【Rocky的延伸思考】

  1. 业务向:YOLOv4 Backbone中使用的CSP思想可以方便地与业务场景相结合。
  2. 竞赛向:YOLOv4 Backbone中提到的CSP结构和Mish激活函数在竞赛中是比较有效的Tricks。
  3. 研究向:YOLOv4 Backbone具备作为研究Baseline的价值。

【六】YOLOv5 Backbone解析

YOLOv5的Backbone同样使用了YOLOv4中使用的CSP思想

值得一提的是,YOLOv5最初版本中会存在Focus结构,在YOLOv5第六版开始后,就舍弃了这个结构改用的常规卷积,其产生的参数更少,效果更好。

Focus结构

【Rocky的延伸思考】

  1. YOLOv5 Backbone的易用性使得其不管在业务向,竞赛向还是研究向都非常友好。

【七】YOLOx Backbone解析

YOLOx的Backbone沿用了YOLOv3的Backbone结构,故在此不在展开介绍。

【八】YOLOv6 Backbone解析

YOLOv6的Backbone侧在YOLOv5的基础上,设计了EfficientRep Backbone结构

和YOLOv5的Backbone相比,YOLOv6的Backbone不但能够高效利用硬件算力,而且还具有较强的表征能力。

YOLOv6的Backbone中将普通卷积都替换成了RepConv结构。同时,在RepConv基础上设计了RepBlock结构,其中RepBlock中的第一个RepConv会做channel维度的变换和对齐。

另外,YOLOv6将SPPF优化设计为更加高效的SimSPPF,增加特征重用的效率。

SimSPPF结构

【Rocky的延伸思考】

  1. 业务向:YOLOv6 Backbone可以高效用于业务向的部署端。
  2. 竞赛向:YOLOv6 Backbone可以用于竞赛向的Baseline尝试。
  3. 研究向:YOLOv6 Backbone可以用于研究向的消融实验。

【九】YOLOv7 Backbone解析

YOLOv7的Backbone侧在YOLOv5的基础上,设计了E-ELAN和MPConv结构

E-ELAN结构已经在本系列的Neck篇中详细介绍,本文就不再展开。MPConv结构由常规卷积与maxpool双路径组成,增加模型对特征的提取融合能力。不管是E-ELAN还是MPConv结构,都将特征重用逻辑演绎到了比较高的水准,让人眼前一亮

【Rocky的延伸思考】

  1. 业务向:YOLOv7 Backbone可以作为业务向的Baseline使用。
  2. 竞赛向:YOLOv7 Backbone可以用于竞赛向的入场Baseline。
  3. 研究向:YOLOv7 Backbone可以用于研究向的入场研究Baseline。

精致的结尾

Rocky将算法高价值面试知识点即“三年面试五年模拟”之独孤九剑秘籍前六式进行汇总梳理成汇总篇,并制作成pdf版本,大家可在公众号后台 【精华干货】菜单或者回复关键词“三年面试五年模拟” 进行取用。由于“三年面试五年模拟”之独孤九剑秘籍pdf版本是Rocky在工作之余进行整理总结,难免有疏漏与错误之处,欢迎大家对可优化的部分进行指正,Rocky将在后续的优化迭代版本中及时更正。

图片说明

#秋招##实习##校招##春招##面经#
全部评论
了解YOLOv1-v7全系列大解析
点赞 回复 分享
发布于 2022-10-17 16:58 河南
讲得很详细
点赞 回复 分享
发布于 2022-10-17 22:56 广西
大佬辛苦了
点赞 回复 分享
发布于 2022-10-17 23:00 广西
什么时候才能像大佬一样优秀
点赞 回复 分享
发布于 2022-10-17 23:08 广西

相关推荐

不愿透露姓名的神秘牛友
11-02 10:46
点赞 评论 收藏
分享
16 46 评论
分享
牛客网
牛客企业服务