YOLOv5改善实例教程之再加上注意力机制丨本际云推荐

YOLOv5改善实例教程之再加上注意力机制

注意力机制在YOLOv5中的应用

小编今天为大家介绍YOLOv5改善实例教程中添加注意力机制的资料。注意力机制最开始被用于NLP行业。它可以帮助实体模型意识到信息中哪一块是最关键的，给它分配更多的权重值，提升模型表现。在此，我们主要关注SE通道专注力的改进方案，以及如何在YOLOv5中添加注意力机制。

YOLOv5改善实例教程之再加上注意力机制

添加SE注意力机制

首先，寻找SE注意力机制的pytorch编码：

class SELayer(nn.Module):
    def __init__(self,c1,r=16):
        super(SELayer,self).__init__()
        self.avgpool=nn.AdaptiveAvgPool2d(1)
        self.l1=nn.Linear(c1,c1//r,bias=False)
        self.relu=nn.ReLU(inplace=True)
        self.l2=nn.Linear(c1//r,c1,bias=False)
        self.sig=nn.Sigmoid()
    def forward(self,x):
        b,c,_,_=x.size()
        y=self.avgpool(x).view(b,c)
        y=self.l1(y)
        y=self.relu(y)
        y=self.l2(y)
        y=self.sig(y)
        y=y.view(b,c,1,1)
        return x*y.expand_as(x)

将SE注意力机制程序直接拷贝到models文件夹下边的iommon.py文件中。然后在yolo.py中注册SE模块：

from models.common import Conv, Bottleneck, SPP, DWConv
from models.common import Focus, Concat, Detect
from models.common import SE # 导入SE模块
...
class YOLOv5(nn.Module):
    def __init__(self, opt):
        ...
        # 加入SE模块
        self.backbone.c3 = nn.Sequential(SE(256), self.backbone.c3)
        ...

与此同时，我们需要在yaml文件中指定SE注意力机制的输入、输出通道数。不过，这不会影响别的组件的运作。注意力机制也可以安放在其他地方，只需注意通道数相匹配即可。最后，我们需要对head一部分进行一定改动，以添加注意力机制：

 # 初始的head一部分
 m = nn.Sequential(
            Concat(1, [nn.Upsample(scale_factor=2), self.backbone.layers[1]]),
            *Conv(256*2, 256, 3),
            *self._make_layer(256, 4),
            *Conv(256*4, 256, 3),
            SE(256), # 添加SE注意力机制
            *self._make_layer(256, 2),
        )

添加注意力机制是YOLOv5最基本的改进之一，但实际上，注意力机制可能在某些区域并不会显著提升模型表现，具体实现还需要进一步探讨。不过SE注意力机制可以算作是最基本的通道注意力之一。