谷歌开源新模型 EfficientNet：图像识别效率提升 10 倍，参数减少 88%

实际上，不同的扩展维度之间并不是各自独立的。直观地讲，对于更高分辨率的图像，应当使用更深的网络，这样会有更大的感受野对图像进行采样与特征提取。同样的，网络的宽度也应该增加，这是为了通过分高分辨图像中更多的像素点来捕获更加细粒度的模式。基于上述直觉，本文的作者做出了一个假——“我们应当平等地对不同的扩展维度进行平衡，而不是像传统方法那样仅进行单维度扩展。”

为了验证这个假设，作者比较了不同深度和分辨率下对网络进行宽度扩展时的实验结果：

上图中每条线上的每个点表示模型在不同宽度系数配置下的效果。所有的基线网络都使用表 1 中的结构。第一个基线网络（d=1.0,r=1.0）有 18 个卷积层，其输入的分辨率是 224 224。最后一个基线网络（d=2.0,r=1.3）有 36 个卷积层，输入分辨率为 299 299。可以看出，在宽度不变得情况下，如果仅改变深度和分辨率，准确率很快趋于饱和。在 FLOPS（每秒浮点运算次数）消耗相同的情况下，分辨率更高、网络更深的模型可以获得更好的准确度。通过这部分分析，作者得出：

观察 2：为了得到更好的准确率和效率，在卷积网络扩展中，平衡网络的宽度、深度和分辨率这三种维度是非常关键的一步。

事实上，一些类似的工作也尝试过随机的平衡网络的宽度和深度，但是这些工作都需要冗长的手动微调。与上述方法不同，本文的作者提出了一种新的复合扩展方法。该方法使用一个复合系数Φ通过一种规范化的方式统一对网络的深度、宽度和分辨率进行扩展：

其中α,β,γ是常数，它们有小型网络搜索确定。Φ则是一个由用户指定的扩展系数，它用来控制到底有多少资源是模型扩展可用的。对于一般的卷积操作，其 FLOPS 需求与 d,w^2,r^2 是成比例的。由于卷积网络中最消耗计算资源的通常是卷积操作，因此使用公式（3）对网络进行扩展会导致总 FLOPS 近似变为 。本文中作者使用公式

对这三个参数进行了约束，因此，总 FLOPS 增加 2^Φ。

上面提到的模型扩展方法并不会改变基线网络中每一层的运算操作，因此要想提升模型的准确率，有一个好的基线网络也非常重要。在实验部分，作者使用现有的卷积网络对复合扩展法进行了评估。但是为了更好地展示复合扩展法的有效性，作者设计了一个新的轻量级基线网络 EfficientNet。（注：这里的轻量级网络表示可用于移动端的参数较少的卷积网络。）

EfficientNet 的结构已经在表 1 中列出，它的主干网络是由 MBConv 构成，同时作者采取了 squeeze-and-excitation 操作对网络结构进行优化（见 SENet，ILSVRC 2017 冠军）。对于 Efficient-B0，若要使用复合扩展法对其进行扩大需要通过两步来完成：

第一步：首先将Φ固定为 1，假设至少有两倍以上的资源可用，通过公式（2）和公式（3）对α,β,γ进行网格搜索。特别的是，对于 EfficientNet-B0，在约束条件

下，α,β,γ分别为 1.2，1.1 和 1.15 时网络效果最好。

第二步：α,β,γ作为常数固定，然后通过公式（3）使用不同Φ对基线网络进行扩展，得到 EfficientNet-B1 到 EfficientNet-B7

这里之所以仅在小的基线网络上使用网格搜索（步骤 1）然后直接将参数扩展到大的模型上（步骤 2）是因为如果直接在大模型上进行参数搜索是非常昂贵且不可行的，因此作者采用了这种两步走的方法确定模型的扩展参数。

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!