重磅！图森王乃岩团队最新工作—TridentNet：处理目标检测中尺度变化新思路

本文主要是介绍重磅！图森王乃岩团队最新工作—TridentNet：处理目标检测中尺度变化新思路，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

欢迎关注微信公众号【计算机视觉联盟】 获取更多前沿AI、CV资讯

640?wx_fmt=png

联盟很荣幸获得图森首席科学家王乃岩博士的授权发布图森最新成果！

----------------------------------------

为大家介绍一篇图森的工作(Scale-Aware Trident Networks for Object Detection)，这篇文章主要要解决的问题便是目标检测中最为棘手的scale variation问题。

在正式介绍我们的方法之前，我先简单回顾一下现有的两大类方法。

第一大类，也是从非Deep时代，乃至CV初期就被就被广泛使用的方法叫做image pyramid。在image pyramid中，我们直接对图像进行不同尺度的缩放，然后将这些图像直接输入到detector中去进行检测。虽然这样的方法十分简单，但其效果仍然是最佳，也后续启发了SNIP这一系列的工作。单论性能而言，multi-scale training/testing仍然是一个不可缺少的组件。然而其缺点也是很明显的，测试时间大幅度提高，对于实际使用并不友好。

们使用了非常简单干净办法在标准的COCO benchmark上，使用ResNet101单模型可以得到MAP 48.4的结果，远

另外一大类方法，也是Deep方法所独有的，也就是feature pyramid。最具代表性的工作便是经典的FPN了。这一类方法的思想是直接在feature层面上来近似image pyramid。☺非Deep时代在检测中便有经典的channel feature这样的方法，这个想法在CNN中其实更加直接，因为本身CNN的feature便是分层次的。☺从开始的MS-CNN直接在不同downsample层上检测大小不同的物体，再到后续TDM和FPN加入了新的top down分支补充底层的语义信息不足，都是延续类似的想法。☺然而实际上，这样的近似虽然有效，但是仍然性能和image pyramid有较大差距。

几种处理scale variation方法的比较

640?wx_fmt=png

640?wx_fmt=jpeg

所以我们最开始的一个想法便是直接加入几支并行，但是dilation rate不同的分支，在文中我们把每一个这样的结构叫做trident block。这样一个简单的想法已经可以带来相当可观的性能提升。☺我们进一步考虑我们希望这三支的区别应该仅仅在于receptive field，它们要检测的物体类别，要对特征做的变换应该都是一致的。☺所有自然而然地想到我们对于并行的这几支可以share weight。☺ 一方面是减少了参数量以及潜在的overfitting风险，另一方面充分利用了每个样本，同样一套参数在不同dilation rate下训练了不同scale的样本。☺最后一个设计则是借鉴SNIP，为了避免receptive field和scale不匹配的情况，我们对于每一个branch只训练一定范围内样本，避免极端scale的物体对于性能的影响。

总结一下，我们的TridentNet在原始的backbone上做了三点变化：第一点是构造了不同receptive field的parallel multi-branch。☺第二点是对于trident block中每一个branch的weight是share的。☺第三点是对于每个branch，训练和测试都只负责一定尺度范围内的样本，也就是所谓的scale-aware。这三点在任何一个深度学习框架中都是非常容易实现的。

在测试阶段，我们可以只保留一个branch来近似完整TridentNet的结果，后面我们做了充分的对比实验来寻找了这样single branch approximation的最佳setting，一般而言，这样的近似只会降低0.5到1点map，但是和baseline比起来不会引入任何额外的计算和参数。

TridentNet网络结构

640?wx_fmt=png

我们还和经典的feature pyramid方法FPN做了比较。✯为了保证比较公平，我们严格遵循Detectron中的实现方式，并使用两层fc作为detector的head。✯可以看到在这样的setting下，FPN其实对于baseline而言小物体有一定提升，然而大物体性能下降，综合下来并没有比baseline有提高，但是我们的方法仍然可以持续地提升2.2个点map，就算使用single branch approximation，仍然也有1.2个点的提升。✯这充分证明了我们的方法的普适性。✯

最后我们将我们的方法和各paper中报告的最好结果相比较。✯但是其实很难保证绝对公平，因为每篇paper使用的trick都不尽相同。✯所以我们在这里报告了两个结果，一个是ResNet101不加入任何trick直接使用TridentNet的结果，一个是和大家一样加入了全部trick（包括sync BN，multi-scale training/testing，deformable conv，soft-nms）的结果。在这样的两个setting下，分别取得了在COCO test-dev集上42.7和48.4的结果。✯这应该分别是这样两个setting下目前最佳的结果。✯single branch approximation也分别取得了42.2和47.6的map，不过这可是比baseline不增加任何计算量和参数量的情况下得到的。