所谓Re－Sampling，即指改进data sampler对数据的采样概率，来保证用来训练的数据的平衡性。具体做法如上方右图，对所有的class以相同概率进行采样，采样出class之后在每个class内部再进行数据采样，这样便可以保证每个类在网络训练时的次数是相同的。

Re－Weighting指的是对数据进行随机采样，且再计算loss时，对不同类的样本乘上不同权重。该权重等于，每个样本对应类别的数量比上所有图片数量的倒数。例如对于对于aeroplane，有五张图片，总共十张图片，则对于aeroplane的加权就是10／5＝2。如此操作，tail类的图片虽然被采样到的机会少，但是loss的加权大，从而可以实现平衡。   不过对于这两种解决长尾问题的策略，旷视南京研究院在CVPR 2020上的 Oral论文“BBN”指出，虽然RW和RS可以改善分类器性能，但是会影响backbone对数据的表示能力。

如这上图所示，为了研究RS和RW对CNN 特征表示的影响和对分类器的影响，文章先用一种训练策略训练CNN backbone，然后再把backbone固定，重新训练分类器。   可以发现当分类的训练方式不变时，backbone使用CE的训练方式点数最高，而当backbone的训练方式固定不变时，使用RW和RS的方式训练分类器效果比较好。   这说明RW和RS的方法虽然可以提高网络对长尾数据的表现，但是同时也会一定程度上损害网络的表示能力。

为此，BBN解决该问题的做法是，将网络分成两个分支，一个分支接受从uniform sampler 采样出的数据，另外一个分支接受从reversed sampler 采样出的数据。所谓reverse sampler，就是把每个类别被采样到的概率取倒数，从而使得tail类更容易被采样出来。   sample出两个batch的数据之后前传经过两个网络分支，进一步对两个分支的特征进行mixup，最后做分类loss。需要注意的是，BBN为了不损害特征表示，设计了一个adaptor，该adaptor会随着训练epoch的增加越来越倾向于增大reverse sampler 分支在mixup中的比重。   这样BBN可以保证在训练初期，网络通过正常的uniform sampler对数据学到一个良好的表征，在训练后期，这个表征会对reverse sampler 采样出的数据进行进一步的学习。   虽然BBN可以很大程度上减缓长尾数据对网络特征表示的影响，但是与此同时，BBN需要同时训练两个网络分支，占用两倍于原来的显存，并且因为这样batchsize小了，训练时间需要更长，对于比赛而言略需改进。

因此，参赛团队为了快速迭代，使用了一个BBN－style 的mixup策略。通过分别从uniform sampler和reversed sampler中采样，之后将两个sampler sample出的batch进行mixup之后交给网络训练，这样网络在训练时可以一定程度上见到足够多的head类和tail类样本，并且mixup本身也可以起到增强网络泛化性的效果，从而可以提高网络对长尾数据的表现。

测试阶段的增强策略 除上述工作外，在测试阶段，团队还使用了一个增强策略tencrop。它将输入图片的四个角落和中心进行crop获得原图的五个crop，之后将图片进行翻转再crop，总获得十个crop。通过将这些crop输入给网络进行前传，然后将十个预测结果进行平均，从而能够得到最后的预测结果。   下图展示了旷视南京研究院参赛团队使用的所有的策略和它们在leaderboard对应的得分。

首先是224分辨率的ResNet50  baseline。该baseline使用交叉熵loss进行训练，可以在leaderboard得到65．6％的分数；第二个模型对分辨率扩大了一倍，使用448分辨率输入，使用交叉熵loss训练，可以看到扩大分辨率带来的收益非常大，在leaderboard上涨了接近十个点。 因此扩大分辨率这也是比赛很通用的CV的策略，基本上都可以实现涨点。   当换用EfficientNet－b4，输入分辨率也固定在了448，可以发现b4相对于ResNet50 的性能更好，同样设置下涨了两个点。 进一步，当在b4上加入测试时的tencrop，结果提升了一个多点。   当开始将loss函数替换为label－smooth，且开始在训练时加入BBN style的mixup，网络继续上涨3个点。 此后一段时间内，点数都没有再得到提升，经过讨论，团队开始考虑location信息的影响，并设计出使用gradient reversal layer进行对location信息的混淆，突破了这个瓶颈，继续上涨2个点。  最后一个改进点涉及MegaDetector的BBox信息，使用上文提到的BBox Ensemble策略进一步实现了涨点。并且在这过程中，团队还观察到，随着Ensemble的进行，权重应该适当偏向于BBox内的物体，这样性能会更好。 到此时，团队的得分在总榜上位列第一，并持续了近1个月。期间虽然也尝试对模型进行改进，但并没有更新的发现。 到5月22日（最终截止日期前5天），Facebook团队突然以大比分反超。作为应对，旷视南京研究院团队紧急应对现有模型方法进行了全面分析，并发现之前一直没有利用的一个重要信息，即视频的序列信息。

事实证明，当利用了序列信息后，模型的性能大幅提升了近10个点。对此赵冰辰也半开玩笑地说道：“存在一个强大对手的最好价值在于，它让你不安于现状，逼你跳出舒适圈，看到更好的自己。” 由此，旷视南京研究院团队实现了被Facebook大幅超越，并在48小时内又以更大比分优势重新登顶，最终夺得iWildCam全球冠军壮举！ 另外，为了帮助大家在参与顶会竞赛时更好地进行团队配合、项目管理，赵冰辰在下方还展示了其团队在比赛期间各个模块的工作，以供同学们参考。