大海

介绍COCO数据集以及标注文件格式。官网地址：COCO

简介

COCO是一个大规模的目标检测、分割和字幕数据集。包含了以下特征：

1. 目标分割（Object segmentation）
2. 场景分析（Recognition in context）
3. 超像素分割（Superpixel stuff segmentation）
4. 33万张图像，其中超过20万张已标注（330K images (>200K labeled)）
5. 150万个目标实例（1.5 million object instances）
6. 80个目标类别（80 object categories）
7. 91 stuff categories
8. 每张图片5个字幕（5 captions per image）
9. 25万个行人关键点（250,000 people with keypoints）

研究lufficc/SSD源码时，发现其实现了一个目标检测训练框架，进行深入研究后整理成一个新的训练框架

原文地址：SSD: Single Shot MultiBox Detector

阅读源码时发现torchvision提供了许多边界框操作，包括

1. NMS
2. 移除小边界框
3. 修剪边界框坐标，保证边界框坐标位于图像内
4. 计算边界框面积
5. IoU计算

在线文档：torchvision.ops

源码地址：torchvision/ops/boxes.py

当前torchvision版本：0.6.0a0+82fd1c8

之前学习IoU的概念并且实现了预测框和对应真值边界框之间的计算 - [目标检测]IoU

不过预设的条件是每个真值边界框仅和单个预测边界框进行比对，参考box_utils.py计算每个真值边界框和每个预测边界框的IoU

之前在cs231n上学习了简单的几种初始化方法 - 权重初始化。最近阅读源码时发现了PyTorch实现的权重初始化

之前在[数据集][PASCAL VOC]07+12中需要额外下载、解压数据集才能进一步实现VOC 07+12的集合。今天发现了PyTorch的voc.py集成了2007测试集，同时可以结合ConcatDataset一起使用

相关实现：zjykzj/vocdev

4月份实现了YOLO_v1算法，学习新的模型ResNet/GoogLeNet/SqueezeNet/DenseNet/SSD，同时小结了评估标准，包括mAP/Flops/Params Size/FPS/Top-k accuracy

本周学习了如何寻找最优学习率/权重衰减，以及进行warmup+CosineAnnearling加速模型训练，同时加强了数据预处理，包括随机擦除/颜色抖动/Ten Crops测试等

本周继续SSD算法的学习和实现，同时开始新模型和训练方法的学习。本月期待完成新工作的寻找

论文A DISCIPLINED APPROACH TO NEURAL NETWORK HYPER-PARAMETERS: PART 1 – LEARNING RATE, BATCH SIZE, MOMENTUM, AND WEIGHT DECAY给出了关于学习率、批量大小、动量和权重衰减的训练方法。下面学习如何找到最优权重衰减值

如何寻找最优学习率?

根据准确度寻找最优学习率

论文Cyclical Learning Rates for Training Neural Networks提出了周期学习率调度方法，让学习率在合理的边界值之间循环变化（不再单调递减）