在分类问题上经常会遇到一个名词 - 决策边界。对它有一些了解但是没有很多的认识,同时很难直观去理解高维数据分类问题的决策边界

理清决策边界的概念,同时可视化决策边界

阅读全文 »

AdaGrad、RMSProp以及Adam都是逐元素的自适应学习率方法(per-parameter adaptive learning rate methods),根据每个神经元的梯度变化进行权重调整,能够有效的提高模型精度

阅读全文 »

文章very deep convolutional networks for large-scale image recognition卷积网络深度进行了详细研究,证明了增加模型深度能够有效提高网络性能,其实现的VGGNet2014ImageNet的定位(localisation)和分类(classification)比赛中获得第一和第二名

VGGNetAlexNet模型配置和学习的基础上,参考ZFNet使用更小的感受野和更小的步长,参考OverFeat在整个图像和多个尺度上对网络进行密集的训练和测试。最终,VGGNet使用\(3\times 3\)大小卷积核进行模型深度的研究,在学习过程中使用多尺度图像进行训练和测试

主要内容如下:

  1. 卷积网络配置
  2. 训练和测试细节
  3. 分类实验
  4. 小结
阅读全文 »