卷积神经网络为什么要加一层降采样层呢？
对于一个准确率不高的神经网络模型，应该从哪些方面去优化？ 如题，我是一个神经网络方向的初学者，想知道应该如何【系统】地分析性能优化方面的问题？
能否对卷积神经网络工作原理做一个直观的解释？ 本文包含两部分，第一部分为大家直观讲解卷积神经网络的工作方式，第二部分则为大家展示如何用机器学习框…
如何解释「卷积神经网络」？ 本问题被收录至活动「十万个是什么」中。活动时间：11/29-12/14活动规则：大于 200 字的客观事实定义，…
如何解释「卷积神经网络」？ 阅读提醒，本文以严谨为主，兼顾理解。目标介绍CNNs的基础结构和训练方法。理解本文所需知识：高中数学，…
如何理解卷积神经网络中的类别不均衡问题？ 本文以两种典型的不均衡为例，系统地研究并比较了解决 CNN 中类别不均衡问题的各种方法，在三个常用数据集上用统一标准做了实验结果展示，得出了综合性的结果，富有参考和指导意义。在这篇论文中，我们系统地研究了卷积神经网络中类别不均衡会给分类性能带来的影响，并且对比了常用于解决该问题的一些方法。类别不均衡是一个普遍的问题，虽然这个问题在分类机器学习中被广泛地研究，然而在深度学习领域很少有可用的系统性研究。在我们的研究中，我们用了三个复杂度依次递增的基准测试集来研究类别不均衡对性能的影响，并对用来解决这个问题的几种方法做了广泛对比，这三个数据集分别是：MINIST，CIFAR-10 以及 ImageNet，这 4 种常用解决方法分别是：过采样（oversampling，相当于插值），下采样（downsampling，相当于压缩），两阶段训练（two-phase training），以及阈值化（threholding），阈值化可以补偿先验的类别概率。因为全局准确率在不均衡的数据中是很难确定的，所以我们的主要评价指标是 ROC 曲线下面的面积（ROC AUC）。从我们的实验可以得出以下结论：(i)不均衡数据会给分类性能带来损害；(ii)解决不均衡数据问题的方法中，占主导地位的是过采样，它几乎存在于。
怎么评判卷积神经网络训练得差不多了？ 训练卷积神经网络的时候，总是不知道该训练多少次，有没有一个评判标准？比如说loss值达到平稳或者说模型…
能否对卷积神经网络工作原理做一个直观的解释？ 说起CNN，最初人们想到的都是某电视台，但等过几年，人们想起的多半是深度学习了。应该说，CNN是这两年…
能否对卷积神经网络工作原理做一个直观的解释？ 我目前大四，在用CNN做手写识别毕业设计，已经接触机器学习4个月了。但CNN是目前最让我困惑的，其简直就…
如何估算神经网络的最优学习率？ 神经网络的神奇之处就是通过训练自动学习权重等参数。其中，学习率决定了这个自动学习的快慢，是神经网络的超参数（hyperparameter）。具体而言，目前主流的神经网络模型使用梯度下降算法进行训练，或者说，学习参数。学习率决定了batch中权重在梯度方向上移动多远。理论上说，学习率越高，神经网络学习的速度就越快。但是，学习率过高，可能一下子“跨过”损失函数的最小值，导致无法收敛。上图左侧为高学习率，右侧为低学习率，图片来源：Mikkel Duif(Quora)那么，如何找到最佳学习率呢？最容易想到的方法是，先从一个较高的学习率开始尝试，然后逐渐降低学习率。比如，刚开始是0.1，接着是0.01，然后是0.001，再然后是0.0001，以此类推。因为一般而言，刚开始的时候，网络的初始权重离最佳权重会比较远，随着训练的进行，渐渐逼近最佳值。用术语来说，这是模拟退火（Simulated annealing）方法。不过，这个方法的初始学习率设置（上面例子中的0.1）不能过高，如果初始学习率过高，那可能一下子“跨过”最佳值。除此之外，还有另一种思路，就是反向操作，从一个很低的学习率开始，然后在每一个batch后增加学习率。比如，从0.00001开始，到0.0001，再到0.001，接着是0.01，。
