请问神经网络有多个输出的回归问题，损失函数如何定义比较合理？如题，拜谢：个人认为有多个输出倒和损失函数的类型选择没有特别直接的关系，一般使用交叉熵就没什么问题，。
神经网络的训练中要计算验证集的损失函数吗？ 我一般在训练网络的时候，计算训练集的损失函数，以及精度和验证集的精度，但今天跟小伙伴讨论了一下，就…
神经网络的损失函数为什么是非凸的？ 1：别的不说，光是权重空间的对称性就能说明这个非凸问题了。补充一下，本来只是想给一个形象点的表述，所.
神经网络利用哪种算法将损失函数的值降到最低？ 用的是梯度下降算法，用偏微分找出超平面下降最快的方向，使损失函数快速下降。
神经网络中，为何不直接对损失函数求偏导后令其等于零，求出最优权重，而要使用梯度下降法（迭代）计算权重？ 1：机器学习第一课，逻辑回归没有解析解（至少目前没有找到，仅在binary classes的情况下可.
训练好的cnn网络的损失函数最后为多少 上世纪60年代，Hubel等人通过对猫视觉皮层细胞的研究，提出了感受野这个概念，到80年代，Fukushima在感受野概念的基础之上提出了神经认知机的概念，可以看作是卷积神经网络的第一个实现网络，神经认知机将一个视觉模式分解成许多子模式（特征），然后进入分层递阶式相连的特征平面进行处理，它试图将视觉系统模型化，使其能够在即使物体有位移或轻微变形的时候，也能完成识别。卷积神经网络(Convolutional Neural Networks，CNN)是多层感知机(MLP)的变种。由生物学家休博尔和维瑟尔在早期关于猫视觉皮层的研究发展而来。视觉皮层的细胞存在一个复杂的构造。这些细胞对视觉输入空间的子区域非常敏感，我们称之为感受野，以这种方式平铺覆盖到整个视野区域。这些细胞可以分为两种基本类型，简单细胞和复杂细胞。简单细胞最大程度响应来自感受野范围内的边缘刺激模式。复杂细胞有更大的接受域，它对来自确切位置的刺激具有局部不变性。通常神经认知机包含两类神经元，即承担特征提取的采样元和抗变形的卷积元，采样元中涉及两个重要参数，即感受野与阈值参数，前者确定输入连接的数目，后者则控制对特征子模式的反应程度。卷积神经网络可以看作是神经认知机的推广形式，。
