深度学习中如何选好激活函数和损失函数？ 在网络模型构建中，如何正确选择激活函数和损失函数？各激活函数、损失函数有何对应关系？都应用于什么情…
神经网络的损失函数为什么是非凸的？ ？www.zhihu.com 为了方便说明 这个函数是非凸的，我们需要一个经典引理：一个高维凸函数可以等价于无数个一维凸函数的叠加。一个（高维）函数是凸的，当且仅当把这个函数。
常见的损失函数为什么能成为替代函数？ 如logistic，指数函数，hinge等损失函数为什么能成为01分类的替代损失函数，大部分回答只是提到非凸变为…
逻辑回归的损失函数怎么理解？
机器学习中常用的损失函数有哪些？
机器学习中的目标函数、损失函数、代价函数有什么区别？ 看了一些关于机器学习的资料，里面经常有提到目标函数、损失函数、代价函数等，都被搞蒙了，能不能直观地…
svm 多分类损失函数为什么要加1 两种方法都是常见的分类算法，从目标函数来看，区别在于逻辑回归采用的是logistical loss，svm采用的是hinge loss.这两个损失函数的目的都是增加对分类影响较大的数据点的权重，减少与分类关系较小的数据点的权重.SVM的处理方法是只考虑support vectors，也就是和分类最相关的少数点，去学习分类器.而逻辑回归通过非线性映射，大大减小了离分类平面较远的点的权重，相对提升了与分类最相关的数据点的权重.两者的根本目的都是一样的.此外，根据需要，两个方法都可以增加不同的正则化项，如l1，l2等等.所以在很多实验中，两种算法的结果是很接近的.但是逻辑回归相对来说模型更简单，好理解，实现起来，特别是大规模线性分类时比较方便.而SVM的理解和优化相对来说复杂一些.但是SVM的理论基础更加牢固，有一套结构化风险最小化的理论基础，虽然一般使用的人不太会去关注.还有很重要的一点，SVM转化为对偶问题后，分类只需要计算与少数几个支持向量的距离，这个在进行复杂核函数计算时优势很明显，能够大大简化模型和计算svm 更多的属于非参数模型，而logistic regression 是参数模型，本质不同.其区别就可以参考参数模型和非参模型的区别就好了.logic 能做的 svm能做，但可能在准确率上有问题，。
逻辑回归损失函数为什么是凸函数 两种方法都是常见的分类算法，从目标函数来看，区别在于逻辑回归采用的是logistical loss，svm采用的是hinge loss.这两个损失函数的目的都是增加对分类影响较大的数据点的权重。
