优化算法中的惩罚函数是怎么来的？ 约束优化的惩罚项是什么

利用隐式约束方法优化，加约束的惩罚项的损失函数，为什么有让神经网络出现 deep learning 书中，关于加了约束的惩罚项的定义如下：而隐式约束的求解就是利用迭代法求解KKT条件的方法…机器学习中常常提到的正则化到底是什么意思？ 举个例...