为什么不能使用均方差做为分类问题的损失函数?

AI解读 2个月前 硕雀
35 0

 为什么不能使用均方差做为分类问题的损失函数

  1. 回归问题通常用均方差损失函数,可以保证损失函数是个凸函数,即可以得到最优解。而分类问题如果用均方差的话,损失函数的表现不是凸函数,就很难得到最优解。而交叉熵函数可以保证区间内单调。
  2. 分类问题的最后一层网络,需要分类函数,Sigmoid或者Softmax,如果再接均方差函数的话,其求导结果复杂,运算量比较大。用交叉熵函数的话,可以得到比较简单的计算结果,一个简单的减法就可以得到反向误差。
来源:www.aiug.cn
声明:文章来源于网络,如有侵权请联系删除!