指一种将一个事件（在一个样本空间中的一个元素）映射到一个表达与其事件相关的经济成本或机会成本的实数上的一种函数。
定义在乘积空间 上的函数 称为损失函数，如果它满足如下两个条件：
（1） 对任意的 和 成立；
（2）对任意固定的 ， 作为 d 的函数是可测的。表示当自然解处于状态 时（参数的真实值为），人们采取决策（行动）d 所造成的损失。若 即 是一堆实数空间上的子集，则称形如 的损失函数为平方损失函数，称形如的损失函数为加权平方损失函数，其中 。若 ，即 是 k 维实数空间上的子集。设 Q 为 的正定矩阵。则称形如的损失函数为二次损失函数。
说到机器学习，初学者听到最多的就是 损失函数了吧
我对这个词也是一头雾水 好像今天一个定义明天又是一个定义 ，读了大量的文章和博客 终于有点起色 （感谢论坛各位大佬）
这里用自己的简单语言大致说下什么是损失函数 如果一个地方看不懂就换个博客看 总会有适合你的文章 万一这篇就是了呢
首先我们需要了解损失函数的定义是什么：衡量模型模型预测的好坏
可能这么说有点小小的抽象 ，那么在解释下，损失函数就是用来表现预测与实际数据的差距程度
比如你做一个线性回归，实际值和你的 预测值肯定会有误差，那么我们找到一个函数表达这个误差就是损失函数
和实际一样比如你是一个厨师大赛评委 几名厨师最后成绩由你确定 在你认为色香味都应该是100分才算冠军（这个100分就相当于实际值）
每个人都有自己的做菜方案和技巧，并且达到的效果也是不用的（这个就相当于预测值） 最后你是评委用你的一套规则判断他们多少分（你就是损失函数）
假设我们令真实值为Y 预测值为f(x) 损失函数为L（Y，f（x））他们的关系就是下图
损失函数（loss function）是用来估量你模型的预测值f(x)与真实值Y的不一致程度，它是一个非负实值函数,通常使用L(Y, f(x))来表示，损失函数越小，模型的鲁棒性就越好。
