KL散度、JS散度、Wassertein距离KL散度又称相对熵,信息散度,信息增益。KL散度是两个概率分布P和Q差别的非对称性的度量。在经典境况下,P表示数据的真实分布,Q表示数据的理论分布,模型分布。 定义如下:对数函数为凸函数,所以KL散度的值为分复数。 KL散度有时也称2023-04-21JavaScript350