相对熵（relative entropy）又称为KL散度（Kullback–Leibler divergence，简称KLD），信息散度（information divergence），信息增益（information gain）。

KL散度是两个概率分布P和Q差别的非对称性的度量。 KL散度是用来 度量使用基于Q的编码来编码来自P的样本平均所需的额外的比特个数。 典型情况下，P表示数据的真实分布，Q表示数据的理论分布，模型分布，或P的近似分布。

定义：

对一个离散随机变量的两个概率分布P和Q来说，他们的KL散度定义为：D(P||Q)=∑P(i)lnP(i)/Q(i)，对于连续的随机变量，定义类似。