对数求和不等式

对数和不等式用于证明信息论中的定理。

不等式对 n = ∞ {displaystyle n=infty } 仍然有效，前提是 a <; ∞ {displaystyle a<infty } 和 b <; ∞ {displaystyle b<infty } 。以上证明适用于任何函数 g {displaystyle g} 使得 f ( x ) = x g ( x ) {displaystyle f(x)=xg(x) } 是凸的，比如所有的连续非递减函数。 Csiszár, 2004 给出了对数以外的非递减函数的推广。

对数和不等式可用于证明信息论中的不等式。 吉布斯不等式表明 Kullback-Leibler 散度是非负的，并且如果其参数相等则恰好等于零。 一个证明使用对数和不等式。

该不等式还可以证明 Kullback-Leibler 散度的凸性。