1. 马尔可夫不等式与切比雪夫不等式:后者是前者用到二阶矩时的特例★★ 必会
切比雪夫不等式常被当作一条孤立的公式来记,其实它来自一个更基本的结论,即马尔可夫不等式:如果 ,那么对任意 有 。在其中取非负随机变量 ,取阈值 ,并注意 以及 ,立即得到切比雪夫不等式。可见切比雪夫不等式只是马尔可夫不等式用到二阶矩时的一个特例。
认清这一层关系,就便于作进一步的推广:对任意 有 。 越大,若相应的高阶矩越小,则尾部随 衰减得越快。沿着这条思路,把幂次的矩换成指数矩,便得到更精细的切尔诺夫(Chernoff)界。因此切比雪夫不等式()不过是这一族不等式中最简单的一个。
认清这一层关系,就便于作进一步的推广:对任意 有 。 越大,若相应的高阶矩越小,则尾部随 衰减得越快。沿着这条思路,把幂次的矩换成指数矩,便得到更精细的切尔诺夫(Chernoff)界。因此切比雪夫不等式()不过是这一族不等式中最简单的一个。
证明 / 推导
证 先证马尔可夫不等式(连续型)。 设 的密度为 (在 处为 ),且 。则其中第一个不等号舍去了 上的非负部分,第二个不等号用到在积分区域上 。两边除以 ,即得 。
再由它导出切比雪夫不等式。 取 ,: