前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >Jensen (琴生) 不等式

Jensen (琴生) 不等式

作者头像
为为为什么
发布于 2022-08-09 11:15:14
发布于 2022-08-09 11:15:14
1.6K0
举报
文章被收录于专栏:又见苍岚又见苍岚

琴生不等式以丹麦技术大学数学家约翰·延森(John Jensen)命名。它给出积分的凸函数值和凸函数的积分值间的关系。

简介

琴生不等式(Jensen’s inequality)以丹麦技术大学数学家约翰·延森(John Jensen)命名 ,它给出积分的凸函数值和凸函数的积分值间的关系。

  • 琴生不等式有以下推论:过一个下凸函数上任意两点所作割线一定在这两点间的函数图象的上方,即:
t f\left(x_ {1}\right)+(1-t) f\left(x_ {2}\right) \geq f\left(t x_ {1}+(1-t) x_ {2}\right), 0 \leq t \leq 1

Jensen不等式

  • 根据凸函数性质,凸集C 上的凸函数f 上的两点x_1,x_2 满足
\theta f ( x _ { 1 } ) + ( 1 - \theta ) f ( x _ { 2 } ) \geq f ( \theta x _ { 1 } + ( 1 - \theta ) x _ { 2 } ) , \theta E [ 0 , 1 ]
  • 把上式推广到 n 个点的情况,即得 Jensen 不等式:对于凸函数 f ,其所在凸集 C 中的任意点集 \ {x_ {i}} \subset C ,若 \theta_ {i} \geq 0 \sum_ {i} \theta_ {i}=1 ,则有
\sum_ {i=1}^ {M} \theta_ {i} f\left(x_ {i}\right) \geq f\left(\sum_ {i=1}^ {M} \theta_ {i} x_ {i}\right)
  • ,如下不等式成立:
\sum_ {j=1}^ {J} \lambda_ {j} f\left(x_ {j}\right)<=f\left(\sum_ {j=1}^ {J} \lambda_ {j} x_ {j}\right)
证明

现在我们以凸函数为例,证明对于凸函数 f(x) 来说,对任意 \lambda_ {j}>=0 $``$ \sum_ {j=1}^ {J} \lambda_ {j}=1 ,如下不等式成立:

\sum_ {j=1}^ {J} \lambda_ {j} f\left(x_ {j}\right)>=f\left(\sum_ {j=1}^ {J} \lambda_ {j} x_ {j}\right)

采用归纳法证明上述不等式

  • 首先对于J=1,很明显不等式成立;
  • 首先对于J=2,根据凸函数定义

, 不等式成立

  • 假设

时不等式成立,即:

\sum_ {j=1}^ {n} \lambda_ {j} f\left(x_ {j}\right)>=f\left(\sum_ {j=1}^ {n} \lambda_ {j} x_ {j}\right)
    • 往证 J=n+1 时不等式成立:

代码语言:txt
AI代码解释
复制
- 因此当 J=n+1 时不等式成立
- 完成了 Jensen 不等式的归纳法证明
扩展
  • 为凸函数,则根据Jensen不等式,有:
E[f(X)] \geq f(E[X])
  • 对于连续随机变量 x ,若 f(x) 为凸函数,则根据Jensen不等式,有:
\int f(x) p(x) d x \geq f\left(\int x p(x) d x\right)

更一般的概率密度形式:

  • 假设Ω是实轴上的可测子集,而f(x)是非负函数,使得:
{\displaystyle \int _ {-\infty }^ {\infty }f(x),dx=1}

即 f 是个概率密度函数

  • 若g是任一实值可测函数,ϕ 在g的值域中是凸函数,则
{\displaystyle \varphi \left(\int _ {-\infty }^ {\infty }g(x)f(x),dx\right)\leq \int _ {-\infty }^ {\infty }\varphi (g(x))f(x),dx}

若g(x)=x,则这形式的不等式简化成一个常用特例:

{\displaystyle \varphi \left(\int _ {-\infty }^ {\infty }x,f(x),dx\right)\leq \int _ {-\infty }^ {\infty }\varphi (x),f(x),dx}

一般的有限形式:

  • 若Ω是有限集合 {1,x2,…,xn} ,则不等式的一般形式可以简单地用和式表示:
{\displaystyle \varphi \left(\sum _ {i=1}^ {n}g(x_ {i})\lambda _ {i}\right)\leq \sum _ {i=1}^ {n}\varphi (g(x_ {i}))\lambda _ {i}}

其中

  • 若 ϕ 是凹函数,只需把不等式符号调转
  • 假设

是正实数,

及 φ(x)=log⁡(x)。上述和式便成了

  • 两边取自然指数就得出熟悉的均值不等式:
{\displaystyle {\frac {x_ {1}+x_ {2}+\cdots +x_ {n}} {n}}\geq {\sqrt[ {n}] {x_ {1}x_ {2}\cdots x_ {n}}}}

参考资料

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022年6月8日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档