凸函数

凸函数与 Jensen 不等式(Convex Function)

def.convex-function · 定义 · 导数 · 凸性

陈述

设 II 是区间,f:I→Rf : I \to \mathbb{R}。称 ff 凸,当且仅当对一切 x,y∈Ix, y \in I 与一切 t∈[0,1]t \in [0, 1],

f((1−t)x+ty)≤(1−t)f(x)+tf(y)f\bigl( (1 - t) x + t y \bigr) \le (1 - t) f(x) + t f(y)

即图像总在弦的下方。把 ≤\le 换成 ≥\ge 得凹函数(concave)。

由此归纳得到 Jensen 不等式:若 λi≥0\lambda_i \ge 0、∑iλi=1\sum_i \lambda_i = 1,则

f(∑iλixi)≤∑iλif(xi)f\Bigl( \sum_i \lambda_i x_i \Bigr) \le \sum_i \lambda_i f(x_i)

说明

⭐ 凸性是序与几何的性质(两点之间的值受两端值约束),不需要可导就能定义 —— 这一点很重要:∣x∣|x|、exe^{x}、x2x^{2} 都凸,但 ∣x∣|x| 在 00 处不可导。

⭐ Jensen 不等式是概率论与分析里大量不等式的统一来源(AM–GM、Hölder、eE≤Ee⋅e^{\mathbb{E}} \le \mathbb{E} e^{\cdot})。

⚠ 别把「凸」与「严格凸」混:严格凸要 t∈(0,1)t \in (0, 1)、x≠yx \ne y 时不等号严格。

谁指向它(入边)

定义引用 1

参考

同一星团的其他概念 13 个

继续

在星图里打开「凸函数」 ·  全部 870 个概念 ·  Markdown 原文 ·  读图指南与记号表