Lagrange 乘子法

定理(Lagrange 乘子法):约束极值的必要条件

thm.lagrange-multiplier · 定理 · 微积分 · 最优化

陈述

设 U⊆RnU \subseteq \mathbb{R}^{n} 开,f:U→Rf : U \to \mathbb{R} 与 g=(g1,…,gm):U→Rmg = (g_1, \ldots, g_m) : U \to \mathbb{R}^{m} 都是 C1C^{1},a∈Ua \in U 满足

g(a)=0,rank⁡Dg(a)=mg(a) = 0, \qquad \operatorname{rank} Dg(a) = m

若 aa 是 ff 在约束集 M:=g−1(0)M := g^{-1}(0) 上的局部极值点,则存在 λ=(λ1,…,λm)∈Rm\lambda = (\lambda_1, \ldots, \lambda_m) \in \mathbb{R}^{m} 使

∇f(a)=∑i=1mλi∇gi(a)\nabla f(a) = \sum_{i=1}^{m} \lambda_i \nabla g_i(a)

(λi\lambda_i 叫 Lagrange 乘子。等价说法:∇f(a)∈span⁡{∇g1(a),…,∇gm(a)}\nabla f(a) \in \operatorname{span}\{\nabla g_1(a), \ldots, \nabla g_m(a)\}。)

说明

⭐ 几何读法:约束集 M=g−1(0)M = g^{-1}(0) 在正则点 aa 附近的切空间是 TaM=ker⁡Dg(a)T_aM = \ker Dg(a)(thm.regular-value)。「aa 是 f∣Mf|_{M} 的极值点」蕴含 Df(a)Df(a) 在 TaMT_aM 上恒为零,即 ker⁡Dg(a)⊆ker⁡Df(a)\ker Dg(a) \subseteq \ker Df(a)。剩下的全是线性代数:两个线性映射的核有这种包含关系时,∇f(a)\nabla f(a) 落在 ∇gi(a)\nabla g_i(a) 张成的空间里(对偶空间里取正交补即可)。

⚠ rank⁡Dg(a)=m\operatorname{rank} Dg(a) = m(即 aa 是 g−1(0)g^{-1}(0) 的正则点)这个前提不能去:g(x,y)=x2+y2g(x, y) = x^{2} + y^{2} 的零点集是单点 {(0,0)}\{(0,0)\},那里 Dg=0Dg = 0、秩为 00,乘子法给不出任何信息(而该点显然是极值点)。

⭐ 使用要点:乘子法只给必要条件,解出候选点后仍需比较;而且 λi\lambda_i 本身有含义(约束对最优值的灵敏度 ∂f∗/∂ci\partial f^{\ast}/\partial c_i)。

谁指向它(入边)

推出 1

参考

同一星团的其他概念 25 个

继续

在星图里打开「Lagrange 乘子法」 ·  全部 910 个概念 ·  Markdown 原文 ·  读图指南与记号表