Lagrange 乘子法
定理(Lagrange 乘子法):约束极值的必要条件
- 定理
- 依赖深度 layer 26
- 分析学
- 多元微分
thm.lagrange-multiplier · 定理 · 微积分 · 最优化
陈述
设 开, 与 都是 , 满足
若 是 在约束集 上的局部极值点,则存在 使
( 叫 Lagrange 乘子。等价说法:。)
说明
⭐ 几何读法:约束集 在正则点 附近的切空间是 (thm.regular-value)。「 是 的极值点」蕴含 在 上恒为零,即 。剩下的全是线性代数:两个线性映射的核有这种包含关系时, 落在 张成的空间里(对偶空间里取正交补即可)。
⚠ (即 是 的正则点)这个前提不能去: 的零点集是单点 ,那里 、秩为 ,乘子法给不出任何信息(而该点显然是极值点)。
⭐ 使用要点:乘子法只给必要条件,解出候选点后仍需比较;而且 本身有含义(约束对最优值的灵敏度 )。
谁指向它(入边)
推出 1
-
切空间 = + 极值 乘子存在
记 。由假设 , 是 的正则点,于是由
thm.regular-value, 在 附近是 维子流形。第一步:切空间 = 。 是 的水平集,故 上任何一条过 的曲线的速度向量 都满足 (对 求导)。两个维度都对:,所以
第二步: 在 上为零。 设 ,取过 的曲线 (,,)。函数 在 取局部极值,故其导数为零:由链式法则 。
第三步:纯线性代数。 现在有两个线性映射 (满射)与 (线性型),满足
引理(因子化):若线性映射 满射、线性型 满足 ,则 可分解为 ,其中 线性。
引理的证明:由秩–零化度, 诱导线性同构 ;而 说明 穿过商,给出 。取 即可。∎(引理)
第四步:翻译回梯度。 把 在 的标准基下写成 ,即得 。再用标准内积与 Riesz 表示(每边换成梯度向量)得 。∎
⭐ 这条证明完全没有用到 的几何 —— 极值的分析内容只有第二步一行,其余全是线性代数(引理)。这也是乘子法能做出来的原因:它是一条「对偶空间里取正交补」的事实。
参考
- Rudin, Principles of Mathematical Analysis, Ch. 9
- Spivak, Calculus on Manifolds, Ch. 2
同一星团的其他概念 25 个
- 赋范空间layer 9
- 梯度layer 11
- 浸入 / 淹没 / 嵌入layer 12
- 压缩映射layer 14
- Banach 空间layer 15
- 压缩映射原理layer 15
- 偏导数layer 16
- 方向导数layer 17
- Hessian 矩阵layer 17
- 可微与全微分layer 18
- Jacobi 矩阵layer 19
- 多元链式法则layer 20
- 多元中值定理layer 22
- 混合偏导相等layer 22
- 逆映射定理layer 23
- 多元 Taylor 公式layer 23
- 隐函数定理layer 24
- 逆映射定理(Banach 版)layer 24
- Morse 引理layer 24
- Sard 定理layer 24
- 极值判别(Hessian 判据)layer 24
- 常秩定理layer 25
- 隐函数定理(Banach 版)layer 25
- 正则值原像定理layer 25