详情
拉格朗日乘子法
基本的拉格朗日乘子法就是求函数f(x1,x2,...)在约束条件g(x1,x2,...)=0下的极值的方法。
其主要思想是将约束条件函数与原函数联立，从而求出使原函数取得极值的各个变量的解。
中文名
拉格朗日乘子法
外文名
Lagrange multiplier
别名
拉格朗日乘数法
主要思想
引入一个新的参数λ
求的内容
极值
定义
对于具有l个等式约束的n维优化问题
,
把原目标函数 改造成为如下形式的新的目标函数
式中的 就是原目标函数 的等式约束条件，而待定系数 称为拉格朗日乘子。这种方法称为拉格朗日乘子法。
在极值点处，有和 ，共有n+l个方程，足以算出这n+l个变量，此法也称为升维法。[1]
基本原理
拉格朗日乘子法是一种经典的求解条件极值的解析方法，可将所有约束的优化模型问题转化为无约束极值问题的求解。一般带不等式约束的最优化问题求解如下式：
拉格朗日乘子法是用于变量无关的是常数 分别乘各约束函数 并与目标函数相加得到如下的拉格朗日函数： ，式中： 为自变量； 为拉格朗日乘子量； 为松弛变量。
则 在 处取极值的必要条件为： ，依据上式求得 即为最优解。[2]
计算过程
1.假设需要求极值的目标函数(objective function)为f(x,y)，限制条件为φ(x,y)=M
2.设
3.定义一个新函数
4.用偏导数方法列出方程：
5.求出x,y,λ的值，代入即可得到目标函数的极值[1]
关键参数含义
（1） 是由参数M所引起的约束条件变化时，对目标函数最优值影响的度量；或者说表示了最优值的“灵敏度”。
（2）当约束条件M增加一个单位时，目标函数值f将近单位。
（3）在经济学上参数 表示产品或资源M增加一个单位时，所带来的最大社会效益f，常称为“边际效益”或“临界值”，在商业经营决策中很有用处。[3]
直观意义
引理一
如果函数 是光滑的，并且 是 的一个正则点（即 ），那么， 垂直于过 的 的等值线。[4]
引理二
在等值面 上的每个正则点 ，向量 垂直于等值面，并且这个向量是唯一[4]的（不计其某一常数倍）。
定理
假设 在曲面S: 上的点 有最大（小）值，并且 不是 的临界点（g
拉格朗日乘子法是一种寻找多元函数在一组约束下的极值方法。
上图中
与椭圆体相交平面上直线 如果高度上没有限制那么 就形成一个面，这个面与椭圆体相交可以表示为 ,我们就可以在这个曲线找到最小值。然后我们可以将这等高线投影到二维平面上来简化问题
在上图中，我们可以推断出其实最小(或最大值)就位于限制条件g(x,y)和方程f(x,y)等号线相切的位置。而且有共同切线的斜率，那么他们法线方向是 成比例 的。这个比例系数就是拉格朗日乘子
我们现在来简单推导一下，这里将 y 表示为对于 x 的函数，那么就有 y(x),然后分别带入下面两个方程就得到。
下面我么这个两个方程都对x 进行偏微分，通过链式法则我们就得到下面式子
因为我们知道他们斜率是成比例的，所有就可以得到这样结论，这就是拉格朗日乘子法，其中 就是乘子
我们就可以利用这个三个条件来求在有限制条件下方程极值问题
假设 ,在 的条件限制下有极值。
利用上面知识来求极值
然后他们带入到 得到
那么结果就是最小值和最大值分别是 5 和 -5
举例说明看到x^2+4y^2≤4首先想到的应该是三角换元，而不是用Lagrange乘值法
令x=2rcosθ，y=rsinθ，其中0≤r≤1，θ∈[0，2π）
z=4r^2(cosθ)^2-r^2(sinθ)^2=5r^2(cosθ)^2-r^2
所以当r=1，cosθ=±1时z取到最大值4，此时x=±2，y=0
当r=1，cosθ=0时z取到最小值-1，此时x=0，y=±1
