微分（以直代曲，线性逼近）

极限微积分（link）：

  • 导数：被定义为一个极限，其意义是变化率
  • 微分：是一个线性函数，其意义是变化的具体数值
  • 切线：有了导数之后，切线就可以确定

一元微分是一条直线，二元微分是一个平面，称为切平面。

image.png https://www.zhihu.com/question/31464934/answer/152231899 这里解释积分符号的图截下来
image.png

全导数（链接）

其实全导数本质上就是一元函数的导数。他是针对复合函数而言的定义。比如z=f(x,y)，x=u(t)，y=v(t)。那么z关于t的导数就是全导数。所以我说本质上就是个一元函数的导数，z本质上就是个关于t的一元函数。因此全导数没什么难于理解的，只不过为了复数函数的求导而被定义了出来。对于真正的多元函数是没有全导数这一说的，只有偏导数、偏微分和全微分。

梯度

首先，在某个点，是有无数个方向的，他的360度都是方向，每个方向对应一个方向导数，也就是在该方向的导数，在所有的方向导数中，最大的那个，称之为梯度。

拉格朗日乘子法 （链接）

简单来说，假设一个函数需要在满足另一个约束的情况下，求最小值。求满足约束的最小值，即两个函数相切，即两个梯度成比例，同时需要满足另外一个函数。

  1. 构建拉格朗日函数
  2. 通过转化其对偶问题，求极小
  3. 对已经极小化以后的拉格朗日函数求极大，也就是将第二步得到的极小的参数代入原拉格朗日函数