Based on my comprehensive analysis of this material, I'll create a complete knowledge system and mind map for Section 2: Differential Calculus of Vector Functions.

第二十三章第二节：向量函数微分学完整知识体系

📚 知识架构总览

本节深入探讨向量函数的微分理论，从一元和多元实值函数的微分推广到一般的向量值函数。核心内容包括：可微性定义、导数矩阵（雅可比矩阵）、链式法则、微分中值定理，以及黑塞矩阵与极值理论。这是连接线性代数、多元微积分和高等分析的关键桥梁。

🎯 第一部分：可微性的统一框架

1.1 从标量到向量的推广历程

1.1.1 一元实值函数的可微性

定义：函数 $f:\mathbb{R}\to \mathbb{R}$ 在 $x_0$ 可微，是指存在实数 $a$，使得：

$$f(x)-f(x_0)=a(x-x_0)+o(|x-x_0|)$$

等价形式： $$\underset{x\to x_0}{\lim }\frac{f(x)-f(x_0)-a(x-x_0)}{x-x_0}=0$$

关键元素：

• 线性主部：$a(x-x_0)=f^{\prime }(x_0)(x-x_0)$
• 高阶无穷小：$o(|x-x_0|)$
• 微分：$df=f^{\prime }(x_0)(x-x_0)$

1.1.2 二元实值函数的可微性

定义：函数 $f:{\mathbb{R}}^2\to \mathbb{R}$ 在点 $P_0(x_0,y_0)$ 可微，是指存在二维向量 $\mathbf{c}=(\alpha ,\beta {)}^T$，使得：

$$f(P)-f(P_0)={\mathbf{c}}^T(P-P_0)+o(\Vert P-P_0\Vert )$$

等价形式： $$\underset{P\to P_0}{\lim }\frac{f(P)-f(P_0)-{\mathbf{c}}^T(P-P_0)}{\Vert P-P_0\Vert }=0$$

关键发现：

• $\mathbf{c}=(f_x(P_0),f_y(P_0){)}^T$（梯度向量）
• 线性主部：${\mathbf{c}}^T(P-P_0)=f_x(x_0,y_0)(x-x_0)+f_y(x_0,y_0)(y-y_0)$
• 可记为：$\mathbf{c}=f^{\prime }(P_0)$（广义导数）

统一性洞察：一元函数的 $a(x-x_0)$ 和二元函数的 ${\mathbf{c}}^T(P-P_0)$ 本质上都是线性变换！

1.2 向量函数可微性的一般定义

1.2.1 核心定义

定义 1（可微性）：设 $D\subset {\mathbb{R}}^n$ 为开集，${\mathbf{x}}_0\in D$，$\mathbf{f}:D\to {\mathbb{R}}^m$。若存在某个线性变换 $A$（只依赖于 ${\mathbf{x}}_0$），使得 $\mathbf{x}\in U({\mathbf{x}}_0)\subset D$ 时，有：

$$\mathbf{f}(\mathbf{x})-\mathbf{f}({\mathbf{x}}_0)=A(\mathbf{x}-{\mathbf{x}}_0)+o(\Vert \mathbf{x}-{\mathbf{x}}_0\Vert )$$

等价形式： $$\underset{\mathbf{x}\to {\mathbf{x}}_0}{\lim }\frac{\Vert \mathbf{f}(\mathbf{x})-\mathbf{f}({\mathbf{x}}_0)-A(\mathbf{x}-{\mathbf{x}}_0)\Vert }{\Vert \mathbf{x}-{\mathbf{x}}_0\Vert }=0$$

则称向量函数 $\mathbf{f}$ 在点 ${\mathbf{x}}_0$ 可微（或可导）。

1.2.2 术语体系

微分的完整表达式： $$d\mathbf{f}=A(\mathbf{x}-{\mathbf{x}}_0)=D\mathbf{f}({\mathbf{x}}_0)(\mathbf{x}-{\mathbf{x}}_0)={\mathbf{f}}^{\prime }({\mathbf{x}}_0)(\mathbf{x}-{\mathbf{x}}_0)$$

1.3 导数矩阵的结构

1.3.1 分量函数的可微性

设向量函数 $\mathbf{f}:{\mathbb{R}}^n\to {\mathbb{R}}^m$ 的分量表示为： $$\mathbf{f}(\mathbf{x}) = \begin{pmatrix} f_1(\mathbf{x}) \ f_2(\mathbf{x}) \ \vdots \ f_m(\mathbf{x}) \end{pmatrix}$$

关键等价性： $$\mathbf{f}\text{ 在 }{\mathbf{x}}_0\text{ 可微}⟺f_i\text{ 在 }{\mathbf{x}}_0\text{ 可微},i=1,2,\dots ,m$$

证明：可微条件等价于： $$f_i(\mathbf{x})-f_i({\mathbf{x}}_0)={\mathbf{A}}_i(\mathbf{x}-{\mathbf{x}}_0)+o(\Vert \mathbf{x}-{\mathbf{x}}_0\Vert ),i=1,2,\dots ,m$$

其中 ${\mathbf{A}}_i=(a_{i1},a_{i2},\dots ,a_{in})$ 是矩阵 $A$ 的第 $i$ 行。

1.3.2 雅可比矩阵的显式表达

由实值函数可微性理论，知： $$a_{ij}=\frac{\partial f_i}{\partial x_j}{|}_{\mathbf{x}={\mathbf{x}}_0},j=1,2,\dots ,n;i=1,2,\dots ,m$$

导数矩阵（雅可比矩阵）： $$A = \mathbf{f}'(\mathbf{x}_0) = D\mathbf{f}(\mathbf{x}_0) = J(\mathbf{x}0) = \begin{pmatrix} \frac{\partial f_1}{\partial x_1} & \frac{\partial f_1}{\partial x_2} & \cdots & \frac{\partial f_1}{\partial x_n} \ \frac{\partial f_2}{\partial x_1} & \frac{\partial f_2}{\partial x_2} & \cdots & \frac{\partial f_2}{\partial x_n} \ \vdots & \vdots & \ddots & \vdots \ \frac{\partial f_m}{\partial x_1} & \frac{\partial f_m}{\partial x_2} & \cdots & \frac{\partial f_m}{\partial x_n} \end{pmatrix}{\mathbf{x} = \mathbf{x}_0}$$

矩阵维度：$m\times n$（$m$ 行 $n$ 列）

重要注解：

• 雅可比矩阵的存在不保证函数可微！
• 可微 $\Rightarrow$ 偏导数存在
• 偏导数存在且连续 $\Rightarrow$ 可微

🎯 第二部分：可微性的必要与充分条件

2.1 三大基础定理

定理 23.8（可微必连续）

陈述：若向量函数 $\mathbf{f}$ 在 ${\mathbf{x}}_0$ 可微，则 $\mathbf{f}$ 在 ${\mathbf{x}}_0$ 连续。

证明思路： $$\underset{\mathbf{x}\to {\mathbf{x}}_0}{\lim }[\mathbf{f}(\mathbf{x})-\mathbf{f}({\mathbf{x}}_0)]=\underset{\mathbf{x}\to {\mathbf{x}}_0}{\lim }[A(\mathbf{x}-{\mathbf{x}}_0)+o(\Vert \mathbf{x}-{\mathbf{x}}_0\Vert )]=0$$

定理 23.9（可微必有偏导数）

陈述：若向量函数 $\mathbf{f}$ 在 ${\mathbf{x}}_0$ 可微，则 $\mathbf{f}$ 的所有 $m$ 个坐标函数 $f_i$（$i=1,2,\dots ,m$）在 ${\mathbf{x}}_0$ 关于每个自变量 $x_j$（$j=1,2,\dots ,n$）的一阶偏导数 $\frac{\partial f_i}{\partial x_j}{|}_{\mathbf{x}={\mathbf{x}}_0}$ 都存在。

结论：由这些偏导数组成的矩阵（雅可比矩阵）便是 $\mathbf{f}$ 在 ${\mathbf{x}}_0$ 的导数。

定理 23.10（可微充分条件）

陈述：若向量函数 $\mathbf{f}$ 在点 ${\mathbf{x}}_0$ 的某邻域 $U({\mathbf{x}}_0)$ 内处处存在一阶偏导数 $\frac{\partial f_i}{\partial x_j}$（$i=1,2,\dots ,m;j=1,2,\dots ,n$），且所有这些偏导数在点 ${\mathbf{x}}_0$ 连续，则 $\mathbf{f}$ 在点 ${\mathbf{x}}_0$ 可微。

实用意义：这是验证可微性的主要工具！

2.2 可微性的等价刻画

定理 23.11（矩阵函数连续性刻画）

陈述：设 $D\subset {\mathbb{R}}^n$ 为开集，${\mathbf{x}}_0\in D$，$\mathbf{f}:D\to {\mathbb{R}}^m$。则 $\mathbf{f}$ 在 ${\mathbf{x}}_0$ 可微的充要条件是：存在一个（$m$ 行 $n$ 列的）矩阵函数 $F:D\to {\mathbb{R}}^{m\times n}$，它在 ${\mathbf{x}}_0$ 连续，并使得： $$\mathbf{f}(\mathbf{x})-\mathbf{f}({\mathbf{x}}_0)=F(\mathbf{x})(\mathbf{x}-{\mathbf{x}}_0),\mathbf{x}\in D$$

且有： $${\mathbf{f}}^{\prime }({\mathbf{x}}_0)=F({\mathbf{x}}_0)$$

证明核心思想：

(必要性)：已知可微，即： $$\mathbf{f}(\mathbf{x})-\mathbf{f}({\mathbf{x}}_0)=A(\mathbf{x}-{\mathbf{x}}_0)+\mathbf{\eta }(\mathbf{x})\Vert \mathbf{x}-{\mathbf{x}}_0\Vert$$ 其中 ${\lim }_{\mathbf{x}\to {\mathbf{x}}_0}\mathbf{\eta }(\mathbf{x})=0$。

构造矩阵函数： $$F(\mathbf{x})=\{\begin{array}{ll}{\mathbf{f}}^{\prime }({\mathbf{x}}_0)+\frac{\mathbf{\eta }(\mathbf{x})(\mathbf{x}-{\mathbf{x}}_0{)}^T}{\Vert \mathbf{x}-{\mathbf{x}}_0\Vert },& \mathbf{x}\ne {\mathbf{x}}_0\\ {\mathbf{f}}^{\prime }({\mathbf{x}}_0),& \mathbf{x}={\mathbf{x}}_0\end{array}$$

由于： $$\Vert F(\mathbf{x})-F({\mathbf{x}}_0)\Vert \le \Vert \mathbf{\eta }(\mathbf{x})\Vert \to 0$$

故 $F(\mathbf{x})$ 在 ${\mathbf{x}}_0$ 连续。

(充分性)：若存在连续矩阵函数 $F$ 满足条件，则： $$\mathbf{f}(\mathbf{x})-\mathbf{f}({\mathbf{x}}_0)=F({\mathbf{x}}_0)(\mathbf{x}-{\mathbf{x}}_0)+[F(\mathbf{x})-F({\mathbf{x}}_0)](\mathbf{x}-{\mathbf{x}}_0)$$

令： $$\mathbf{\eta }(\mathbf{x})=\{\begin{array}{ll}\frac{[F(\mathbf{x})-F({\mathbf{x}}_0)](\mathbf{x}-{\mathbf{x}}_0)}{\Vert \mathbf{x}-{\mathbf{x}}_0\Vert },& \mathbf{x}\ne {\mathbf{x}}_0\\ 0,& \mathbf{x}={\mathbf{x}}_0\end{array}$$

由 $F$ 的连续性，${\lim }_{\mathbf{x}\to {\mathbf{x}}_0}\mathbf{\eta }(\mathbf{x})=0$，故 $\mathbf{f}$ 在 ${\mathbf{x}}_0$ 可微。

2.3 实例分析

例 1：求向量函数的导数

问题：设 $X=\{({\mathbf{x}}_1,{\mathbf{x}}_2):-\infty <{\mathbf{x}}_1<+\infty ,{\mathbf{x}}_2>0\}\subset {\mathbb{R}}^2$，向量函数 $\mathbf{f}:X\to {\mathbb{R}}^3$ 为： $$\mathbf{f}(\mathbf{x}) = \mathbf{f}(x_1, x_2) = \begin{pmatrix} x_1^2 x_2^3 \ e^{x_1 + x_2} \ x_2 \ln x_2 \end{pmatrix}$$

求 ${\mathbf{f}}^{\prime }(\mathbf{x})$（$\mathbf{x}\in X$）和 ${\mathbf{f}}^{\prime }(1,1)$。

解：

Step 1：计算偏导数

$$\frac{\partial f_1}{\partial x_1}=2x_1{x}_2^3,\frac{\partial f_1}{\partial x_2}=3x_1^2{x}_2^2$$

$$\frac{\partial f_2}{\partial x_1}=e^{x_1+x_2},\frac{\partial f_2}{\partial x_2}=e^{x_1+x_2}$$

$$\frac{\partial f_3}{\partial x_1}=0,\frac{\partial f_3}{\partial x_2}=\ln x_2+1$$

Step 2：构造雅可比矩阵

$$\mathbf{f}'(\mathbf{x}) = \begin{pmatrix} 2x_1 x_2^3 & 3x_1^2 x_2^2 \ e^{x_1 + x_2} & e^{x_1 + x_2} \ 0 & \ln x_2 + 1 \end{pmatrix}$$

Step 3：代入 $(1,1)$

$$\mathbf{f}'(1, 1) = \begin{pmatrix} 2 & 3 \ e^2 & e^2 \ 0 & 1 \end{pmatrix}$$

结论：由定理 23.10，所有偏导数在 $X$ 上连续，故 $\mathbf{f}$ 在 $X$ 上每一点都可微。

🎯 第三部分：可微函数的运算性质

3.1 线性运算

定理 23.12（线性性质）

陈述：设 $\mathbf{f},\mathbf{g}:D\to {\mathbb{R}}^m$ 是两个在 ${\mathbf{x}}_0\in D$ 可微的函数，$c$ 是任意实数。则 $c\mathbf{f}$ 与 $\mathbf{f}\pm \mathbf{g}$ 在 ${\mathbf{x}}_0$ 也可微，且有：

$$(c\mathbf{f}{)}^{\prime }({\mathbf{x}}_0)=c{\mathbf{f}}^{\prime }({\mathbf{x}}_0)$$

$$(\mathbf{f}\pm \mathbf{g}{)}^{\prime }({\mathbf{x}}_0)={\mathbf{f}}^{\prime }({\mathbf{x}}_0)\pm {\mathbf{g}}^{\prime }({\mathbf{x}}_0)$$

证明：利用定义和极限运算法则直接验证。

3.2 复合函数的链式法则

定理 23.13（链式法则）

陈述：设 $\mathbf{f}:D\to {\mathbb{R}}^m$ 在 ${\mathbf{x}}_0\in D$ 可微；$D^{\prime }\subset {\mathbb{R}}^m$ 亦为开集，$\mathbf{f}(D)\subset D^{\prime }$；$\mathbf{g}:D^{\prime }\to {\mathbb{R}}^p$ 在 ${\mathbf{y}}_0=\mathbf{f}({\mathbf{x}}_0)$ 可微。则复合函数 $\mathbf{h}=\mathbf{g}\circ \mathbf{f}:D\to {\mathbb{R}}^p$ 在 ${\mathbf{x}}_0$ 可微，且：

$${\mathbf{h}}^{\prime }({\mathbf{x}}_0)=(\mathbf{g}\circ \mathbf{f}{)}^{\prime }({\mathbf{x}}_0)={\mathbf{g}}^{\prime }({\mathbf{y}}_0){\mathbf{f}}^{\prime }({\mathbf{x}}_0)$$

矩阵形式： $$\underset{p\times n}{\underbrace{{\mathbf{h}}^{\prime }({\mathbf{x}}_0)}}=\underset{p\times m}{\underbrace{{\mathbf{g}}^{\prime }({\mathbf{y}}_0)}}\cdot \underset{m\times n}{\underbrace{{\mathbf{f}}^{\prime }({\mathbf{x}}_0)}}$$

证明：

由定理 23.11，存在矩阵函数 $F:D\to {\mathbb{R}}^{m\times n}$ 在 ${\mathbf{x}}_0$ 连续，$G:D^{\prime }\to {\mathbb{R}}^{p\times m}$ 在 ${\mathbf{y}}_0$ 连续，且：

$$\mathbf{f}(\mathbf{x})-\mathbf{f}({\mathbf{x}}_0)=F(\mathbf{x})(\mathbf{x}-{\mathbf{x}}_0),\mathbf{x}\in D$$

$$\mathbf{g}(\mathbf{y})-\mathbf{g}({\mathbf{y}}_0)=G(\mathbf{y})(\mathbf{y}-{\mathbf{y}}_0),\mathbf{y}\in D^{\prime }$$

于是： $$\begin{array}{rl}\mathbf{h}(\mathbf{x})-\mathbf{h}({\mathbf{x}}_0)& =\mathbf{g}(\mathbf{f}(\mathbf{x}))-\mathbf{g}(\mathbf{f}({\mathbf{x}}_0))\\ & =G(\mathbf{f}(\mathbf{x}))[\mathbf{f}(\mathbf{x})-\mathbf{f}({\mathbf{x}}_0)]\\ & =G(\mathbf{f}(\mathbf{x}))F(\mathbf{x})(\mathbf{x}-{\mathbf{x}}_0)\\ & =H(\mathbf{x})(\mathbf{x}-{\mathbf{x}}_0)\end{array}$$

其中 $H(\mathbf{x})=G(\mathbf{f}(\mathbf{x}))F(\mathbf{x})$。

由连续函数的复合性质，$H$ 在 ${\mathbf{x}}_0$ 连续。由定理 23.11，$\mathbf{h}$ 在 ${\mathbf{x}}_0$ 可微，且： $${\mathbf{h}}^{\prime }({\mathbf{x}}_0)=H({\mathbf{x}}_0)=G(\mathbf{f}({\mathbf{x}}_0))F({\mathbf{x}}_0)={\mathbf{g}}^{\prime }({\mathbf{y}}_0){\mathbf{f}}^{\prime }({\mathbf{x}}_0)$$

链式法则的雅可比形式

设 $\mathbf{u}=\mathbf{g}(\mathbf{y})$，$\mathbf{y}=\mathbf{f}(\mathbf{x})$，则：

$$\begin{pmatrix} \frac{\partial u_1}{\partial x_1} & \cdots & \frac{\partial u_1}{\partial x_n} \ \vdots & \ddots & \vdots \ \frac{\partial u_p}{\partial x_1} & \cdots & \frac{\partial u_p}{\partial x_n} \end{pmatrix} = \begin{pmatrix} \frac{\partial u_1}{\partial y_1} & \cdots & \frac{\partial u_1}{\partial y_m} \ \vdots & \ddots & \vdots \ \frac{\partial u_p}{\partial y_1} & \cdots & \frac{\partial u_p}{\partial y_m} \end{pmatrix} \begin{pmatrix} \frac{\partial y_1}{\partial x_1} & \cdots & \frac{\partial y_1}{\partial x_n} \ \vdots & \ddots & \vdots \ \frac{\partial y_m}{\partial x_1} & \cdots & \frac{\partial y_m}{\partial x_n} \end{pmatrix}$$

分量形式： $$\frac{\partial u_i}{\partial x_j}=\sum _{k=1}^m\frac{\partial u_i}{\partial y_k}\frac{\partial y_k}{\partial x_j},i=1,\dots ,p;j=1,\dots ,n$$

3.3 链式法则的应用实例

例 2：二元复合函数

问题：设 $D\subset {\mathbb{R}}^2$，$\mathbf{f}:D\to {\mathbb{R}}^2$，$\mathbf{f}(D)\subset D^{\prime }\subset {\mathbb{R}}^2$，$g:D^{\prime }\to \mathbb{R}$。当 $\mathbf{f},g$ 均可微时，求 $h=g\circ \mathbf{f}:D\to \mathbb{R}$ 的导数。

解：

设 $\mathbf{y}=\mathbf{f}(\mathbf{x})=(f_1(\mathbf{x}),f_2(\mathbf{x}){)}^T$，$u=g(\mathbf{y})$。

由链式法则： $$h^{\prime }(\mathbf{x})=g^{\prime }(\mathbf{y}){\mathbf{f}}^{\prime }(\mathbf{x})$$

矩阵表达： $$\begin{pmatrix} \frac{\partial u}{\partial x_1} & \frac{\partial u}{\partial x_2} \end{pmatrix} = \begin{pmatrix} \frac{\partial u}{\partial y_1} & \frac{\partial u}{\partial y_2} \end{pmatrix} \begin{pmatrix} \frac{\partial y_1}{\partial x_1} & \frac{\partial y_1}{\partial x_2} \ \frac{\partial y_2}{\partial x_1} & \frac{\partial y_2}{\partial x_2} \end{pmatrix}$$

展开： $$\frac{\partial u}{\partial x_1}=\frac{\partial u}{\partial y_1}\frac{\partial y_1}{\partial x_1}+\frac{\partial u}{\partial y_2}\frac{\partial y_2}{\partial x_1}$$

$$\frac{\partial u}{\partial x_2}=\frac{\partial u}{\partial y_1}\frac{\partial y_1}{\partial x_2}+\frac{\partial u}{\partial y_2}\frac{\partial y_2}{\partial x_2}$$

这正是第十七章的链式法则！

例 3：多层复合

问题：设 $$w=[f(x,u),g(y,v){]}^T,u=\varphi (x,y,v),v=\psi (x,y)$$

求 ${\mathbf{w}}^{\prime }(x,y)$。

解：

复合链： $$(x,y)\to (x,y,v)\to (x,y,u,v)\to (w_1,w_2)$$

分步求导：

Step 1：$(x,y)\to (x,y,v)$ $$\begin{pmatrix} x \ y \ v \end{pmatrix}' = \begin{pmatrix} 1 & 0 \ 0 & 1 \ \psi_x & \psi_y \end{pmatrix}$$

Step 2：$(x,y,v)\to (x,y,u,v)$ $$\begin{pmatrix} x \ y \ u \ v \end{pmatrix}' = \begin{pmatrix} 1 & 0 & 0 \ 0 & 1 & 0 \ \phi_x & \phi_y & \phi_v \ 0 & 0 & 1 \end{pmatrix} \begin{pmatrix} 1 & 0 \ 0 & 1 \ \psi_x & \psi_y \end{pmatrix} = \begin{pmatrix} 1 & 0 \ 0 & 1 \ \phi_x + \phi_v \psi_x & \phi_y + \phi_v \psi_y \ \psi_x & \psi_y \end{pmatrix}$$

Step 3：$(x,y,u,v)\to (w_1,w_2)$ $$\mathbf{w}'(x, y) = \begin{pmatrix} f_x & f_u & 0 & 0 \ 0 & 0 & g_y & g_v \end{pmatrix} \begin{pmatrix} 1 & 0 \ 0 & 1 \ \phi_x + \phi_v \psi_x & \phi_y + \phi_v \psi_y \ \psi_x & \psi_y \end{pmatrix}$$

最终结果： $$\mathbf{w}'(x, y) = \begin{pmatrix} f_x + f_u(\phi_x + \phi_v\psi_x) & f_u(\phi_y + \phi_v\psi_y) \ g_y(\phi_x + \phi_v\psi_x) + g_v\psi_x & g_y(\phi_y + \phi_v\psi_y) + g_v\psi_y \end{pmatrix}$$

🎯 第四部分：微分中值定理

4.1 定理陈述

定理 23.14（微分中值不等式）

陈述：设 $D\subset {\mathbb{R}}^n$ 是凸开集，$\mathbf{f}:D\to {\mathbb{R}}^m$。若 $\mathbf{f}$ 在 $D$ 内可微，则对任何两点 $\mathbf{a},\mathbf{b}\in D$，必存在点 $\mathbf{\xi }=\mathbf{a}+\theta (\mathbf{b}-\mathbf{a})$，$0<\theta <1$，使得：

$$\Vert \mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a})\Vert \le \Vert {\mathbf{f}}^{\prime }(\mathbf{\xi })\Vert \cdot \Vert \mathbf{b}-\mathbf{a}\Vert$$

几何意义：向量函数增量的模由导数矩阵的模控制。

4.2 证明

证明：

构造辅助实值函数： $$\phi (\mathbf{x})=[\mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a}){]}^T\mathbf{f}(\mathbf{x})$$

$\phi$ 是 $D$ 上的实值函数，满足实值函数中值定理（定理 17.8）的条件。故存在 $\mathbf{\xi }=\mathbf{a}+\theta (\mathbf{b}-\mathbf{a})$，$0<\theta <1$，使得： $$\phi (\mathbf{b})-\phi (\mathbf{a})={\phi }^{\prime }(\mathbf{\xi })(\mathbf{b}-\mathbf{a})$$

其中： $${\phi }^{\prime }(\mathbf{\xi })=[\mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a}){]}^T{\mathbf{f}}^{\prime }(\mathbf{\xi })$$

注意到： $$\phi (\mathbf{b})-\phi (\mathbf{a})=[\mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a}){]}^T[\mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a})]=\Vert \mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a}){\Vert }^2$$

因此： $$\Vert \mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a}){\Vert }^2=[\mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a}){]}^T{\mathbf{f}}^{\prime }(\mathbf{\xi })(\mathbf{b}-\mathbf{a})$$

由 Cauchy-Schwarz 不等式： $$\Vert \mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a}){\Vert }^2\le \Vert \mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a})\Vert \cdot \Vert {\mathbf{f}}^{\prime }(\mathbf{\xi })(\mathbf{b}-\mathbf{a})\Vert$$

两边同时除以 $\Vert \mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a})\Vert$（假设非零）： $$\Vert \mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a})\Vert \le \Vert {\mathbf{f}}^{\prime }(\mathbf{\xi })(\mathbf{b}-\mathbf{a})\Vert \le \Vert {\mathbf{f}}^{\prime }(\mathbf{\xi })\Vert \cdot \Vert \mathbf{b}-\mathbf{a}\Vert$$

得证。□

4.3 应用

推论：若 $\Vert {\mathbf{f}}^{\prime }(\mathbf{x})\Vert \le M$ 对所有 $\mathbf{x}\in D$，则： $$\Vert \mathbf{f}(\mathbf{b})-\mathbf{f}(\mathbf{a})\Vert \le M\Vert \mathbf{b}-\mathbf{a}\Vert$$

即 $\mathbf{f}$ 是 Lipschitz 连续的，Lipschitz 常数为 $M$。

🎯 第五部分：高阶导数与极值理论

5.1 高阶导数

5.1.1 一元向量函数的高阶导数

对于 $\mathbf{x}:I\to {\mathbb{R}}^n$，$I\subset \mathbb{R}$： $$\mathbf{x}=\mathbf{x}(t)=(x_1(t),x_2(t),\dots ,x_n(t){)}^T,t\in I$$

只要 $x_i^{(k)}(t)$（$i=1,2,\dots ,n$）存在，$k$ 阶导数为： $${\mathbf{x}}^{(k)}(t)=[x_1^{(k)}(t),x_2^{(k)}(t),\dots ,x_n^{(k)}(t){]}^T$$

5.1.2 多元实值函数的二阶导数

对于 $f:D\to \mathbb{R}$，$D\subset {\mathbb{R}}^n$ 为开集。

梯度向量函数： $$\nabla f(\mathbf{x})=f^{\prime }(\mathbf{x})={\left(\frac{\partial f}{\partial x_1},\frac{\partial f}{\partial x_2},\dots ,\frac{\partial f}{\partial x_n}\right)}^T$$

若 $\nabla f$ 可微，则称 $f$ 二阶可微，其导数称为 $f$ 的二阶导数，记作 $f^{\prime \prime }(\mathbf{x})$ 或 $D^{2}f(\mathbf{x})$。

5.2 黑塞矩阵（Hessian Matrix）

定义

$$f''(\mathbf{x}) = \begin{pmatrix} \frac{\partial^2 f}{\partial x_1^2} & \frac{\partial^2 f}{\partial x_1 \partial x_2} & \cdots & \frac{\partial^2 f}{\partial x_1 \partial x_n} \ \frac{\partial^2 f}{\partial x_2 \partial x_1} & \frac{\partial^2 f}{\partial x_2^2} & \cdots & \frac{\partial^2 f}{\partial x_2 \partial x_n} \ \vdots & \vdots & \ddots & \vdots \ \frac{\partial^2 f}{\partial x_n \partial x_1} & \frac{\partial^2 f}{\partial x_n \partial x_2} & \cdots & \frac{\partial^2 f}{\partial x_n^2} \end{pmatrix}$$

性质：

• 当 $f$ 的二阶混合偏导数连续时，黑塞矩阵是对称矩阵
• 矩阵维度：$n\times n$

5.3 二阶泰勒公式

当 $f$ 在 ${\mathbf{x}}_0$ 的邻域二阶可微且二阶偏导数连续时：

$$f(\mathbf{x})=f({\mathbf{x}}_0)+f^{\prime }({\mathbf{x}}_0)(\mathbf{x}-{\mathbf{x}}_0)+\frac{1}{2}(\mathbf{x}-{\mathbf{x}}_0{)}^T{f}^{\prime \prime }({\mathbf{x}}_0)(\mathbf{x}-{\mathbf{x}}_0)+o(\Vert \mathbf{x}-{\mathbf{x}}_0{\Vert }^2)$$

关键项：

• 零阶项：$f({\mathbf{x}}_0)$（函数值）
• 一阶项：$f^{\prime }({\mathbf{x}}_0)(\mathbf{x}-{\mathbf{x}}_0)$（线性部分）
• 二阶项：$\frac{1}{2}(\mathbf{x}-{\mathbf{x}}_0{)}^T{f}^{\prime \prime }({\mathbf{x}}_0)(\mathbf{x}-{\mathbf{x}}_0)$（二次型）

5.4 极值理论

5.4.1 极值必要条件

定理 23.15（极值必要条件）

设 $D\subset {\mathbb{R}}^n$ 为开集，实值函数 $f:D\to \mathbb{R}$ 在 ${\mathbf{x}}_0\in D$ 可微，且取极值，则：

(i) 一阶必要条件：${\mathbf{x}}_0$ 必为 $f$ 的稳定点（驻点），即： $$f^{\prime }({\mathbf{x}}_0)=0\iff \nabla f({\mathbf{x}}_0)=0$$

(ii) 二阶必要条件：若 $f$ 在 ${\mathbf{x}}_0$ 的某邻域 $U({\mathbf{x}}_0)\subset D$ 存在连续二阶偏导数，则：

• 当 $f({\mathbf{x}}_0)$ 为极小值时，黑塞矩阵 $f^{\prime \prime }({\mathbf{x}}_0)$ 为正定或半正定
• 当 $f({\mathbf{x}}_0)$ 为极大值时，黑塞矩阵 $f^{\prime \prime }({\mathbf{x}}_0)$ 为负定或半负定

推论：若 $f^{\prime \prime }({\mathbf{x}}_0)$ 为不定矩阵，则 $f$ 在 ${\mathbf{x}}_0$ 不取极值。

5.4.2 极值充分条件

定理 23.16（极值充分条件）

设函数 $f$ 在 $U({\mathbf{x}}_0)\subset D$ 存在连续二阶偏导数，且 $f^{\prime }({\mathbf{x}}_0)=0$，则：

• 当 $f^{\prime \prime }({\mathbf{x}}_0)$ 为正定时，$f$ 在 ${\mathbf{x}}_0$ 取严格极小值
• 当 $f^{\prime \prime }({\mathbf{x}}_0)$ 为负定时，$f$ 在 ${\mathbf{x}}_0$ 取严格极大值

5.5 二次函数的极值

例 4：二次函数的极值分析

问题：讨论二次函数 $$f(\mathbf{x})=\frac{1}{2}{\mathbf{x}}^{T}A\mathbf{x}+{\mathbf{b}}^T\mathbf{x}+c$$ 的极值。其中 $\mathbf{x}\in {\mathbb{R}}^n$，$A$ 为 $n\times n$ 对称矩阵，$\mathbf{b}$ 为 $n\times 1$ 向量，$c$ 为实数。

解：

Step 1：求稳定点

$$f^{\prime }(\mathbf{x})={\mathbf{x}}^{T}A+{\mathbf{b}}^T=0$$

解得（假设 $A$ 可逆）： $${\mathbf{x}}_0=-A^{-1}\mathbf{b}$$

Step 2：计算黑塞矩阵

$$f^{\prime \prime }(\mathbf{x})=A$$

Step 3：判定极值

验证极值公式： $$\begin{array}{rl}f({\mathbf{x}}_0)& =\frac{1}{2}(-A^{-1}\mathbf{b}{)}^{T}A(-A^{-1}\mathbf{b})+{\mathbf{b}}^T(-A^{-1}\mathbf{b})+c\\ & =\frac{1}{2}{\mathbf{b}}^T{A}^{-1}\mathbf{b}-{\mathbf{b}}^T{A}^{-1}\mathbf{b}+c\\ & =-\frac{1}{2}{\mathbf{b}}^T{A}^{-1}\mathbf{b}+c\end{array}$$

🗺️ 完整思维导图

第23章第2节：向量函数的微分
│
├─ 第一部分：可微性的统一框架
│  ├─ 1.1 历史推广
│  │   ├─ 一元实值函数：f(x) - f(x₀) = a(x - x₀) + o(|x - x₀|)
│  │   ├─ 二元实值函数：f(P) - f(P₀) = c^T(P - P₀) + o(‖P - P₀‖)
│  │   └─ 核心洞察：线性逼近 = 线性变换
│  ├─ 1.2 向量函数可微性
│  │   ├─ 定义：f(x) - f(x₀) = A(x - x₀) + o(‖x - x₀‖)
│  │   ├─ 术语：微分、导数、雅可比矩阵
│  │   └─ 等价条件：范数形式 ↔ 极限形式
│  └─ 1.3 雅可比矩阵结构
│      ├─ 分量等价性：f可微 ⟺ 所有f_i可微
│      ├─ 显式表达：J = [∂f_i/∂x_j]_{m×n}
│      └─ 关键警告：偏导存在≠可微
│
├─ 第二部分：可微性的条件
│  ├─ 2.1 必要条件
│  │   ├─ 定理23.8：可微 ⇒ 连续
│  │   └─ 定理23.9：可微 ⇒ 偏导数存在
│  ├─ 2.2 充分条件
│  │   └─ 定理23.10：偏导存在且连续 ⇒ 可微
│  ├─ 2.3 等价刻画
│  │   └─ 定理23.11：矩阵函数连续性条件
│  └─ 2.4 实例分析
│      └─ 例1：具体向量函数的雅可比矩阵计算
│
├─ 第三部分：可微函数的运算
│  ├─ 3.1 线性运算
│  │   └─ 定理23.12：(cf)' = cf', (f±g)' = f'±g'
│  ├─ 3.2 复合函数
│  │   ├─ 定理23.13：链式法则 h' = g'f'
│  │   ├─ 雅可比形式：矩阵乘法表示
│  │   └─ 分量形式：∂u_i/∂x_j = Σ(∂u_i/∂y_k)(∂y_k/∂x_j)
│  └─ 3.3 应用实例
│      ├─ 例2：二元复合函数（回顾第17章）
│      └─ 例3：多层复合的系统计算
│
├─ 第四部分：微分中值定理
│  ├─ 4.1 定理陈述
│  │   └─ 定理23.14：‖f(b) - f(a)‖ ≤ ‖f'(ξ)‖·‖b - a‖
│  ├─ 4.2 证明技巧
│  │   └─ 构造辅助函数：φ = [f(b) - f(a)]^T f(x)
│  └─ 4.3 应用
│      └─ Lipschitz连续性判定
│
└─ 第五部分：高阶导数与极值
   ├─ 5.1 高阶导数
   │   ├─ 一元向量函数：x^(k)(t)
   │   └─ 多元实值函数：梯度的导数
   ├─ 5.2 黑塞矩阵
   │   ├─ 定义：f'' = [∂²f/∂x_i∂x_j]_{n×n}
   │   ├─ 对称性：混合偏导连续时
   │   └─ 二阶泰勒公式
   ├─ 5.3 极值理论
   │   ├─ 定理23.15：极值必要条件
   │   │   ├─ 一阶：f'(x₀) = 0
   │   │   └─ 二阶：f''(x₀)半正定/半负定
   │   └─ 定理23.16：极值充分条件
   │       └─ f''(x₀)正定 ⇒ 极小；负定 ⇒ 极大
   └─ 5.4 应用实例
       └─ 例4：二次函数的极值分析

📊 核心定理关系图

graph TB
    A[可微性定义] --> B[定理23.8: 可微⇒连续]
    A --> C[定理23.9: 可微⇒偏导存在]
    D[定理23.10: 偏导连续⇒可微] --> A
    E[定理23.11: 矩阵函数连续刻画] -.等价于.-> A
    
    A --> F[定理23.12: 线性运算]
    A --> G[定理23.13: 链式法则]
    
    G --> H[复合函数可微性]
    H --> I[例2: 二元复合]
    H --> J[例3: 多层复合]
    
    A --> K[定理23.14: 微分中值不等式]
    K --> L[Lipschitz连续性]
    
    A --> M[二阶导数与黑塞矩阵]
    M --> N[二阶泰勒公式]
    N --> O[定理23.15: 极值必要条件]
    N --> P[定理23.16: 极值充分条件]
    
    O --> Q[例4: 二次函数极值]
    P --> Q
    
    style A fill:#ff9999
    style G fill:#99ccff
    style M fill:#99ff99
    style O fill:#ffcc99

🔑 核心洞察与理论价值

理论统一性

1. 从标量到向量的自然推广

   • 关键：用线性变换统一描述微分
   • 工具：雅可比矩阵作为广义导数
   • 本质：局部线性逼近的高维推广

2. 可微性的层次结构

   偏导存在 ⊂ 偏导连续 ⊂ 可微 ⊂ 连续
   

   • 偏导连续是实用的充分条件
   • 可微性保证了良好的局部性质

3. 链式法则的威力

   • 矩阵乘法表达：简洁而强大
   • 复合函数求导的系统方法
   • 深度学习中反向传播的理论基础

实际应用

1. 最优化理论

   • 梯度下降法：${\mathbf{x}}_{k+1}={\mathbf{x}}_k-\alpha \nabla f({\mathbf{x}}_k)$
   • 牛顿法：${\mathbf{x}}_{k+1}={\mathbf{x}}_k-[f^{\prime \prime }({\mathbf{x}}_k){]}^{-1}\nabla f({\mathbf{x}}_k)$

2. 机器学习

   • 神经网络训练：链式法则计算梯度
   • 损失函数优化：黑塞矩阵判定收敛性

3. 物理与工程

   • 拉格朗日力学：极值原理
   • 控制理论：稳定性分析

4. 微分几何

   • 流形上的切空间
   • 黎曼度量与曲率

📖 关键概念对照表

🚀 进阶学习路径

基础巩固

1. 线性代数复习

   • 矩阵运算与线性变换
   • 正定矩阵与二次型
   • 特征值与特征向量

2. 多元微积分

   • 偏导数与全微分
   • 隐函数定理
   • 条件极值（Lagrange乘数法）

深化拓展

1. 高等分析

   • Banach空间上的微分学
   • Fréchet导数与Gâteaux导数
   • 隐函数与反函数定理

2. 微分几何

   • 切空间与余切空间
   • 张量分析
   • 流形上的微积分

3. 数值优化

   • 梯度法与共轭梯度法
   • 拟牛顿法（BFGS）
   • 信赖域方法

应用领域

1. 机器学习

   • 自动微分（Automatic Differentiation）
   • 反向传播算法
   • 优化算法收敛性分析

2. 控制理论

   • 李雅普诺夫稳定性
   • 最优控制
   • 动态规划

📚 延伸阅读

经典教材

1. Rudin, Principles of Mathematical Analysis（数学分析原理）
2. Apostol, Mathematical Analysis
3. 华东师大《数学分析》（第五版）

高级专著

1. Lang, Real and Functional Analysis
2. Cartan, Differential Calculus
3. Spivak, Calculus on Manifolds

应用方向

1. Boyd & Vandenberghe, Convex Optimization
2. Nocedal & Wright, Numerical Optimization
3. Goodfellow et al., Deep Learning

知识体系构建完成 ✅

本节建立了向量函数微分学的完整理论框架，从可微性定义、导数矩阵（雅可比矩阵）、链式法则，到微分中值定理和极值理论。这些内容不仅是数学分析的核心，更是现代科学计算、机器学习、优化理论的理论基石。通过系统学习本章，您将掌握处理高维函数问题的强大工具，为进一步探索高等数学和应用数学打下坚实基础。