特殊矩阵

线性代数线性代数

创建时间:2023-10-11 11:08

阅读:

卡式分解
1. 实对称矩阵1
2. 反对称矩阵2

卡式分解

特殊矩阵可以分解成一般矩阵以便更好理解矩阵的含义, 卡氏分解（Cartesian decomposition）可以把任何一个$n\times n$矩阵$A$分解成对称矩阵和反对称矩阵之和.
$A=B+C=\frac{1}{2}(A+A^T)+\frac{1}{2}(A-A^T)$
直接应用在与计算方阵的二次型, $x^TCx=x^TC^Tx=-x^TCx$, 即$x^TCx=0$, 所以二次型只针对卡式分解的对称部分计算即可$x^TAx=x^T\frac{A+A^T}{2}x$

正定矩阵

$x^TAx>0$对于任意非零向量$x$满足则是正定矩阵, $x^TAx\ge 0$则是半正定矩阵, 上面分析我们可以直接研究对称矩阵的正定性即可.实际含义就是$x$与经过线性变换后的$Ax$夹角小于等于90°
$x^TAx=1$,正定矩阵对应椭圆(高维椭球),等价于$y^Ty=(\Lambda ^{\frac{1}{2}}Q^Tx)^T(\Lambda ^{\frac{1}{2}}Q^Tx)=1$, 即$x=Q\Lambda ^{-\frac{1}{2}}y$,$y$坐标系下正圆,经过线性变换到另外一个空间得到椭圆,缩放后旋转,主要关注主轴,即$y$坐标系下圆与坐标轴交点的变化. $A$是正定矩阵,$x^TAx=1$含义:$\frac{A+A^T}{2}$的特征向量对应椭圆的长短轴方向,特征值$\lambda_i$对应轴长$\lambda_i^{-\frac{1}{2}}$. 非对称矩阵$A$与$\frac{A+A^T}{2}$的特征值和特征向量通常不同
或者$y=Q^Tx$, 得到$y^T\Lambda y=1$, 即$\lambda_1y_1^2+\lambda_2y_2^2=1$, 对应椭圆, 可以分析特征值为负数对应双曲线

正定矩阵可以用于求函数最小值. 函数$f(x,y)$最小值在$\frac{\partial f}{\partial x}=0,\frac{\partial f}{\partial y}=0$且对应点导数对应对称矩阵为正定矩阵

$S=\begin{bmatrix} \frac{\partial^2 f}{\partial x^2} & \frac{\partial^2 f}{\partial x\partial y}\\ \frac{\partial^2 f}{\partial x\partial y} & \frac{\partial^2 f}{\partial y^2} \end{bmatrix}$

一元函数最小值如$f(t)=t^2$,在${f}’(0)=0$, 且${f}’’(0)>0 $取得最小值, 即$t=0$, 对应一阶导数为0, 二阶导数为正数, 导数求解为$f’(t)=\lim_{\Delta t \to 0}\frac{f(t+\Delta t)-f(t)}{\Delta t}$
二元函数$f(x,y)$偏导数$\frac{\partial f }{\partial x}=\lim_{\Delta x \to 0}\frac{f(x+\Delta x,y)-f(x,y)}{\Delta x},\frac{\partial f }{\partial y}=\lim_{\Delta y \to 0}\frac{f(x,y+\Delta y)-f(x,y)}{\Delta y}$, 另外二元函数不只是两个方向的导数,还有方向导数, 即在对应方向求曲面斜率, 两个偏导数只是在特殊的$x,y$方向而已,$(\cos \alpha, \sin \alpha)$方向导数为

$\begin{align} \frac{\partial f }{\partial z} &= \lim_{\Delta z \to 0}\frac{f(x+\Delta z \cos \alpha,y+\Delta z \sin \alpha)-f(x,y)}{\Delta z} \\ &= \lim_{\Delta z \to 0}\frac{f(x+\Delta z \cos \alpha,y+\Delta z \sin \alpha)-f(x,y+\Delta z \sin \alpha)+f(x,y+\Delta z \sin \alpha)-f(x,y)}{\Delta z} \\ &= \cos \alpha \frac{\partial f}{\partial x}+\sin \alpha\frac{\partial f}{\partial y} \end{align}$

对应二阶导为

$\begin{align} \frac{\partial^2 f }{\partial z^2} &=\cos \alpha(\cos \alpha \frac{\partial^2 f}{\partial x^2}+\sin \alpha \frac{\partial^2 f}{\partial x\partial y}) +\sin \alpha(\cos \alpha \frac{\partial^2 f}{\partial x\partial y}+\sin \alpha \frac{\partial^2 f}{\partial y^2})\\ &= \cos^2 \alpha \frac{\partial^2 f}{\partial x^2} +2\sin \alpha \cos \alpha \frac{\partial^2 f}{\partial x\partial y} + \sin^2\frac{\partial^2 f}{\partial y^2}\\ \end{align}$

同事对应正定矩阵满足$x^TSx>0$,可以把$x$归一化, 即$x=\begin{bmatrix}
\cos \alpha \\
\sin \alpha
\end{bmatrix}$, 最后化简得到就是指方向二阶导数全为正, 这和实际物理意义也相符合, 即在对应点的导数为0, 对应点所有方向的二阶导数都为正, 即碗状图形, 可以扩展为多元函数最小值求解

实对称矩阵¹

实对称矩阵的特征值皆是实数, 且对应特征向量是实向量
首先有$Ax=\lambda x,A\bar{x}=\bar{\lambda} \bar{x}$, 第二个方程左边转置并右乘特征向量$x$得到$\bar{x}^TA^Tx=\bar{x}^TAx=\lambda \bar{x}^Tx$, 等式右边$\bar{\lambda} \bar{x}^Tx$,
所以$(\lambda - \bar{\lambda}) \bar{x}^Tx=0$, 同时特征向量$x$非零, 所以特征值$\lambda$为实数, 特征向量为方程$(A-\lambda I)x=0$的解, 通过高斯消去法可以得到解, 同时系数矩阵为实数,所以解即特征向量也是实向量
实对称矩阵对应相异特征值的特征向量互为正交
设$\lambda_1\ne 0$, $\lambda_1x_1^Tx_2=(Ax_1)^Tx_2=x_1A^Tx_2=x_1Ax_2=\lambda_2x_1x_2$, 即$(\lambda_1-\lambda_2)x_1^Tx_2=0$, 由于$\lambda_1\ne \lambda_2$, 所以$x_1^Tx_2=0$,即相互垂直
任一$n\times n$阶实对称矩阵都有n个单范正交特征向量, 即$A=Q\Lambda Q^T$
预备知识
- 对于$n \times n$矩阵$A$, 如果$\mathcal{X} \subseteq \mathbb{C} ^n$是$A$的一个不变子空间且$\mathcal{X} \ne \{0\}$, 则存在非零特征向量$x \in \mathcal{X}$, 使得$Ax=\lambda x$
  
  证明: 假定$dim\mathcal{X}=r, 0<r\le n$, $x\in \mathcal{X}$非零, 向量集合$\begin{Bmatrix}x & Ax&\cdots &A^rx\end{Bmatrix}$线性相关, 即有$c_0x+c_1Ax+\cdots+c_rA^rx=0=(c_0+c_1A+\cdots+c_rA^r)x=c_s(A-u_1I)\cdots(A-u_sI)x$, 其中$c_s\ne 0, c_s\le r,$为最高次不为0的系数项, 所以必有$(A-u_jI)v=0$, 即对应特征值和特征向量
- 令$x$为实对称矩阵$A$特征向量, 如果$y\bot x$, 则$Ay \bot x$. $\mathcal{X}$为实对称矩阵$A$的不变子空间,则正交补于$\mathcal{X}^\bot$也是$A$的不变子空间
  
  证明: $x\in \mathcal{X}$, 则$Ax\in \mathcal{X}$, 如果$y\in \mathcal{X}^\bot$, 则$Ax\bot y$.$(Ay)^Tx=0$, 即$y^TA^Tx=y^TAx=0$, 即$Ay\in \mathcal{X}^\bot$
  
  最终证明: 反证法, 假设$A$有最多$k$个单范正交特征向量$q_1,\cdots,q_k$, 分别对应特征向量$\lambda_1, \cdots, \lambda_k$,令$\mathcal{X}=span\{q_1,\cdots,q_k\}$,则$\mathcal{X}, \mathcal{X}^\bot \ne \{0\}$为$A$的不变子空间, 则有$y\in \mathcal{X}^{\bot}$使得$Ay=\lambda y$, 因此特征向量集还需要增加基,与前提矛盾,所以$\mathcal{X}^\bot=\{0\}$, 得证
  即使对称矩阵$A$不满秩,即维度小于$n$,也可以表示成$Q\Lambda Q^T$,对应$\Lambda$对角线上有0值
  $\begin{aligned} \text{A}& =Q\Lambda Q^T=\begin{bmatrix}\\\mathbf{q}_1&\cdots&\mathbf{q}_n\\&&\end{bmatrix}\begin{bmatrix}\lambda_1&&\\&\ddots&\\&&\lambda_n\end{bmatrix}\begin{bmatrix}\mathbf{q}_1^T&\\\vdots&\\\mathbf{q}_n^T&\end{bmatrix} \\ &=\lambda_1\mathbf{q}_1\mathbf{q}_1^T+\cdots+\lambda_n\mathbf{q}_n\mathbf{q}_n^T \\ &=\lambda_1P_1+\cdots+\lambda_nP_n, \end{aligned}$
  其中$q_i$为特征向量,令$P_{i}=\mathbf{q}_{i}\mathbf{q}_{i}^{T}, i=1,\ldots,n$,则$P_i$为正交投影矩阵,满足如下性质
  $\begin{aligned}& P_{i}^{2}=P_{i}=P_{i}^{T}, i=1,\ldots,n;\\&P_{i}P_{j}=0, \text{若} i\neq j;\\&P_{1}+\cdots+P_{n}=I_{n}。\end{aligned}$

反对称矩阵²

特征值为0或者纯虚数
$Ax=\lambda x$, 则有$A\bar{x} =\bar{\lambda} \bar{x} $, 两边转置并乘$x$得到$\bar{x}^TA^Tx=-\bar{x}^TAx=-\lambda\bar{x}^T x=\bar{\lambda}\bar{x}^Tx$, 所以$(\bar{\lambda}+\lambda)\bar{x}^Tx=0$, 所以特征值为纯虚数或者0(特征向量为0向量)
矩阵指数为旋转矩阵
旋量里面表示旋转矩阵可以用转轴求反对称矩阵后求指数得到旋转矩阵
可以证明$(e^{A})^{T}=e^{-A}$, $e^{A}e^{-A}=I$,后面式子可以通过展开之后推导, 所以最后得到$(e^{A})^{T}e^{A}=I$, 即反对称矩阵的矩阵指数是正交矩阵.

¹. https://ccjou.wordpress.com/2011/02/09/%e5%af%a6%e5%b0%8d%e7%a8%b1%e7%9f%a9%e9%99%a3%e5%8f%af%e6%ad%a3%e4%ba%a4%e5%b0%8d%e8%a7%92%e5%8c%96%e7%9a%84%e8%ad%89%e6%98%8e/ ↩

². https://ccjou.wordpress.com/2010/08/27/%E7%89%B9%E6%AE%8A%E7%9F%A9%E9%99%A313%EF%BC%9A%E5%8F%8D%E5%B0%8D%E7%A8%B1%E7%9F%A9%E9%99%A3/ ↩

转载请注明来源，欢迎对文章中的引用来源进行考证，欢迎指出任何有错误或不够清晰的表达。可以邮件至 yangbenbo@whu.edu.cn

特殊矩阵

卡式分解

实对称矩阵1

反对称矩阵2

实对称矩阵¹

反对称矩阵²