数学 线性代数

文科生自学线性代数（二）

《线性代数及其应用》第二章笔记

Posted by Sometimes Naive on September 1, 2018

第二章 矩阵代数

2.1 矩阵运算

和与标量乘法：设$A,B,C$是相同维数的矩阵，$r$与$s$为数，则有

a. $A+B = B+A$

b. $(A+B)+C=A+(B+C)$

c. $(A+0)=A$

d. $r(A+B)=rA+rB$

e. $(r+s)A=rA+sA$

f. $r(sA)=(rs)A$

矩阵乘法：若$A$是$m×n$矩阵，$B$是$n×p$矩阵，$B$的列是$b_1,···,b_p$,则乘积$AB$是$m×p$矩阵，它的各列是$Ab_1,···,Ab_p$，即$AB=A[b_1\,b_2 ··· b_p)]=[Ab_1\,Ab_2 ··· Ab_p]$

计算$AB$的行列法则：若乘积$AB$有定义，$AB$的第$i$行第$j$列的元素是$A$的第$i$行与$B$的第$j$列对应元素乘积之和，若$(AB)_{ij}$表示$AB$的$(i,j)$元素，$A$为$m×n$矩阵，则

矩阵乘法的性质：设$A$为$m×n$矩阵，$B、C$的维数使下列各式的乘积有定义。

a. $A(BC)=(AB)C$ (乘法结合律)

b. $A(B+C)=AB+AC$ (乘法左分配律)

c. $(B+C)A=BA+CA$ (乘法右分配律)

d. $r(AB)=(rA)B=A(rB) $，$r$为任意数

e. $I_mA=A=AI_m$ (矩阵乘法的恒等式)

乘积的左右顺序：计算乘积时，不管怎样结合都行，但左右顺序必须保持不变。这是因为$AB$与$BA$不相同，$AB$的列是$A$的各列的线性组合，而$BA$的各列是$B$的各列的线性组合，乘积$AB$的因子的位置需要这样，强调，即$A$被$B$右乘，或$B$被$A$左乘。若$AB=BA$，我们称$A$和$B$彼此可交换。

矩阵的乘幂：若$A$是$n×n$矩阵，$k$是正整数，则$A^k$表示$k$个$A$的乘积，即。若A不是零矩阵，且$x$属于$\mathbb{R}^n$,则$A^kx$表示$x$被$A$连续左乘$k$次。若$k=0$，则$A^0x$就是$x$本身，因此$A^0$被解释为单位矩阵。

矩阵的转置：给定$m×n$矩阵$A$，则$A$的转置是一个$n×m$矩阵，用$A^T$表示，它的列是由$A$的对应行构成的。

设$A$与$B$表示矩阵，其维数使下列和与积有定义，则

a. $(A^T)^T=A.$

b. $(A+B)^T=A^T+B^T.$

c. 对任意数$r$，$(rA)^T=rA^T.$

d. $(AB)^T=B^TA^T.$

2.2 矩阵的逆

设$A=\begin{bmatrix}a & b\ c & d\end{bmatrix}$，若$ad-bc\neq 0$，则$A$可逆且$A^{-1}=\frac{1}{ad-bc}\begin{bmatrix}d &-b \ -c &a \end{bmatrix}$。若$ad-bc=0$，则$A$不可逆。

数$ad-bc$称为$A$的行列式，记为$detA=ad-bc$。

若$A$可逆，它的逆是唯一的。

不可逆矩阵有时称为奇异矩阵，而可逆矩阵也称为非奇异矩阵。

若$A$是可逆$m×n$矩阵，则对每一$\mathbb{R}^n$中的$b$，方程$Ax=b$有唯一解$x=A^{-1}b$。

可逆矩阵的三个有用事实：

  1. 若$A$是可逆矩阵，则$A^{-1}$也可逆而且$(A^{-1})^{-1}=A$。
  2. 若$A$和$B$都是$n×n$可逆矩阵，$AB$也可逆，且其逆是$A$和$B$的逆矩阵按相反顺序的乘积，即$(AB)^{-1}=B^{-1}A^{-1}$。推广：若干个$n×n$可逆矩阵的积也是可逆的，其逆等于这些矩阵的逆按相反顺序的乘积。
  3. 若$A$可逆，则$A^T$也可逆，且其逆是$A^{-1}$的转置，即$(A^T)^{-1}=(A^{-1})^T$。

初等矩阵：把单位矩阵进行一次行变换，就得到初等矩阵。

每个初等矩阵$E$是可逆的，$E$的逆是一个同类型的初等矩阵，它把$E$变回$I$。

判断矩阵可逆的方法：$n×n$矩阵$A$是可逆的，当且仅当$A$行等价于$I_n$，这时，把$A$变为$I_n$的一系列初等行变换同时把$I_n$变成$A^{-1}$。

求$A^{-1}$的算法：把增广矩阵$[A\,I]$进行行化简。若$A$行等价于$I$，则$[A\,I]$行等价于$[I\,A^{-1}]$，否则$A$没有逆。

逆矩阵的另一个观点：用$e_1,\cdot\cdot\cdot,e_m$表示$I_m$的各例，则把$[A\,I]$行变换成$[I\,\,A^{-1}]$的过程可看作解$n$个方程组。.其中这些方程组的“增广列”都放在$A$的右边，构成矩阵$[A\,e_1\,e_2\, \cdot\cdot\cdot\,e_n]=[A\,I]$.方程$AA^{-1}=I$及矩阵乘法的定义说明$A^{-1}$的列正好是方程的解。

2.3 可逆矩阵的特征

可逆矩阵定理：设$A$为$n×n$矩阵，则下列命题是等价的，即对某一特定的$A$，它们同时为真或同时为假。（只能用于方阵）

  1. $A$是可逆矩阵.
  2. $A$等价于$n×n$单位矩阵.
  3. $A$有$n$个主元位置.
  4. 方程$Ax=0$仅有平凡解.
  5. $A​$的各列线性无关.
  6. 线性变换$x \mapsto Ax$是一对一的.
  7. 对$\mathbb{R}^{n}$中任意$b$，方程$Ax=b$至少有一个解.
  8. $A$的各列生成$\mathbb{R}^n$.
  9. 线性变换$x \mapsto Ax$把$\mathbb{R}^{n}$映上到$\mathbb{R}^{n}$上.
  10. 存在$n×n$矩阵$C$使$CA=I$.
  11. 存在$n×n$矩阵$D$使$AD=I$.
  12. $A^T$是可逆矩阵.

证明：1->10->4=5=6->3->2->1；1->11->7=8=9->1;1->12->1

设$A$和$B$为方阵，若$AB=I$，则$A$和$B$都是可逆的，且$B=A^{-1}，A=B^{-1}$.

可逆线性变换：设$T:\mathbb{R} ^{n}\rightarrow\mathbb{R} ^{n}$为线性变换，$A$为$T$的标准矩阵。则$T$可逆当且仅当$A$是可逆矩阵。这时由$S(x)=A^{-1}x$定义的线性变换$S$是满足（1）对所有$\mathbb{R} ^{n}$中的$x$，$S(T(x))=x$和（2）对所有$\mathbb{R} ^{n}$中的$x$，$T(S(x))=x$的唯一矩阵。

2.4 分块矩阵

分块矩阵：将一个矩阵用若干条水平线和竖直线分成许多个小矩阵，将每个小矩阵称为这个矩阵的分块（或子矩阵），以分块为元素的形式上的矩阵称为分块矩阵。

加法与标量乘法：$A+B$的每一块恰好是$A$和$B$对应分块的（矩阵）和。分块矩阵乘以一个数也可以逐块计算。

分块矩阵的乘法：若$A$是$m×n$矩阵，$B$是$n×p$矩阵，则

分块矩阵的逆：若$A$是分块矩阵，用$B$表示$A^{-1}$获得$AB=I$这个矩阵方程，矩阵方程包含未知子矩阵的方程，求解方程获得解，便可知分块矩阵的逆。

分块对角矩阵是一个分块矩阵，除了主对角线上各分块外，其余全是零分块。分块对角矩阵可逆当且仅当主对角线上各分块都是可逆的。

2.5 矩阵因式分解

矩阵$A$的因式分解是把$A$表示为两个或更多个矩阵的乘积。

矩阵乘法是数据的综合，矩阵因式分解是数据的分解。

LU分解：将矩阵$A$分解为下三角矩阵$L$和上三角矩阵$U$的乘积。

$LU$分解的算法：

  1. 如果可能，用一系列的倍加变换把$A$化为阶梯形$U$.
  2. 填充$L$的元素使相同的行变换把$L$变为$I$.

2.6 列昂惕夫投入产出模型

列昂惕夫投入产出模型或生产方程：$\underset{\text{总产出}}{x}=\underset{\text{中间需求}}{Cx}+\underset{\text{最终需求}}{d}$

设$C$为某一经济的消耗矩阵，$d$为最终需求。若$C$和$d$的元素非负，$C$的每一列的和小于1，则$(I-C)^{-1}$存在，而产出向量$x=(I-C)^{-1}d$有非负元素，且是下列方程的唯一解$x=Cx+d$.

2.7 计算机图形学中的应用

略

2.8 $\mathbb{R}^{n}$的子空间

子空间：$\mathbb{R}^{n}$中的一个子空间是$\mathbb{R}^{n}$中的集合$H$，具有以下三个性质：

  1. 零向量属于$H$.
  2. 对$H$中任意的向量$u$和$v$，$u+v$属于$H$.
  3. 对$H$中任意向量$u$和数$c$，$cu$属于$H$.

2和3换句话说，子空间对加法和标量乘法运算是封闭的。

$\mathbb{R}^{n}$是它本身的子空间，仅含零向量的集合称为零子空间。

矩阵的列空间与零空间：

矩阵$A$的列空间是$A$的各列的线性组合的集合，记作$Col\,A$.

当线性方程组写成$Ax=b$的形式，$A$的列空间是所有使方程有解的向量$b$的集合.

矩阵$A$的零空间是齐次方程$Ax=0$的所有解的集合，记为$Nul\,A$.

$m×n$矩阵$A$的零空间是$\mathbb{R}^{n}$的子空间.等价地，$n$个未知数的$m$个齐次线性方程的解的全体是$\mathbb{R}^{n}$的子空间.

子空间的基：$\mathbb{R}^{n}$中子空间$H$的一组基是$H$中一个线性无关集，它生成$H$.

求出方程$Ax=0$的解的参数向量形式实际上就是确定$Nul\,A$的基.

矩阵$A$的主元列构成列空间的基.

2.9 维数与秩

假设$ß={b_1,\cdots ,b_p}$是子空间$H$的一组基，对$H$中的每一个向量$x$，相对于基$ß$的坐标是使$x=c_1b_1+\cdots +c_pb_p$成立的权值$c_1,\cdots ,c_p$，且$\mathbb{R}^{p}$中的向量称为$x$（相对于$ß$）的坐标向量，或$x$的$ß$-坐标向量.

一般的，如果$ß={b_1,\cdots ,b_p}$是$H$的基，则映射$x \mapsto \left [ x \right ]_ß $是使$H$和$\mathbb{R}^{p}$的形态一样的一一映射（尽管$H$中的向量可能有多于$p$个元素）.这种映射是同构的，且$H$与$\mathbb{R}^{p}$同构.

非零子空间$H$的维数，用$dimH$表示，是$H$的任意一个基的向量个数.零子空间{0}的维数定义为零.

要确定$Nul\,A$的维数，只需求出$Ax=0$中的自由变量个数.

矩阵$A$的秩（记为$rank\,A$)是$A$的列空间的维数.（主元列个数）

秩定理：如果一矩阵$A$有$n$列，则$rank\,A+dim\,Nul\,A=n$.

基定理：设$H$是$\mathbb{R}^{n}$的$p$维子空间，$H$中的任何恰好由$p$个成员组成的线性无关集构成$H$的一个基.并且，$H$中任何生成$H$的$p$个向量集也构成$H$的一个基.

可逆矩阵定理（续）：

设$A$是一$n×n$矩阵，则下面的每个命题与$A$是可逆矩阵的命题等价：

  1. $A$的列向量构成$\mathbb{R}^{n}$的一个基.
  2. $Col\,A=\mathbb{R}^{n}$
  3. $dim\,Col\,A=n$.
  4. $rank\,A=n$.
  5. $Nul\,A={0}$.
  6. $dim\,Nul\,A=0$.
CATALOG
    FEATURED TAGS
    数学 线性代数 机器学习 数据分析
    FRIENDS