发布于  更新于 

矩阵分析速通

数学 线性代数 矩阵

第一章 - 线性空间

  1. 线性空间八条性质
  2. 线性空间的子空间
  3. 线性空间的基、坐标
  4. 维数公式
  5. 直和
  6. 线性变换,特征值,特征向量
  7. 相似矩阵: 存在可逆矩阵 使得
  8. Jordan 标准形:对任意 存在可逆矩阵 使得 ,其中 为 Jordan 标准形

酉空间

  1. 酉空间,内积四条性质:正定,共轭对称,齐次,可加
  2. 列空间垂直
  3. 正交补的存在性、唯一性
  4. 投影变换: 线性变换 使得 , 又称为幂等变换
  5. 正交投影: , 满足 是正交投影
  6. 初等矩阵
    1. 特征谱
    2. 时可逆
  7. Householder 矩阵 (初等酉阵)
    1. 是镜像变换,, 是关于垂直于 的超平面的镜像变换
  8. 酉变换、酉矩阵是正交变换、正交矩阵在复数域的推广
    1. 酉矩阵的特征值模长为
    2. 酉矩阵的乘积是酉矩阵

Kronecker 积

  1. 单位矩阵之间的 Kronecker 积是单位矩阵
  2. 标量积、对加法分配律、结合律
  3. 转置,共轭
  4. 混合积 前行后列展开定义证明
  5. 迹、秩
  6. 行列式 用 Jordan 标准型和混合积证明
  7. 保持转置、Hermite、酉矩阵
  8. 乘积的乘方
  9. 特征值 对应的特征向量做 Kronecker 积
  10. Kronecker 和 的特征值是 的特征值之和,对应的特征向量是 的特征向量的 Kronecker 积
  11. 向量化算子 (Flatten in Fortran order),

第二章 - 范数

向量范数

  1. 向量范数定义:正定性、齐次性、三角不等式
  2. 常用向量范数
    1. 1-范数:各分量模长之和
    2. 2-范数:模长
    3. -范数:最大分量模长
  3. Cauchy 不等式
  4. 非负 , , Holder 不等式 Holder 范数
  5. 矩阵 列满秩,则 上的向量范数
  6. 任意向量范数 关于 连续
  7. 定理 任意向量范数等价,
  8. 定理 向量序列收敛等价于范数收敛

矩阵范数

  1. 从向量范数推广的矩阵范数
    1. 正定性、齐次性、三角不等式
    2. 1-范数 , 2-范数 , -范数
    3. 等价性
  2. 相容性 对矩阵乘法保持三角关系 自相容
    1. 相容,展开矩阵乘用三角不等式、Cauchy 不等式证明
    2. 不相容,修正为 是相容的
  3. Frobenius 范数
    1. 酉矩阵 不改变 Frobenius 范数

算子范数

  1. 矩阵范数与向量范数的相容性
  2. 显然 相容, 相容, 相容
  3. 算子范数 对于任意向量范数构造与之相容的矩阵范数
    1. 算子范数是与向量范数相容的矩阵范数中最小的
    2. 算子范数是自相容的矩阵范数
  4. 定理 对于相容的矩阵范数存在向量范数 与矩阵范数相容
  5. 定理 相容的矩阵范数不小于特征值
  6. 极大列和范数 从属于 的算子范数
  7. 极大行和范数 从属于 的算子范数
  8. 谱半径 谱范数 从属于 的算子范数
    1. 转置、Hermite、共轭不改变谱范数
    2. 酉矩阵不改变谱范数
  9. 常用矩阵范数的等价性
  10. 广义算子范数 矩阵范数的相容性

第三章 - 矩阵分解

三角分解

  1. 行满秩、列满秩
  2. 行单位向量正交阵 , 列单位向量正交阵
  3. 上三角阵、单位上三角阵、下三角阵、单位下三角阵
  4. 三角阵、酉矩阵具有逆运算、乘积运算的结构不变性
  5. UR 分解 满秩复矩阵 唯一分解成酉矩阵 和正线上三角复矩阵 或正线下三角复矩阵 的乘积 UR 分解可对 的列向量做 Gram-Schmidt 正交化
    1. 的列向量是
    2. 的元素
  6. QR 分解 满秩实矩阵 唯一分解成正交矩阵 和正线上三角实矩阵 或正线下三角实矩阵 的乘积
  7. 实对称正定矩阵 唯一分解成正线上三角实矩阵
  8. 正定 Hermite 矩阵 唯一分解成正线上三角复矩阵
  9. LDR 分解 以下条件等价
    1. 主子式非零
    2. 唯一分解成
    3. 唯一分解成
    4. 唯一分解成
  10. 非方阵的 UR 分解
  11. 非满秩的分解

谱分解

  1. 代数重数:特征值 在特征多项式中出现的次数
  2. 几何重数:特征值 对应的特征空间
  3. 几何重数小于等于代数重数
  4. 单纯矩阵 所有特征值的代数重数等于几何重数
  5. 相似对角化 单纯矩阵可相似对角化
  6. 单纯矩阵可分解成一系列幂等矩阵 的加权和 满足
    1. 幂等性
    2. 分离性
    3. 可加性
  7. 定理 复方阵 是单纯矩阵 可分解成满足上述性质的 个幂等矩阵的加权和, 是不同特征值的数量
  8. 正规矩阵
  9. 与正规矩阵酉相似的矩阵是正规矩阵
  10. Schur 分解 , 是上三角矩阵, 是酉矩阵
  11. 是三角矩阵, 是正规矩阵 是对角矩阵
  12. 是正规矩阵 可分解成 ,其中 是酉矩阵, 是对角矩阵
  13. 是正规矩阵 可分解成 个矩阵的加权和

Hermitian 矩阵

  1. Hermitian 矩阵
    1. 特征值都是实数
    2. 属于不同特征值的特征向量正交
    3. 可分解成 ,其中 是酉矩阵, 是对角矩阵
    4. 正惯性指数 是正特征值的个数,负惯性指数 是负特征值的个数 其中 是可逆矩阵
  2. 正定 Hermitian 矩阵
    1. 对角线元素大于零
    2. 特征值大于零
    3. 顺序主子式大于零
    4. 存在正定矩阵 使得
    5. Cholesky 分解 存在正线下三角矩阵
    6. Hadamard 不等式
    7. 存在可逆矩阵 使得 其中 是对角矩阵,或者

最大秩分解

通过行初等变换求最大秩分解
通过行初等变换求最大秩分解

奇异值分解

    1. 特征值均为非负实数且相同
  1. 的特征值 的奇异值的平方
  2. 酉等价 的矩阵有相同的正奇异值
  3. 个正奇异值,存在酉矩阵 使得 其中 个正奇异值的对角矩阵. 求 SVD 的方法
    1. 的特征值 和特征向量组成
    2. 的特征向量组成
    3. 组成的对角矩阵
  4. 存在酉矩阵和半正定 Hermite 矩阵 满秩时分解是唯一的

第四章 - 特征值

  1. Schur 不等式 特征值与 F 范数的关系,设 的特征值为 ,则 当且仅当正规矩阵时取等
  2. Hirsch 定理 特征值实部虚部的上界
  3. Bendixson 定理 特征值虚部的上界
  4. 的特征值为 , 的特征值为
  5. Browne 定理 奇异值 满足
  6. Hadamard 不等式 的列向量 当且仅当 某一列为零或列向量彼此正交时取等

圆盘定理

  1. 行盖尔圆盘 列盖尔圆盘
  2. 定理 的特征值 在行盖尔圆盘
  3. 定理 个圆盘构成的联通区域(不与其他 个圆盘相交)包含 个特征值
  4. 关于列盖尔圆盘的推论
  5. 关于行列对角占优的推论

Hermite 矩阵特征值的变分特征

  1. Rayleigh 商 Hermite 矩阵 分解为 , ,
  2. , , ,
  3. Rayleigh-Ritz 定理
  4. Courant-Fischer 定理 为给定正整数
  5. Weyl 定理 为 Hermite 矩阵 关于和的特征值的放缩

第五章 - 矩阵函数

  1. 矩阵序列极限
  2. 收敛矩阵
  3. Neumann 级数
  4. 常用级数
  5. 矩阵函数的求法:Jordan 分解

第六章 - 广义逆

  1. 列满秩 左可逆
  2. 行满秩 右可逆
  3. 初等变换求左逆
  4. 初等变换求右逆
  5. 广义逆 的广义逆 满足
  6. 广义逆保持转置、Hermite
  7. 幂等且
  8. 自反广义逆
  9. 自反广义逆
  10. Moore-Penrose 广义逆
  11. 最大秩分解求 MP 广义逆
  12. SVD 求 MP 广义逆
  13. 线性方程组
    1. 有解, 是最小范数解,通解
    2. 无解, 是最佳逼近解,最小二乘解通解
MP 广义逆性质 1
MP 广义逆性质 1
MP 广义逆性质 2
MP 广义逆性质 2