机器学习之数学基础(2)——线性代数

前言： 线代知识点多，有点抽象，写的时候尽量把这些知识点串起来，如果不行，那就两串。其包含的几大对象为：向量，行列式，矩阵，方程组。

观点

核心问题是求多元方程组的解，核心知识：内积、秩、矩阵求逆，应用：求解线性回归、最小二乘法用QR分解，奇异值分解SVD，主成分分析（PCA）运用可对角化矩阵

向量

• 基础 向量：是指具有n个互相独立的性质(维度)的对象的表示，向量常使用字母+箭头的形式进行表示，也可以使用几何坐标来表示向量。 单位向量：向量的模、模为一的向量为单位向量 内积又叫数量积、点积：为一个数 正交向量：内积为零

• 应用 向量组和特征向量

矩阵

定义：描述线性代数中线性关系的参数，即矩阵是一个线性变换， 可以将一些向量转换为另一些向量。 Y=AX表示的是向量X和Y的一种映射关系，其中A是 描述这种关系的参数。 Y=AX这个在向量组线型相关中经常见到 直观表示：

• 矩阵和向量 当m=1或者n=1的时候，称A为行向量或者列向量

• 方阵 负矩阵，上下三角矩阵 对角矩阵 单位矩阵 行列式变换会用到三角矩阵 区分单位向量

• 矩阵的转置

行列式

通常用到的行列式是一个数 行列式是数学的一个函数，可以看作在几何空间中，一个线性变换 对“面积”或“体积”的影响。

• 方阵行列式 n阶方阵A的方阵行列式表示为|A|或者det(A)

• 代数余子式 ：Aij=(-1)(i+j)Mij 伴随矩阵 为了求矩阵的逆 方阵的逆 AB=BA=E，那么称B为A的逆矩阵，而A被称为可逆矩阵或非奇异矩阵。 如果A不存在逆矩阵，那么A称为奇异矩阵。A的逆矩阵记作：A-1 ## 矩阵的初等变换 矩阵的初等列变换与初等行变换统称为初等 变换． 行阶梯形矩阵 最简矩阵 标准行 前者来求变量之间的关系，后者计算矩阵的秩 定理（1）表明 ，即A 经一系列初等行变换 变为B,则 有可逆矩阵P,使 如何求P？ 矩阵的秩 K阶子式是个行列式 ## 向量组 向量组：有限个相同维数的行向量或列向量组合成的一个集合就 叫做向量组 向量的线性表示 转化为方程组为： 同理：如果向量组B 可由向量组A表示则 AX=B 有解

• 线性相关和线性无关 用秩来判断是否相关 ## 线性方程组 定理 1： n 元齐次线性方程组 Ax = 0 有非零 解的充要条件是 R(A) 0，则称矩阵A为正 定矩阵

• 正交矩阵 若n阶方阵A满足ATA=E，则称A为正交矩阵，简称正交阵（复数域 上称为酉矩阵） A是正交阵的充要条件：A的列(行)向量都是单位向量，且两两正交

QR 分解（正交三角分解）

对于m*n的列满秩矩阵A，必有：

用到施密特正交化

奇异值分解

可以看作是对称方阵在任意矩阵上的推广。

与特征值、特征向量的概念相对应，则： Σ对角线上的元素称为矩阵A的奇异值 U和V称为A的左/右奇异向量矩阵

• 矩阵的等价标准型

• 步骤 求特征值和特征向量 特征向量构成V1，求出U1

向量的导数

A为mn的矩阵，x为n1的列向量，则Ax为m*1的列向量

• 向量的偏导公式

• 标量对方阵的导数 后记： 才疏学浅，慢慢学习，慢慢更新，与诸君共勉

你可能感冒的文章： 我的机器学习numpy篇 我的机器学习matplotlib篇 我的机器学习微积分篇