Abstract: 矩阵的转置和行变换（permutation），包含一些运算的转置，以及对称概念的提出和相关性质
Keywords: Transposes,Permutation,Symmetric,Inner Products,R’R
本课视频课程已上线：转置和换行
开篇废话
这些基本运算的篇，好难写，公式和基本逻辑太多，说少了说不明白，说多了又啰嗦。本来计划的是写短小精悍的，基本每篇就写一个知识点，现在看看是不行了，这些东西都太连贯了，没办法拆开，争取后面到了高级算法的时候就可以每篇写很短，写精髓了，这一些就是一两千字，对我有点挑战啊，哈哈哈。如果各位有看不懂的，请回顾以前的文章，因为我是按照基本逻辑来的，就是一个知识点衍生另一，不会凭空就搞出来什么知识点，那样又变成大学上课了，big Picture一定要有，就是我们第一篇线性代数的，big Picture！
转置(Transposes)
转置(Transposes)
转置是矩阵特有的计算，他的根本就是矩阵是一块数字，其中有顺序和位置关系，今天说的转置和置换，都是针对位置的，也就是元素的数值并不改变，要改变的是元素的位置关系，permutation我们后面再说，transpose的计算规则的就是，对于某元素，其位置行和列相互交换
$$
(A^T)_{ij}=A_{ji}
$$
一个下三角矩阵的transpose是上三角矩阵。
但是下三角矩阵的逆还是下三角矩阵。
映射(Properties)
sum:
$$(A+B)^T=A^T+B^T$$
Products:
$$(AB)^{T}=B^{T}A^{T}$$
Inverse:
$$
(A^{-1})^T=(A^T)^{-1}
$$
这里唯一有点疑惑的可能就是Product需要调换位置了，想要理解为啥要换位置，可以回归最简单的
$Ax=b$ 等号有个很好的作用就是，如果对两侧同时做某一操作的时候，等号不会改变，
$$
(Ax)^T=b^T
$$
我们来分析下，如果按照我们之前的解释，Ax是x作为系数关于A的线性组合，从矩阵乘法的角度就Column Model，其结果是b，一个列向量，用A各列线性组合出来的结果。如果b转置了，变成了一个行向量，那么我们对应的也应该改成Row Model来调整等号前面的结构了，所以
$$
b^T=x^TA^T
$$
x转置变成了行，A的列也变成了行，那么行模型可以很好的让他们的结果与b的行形式相等
没明白的同学，拿笔算算，就会发现确实是这样的，而且如果不调换位置，矩阵不满足乘法要求，尺寸对不上。
那么根据上面的特征，组合多个x得到矩阵B
$$
B=\begin{bmatrix}x_1&x_2\end{bmatrix}
AB=\begin{bmatrix}Ax_1&Ax_2\end{bmatrix}
B^TA^T=\begin{bmatrix}x_1^TAT\\x_2^TA^T\end{bmatrix}
$$
与上面情况吻合，证明在矩阵与矩阵相乘过程也符合情况。
在更多的矩阵相乘的时候，与逆的情况类似
比如上一节的男猪脚：
$$
A=LDU\\
A^T=U^TD^TL^T\\
D^T=D\\
$$
对角矩阵的转置还是他自己
逆的转置就是转置的逆
$$
A^{-1}A=I\\
A^T(A^{-1})^T=I^T=I\\
$$
so
$$
(A^T)^{-1}=(A^{-1})^T
$$
再说 Inner Product
之前不完整的介绍过内积，就是点乘，但是一般情况两个向量内积，写成转置形式
$$
\langle a,b\rangle=a^Tb
$$
后面的转置才比较正规，内积普遍用于实际生产，比如机械，金融等各类公式，这样我们就非常接近应用数学的核心了。
$$
(Ax)^Ty=x^T(A^Ty)
$$
$(Ax)$ 与 $y$ 的内积等于 $x$ 与 $A^Ty$ 的内积.
对称(symmetric)
对称的定义是：
$$
A^T=A
$$
Means
$$
a_{ji}=a_{ij}
$$
对称矩阵的逆也是对称矩阵，本篇讨论的主要是矩阵内部位置关系相关的计算。
对于对称矩阵A:
$$
(A^{-1})^T=(A^T)^{-1}=A^{-1}
$$
$R^TR$
对于一个转置和其本身的乘积，也是一个对称矩阵，证明很简单：
$$
(R^TR)^T=R^TR
$$
so
$R^TR$是一个对称矩阵。
对称矩阵的消元过程也比较简单，对于对称矩阵 $A=LDU$ 其中$L^T=U$也就说上三角矩阵和下三角矩阵是转置关系，$(LDL^T)^T=LDL^T$ 也证明A是对称的，对称矩阵消元需要的计算量应该是非对称矩阵的一半大概是 $n^3/6$
Permutation
Permutation就是之前消元里面的行变换的矩阵化表示，其定义是：
A Permutation matrix P has the rows of the identity I in any order
置换矩阵有很多特殊的性质，比如说
$p^{-1}=p^T$
对于nxn的Permutation矩阵组,一共有 $n!$ 个矩阵
$PA=LU$
上节的LU分解有一个前提假设就是，不存在主元是0的情况，也就是说不需要行变换就可以达到消元的效果，但是现在我们去掉这个假设，使问题更为一般化，PA就是对A的某些行进行变换，后进行分解
对于行变换，有两种方式:
1:先对A进行行变换，然后分解，那么就是 $PA=LU$
2:一边分解一边进行行变换，也就是在中间过程 $A=L_1P_1U_1$
更多情况下，我们选择第一种方式，因为第一种方式更为简单方便。
Conclusion
总结一下就是转置和对称的相互关系，以及其一些特性，矩阵中元素的位置变换成为了本文重点。