1. 正交矩阵
标准正交向量组：
向量组q1 q2 q3... qnq_1\ q_2\ q_3...\ q_nq1 q2 q3... qn满足
qi⊤qj={0,i≠j1,i=j
q_i^{\top}q_j=
\begin{cases}
0,\quad i \ne j\\1,\quad i = j
\end{cases}
qi⊤qj={0,i=j1,i=j
Q=[q1 q2 q3... qn]Q⊤=[q1⊤q2⊤q3⊤...qn⊤]Q⊤Q=I
Q=[q_1\ q_2\ q_3...\ q_n]\\
Q^{\top}=
\begin{bmatrix}
q_1^{\top}\\q_2^{\top}\\q_3^{\top}\\...\\q_n^{\top}
\end{bmatrix}\\
Q^{\top}Q=I
Q=[q1 q2 q3... qn]Q⊤=q1⊤q2⊤q3⊤...qn⊤Q⊤Q=I
如果QQQ是方阵
Q⊤=Q−1
Q^{\top}=Q^{-1}
Q⊤=Q−1
置换矩阵是标准正交矩阵
permQ=[001100010]permQ⊤=[010001100]
permQ=
\begin{bmatrix}
0 & 0 & 1\\
1 & 0 & 0\\
0 & 1 & 0\\
\end{bmatrix}\\
permQ^{\top}=
\begin{bmatrix}
0 & 1 & 0\\
0 & 0 & 1\\
1 & 0 & 0\\
\end{bmatrix}
permQ=010001100permQ⊤=001100010
下面的也都是标准正交矩阵
[cosθ−sinθsinθcosθ]
\begin{bmatrix}
\cos \theta & -\sin \theta\\
\sin \theta & \cos \theta
\end{bmatrix}\\
[cosθsinθ−sinθcosθ]
12[111−1]
\frac{1}{\sqrt[]{2}}
\begin{bmatrix}
1 & 1\\1 & -1
\end{bmatrix}\\
21[111−1]
12[11111−11−111−111−1−11]
\frac{1}{2}
\begin{bmatrix}
1 & 1 & 1 & 1\\
1 & -1 & 1 & -1\\
1 & 1 & -1 & 1\\
1 & -1 & -1 & 1\\
\end{bmatrix}
2111111−11−111−1−11−111
13[1−222−2−2211]
\frac{1}{3}
\begin{bmatrix}
1 & -2 & 2 \\ 2 & -2 &-2\\ 2 & 1 & 1
\end{bmatrix}
31122−2−212−21
QQQ是标准正交矩阵有什么好处呢？
求其投影
P=Q(Q⊤Q)−1Q⊤=QQ⊤P=I if Q is square
P=Q(Q^{\top}Q)^{-1}Q^{\top} =QQ^{\top}\\
P=I\ if\ Q\ is\ square
P=Q(Q⊤Q)−1Q⊤=QQ⊤P=I if Q is square
(QQ⊤)(QQ⊤)=Q(Q⊤Q)Q⊤=QQ⊤
(QQ^{\top})(QQ^{\top}) = Q(Q^{\top}Q)Q^{\top} = QQ^{\top}
(QQ⊤)(QQ⊤)=Q(Q⊤Q)Q⊤=QQ⊤
对于投影矩阵
A⊤AX^=Ab,A=Q⊤ ⟺ Q⊤QX^=Q⊤b ⟺ X^=Q⊤bxi^=qi⊤b
A^{\top}A\hat{X}=Ab ,A=Q^{\top} \iff
Q^{\top}Q\hat{X}=Q^{\top}b \iff \hat{X}=Q^{\top}b\\
\hat{x_i}=q_i^{\top}b
A⊤AX^=Ab,A=Q⊤⟺Q⊤QX^=Q⊤b⟺X^=Q⊤bxi^=qi⊤b
2. 正交化法
Graham−SchmidtGraham-SchmidtGraham−Schmidt方法
考虑二维的情况
e=B=b−pe⊥Ap=AX^=AA⊤bA⊤A=A⊤bA⊤AAA⊤B=A⊤(b−A⊤bA⊤AA)=0
e =B=b-p\\e \perp A\\
p=A\hat{X}=A \frac{A^{\top}b}{A^{\top}A}= \frac{A^{\top}b}{A^{\top}A} A\\
A^{\top}B=A^{\top}(b- \frac{A^{\top}b}{A^{\top}A} A)=0
e=B=b−pe⊥Ap=AX^=AA⊤AA⊤b=A⊤AA⊤bAA⊤B=A⊤(b−A⊤AA⊤bA)=0
得到正交向量后再将其标准化
q1=A∣A∣,q2=B∣B∣
q_1=\frac{A}{|A|},q_2=\frac{B}{|B|}
q1=∣A∣A,q2=∣B∣B
推广到三维的
C=c−A⊤cA⊤AA−B⊤cB⊤BB
C=c-\frac{A^{\top}c}{A^{\top}A}A-\frac{B^{\top}c}{B^{\top}B}B
C=c−A⊤AA⊤cA−B⊤BB⊤cB
举个例子
a=[111]b=[102]
a=
\begin{bmatrix}
1\\1\\1
\end{bmatrix}\\
b=
\begin{bmatrix}
1\\0\\2
\end{bmatrix}\\
a=111b=102
正交化
a=AB=b−A⊤bA⊤AA=[102]−33[111]=[0−11]
a=A\\
B=b-\frac{A^{\top }b}{A^{\top}A}A=
\begin{bmatrix}
1 \\ 0 \\2
\end{bmatrix}-\frac{3}{3}
\begin{bmatrix}
1\\1\\1
\end{bmatrix}=
\begin{bmatrix}
0\\-1\\1
\end{bmatrix}\\\\
a=AB=b−A⊤AA⊤bA=102−33111=0−11
标准正交化
q1=A∣A∣=[333333]q2=A∣A∣=[0−2222]
q_1 =\frac{A}{|A|}=
\begin{bmatrix}
\frac{\sqrt{3}}{3}\\\frac{\sqrt{3}}{3}\\\frac{\sqrt{3}}{3}
\end{bmatrix}\\
q_2 =\frac{A}{|A|}=
\begin{bmatrix}
0\\-\frac{\sqrt{2}}{2}\\\frac{\sqrt{2}}{2}
\end{bmatrix}\\
q1=∣A∣A=333333q2=∣A∣A=0−2222
最后求得标准正交基矩阵
Q=[q1 q2]=[33033−223322]
Q=[q_1\ q_2]=
\begin{bmatrix}
\frac{\sqrt{3}}{3} & 0\\
\frac{\sqrt{3}}{3} & -\frac{\sqrt{2}}{2}\\
\frac{\sqrt{3}}{3} & \frac{\sqrt{2}}{2}
\end{bmatrix}\\
Q=[q1 q2]=3333330−2222
C(A,B)=C(Q)
C(A,B)=C(Q)
C(A,B)=C(Q)
最终化简一定是
Q=AR
Q=AR
Q=AR
RRR是上三角矩阵，进行列表换得到标准正交矩阵。