QR Factorization

$m\times n$행렬 $A$가 선형독립(linearly independent)인 Columns를 갖고 있을 때, $A$는 아래와 같이 분해될 수 있다. (factored)

$$ A = QR $$

여기서 $Q$는 $m\times n$크기를 갖고 $\text{Col }A$의 orthonormal basis를 열로 갖는다. $R$은 $n\times n$크기의 upper triangular matrix(상삼각행렬)이다. $R$은 invertible이고 주대각성분에 양수만을 갖는다.

(Example)

$A$를 QR분해 해보자.

$$ A = \begin{bmatrix}1 & 0 & 0 \\1 & 1 & 0 \\1 & 1 & 1 \\1 & 1 & 1 \end{bmatrix}
$$

$\text{Col }A$의 Orthogonal Basis를 구해보자. Gram-Schmidt Process를 통해 아래와 같이 얻을 수 있다.

$$ \bold v_1 =\begin{bmatrix}1\\1\\1\\1\end{bmatrix} , \bold v_2 =\begin{bmatrix}-3\\1\\1\\1\end{bmatrix},\bold v_3 =\begin{bmatrix}0\\2/3\\1/3\\1/3\end{bmatrix} $$

얻어진 basis를 normalize하고 행렬 $Q$를 구한다.

$$ Q =\begin{bmatrix} 1/2&-3/\sqrt{12}&0\\ 1/2&1/\sqrt{12}&-2/\sqrt{6}\\ 1/2&1/\sqrt{12}&1/\sqrt{6}\\ 1/2&-1\sqrt{12}&1/\sqrt{6} \end{bmatrix} $$

이제 $R$을 구해보자.

$$ \large\textcolor{gold}{A = QR\\ Q^TA = Q^T(QR) = IR = R} $$

따라서

$$ R = \begin{bmatrix} 1/2&-3/\sqrt{12}&0\\ 1/2&1/\sqrt{12}&-2/\sqrt{6}\\ 1/2&1/\sqrt{12}&1/\sqrt{6}\\ 1/2&-1\sqrt{12}&1/\sqrt{6} \end{bmatrix} \begin{bmatrix}1 & 0 & 0 \\1 & 1 & 0 \\1 & 1 & 1 \\1 & 1 & 1 \end{bmatrix} \\=\begin{bmatrix} 2 & 3/2 & 1\\ 0 & 3/\sqrt{12}&2/\sqrt{12}\\ 0&0&2/\sqrt{6} \end{bmatrix}
$$

응용 : Eigenvalue구하기

$A$를 QR분해해서 $A_0 = Q_0R_0$을 얻었다고 해보자. 여기서 Q와 R을 역순으로 두면 다음과 같은 행렬이 만들어진다.