CS STUDY

고윳값은 영어로 eigenvalue라고 하는데 이때, 쓰이는 단어인 eigen은 특성이라는 뜻을 담고 있다. 즉, 고윳값, 고유 벡터는 특성값, 특성 벡터라고 생각할 수 있고, 이들은 행렬의 특성을 나타낸다. 벡터는 방향과 크기로 구성되는데, 고윳값, 고유 벡터에서 말하는 특성이란 벡터의 방향은 변하지 않고 크기만 변하는 특성을 의미한다. 즉, 고유 벡터(eigenvector)란 벡터에 선형 변환했을 때, 방향은 변하지 않고 크기만 변하는 벡터를 의미한다. 또한 선형 변환 이후 변환 크기를 고윳값이라고 한다. 고윳값과 고유 벡터를 수식으로 나타내면 다음과 같다. 위 수식에서 좌변은 벡터 x에 선형 변환 A를 취한 것을 의미한다. 이는 우변과 동일한데 우변은 기존 벡터 x의 방향은 변하지 않고 길이가 람다..

1. 벡터곱의 정의 벡터 곱 또는 크로스 곱은 3차원 공간의 벡터들 간에 적용할 수 있는 연산이다. 단위 벡터 i,j,k를 사용해 벡터 u와 벡터 v의 벡터 곱 uxv를 다음과 같이 표현할 수 있다. 벡터 곱 uxv는 벡터 u와 벡터 v에 수직인 벡터를 의미한다. 2. 벡터 곱의 기하학적 의미 위 그림은 벡터 u와 벡터 v의 벡터 곱 uxv는 벡터 u와도 수직이고 벡터 v와도 수직인 벡터이다. 위 그림은 벡터 u와 벡터 v가 평행할 경우에는 벡터 곱의 크기가 0임을 알 수 있다. 위 그림은 벡터 곱의 기하학적 의미를 나타낸다. 벡터 u와 벡터 v가 만드는 평행사변형의 넓이는 벡터 u와 벡터 v의 벡터 곱의 노름(norm)과 같다. 이를 수식으로 나타내면 다음과 같다. 3. 스칼라 삼중 곱 벡터 u,v,w..

1. 벡터의 외적 외적(outer product) 또는 텐서 곱(tensor product)은 다음과 같은 연산을 의미한다. 벡터 u와 v가 존재할 때, 두 벡터의 외적을 구하면 다음과 같다. 2, 크로네커 곱 크로네커 곱은 외적의 특별한 경우이다. 행렬 A가 nxp 행렬이고 행렬 B가 mxd 행렬일때 행렬 A와 행렬 B의 크로네커 곱 AxB는 크기가 nmxpd인 행렬이다.

1. 기본적인 QR분해 방법 행렬 A가 nxp 행렬이고 풀 랭크라고 가정하겠다. 이는 행렬 A의 열벡터는 모두 선형 독립이라는 의미이다. 행렬 A의 열 벡터끼리는 서로 선형 독립이므로 다음 그림과 같이 나타낼 수 있다. 위와 같이 행렬 A의 열 벡터가 모두 선형 독립이므로 행렬 A의 열 벡터는 해당 행렬이 공간의 기저가 될 수 있다. 행렬 A의 열 벡터끼리 모두 선형 독립일 때 행렬 A는 다음과 같이 분해할 수 있다. 이때 Q는 nxp 행렬이고, 정규 직교 벡터로 구성되어 있으며, R은 가역 상 삼각행렬이다. QR분해는 크기가 큰 행렬의 고윳값을 구하는 데에 유용하게 사용된다. 2. 그램 슈미트 과정을 이용한 QR분해 다음과 같은 행렬 A를 QR분해해 보자. 먼저 그램 슈미트 과정을 이용해 행렬 A의 직..

1. 정사영 정리 2. 직교 정사영 3. 그램 슈미트 과정 그램 슈미트 과정은 기저 벡터를 직교 기저벡터로 변환하는 과정을 의미한다. 1. 첫번째 단계 첫 번째 단계는 새로운 직교 기저 벡터 u1을 정의하는 단계인데, 새로운 직교 기저 벡터 u1은 기존 첫 번째 기저 벡터인 s1으로 정의한다. 2. 두번째 단계 u1과 직교인 벡터 u2를 생성한다. s2는 기존 기저 벡터를 의미한다. 위 식이 의미하는것은 다음 그림과 같다. 3. 세번째 단계 4. n번째 단계

1. 직교공간 벡터 공간에 존재하는 모든 벡터가 서로 직교하면 해당 벡터 공간은 직교(orthogonal)하다고 말한다. 이때, 각 벡터의 길이가 1이면 정규 직교(orthonormal)하다고 말한다. 벡터 공간 S={u1,u2,u3}를 구성하는 벡터 u1,u2,u3가 다음과 같다면 벡터 공간 S는 직교한다. 위 식을 보면 벡터 공간 S에 속하는 모든 벡터 간 내적 값이 0인 것을 알 수 있다. 따라서, 벡터 공간 S에 속하는 모든 벡터는 서로 직교한다. 2. 정규 직교 공간 직교 공간에 존재하는 직교 벡터의 길이가 모두 1인경우, 해당 벡터를 정규 직교 벡터라고 하며, 정규 직교 벡터가 만드는 공간을 정규 직교 공간 이라고 한다. 직교 벡터를 정규 직교 벡터로 변환하면 벡터의 길이가 1이 되므로 수식을..

1. 내적 공간 내적 공간은 벡터 공간 개념에서 확장되는 개념이다. 벡터 공간 S에서 다음 공리를 만족하는 벡터 공간을 내적 공간(inner product space)라고 한다. 2. 내적의 정의 내적은 특이하게도 벡터와 벡터의 연산 결과값으로 스칼라가 나온다. 3. 내적의 성질 내적을 사용하면 벡터의 길이(norm)를 구하거나 벡터 사이의 관계를 파악할 수 있다. 내적을 이용하면 두 벡터 사이의 각도도 추정할 수 있다. 벡터의 길이를 구할 수 있다. 벡터의 길이(length)는 노름(norm)이라고도 한다. 벡터 u의 길이는 다음과 같이 자기 자신의 내적 값의 제곱근을 계산함으로써 구할 수 있다. 예를들어, 벡터 u=(u1,u2)라고 하면 벡터의 길이는 아래 왼쪽 그림과 같다. 만약 벡터의 길이와 x축..

1. 행 공간, 열 공간, 영 공간의 개념 행렬 A가 다음과 같은 n x p 크기의 행렬이라고 하자. 앞서 배운 벡터 공간의 정의를 응용하면 행 벡터로 span할 수 있는 공간을 행 공간(row spaces)라고 부르고, 열 벡터로 span 할 수 있는 공간을 열 공간(column spaces)라고 부른다. 한편 Ax=0을 만족하는 해 공간을 영 공간(null space)라고 한다. 행렬 A의 영 공간이란 행렬 A가 주어질 때 Ax=0을 만족하는 모든 벡터 x의 집합이라고 할 수 있다. 차원 이란 기저 벡터의 개수를 의미한다. 즉, 벡터 공간을 구성하는 데에 필요한 최소한의 벡터 개수가 차원이다. 행 공간의 차원과 열 공간의 차원은 같다. 행렬 A의 의미는 행 공간에 존재하는 벡터 x를 행렬 A의 열 공..

1. 기저의 정의 기저(basis)는 벡터 공간을 생성하는 선형 독립인 벡터들이다. 이는 기저의 조합으로 공간을 생성할 수 있다는 의미이다. 2차원 평면에 존재하는 모든 점은 두 기저 벡터 (1 0), (0 1)로 표현할 수 있다. (2 1)이라는 좌표는 위와 같이 두 기저 벡터의 선형 조합으로 표현할 수 있다. 그리고 두 기저 벡터로 span할 수 있는 벡터 공간은 2차원 평면이다. 반면 위 그림의 오른쪽 그림에 존재하는 두 벡터(1 0),(2 0)은 2차원 평면의 기저가 될 수 없다. 왜냐하면 벡터는 2개이지만 서로 선형 독립이 아니기 때문이다. (2 0), (0 1)도 기저 벡터가 될 수 있다. (x 0) (0 y)형태라면 모두 2차원 공간의 기저 벡터가 될 수 있다. 2. 기저와 벡터 공간 벡터 ..

선형 변환(linear transformation)은 두 벡터 공간 사이의 함수이다. 예를 들어 벡터의 곱 Ax는 벡터 x에 선형 변환 A를 취한 것을 의미한다. 선형 변환은 기존 행렬을 변형시키는 변환이라고 생각할 수 있고 기존 행렬을 다른 좌표 공간으로 이동시킨다고 생각할 수도 있다. A에 속하는 벡터를 A에 속하는 다른 벡터들의 선형 조합으로 표현할 수 없을 때 A를 선형 독립(linear independent)라고 부른다. 반면, 특정 벡터를 다른 벡터의 선형 조합으로 표현할 수 있다면 선형 종속(linear dependent)라고 한다. - 선형 독립의 예 위와 같이 A를 구성하는 벡터 a1,a2,a3 모두 다른 벡터의 선형 조합으로 나타낼 수 없다. 따라서 벡터 a1,a2,a3의 집합인 A는 ..