CS STUDY

1. 기본적인 QR분해 방법 행렬 A가 nxp 행렬이고 풀 랭크라고 가정하겠다. 이는 행렬 A의 열벡터는 모두 선형 독립이라는 의미이다. 행렬 A의 열 벡터끼리는 서로 선형 독립이므로 다음 그림과 같이 나타낼 수 있다. 위와 같이 행렬 A의 열 벡터가 모두 선형 독립이므로 행렬 A의 열 벡터는 해당 행렬이 공간의 기저가 될 수 있다. 행렬 A의 열 벡터끼리 모두 선형 독립일 때 행렬 A는 다음과 같이 분해할 수 있다. 이때 Q는 nxp 행렬이고, 정규 직교 벡터로 구성되어 있으며, R은 가역 상 삼각행렬이다. QR분해는 크기가 큰 행렬의 고윳값을 구하는 데에 유용하게 사용된다. 2. 그램 슈미트 과정을 이용한 QR분해 다음과 같은 행렬 A를 QR분해해 보자. 먼저 그램 슈미트 과정을 이용해 행렬 A의 직..

1. 정사영 정리 2. 직교 정사영 3. 그램 슈미트 과정 그램 슈미트 과정은 기저 벡터를 직교 기저벡터로 변환하는 과정을 의미한다. 1. 첫번째 단계 첫 번째 단계는 새로운 직교 기저 벡터 u1을 정의하는 단계인데, 새로운 직교 기저 벡터 u1은 기존 첫 번째 기저 벡터인 s1으로 정의한다. 2. 두번째 단계 u1과 직교인 벡터 u2를 생성한다. s2는 기존 기저 벡터를 의미한다. 위 식이 의미하는것은 다음 그림과 같다. 3. 세번째 단계 4. n번째 단계

1. 직교공간 벡터 공간에 존재하는 모든 벡터가 서로 직교하면 해당 벡터 공간은 직교(orthogonal)하다고 말한다. 이때, 각 벡터의 길이가 1이면 정규 직교(orthonormal)하다고 말한다. 벡터 공간 S={u1,u2,u3}를 구성하는 벡터 u1,u2,u3가 다음과 같다면 벡터 공간 S는 직교한다. 위 식을 보면 벡터 공간 S에 속하는 모든 벡터 간 내적 값이 0인 것을 알 수 있다. 따라서, 벡터 공간 S에 속하는 모든 벡터는 서로 직교한다. 2. 정규 직교 공간 직교 공간에 존재하는 직교 벡터의 길이가 모두 1인경우, 해당 벡터를 정규 직교 벡터라고 하며, 정규 직교 벡터가 만드는 공간을 정규 직교 공간 이라고 한다. 직교 벡터를 정규 직교 벡터로 변환하면 벡터의 길이가 1이 되므로 수식을..

1. 내적 공간 내적 공간은 벡터 공간 개념에서 확장되는 개념이다. 벡터 공간 S에서 다음 공리를 만족하는 벡터 공간을 내적 공간(inner product space)라고 한다. 2. 내적의 정의 내적은 특이하게도 벡터와 벡터의 연산 결과값으로 스칼라가 나온다. 3. 내적의 성질 내적을 사용하면 벡터의 길이(norm)를 구하거나 벡터 사이의 관계를 파악할 수 있다. 내적을 이용하면 두 벡터 사이의 각도도 추정할 수 있다. 벡터의 길이를 구할 수 있다. 벡터의 길이(length)는 노름(norm)이라고도 한다. 벡터 u의 길이는 다음과 같이 자기 자신의 내적 값의 제곱근을 계산함으로써 구할 수 있다. 예를들어, 벡터 u=(u1,u2)라고 하면 벡터의 길이는 아래 왼쪽 그림과 같다. 만약 벡터의 길이와 x축..

1. 행 공간, 열 공간, 영 공간의 개념 행렬 A가 다음과 같은 n x p 크기의 행렬이라고 하자. 앞서 배운 벡터 공간의 정의를 응용하면 행 벡터로 span할 수 있는 공간을 행 공간(row spaces)라고 부르고, 열 벡터로 span 할 수 있는 공간을 열 공간(column spaces)라고 부른다. 한편 Ax=0을 만족하는 해 공간을 영 공간(null space)라고 한다. 행렬 A의 영 공간이란 행렬 A가 주어질 때 Ax=0을 만족하는 모든 벡터 x의 집합이라고 할 수 있다. 차원 이란 기저 벡터의 개수를 의미한다. 즉, 벡터 공간을 구성하는 데에 필요한 최소한의 벡터 개수가 차원이다. 행 공간의 차원과 열 공간의 차원은 같다. 행렬 A의 의미는 행 공간에 존재하는 벡터 x를 행렬 A의 열 공..

1. 기저의 정의 기저(basis)는 벡터 공간을 생성하는 선형 독립인 벡터들이다. 이는 기저의 조합으로 공간을 생성할 수 있다는 의미이다. 2차원 평면에 존재하는 모든 점은 두 기저 벡터 (1 0), (0 1)로 표현할 수 있다. (2 1)이라는 좌표는 위와 같이 두 기저 벡터의 선형 조합으로 표현할 수 있다. 그리고 두 기저 벡터로 span할 수 있는 벡터 공간은 2차원 평면이다. 반면 위 그림의 오른쪽 그림에 존재하는 두 벡터(1 0),(2 0)은 2차원 평면의 기저가 될 수 없다. 왜냐하면 벡터는 2개이지만 서로 선형 독립이 아니기 때문이다. (2 0), (0 1)도 기저 벡터가 될 수 있다. (x 0) (0 y)형태라면 모두 2차원 공간의 기저 벡터가 될 수 있다. 2. 기저와 벡터 공간 벡터 ..

선형 변환(linear transformation)은 두 벡터 공간 사이의 함수이다. 예를 들어 벡터의 곱 Ax는 벡터 x에 선형 변환 A를 취한 것을 의미한다. 선형 변환은 기존 행렬을 변형시키는 변환이라고 생각할 수 있고 기존 행렬을 다른 좌표 공간으로 이동시킨다고 생각할 수도 있다. A에 속하는 벡터를 A에 속하는 다른 벡터들의 선형 조합으로 표현할 수 없을 때 A를 선형 독립(linear independent)라고 부른다. 반면, 특정 벡터를 다른 벡터의 선형 조합으로 표현할 수 있다면 선형 종속(linear dependent)라고 한다. - 선형 독립의 예 위와 같이 A를 구성하는 벡터 a1,a2,a3 모두 다른 벡터의 선형 조합으로 나타낼 수 없다. 따라서 벡터 a1,a2,a3의 집합인 A는 ..

-벡터 공간의 개념- 벡터 공간(vector space)은 벡터의 덧셈과 스칼라 곱이 정의된 공간을 의미한다. 벡터 공간은 다른 말로 선형 공간(linear space)라고도 부른다. 그러나 벡터 공간에서는 서로 다른 벡터가 서로 다른 길이, 방향을 가질 때 이를 비교할 수 있는 방법이 없다. 길이, 각도와 같은 것이 정의되어 있는 곳은 내적 공간(inner product space)라고 부른다. 흔히 어떤 공간의 좌표 축의 기본 벡터를 유닛 벡터(unit vector)라고 한다. 벡터 공간의 일부분을 부분 공간(subspace)라고 한다. 전체 집합과 부분 집합의 관계라고 생각하면 된다. 이런 관계를 설명하는 데에 사용되는 스팬(span)이라는 개념이 있다. 예를 들어, 전체 벡터 공간 V가 3차원이고..

1. 역행렬의 거듭 제곱 2. 역행렬과 전치 행렬 3. 거듭 제곱 행렬의 역행렬 4. 역행렬과 행렬식 넘파이를 이용해 역행렬 구하기 import numpy as np A=np.array([[3,2,0],[-1,-3,6],[2,3,-5]]) invA=np.linalg.inv(A) print(A) print('-------------------') print(invA) ''' [[ 3 2 0] [-1 -3 6] [ 2 3 -5]] ------------------- [[-0.6 2. 2.4] [ 1.4 -3. -3.6] [ 0.6 -1. -1.4]] '''

1. 역행렬의 개념 행렬 A의 역행렬이란 AB=I를 만족하는 행렬 B를 의미한다. 역행렬은 구하고자 하는 행렬의 행렬식이 0일때, 역행렬은 존재하지 않는다. 어떤 행렬의 역행렬이 존재하는 경우 해당 행렬을 가역 행렬(invertible matrix)이라고 부르며 가역 행렬의 역행렬은 유일하다. 행렬 A의 역행렬이 존재하지 않으면 행렬 A를 특이 행렬(singular matrix)라고 한다. 2. 역행렬 계산 1) 2x2 행렬의 역행렬 구하기 행렬 A,B가 크기가 같고, 두 행렬 모두 가역 행렬이면 두 행렬의 행렬 곱 AB또한 가역이며 다음과 같은 성질을 따른다. 2) nxn 행렬의 역행렬 구하기 여인수를 이용하면 행렬 A의 역행렬을 구할 때 사용하는 여인수 행렬을 구할 수 있는데 행렬 A의 여인수로 구성..