17. 주성분 분석

 얼굴 영상을 위한 적절한 기술자는 무엇일까? 다음 그림은 화소가 600x450 개이므로 270,000 차원의 거대한 특징 벡터가 생성된다. 이런 상황에서 효과적으로 사용할 수 있는 기법이 주성분 분석이다. 이 기법은 D차원의 특징 벡터를 정보 손실을 최소로 유지하여 d차원으로 (D>d) 줄여 준다.

 

 -원리-

 이제 정보 손실을 어떻게 수량화할 것인지에 대해 생각해보자. 훈련 집합 X가 가진 정보는 샘플들 간의 거리, 상대적인 위치 관계 등이 포함된다. 이들 정보는 차원이 축소되므로 어느 정도 손실을 감수해야 한다. 예를 들어 위의 그림에서 x1 과 x2는 같은 점으로 투영된다. 따라서 둘 간의 거리나 위치 정보는 모두 사라진다.

 위의 세 가지 투영에서 첫 번째가 가장 손실이 크고 세 번째가 가장 적다. PCA는 샘플들이 원래 공간에 퍼져 있는 정도가 변환된 공간에서도 얼마나 잘 유지하는지를 성능 평가 척도로 삼는다. 그리고 이 척도는 분산으로 측정한다.