PCA, SVD의 차이

Question

먼저 PCA와 SVD의 차이에 관해서 입니다.PCA는 어떤 행렬 A의 공분산 행렬에 대한 고유값과 고유벡터를 구하고 결국 최종적으로는 상위 n개의 고유값에 해당하는 고유벡터만을 추려내어 차원 축소를 하는 것으로 알고 있습니다.이것이 지니는 의미는 각 데이터의 분산을 최대치로 하는 직교 좌표들을 구하고 이 직교 좌표들 중 분산을 보다 크게 하는 상위권 n개의 좌표들을 제외한 나머지 좌표들은 생략하는 것, 즉 데이터를 충분히 잘 표현하는 범위 내에서 차원을 축소하는 것으로 알고 있습니다.SVD의 경우 행렬 A 자체에 대해서 분해를 수행하여 UΛVt (Vt는 행렬 V의 전치행렬) 로 표현하고 이 때 Λ는 U와 Vt에 대한 고유값들의 양의 제곱근으로 이루어져있는데 역시 마찬가지로 고유값이 낮은 애들부터 순차적으로 제거해가면서, 즉 PCA처럼 상위 n개의 고유값에 해당하는 고유벡터만을 추려내어 A를 다시 표현하는 것으로 알고 있습니다.결국 PCA와 SVD 둘 다 상위 n개의 고유값에 해당하는 고유벡터들을 추림으로써 차원 축소를 하는 방법인데요,만약 어떤 행렬 A가 m개의 고유값과 m개의 고유벡터를 지니고 있을 때 상위 n개(n<m)의 고유값에 해당하는 고유벡터만을 추려내어 차원 축소를 한다고 가정할 때, PCA로 차원 축소한 결과와 SVD로 차원 축소한 결과가 결국 같은 것인가요?결과는 같고 단순한 방법에만 차이가 있는 것인지, 아니면 실제로 방법에도 차이가 있고 결과에도 차이가 있는 것인지 궁금합니다.

PCA, SVD의 차이

0개의 답변

Q&A 목록