Kernel SVM

Kernal SVM을 쓰는 이유의 전부

ML에서 연구자들이 SVM을 사랑하는 이유에는 비선형 데이터를 다룰 수 있다는 점에 있다. 물론 Kernel SVM에 한정한 얘기겠지만 말이다. Kernel SVM은 Linear하게 구분되지 않는데이터를 Projection을 통해 새로운 특성 공간으로 옮겨 구분하는것을 목적으로 둔다. 물론 아래와 같이 커널 함수는 좀 그지같이 생겼다.

방사 기저 함수. 가우시안이 보인다.

 

이 비선형 데이터를 고차원 공간으로 옮겨서 내적 노가다를 해야 하는걸, 안 옮기고 내적값만 알 수 있게 해주는 함수라고 이해하면 편하다. 참고로 새로운 데이터가 어느 클래스일지 예측할때는 아래와 같은 함수를 사용하게 된다.

 

 

거 참 머리아프게 생겼지만, 결론은 커널 유사도 - 즉 서포트 벡터와 얼마나 같은지를 계산해서 가중합으로 더하는 것이라고 생각하면 된다.