머신러닝의 분류 모델

머신러닝의 지도학습인 대표적인 유형으로 분류 모델이 있다. 항상 뭐가 있지를 고민하고 어떨때 써야하지를 잘 모르겠어서 아주 간단하게 정리를 해보고자 한다.

 

굉장히 좋은 블로그를 찾았는데 이 블로그를 참고해서 작성을 진행했다.

https://iphoong.tistory.com/6

[머신러닝] 분류(Classification) 알고리즘

 

 

머신러닝 분류 모델

• 로지스틱 회귀(선형회귀 방식을 분류에 적용한 알고리즘)
• 결정트리
• 앙상블 학습
• 랜덤 포레스트(앙상블)
• GBM(앙상블(부스팅))
• XGBoost(앙상블(부스팅))
• LightGBM(앙상블(부스팅))
• KNN
• SVM(서포트 벡터 머신)
• 커널 SVM

 

로지스틱 회귀

로지스틱 회귀 모델은 단순선형회귀 모델을 분류하는데 사용하는 아주 강력한 분류 모델중 하나이다. 범주형 자료를 분류하는데 매우 강력한 알고리즘이며, 독립변수와 종속변수의 선형 관계성을 기반으로 만들어졌다. 

 

선형회귀와 로지스틱회귀 모델은 공통적으로 독립변수와 종속변수 사이에 관계로 부터 생성이 되며 0과 1로 맵핑이 되어서 사용된다.

하지만 선형회귀는 연속형 자료형을 예측할 때 사용되는 반면에 로지스틱회귀는 범주형 자료형에 대해서 예측하는데 사용된다.

 

결정트리

 

결정트리를 결정할 때 사용하는 분류기준은 엔트로피 지수이다