[ML/DL] XGboost의 정의와 구현 및 hyper parameter 설정

1.XGboost 1-1.xgboost란? 앙상블 모델의 한 종류인 boosting의 종류이다. 부스팅은 약한 분류기를 세트로 묶어서 정확도를 예측하는 기법이다. 또한 Xgboosting 은 gradient boosting 알고리즘의 단점을 보완해주기 위해 나왔다. ※gradient boosting 의 단점 - 느리다 , 과적합 이슈 1-2.xgboost의 특징 gbm 보다 빠르다 자동 가자치기를 통해 과적합이 잘 일어나지 않는다. 다른 알고리즘과 연계 활용성이 좋다. 다양한 커스텀 최적화 옵션 제공한다. 유연성이 좋다. (ex : 조기 중단 기능) 1-3.xgboost 구현 # 데이터 생성 및 train test 셋 나누기 from sklearn.datasets import load_breast_can..