[ML/DL] 앙상블 학습 (Ensemble Learning): 1. bagging(배깅)이란?

배깅이란?

 

동일한 알고리즘으로 여러 분류기로 만들어 보팅으로 최종 결정하는 알고리즘을 뜻한다.

 

 

 

배깅의 진행방식

 

1. 동일한 알고리즘을 사용하는 일정 수 의 분류기 생성

2. 각각의 분류기는 부트 스트래핑 방식으로 생성된 샘플데이터를 학습

3. 최종적으로 모든 분류기가 보팅을 통해 예측 결정한다.

※부트 스트래핑 샘플링은 전체 데이터에서 일부 데이터의 중첩을 허용하는 방식

 

 

 

vagging 구현 

 

best_estimator 은 평가할 model을 뜻한다.

 

1. Baggingclassifier를 통한 배깅

 

 

2.RandomFrorest(대표적인 bagging 방식의 모델이다)

from sklearn.ensemble import RandomForestClassifier

 

# 랜덤포레스트 알고리즘을 이용한 학습/예측/평가

rf_model = RandomForestClassifier(random_state = 0)
rf_model.fit(X_train, y_train)
y_pred = rf_model.predict(X_test)

accuracy = accuracy_score(y_test , y_pred)

---