Boosting
Boosting 알고리즘
| 알고리즘 | 특징 | 비고 |
|---|---|---|
| AdaBoost | 다수결을 통한 정답 분류 및 오답에 가중치 부여 | |
| GBM | Loss Function의 gradient를 통해 오답에 가중치 부여 | |
| Xgboost | - GBM 대비 성능향상 - 시스템 자원 효율적 활용 (CPU, Mem) - Kaggle 을 통한 성능 검증 (많은 상위 랭커가 사용) | 2014년 공개 |
| Light GBM | - Xgboost 대비 성능향상 및 자원소모 최소화 - Xgboost 가 처리하지 못하는 대용량 데이터 학습 가능 - Approximates the split (근사치의 분할)을 통한 성능 향상 | 2016년 공개 |