Light GBM

Decision Tree 알고리즘기반의 GBM 프레임워크 (빠르고, 높은 성능)

Ranking, classification 등의 문제에 활용

Leaf-wise 로 tree를 성장(수직 방향), 다른 알고리즘(Level-wise)

최대 delta loss의 leaf를 성장

동일한 leaf를 성장할때, leaf-wise가 loss를 더 줄일 수 있다.

대량의 데이터를 병렬로 빠르게 학습가능 (Low Memory, GPU 활용가능)

예측정확도가 더 높음 (Leaf-wise tree의 장점 → 과접합에 민감)

XGBoost 대비 2~10개 (동일한 파라미터 설정시)

Leaf-wise Tree는 overfitting에 민감하여, 대량의 데이터 학습에 적합

적어도 10,000 건 이상