AI/Machine Learning
2021. 10. 12.
[ML] XGBoost(eXtreme Gradient Boost) 파헤치기
[ML] GBM 알고리즘 및 LightGBM 소개글에서 부스팅 앙상블 학습과 GBM이란 무엇인지 소개한 적이 있다. 사실 GBM 설명 이후에 LightGBM이 바로 나오는게 아니라 XGBoost가 먼저 나왔어야 했다... 왜냐하면 LightGBM이나 CatBoost는 다 XGBoost를 보다 강력하게 만드려는 시도에서 나온 것이기 때문이다. 따라서 오늘은 XGBoost를 살펴보려고 한다. XGBoost: A Scalable Tree Boosting System 논문 참고! 1. XGBoost 알고리즘 특징 소개 논문은 다음과 같은 contribution들을 나열한다. We design and build a highly scalable end-to-end tree boosting system. We pro..