앙상블 기법은 여러 개의 모델의 결과를 모아 최종 결과를 산출하는 방법입니다.
크게 배깅, 보팅 그리고 부스팅의 방법이 있습니다.
XGBoost는 부스팅 계열의 방법인데, 오버피팅 등 여러가지 단점을 보안한 방법입니다.
이 책은 결정트리, 배깅을 설명하고 그래디언트 부스팅 순으로 설명을 하고 있습니다.
그리고 이론적인 설명을 하기전에 사이킷런으로 적용해보고 하이퍼파라미터를 설명하면서 조금씩 이론적은 부분으로 진행하고 있습니다.
이 책의 저자는 "실수가 발생했을 때 이를 만해할 방법이 얼마나 있으면 좋을까요, 마치 그래디언트부스팅이 이전의 실수를 보완하듯이 말이죠" 라고 말하고 있습니다.
이 문장이 왜 우리가 XGBoost를 사용해야 하는지 잘 말해주는 것 같습니다.
뜨문뜨문 알았던 여러가지 앙상블에 대한 내용을 이 책을 통해 체계적으로 다시 보게 되었습니다.
"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."