๐ Remind LightGBM์ ๋ค์ด๊ฐ๊ธฐ์ ์ ๋ณต์ต ๊ฒธ reminding์ ํด๋ณด์. Light GBM์ GBM์ Gradient Boosting Model๋ก, tree๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ๋ ํ์ต ์๊ณ ๋ฆฌ์ฆ์ด๋ค. ์ด GBM์ ํ์ต๋ฐฉ์์ ์ฝ๊ฒ๋งํ๋ฉด, ํ๋ฆฐ๋ถ๋ถ์ ๊ฐ์ค์น๋ฅผ ๋ํ๋ฉด์ ์งํํ๋ค๊ณ ํ ์ ์๋ค. Gradient Boosting์์ Boosting์ ์ฌ๋ฌ๊ฐ์ tree๋ฅผ ๋ง๋ค๋, ๊ธฐ์กด์ ์๋ ๋ชจ๋ธ(tree)๋ฅผ ์กฐ๊ธ์ฉ ๋ฐ์ ์์ผ์ ๋ง์ง๋ง์ ์ด๋ฅผ ํฉํ๋ ๊ฐ๋ ์ผ๋ก, Random Forest์ Bagging๊ธฐ๋ฒ๊ณผ ๋ค๋ฅธ ๋ฐฉ๋ฒ์ด๋ค. Boostingํ๋ ๋ฐฉ์์๋ ํฌ๊ฒ 2๊ฐ์ง๊ฐ ์๋ค. 1. AdaBoost์ ๊ฐ์ด ์ค์ํ ๋ฐ์ดํฐ(์ผ๋ฐ์ ์ผ๋ก ๋ชจ๋ธ์ด ํ๋ฆฐ ๋ฐ์ดํฐ)์ ๋ํด weight๋ฅผ ์ฃผ๋ ๋ฐฉ์ 2. GBDT์ ๊ฐ์ด loss fun..