#勾配ブースティング

勾配ブースティングとは、不完全な予測器を虐げながら残差を貪欲に積み重ね、最終的に一発逆転を狙うアルゴリズムの奇妙な晩餐である。弱き決定木たちは屍のように次々と積み上げられ、そのうえで誤差の亡霊が恍惚の宴を催す。膨大な計算量を誇示しつつ、汎化性能の名の下で過学習の魔物を飼い慣らそうとする業の深さを感じさせる。実装すれば手軽に高精度という飴を渡し、運用すればハイパーパラメータという地獄の責め苦を突きつける。