梯度提升樹是什麼

疊代的決策樹算法

梯度提升樹（GBDT）是一種疊代的決策樹算法，它通過一系列決策樹的組合來預測輸出。

GBDT的核心思想是根據前一個決策樹的預測誤差來構建後續的決策樹，以此來逐步減少誤差，最終得到一個由多棵決策樹組成的集成模型。在每一步疊代中，GBDT利用損失函式的負梯度來近似回歸樹算法的殘差，從而擬合一個新的決策樹。這種算法可以套用於回歸和分類問題，並且在許多機器學習競賽和實際套用中表現出色。