最速梯度下降法

最速梯度下降法（Steepest Descent）是一種用於最佳化問題的算法，其基本思想是利用負梯度方向作為搜尋方向，以疊代方式最小化目標函式。

在每一步疊代中，最速梯度下降法計算當前點梯度的反方向，然後按照一定步長向該方向移動，從而逐漸接近目標函式的極小值點。最速梯度下降法的變種包括隨機梯度下降法和批量梯度下降法，分別適用於不同的最佳化場景。