梯度下降法是什麼

梯度下降法(Gradient Descent)是一種用於優化或找到函數局部最小值的算法。

梯度下降法通過不斷地向函數在當前點處梯度的反方向移動一小步來工作，這個過程是迭代的，在每一步中，它計算函數在當前點處的梯度，並按照該梯度的反方向邁出一小步，從而逐漸降低函數的值。這個方法常用於機器學習和人工智能中，用於尋找最小化損失函數或代價函數的參數，從而得到最優模型。

梯度下降法有幾種變體，如隨機梯度下降和自適應梯度下降，這些變體在不同的應用場景中可能更有效。