什麼是梯度下降法

梯度下降法是一種用於找到函式局部最小值的最佳化算法，常用於機器學習和人工智慧中。

梯度下降法通過不斷疊代，向目標函式當前點對應梯度的反方向規定步長距離點進行搜尋，以逐步降低函式的值。這種方法的核心是利用目標函式的梯度信息，即函式在當前點的斜率，來指導下一步的移動方向和步長。梯度下降法可以分為批量梯度下降法、隨機梯度下降法和自適應梯度下降法等不同變體，以適應不同的最佳化需求。