什麼是梯度下降

梯度下降是一種用於最佳化目標函式的疊代算法，主要用於找到目標函式的最小值。

梯度下降的基本思想是，從某個初始點開始，計算目標函式（如損失函式）在該點的梯度，然後按照梯度的負方向（即函式值減小最快的方向）更新參數，逐步疊代，使得目標函式達到最小值。在機器學習和深度學習中，梯度下降被廣泛套用於各種最佳化問題，特別是在尋找模型參數以最小化損失函式方面。