非負實值函數
損失函數（Loss Function），也稱爲代價函數（Cost Function），是機器學習和統計學中的一箇核心概念，用於衡量模型預測結果與真實結果之間的差異或誤差。損失函數是一箇非負實值函數，通常表示爲L(Y, f(x))，其中Y是真實值，f(x)是模型的預測值。損失函數越小，表明模型的預測值越接近真實值，模型的健壯性和性能就越好。
損失函數在機器學習和優化中起着關鍵作用，它通常與優化問題相聯繫，通過最小化損失函數來求解和評估模型。在訓練過程中，模型通過不斷調整參數來減小在樣本上的損失，以達到提高泛化能力和預測準確度的目的。
損失函數有多種類型，不同的模型和應用場景會使用不同的損失函數。例如，在分類問題中，有0-1損失函數、感知損失函數和對數損失函數（二元交叉熵損失函數）；在迴歸問題中，有均方誤差損失函數等。這些損失函數根據其特定的任務和數據特性來選擇，以最有效地反映模型預測與真實值之間的差異。