支持向量機
SVM模型即支持向量機,是一種監督學習模型,通常用於分類和回歸分析。
SVM模型的基本概念是找到一個最佳分離超平面,該超平面在特徵空間中最大化不同類別之間的間隔,這個間隔通過支持向量(距離超平面最近的幾個訓練點)來定義。SVM模型可以通過拉格朗日的對偶性轉換為對偶問題的最優解,最終通常轉化為一個凸二次規劃問題來求解。
SVM模型分為三種類型:
線性可分支持向量機。適用於線性可分的數據集。
線性支持向量機。適用於近似線性可分的數據集,即存在一些特異點,去除這些特異點後數據線性可分。
非線性支持向量機。適用於線性不可分的數據集,採用核技巧進行處理。
此外,SVM模型還包括核技巧,使其能夠處理非線性分類問題,通過將數據映射到更高維的空間,從而實現複雜的分類邊界。