什麼是對抗性攻擊

對抗性攻擊是一種特殊的攻擊方式，它涉及在機器學習模型的輸入數據中加入微小的、人眼難以察覺的擾動。這些擾動的設計目的是使模型對原始數據的預測發生錯誤。對抗性攻擊可以分爲兩種類型：無特定目標攻擊和特定目標攻擊。無特定目標攻擊旨在干擾模型的正確判斷，而特定目標攻擊則要求模型將特定輸入數據預測爲指定的輸出。對抗性攻擊主要發生在構造對抗性樣本的過程中，之後這些對抗性樣本可以像正常數據一樣被輸入到機器學習模型中，並導致模型產生錯誤的識別結果。