硬件設備或系統
AI加速器是一種專門設計用於加速人工智能（AI）計算和訓練的硬件設備或系統。它們通常具有多核架構，旨在提高人工神經網絡、計算機視覺計算和其他機器學習算法的運行效率。AI加速器可以支持多種主流的人工智能計算框架，如TensorFlow、PyTorch、MXNet和Caffe，通過統一的框架和優化代碼屏蔽不同計算框架之間及版本間的分佈式訓練差異，從而提升這些框架在不同場景和訓練規模下的性能。
AI加速器與這些AI計算框架是解耦的，這意味着用戶在使用不同AI計算框架實現的模型和算法代碼時，不需要進行修改就可以獲得性能加速。此外，AI加速器可以針對以太網和異構加速器進行深入的性能優化，在不同情況下能夠提升1到10倍的訓練性能。
AI加速器通常作爲CPU的補充，減輕CPU的負荷，尤其是在處理數據密集型或傳感器驅動的任務時，如機器人、物聯網等。隨着深度學習和人工智能相關的工作負載變得越來越複雜和龐大，專用硬件如AI加速器成爲加速這些任務的有效手段。