新型數字格式
BF16（Bfloat16）是一種專為人工智慧（AI）和深度學習（DL）套用最佳化的新型數字格式。
BF16最初由Google Brain開發，並套用於其TPU（張量處理單元）上，後來Intel、Arm和其他多家頂級公司也廣泛採用了這種格式。這種浮點格式介於標準化的半精度FP16和單精度FP32之間，它使用1+8+7的位分配，即用一個額外的符號位、8個位表示指數、7個位表示尾數。
與FP32相比，BF16在保證計算能力的同時，能夠節省計算量，同時預測精度的降低幅度最小。它提供了比FP16更廣泛的整數表示範圍，但尾數精度較低。這種格式的設計目的是為了提高AI和深度學習套用的計算效率，同時減少對硬體資源的需求。