熵率是什麼

熵率是一個衡量信息源中每個符號所攜帶的平均信息量的概念。它通常用於評估信源的離散性或不確定性。熵率的概念與熵緊密相關，後者指的是信源X每傳送一個符號時所提供的平均信息量。簡而言之，熵率關注的是信息源中符號的熵值，而熵則關注的是整個信息源的平均信息量。