考慮一個信源的概率為{0.35,0.25,0.20,0.15,0.05}的DMS。 (1)給出此信源的霍夫曼碼。 (2)計算出這些碼子的平均碼長。 (3)這個碼的效率η是多少?
計算概率分布函數(shù)為的均勻分布隨機變量X的微分熵H(X)。畫出H(X)相對于參數(shù)a(0.1〈a〈10)的平面圖,并對結果進行評論。
根據(jù)得到的結果可以畫出相應的平面圖,由圖可以看到隨著a的增加,即p(x)的減小,微分熵H(X)相應的增加。
考慮一個只取整數(shù)值的隨機變量X,滿足,其中。求熵H(X)。