Compression
熵保持函式
令 F 為確定性壓縮函式,它採用固定長度的 128 位輸入並輸出 8 位。函式的每個輸入都有 128 位熵,這是否意味著輸出字節有 128 位熵?
當然不是; 8 位的熵最多為 8 位。在這 8 位的 256 個可能值上不存在給出大於 8 的熵值的機率分佈。
這意味著您的函式在輸入上的熵可能比輸出上的熵更多。這種情況並不少見,如果您的函式的可能輸出少於輸入,通常會發生這種情況(唯一的例外是輸入發生的機率分佈中某些輸入的機率為零)。