Keys
關鍵熵含義幫助
誰能幫我理解關鍵熵背後的數學及其用途?
我了解其中的大部分內容,但我只想了解是什麼 $ \log 2 $ 如果我喜歡,就喜歡。 $ \log 128 / \log 2 = 7 $ ?
- 教授在這個問題上真的讓我很困惑 $ \log 2 $ 意思是?公式;
$ Entropy = \log(Phrases)/\log 2 $
- 教授也給出了這個公式:多少位可以表示 $ X $ 階段?就拿 $ \log X $ , 並除以 $ \log 2 $ .
教授在這個問題上真的讓我很困惑 $ \log 2 $ 意思是?公式: $ \text{Entropy} = \log(\text{Phrases})/\log 2 $
如果我正確理解了這個問題,你問的是什麼 $ \log 2 $ 在分母那裡做。這本質上是為了確保對數的底(無論是 $ 10 $ 或者 $ e $ 或者 $ 2 $ ) 沒關係,你總是得到以 2 為底的對數的計算結果。
快速提醒:對數的底是 $ b $ 您正在尋找的 $ x $ 這樣 $ b^x=a $ 為了 $ x=\log a $ .
多少位
$$ are needed to $$代表 $ x $ $$ phrases $$?
所以你有了 $ x $ 值,並且您想知道需要多少位才能辨識所有這些值。嗯,首先註意1位可以定址2個值,2位可以定址4個值,3位可以定址8個值,等等。 $ n $ 位可以解決 $ 2^n $ 價值觀。因此,我們正在尋找最小值 $ n $ 這樣 $ x\leq 2^n $ . 所以我們首先在不等式兩邊計算一個任意基數的對數,得到 $ \log x\leq \log(2^n)=n\cdot \log 2\Leftrightarrow \log x/\log 2\leq n $ , 因此 $ \log x/\log 2 $ 位就足夠了。