ごめんなさい l=⎡-log2P(ai)⎤ と

、P(ai) の最初の1が現れる小数点以下桁が求まる理由を教えてください。

基本的算術符号化

No.1 ベストアンサー 回答者： ありものがたり 回答日時： 2022/12/05 13:47

0 < ai < 1 だとして、 P(ai) の二進小数表示で最初の1が現れるのが

小数点以下第 n 桁だとすると、 2^-n ≦ P(ai) < 2^-(n+1) が成り立つ。
各辺の log を取ると -n ≦ log2 P(ai) < -n-1 となって、
整理すれば - log2 P(ai) - 1 < n ≦ - log2 P(ai) と書ける。
この不等号の状況は、天井関数を使って n = ⎡-log2P(ai)⎤ と表記できる。
参考↓
https://mathlandscape.com/ceil-floor-func/

この回答へのお礼

ありがとうございます

お礼日時：2022/12/05 13:52