text: Если f является оптимальным в смысле, что она имеет минимальную длину слова для X, тогда H ( X ) log 2 ⁡ a ≤ E S < H ( X ) log 2 ⁡ a + 1 {\displaystyle {\frac {H(X)}{\log _{2}a}}\leq \mathbb {E} S<{\frac {H(X)}{\log _{2}a}}+1} (Shannon 1948).