В корзине лежат 32 клубка шерсти. Среди них – 4 красных. Сколько информации несет сообщение о том, что достали клубок красной шерсти?

Решение:

4/32 = 1/8 – вероятность того, что из корзины достали клубок красной шерсти;

I= - log2 (1/8) = - (-3) = 3 бита.

Ответ: 3 бита

1)    красные клубки шерсти составляют 1/8 от всех, …
2)    поэтому сообщение о том, что первый вынутый клубок шерсти – красный, соответствует выбору одного из 8 вариантов
3)    выбор 1 из 8 вариантов – это информация в 3 бита (по таблице степеней двойки)
ответ – 3.