как определяется информационный вес символа алфавита с вероятностной точки зрения

Количество предаваемой информации в сообщении равно произведению числа символов в тексте (сообщении) на информационный вес одного символа (это степень числа 2, которая равна мощности алфавита, с помощью которого написано это сообщение).

одна цифра или буква или пробел это 1 бит