Компьютерная техника использует двоичную систему счисления, выбор которой определяется реализацией аппаратуры компьютера (электронными схемами) с использованием двоичного элемента хранения данных -- триггера. Триггер имеет два возможных состояния (включено -- условно обозначается $1$, и выключено - $0$) и может хранить минимальный объем данных равный $1$ биту.
Рисунок 1.
Бит является элементарной единицей объема информации вне зависимости от ее содержания.
Количество всех возможных комбинаций $0$ и $1$ в $n$ триггерах равно $2n$.
Т.к. формально появление нуля или единицы в ячейке можно ожидать с одинаковой вероятностью, то, применив формулу Хартли:
можно сделать вывод, что в $n$ триггерах можно хранить $n$ бит информации.
Бит -- это количество информации, которое содержится в сообщении и вдвое уменьшает неопределенность знаний о чем-либо.
Т.к. бит -- минимальная единица измерения информации, объем информации в $1$ бит является слишком малой величиной, поэтому принято для измерения информации использовать более крупную единицу -- $1$ байт, который является основной единицей измерения информации.
Байтом называют последовательность из $8$ бит:
В компьютерной технике наименьшей адресуемой единицей принято считать $1$ байт.
В $1$ байте можно хранить, например, $1$ символ.
В настоящее время для хранения информации в компьютерной технике используют более крупные единицы объема информации:
В Кбайтах, Мбайтах, Гбайтах и т.д. измеряется также потенциальная информационная ёмкость оперативной памяти и запоминающих устройств, предназначенных для хранения данных (магнитные, лазерные, жесткие диски, флэш-накопители и т.д.).
Если проследить какой стороной упадет подброшенная монета, мы получаем определенную информацию. Можно считать, что обе стороны монеты равноправны, т.е. с одинаковой вероятностью может выпасть как одна, так и другая сторона. В таком случае говорят, что событие несет информацию в $1$ бит.
Если вытащить из мешка вслепую один из двух шаров разного цвета, мы также получаем информацию о цвете шара в $1$ бит.
Вычислить, сколько бит информации будет нести сообщение о том, в какой из восьми коробок находится шар.
Решение:
Возможны $4$ равновероятные события, т.е. $n=8$.
Применим формулу Хартли:
\[8=2^i;\] \[2^3=2^i;\] \[i=3.\]Ответ: сообщение будет нести $3$ бита информации.
Найти информационный объем одного символа русского языка.
Решение:
Количество букв русского языка равно $32$ (букву "ё" учитывать не будем, т.к. она редко используется). Таким образом, количество равновероятных событий $32$, т.е. $n=32$.
По формуле Хартли найдем информационный объем одного символа:
\[32=2^i;\] \[2^5=2^i;\] \[i=5.\]Ответ: информационный объем одной буквы русского языка равен $5$ битам.
В случае, когда невозможно найти целую степень числа, то округлять необходимо производить в сторону увеличения.
Найти информационный объем одного символа английского алфавита.
Решение:
Количество букв английского алфавита равно $26$. Таким образом, количество равновероятных событий $26$, т.е. $n=26$.
По формуле Хартли найдем информационный объем одного символа:
\[26=2^i;\] \[2^4Ответ: информационный объем одной буквы английского алфавита равен $5$ битам.На световом табло размещены лампочки, каждая из которых может принимать два значения («включено» или «выключено»). Найти наименьшее количество лампочек, которые нужно разместить на табло, чтобы с его помощью можно было передать $50$ различных сигналов?
Решение:
С помощью $n$ лампочек, каждая из которых может принимать одно из двух состояний, можно закодировать $2^n$ сигналов:
\[2^5Ответ: наименьшее количество лампочек, необходимых для передачи $50$ различных сигналов равно $6$.На метеостанции ведется наблюдение за влажностью воздуха. Результаты каждого измерения являются целым числом от $0$ до $50$, которое записывается при помощи минимально возможного количества битов. Станция произвела $60$ измерений. Найти информационный объем результатов наблюдений.
Решение:
В данном случае количеством равновероятных событий является множество чисел от $0$ до $50$, т.е. $51$ значение:
\[2^5Одно измерение равно $6$ битам. Т.к. измерений было проведено $60$, то общий информационный объем равен: \[6\ \cdot 60=360\ бит.\]Переведем в байты:
\[\frac{360\ бит}{8}=45\ байт.\]Ответ: $360$ бит = $45$ байт.
Найти информационный объем (в битах) предложения:
Кто владеет информацией -- тот владеет миром!
Решение:
Каждый символ кодируется $1$ байтом. Подсчитаем количество символов, включая знаки препинания и пробелы. Получаем всего $44$ символа. Значит информационный объем данного предложения равен:
\[1\ байт\cdot 44\ символа=44\ байт\ \cdot 8=352\ бит.\]Ответ: $352$ бит.
