Единицы измерения информации

Единицы измерения количества информации.

В настоящее время наиболее известны следующие способы измерения информации: объемный, энтропийный, алгоритмический.

Объемный способ измерения информации является простым и грубым способом измерения информации. Соответствующую количественную оценку информации естественно назвать объемом информации.

Объем информации в сообщении — это количество символов в сообщении. Поскольку, например, одно и то же число может быть записано многими разными способами (с использованием разных алфавитов): «двадцать один»; 21; 11001; XXI, то этот способ чувствителен к форме представления (записи) сообщения.

В вычислительной технике обрабатываемая и хранимая информация вне зависимости от ее природы (число, текст, отображение) представлена в двоичной форме (с использованием алфавита, состоящего всего из двух символов — 0 и 1). Такая стандартизация позволила ввести две стандартные единицы измерения: бит и байт. Байт — это 8 бит.

В теории информации и кодирования принят энтропийный подход к измерению информации. Этот способ исходит из следующей модели. Получатель информации (сообщения) имеет определенные представления о возможных наступлениях некоторых событий. Эти представления в общем случае недостоверны и выражаются вероятностями, с которыми он ожидает то или иное событие. Общая мера неопределенности (энтропия) характеризуется некоторой математической зависимостью от совокупности этих вероятностей. Количество информации в сообщении определяется тем, насколько уменьшится эта мера после получения сообщения.

В алгоритмической теории информации (раздел теории алгоритмов) предлагается алгоритмический метод оценки информации в сообщении. Этот метод заключается в том, что любому сообщению можно приписать количественную характеристику, отражающую сложность (размер) программы, которая позволяет ее произвести. Существует много разных вычислительных машин и разных языков программирования (разных способов задания алгоритма), и поэтому для определенности задаются некоторой конкретной вычислительной машиной. Предполагаемая количественная характеристика — сложность слова (сообщения) определяется как минимальное число внутренних состояний вычислительной машины, требующихся для его воспроизведения. В алгоритмической теории информации также используются и другие способы задания сложности.

Один символ компьютерного алфавита –1 байт=2³ бит = 8бит;

1 Килобайт = 1 Кб = 2¹⁰ байт = 1024 байта »1000 = 1 тысбайт;

1 Мегабайт = 1 Мб = 2¹⁰ Кб (2²⁰ байт) = 1024 Кб (1048576 байт) »1 000 000б =1млн байт;

1 Гигабайт = 1 Гб = 2¹⁰ Мб (2³⁰ байт) = 1024 Мб (1048576 Кб) »1 000 000 000б =1млрд байт;

1 Терабайт = 1 Тб = 2¹⁰ Гб (2⁴⁰ байт) = 1024 Гб (1048576 Мб) »1 000 000 000 000б =1трлн байт

Скорость передачи информации (информационного потока) – это количество информации, передаваемое за единицу времени (бит/с, байт/с, …).