Понятие информации. Количественные и качественные теории информации.
Слово "информация" появилось около двух с половиной тысяч лет назад в латинском языке (informatio — изложение, разъяснение). Этим словом пользовался Марк Цицерон, произнося в Риме свои знаменитые речи против Катилины. В обыденной жизни под этим словом понимают сообщения, передаваемые людьми устным, письменным или иным способом. Многие научные дисциплины используют этот термин, вкладывая в него свое содержание.
Существует достаточно много определений термина «информация». Все они отражают различные подходы к толкованию этого понятия.
В Законе Республики Беларусь «Об информации, информатизации и защите информации» дается следующее определение: информация – сведения о лицах, предметах, фактах, событиях, явлениях и процессах независимо от формы их представления (статья 1).
Первое объяснение информации как новости, сообщения, своеобразного газетного жанра, с помощью которого человек получает различного рода сведения, дали журналисты и филологи в 20—30-е гг. XX ст. Более строгая трактовка термина связана с возникновением двух новых дисциплин: математической (статистической) теории информации и кибернетики.
Вклад в развитие теории информации внес американский инженер Ральф Хартли. В 1928 г. он предложил логарифмическую меру информации. Процесс получения информации рассматривался как выбор одного сообщения из конечного наперед заданного множества из N равновероятных сообщений, а количество информации I, содержащееся в выбранном сообщении, определялась формулой:
Формула Хартли подходит лишь для идеальных систем. В действительности же сообщения не являются равновероятными.
В 1948 г. американский инженер и математик Клод Шеннонсформулировал основы математической теории информации. Он исследовал случайные процессы и явления, для которых характерна неопределенность исхода (да, нет). Под информацией понимались не любые сведения (сообщения), а лишь те, которые снимают полностью или уменьшают существовавшую до их получения неопределенность. Согласно теории К. Шеннона, информация — это снятая неопределенность.
Неопределенность существует тогда, когда может произойти одно из нескольких событий. Количество информации, получаемой в результате снятия неопределенности, вычисляется по формуле, называемой формулой Шеннона:
,
где I — количество информации;
Pi — вероятность события, 1≤i≤m;
m — число всех возможных событий.
Формула определения количества информации учитывает возможную неодинаковую вероятность сообщений.
Математическая теория информации определяет количество информации в сообщении, но полностью игнорирует содержание передаваемой информации, оставляя в стороне ее смысл. Математик Ю. А. Шрейдер показал возможность оценивания информации по увеличению объема знаний у человека под воздействием информационного сообщения. Академик А. А. Харкевич предложил измерять содержательность информации по увеличению вероятности достижения цели после получения информации человеком или техническим устройством. В работах английского ученого У. Р. Эшби информация прямо рассматривается как проявление разнообразия: где имеется различие вещей, явлений, там возникают потоки информации как отражение существующего разнообразия.