Измерение первичной информации.
Говорить о том или ином законе распределения вероятностей можно, лишь имея всю совокупность, то есть, имея целостную картину предметной области. Чтобы система (управления или информационная) имела такую картину, она должна обладать памятью и логикой, увязывающей отдельные явления в единое целое.
Однако измерительные, чувствительные органы, собирающие первичную информацию J, не облают ни памятью, ни логикой, а воспринимают каждое состояние исследуемой материи само по себе, вне всякой связи с другими возможными состояниями. Эти органы судят лишь о том, есть то или иное состояние в данный момент и в данном месте, или его нет. При этом, не обладая никаким априорным знанием, они воспринимают наличие или отсутствие того или иного состояния, как равновероятные события (p=0.5). В таких условиях информация о каждом дискретном объекте всегда составляет . При одновременном наличии m однородных дискретных состояний не обладающие логическим аппаратом чувствительные органы просто суммируют информацию, так что , или при непрерывном поступлении измеряемой величины x, когда они дают информацию в битах:
, (*)
где - разрешающая способность чувствительного органа.
Соотношение (*) позволяет измерять первичную чувственную информацию любого происхождения и природы, как непрерывную, так и дискретную.
Для измерения дискретной информации J надо принять разрешающую способность равной «размеру» дискретного материального носителя.