Уровень архитектуры команд

Висновки

Контрольні питання (задачі)

1. Марковське дискретне джерело інформації з алфавітом та глибиною пам’яті описується такою матрицею умовних ймовірностей виникнення символу x_i при умові, що йому передував символ x_k : Обчислити ентропію такого джерела.

2. Маємо два дискретних джерела з алфавітами та . Перше джерело – марковське з глибиною пам’яті h = 1. Воно описується матрицею умовних ймовірностей виникнення символу при умові, що попереднім був символ . Ймовірність виникнення символу на виході другого джерела залежить від того, який символ з’явився на виході першого джерела, тобто ці ймовірності задаються матрицею Визначити ентропію другого джерела та повну взаємну інформацію.

3. Маємо два немарковських дискретних джерела інформації з алфавітами Ймовірності появи символів на виході першого джерела Значення умовних ймовірностей виникнення символу на виході другого джерела при умові, що на виході першого з'явився символ , є такими: . Розрахувати ентропії кожного з джерел, системи двох джерел та повну взаємну інформацію.

4. Маємо два немарковських дискретних джерела інформації з алфавітами X={x₁,x₂, x₃} та Y={y₁,y₂}. Чисельні значення безумовних p(y_k) та умовних p(y_k/x_i) ймовірностей виникнення символів на виході джерела з алфавітом Y відомі та для різних варіантів наведені у таблиці 1. Отримати чисельні значення ентропії H(X,Y) системи цих двох джерел та повної взаємної інформації I(X,Y).

Таблиця 1.