Метод Лемпеля–Зіва.

Метод Хаффмена.

1. Повідомлення виписуються в порядку збільшення ймовірностей.

2. Два останніх повідомлення об'єднуються в одне допоміжне повідомлення, якому приписується сумарна ймовірність.

3. Ймовірності повідомлень знову розташовуються в порядку збільшення ймовірностей в додатковому стовпці, а дві останні об'єднуються.

4. Процес продовжується до тих пір, поки не отримаємо єдине повідомлення з імовірністю рівною одиниці.

Отриманий код є найекономічнішим з усіх методів кодування.

В основу методу покладена така ідея: якщо в тексті повідомлення з'являється послідовність з двох символів, які вже зустрічалися раніше, то ця послідовність називається новим символом і для неї призначається код, який може бути значно коротше вихідної послідовності. Надалі в стиснутому повідомленні замість вихідної послідовності записується призначений код. При декодуванні повторюються аналогічні дії і тому стають відомими послідовності символів для кожного коду.

Наприклад, якщо послідовність мала вигляд 1011010100010, то вона буде розбита на символи таким чином: 1, 0, 11, 01, 010, 00, 10.

Алгоритмічна реалізація цієї ідеї включає такі операції.

1. Спочатку кожному символу алфавіту присвоюється визначений код (коди – порядкові номери, починаючи з 0).

2. Вибирається перший символ повідомлення і заміняється на його код.

3. Вибираються наступні два символи і заміняються своїми кодами. Одночасно цієї комбінації двох символів присвоюється свій код. Найчастіше це номер, який дорівнює числу уже використаних кодів. Так, якщо алфавіт включає 8 символів, які мають коди від 000 до 111, те перша двосимвольна комбінація одержить код 1000, наступна - код 1001 і т.д.

4. Вибираються з вихідного тексту чергові 2, 3, ..., N символів доти, поки не утвориться комбінація, яка ще не зустрічалася. Тоді цієї комбінації присвоюється черговий код, і оскільки сукупність А з перших N–1 символів уже зустрічалася, товона має свій код, який і записується замість цих N–1 символів. Кожний акт введення нового коду називається крокомкодування.

5. Процес продовжується до вичерпання початкового тексту.

Приклад. Нехай початковий текст являє собою двійковий код (перший рядок таблиці 1), тобто символами алфавіту є 0 і 1. Коди цих символів відповідно також 0 і 1. Код, який утворюється за методом Лемпеля–Зіва (LZ–код), показаний у другому рядку таблиці. У третьому рядку відзначені кроки кодування, після яких відбувається перехід на подання кодів збільшеним числом розрядів r. Так, на першому кроці вводиться код 10 для комбінації 00 і тому на наступних двох кроках R = 2, після третього кроку R = 3, після сьомого кроку R = 4, тобто в загальному випадку R = К послу кроку 2^K–1 –1.

Таблиця 1