ВВЕДЕНИЕ

Вейвлет-преобразование сигналов (wavelet transform), теория которого оформилась в начале 90-х годов, является не менее общим по областям своих применений, чем классическое преобразование Фурье. Принцип ортогонального разложения по компактным волнам состоит в возможности независимого анализа функции на разных масштабах ее изменения. Вейвлет-представление сигналов (функций времени) является промежуточным между полностью спектральным и полностью временным представлениями.

Компактные волны относительно независимо были предложены в квантовой физике, физике электромагнитных явлений, математике, электронике и сейсмогеологии. Междисциплинарные исследования привели к новым приложениям данных методов, в частности, в сжатии образов для архивов и телекоммуникаций, в исследованиях турбулентности, в физиологии зрительной системы, в анализе радарных сигналов и предсказании землетрясений. К сожалению, объем русскоязычной научной литературы по тематике вейвлет-преобразований (да и нейронных сетей) относительно невелик.

Базовая идея восходит к временам 200-летней давности и принадлежит Фурье: аппроксимировать сложную функцию взвешенной суммой простых функций, каждая из которых, в свою очередь, получается из одной функции-прототипа. Эта функция-прототип выполняет роль строительного блока, а искомая аппроксимация получается комбинированием одинаковых по структуре блоков. При этом, если "хорошая" аппроксимация получается при использовании небольшого числа блоков, то тем самым достигается значительное уплотнение информации. В качестве таких блоков Фурье использовал синусоиды с различными периодами.

Что прежде всего отличает вейвлет-анализ от анализа Фурье? Основным недостатком Фурье-преобразования является его "глобальная" чувствительность к "локальным" скачкам и пикам функции. При этом модификация коэффициентов Фурье (например, обрезание высоких гармоник с целью фильтрации шума) вносит одинаковые изменения в поведение сигнала на всей области определения. Это особенность оказывается полезной для стационарных сигналов, свойства которых в целом мало меняются со временем.

При исследовании же нестационарных сигналов требуется использование некоторых локализованных во времени компактных волн, коэффициенты разложения по которым сохраняют информацию о дрейфе параметров аппроксимируемой функции. Первые попытки построения таких систем функций сводились к сегментированию сигнала на фрагменты ("окна") с применением разложения Фурье для этих фрагментов. Соответствующее преобразование - оконное преобразование Фурье - было предложено в 1946-47 годах Jean Ville и, независимо, Dennis Gabor. В 1950-70-х годах разными авторами было опубликовано много модификаций времени-частотных представлений сигналов.

В конце 70-х инженер-геофизик Морли (Jean Morlet) столкнулся с проблемой анализа сигналов, которые характеризовались высокочастотной компонентой в течение короткого промежутка времени и низкочастотными колебаниями при рассмотрении больших временных масштабов. Оконные преобразования позволяли проанализировать либо высокие частоты в коротком окне времени, либо низкочастотную компоненту, но не оба колебания одновременно. В результате был предложен подход, в котором для различных диапазонов частот использовались временные окна различной длительности. Оконные функции получались в результате растяжения-сжатия и смещения по времени гаусиана. Морли назвал эти базисные функции вейвлетами (wavelets) - компактными волнами. В дальнейшем благодаря работам Мейера (Yves Meyer), Добеши (Ingrid Daubechies), Койфмана (Ronald Coifman), Маллы (Stephane Mallat) и других теория вейвлетов приобрела свое современное состояние.

Среди российских ученых, работавших в области теории вейвлетов, необходимо отметить С.Б. Стечкина, И.Я. Новикова, В.И. Бердышева.

1. МНОГОМАСШТАБНЫЙ АНАЛИЗ И ВЕЙВЛЕТЫ

Определение 1. Многомасштабный анализ (multiresolutional analysis) – разложение гильбертова пространства L²(R^d), d³1, в  последовательность замкнутых подпространств

                                                                                      (1.1)

обладающих следующими свойствами:

1.     ,  и     полно в L²(R^d),                                                 

2.     Для любого fÎ L²(R^d), для любого jÎ Z,   f(x)ÎV_j   тогда и только тогда, когда

f(2x) ÎV_j-1,

3.     Для любого fÎ L²(R^d), для любого kÎ Z^d,   f(x)ÎV₀   тогда и только тогда, когда         f(x-k)ÎV₀,

4.     Существует масштабирующая (scaling) функция jÎV₀, что {j(x-k)}_kÎZ^d образует                                 

базис Ритца в V₀.

Для ортонормальных базисов можно переписать свойство 4 в виде:

4’. Существует масштабирующая функция jÎV₀, что {j(x-k)}_kÎZ^d образует         ортонормальный базис в V₀.

Определим подпространство W_j как ортогональное дополнение к V_j в V_j-1,

                                                                                                                     (1.2)

и представим пространство L²(R^d) в виде прямой суммы

                                                                                                                 (1.3)

            Выбирая масштаб n, можем заменить последовательность (1.1) следующей последовательностью:

                                                                              (1.4)

и получить

                                                                                                            (1.5)

            Если имеем конечное число масштабов, то, не нарушая общности, можно положить j=0 и рассматривать

                                                   V₀Î L²(R^d)                                   (1.6)

вместо (1.4). В числовой реализации подпространство V₀ конечномерно.

            Функция j - так называемая масштабирующая (скейлинг-) функция. С ее помощью можно определить функцию y - вейвлет - такую, что набор  {y(x-k)}_kÎZ  образует ортонормальный базис в W₀. Тогда

                                                     m=0..M-1.                                            (1.7)  

Из свойства 4’ непосредственно следует, что, во-первых, функция j может быть представлена в виде линейной комбинации базисных функций пространства V_-1 . Так как функции  {j_j,k(x)=2^-j/2j(2^-jx-k)}_kÎZ   образуют ортонормальный базис в V_j, то имеем

                                                                                                    (1.8)

Вообще говоря, сумма в выражении (1.8) не обязана быть конечной. Можно переписать (1.8) в виде

                                                                                                      (1.9)

где

                                                                                                  (1.10)

а 2p-периодическая функция m₀ определяется следующим образом:

                                                                                                        (1.11)

            Во-вторых, ортогональность {j(x-k)}_kÎZ подразумевает, что

                                                                         (1.12)

и значит

                                                                                           (1.13)

и                                                                                                          (1.14)

Используя (1.9), получаем

                                                                                   (1.15)

и, рассматривая сумму в (1.15) по четным и нечетным индексам, имеем

        (1.16)

Используя 2p-периодичность функции m₀ и (1.14), после замены x/2 на x, получаем необходимое условие

                                                                                                  (1.17)

для коэффициентов h_k в (1.11). Заметив, что     

                                                                                                       (1.18)

и определив функцию y следующим образом:       

                                                                                                 (1.19)     

где

                                                  k=0,…,L-1 ,                                           (1.20)

или преобразование Фурье для y

                                                                                                    (1.21)

где

                                                                                                        (1.22)

можно  показать,      что   при    каждом    фиксированном    масштабе   jÎZ     вейвлеты

{y_j,k(x)=2^-j/2y(2^-jx-k)}_kÎZ  образуют ортонормальный базис пространства W_j.

            Равенство (1.17) определяет пару квадратурных зеркальных фильтров (quadrature mirror filters, QMF) H и G, где  и QMF H и G вычисляются с помощью решения системы алгебраических уравнений. Число L коэффициентов фильтра в (1.11) и (1.22) связано с числом исчезающих моментов М, и  всегда четно.

            Выбранный фильтр Н  полностью определяет функции j и y и, таким образом, многомасштабный анализ. Кроме того, в правильно построенных алгоритмах значения функций j и y почти никогда не вычисляются. Благодаря рекурсивному определению вейвлетного базиса, все операции проводятся с квадратурными зеркальными фильтрами H и G, даже если в них используются величины, связанные с j и y.

4. ОПЕРАТОРЫ

Сжатие операторов или, другими словами, представление их в разреженном виде в ортонормированном базисе непосредственно влияет на скорость вычислительных алгоритмов.

Нестандартная форма оператора Т с ядром K(x,y) достигается вычислением следующих выражений:

                                                                           (4.1)

                                                                           (4.2)

                                                                            (4.3)

4.1 Оператор d/dx в вейвлетном базисе

Нестандартные формы некоторых часто используемых операторов могут быть вычислены явно. Построим нестандартную форму оператора d/dx. Матричные элементы  матриц  и  матрицы i, l, jÎ Z для оператора d/dx легко вычисляются как

                                                             (4.4)         

                                                             (4.5)

                                                             (4.6)

                                                                (4.7)

где

                                                                                                   (4.8)

                                                                                                   (4.9)

                                                                                                  (4.10)

                                                                                                    (4.11)

Кроме того, используя (1.8)  и (1.19), имеем

                                                                                                    (4.12)

                                                                                                     (4.13)

                                                                                                    (4.14)

Таким образом представление d/dx полностью определяется величинами  или, другими словами, отображением d/dx на подпространство V₀.

Предложение 4.1.  1. Если существует интеграл (4.11), тогда коэффициенты lÎ Z в (5.8) удлвлетворяют следующей системе линейных алгебраических уравнений:

                                                                            (4.15)

                                                                                                                          (4.16)

где

                                                                                      (4.17)

2. Если а именно с  и

Замечание. Если М=1, тогда система (4.15)-(4.16) имеет единственное решение, но интеграл (4.11) может не быть абсолютно сходящимся. Для базиса Хаара ( мы получаем простейший конечный дифференциальный оператор

Замечание 2. Заметим, что выражения (4.12) и (4.13) для  и  (   и   особенно просто:

Для доказательства Предложения 4.1 можно обратиться к [2].

Для решения системы (4.15)-(4.16) можно также воспользоваться итерационным алгоритмом. Начать можно с   и

4.2 Оператор dⁿ/dxⁿ в вейвлетном базисе

Так же как и для оператора d/dx, нестандартная форма оператора dⁿ/dxⁿ полностью определяется своим отображением на подпространство V₀, т.е. коэффициентами

                                          lÎ Z,                                (4.18)

если интеграл существует.

Предложение 4.2. 1. Если интеграл в выражении (4.18) существует, тогда коэффициенты lÎ Z удовлетворяют следующей системе линейных алгебраических уравнений

                                                                       (4.19)

                                                                                                            (4.20)

где   дано в формуле (4.17).

2. Пусть M ≥ (n+1)/2, где М – число исчезающих моментов. Если интеграл в (4.18) существует, тогда система (4.19)-(4.20) имеет единственное решение с конечным числом нулевых коэффициентов  для n

                                                                                                                           (4.21)

                                                                                           (4.22)

                                                                                                                         (4.23)

а для нечетных n

                                                                                                                        (4.24)

                                                                                        (4.25)

Замечание 3. Если M ≥ (n+1)/2, тогда решение линейной системы в Предложении 2 может существовать, когда интеграл в (4.18) не является абсолютно сходящимся.

            Интегральные уравнения второго рода

Линейное интегральное уравнение Фредгольма есть выражение вида

где ядро f(x) и функция в правой части  и

Предположим, что {φ₁, φ₁,…} – ортонормальный базис для

где коэффициенты K_ij вычисляются по формуле

Аналогично функции f и g представимы в виде

где коэффициенты f_i и g_i вычисляются по формулам:

     i=1,2,…

Интегральное уравнение в этом случае соответствует бесконечной системе уравнений

   i=1,2,…

Представление ядра может быть урезано до конечного числа слагаемых, что приводит к представлению интегрального оператора R:

который аппроксимирует K. Тогда интегральное уравнение аппроксимируется системой n уравнений с n неизвестными:

  i=1,2,…,n

ПРИЛОЖЕНИЕ 1

function [a,r]=dif_r(wname)

[LO_D,HI_D,LO_R,HI_R] = wfilters(wname);

% вычисление коэффициентов a_2k-1

len=length(LO_D);

a=zeros(len-1,1);

for k=1:len-1;

    for i=0:len-2*k;

        a(2*k-1)=a(2*k-1)+2*LO_D(i+1)*LO_D(i+2*k);

    end;

end;

% вычисление коэффициентов r_l

f=zeros(len-2,1);

f(1)=-1/2;

R=zeros(len-2);

for l=len-2:-1:2;

    R(l,l)=-1;

    if (2*l<=len-2)

        R(l,2*l)=2;

    end;

    for n=1:2:len-1;

        if (abs(2*l-n)<len-2);

            if ((2*l-n)<0);

                R(l,abs(2*l-n))=-a(n)+R(l,abs(2*l-n));

            else

                R(l,2*l-n)=a(n)+R(l,2*l-n);

            end;

        end;

        if (abs(2*l+n)<len-2);

            if ((2*l+n)<0);

                R(l,abs(2*l+n))=-a(n)+R(l,abs(2*l+n));

            else

                R(l,2*l+n)=a(n)+R(1,2*l+n);

            end;

        end;

    end;

end;

for j=1:len-2;

    R(1,j)=j;

end;

r=inv(R)*f;

ПРИЛОЖЕНИЕ 2

function [al, bet, gam]=difcoef(wname,N)

% извлечение коэффициентов r_l

[LO_D,HI_D,LO_R,HI_R] = wfilters(wname);

[a,r]=dif_r(wname);

L=length(LO_D);

% вычисление значений α_l, β_l,  γ_l

J=length(r):-1:1;

R=[-r(J);0; r];

K=L+1;

al=zeros(2*L+1,1);

bet=al;

gam=al;

for i=-L+1:L+1;

for k=L+1:2*L;

    for k1=L+1:2*L;

        if(((2*i+k-k1+L)<length(R)+1)&&((2*i+k-k1+L)>0))

            al(i+L)=HI_D(k-L)*HI_D(k1-L)*R(2*i+k-k1+L)+al(i+L);

            bet(i+L)=HI_D(k-L)*LO_D(k1-L)*R(2*i+k-k1+L)+bet(i+L);

            gam(i+L)=LO_D(k-L)*HI_D(k1-L)*R(2*i+k-k1+L)+gam(i+L);

        end;

end;

end;

end;

ПРИЛОЖЕНИЕ 3

1.      Вейвлет Добеши с M=2. a₁=1.1250 a₃=-0.1250 r₁=-0.6667  r₂=0.0833