Метод наименьших квадратов

Лекция №8

Для получения искомой зависимости y=f(x) по имеющимся экспериментальным точкам (x_i, y_i) обычно пользуются методом наименьших квадратов. В этом случае задача состоит в том, чтобы сумма квадратов отклонений экспериментальных точек от сглаживающей кривой обращалась в минимум:

. (8.1)

Здесь x_i, y_i - экспериментальные значения переменных в i-том опыте; N - количество опытов, N>S, где S - число коэффициентов искомой зависимости.

При выборе вида зависимости y=f(x) возможны следующие случаи:

1. Общий вид зависимости y=f(x) известен заранее на основании теоретических предпосылок. Задача состоит в нахождении числовых значений параметров этой зависимости.

2. Зависимость y=f(x) неизвестна и нет никаких предположений о ее математической форме. В этом случае для эмпирического описания исследуемой закономерности в области ее существования, ограниченной пределами изменения аргумента, удобно применить алгебраический полином определенной степени.

Рассмотрим методику определения числовых значений параметров y=f(x), удовлетворяющих условию (8.1). При этом будем считать, что вид функции f(x), зависящей от нескольких параметров a_l, l=1, 2, 3... известен. Запишем y как функцию не только аргумента x, но и параметров a₁, a₂, a₃,…, т.е.

y=f(x, a₁, a₂, a₃,…).

Найдем значения a_l, при которых левая часть выражения (8.1) обращается в минимум. Для этого продифференцируем его по переменной a_l и приравняем производные к нулю. Тогда получим:

,

; (8.2)

.

и т.д.

Здесь - значение частной производной функции f по параметру a_l в точке х=x_i, y=y_i.

Система уравнений (8.2) содержит столько же уравнений, сколько и неизвестных коэффициентов a₁, a₂, a₃,… . Решить эту систему в общем виде нельзя – надо знать конкретный вид функции f. В случае, когда эта функция задана в виде алгебраического полинома, система уравнений (8.2) получается линейной относительно искомых коэффициентов полинома. Ее обычно называют нормальной.

Если y является функцией нескольких аргументов, процедура нахождения параметров a_l в принципе не меняется. В уравнение (8.2) подставляются те сочетания аргументов, которые имели место в i-том опыте.

Рассмотрим методику проведения эксперимента, когда искомая зависимость y=f(x) может быть представлена в линейном виде:

y = a₀ + a₁x . (8.3)

Для нахождения коэффициентов a₀ и a­₁ воспользуемся методом наименьших квадратов, согласно которому задача вычисления числовых значений коэффициентов сводится к отысканию экстремума функции двух переменных a₀ и a­₁:

. (8.4)

Взяв частные производные от S² по переменным a₀ и a­₁ и приравняв их к нулю, получим систему нормальных уравнений

;

(8.5)

.

Решение системы (8.4) дает значение искомых коэффициентов.

Пример 1

При проведении экспериментальных исследований скоростной характеристики двигателя постоянного тока с независимым возбуждением получены следующие результаты:

Согласно теоретическим данным зависимость скорости двигателя от тока якоря описывается следующим уравнением

. (8.6)

Здесь w, w₀ = а₀ – угловые значения текущей скорости и скорости идеального холостого хода, с^-1; U - напряжение сети, В; I - ток якоря, А; R_я, R_р - сопротивление якоря и дополнительное сопротивление якорной цепи, Ом; Ф - магнитный поток двигателя, Вб; К - конструктивная постоянная машины, В×с/Вб; С₁ – коэффициент, В×с (Н×м/А).

При неизменных U, Ф и R (условие проведения эксперимента) эта зависимость линейна, а ее характеристика прямая линия. Определим коэффициенты a₀, a₁ уравнения (8.5). Для нахождения коэффициентов a₀, и a₁ воспользуемся методом наименьших квадратов (используем для определения искомых коэффициентов систему уравнений (8.4)). В рассматриваемом случае она примет вид

;

(8.7)

.

Решение системы (8.6) дает значение искомых коэффициентов.

В рассматриваемом случае в соответствии с результатами эксперимента

Подставив эти значения в (8.6), найдем а₀=146,5 с^-1; и а₁=4,262 (А×с)^-1. Тогда зависимость w=f(I) примет вид

w = 146,5 - 4,262×I .

Аппроксимирующая прямая и экспериментальные точки приведены на рис. 8.1.

Рисунок 8.1

Лекция №9

(Продолжение темы «Метод наименьших квадратов»)

Статическая оценка результатов аппроксимации.

1. Дисперсия воспроизводимости.

, (9.1

где m - число параллельных опытов в i-й точке,

j - порядковый номер параллельного опыта в i-й точке.

Обычно критерием равноточности служит отношение максимальной дисперсии в соответствующей опытной точке D_yмакс к сумме всех дисперсий в N опытных точках:

. (9.2)

Полученное значение G сравнивается с табличным G_T (см. приложение 2), определенным для числа степеней свободы m-1, N при принятом уровне значимости (чаще всего равном 0,05). Если G<G_T, то гипотеза о равноточности не отвергается.

Дисперсия опыта (средняя дисперсия математических ожиданий)

. (9.3)

Здесь mN=n - общее число измерений.

2. Оценка адекватности аппроксимирующей зависимости исследуемому объекту обычно производится с помощью критерия Фишера

. (9.4)

Здесь D_ya остаточная дисперсия, равная

, (9.5)

где S - количество искомых параметров аппроксимирующей зависимости; y_pi - расчетное значение функции в i-й точке при аппроксимации ее зависимостью вида y=f(x₁, x₂,..).

Полученное значение F сравнивается с табличным F_T (см. приложение 1), определенным для степеней свободы r₁=N-S; r₂=N(m-1) при принятом уровне значимости. Если F<F_T, то гипотеза от адекватности не отвергается. Если погрешность опыта известна априори, то при £ модель адекватна.