Метод наименьших квадратов

Отклонения εi опытных данных yiэ от рассчитываемых значений yi (от значений эмпирической формулы в точках x0, x1,…,xn):

. (6.9)

Запишем сумму квадратов отклонений для всех точек x0, x1,…,xn:

. (6.10)

В общем виде эмпирическая формула записывается:

. (6.11)

Параметры эмпирической формулы (6.11) будем находить из

условия минимума функции

. (6.12)

В этом состоит сущность МНК.

В теории вероятностей доказывается, что полученные таким методом параметры наиболее вероятны, если отклонения подчиняются нормальному закону распределения.

Параметры являются независимыми переменными функции S. Её минимум найдем, приравняв частные производные по этим переменным:

. (6.13)

Выражение (6.13) является системой уравнений для определения .

Рассмотрим применение МНК для частного случая, широко используемого на практике. В качестве эмпирической функции рассмотрим многочлен:

. (6.14)

Формула (6.10) для определения суммы квадратов отклонений S имеет вид

. (6.15)

Для составления системы уравнений (6.13) найдем частные производные функции :

(6.16)

Приравнивая эти выражения 0 в соответствии с уравнениями (6.13) и собирая коэффициенты при неизвестных , получаем следующую

систему уравнений (при знаке ∑ i = 0,1,…,n):

(6.17)

Решая эту систему линейных уравнений, получаем коэффициенты многочлена (6.14). Эти коэффициенты являются искомыми параметрами эмпирической формулы.

Многочлен (6.14) может быть линейным (m = 1), квадратичным (m = 2), кубическим (m = 3) и т.д. Эмпирическая формула может быть не многочленом, а логарифмической или показательной функцией. Выбор вида эмпирической функции зависит от опыта исследователя. Но для оценки правильности выбора вида эмпирической формулы есть четкий количественный критерий. Это средняя квадратичная ошибка аппроксимации

, (6.18)

где к – число коэффициентов в эмпирической формуле;- отклонения; yi – значения, рассчитанные по эмпирической формуле. Лучше та эмпирическая формула, которая дает наименьшее значение Sош.