Критерии оценки неизвестных коэффициентов модели регрессии

В ходе регрессионного анализа была подобрана форма связи, которая наилучшим образом отражает зависимость результативной переменной у от факторной переменной х:

y=f(x).

Необходимо оценить неизвестные коэффициенты модели регрессии ₀…_n. Для определения оптимальных коэффициентов модели регрессии возможно применение следующих критериев:

1) критерий суммы квадратов отклонений наблюдаемых значений результативной переменной у от теоретических значений (рассчитанных на основе функции регрессии f(x)):

Данный критерий определения оптимальных коэффициентов модели регрессии получил название метода наименьших квадратов или МНК. К основным преимуществам данного метода относятся:

а) все расчёты сводятся к механической процедуре нахождения коэффициентов;
б) доступность полученных математических выводов.

Недостаток метода наименьших квадратов заключается в излишней чувствительности оценок к резким выбросам, встречающимся в исходных данных.

Для определения оптимальных значений коэффициентов ₀…_n необходимо минимизировать функционал F по данным параметрам:

Суть минимизации функционала наименьших квадратов F состоит в определении таких значений коэффициентов ₀…_n, при которых сумма квадратов отклонений наблюдаемых значений результативной переменной у от теоретических значений была бы минимальной;

2) критерий суммы модулей отклонений наблюдаемых значений результативной переменной у от теоретических значений (рассчитанных на основе функции регрессии f(x)):

Главное преимущество данного критерия заключается в устойчивости полученных оценок к резким выбросам в исходных данных, в отличие от метода наименьших квадратов.

К недостаткам данного критерия относятся:

а) сложности, возникающие в процессе вычислений;
б) зачастую большим отклонениям в исходных данных следует придавать больший вес для уравновешивания их в общей сумме наблюдений;
в) разным значениям оцениваемых коэффициентов ₀…_n могут соответствовать одинаковые суммы модулей отклонений.

Для определения оптимальных значений коэффициентов ₀…_n необходимо минимизировать функционал Fпо данным параметрам:

Суть минимизации функционала F состоит в определении таких значений коэффициентов ₀…_n, при которых сумма квадратов отклонений наблюдаемых значений результативной переменной у от теоретических значений была бы минимальной;

3) критерий, имеющий вид:

где g – это мера или вес, с которой отклонение (yi-f|xi,|) входит в функционал F. В качестве примера веса g можно привести функцию Хубера, которая при малых значениях переменной х является квадратичной, а при больших значениях х – линейной:

где с – ограничения функции.

Данный критерий определения наилучших оценок коэффициентов модели регрессии ₀…_n является попыткой объединения достоинств двух предыдущих критериев. Основное преимущество данного критерия заключается в том, что оценки неизвестных коэффициентов, найденные с его помощью, являются более устойчивыми к случайным выбросам в исходных данных, чем оценки, полученные методом наименьших квадратов.

Для определения оптимальных значений коэффициентов ₀…_n необходимо минимизировать функционал F по данным параметрам:

Суть минимизации функционала F состоит в определении таких значений коэффициентов ₀…_n, при которых сумма квадратов отклонений наблюдаемых значений результативной переменной у от теоретических значений с учётом заданных весов g была бы минимальной.