43. Метод наименьших квадратов для моделей регрессии, нелинейных по оцениваемым коэффициентам
К оглавлению1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 1617 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33
34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50
51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67
68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84
85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100
Показательная функция вида
является нелинейной по коэффициенту β1 и относится к классу моделей регрессии, которые можно с помощью преобразований привести к линейному виду. Данная модель характеризуется тем, что случайная ошибка εi мультипликативно связана с факторной переменной хi. Следовательно, для определения оценок неизвестных коэффициентов данной модели можно применить классический метод наименьших квадратов.
Данную модель можно привести к линейному виду с помощью логарифмирования:
Log yi=log β0+ хi* logβ1+ logεi.
Для более наглядного представления данной модели регрессии воспользуемся методом замен:
log yi=Yi;
log β0=A;
logβ1=B;
logεi=E.
В результате произведённых замен получим окончательный вид показательной функции, приведённой к линейной форме:
Yi=A+Bхi+E.
Таким образом, мы будем применять метод наименьших квадратов не к исходной форме показательной функции, а к её преобразованной форме.
Для определения неизвестных коэффициентов линеаризованной формы показательной функции методом наименьших квадратов необходимо минимизировать сумму квадратов отклонений логарифмов наблюдаемых значений результативной переменной у от теоретических значений ỹ (значений, рассчитанных на основании модели регрессии), т. е. минимизировать функционал МНК вида:
Оценки неизвестных коэффициентов А и В линеаризованной формы показательной функции находятся при решении системы нормальных уравнений вида:
Данная система является системой нормальных уравнений относительно коэффициентов А и В для функции вида Yi=A+Bхi+E.
Однако основным недостатком полученных МНК-оценок неизвестных коэффициентов моделей регрессии, сводимых к линейному виду, является их смещённость.
Показательная функция вида
является нелинейной по коэффициенту β1 и относится к классу моделей регрессии, которые можно с помощью преобразований привести к линейному виду. Данная модель характеризуется тем, что случайная ошибка εi мультипликативно связана с факторной переменной хi. Следовательно, для определения оценок неизвестных коэффициентов данной модели можно применить классический метод наименьших квадратов.
Данную модель можно привести к линейному виду с помощью логарифмирования:
Log yi=log β0+ хi* logβ1+ logεi.
Для более наглядного представления данной модели регрессии воспользуемся методом замен:
log yi=Yi;
log β0=A;
logβ1=B;
logεi=E.
В результате произведённых замен получим окончательный вид показательной функции, приведённой к линейной форме:
Yi=A+Bхi+E.
Таким образом, мы будем применять метод наименьших квадратов не к исходной форме показательной функции, а к её преобразованной форме.
Для определения неизвестных коэффициентов линеаризованной формы показательной функции методом наименьших квадратов необходимо минимизировать сумму квадратов отклонений логарифмов наблюдаемых значений результативной переменной у от теоретических значений ỹ (значений, рассчитанных на основании модели регрессии), т. е. минимизировать функционал МНК вида:
Оценки неизвестных коэффициентов А и В линеаризованной формы показательной функции находятся при решении системы нормальных уравнений вида:
Данная система является системой нормальных уравнений относительно коэффициентов А и В для функции вида Yi=A+Bхi+E.
Однако основным недостатком полученных МНК-оценок неизвестных коэффициентов моделей регрессии, сводимых к линейному виду, является их смещённость.