42. Метод наименьших квадратов для моделей регрессии, нелинейных по факторным переменным
К оглавлению1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 1617 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33
34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50
51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67
68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84
85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100
Если модель регрессии является нелинейной по факторным переменным или нелинейной по оцениваемым коэффициентам, но внутренне линейной, то неизвестные коэффициенты данных моделей можно оценить с помощью классического метода наименьших квадратов.
Рассмотрим применение метода наименьших квадратов для определения неизвестных параметров модели регрессии, нелинейной по факторным переменным.
Параболическая функция второго порядка вида
является моделью регрессии, нелинейной по факторным переменным xi.
Метод наименьших квадратов позволяет получить такие оценки параметров β0,β1 и β2 при которых сумма квадратов отклонений фактических значений результативного признака ỹ от расчетных (теоретических) β минимальна:
В процессе минимизации исходной функции регрессии неизвестными являются только значения коэффициентов β0,β1 и β2, потому что значения результативной и факторной переменных известны из наблюдений. Для определения минимума функции трёх переменных вычисляются частные производные этой функции по каждому из оцениваемых параметров и приравниваются к нулю. Результатом данной процедуры будет стационарная система уравнений.
Составим стационарную систему уравнений для функционала F, не пользуясь методом замен:
После элементарных преобразований стационарной системы уравнений, получим систему нормальных уравнений, позволяющую определить значения неизвестных коэффициентов параболической функции:
Данная система является системой нормальных уравнений относительно параметров
для параболической функции второго порядка.
Полученная система нормальных уравнений является квадратной, т. к. количество уравнений равняется количеству неизвестных переменных, поэтому коэффициенты
можно рассчитать с помощью метода Крамера или метода Гаусса.
Если рассматривать полиномиальную функцию n-ой степени вида
то для определения оценок неизвестных коэффициентов данной модели регрессии методом наименьших квадратов минимизируется функционал F:
Для определения минимума функции нескольких переменных вычисляются частные производные этой функции по каждому из оцениваемых параметров и приравниваются к нулю. Результатом данной процедуры будет стационарная система уравнений:
Решением данной стационарной системы уравнений будут оценки неизвестных коэффициентов полиномиальной функции n-ой степени.
Если модель регрессии является нелинейной по факторным переменным или нелинейной по оцениваемым коэффициентам, но внутренне линейной, то неизвестные коэффициенты данных моделей можно оценить с помощью классического метода наименьших квадратов.
Рассмотрим применение метода наименьших квадратов для определения неизвестных параметров модели регрессии, нелинейной по факторным переменным.
Параболическая функция второго порядка вида
является моделью регрессии, нелинейной по факторным переменным xi.
Метод наименьших квадратов позволяет получить такие оценки параметров β0,β1 и β2 при которых сумма квадратов отклонений фактических значений результативного признака ỹ от расчетных (теоретических) β минимальна:
В процессе минимизации исходной функции регрессии неизвестными являются только значения коэффициентов β0,β1 и β2, потому что значения результативной и факторной переменных известны из наблюдений. Для определения минимума функции трёх переменных вычисляются частные производные этой функции по каждому из оцениваемых параметров и приравниваются к нулю. Результатом данной процедуры будет стационарная система уравнений.
Составим стационарную систему уравнений для функционала F, не пользуясь методом замен:
После элементарных преобразований стационарной системы уравнений, получим систему нормальных уравнений, позволяющую определить значения неизвестных коэффициентов параболической функции:
Данная система является системой нормальных уравнений относительно параметров
для параболической функции второго порядка.
Полученная система нормальных уравнений является квадратной, т. к. количество уравнений равняется количеству неизвестных переменных, поэтому коэффициенты
можно рассчитать с помощью метода Крамера или метода Гаусса.
Если рассматривать полиномиальную функцию n-ой степени вида
то для определения оценок неизвестных коэффициентов данной модели регрессии методом наименьших квадратов минимизируется функционал F:
Для определения минимума функции нескольких переменных вычисляются частные производные этой функции по каждому из оцениваемых параметров и приравниваются к нулю. Результатом данной процедуры будет стационарная система уравнений:
Решением данной стационарной системы уравнений будут оценки неизвестных коэффициентов полиномиальной функции n-ой степени.