Линейная регрессионная модель для случая одной объясняющей переменной

ПРИКЛАДНАЯ СТАТИСТИКА КОННИКОВ Е.А. ПРИМЕНЕНИЕ ПАРНОЙ ИССЛЕДОВАНЯХ: РЕГРЕССИИ В ЭКОНОМЕТРИЧЕСКИХ 1. Выбор типа математической функции при построении уравнения РАЗДЕЛ 9. ЛИНЕЙНАЯ РЕГРЕССИОННАЯ МОДЕЛЬ ДЛЯ СЛУЧАЯ ОДНОЙ ОБЪЯСНЯЮЩЕЙ ПЕРЕМЕННОЙ (ПАРНАЯ РЕГРЕССИЯ) регрессии 2. Оценка параметров уравнения парной линейной регрессии 3. Показатели силы связи в моделях парной регрессии 4. Показатели тесноты связи в моделях парной регрессии 5. Статистическая оценка достоверности регрессионной модели 6. Интервальная оценка параметров уравнения парной регрессии 7. Использование модели парной регрессии для прогнозирования 2 ЗАДАЧИ КОРРЕЛЯЦИОННО-РЕГРЕССИОННОГО АНАЛИЗА. 1. Измерение параметров уравнения, выражающего связь между признаками. Данная задача решается оценкой параметров уравнения регрессии 2. Измерение тесноты связи между признаками. Данная задача решается показателем корреляции 3 МЕТОДЫ ВЫБОРА ТИПА МАТЕМАТИЧЕСКОЙ ФУНКЦИИ. 1. Аналитический метод (теоретический анализ связи рассматриваемого фактора и результата) 2. Графический метод 3. Экспериментальный метод 4 ЛИНЕАРИЗАЦИЯ НЕЛИНЕЙНЫХ УРАВНЕНИЙ. Функция Исходное уравнение Преобразованное уравнение Гипербола b y =a+ x 1/ x = z y = a + bz Степенная y = ax b ln y = ln a + b ln x Показательная y = ab x ln y = ln a + x ln b Экспонента y = ea + bx ln y = a + bx 5 ОЦЕНКА ПАРАМЕТРОВ РЕГРЕССИИ. УРАВНЕНИЯ ПАРНОЙ ЛИНЕЙНОЙ ¡ Для оценки параметров функций, линейных по параметрам, используется метод наименьших квадратов (МНК) ¡ МНК позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака от теоретических минимальна: å ( y - yˆ ) 2 ® min 6 ОЦЕНКА ПАРАМЕТРОВ РЕГРЕССИИ. УРАВНЕНИЯ ПАРНОЙ ЛИНЕЙНОЙ Для линейных и нелинейных уравнений, приводимых к линейным, решается следующая система относительно b и a: ìSy = na + bSx í 2 S yx = a S x + b S x î ìï y = a + bx í ïî yx = ax + b x 2 7 ФОРМУЛЫ РАСЧЕТА РЕГРЕССИИ. b= yx - x × y () x - x 2 ¡ 2 УРАВНЕНИЯ ПАРНОЙ a - свободный член уравнения регрессии. Экономически не интерпретируется. ¡ a = y - bx ПАРАМЕТРОВ b - наклон линии регрессии или коэффициент регрессии. Он является мерой зависимости переменной y от переменной x. В линейном уравнении регрессии параметр b является абсолютным показателем силы связи 8 ЛИНИЯ РЕГРЕССИИ. 9 УСЛОВИЯ ПРИМЕНЕНИЯ МНК. ¡ Модель регрессии должна быть линейной по параметрам ¡ Значения ошибки (остатка)- случайные. Их изменение не образует определенной модели ¡ Число наблюдений должно быть больше числа оцениваемых параметров (в 5-6 раз) ¡ Значения переменной x не должны быть одинаковыми ¡ Изучаемая совокупность должна быть однородной ¡ Отсутствие взаимосвязи между фактором x и остатком ¡ Модель регрессии должна быть корректно специфицирована ¡ В модели не должно наблюдаться тесной взаимосвязи между факторами (условие для множественной регрессии) 10 ПРИМЕР #1. Федеральный округ Инвестиции в основной капитал Валовой региональный продукт на душу населения за 2009 год на душу населения за 2009 год (тыс.руб.) (тыс.руб.) Центральный 51,9 308,3 Северо-Западный 69,4 253,2 Южный 51,7 145 20 86,3 Приволжский 42,4 163,3 Уральский 109,1 358,4 Сибирский 42,7 173,4 Дальневосточный 106,4 268,3 Северо-Кавказский 11 ПРИМЕР #1. № y x y*x x2 y2 1 308,3 51,9 16000,77 2693,61 95048,89 2 253,2 69,4 17572,08 4816,36 64110,24 3 145,0 51,7 7496,50 2672,89 21025 4 86,3 20,0 1726,00 400,00 7447,69 5 163,3 42,4 6923,92 1797,76 26666,89 6 358,4 109,1 39101,44 11902,81 128450,6 7 173,4 42,7 7404,18 1823,29 30067,56 8 268,3 106,4 28547,12 11320,96 71984,89 Итого 1756,2 493,6 124772 37427,68 444801,7 Среднее значение 219,525 61,7 15596,5 4678,46 55600,22 12 ПРИМЕР #1. Линейная зависимость 15596,5 - 219,525 × 61,7 b= = 2,354 2 4678,46 - (61,7) a = 219,525 - 2,354 × 61,7 = 74,28 yˆ = 74,28 + 2,354 x 13 ПРИМЕР #1. № y x lgy lgx lgy*lgx (lgx)2 y2 1 308,3 51,9 2,488974 1,715167 4,269006 2,941799 95048,89 2 253,2 69,4 2,403464 1,841359 4,425641 3,390605 64110,24 3 145,0 51,7 2,161368 1,713491 3,703484 2,93605 21025 4 86,3 20,0 1,936011 1,30103 2,518808 1,692679 7447,69 5 163,3 42,4 2,212986 1,627366 3,601338 2,64832 26666,89 6 358,4 109,1 2,554368 2,037825 5,205354 4,15273 128450,6 7 173,4 42,7 2,239049 1,630428 3,650608 2,658295 30067,56 8 268,3 106,4 2,428621 2,026942 4,922672 4,108492 71984,89 Итого 1756,2 493,6 18,42484 13,89361 32,29691 24,52897 444801,7 14 ПРИМЕР #1. Степенная зависимость y = ax lg y = lg a + b lg x b b= lg y lg x - lg y × lg x (lg x) - (lg x) 2 2 = 0,746 lg a = lg y - blg x = 1,007 15 ПРИМЕР #1. Степенная зависимость lg y = 1,007 + 0,746 lg x yˆ = 10 1, 007 x 0 , 746 = 10,16 x 0 , 746 16 ПОКАЗАТЕЛИ СИЛЫ СВЯЗИ В МОДЕЛЯХ ПАРНОЙ РЕГРЕССИИ. ¡ Абсолютные. Показывают, на сколько единиц в среднем изменяется результативный признак при изменении факторного признака на одну единицу. В линейном уравнении параметр b - абсолютный показатель силы связи ¡ Относительные (коэффициенты эластичности). Показывают, на сколько процентов в среднем изменяется результативный признак при изменении факторного признака на один процент x Э = f ¢(x ) y 17 АБСОЛЮТНЫЕ И ОТНОСИТЕЛЬНЫЕ ПОКАЗАТЕЛИ СИЛЫ СВЯЗИ ДЛЯ ОСНОВНЫХ ВИДОВ ФУНКЦИЙ. Функция Исходное уравнение Линейная y = a + bx Степенная y = ax b Показательная y = ab x Гипербола b y = a+ x Парабола 2 y = a + bx + cx второго порядка Показатели силы связи Абсолютный Относительный b bx x =b a + bx y abxb -1 b ab x ln b x ln b b - 2 x b + 2cx - b ax + b (b + 2cx )x a + bx + cx 2 18 ПРИМЕР #1. yˆ = 74,28 + 2,354 x С увеличением инвестиций в основной капитал на 1 тыс. руб. ВРП на душу населения возрастает в среднем на 2,354 тыс. руб. 19 ПРИМЕР #1. Линейная зависимость x 61,7 Э = b = 2,354 = 0,662% 219,525 y Степенная зависимость Э = b = 0,746% 20 ПОКАЗАТЕЛИ ТЕСНОТЫ СВЯЗИ В МОДЕЛЯХ ПАРНОЙ РЕГРЕССИИ. Коэффициент детерминации Показывает долю вариации (дисперсии) результативного признака, объясняемую регрессией, в общей вариации результата 21 ПРАВИЛО СЛОЖЕНИЯ ДИСПЕРСИЙ. SST = SS R + SS E ( ) 2 S y - y = SST ¡ общая сумма квадратов отклонений S( yˆ - y ) = SS R ¡ факторная сумма квадратов отклонений S( y - yˆ ) = SS E ¡ остаточная сумма квадратов отклонений 2 2 22 КОЭФФИЦИЕНТ ДЕТЕРМИНАЦИИ. SS R SS E r = = 1SST SST 2 0 £ r £1 2 23 КОЭФФИЦИЕНТ КОРРЕЛЯЦИИ. s x yx - y × x ryx = b = sy s ys x -1 £ r £ 1 24 ШКАЛА ЗНАЧЕНИЙ КОЭФФИЦИЕНТА (ИНДЕКСА) КОРРЕЛЯЦИИ . ¡ до 0,3 связь слабая ¡ 0,3-0,5 связь умеренная ¡ 0,5-0,7 связь заметная ¡ 0,7-0,9 связь высокая ¡ 0,9-1,0 связь весьма высокая, близкая к функциональной 25 СВОЙСТВА ЛИНЕЙНОГО КОЭФФИЦИЕНТА КОРРЕЛЯЦИИ. ¡ Это стандартизованный коэффициент регрессии ¡ Сравним для признаков, имеющих различные единицы измерения ¡ ryx = rxy 26 ПРИМЕР #1. Линейная функция yˆ = 74,28 + 2,354 x () 2 s y = y - y = 55600,22 - 219,525 = 7408,99 2 2 2 SST = s × n = 7408,99 × 8 = 59271,92 2 y 27 ПРИМЕР #1. Расчет теоретических значений результативного признака линейной функции yˆ = 74,28 + 2,354 x yˆ1 = 74,28 + 2,354 × 51,9 = 196,4526 yˆ 2 = 74,28 + 2,354 × 69,4 = 237,6476 ... 28 ПРИМЕР #1. Расчет коэффициента детерминации для линейной функции 20629,75 r = 1= 0,652 59271,92 2 29 ПРИМЕР #1. Расчет теоретических значений результативного признака степенной функции yˆ = 10,16 x 0 , 746 yˆ1 = 10,16 × 51,9 0 , 746 yˆ 2 = 10,16 × 69,4 0 , 746 = 13206,91 = 169,3616 ... 30 ПРИМЕР #1. Расчет остаточной суммы квадратов отклонений по степенной функции № y ŷ y - yˆ ( y - ŷ )2 1 308,3 193,3787 114,9213 13206,91 2 253,2 240,1861 13,0139 169,3616 3 145 192,8225 -47,8225 2286,989 4 86,3 94,94281 -8,64281 74,69818 5 163,3 166,3063 -3,00628 9,037691 6 358,4 336,5976 21,80243 475,3461 7 173,4 167,1833 6,216696 38,64731 8 268,3 330,3636 -62,0636 3851,888 Итого X X X 20112,88 31 ПРИМЕР #1. Расчет показателей корреляции r = r = 0,652 = 0,807 sx 29,522 ryx = b = 2,354 = 0,807 sy 86,075 2 s y = 7408,99 = 86,075 s x = 4678,46 - 61,7 = 29,522 2 32 СТАТИСТИЧЕСКАЯ ПРОВЕРКА ГИПОТЕЗ . Статистическая оценка достоверности регрессионной модели: ¡ Рассчитывается критерий Фишера F ¡ Определяется табличное значение критерия Фишера Ftab ¡ Фактическое значение сравнивается с табличным 33 СТАТИСТИЧЕСКАЯ ПРОВЕРКА ГИПОТЕЗ. ¡ Критическая область – это область, попадание значения статистического критерия в которую приводит к отклонению. H0. Вероятность попадания значения критерия в эту область равна принятому уровню значимости (1 минус доверительная вероятность) ¡ Область допустимых значений - область, попадание значения статистического критерия в которую приводит к принятию нулевой гипотезы 34 ОЦЕНКА ЗНАЧИМОСТИ УРАВНЕНИЯ РЕГРЕССИИ. ¡ Если F>Ftab. , то гипотеза о случайной природе оцениваемых характеристик отклоняется и признается статистическая значимость и надежность уравнения ¡ Если Fttab., параметр b не случайно отличается от нуля, и сформировался под влиянием систематически действующего фактора ¡ Если t