Модель линейной парной регрессии

Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии • Вывод формул для нахождения коэффициентов регрессии - доска Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии • • • • • • • • • Интерпретация коэффициента при переменной х Теорема Гаусса-Маркова для случая парной регрессии Формулы для нахождения дисперсии МНК-оценок Предположение о нормальном распределении случайной ошибки Тестирование гипотезы о конкретном значении коэффициента регрессии Проверка значимости коэффициента при переменной х Если коэффициент незначим, его не интерпретируют!!!! Значимость константы обычно не проверяется Доверительный интервал для коэффициента регрессии Интерпретация коэффициента регрессии • Коэффициент при переменной Х показывает, на сколько единиц в среднем изменится У, если значение Х увеличится на 1 единицу. • Свободный член в уравнении регрессии – это значение переменной Y при Х = 0. Предпосылки (условия) применения метода наименьших квадратов (МНК) 1. Модель правильно специфицирована (связь между X и Y действительно линейная и для объяснения переменной Y требуется только фактор X) 2. Все значения X детерминированы и не все равны между собой Предпосылки (условия) применения метода наименьших квадратов (МНК) 3. Случайное отклонение (ξ) имеет нулевое математическое ожидание M(ui)=0, i = 1…..n Данное условие означает, что случайное отклонение в среднем не оказывает влияния на зависимую переменную. В каждом конкретном случае случайное отклонение может быть либо положительным, либо отрицательным, но оно не должно иметь систематического смещения. Предпосылки (условия) применения метода наименьших квадратов (МНК) 4. Дисперсия случайного отклонения постоянна. D(ui)=σ2=const для любого i Это значит, что несмотря на то, что при каждом конкретном наблюдении случайное отклонение может быть либо большим, либо меньшим, не должно быть причины, вызывающей большую ошибку (отклонение). Выполнимость данной предпосылки называется гомоскедастичностъю (постоянством дисперсии отклонений). Невыполнимость данной предпосылки называется гетероскедастичностью (непостоянством дисперсий отклонений). Предпосылки (условия) применения метода наименьших квадратов (МНК) 5. Наблюдаемые значения случайных отклонений ξi и ξj независимы друг от друга Теорема Гаусса-Маркова для случая парной регрессии Теорема: Если предпосылки 1-5 выполнены, то оценки, полученные МНК являются BLUE (Best Linear Unbased Estimators) – наилучшими линейными несмещенными оценками и они обладают следующими свойствами: Теорема Гаусса-Маркова для случая парной регрессии 1. Оценки являются несмещенными, т.е. М ( ) = β0, М ( ) = β1. Это вытекает из того, что М(ξ)=0, тогда говорят об отсутствии систематической ошибки в определении положения линии регрессии Теорема Гаусса-Маркова для случая парной регрессии 2. Оценки состоятельны, т.к. дисперсия оценок параметров при возрастании числа n наблюдений стремится к нулю: Т.е. при увеличении объема выборки надежность оценок увеличивается 3. Оценки эффективны, т.е. они имеют наименьшую дисперсию по сравнению с любыми другими оценками данных параметров, линейными относительно величин У. Утверждение: Если выполнены условия теоремы Гаусса-Маркова, то дисперсии МНК-оценок могут быть найдены по следующим формулам: Стандартные ошибки для оценок коэффициентов линейной парной регрессии Проверка гипотез о конкретном значении коэффициентов парной регрессии Выбор тестовой статистики • Используются соображения: если гипотеза не отвергается, то Тогда статистика имеет распределение N (0; 1). НО!!!!! В выражение для входит неизвестный параметр (см.формулу). Поэтому вычислить эту статистику невозможно. Выбор тестовой статистики Поэтому заменим неизвестный параметр его оценкой , но в этом случае распределение статистики для случайной величины уже не будет нормальным. Тестовая статистика имеет распределение Стьюдента с (n-2) степенями свободы. Тестирование гипотез • 1. а). Вычисляем значение тестовой статистики б). Сравниваем .. Если то Н0 отвергается в пользу Н1. , Значение t для различных уровней значимости (двухсторонний критерий) Тестирование гипотез • 2. а). Вычисляем значение тестовой статистики б). Сравниваем . Если то Н0 отвергается в пользу Н1. , Тестирование гипотез • 3. а). Вычисляем значение тестовой статистики б). Сравниваем . Если то Н0 отвергается в пользу Н1. , Проверка значимости коэффициента регрессии а). Вычисляем значение тестовой статистики • .. б). Сравниваем . Если , то Н0 отвергается в пользу Н1 и говорят, что коэффициент значим на заданном уровне значимости. Проверка значимости коэффициента регрессии • 1) Незначимые коэффициенты не интерпретируются, т.е. считается, что соответствующий ему фактор не влияет на зависимую переменную у!!! • 2) p-value (р) – это минимальный уровень значимости, при котором основная гипотеза отвергается (если р < α, то основная гипотеза H0 отвергается, т.е коэффициент значим). • 3) часто используют обозначения: • -если коэф-т значим на 1% уровне *** • -если коэф-т значим на 5% уровне ** • -если коэф-т значим на 10% уровне * • 4) значимость обычно не проверяется. Доверительный интервал для коэффициента парной регрессии • Если доверительный интервал включает 0, то коэффициент незначим!!!!! Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Модель линейной парной регрессии Прогноз на основе линейного уравнения регрессии