Эконометрика

ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ КАЗАНСКИЙ (ПРИВОЛЖСКИЙ) ФЕДЕРАЛЬНЫЙ УНИВЕРСИТЕТ КОНСПЕКТ ЛЕКЦИЙ по курсу «ЭКОНОМЕТРИКА» для бакалавров Казань 2014 Введение Эконометрика – это наука, в которой на базе реальных статистических данных строятся, анализируются и совершенствуются математические модели реальных экономических явлений. Эконометрика позволяет найти количественное подтверждение либо опровержение того или иного экономического закона либо гипотезы. Эконометрика как научная дисциплина зародилась и получила развитие на основе слияния экономической теории, математической экономики и экономической и математической статистики. По словам Р. Фриша: «… каждая их трех отправных точек - статистика, экономическая теория и математика-необходимое, но не достаточное условие для понимания количественных соотношений в современной экономической жизни. Это - единство всех трех составляющих. И это единство образует эконометрику». Таким образом, эконометрика - это наука, которая дает количественное выражение взаимосвязей экономических явлений и процессов. Предметом эконометрики являются экономические явления. Однако, в отличие от экономической теории, эконометрика делает упор на количественные, а не на качественные аспекты этих явлений. Например, известно, что спрос на товар с ростом его цены падает. Однако, как быстро и по какому закону это происходит, в экономической теории не определяется. Это в каждом конкретном случае делает эконометрика. С другой стороны, математическая экономика строит и анализирует модели экономических процессов без использования реальных числовых значений. Эконометрика же изучает модели на базе эмпирических данных. Наконец, в эконометрике широко используется аппарат математической статистики, особенно при установлении связей между экономическими показателями. В то же время в экономике невозможно проведение управляемого эксперимента, и эконометристы используют свои собственные приемы анализа, которые в математической статистике не встречаются. Основными целями эконометрики являются: 1.Прогноз экономических и социально-экономических показателей, характеризующих состояние и развитие анализируемой системы. 2.Имитация различных возможных сценариев социально-экономического развития. Основные задачи эконометрики: 1.Постороение эконометрических моделей, т.е. представление экономических моделей в математической форме, удобной для проведения эмпирического анализа (спецификация модели). 2.Оценка параметров построенной модели, делающих выбранную модель наиболее адекватной реальным данным (параметризация). 3.Проверка качества найденных параметров модели и самой модели в целом (верификация). 4.Использование построенных моделей для объяснения поведения экономических показателей, прогнозирования и предсказания, а также для осмысленного проведения экономической политики. Этапы эконометрического моделирования: 1.Постановочный этап: определение конечных целей моделирования, набора факторов и показателей. 2.Априорный этап: предмодельный анализ экономической сущности изучаемого явления. 3.Параметризация: собственно моделирование, т.е. выбор общего вида модели, состава и формы входящих в нее связей. 4.Информационный этап: сбор статистической информации. 5.Идентификация модели: статистический анализ модели и оценивание неизвестных параметров модели. 6.Верификация модели: сопоставление реальных и модельных данных, проверка адекватности модели, оценка точности модельных данных. ПАРНАЯ РЕГРЕССИЯ Спецификация модели В зависимости от количества факторов, включенных в уравнение регрессии, принято различать простую (парную) и множественную регрессии. Простая регрессия представляет собой регрессию между двумя переменными – y и x,т.е. модель вида: (1) где y-зависимая переменная (результативный признак); x- независимая, или объясняющая переменная (признак – фактор, или регрессор). Множественная регрессия представляет собой регрессию результативного признака с двумя и большим числом факторов, т.е. модель вида: (2) Любое эконометрическое исследование начинается со спецификации модели, т.е. с формулировки вида модели, исходя из соответствующей теории связи между переменными. Из всего круга факторов, влияющих на результативный признак, необходимо выделить наиболее существенно влияющие факторы. Парная регрессия достаточна, если имеется доминирующий фактор, который и используется в качестве объясняющей переменной. Например, выдвигается гипотеза о том, что величина спроса y на товар находится в обратной зависимости от цены x, т.е. Уравнение простой регрессии характеризует связь между двумя переменными, которая проявляется как закономерность лишь в среднем по совокупности наблюдений. (Например, если зависимость спроса y от цены x имеет вид: Это означает, что с ростом цены на 1 д.е. спрос в среднем уменьшается на 2 д.е.). В уравнении регрессии корреляционная по сути связь признаков представляется в виде функциональной связи. В каждом отдельном случае величина y складывается из двух слагаемых: , где фактическое значение результативного признака; - значение признака, найденное из математической функции связи y и x, т.е. из уравнения регрессии; - случайная величина, характеризующая отклонение реального значения признака от найденного по уравнению регрессии. Случайная величина называется также возмущением. Она включает влияние не учтенных в модели факторов, случайных ошибок и особенностей измерения. Ее порождают 3 источника: спецификация модели, выборочный характер исходных данных и ошибки измерения. Например, зависимость спроса от цены точнее следует записывать так: В данном случае слева записано просто y, что означает фактическое значение, а не , отвечающее значению, рассчитанному по уравнению регрессии. Ошибки спецификации. Это прежде всего неправильно выбраннае форма модели. В частности, зависимость спроса от цены может быть выражена линейно , но возможны и другие соотношения, например , , . Ошибки спецификации тем меньше, чем в большей мере теоретические значения признака подходят к фактическим данным y. К ошибкам спецификации относится также недоучет в уравнении регрессии какого-либо существенного фактора, т.е. использование парной регрессии вместо множественной. Например, спрос на конкретный товар может определяться не только ценой, но и доходом на душу населения. Ошибки выборки. Исследователь при установлении связи между признаками имеет дело с выборочными данными. При изучении экономических процессов данные в исходной совокупности часто являются неоднородными. В этом случае уравнение регрессии не имеет практического смысла. Поэтому для получения хорошего результата из выборки исключают данные с аномальными значениями исследуемых признаков. Ошибки измерения. Представляют наибольшую опасность в практическом использовании методов регрессии. Ошибки спецификации можно уменьшить, изменяя форму модели, ошибки выборки - увеличивая объем исходных данных, ошибки измерения сводят на нет все усилия по количественной оценке связи между признаками. Например, статистическое измерение дохода на душу населения может иметь ошибку в результате наличия сокрытых доходов. Другой пример: органы государственной статистики получают балансы предприятий, достоверность которых никто не подтверждает. В эконометрических исследованиях предполагается, что ошибки измерения сведены к минимуму. Поэтому основное внимание уделяется ошибкам спецификации модели. В парной регрессии выбор вида математической функции (1) может быть осуществлен тремя методами: графическим, аналитическим и экпериментальным. Графический метод достаточно нагляден. Он основан на поле корреляции. Рассмотрим типы кривых. Используются и другие типы кривых: ; ; ; ; ; . Аналитический метод выбора типа уравнения регрессии основан на изучении материальной природы связи исследуемых признаков. Пусть, например, изучается потребность предприятия в электроэнергии y в зависимости от объема выпускаемой продукции x. Все потребление электроэнергии можно подразделить на 2 части: • не связанное с производством продукции a; • непосредственно связанное с объемом выпускаемой продукции, пропорционально возрастающее с увеличением объема выпуска bx; Тогда зависимость потребления электроэнергии от объема продукции можно выразить уравнением регрессии вида Разделив на x, получим удельный расход электроэнергии на единицу продукции : Это равносторонняя гипербола. Аналогично затраты предприятия могут быть условно-переменные, изменяющиеся пропорционально изменению объема продукции (расход материала, оплата труда и др.) и условно-постоянные, не изменяющиеся с изменением объема производства (арендная плата, содержание администрации и др.). Соответствующая зависимость затрат на производство y от объема продукции x характеризуется линейной функцией. , а зависимость себестоимости единицы продукции zx от объема продукции – равносторонней гиперболой: Экспериментальный метод используется при обработке информации на компьютере путем сравнения величины остаточной дисперсии , рассчитанной на разных моделях. В практических исследованиях, как правило, имеет место некоторое рассеяние точек относительно линии регрессии. Оно обусловлено влиянием прочих, не учитываемых в уравнении регрессии факторов: Чем меньше , тем меньше наблюдается влияние прочих факторов, тем лучше уравнение регрессии подходит к исходным данным. При обработке данных на компьютере разные математические функции перебираются в автоматическом режиме, и из них выбирается та, для которой является наименьшей. Если примерно одинакова для нескольких функций, то на практике выбирают более простую, так как она в большей степени поддается интерпретации и требует меньшего объема наблюдений. Результаты многих исследований подтверждают, что число наблюдений должно в 6-7 раз превышать число рассчитываемых параметров при переменной x. Это означает, что искать линейную регрессию, имея менее 7 наблюдений, вообще не имеет смысла. Если вид функции усложняется, то требуется увеличение объема наблюдений. Для рядов динамики, ограниченных по протяженности – 10, 20, 30 лет – предпочтительна модель с меньшим числом параметров при x. Оценка параметров линейной регрессии. Линейная регрессия сводится к нахождению уравнения вида (или) (3) Первое выражение позволяет по заданным значениям фактора x рассчитать теоретические значения результативного признака, подставляя в него фактические значения фактора x. На графике теоретические значения лежат на прямой, которая представляют собой линию регрессии. Построение линейной регрессии сводится к оценке ее параметров- а и b. Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров а и b, при которых сумма квадратов отклонений фактических значений от теоретических минимальна: или (4) Для нахождения минимума надо вычислить частные производные суммы (4) по каждому из параметров - а и b - и приравнять их к нулю. (5) Преобразуем, получаем систему нормальных уравнений: (6) В этой системе n- объем выборки, суммы легко рассчитываются из исходных данных. Решаем систему относительно а и b, получаем: (7) . (8) Выражение (7) можно записать в другом виде: (9) где ковариация признаков, дисперсия фактора x. Параметр b называется коэффициентом регрессии. Его величина показывает среднее изменение результата с изменением фактора на одну единицу. Возможность четкой экономической интерпретации коэффициента регрессии сделала линейное уравнение регрессии достаточно распространенным в эконометрических исследованиях. Формально a- значение y при x=0. Если x не имеет и не может иметь нулевого значения, то такая трактовка свободного члена a не имеет смысла. Параметр a может не иметь экономического содержания. Попытки экономически интерпретировать его могут привести к абсурду, особенно при a 0. Интерпретировать можно лишь знак при параметре a. Если a 0, то относительное изменение результата происходит медленнее, чем изменение фактора. Сравним эти относительные изменения:  при  0,  0 Иногда линейное уравнение парной регрессии записывают для отклонений от средних значений: , (10) где , . При этом свободный член равен нулю, что и отражено в выражении (10). Этот факт следует из геометрических соображений: уравнению регрессии отвечает та же прямая (3), но при оценке регрессии в отклонениях начало координат перемещается в точку с координатами . При этом в выражении (8) обе суммы будут равны нулю, что и повлечет равенство нулю свободного члена. Рассмотрим в качестве примера по группе предприятий, выпускающих один вид продукции, функцию издержек Табл. 1. Выпуск продукции тыс.ед.() Затраты на производство, млн.руб.() 1 30 30 1 900 31,1 2 70 140 4 4900 67,9 4 150 600 16 22500 141,6 3 100 300 9 10000 104,7 5 170 850 25 28900 178,4 3 100 300 9 10000 104,7 4 150 600 16 22500 141,6 Итого: 22 770 2820 80 99700 770,0 Система нормальных уравнений будет иметь вид: Решая её, получаем a= -5,79, b=36,84. Уравнение регрессии имеет вид: Подставив в уравнение значения х, найдем теоретические значения y (последняя колонка таблицы). Величина a не имеет экономического смысла. Если переменные x и y выразить через отклонения от средних уровней, то линия регрессии на графике пройдет через начало координат. Оценка коэффициента регрессии при этом не изменится: , где , . В качестве другого примера рассмотрим функцию потребления в виде: , где С- потребление, y –доход, K,L-параметры. Данное уравнение линейной регрессии обычно используется в увязке с балансовым равенством: , где I– размер инвестиций, r - сбережения. Для простоты предположим, что доход расходуется на потребление и инвестиции. Таким образом, рассматривается система уравнений: Наличие балансового равенства накладывает ограничения на величину коэффициента регрессии, которая не может быть больше единицы, т.е. . Предположим, что функция потребления составила: . Коэффициент регрессии характеризует склонность к потреблению. Он показывает, что из каждой тысячи рублей дохода на потребление расходуется в среднем 650 руб., а 350 руб. инвестируется. Если рассчитать регрессию размера инвестиций от дохода, т.е. , то уравнение регрессии составит . Это уравнение можно и не определять, поскольку оно выводится из функции потребления. Коэффициенты регрессии этих двух уравнений связаны равенством: 0,65+0,35=1. Если коэффициент регрессии оказывается больше единицы, то , и на потребление расходуются не только доходы, но и сбережения. Коэффициент регрессии в функции потребления используется для расчета мультипликатора: . Здесь m≈2,86, поэтому дополнительные вложения 1 тыс. руб. на длительный срок приведут при прочих равных условиях к дополнительному доходу 2,86 тыс. руб. При линейной регрессии в качестве показателя тесноты связи выступает линейный коэффициент корреляции r: Его значения находятся в границах: . Если b  0, то при b 0 . По данным примера , что означает очень тесную зависимость затрат на производство от величины объема выпускаемой продукции. Для оценки качества подбора линейной функции рассчитывается коэффициент детерминации как квадрат линейного коэффициента корреляции r2. Он характеризует долю дисперсии результативного признака y, объясняемую регрессией, в общей дисперсии результативного признака: Величина характеризует долю дисперсии y, вызванную влиянием остальных, не учтенных в модели факторов. В примере . Уравнением регрессии объясняется 98,2 % дисперсии , а на прочие факторы приходится 1,8 %, это остаточная дисперсия. Предпосылки МНК (условия Гаусса-Маркова) Как было сказано выше, связь между y и x в парной регрессии является не функциональной, а корреляционной. Поэтому оценки параметров a и b являются случайными величинами, свойства которых существенно зависят от свойств случайной составляющей ε. Для получения по МНК наилучших результатов необходимо выполнение следующих предпосылок относительно случайного отклонения (условия Гаусса – Маркова): 10. Математическое ожидание случайного отклонения равно нулю для всех наблюдений: . 20. Дисперсия случайных отклонений постоянна: . Выполнимость данной предпосылки называется гомоскедастичностью (постоянством дисперсии отклонений). Невыполнимость данной предпосылки называется гетероскедастичностью (непостоянством дисперсии отклонений) 30. Случайные отклонения εi и εj являются независимыми друг от друга для : Выполнимость этого условия называется отсутствием автокорреляции. 40. Случайное отклонение должно быть независимо от объясняющих переменных. Обычно это условие выполняется автоматически, если объясняющие переменные в данной модели не являются случайными. Кроме того, выполнимость данной предпосылки для эконометрических моделей не столь критична по сравнению с первыми тремя. При выполнимости указанных предпосылок имеет место теорема Гаусса-Маркова: оценки (7) и (8), полученные по МНК, имеют наименьшую дисперсию в классе всех линейных несмещенных оценок. Таким образом, при выполнении условий Гаусса-Маркова оценки (7) и (8) являются не только несмещенными оценками коэффициентов регрессии, но и наиболее эффективными, т.е. имеют наименьшую дисперсию по сравнению с любыми другими оценками данных параметров, линейными относительно величин yi. Именно понимание важности условий Гаусса-Маркова отличает компетентного исследователя, использующего регрессионный анализ, от некомпетентного. Если эти условия не выполнены, исследователь должен это сознавать. Если корректирующие действия возможны, то аналитик должен быть в состоянии их выполнить. Если ситуацию исправить невозможно, исследователь должен быть способен оценить, насколько серьезно это может повлиять на результаты. Оценка существенности параметров линейной регрессии и корреляции После того, как найдено уравнение линейной регрессии (3), проводится оценка значимости как уравнения в целом, так и отдельных его параметров. Оценка значимости уравнения регрессии в целом дается с помощью F- критерия Фишера. При этом выдвигается нулевая гипотеза о том, что коэффициент регрессии равен нулю и, следовательно, фактор х не оказывает влияния на результат y. Перед расчетом критерия проводятся анализ дисперсии. Можно показать, что общая сумма квадратов отклонений (СКО) y от среднего значения раскладывается на две части – объясненную и необъясненную: (11) или, соответственно: Здесь возможны два крайних случая: когда общая СКО в точности равна остаточной и когда общая СКО равна факторной. В первом случае фактор х не оказывает влияния на результат, вся дисперсия y обусловлена в оздействием прочих факторов, линия регрессии параллельна оси Ох и Во втором случае прочие факторы не влияют на результат, y связан с x функционально, и остаточная СКО равна нулю. Однако на практике в правой части (11) присутствуют оба слагаемых. Пригодность линии регрессии для прогноза зависит от того, какая часть общей вариации y приходится на объясненную вариацию. Если объясненная СКО будет больше остаточной СКО, то уравнение регрессии статистически значимо и фактор х оказывает существенное воздействие на результат y.Это равносильно тому, что коэффициент детерминации будет приближаться к единице. Число степеней свободы. (df-degrees of freedom)- это число независимо варьируемых значений признака. Для общей СКО требуется (n-1) независимых отклонений, т.к. что позволяет свободно варьировать (n-1) значений, а последнее n-е отклонение определяется из общей суммы, равной нулю. Поэтому Факторную СКО можно выразить так: Эта СКО зависит только от одного параметра - b,поскольку выражение под знаком суммы к значениям результативного признака не относится. Следовательно, факторная СКО имеет одну степень свободы, и Для определения воспользуемся аналогией с балансовым равенством (11). Так же, как и в равенстве (11), можно записать равенство и между числами степеней свободы: (12) Таким образом, можем записать: Из этого баланса определяем, что =n-2. Разделив каждую СКО на свое число степеней свободы, получим средний квадрат отклонений, или дисперсию на одну степень свободы: Сопоставляя факторную и остаточную дисперсии в расчете на одну степень свободы, получим - критерий для проверки нулевой гипотезы, которая в данном случае записывается как (13) Если справедлива, то дисперсии не отличаются друг от друга. Для необходимо опровержение, чтобы факторная дисперсия превышала остаточную в несколько раз. Английским статистиком Снедекором разработаны таблицы критических значений F при разных уровнях существенности и различных числах степеней свободы. Табличное значение F- критерия – это максимальная величина отношения дисперсий, которая может иметь место при случайном их расхождении для данного уровня вероятности наличия нулевой гипотезы. При нахождении табличного значения F- критерия задается уровень значимости (обычно 0,05 или 0,01) и две степени свободы – числителя (она равна единице) и знаменателя, равная n-2. Вычисленное значение F признается достоверным (отличным от единицы), если оно больше табличного т.е. Fфактич>Fтабл(α;1;n-2). В этом случае отклоняется и делается вывод о существенности превышения Dфакт над Dостат.,т.е. о существенности статистической связи между y и x. Если , то вероятность выше заданного уровня (например, 0,05), и эта гипотеза не может быть отклонена без серьезного риска сделать неправильный вывод о наличии связи между y и x. Уравнение регрессии считается статистически незначимым, не отклоняется. В рассмотренном примере: - это общая СКО. - это факторная СКО. - остаточная СКО. ;;; ; . На любом уровне значимости , и можно сделать вывод о значимости уравнения регрессии. Статистическая связь между y и x доказана. Величина F- критерия связана с коэффициентом детерминации. , (14) В линейной регрессии обычно оценивается значимость не только уравнения в целом, но и отдельных его параметров. Стандартная ошибка коэффициента регрессии определяется по формуле: , (15) - остаточная дисперсия на одну степень свободы (то же, что и D­остат). В рассмотренном примере Величина стандартной ошибки совместно с - распределением Стьюдента при степенях свободы применяется для проверки существенности коэффициента регрессии и для расчета его доверительных интервалов. Величина коэффициента регрессии сравнивается с его стандартной ошибкой; определяется фактическое значение - критерия Стьюдента , (16) которое затем сравнивается с табличным значением при определенном уровне значимости α и числе степеней свободы (n-2). Здесь проверяется нулевая гипотеза в виде Н0:b=0, также предполагающая несущественность статистической связи между y и х, но только учитывающая значение b, а не соотношение между факторной и остаточной дисперсиями в общем балансе дисперсии результативного признака. Однако общий смысл гипотез один и тот же: проверка наличия статистической связи между y и х или её отсутствия. Если tb>tтабл(α;n-2), то гипотеза Н0:b=0 должна быть отклонена, а статистическая связь y с х считается установленной. В случае tbtтабл , поэтому гипотезу о несущественности b следует отклонить. Существует связь между и : Отсюда следует, что . Доверительный интервал для b определяется как . 95%-ные границы в примере составят: т.е. Это означает, что с вероятностью 0,95 истинное значение b находится в указанном интервале. Коэффициент регрессии имеет четкую экономическую интерпретацию, поэтому доверительные границы интервала не должны содержать противоречивых результатов, например, Они не должны включать нуль. Стандартная ошибка параметра определяется по формуле: (17) Процедура оценивания существенности a не отличается от таковой для параметра b. При этом фактическое значение t-критерия вычисляется по формуле: (18) Процедура проверки значимости линейного коэффициента корреляции отличается от процедур, приведенных выше. Это объясняется тем, что r как случайная величина распределена по нормальному закону лишь при большом числе наблюдений и малых значениях |r|. В этом случае гипотеза об отсутствии корреляционной связи между y и х H0:r=0 проверяется на основе статистики , (19) которая при справедливости H0 приблизительно распределена по закону Стьюдента с (n-2) степенями свободы. Если , то гипотеза H0 отвергается с вероятностью ошибиться, не превышающей α. Из (19) видно, что в парной линейной регрессии . Кроме того, , поэтому . Таким образом, проверка гипотез о значимости коэффициентов регрессии и корреляции равносильна проверке гипотезы о существенности линейного уравнения регрессии. Однако при малых выборках и значениях r, близких к , следует учитывать, что распределение r как случайной величины отличается от нормального, и построение доверительных интервалов для r не может быть выполнено стандартным способом. В этом случае вообще легко прийти к противоречию, заключающемуся в том, что доверительный интервал будет содержать значения, превышающие единицу. Чтобы обойти это затруднение, используется так называемое z-преобразование Фишера: , (20) которое дает нормально распределенную величину z, значения которой при изменении r от –1 до +1 изменяются от -∞ до +∞. Стандартная ошибка этой величины равна: (21) Для величины z имеются таблицы, в которых приведены её значения для соответствующих значений r. Для z выдвигается нуль-гипотеза H0:z=0, состоящая в том, что корреляция отсутствует. В этом случае значения статистики , (22) которая распределена по закону Стьюдента с (n-2) степенями свободы, не превышает табличного на соответствующем уровне значимости. Для каждого значения z можно вычислить критические значения r. Таблицы критических значений r разработаны для уровней значимости 0,05 и 0,01 и соответствующего числа степеней свободы. Если вычисленное значение r превышает по абсолютной величине табличное, то данное значение r считается существенным. В противном случае фактическое значение несущественно. Интервалы прогноза по линейному уравнению регрессии. Прогнозирование по уравнению регрессии представляет собой подстановку в уравнение регрессии соответственного значения х. Такой прогноз называется точечным. Он не является точным, поэтому дополняется расчетом стандартной ошибки ; получается интервальная оценка прогнозного значения : Преобразуем уравнение регрессии: ошибка зависит от ошибки и ошибки коэффициента регрессии т.е. Из теории выборки известно, что Используем в качестве оценки остаточную дисперсию на одну степень свободы получаем: Ошибка коэффициента регрессии из формулы (15): Таким образом, при получаем: (23) Как видно из формулы (23), величина достигает минимума при и возрастает по мере удаления от в любом направлении. Для нашего примера эта величина составит: При . При Для прогнозируемого значения 95% - ные доверительные интервалы при заданном определены выражением: (24) т.е. при или При прогнозное значение составит - это точечный прогноз. Прогноз линии регрессии лежит в интервале: Мы рассмотрели доверительные интервалы для среднего значения при заданном Однако фактические значения варьируются около среднего значения они могут отклоняться на величину случайной ошибки ε, дисперсия которой оценивается как остаточная дисперсия на одну степень свободы Поэтому ошибка прогноза отдельного значения должна включать не только стандартную ошибку , но и случайную ошибку S. Таким образом, средняя ошибка прогноза индивидуального значения составит: (25) Для примера: Доверительный интервал прогноза индивидуальных значений при с вероятностью 0,95 составит: или Пусть в примере с функцией издержек выдвигается предположение, что в предстоящем году в связи со стабилизацией экономики затраты на производство 8 тыс. ед. продукции не превысят 250 млн. руб. Означает ли это изменение найденной закономерности или затраты соответствуют регрессионной модели? Точечный прогноз: Предполагаемое значение - 250. Средняя ошибка прогнозного индивидуального значения: Сравним ее с предполагаемым снижением издержек производства, т.е. 250-288,93=-38,93: Поскольку оценивается только значимость уменьшения затрат, то используется односторонний t- критерий Стьюдента. При ошибке в 5 % с , поэтому предполагаемое уменьшение затрат значимо отличается от прогнозируемого значения при 95 % - ном уровне доверия. Однако, если увеличить вероятность до 99%, при ошибке 1 % фактическое значение t – критерия оказывается ниже табличного 3,365, и различие в затратах статистически не значимо, т.е. затраты соответствуют предложенной регрессионной модели. Нелинейная регрессия До сих пор мы рассматривали лишь линейную модель регрессионной зависимости y от x (3). В то же время многие важные связи в экономике являются нелинейными. Примерами такого рода регрессионных моделей являются производственные функции (зависимости между объемом произведенной продукции и основными факторами производства – трудом, капиталом и т.п.) и функции спроса (зависимости между спросом на какой-либо вид товаров или услуг, с одной стороны, и доходом и ценами на этот и другие товары – с другой). При анализе нелинейных регрессионных зависимостей наиболее важным вопросом применения классического МНК является способ их линеаризации. В случае линеаризации нелинейной зависимости получаем линейное регрессионное уравнение типа (3), параметры которого оцениваются обычным МНК, после чего можно записать исходное нелинейное соотношение. Несколько особняком в этом смысле стоит полиномиальная модель произвольной степени: , (26) к которой обычный МНК можно применять без всякой предварительной линеаризации. Рассмотрим указанную процедуру применительно к параболе второй степени: (27) Такая зависимость целесообразна в случае, если для некоторого интервала значений фактора возрастающая зависимость меняется на убывающую или наоборот. В этом случае можно определить значение фактора, при котором достигается максимальное или минимальное значение результативного признака. Если исходные данные не обнаруживают изменение направленности связи, параметры параболы становятся трудно интерпретируемыми, и форму связи лучше заменить другими нелинейными моделями. Применение МНК для оценки параметров параболы второй степени сводится к дифференцированию суммы квадратов остатков регрессии по каждому из оцениваемых параметров и приравниванию полученных выражений нулю. Получается система нормальных уравнений, число которых равно числу оцениваемых параметров, т.е. трем: (28) Решать эту систему можно любым способом, в частности, методом определителей. Экстремальное значение функции наблюдается при значении фактора, равном: . Если b>0, c<0, имеет место максимум, т.е. зависимость сначала растет, а затем падает. Такого рода зависимости наблюдаются в экономике труда при изучении заработной платы работников физического труда, когда в роли фактора выступает возраст. При b<0, c>0 парабола имеет минимум, что обычно проявляется в удельных затратах на производство в зависимости от объема выпускаемой продукции. В нелинейных зависимостях, не являющихся классическими полиномами, обязательно проводится предварительная линеаризация, которая заключается в преобразовании или переменных, или параметров модели, или в комбинации этих преобразований. Рассмотрим некоторые классы таких зависимостей. Зависимости гиперболического типа имеют вид: (29) Примером такой зависимости является кривая Филлипса, констатирующая обратную зависимость процента прироста заработной платы от уровня безработицы. В этом случае значение параметра b будет больше нуля. Другим примером зависимости (29) являются кривые Энгеля, формулирующие следующую закономерность: с ростом дохода доля доходов, расходуемых на продовольствие, уменьшается, а доля доходов, расходуемых на непродовольственные товары, будет возрастать. В этом случае b<0, а результативный признак в (29) показывает долю расходов на непродовольственные товары. Линеаризация уравнения (29) сводится к замене фактора z=1/x, и уравнение регрессии имеет вид (3), в котором вместо фактора х используем фактор z: (30) К такому же линейному уравнению сводится полулогарифмическая кривая: (31) которая может быть использована для описания кривых Энгеля. Здесь ln(x) заменяется на z, и получается уравнение (30). Достаточно широкий класс экономических показателей характеризуется приблизительно постоянным темпом относительного прироста во времени. Этому соответствуют зависимости показательного (экспоненциального) типа, которые записываются в виде: (32) или в виде (33) Возможна и такая зависимость: (34) В регрессиях типа (32) – (34) применяется один и тот же способ линеаризации – логарифмирование. Уравнение (32) приводится к виду: (35) Замена переменной сводит его к линейному виду: , (36) где . Если Е удовлетворяет условиям Гаусса-Маркова, параметры уравнения (32) оцениваются по МНК из уравнения (36). Уравнение (33) приводится к виду: , (37) который отличается от (35) только видом свободного члена, и линейное уравнение выглядит так: , (38) где . Параметры А и b получаются обычным МНК, затем параметр a в зависимости (33) получается как антилогарифм А. При логарифмировании (34) получаем линейную зависимость: , (39) где , а остальные обозначения те же, что и выше. Здесь также применяется МНК к преобразованным данным, а параметр b для (34) получается как антилогарифм коэффициента В. Широко распространены в практике социально-экономических исследований степенные зависимости. Они используются для построения и анализа производственных функций. В функциях вида: (40) особенно ценным является то обстоятельство, что параметр b равен коэффициенту эластичности результативного признака по фактору х. Преобразуя (40) путем логарифмирования, получаем линейную регрессию: (41) где . Еще одним видом нелинейности, приводимым к линейному виду, является обратная зависимость: (42) Проводя замену u=1/y, получим: (43) Наконец, следует отметить зависимость логистического типа: (44) Графиком функции (44) является так называемая «кривая насыщения», которая имеет две горизонтальные асимптоты y=0 и y=1/a и точку перегиба , а также точку пересечения с осью ординат y=1/(a+b): Уравнение (44) приводится к линейному виду заменами переменных . Любое уравнение нелинейной регрессии, как и линейной зависимости, дополняется показателем корреляции, который в данном случае называется индексом корреляции: (45) Здесь - общая дисперсия результативного признака y, - остаточная дисперсия, определяемая по уравнению нелинейной регрессии . Следует обратить внимание на то, что разности в соответствующих суммах и берутся не в преобразованных, а в исходных значениях результативного признака. Иначе говоря, при вычислении этих сумм следует использовать не преобразованные (линеаризованные) зависимости, а именно исходные нелинейные уравнения регрессии. По-другому (45) можно записать так: (46) Величина R находится в границах , и чем ближе она к единице, тем теснее связь рассматриваемых признаков, тем более надежно найденное уравнение регрессии. При этом индекс корреляции совпадает с линейным коэффициентом корреляции в случае, когда преобразование переменных с целью линеаризации уравнения регрессии не проводится с величинами результативного признака. Так обстоит дело с полулогарифмической и полиномиальной регрессий, а также с равносторонней гиперболой (29). Определив линейный коэффициент корреляции для линеаризованных уравнений, например, в пакете Excel с помощью функции ЛИНЕЙН, можно использовать его и для нелинейной зависимости. Иначе обстоит дело в случае, когда преобразование проводится также с величиной y, например, взятие обратной величины или логарифмирование. Тогда значение R, вычисленное той же функцией ЛИНЕЙН, будет относиться к линеаризованному уравнению регрессии, а не к исходному нелинейному уравнению, и величины разностей под суммами в (46) будут относиться к преобразованным величинам, а не к исходным, что не одно и то же. При этом, как было сказано выше, для расчета R следует воспользоваться выражением (46), вычисленным по исходному нелинейному уравнению. Поскольку в расчете индекса корреляции используется соотношение факторной и общей СКО, то R2 имеет тот же смысл, что и коэффициент детерминации. В специальных исследованиях величину R2 для нелинейных связей называют индексом детерминации. Оценка существенности индекса корреляции проводится так же, как и оценка надежности коэффициента корреляции. Индекс детерминации используется для проверки существенности в целом уравнения нелинейной регрессии по F-критерию Фишера: , (47) где n-число наблюдений, m-число параметров при переменных х. Во всех рассмотренных нами случаях, кроме полиномиальной регрессии, m=1, для полиномов (26) m=k, т.е. степени полинома. Величина m характеризует число степеней свободы для факторной СКО, а (n-m-1) – число степеней свободы для остаточной СКО. Индекс детерминации R2 можно сравнивать с коэффициентом детерминации r2 для обоснования возможности применения линейной функции. Чем больше кривизна линии регрессии, тем больше разница между R2 и r2. Близость этих показателей означает, что усложнять форму уравнения регрессии не следует и можно использовать линейную функцию. Практически, если величина (R2-r2) не превышает 0,1, то линейная зависимость считается оправданной. В противном случае проводится оценка существенности различия показателей детерминации, вычисленных по одним и тем же данным, через t-критерий Стьюдента: (48) Здесь в знаменателе находится ошибка разности (R2-r2), определяемая по формуле: (49) Если , то различия между показателями корреляции существенны и замена нелинейной регрессии линейной нецелесообразна. В заключение приведем формулы расчета коэффициентов эластичности для наиболее распространенных уравнений регрессии: Вид уравнения регрессии Коэффициент эластичности МОДЕЛЬ МНОЖЕСТВЕННОЙ РЕГРЕССИИ На любой экономический показатель чаще всего оказывает влияние не один, а несколько факторов. Например, спрос на некоторое благо определяется не только ценой данного блага, но и ценами на замещающие и дополняющие блага, доходом потребителей и многими другими факторами. В этом случае вместо парной регрессии рассматривается множественная регрессия (1) Множественная регрессия широко используется в решении проблем спроса, доходности акций, при изучении функции издержек производства, в макроэкономических расчетах и в ряде других вопросов экономики. В настоящее время множественная регрессия – один из наиболее распространенных методов в эконометрике. Основной целью множественной регрессии является построение модели с большим числом факторов, а также определение влияния каждого фактора в отдельности и совокупного их воздействия на моделируемый показатель. Множественный регрессионный анализ является развитием парного регрессионного анализа в случаях, когда зависимая переменная связана более чем с одной независимой переменной. Большая часть анализа является непосредственным расширением парной регрессионной модели, но здесь также появляются и некоторые новые проблемы, из которых следует выделить две. Первая проблема касается исследования влияния конкретной независимой переменной на зависимую переменную, а также разграничения её воздействия и воздействий других независимых переменных. Второй важной проблемой является спецификация модели, которая состоит в том, что необходимо ответить на вопрос, какие факторы следует включить в регрессию (1), а какие – исключить из неё. В дальнейшем изложение общих вопросов множественного регрессионного анализа будем вести, разграничивая эти проблемы. Поэтому вначале будем полагать, что спецификация модели правильна. Самой употребляемой и наиболее простой из моделей множественной регрессии является линейная модель множественной регрессии: (2) По математическому смыслу коэффициенты в уравнении (2) равны частным производным результативного признака y по соответствующим факторам: ,,…,. Параметр α называется свободным членом и определяет значение y в случае, когда все объясняющие переменные равны нулю. Однако, как и в случае парной регрессии, факторы по своему экономическому содержанию часто не могут принимать нулевых значений, и значение свободного члена не имеет экономического смысла. При этом, в отличие от парной регрессии, значение каждого регрессионного коэффициента равно среднему изменению y при увеличении xj на одну единицу лишь при условии, что все остальные факторы остались неизменными. Величина ε представляет собой случайную ошибку регрессионной зависимости. Попутно отметим, что наиболее просто можно определять оценки параметров , изменяя только один фактор xj, оставляя при этом значения других факторов неизменными. Тогда задача оценки параметров сводилась бы к последовательности задач парного регрессионного анализа по каждому фактору. Однако такой подход, широко используемый в естественнонаучных исследованиях, (физических, химических, биологических), в экономике является неприемлемым. Экономист, в отличие от экспериментатора – естественника, лишен возможности регулировать отдельные факторы, поскольку не удаётся обеспечить равенство всех прочих условий для оценки влияния одного исследуемого фактора. Получение оценок параметров уравнения регрессии (2) – одна из важнейших задач множественного регрессионного анализа. Самым распространенным методом решения этой задачи является метод наименьших квадратов (МНК). Его суть состоит в минимизации суммы квадратов отклонений наблюдаемых значений зависимой переменной y от её значений , получаемых по уравнению регрессии. Поскольку параметры являются случайными величинами, определить их истинные значения по выборке невозможно. Поэтому вместо теоретического уравнения регрессии (2) оценивается так называемое эмпирическое уравнение регрессии, которое можно представить в виде: (3) Здесь - оценки теоретических значений , или эмпирические коэффициенты регрессии, е – оценка отклонения ε. Тогда расчетное выражение имеет вид: (4) Пусть имеется n наблюдений объясняющих переменных и соответствующих им значений результативного признака: (5) Для однозначного определения значений параметров уравнения (4) объем выборки n должен быть не меньше количества параметров, т.е. . В противном случае значения параметров не могут быть определены однозначно. Если n=p+1, оценки параметров рассчитываются единственным образом без МНК простой подстановкой значений (5) в выражение (4). Получается система (p+1) уравнений с таким же количеством неизвестных, которая решается любым способом, применяемым к системам линейных алгебраических уравнений (СЛАУ). Однако с точки зрения статистического подхода такое решение задачи является ненадежным, поскольку измеренные значения переменных (5) содержат различные виды погрешностей. Поэтому для получения надежных оценок параметров уравнения (4) объём выборки должен значительно превышать количество определяемых по нему параметров. Практически, как было сказано ранее, объём выборки должен превышать количество параметров при xj в уравнении (4) в 6-7 раз. Для проведения анализа в рамках линейной модели множественной регрессии необходимо выполнение ряда предпосылок МНК. В основном это те же предпосылки, что и для парной регрессии, однако здесь нужно добавить предположения, специфичные для множественной регрессии: 50.Спецификация модели имеет вид (2). 60.Отсутствие мультиколлинеарности: между объясняющими переменными отсутствует строгая линейная зависимость, что играет важную роль в отборе факторов при решении проблемы спецификации модели. 70.Ошибки имеют нормальное распределение . Выполнимость этого условия нужна для проверки статистических гипотез и построения интервальных оценок. При выполнимости всех этих предпосылок имеет место многомерный аналог теоремы Гаусса – Маркова: оценки , полученные по МНК, являются наиболее эффективными (в смысле наименьшей дисперсии) в классе линейных несмещенных оценок. Оценка параметров линейного уравнения множественной регрессии Рассмотрим три метода расчета параметров множественной линейной регрессии. 1. Матричный метод. Представим данные наблюдений и параметры модели в матричной форме. - n – мерный вектор – столбец наблюдений зависимой переменной; - (p+1) – мерный вектор – столбец параметров уравнения регрессии (3); - n – мерный вектор – столбец отклонений выборочных значений yi от значений , получаемых по уравнению (4). Для удобства записи столбцы записаны как строки и поэтому снабжены штрихом для обозначения операции транспонирования. Наконец, значения независимых переменных запишем в виде прямоугольной матрицы размерности : Каждому столбцу этой матрицы отвечает набор из n значений одного из факторов, а первый столбец состоит из единиц, которые соответствуют значениям переменной при свободном члене. В этих обозначениях эмпирическое уравнение регрессии выглядит так: (6) Отсюда вектор остатков регрессии можно выразить таким образом: (7) Таким образом, функционал , который, собственно, и минимизируется по МНК, можно записать как произведение вектора – строки е’ на вектор – столбец е: (8) В соответствии с МНК дифференцирование Q по вектору В приводит к выражению: (9) которое для нахождения экстремума следует приравнять к нулю. В результате преобразований получаем выражение для вектора параметров регрессии: 10) Здесь - матрица, обратная к . Пример. Бюджетное обследование пяти случайно выбранных семей дало следующие результаты (в тыс. руб.): Семья Накопления, S Доход, Y Имущество, W 1 3 40 60 2 6 55 36 3 5 45 36 4 3,5 30 15 5 1,5 30 90 Оценить регрессию S на Y и W. Введем обозначения: S=[3;6;5;3,5;1,5]’ – вектор наблюдений зависимой переменной; B=[a;b1;b2]’ – вектор параметров уравнения регрессии; - матрица значений независимых переменных. Далее с помощью матричных операций вычисляем (используем табличный процессор MS Excel и функции ТРАНСП, МУМНОЖ и МОБР в нем): Регрессионная модель в скалярном виде: 2. Скалярный метод. При его применении строится система нормальных уравнений, решение которой и позволяет получить оценки параметров регрессии: (11) Решить эту систему можно любым подходящим способом, например, методом определителей или методом Гаусса. При небольшом количестве определяемых параметров использование определителей предпочтительнее. Рассмотрим пример, приведенный выше. Здесь для двух факторов, Y и W, система нормальных уравнений запишется так: Рассчитываем значения сумм, получаем: Рассчитаем значения определителей этой системы, используем функцию МОПРЕД в Excel: Отсюда получим оценки параметров модели: Обратите внимание, что коэффициенты в левой части системы нормальных уравнений совпадают с соответствующими элементами матрицы . 3. Регрессионная модель в стандартизованном масштабе. Уравнение регрессии в стандартизованном масштабе имеет вид: (12) где - стандартизованные переменные: (13) для которых среднее значение равно нулю: , а среднее квадратическое отклонение равно единице: ; βj – стандартизованные коэффициенты регрессии, или β – коэффициенты (не следует путать их с параметрами уравнения (2)). Применяя МНК к уравнению (12), после соответствующих преобразований получим систему нормальных уравнений: (14) В этой системе - элементы расширенной матрицы парных коэффициентов корреляции или, другими словами, коэффициенты парной корреляции между различными факторами или между факторами и результативным признаком. Имея измеренные значения всех переменных, вычислить матрицу парных коэффициентов корреляции на компьютере не составляет большого труда, используя, например, табличный процессор MS Excel или программу Statistica. Решением системы (14) определяются β – коэффициенты. Эти коэффициенты показывают, на сколько значений с.к.о. изменитися в среднем результат, если соответствующий фактор хj изменится на одну с.к.о. при неизменном среднем уровне других факторов. Поскольку все переменные заданы как центрированные и нормированные, β – коэффициенты сравнимы между собой. Сравнивая их друг с другом, можно ранжировать факторы по силе их воздействия на результат. В этом основное достоинство стандартизованных коэффициентов регрессии, в отличие от коэффициентов обычной регрессии, которые несравнимы между собой. Пусть функция издержек производства y (тыс. руб.) характеризуется уравнением вида: где факторами являются основные производственные фонды (тыс. руб.) и численность занятых в производстве (чел.). Отсюда видно, что при постоянной занятости рост стоимости основных производственных фондов на 1 тыс. руб. влечет за собой увеличение затрат в среднем на 1,2 тыс. руб., а увеличение числа занятых на одного человека при неизменной технической оснащенности приводит к росту затрат в среднем на 1,1 тыс. руб.. Однако это не означает, что первый фактор сильнее влияет на издержки производства по сравнению со вторым. Такое сравнение возможно, если обратиться к уравнению регрессии в стандартизованном масштабе. Пусть оно выглядит так: Это означает, что с ростом первого фактора на одно с.к.о. при неизменном числе занятых затраты на продукцию увеличиваются в среднем на 0,5 с.к.о. Так как β1<β2 (0,5<0,8), то можно заключить, что большее влияние на производство продукции оказывает второй фактор, а не первый, как кажется из уравнения регрессии в натуральном масштабе. В парной зависимости стандартизованный коэффициент регрессии есть не что иное, как линейный коэффициент корреляции r. Подобно тому, как в парной зависимости коэффициенты регрессии и корреляции связаны между собой, так и во множественной регрессии коэффициенты «чистой» регрессии bj связаны с β – коэффициентами: (15) Это позволяет от уравнения регрессии в стандартизованном масштабе: (16) переходить к уравнению регрессии в натуральном масштабе (4). Параметр а определяется так: (17) Свободный член в уравнении (16) отсутствует, поскольку все стандартизованные переменные имеют нулевое среднее значение. Рассмотренный смысл стандартизованных коэффициентов регрессии позволяет использовать их при отсеве факторов – из модели исключаются факторы с наименьшим значением βj. Компьютерные программы построения уравнения множественной регрессии в зависимости от использованного в них алгоритма решения позволяют получить либо только уравнение регрессии для исходных данных, либо, кроме того, уравнение регрессии в стандартизованном масштабе. В заключение приведем расчет стандартизованного уравнения регрессии по данным рассмотренного выше числового примера. Используя функцию КОРРЕЛ в Excel, рассчитаем расширенную матрицу парных коэффициентов корреляции: в которой последний столбец состоит из элементов и соответственно, а неединичные элементы в первых двух столбцах соответствуют . Эта матрица является расширенной матрицей системы уравнений для определения β – коэффициентов: Решаем систему методом определителей, получаем: Δ=0,926291; Δ1=0,688461; Δ2=-0,44504; β1=0,688461/0,926291=0,743245; β2=-0,44504/0,926291=-0,48045; Тогда стандартизованное уравнение регрессии запишется так: Отсюда видно, что первый фактор оказывает большее воздействие на результат, чем второй (|β1|>|β2|), однако эта разница не так велика, как для коэффициентов в натуральном масштабе (0,1229 и –0,0294). От этого уравнения можно перейти к уравнению в натуральном масштабе. Для этого с помощью функции СТАНДОТКЛОН в Excel определим стандартные отклонения всех переменных: а с помощью функции СРЗНАЧ – средние значения: Далее определяем оценки параметров: Эти значения оценок совпадают с оценками, полученными ранее. Частные уравнения регрессии На основе уравнения (3) можно найти частные уравнения регрессии: которые связывают результат с одним из факторов при закреплении других факторов на среднем уровне. Они имеют следующий вид: Это фактически парные уравнения регрессии, которые можно записать так: Свободные члены этих выражений легко определяются из следующего равенства: В отличие от парной регрессии, частные уравнения регрессии характеризуют изолированное влияние фактора на результат, поскольку другие факторы закреплены на неизменном уровне. Эффекты влияния других факторов присоединены в них к свободному члену уравнения множественной регрессии. Это позволяет на основе частных уравнений регрессии определять частные коэффициенты эластичности: (18) Предположим, что по ряду регионов регрессионная зависимость величины импорта на определенный товар от отечественного его производства х1 , изменения запасов х2 и потребления на внутреннем рынке х3 оказалась следующей: При этом средние значения составили: На основе данной информации могут быть найдены средние по совокупности показатели эластичности: (19) Для данного примера они окажутся равными: Отсюда видно, что с ростом величины отечественного производства на 1% размер импорта в среднем по совокупности регионов возрастет на 1,053% при неизменных запасах и потреблении. По аналогии интерпретируются и другие показатели эластичности. Средние показатели эластичности можно сравнивать друг с другом и соответственно ранжировать факторы по силе их воздействия на результат. В рассматриваемом примере наибольшее воздействие на величину импорта оказывает размер внутреннего потребления товара х3, а наименьшее – изменение запасов х2. В каждом отдельно взятом регионе имеет место своё сочетание значений факторов. Поэтому на основе выражений (18) для каждого региона могут быть определены частные коэффициенты эластичности. Перед этим построим частные уравнения регрессии по каждому фактору: или, конкретно для заданных значений: Пусть, например, для одного из регионов . Тогда частные коэффициенты эластичности по этому региону составят: Как видим, частные коэффициенты эластичности для региона несколько отличаются от аналогичных средних показателей по совокупности регионов. Они могут быть использованы при принятии решений относительно развития конкретных регионов. Анализ качества эмпирического уравнения множественной линейной регрессии Проверка статистического качества оцененного уравнения регрессии проводится, с одной стороны, по статистической значимости параметров уравнения, а с другой стороны, по общему качеству уравнения регрессии. Кроме этого, проверяется выполнимость предпосылок МНК. Сначала рассмотрим первые два вида проверок и связанные с ними вопросы. Некоторые предпосылки МНК и проверки их выполнимости будем рассматривать отдельно. Как и в случае парной регрессии, статистическая значимость параметров множественной линейной регрессии с р факторами проверяется на основе t – статистики: (20) где величина называется стандартной ошибкой параметра . Она определяется так. Обозначим матрицу: и в этой матрице обозначим j – й диагональный элемент как . Тогда выборочная дисперсия эмпирического параметра регрессии равна: (21) а для свободного члена выражение имеет вид: (21’) если считать, что в матрице индексы изменяются от 0 до р. Здесь S2 – несмещенная оценка дисперсии случайной ошибки ε: (22) Стандартные ошибки параметров регрессии равны (23) Полученная по выражению (20) t – статистика для соответствующего параметра имеет распределение Стьюдента с числом степеней свободы (n-p-1). При требуемом уровне значимости α эта статистика сравнивается с критической точкой распределения Стьюдента t(α; n-p-1) (двухсторонней). Если |t|>t(α; n-p-1), то соответствующий параметр считается статистически значимым, и нуль – гипотеза в виде Н0:bj=0 или Н0:а=0 отвергается. В противном случае (|t|20 и . Если |t|>3, то коэффициент считается сильно значимым. Вероятность ошибки в данном случае при достаточном числе наблюдений не превосходит 0,001. К анализу значимости коэффициента bj можно подойти по – другому. Для этого строится интервальная оценка соответствующего коэффициента. Если задать уровень значимости α, то доверительный интервал, в который с вероятностью (1-α) попадает неизвестное значение параметра , определяется неравенством: (24) или (24’) Если доверительный интервал не содержит нулевого значения, то соответствующий параметр является статистически значимым, в противном случае гипотезу о нулевом значении параметра отвергать нельзя. Для проверки общего качества уравнения регрессии используется коэффициент детерминации R2, который в общем случае рассчитывается по формуле: (25) Он показывает, как и в парной регрессии, долю общей дисперсии у, объясненную уравнением регрессии. Его значения находятся между нулем и единицей. Чем ближе этот коэффициент к единице, тем больше уравнение регрессии объясняет поведение у. Для множественной регрессии R2 является неубывающей функцией числа объясняющих переменных. Добавление новой объясняющей переменной никогда не уменьшает значение R2. Действительно, каждая следующая объясняющая переменная может лишь дополнить, но никак не сократить информацию, объясняющую поведение зависимой переменной. В формуле (25) используется остаточная дисперсия, которая имеет систематическую ошибку в сторону уменьшения, тем более значительную, чем больше параметров определяется в уравнении регрессии при заданном объёме наблюдений n. Если число параметров (р+1) приближается к n, то остаточная дисперсия будет близка к нулю и коэффициент детерминации приблизится к единице даже при слабой связи факторов с результатом. Поэтому в числителе и знаменателе дроби в (25) делается поправка на число степеней свободы остаточной и общей дисперсии соответственно: (26) Поскольку величина (25), как правило, увеличивается при добавлении объясняющей переменной к уравнению регрессии даже без достаточных на то оснований, скорректированный коэффициент (26) компенсирует это увеличение путем наложения «штрафа» за увеличение числа независимых переменных. Перепишем (26) следующим образом: (27) По мере роста р увеличивается отношение р/(n-p-1) и, следовательно, возрастает размер корректировки коэффициента R2 в сторону уменьшения. Из (27) очевидно, что при р>1. С ростом р растет медленнее, чем R2. Другими словами, он корректируется в сторону уменьшения с ростом числа объясняющих переменных. При этом только при R2=1. может даже принимать отрицательные значения (например, при R2=0). Поэтому для корректировки (26) нет строгого математического обоснования. Доказано, что увеличивается при добавлении новой объясняющей переменной тогда и только тогда, когда t – статистика для этой переменной по модулю больше единицы. Из этого отнюдь не следует, как можно было бы предположить, что увеличение означает улучшение спецификации уравнения. Тем не менее добавление в модель новых факторов осуществляется до тех пор, пока растет скорректированный коэффициент детерминации. Обычно приводятся данные как по R2 , так и по , являющиеся суммарными мерами общего качества уравнения регрессии. Однако не следует абсолютизировать значимость коэффициентов детерминации. Существует немало примеров неправильно построенных моделей, имеющих высокие коэффициенты детерминации. Поэтому коэффициент детерминации в настоящее время рассматривается лишь как один из ряда показателей, которые нужно проанализировать, чтобы уточнить строящуюся модель. Анализ статистической значимости коэффициента детерминации проводится на основе проверки нуль – гипотезы Н0: R2=0 против альтернативной гипотезы Н1: R2>0. Для проверки данной гипотезы используется следующая F – статистика: (28) Величина F при выполнении предпосылок МНК и при справедливости нуль – гипотезы имеет распределение Фишера. Из (28) видно, что показатели F и R2 равны или не равны нулю одновременно. Если F=0, то R2=0, и линия регрессии является наилучшей по МНК, и, следовательно, величина у линейно не зависит от . Для проверки нуль – гипотезы при заданном уровне значимости α по таблицам критических точек распределения Фишера находится критическое значение Fтабл(α; p; n-p-1). Если F>Fтабл, нуль – гипотеза отклоняется, что равносильно статистической значимости R2, т.е. R2>1. Эквивалентный анализ может быть предложен рассмотрением другой нуль – гипотезы, которая формулируется как . Эту гипотезу можно назвать гипотезой об общей значимости уравнения регрессии. Если данная гипотеза не отклоняется, то делается вывод о том, что совокупное влияние всех р объясняющих переменных на зависимую переменную у можно считать статистически несущественным, а общее качество уравнения регрессии невысоким. Проверка такой гипотезы осуществляется на основе дисперсионного анализа сравнения объясненной и остаточной дисперсий, т.е. нуль – гипотеза формулируется как Н0:Dфакт=Dост против альтернативной гипотезы Н1:Dфакт>Dост. При этом строится F – статистика: (29) Здесь в числителе – объясненная (факторная) дисперсия в расчете на одну степень свободы (число степеней свободы равно числу факторов, т.е. р). В знаменателе – остаточная дисперсия на одну степень свободы. Её число степеней свободы равно (n-p-1). Потеря (р+1) степени свободы связана с необходимостью решения системы (р+1) линейных уравнений при определении параметров эмпирического уравнения регрессии. Если учесть, что число степеней свободы общей дисперсии равно (n-1), то число степеней свободы объясненной дисперсии равна разности (n-1) – (n-p-1), т.е. р. Следует отметить, что выражение (29) эквивалентно (28). Это становится ясно, если числитель и знаменатель (29) разделить на общую СКО: Поэтому методика принятия или отклонения нуль – гипотезы для статистики (29) ничем не отличается от таковой для статистики (28). Анализ статистики F позволяет сделать вывод о том, что для принятия гипотезы об одновременном равенстве нулю всех коэффициентов линейной регрессии коэффициент детерминации R2 должен существенно отличаться от нуля. Его критическое значение уменьшается при росте числа наблюдений и может стать сколь угодно малым. Например, пусть при оценке регрессии с двумя объясняющими переменными по 30 наблюдениям R2 =0,65. Тогда По таблицам критических точек распределения Фишера найдем F(0,05; 2; 27)=3,36; F(0,01; 2; 27)=5,49. Поскольку Fнабл=25,05>Fкр как при 5% - ном, так и при 1% - ном уровне значимости, то нулевая гипотеза в обоих случаях отклоняется. Если в той же ситуации R2=0,4, то Предположение о незначимости связи отвергается и здесь. Другим важным направлением использования статистики Фишера является проверка гипотезы о равенстве нулю не всех коэффициентов регрессии одновременно, а только некоторой части этих коэффициентов. Это позволяет оценить обоснованность исключения или добавления в уравнение регрессии некоторых наборов факторов, что особенно важно при совершенствовании линейной регрессионной модели. Пусть первоначально построенное по n наблюдениям уравнение регрессии имеет вид (4), и коэффициент детерминации для этой модели равен . Исключим из рассмотрения k объясняющих переменных. Не нарушая общности, предположим, что это будут k последних переменных. По первоначальным n наблюдениям для оставшихся факторов построим другое уравнение регрессии: (30) для которого коэффициент детерминации равен . Очевидно, , т.к. каждая дополнительная переменная объясняет часть рассеивания зависимой переменной. Проверяя гипотезу , можно определить, существенно ли ухудшилось качество описания поведения зависимой переменной. Для этого используют статистику: (31) В случае справедливости Н0 приведенная статистика имеет распределение Фишера с числом степеней свободы р и (n-p-1). Здесь - потеря качества уравнения в результате отбрасывания k факторов; k – число дополнительно появившихся степеней свободы; - необъясненная дисперсия первоначального уравнения. Если величина (31) превосходит критическое на требуемом уровне значимости α, то нуль – гипотеза должна быть отклонена. В этом случае одновременное исключение из рассмотрения k объясняющих переменных некорректно, т.к. существенно превышает . Это означает, что общее качество первоначального уравнения регрессии существенно лучше качества уравнения регрессии с отброшенными переменными, т.к. первоначальное уравнение объясняет гораздо большую долю разброса зависимой переменной. Если же, наоборот, Fнабл10, n2>10) и отсутствии автокорреляции СВ k имеет асимптотически нормальное распределение, в котором Тогда, если то гипотеза об отсутствии автокорреляции не отклоняется. Если , то констатируется положительная автокорреляция; в случае признается наличие отрицательной автокорреляции. Для небольшого числа наблюдений (n1<20, n2<20) были разработаны таблицы критических значений количества рядов при n наблюдениях. В одной таблице в зависимости от n1 и n2 определяется нижняя граница k1 количества рядов, в другой – верхняя граница k2. Если k1uα/2, то нуль – гипотеза об отсутствии автокорреляции должна быть отклонена. В противном случае она не отклоняется. Обычно значение рассчитывается по формуле , а D(c) равна квадрату стандартной ошибки mc оценки коэффициента с. Cледует отметить, что вычисление h – статистики невозможно при nD(c)>1. Автокорреляция чаще всего вызывается неправильной спецификацией модели. Поэтому следует попытаться скорректировать саму модель, в частности, ввести какой – нибудь неучтенный фактор или изменить форму модели (например, с линейной на полулогарифмическую или гиперболическую). Если все эти способы не помогают и автокорреляция вызвана какими – то внутренними свойствами ряда {et}, можно воспользоваться преобразованием, которое называется авторегрессионной схемой первого порядка AR(1). Рассмотрим AR(1) на примере парной регрессии: ( ) Тогда соседним наблюдениям соответствует формула: ( ) ( ) Если случайные отклонения определяются выражением ( ), где коэффициент ρ известен, то можем получить ( ) Сделаем замены переменных ( ) получим с учетом ( ): ( ) Поскольку случайные отклонения vt удовлетворяют предпосылкам МНК, оценки а* и b будут обладать свойствами наилучших линейных несмещенных оценок. По преобразованным значениям всех переменных с помощью обычного МНК вычисляются оценки параметров а* и b, которые затем можно использовать в регрессии (). Однако способ вычисления преобразованных переменных ( ) приводит к потере первого наблюдения, если нет информации о предшествующих наблюдениях. Это уменьшает на единицу число степеней свободы, что при больших выборках не очень существенно, однако при малых выборках приводит к потере эффективности. Тогда первое наблюдение восстанавливается с помощью поправки Прайса – Уинстена: ( ) Авторегрессионное преобразование может быть обобщено на произвольное число объясняющих переменных, т.е. использовано для уравнения множественной регрессии. Для преобразования AR(1) важно оценить коэффициент автокорреляции ρ. Это делается несколькими способами. Самое простое – оценить ρ на основе статистики DW: ( ) где r берется в качестве оценки ρ. Этот метод хорошо работает при большом числе наблюдений. Существуют и другие методы оценивания ρ, например, метод Кокрена – Оркатта и метод Хилдрета – Лу. Они являются итерационными, однако рассмотрение их выходит за рамки данного конспекта лекций. В случае, когда есть основания считать, что автокорреляция отклонений очень велика, можно использовать метод первых разностей. В частности, при высокой положительной автокорреляции полагают ρ=1, и уравнение ( ) принимает вид или , ( ) где . Из уравнения ( ) по МНК оценивается коэффициент b. Параметр а здесь не определяется непосредственно, однако из МНК известно, что . В случае ρ=-1, сложив ( ) и ( ) с учетом ( ), получаем уравнение регрессии: или . Фиктивные переменные в регрессионных моделях В регрессионных моделях наряду с количественными переменными часто используются качественные переменные, которые выражаются в виде фиктивных (искусственных) переменных, отражающих два противоположных состояния качественного фактора. Например, D=0, если потребитель не имеет высшего образования, D=1, если потребитель имеет высшее образование. Переменная D называется фиктивной, или двоичной переменной, а также индикатором. Таким образом, кроме моделей, содержащих только количественные переменные, в регрессионном анализе рассматриваются также модели, содержащие лишь качественные переменные (обозначаемые Di), либо те и другие одновременно. Регрессионные модели, содержащие лишь качественные объясняющие переменные, называются ANOVA – моделями (моделями дисперсионного анализа). Например, зависимость начальной заработной платы от образования может быть записана так: , где D=0, если претендент на рабочее место не имеет высшего образования, D=1, если имеет. Тогда при отсутствии высшего образования начальная заработная плата равна: а при его наличии При этом параметр а определяет среднюю начальную заработную плату при отсутствии высшего образования. Коэффициент g показывает, на какую величину отличаются средние начальные заработные платы при наличии и при отсутствии высшего образования у претендента. Проверяя статистическую значимость коэффициента g с помощью t – статистики, можно определить, влияет или нет наличие высшего образования на начальную заработную плату. Нетрудно заметить, что ANOVA – модели представляют собой кусочно – постоянные функции. Такие модели в экономике крайне редки. Гораздо чаще встречаются модели, содержащие как количественные, так и качественные переменные. Такие модели называются ANCOVA – моделями (моделями ковариационного анализа). Сначала рассмотрим простую модель заработной платы сотрудника фирмы в зависимости от стажа работы х и пола сотрудника D: ( ) где Тогда для женщин ожидаемое значение заработной платы будет а для мужчин - : Эти зависимости являются линейными относительно стажа работы х и различаются только величиной свободного члена. Если коэффициент g является статистически значимым, то можно сделать вывод, что в фирме имеет место дискриминация в заработной плате по половому признаку. При g>0 она будет в пользу мужчин, при g<0 – в пользу женщин. На графике такие зависимости изображаются параллельными прямыми. В случае, когда качественная переменная принимает на два, а большее число значений, может возникнуть ситуация, которая называется ловушкой фиктивной переменной. Она возникает, когда для моделирования k значений качественного признака используется ровно k бинарных (фиктивных) переменных. В этом случае одна из таких переменных линейно выражается через все остальные, и матрица значений переменных становится вырожденной. Тогда исследователь попадает в ситуацию совершенной мультиколлинеарности. Избежать подобной ловушки позволяет правило: • если качественная переменная имеет k альтернативных значений, то при моделировании используется только (k-1) фиктивных переменных. Например, если качественная переменная имеет 3 уровня, то для моделирования достаточно двух фиктивных переменных D1 и D2. Тогда для обозначения третьего уровня достаточно принять, например, обе переменные равными нулю: D1=D2=0. В частности, для обозначения уровня экономического развития страны (развитая, развивающаяся или страна «третьего мира») можно использовать обозначения: Тогда D1=D2=0 означает страну «третьего мира». Нулевой уровень качественной переменной называется базовым или сравнительным. Кроме того, значения фиктивных переменных можно изменять на противоположные. Суть модели от этого не изменится. Изменится только знак коэффициента g в модели ( ).