Эконометрика

ЭКОНОМЕТРИКА Лекции Автор: Сухарева Е.В. Содержание: 1. Введение в эконометрику 2. Парная регрессия и корреляция 3. Линейная модель парной регрессии и корреляции 4. Нелинейные модели парной регрессии и корреляции 5. Множественная регрессия и корреляция. Спецификация модели. Отбор факторов при построении уравнения множественной регрессии 6. Метод наименьших квадратов (МНК). Свойства оценок на основе МНК 7. Проверка существенности факторов и показатели качества регрессии 8. Линейные регрессионные модели с гетероскедастичными остатками 9. Обобщенный метод наименьших квадратов (ОМНК) 10. Регрессионные модели с переменной структурой (фиктивные переменные) 11. Системы эконометрических уравнений. Структурная и приведенная формы модели 12. Проблема идентификации 13. Методы оценки параметров структурной формы модели 14. Временные ряды 15. Автокорреляция уровней временного ряда 16. Моделирование тенденции временного ряда 17. Моделирование сезонных колебаний 18. Автокорреляция в остатках. Критерий Дарбина-Уотсона Приложение. Математико-статистические таблицы Литература 2 Лекция 1. Введение в эконометрику Эконометрика – одна из базовых дисциплин экономического образования во всем мире. Однако до недавнего времени она не была признана в СССР и России. Это было связано с тем, что из трех основных составляющих эконометрики – экономической теории, экономической статистики и математики – две первые были представлены в нашей стране неудовлетворительно. Но теперь ситуация изменилась коренным образом. Существуют различные варианты определения эконометрики: 1) расширенные, при которых к эконометрике относят все, что связано с измерениями в экономике; 2) узко инструментально ориентированные, при которых понимают определенный набор математико-статистических средств, позволяющих верифицировать модельные соотношения между анализируемыми экономическими показателями. Наиболее точно объяснил сущность эконометрики один из основателей этой науки Р.Фриш, который и ввел этот название в 1926 г.: «Эконометрика – это не то же самое, что экономическая статистика. Она не идентична и тому, что мы называем экономической теорией, хотя значительная часть этой теории носит количественный характер. Эконометрика не является синонимом приложений математики к экономике. Как показывает опыт, каждая из трех отправных точек – статистика, экономическая теория и математика – необходимое, но не достаточное условие для понимания количественных соотношений в современной экономической жизни. Это единство всех трех составляющих. И это единство образует эконометрику»1. Эконометрика – это самостоятельная научная дисциплина, объединяющая совокупность теоретических результатов, приемов, методов и моделей, предназначенных для того, чтобы на базе экономической теории, экономической статистики и экономических 1 Frisch R. Editorial. Econometrica. – 1933. – № 1. – P. 2. 3 измерений, математико- статистического инструментария придавать конкретное количественное выражение общим (качественным) закономерностям, обусловленным экономической теорией. Эконометрический метод складывался в преодолении следующих трудностей, искажающих результаты применения классических статистических методов (сущность новых терминов будет раскрыта в дальнейшем): 1. асимметричности связей; 2. мультиколлинеарности связей; 3. эффекта гетероскедастичности; 4. автокорреляции; 5. ложной корреляции; 6. наличия лагов. Для описания сущности эконометрической модели удобно разбить весь процесс моделирования на шесть основных этапов2: 1-й этап (постановочный) – определение конечных целей моделирования, набора участвующих в модели факторов и показателей, их роли; 2-й этап (априорный) – предмодельный анализ экономической сущности изучаемого явления, формирование и формализация априорной информации, в частности, относящейся к природе и генезису исходных статистических данных и случайных остаточных составляющих; 3-й этап (параметризация) – собственно моделирование, т.е. выбор общего вида модели, в том числе состава и формы входящих в нее связей; 4-й этап (информационный) – сбор необходимой статистической информации, т.е. регистрация значений участвующих в модели факторов и показателей на различных временных или пространственных тактах функционирования изучаемого явления; 2 Подробнее см. [9], с. 31-37. 4 5-й этап (идентификация модели) – статистический анализ модели и в первую очередь статистическое оценивание неизвестных параметров модели; 6-й этап (верификация модели) – сопоставление реальных и модельных данных, проверка адекватности модели, оценка точности модельных данных. Эконометрическое моделирование реальных социально-экономических процессов и систем обычно преследует два типа конечных прикладных целей (или одну из них): 1) прогноз экономических и социально-экономических показателей, характеризующих состояние и развитие анализируемой системы; 2) имитацию различных возможных сценариев социальноэкономического развития анализируемой системы (многовариантные сценарные расчеты, ситуационное моделирование). При постановке задач эконометрического моделирования следует определить их иерархический уровень и профиль. Анализируемые задачи могут относиться к макро- (страна, межстрановой анализ), мезо- (регионы внутри страны) и микро- (предприятия, фирмы, семьи) уровням и быть направленными на решение вопросов различного профиля инвестиционной, финансовой или социальной политики, ценообразования, распределительных отношений и т.п. Лекция 2. Парная регрессия и корреляция Парная регрессия представляет собой регрессию между двумя переменными – y и x , т. е. модель вида: y  f  x , где y – зависимая переменная (результативный признак); x – независимая, или объясняющая, переменная (признак-фактор). Знак «^» означает, что между переменными x и y нет строгой функциональной зависимости, поэтому практически в каждом отдельном случае величина y складывается из двух слагаемых: 5 y  yx   , где y – фактическое значение результативного признака; y x – теоретическое значение результативного признака, найденное исходя из уравнения регрессии;  – случайная величина, характеризующая отклонения реального значения результативного признака от теоретического, найденного по уравнению регрессии. Случайная величина  называется также возмущением. Она включает влияние не учтенных в модели факторов, случайных ошибок и особенностей измерения. Ее присутствие в модели порождено тремя источниками: спецификацией модели, выборочным характером исходных данных, особенностями измерения переменных. От правильно выбранной спецификации модели зависит величина случайных ошибок: они тем меньше, чем в большей мере теоретические значения результативного признака y x , подходят к фактическим данным y . К ошибкам спецификации относятся неправильный выбор той или иной математической функции для y x и недоучет в уравнении регрессии какого-либо существенного фактора, т. е. использование парной регрессии вместо множественной. Наряду с ошибками спецификации могут иметь место ошибки выборки, которые имеют место в силу неоднородности данных в исходной статистической совокупности, что, как правило, бывает при изучении экономических процессов. Если совокупность неоднородна, то уравнение регрессии не имеет практического смысла. Для получения хорошего результата обычно исключают из совокупности единицы с аномальными значениями исследуемых признаков. И в этом случае результаты регрессии представляют собой выборочные характеристики. 6 Использование временной информации также представляет собой выборку из всего множества хронологических дат. Изменив временной интервал, можно получить другие результаты регрессии. Наибольшую опасность в практическом использовании методов регрессии представляют ошибки измерения. Если ошибки спецификации можно уменьшить, изменяя форму модели (вид математической формулы), а ошибки выборки – увеличивая объем исходных данных, то ошибки измерения практически сводят на нет все усилия по количественной оценке связи между признаками. Особенно велика роль ошибок измерения при исследовании на макроуровне. Так, в исследованиях спроса и потребления в качестве объясняющей переменной широко используется «доход на душу населения». Вместе с тем, статистическое измерение величины дохода сопряжено с рядом трудностей и не лишено возможных ошибок, например, в результате наличия скрытых доходов. Предполагая, что ошибки измерения сведены к минимуму, основное внимание в эконометрических исследованиях уделяется ошибкам спецификации модели. В парной регрессии выбор вида математической функции y x  f  x  может быть осуществлен тремя методами: 1) графическим; 2) аналитическим, т.е. исходя из теории изучаемой взаимосвязи; 3) экспериментальным. При изучении зависимости между двумя признаками графический метод подбора вида уравнения регрессии достаточно нагляден. Он основан на поле корреляции. Основные типы кривых, количественной оценке связей, представлены на рис. 1.1: 7 используемые при yx  a  b  x y x  a  b  x  c  x2 yx  a  b x y x  a  b  x  c  x 2  d  x3 8 y x  a  xb y x  a  bx Рис. 1.1. Основные типы кривых, используемые при количественной оценке связей между двумя переменными. Значительный интерес представляет аналитический метод выбора типа уравнения регрессии. Он основан на изучении материальной природы связи исследуемых признаков. При обработке информации на компьютере выбор вида уравнения регрессии обычно осуществляется экспериментальным методом, т. е. путем сравнения величины остаточной дисперсии 2  ост , рассчитанной при разных моделях. Если уравнение регрессии проходит через все точки корреляционного поля, что возможно только при функциональной связи, когда все точки лежат на линии регрессии y x  f  x  , то фактические значения результативного признака совпадают с теоретическими y  y x , т.е. они полностью обусловлены влиянием фактора x . В этом случае остаточная дисперсия 2  ост  0. В практических исследованиях, как правило, имеет место некоторое рассеяние точек относительно линии регрессии. Оно обусловлено влиянием прочих, не учитываемых в уравнении регрессии, факторов. Иными словами, имеют место отклонения фактических данных от теоретических  y  y . x Величина этих отклонений и лежит в основе расчета остаточной дисперсии: 2  ост   1  y  yx n . 2 Чем меньше величина остаточной дисперсии, тем меньше влияние не учитываемых в уравнении регрессии факторов и тем лучше уравнение регрессии подходит к исходным данным. Считается, что число наблюдений должно в 7-8 раз превышать число рассчитываемых параметров при переменной x . Это означает, что искать 9 линейную регрессию, имея менее 7 наблюдений, вообще не имеет смысла. Если вид функции усложняется, то требуется увеличение объема наблюдений, ибо каждый параметр при x должен рассчитываться хотя бы по 7 наблюдениям. Значит, если мы выбираем параболу второй степени y x  a  b  x  c  x 2 , то требуется объем информации уже не менее 14 наблюдений. Лекция 3. Линейная модель парной регрессии и корреляции Рассмотрим простейшую модель парной регрессии – линейную регрессию. Линейная регрессия находит широкое применение в эконометрике ввиду четкой экономической интерпретации ее параметров. Линейная регрессия сводится к нахождению уравнения вида y x  a  b  x или y  a  b  x   . (1.1) Уравнение вида y x  a  b  x позволяет по заданным значениям фактора x находить теоретические значения результативного признака, подставляя в него фактические значения фактора x . Построение линейной регрессии сводится к оценке ее параметров – a и b . Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров a и b , при которых сумма квадратов отклонений фактических значений результативного признака y от теоретических y x минимальна:  y  y n i 1 i    2 xi n i 1 2 i  min . (1.2) Т.е. из всего множества линий линия регрессии на графике выбирается так, чтобы сумма квадратов расстояний по вертикали между точками и этой линией была бы минимальной (рис. 1.2): 10 Рис. 1.2. Линия регрессии с минимальной дисперсией остатков. Как известно из курса математического анализа, чтобы найти минимум функции (1.2), надо вычислить частные производные по каждому из параметров a и b и приравнять их к нулю. Обозначим  2 i через S  a, b  , i тогда: S  a, b     y  a  b  x  . 2  S  a  2  y  a  b  x   0;   S  2 x  y  a  b  x   0.  b (1.3) После несложных преобразований, получим следующую систему линейных уравнений для оценки параметров a и b : a  n  b   x   y;  2 a   x  b   x   x  y. (1.4) Решая систему уравнений (1.4), найдем искомые оценки параметров a и b . Можно воспользоваться следующими готовыми формулами, которые следуют непосредственно из решения системы (1.4): 11 a  y b x , b cov  x, y   2 x , (1.5) ______ где cov  x, y   y  x  y  x – ковариация признаков x и y , ____ 2   x  x2 – 2 x дисперсия признака x и ____ ______ 1 1 1 1 x   x , y   y , y  x   y  x , x2   x2 . n n n n Ковариация – числовая характеристика совместного распределения двух случайных величин, равная математическому ожиданию произведения отклонений этих случайных величин от их математических ожиданий. Дисперсия – характеристика случайной величины, определяемая как математическое ожидание квадрата отклонения случайной величины от ее математического произведений ожидания. значений Математическое случайной величины ожидание на – сумма соответствующие вероятности3. Параметр b называется коэффициентом регрессии. Его величина показывает среднее изменение результата с изменением фактора на одну единицу. Возможность четкой экономической интерпретации коэффициента регрессии сделала линейное уравнение регрессии достаточно распространенным в эконометрических исследованиях. Формально a – значение y при x  0 . Если признак-фактор x не может иметь нулевого значения, то вышеуказанная трактовка свободного члена a не имеет смысла, т.е. параметр a может не иметь экономического содержания. Уравнение регрессии всегда дополняется показателем тесноты связи. При использовании линейной регрессии в качестве такого показателя 3 Более подробно смотри Приложение A. 12 выступает линейный коэффициент корреляции rxy , который можно рассчитать по следующим формулам: rxy  b  Линейный  x cov  x, y  .  y  x  y коэффициент (1.6) корреляции находится в пределах: 1  rxy  1. Чем ближе абсолютное значение rxy к единице, тем сильнее линейная связь между факторами (при rxy  1 имеем строгую функциональную зависимость). Но следует иметь в виду, что близость абсолютной величины линейного коэффициента корреляции к нулю еще не означает отсутствия связи между признаками. При другой (нелинейной) спецификации модели связь между признаками может оказаться достаточно тесной. Для оценки качества подбора линейной функции рассчитывается квадрат линейного коэффициента корреляции rxy2 , называемый коэффициентом детерминации. Коэффициент детерминации характеризует долю дисперсии результативного признака y , объясняемую регрессией, в общей дисперсии результативного признака: 2  ост r  1 2 , y 2 xy где  2 ост  1   y  yx n  , 2 (1.7) 2 y  1 2 y  y  y2  y 2 .    n Соответственно величина 1  rxy характеризует долю дисперсии y , 2 вызванную влиянием остальных, не учтенных в модели, факторов. После того как найдено уравнение линейной регрессии, проводится оценка значимости как уравнения в целом, так и отдельных его параметров. Проверить значимость уравнения регрессии – значит установить, соответствует ли математическая модель, выражающая зависимость между переменными, экспериментальным данным и достаточно ли включенных в 13 уравнение объясняющих переменных (одной или нескольких) для описания зависимой переменной. Чтобы иметь общее суждение о качестве модели из относительных отклонений по каждому наблюдению, определяют среднюю ошибку аппроксимации: A y  yx 1 100% .  n y (1.8) Средняя ошибка аппроксимации не должна превышать 8–10%. Оценка значимости уравнения регрессии в целом производится на основе F -критерия Фишера, которому предшествует дисперсионный анализ. В математической статистике дисперсионный анализ рассматривается как самостоятельный инструмент статистического анализа. В эконометрике он применяется как вспомогательное средство для изучения качества регрессионной модели. Согласно основной идее дисперсионного анализа, общая сумма квадратов отклонений переменной y от среднего значения y раскладывается на две части – «объясненную» и «необъясненную»:  y  y    y 2 где  y  y  2 x y    y  y  , 2 2 x – общая сумма квадратов отклонений;  yx  y  2 – сумма квадратов отклонений, объясненная регрессией (или факторная сумма квадратов отклонений);  y  yx  2 – остаточная сумма квадратов отклонений, характеризующая влияние неучтенных в модели факторов. Схема дисперсионного анализа имеет вид, представленный в таблице 1.1 ( n – число наблюдений, m – число параметров при переменной x ). Таблица 1.1 Компоненты дисперсии Сумма квадратов Число степеней свободы 14 Дисперсия на одну степень свободы  y  y  Общая  y Факторная x y  y  y Остаточная x n 1 2   2 Sобщ  y  y   2 m 2 n  m 1 2 Sфакт  S 2 ост   n 1 yx  y m  y  y x 2   2 2 n  m 1 Определение дисперсии на одну степень свободы приводит дисперсии к сравнимому виду. Сопоставляя факторную и остаточную дисперсии в расчете на одну степень свободы, получим величину F -критерия Фишера: 2 Sфакт F 2 Sост . (1.9) Фактическое значение F -критерия Фишера (1.9) сравнивается с табличным значением Fтабл  ; k1 ; k2  при уровне значимости  и степенях свободы k1  m и k2  n  m  1. При этом, если фактическое значение F критерия больше табличного, то признается статистическая значимость уравнения в целом. Для парной линейной регрессии m  1, поэтому  y  y    n  2 .  y  y  2 F S 2 факт 2 ост S  x 2 (1.10) x 2 Величина F -критерия связана с коэффициентом детерминации rxy , и ее можно рассчитать по следующей формуле: F rxy2 1  rxy2   n  2 . (1.11) В парной линейной регрессии оценивается значимость не только уравнения в целом, но и отдельных его параметров. С этой целью по каждому из параметров определяется его стандартная ошибка: mb и ma . 15 Стандартная ошибка коэффициента регрессии определяется по формуле: 2 Sост mb  где Sост  2   x  x  y  yx n2 Величина  2 Sост x  n , (1.12) 2 – остаточная дисперсия на одну степень свободы. стандартной Стьюдента при  ошибки совместно с t -распределением n  2 степенях свободы применяется для проверки существенности коэффициента регрессии и для расчета его доверительного интервала. Для оценки существенности коэффициента регрессии его величина сравнивается с его стандартной ошибкой, т.е. определяется фактическое значение t -критерия Стьюдента: tb  b которое затем сравнивается с mb табличным значением при определенном уровне значимости степеней свободы  n  2 .  и числе Доверительный интервал для коэффициента регрессии определяется как b  tтабл  mb . Поскольку знак коэффициента регрессии указывает на рост результативного признака y при увеличении признака-фактора x ( b  0 ), уменьшение результативного признака при увеличении признака-фактора ( b  0 ) или его независимость от независимой переменной ( b  0 ) (см. рис. 1.3), то границы доверительного интервала для коэффициента регрессии не должны содержать противоречивых результатов, например, 1,5  b  0,8 . Такого рода запись указывает, что истинное значение коэффициента регрессии одновременно содержит положительные и отрицательные величины и даже ноль, чего не может быть. 16 Рис. 1.3. Наклон линии регрессии в зависимости от значения параметра b . Стандартная ошибка параметра a определяется по формуле: x  n   x  x  2 2 ma  Sост Процедура отличается от оценивания  Sост  выше для 2 x n существенности рассмотренной Вычисляется t -критерий: ta  2 x . данного (1.13) параметра коэффициента не регрессии. a , его величина сравнивается с табличным ma значением при n  2 степенях свободы. Значимость линейного коэффициента корреляции проверяется на основе величины ошибки коэффициента корреляции mr : 1 r2 . mr  n2 Фактическое значение tr  (1.14) t -критерия Стьюдента определяется как r . mr 17 Существует связь между t -критерием Стьюдента и F -критерием Фишера: tb  tr  F . (1.15) В прогнозных расчетах по уравнению регрессии определяется предсказываемое y p значение как точечный прогноз y x при x p  xk , т.е. путем подстановки в уравнение регрессии y x  a  b  x соответствующего значения x . Однако точечный прогноз явно не реален. Поэтому он дополняется расчетом стандартной ошибки y p , т.е. m y , и соответственно p интервальной оценкой прогнозного значения y p : y p  y  y p  y p  y , p где  y  my  tтабл , а p p p my – средняя ошибка прогнозируемого p индивидуального значения: my  Sост  1  p 1  n  xp  x  n   x2 2 . (1.16) Рассмотрим пример. По данным проведенного опроса восьми групп семей известны данные связи расходов населения на продукты питания с уровнем доходов семьи. Таблица 1.2 Расходы на продукты питания, y , тыс. руб. Доходы семьи, x , тыс. руб. 0,9 1,2 1,8 2,2 2,6 2,9 3,3 3,8 1,2 3,1 5,3 7,4 9,6 11,8 14,5 18,7 Предположим, что связь между доходами семьи и расходами на продукты питания линейная. Для подтверждения нашего предположения построим поле корреляции. 18 Рис. 1.4. По графику видно, что точки выстраиваются в некоторую прямую линию. Для удобства дальнейших вычислений составим таблицу. Таблица 1.3 1 1 2 3 4 5 6 7 8 Итого Среднее значение  2 x y x y x 2 1,2 3,1 5,3 7,4 9,6 11,8 14,5 18,7 71,6 3 0,9 1,2 1,8 2,2 2,6 2,9 3,3 3,8 18,7 4 1,08 3,72 9,54 16,28 24,96 34,22 47,85 71,06 208,71 8,95 2,34 5,53 0,935 30,56 0,874 Рассчитаем  y  yx  2 y2 yx y  yx 5 1,44 9,61 28,09 54,76 92,16 139,24 210,25 349,69 885,24 6 0,81 1,44 3,24 4,84 6,76 8,41 10,89 14,44 50,83 7 1,038 1,357 1,726 2,079 2,449 2,818 3,272 3,978 18,717 8 –0,138 –0,157 0,074 0,121 0,151 0,082 0,028 –0,178 –0,017 9 0,0190 0,0246 0,0055 0,0146 0,0228 0,0067 0,0008 0,0317 0,1257 10 15,33 13,08 4,11 5,50 5,81 2,83 0,85 4,68 52,19 26,09 110,66 6,35 2,34 – 0,0157 6,52 – – – – – – – – – – – – – – уравнения парной параметры 2 линейного y x  a  b  x . Для этого воспользуемся формулами (1.5): 19 Ai , % регрессии b cov  x, y   x2  x y  x  y x2  x 2  26,09  8,95  2,34  0,168 ; 30,56 a  y  b  x  2,34  0,168  8,95  0,836 . Получили уравнение: y x  0,836  0,168  x . Т.е. с увеличением дохода семьи на 1000 руб. расходы на питание увеличиваются на 168 руб. Как было указано выше, уравнение линейной регрессии всегда дополняется показателем тесноты связи – линейным коэффициентом корреляции rxy : rxy  b  x 5,53  0,168   0,994 . y 0,935 Близость коэффициента корреляции к 1 указывает на тесную линейную связь между признаками. Коэффициент детерминации rxy  0,987 (примерно тот же результат 2 получим, если воспользуемся формулой (1.7)) показывает, что уравнением регрессии объясняется 98,7% дисперсии результативного признака, а на долю прочих факторов приходится лишь 1,3%. Оценим качество уравнения регрессии в целом с помощью F -критерия Фишера. Сосчитаем фактическое значение F -критерия: F rxy2 1 r 2 xy   n  2  0,987  6  455,54 . 1  0,987 Табличное значение ( k1  1 , k2  n  2  6 ,   0,05 ): Fтабл  5,99 . Так как Fфакт  Fтабл , то признается статистическая значимость уравнения в целом. Для оценки статистической значимости коэффициентов регрессии и корреляции рассчитаем t -критерий Стьюдента и доверительные интервалы каждого из показателей. Рассчитаем случайные ошибки параметров 20 линейной регрессии   mb  Sост   S 2   y  yx  ост n2   2 и коэффициента корреляции  0,1257   0, 021 : 82   x  n ma  Sост   0,021  0,0093 , 5,53  8 x 2 x n  0,021  885,24  0,0975 , 5,53  8 1 r2 1  0,987 mr    0,0465 . n2 6 Фактические ta  значения 0,836  8,574 , 0,0975 tr  критерия Стьюдента при t -статистик: 0,994  21,376 . 0,0465 tb  0,168  18,065 , 0,0093 Табличное значение t-   0,05 и числе степеней свободы   n  2  6 есть tтабл  2,447 . Так как tb  tтабл , ta  tтабл и tr  tтабл , то признаем статистическую значимость параметров регрессии и показателя тесноты связи. Рассчитаем доверительные интервалы для параметров регрессии a и b: a  t  ma b  t  mb . и Получим, что a  0,597; 1,075 и b  0,145; 0,191 . Средняя ошибка аппроксимации (находим с помощью столбца 10 таблицы 1.3; Ai  yi  y xi yi 100% ) A  6,52% говорит о хорошем качестве уравнения регрессии, т.е. свидетельствует о хорошем подборе модели к исходным данным. 21 И, наконец, найдем прогнозное значение результативного фактора y p при значении признака-фактора, составляющем 110% от среднего уровня x p  1,1 x  1,1 8,95  9,845 , т.е. найдем расходы на питание, если доходы семьи составят 9,85 тыс. руб. y p  0,836  0,168  9,845  2,490 (тыс. руб.) Значит, если доходы семьи составят 9,845 тыс. руб., то расходы на питание будут 2,490 тыс. руб. Найдем доверительный интервал прогноза. Ошибка прогноза  1  9,845  8,95 2  1  xp  x   Sост  1    0,021 1     0,154 ,  8  n n   x2 8  30,56   2 my p а доверительный интервал ( y p   y  y p  y p   y ): p p 2,113  y p  2,867 . Т.е. прогноз является статистически надежным. Теперь на одном графике изобразим исходные данные и линию регрессии: Рис. 1.5. 22 Лекция 4. Нелинейные модели парной регрессии и корреляции Если между экономическими явлениями существуют нелинейные соотношения, то они выражаются с помощью соответствующих нелинейных функций. Различают два класса нелинейных регрессий: 1. Регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, например – полиномы различных степеней – y x  a  b  x  c  x , 2 y x  a  b  x  c  x 2  d  x3 ; – равносторонняя гипербола – y x  a  b x ; – полулогарифмическая функция – y x  a  b  ln x . 2. Регрессии, нелинейные по оцениваемым параметрам, например – степенная – y x  a  x ; b – показательная – y x  a  b ; x – экспоненциальная – y x  e a bx . Регрессии нелинейные по включенным переменным приводятся к линейному виду простой заменой переменных, а дальнейшая оценка параметров производится с помощью метода наименьших квадратов. Рассмотрим некоторые функции. Парабола второй степени y x  a  b  x  c  x2 приводится к линейному виду с помощью замены: x  x1 , x  x2 . В результате приходим 2 к двухфакторному уравнению y x  a  b  x1  c  x2 , оценка параметров которого при помощи МНК, как будет показано в параграфе 2.2 приводит к системе следующих нормальных уравнений: 23 a  n  b   x1  c   x2   y;  2  c   x1  x2   x1  y; a   x1  b   x1  2   x2  y. a   x2  b   x1  x2  c   x2 А после обратной замены переменных получим a  n  b   x  c   x 2   y;  2 3  a   x  b   x  c   x   x  y;  2 3 4 2 a   x  b   x  c   x   x  y. (1.17) Парабола второй степени обычно применяется в случаях, когда для определенного интервала значений фактора меняется характер связи рассматриваемых признаков: прямая связь меняется на обратную или обратная на прямую. Равносторонняя гипербола y x  a  b x может быть использована для характеристики связи удельных расходов сырья, материалов, топлива от объема выпускаемой продукции, времени обращения товаров от величины товарооборота, процента прироста заработной платы от уровня безработицы (например, кривая А.В. Филлипса), расходов на непродовольственные товары от доходов или общей суммы расходов (например, кривые Э. Энгеля) и в других случаях. Гипербола приводится к линейному уравнению простой заменой: z  1 . Система линейных уравнений при применении МНК будет x выглядеть следующим образом: 1  a  n  b   x   y;   a   1  b   1   1  y.  x x2 x (1.18) Аналогичным образом приводятся к линейному виду зависимости y x  a  b  ln x , y x  a  b  x и другие. 24 Несколько иначе обстоит дело с регрессиями нелинейными по оцениваемым параметрам, которые делятся на два типа: нелинейные модели внутренне линейные соответствующих (приводятся к преобразований, нелинейные модели линейному например, виду с помощью логарифмированием) внутренне нелинейные (к и линейному виду не приводятся). К внутренне линейным моделям относятся, например, степенная функция – y x  a  x , показательная – y x  a  b , экспоненциальная – b x y x  eabx , логистическая – y x  a 1 , обратная – . y  x 1  b  e cx a b x К внутренне нелинейным моделям можно, например, отнести   следующие модели: y x  a  b  x , y x  a  1  c 1  . 1  xb  Среди нелинейных моделей наиболее часто используется степенная функция y  a  xb   , которая приводится к линейному виду логарифмированием: ln y  ln  a  xb    ; ln y  ln a  b  ln x  ln  ; Y  A  b  X  , где Y  ln y, X  ln x, A  ln a,   ln  . Т.е. МНК мы применяем для преобразованных данных:   b   X  Y , A n  2 A  X  b  X   X Y ,     а затем потенцированием находим искомое уравнение. Широкое использование степенной функции связано с тем, что параметр b в ней имеет четкое экономическое истолкование – он является коэффициентом эластичности. (Коэффициент эластичности показывает, на 25 сколько процентов измениться в среднем результат, если фактор изменится на 1%.) Формула для расчета коэффициента эластичности имеет вид: x Э  f  x   . y (1.19) Так как для остальных функций коэффициент эластичности не является постоянной величиной, а зависит от соответствующего значения фактора x , то обычно рассчитывается средний коэффициент эластичности: Э  f  x   x . y (1.20) Приведем формулы для расчета средних коэффициентов эластичности для наиболее часто используемых типов уравнений регрессии: Таблица 1.5 Вид функции, y Первая производная, y 1 2 y  a b x  b y  a  b  x  c  x2   b  2c  x b  x y  a  xb   y  a  bx   b x2 a  b  xb1 a  ln b  b x b x a  b  c  e  cx ya y  a  b  ln x   b x a b x  b  2c  x   x  y a 1  b  e cx 1  b  e  y 1 a b x    cx 2 b a  b  x 26 Средний коэффициент эластичности, Э 3 2 a b x  c x2 b  ax b b x  ln b b a  b  ln x bc x b  ecx  b x a b x Возможны случаи, когда расчет коэффициента эластичности не имеет смысла. Это происходит тогда, когда для рассматриваемых признаков бессмысленно определение изменения в процентах. Уравнение нелинейной регрессии, так же, как и в случае линейной зависимости, дополняется показателем тесноты связи. В данном случае это индекс корреляции: 2  ост  xy  1  2 , y 1 2  y  y  – общая дисперсия результативного признака y ,  n где  y2   1   y  yx n 2 ост (1.21)   2 – остаточная дисперсия. Величина данного показателя находится в пределах: 0   xy  1 . Чем ближе значение индекса корреляции к единице, тем теснее связь рассматриваемых признаков, тем более надежно уравнение регрессии. Квадрат индекса корреляции носит название индекса детерминации и характеризует долю дисперсии результативного признака y , объясняемую регрессией, в общей дисперсии результативного признака: 2 2  ост  объясн ,   1 2  y  y2 2 xy т.е. имеет 2  объясн  тот  1  yx  y n же смысл, (1.22) что и в линейной регрессии; . 2 Индекс детерминации  xy2 можно сравнивать с коэффициентом 2 детерминации rxy для обоснования возможности применения линейной 2 функции. Чем больше кривизна линии регрессии, тем величина rxy меньше  xy2 . А близость этих показателей указывает на то, что нет необходимости усложнять форму уравнения регрессии и можно использовать линейную функцию. 27 Индекс детерминации используется для проверки существенности в целом уравнения регрессии по F -критерию Фишера:  xy2 n  m 1 , F  1   xy2 m (1.23)  xy2 – индекс детерминации, n – число наблюдений, m – число где параметров при переменной x . Фактическое значение F -критерия (1.23) сравнивается с табличным при уровне значимости  и числе степеней свободы k2  n  m  1 (для остаточной суммы квадратов) и k1  m (для факторной суммы квадратов). О качестве нелинейного уравнения регрессии можно также судить и по средней ошибке аппроксимации, которая, так же как и в линейном случае, вычисляется по формуле (1.8). Рассмотрим пример из параграфа 1.1, предположив, что связь между признаками носит нелинейный характер, и найдем параметры следующих нелинейных уравнений: y  a  b  ln x   , y  a b x  и y  a  xb   . Для нахождения параметров регрессии y x  a  b  ln x делаем замену z  ln x и составляем вспомогательную таблицу (   y  y x ). Таблица 1.5 x y z y 4 5 z2 6 y2 7 yx 8  9 2 10 11 Ai 1 2 z 3 1 2 3 4 5 6 7 8 Итого Среднее значение 1,2 3,1 5,3 7,4 9,6 11,8 14,5 18,7 71,6 0,182 1,131 1,668 2,001 2,262 2,468 2,674 2,929 15,315 0,9 1,2 1,8 2,2 2,6 2,9 3,3 3,8 18,7 0,164 1,358 3,002 4,403 5,881 7,157 8,825 11,128 41,918 0,033 1,280 2,781 4,006 5,116 6,092 7,151 8,576 35,035 0,81 1,44 3,24 4,84 6,76 8,41 10,89 14,44 50,83 0,499 1,508 2,078 2,433 2,709 2,929 3,148 3,418 18,720 0,401 -0,308 -0,278 -0,233 -0,109 -0,029 0,152 0,382 -0,020 0,1610 0,0947 0,0772 0,0541 0,0119 0,0008 0,0232 0,1459 0,5688 44,58 25,64 15,43 10,57 4,20 0,99 4,62 10,05 116,08 8,95 1,914 2,34 5,240 4,379 6,35 – – 0,0711 14,51 – – 0,846 0,716 0,935 0,874 – – – – – – – – – – – – – –  2 28 Найдем уравнение регрессии: b cov  z, y   z2  5,240  1,914  2,34  1,063 , 0,716 a  y  b  z  2,34  1,063 1,914  0,305 . Т.е. получаем следующее уравнение регрессии: y x  0,305  1,063  ln x . Теперь заполняем столбцы 8-11 нашей таблицы. Индекс корреляции находим по формуле (1.21): 2  ост 0,0711  xy  1  2  1   0,958 , y 0,874 а индекс детерминации  xy2  0,918 , который показывает, что 91,8% вариации результативного признака объясняется вариацией признакафактора, а 8,2% приходится на долю прочих факторов. Средняя ошибка аппроксимации: A  14,51% , что недопустимо велико. F -критерий Фишера:  xy2 n  m 1 0,919 8  1  1 F     68,07 , 1   xy2 m 1  0,919 1 значительно превышает табличное Fтабл  5,99 . Изобразим на графике исходные данные и линию регрессии: 29 Рис. 1.6. Для нахождения параметров регрессии y x  a  b  x делаем замену z  x и составляем вспомогательную таблицу (   y  y x ). Таблица 1.6 x z 3 y z y 4 5 z2 6 y2 7 yx 8  9 2 10 11 0,9 1,2 1,8 2,2 2,6 2,9 3,3 3,8 0,99 2,11 4,14 5,98 8,06 9,96 12,57 16,43 1,2 3,1 5,3 7,4 9,6 11,8 14,5 18,7 0,81 1,44 3,24 4,84 6,76 8,41 10,89 14,44 0,734 1,353 1,857 2,247 2,599 2,912 3,259 3,740 0,166 -0,153 -0,057 -0,047 0,001 -0,012 0,041 0,060 0,0276 0,0235 0,0033 0,0022 0,0000 0,0001 0,0017 0,0036 18,46 12,77 3,19 2,12 0,05 0,42 1,20 1,58 18,7 60,24 71,6 50,83 18,700 -0,001 0,0619 39,82 Ai 1 2 1 2 3 4 5 6 7 8 1,2 3,1 5,3 7,4 9,6 11,8 14,5 18,7 Итого 71,6 Среднее значение 8,95 2,82 2,34 7,53 8,95 6,35 – – 0,0077 4,98 – – 1,00 1,00 0,935 0,874 – – – – – – – – – – – – – –  2 1,10 1,76 2,30 2,72 3,10 3,44 3,81 4,32 22,5 4 Найдем уравнение регрессии: b cov  z, y   z2  7,53  2,82  2,34  0,931, 1,00 30 a  y  b  z  2,34  0,931 2,82  0,286 . Т.е. получаем следующее уравнение регрессии: y x  0,286  0,931  x . Теперь заполняем столбцы 8-11 нашей таблицы. Индекс корреляции находим по формуле (1.21): 2  ост 0,0077  xy  1  2  1   0,996 , y 0,874 а индекс детерминации  2  0,991 , который показывает, что 99,1% вариации результативного признака объясняется вариацией признакафактора, а 0,9% приходится на долю прочих факторов. Средняя ошибка аппроксимации: A  0,0498 100%  4,98% показывает, что линия регрессии хорошо приближает исходные данные. F -критерий Фишера:  xy2 n  m 1 0,991 8  1  1 F     660,67 , 2 1   xy m 1  0,991 1 значительно превышает табличное Fтабл  5,99 . Изобразим на графике исходные данные и линию регрессии: Рис. 1.7 31 y  a  xb   необходимо Для нахождения параметров регрессии провести ее линеаризацию, как было показано выше: Y  A  b  X  , где Y  ln y, X  ln x, A  ln a,   ln  . Составляем вспомогательную таблицу для преобразованных данных: Таблица 1.7 1 1 2 3 4 5 6 7 8 Итого Среднее значение  2 X 2 Y 3 X Y 4 X2 5 Y2 6 yx 7  8 2 9 10 0,182 1,131 1,668 2,001 2,262 2,468 2,674 2,929 15,315 -0,105 0,182 0,588 0,788 0,956 1,065 1,194 1,335 6,002 -0,019 0,206 0,980 1,578 2,161 2,628 3,193 3,910 14,637 0,033 1,280 2,781 4,006 5,116 6,092 7,151 8,576 35,035 0,011 0,033 0,345 0,622 0,913 1,134 1,425 1,782 6,266 0,8149 1,3747 1,8473 2,2203 2,5627 2,8713 3,2165 3,7004 18,608 0,0851 -0,1747 -0,0473 -0,0203 0,0373 0,0287 0,0835 0,0996 0,0919 0,0072 0,0305 0,0022 0,0004 0,0014 0,0008 0,0070 0,0099 0,0595 9,46 14,56 2,63 0,92 1,43 0,99 2,53 2,62 35,14 1,914 0,750 1,830 4,379 0,783 – – 0,0074 4,39 0,846 0,716 0,470 0,221 – – – – – – – – – – – – – – Ai Найдем уравнение регрессии: b cov  X , Y   X2  1,830  1,914  0,750  0,551, 0,716 A  Y  b  X  0,750  0,5511,914  0,305 . Т.е. получаем следующее уравнение регрессии: Y x  0,305  0,551  X . После потенцирования находим искомое уравнение регрессии: y x  0,737  x0,551 . Теперь заполняем столбцы 7-10 нашей таблицы. Индекс корреляции находим по формуле (1.21): 2  ост 0,0074  xy  1  2  1   0,983 , y 0,221 32 а индекс детерминации  2  0,967 , который показывает, что 96,7% вариации результативного признака объясняется вариацией признакафактора, а 3,3% приходится на долю прочих факторов. Средняя ошибка аппроксимации: A  4,39% показывает, что линия регрессии хорошо приближает исходные данные. F -критерий Фишера:  xy2 n  m 1 0,967 8  1  1 F     175,82 , 2 1   xy m 1  0,967 1 значительно превышает табличное Fтабл  5,99 . Изобразим на графике исходные данные и линию регрессии: Рис. 1.8. Сравним построенные модели по индексу детерминации и средней ошибке аппроксимации: 33 Таблица 1.8 Модель Индекс детерминации, R 2 ( rxy2 ,  xy2 ) Средняя ошибка аппроксимации, A , % 0,987 6,52 0,918 14,51 0,991 4,98 0,967 4,39 Линейная модель, yx  a  b  x Полулогарифмическая модель, y x  a  b  ln x Модель с квадратным корнем, y x  a  b  x Степенная модель, y  a  xb   Наиболее хорошо исходные данные аппроксимирует модель с квадратным корнем. Но в данном случае, так как индексы детерминации линейной модели и модели с квадратным корнем отличаются всего на 0,004, то вполне можно обойтись более простой линейной функцией. 34 Лекция 5. Множественная регрессия и корреляция Парная регрессия может дать хороший результат при моделировании, если влиянием других факторов, воздействующих на объект исследования, можно пренебречь. Если же этим влиянием пренебречь нельзя, то в этом случае следует попытаться выявить влияние других факторов, введя их в модель, т.е. построить уравнение множественной регрессии y  f  x1 , x2 , ..., xm  , где y – зависимая переменная (результативный признак), xi – независимые, или объясняющие, переменные (признаки-факторы). Множественная регрессия широко используется в решении проблем спроса, доходности акций, при изучении функции издержек производства, в макроэкономических расчетах и целом ряде других вопросов эконометрики. В настоящее время множественная регрессия – один из наиболее распространенных методов в эконометрике. Основная цель множественной регрессии – построить модель с большим числом факторов, определив при этом влияние каждого из них в отдельности, а также совокупное их воздействие на моделируемый показатель. Спецификация модели. Отбор факторов при построении уравнения множественной регрессии Построение уравнения множественной регрессии начинается с решения вопроса о спецификации модели. Он включает в себя два круга вопросов: отбор факторов и выбор вида уравнения регрессии. Включение в уравнение множественной регрессии того или иного набора факторов связано прежде всего с представлением исследователя о природе взаимосвязи моделируемого показателя с другими экономическими явлениями. Факторы, включаемые во множественную регрессию, должны отвечать следующим требованиям. 35 1. Они должны быть количественно измеримы. Если необходимо включить в модель качественный фактор, не имеющий количественного измерения, то ему нужно придать количественную определенность. 2. Факторы не должны быть интеркоррелированы и тем более находиться в точной функциональной связи. Включение в модель факторов с высокой интеркорреляцией, может привести к нежелательным последствиям – система нормальных уравнений может оказаться плохо обусловленной и повлечь за собой неустойчивость и ненадежность оценок коэффициентов регрессии. Если между факторами существует высокая корреляция, то нельзя определить их изолированное влияние на результативный показатель и параметры уравнения регрессии оказываются неинтерпретируемыми. Включаемые во множественную регрессию факторы должны объяснить вариацию независимой переменной. Если строится модель с набором m факторов, то для нее рассчитывается показатель детерминации R 2 , который фиксирует долю объясненной вариации результативного признака за счет рассматриваемых в регрессии m факторов. Влияние других, не учтенных в модели факторов, оценивается как 1  R с соответствующей 2 2 остаточной дисперсией S . При дополнительном включении в регрессию m  1 фактора коэффициент детерминации должен возрастать, а остаточная дисперсия уменьшаться: Rm2 1  Rm2 и Sm2 1  Sm2 . Если же этого не происходит и данные показатели практически не отличаются друг от друга, то включаемый в анализ фактор xm1 не улучшает модель и практически является лишним фактором. Насыщение модели лишними факторами не только не снижает величину остаточной дисперсии и не увеличивает показатель детерминации, 36 но и приводит к статистической незначимости параметров регрессии по критерию Стьюдента. Таким образом, хотя теоретически регрессионная модель позволяет учесть любое число факторов, практически в этом нет необходимости. Отбор факторов производится на основе качественного теоретико-экономического анализа. Однако теоретический анализ часто не позволяет однозначно ответить на вопрос о количественной взаимосвязи рассматриваемых признаков и целесообразности включения фактора в модель. Поэтому отбор факторов обычно осуществляется в две стадии: на первой подбираются факторы исходя из сущности проблемы; на второй – на основе матрицы показателей корреляции определяют статистики для параметров регрессии. Коэффициенты объясняющими интеркорреляции переменными) (т.е. позволяют корреляции исключать между из модели дублирующие факторы. Считается, что две переменные явно коллинеарны, т.е. находятся между собой в линейной зависимости, если rxi x j  0,7 . Если факторы явно коллинеарны, то они дублируют друг друга и один из них рекомендуется исключить из регрессии. Предпочтение при этом отдается не фактору, более тесно связанному с результатом, а тому фактору, который при достаточно тесной связи с результатом имеет наименьшую тесноту связи с другими факторами. множественной В регрессии этом как требовании метода проявляется исследования специфика комплексного воздействия факторов в условиях их независимости друг от друга. Пусть, например, при изучении зависимости y  f  x1 , x2 , x3  матрица парных коэффициентов корреляции оказалась следующей: Таблица 2.1 y x1 x2 x3 y 1 0,8 0,7 0,6 x1 x2 x3 0,8 1 0,8 0,5 0,7 0,8 1 0,2 0,6 0,5 0,2 1 37 Очевидно, что факторы x1 и x2 дублируют друг друга. В анализ целесообразно включить фактор x2 , а не x1 , хотя корреляция x2 с результатом r yx2 y слабее,  0,7  ryx1  0,8 , но чем корреляция фактора зато значительно слабее x1 с y межфакторная корреляция rx2 x3  0,2  rx1x3  0,5 . Поэтому в данном случае в уравнение множественной регрессии включаются факторы x2 , x3 . По величине парных коэффициентов корреляции обнаруживается лишь явная коллинеарность факторов. Наибольшие трудности в использовании аппарата множественной регрессии возникают при наличии мультиколлинеарности факторов, когда более чем два фактора связаны между собой линейной зависимостью, т.е. имеет место совокупное воздействие факторов друг на друга. Наличие мультиколлинеарности факторов может означать, что некоторые факторы будут всегда действовать в унисон. В результате вариация в исходных данных перестает быть полностью независимой и нельзя оценить воздействие каждого фактора в отдельности. Включение в модель мультиколлинеарных факторов нежелательно в силу следующих последствий: 1. Затрудняется интерпретация параметров множественной регрессии как характеристик действия факторов в «чистом» виде, ибо факторы коррелированы; параметры линейной регрессии теряют экономический смысл. 2. Оценки параметров ненадежны, обнаруживают большие стандартные ошибки и меняются с изменением объема наблюдений (не только по величине, но и по знаку), что делает модель непригодной для анализа и прогнозирования. 38 Для оценки мультиколлинеарности факторов может использоваться определитель матрицы парных коэффициентов корреляции между факторами. Если бы факторы не коррелировали между собой, то матрица парных коэффициентов корреляции между факторами была бы единичной матрицей, поскольку все недиагональные элементы rxi x j i  j  были бы равны нулю. Так, для уравнения, включающего три объясняющих переменных y  a  b1 x1  b2 x2  b3 x3 матрица коэффициентов корреляции между факторами имела бы определитель, равный единице: rx1x1 Det R  rx2 x1 rx3x1 rx1x2 rx2 x2 rx3x2 rx1x3 1 0 0 rx2 x3  0 1 0  1. rx3x3 0 0 1 Если же, наоборот, между факторами существует полная линейная зависимость и все коэффициенты корреляции равны единице, то определитель такой матрицы равен нулю: rx1x1 Det R  rx2 x1 rx3x1 rx1x2 rx2 x2 rx3x2 rx1x3 1 1 1 rx2 x3  1 1 1  0 . rx3x3 1 1 1 Чем ближе к нулю определитель матрицы межфакторной корреляции, тем сильнее мультиколлинеарность факторов и ненадежнее результаты множественной регрессии. И, наоборот, чем ближе к единице определитель матрицы межфакторной корреляции, тем меньше мультиколлинеарность факторов. Существует ряд подходов преодоления сильной межфакторной корреляции. Самый простой путь устранения мультиколлинеарности состоит в исключении из модели одного или нескольких факторов. Другой подход 39 связан с преобразованием факторов, при котором уменьшается корреляция между ними. Одним из путей учета внутренней корреляции факторов является переход к совмещенным уравнениям регрессии, т.е. к уравнениям, которые отражают не только влияние факторов, но и их взаимодействие. Так, если y  f  x1 , x2 , x3  , то возможно построение следующего совмещенного уравнения: y  a  b1 x1  b2 x2  b3 x3  b12 x1 x2  b13 x1x3  b23 x2 x3   . Рассматриваемое уравнение включает взаимодействие первого порядка (взаимодействие двух факторов). Возможно включение в модель и взаимодействий более высокого порядка, если будет доказана их статистическая значимость по F -критерию Фишера, но, как правило, взаимодействия третьего и более высоких порядков оказываются статистически незначимыми. Отбор факторов, включаемых в регрессию, является одним из важнейших этапов практического использования методов регрессии. Подходы к отбору факторов на основе показателей корреляции могут быть разные. Они приводят построение уравнения множественной регрессии соответственно к разным методикам. В зависимости от того, какая методика построения уравнения регрессии принята, меняется алгоритм ее решения на ЭВМ. Наиболее широкое применение получили следующие методы построения уравнения множественной регрессии: 1. Метод исключения – отсев факторов из полного его набора. 2. Метод включения – дополнительное введение фактора. 3. Шаговый регрессионный анализ – исключение ранее введенного фактора. При отборе факторов также рекомендуется пользоваться следующим правилом: число включаемых факторов обычно в 6–7 раз меньше объема 40 совокупности, по которой строится регрессия. Если это соотношение нарушено, то число степеней свободы остаточной дисперсии очень мало. Это приводит к тому, что параметры уравнения регрессии оказываются статистически незначимыми, а F -критерий меньше табличного значения. Лекция 6. Метод наименьших квадратов (МНК). Свойства оценок на основе МНК Возможны разные виды уравнений множественной регрессии: линейные и нелинейные. Ввиду четкой интерпретации параметров наиболее широко используется линейная функция. В линейной множественной регрессии y x  a  b1 x1  b2 x2  ...  bm xm параметры при x называются коэффициентами «чистой» регрессии. Они характеризуют среднее изменение результата с изменением соответствующего фактора на единицу при неизмененном значении других факторов, закрепленных на среднем уровне. Рассмотрим линейную модель множественной регрессии y  a  b1 x1  b2 x2  ...  bm xm   . (2.1) Классический подход к оцениванию параметров линейной модели множественной регрессии основан на методе наименьших квадратов (МНК). МНК позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака y от расчетных y минимальна:  i yi  y xi  2  min . (2.2) Как известно из курса математического анализа, для того чтобы найти экстремум функции нескольких переменных, надо вычислить частные производные первого порядка по каждому из параметров и приравнять их к нулю. Итак. Имеем функцию m  1 аргумента: 41 S  a, b1 , b2 , ..., bm     y  a  b1 x1  b2 x2  ...  bm xm  . 2 Находим частные производные первого порядка:  S  a  2  y  a  b1 x1  b2 x2  ...  bm xm   0;   S  2 x  y  a  b x  b x  ...  b x   0; 1 1 1 2 2 m m  b  1 ........................................................   S  2 x  y  a  b x  b x  ...  b x   0. m 1 1 2 2 m m  bm После элементарных преобразований приходим к системе линейных нормальных уравнений для нахождения параметров линейного уравнения множественной регрессии (2.1): na  b1  x1  b2  x2  ...  bm  xm   y,  2 a  x1  b1  x1  b2  x1 x2  ...  bm  x1 xm   yx1 , (2.3)  ................................................................ 2 a x  b x x  b x x  ...  b x   yxm .     m 1 1 m 2 2 m m m  Для двухфакторной модели данная система будет иметь вид: na  b1  x1  b2  x2   y,  2 a  x1  b1  x1  b2  x1 x2   yx1 ,  2 a  x2  b1  x1 x2  b2  x2   yx2 . Метод наименьших квадратов применим и к уравнению множественной регрессии в стандартизированном масштабе: t y  1t x1   2t x2  ...   mt xm   , где t xi  t y , t x1 , ..., t xm xi  xi  xi – стандартизированные (2.4) переменные: ty  y y y , , для которых среднее значение равно нулю: ty  txi  0 , а 42 среднее квадратическое отклонение равно единице:  t y   txi  1;  i – стандартизированные коэффициенты регрессии. Стандартизованные коэффициенты регрессии показывают, на сколько единиц изменится в среднем результат, если соответствующий фактор xi изменится на одну единицу при неизменном среднем уровне других факторов. В силу того, что все переменные заданы как центрированные и нормированные, стандартизованные коэффициенты регрессии  i можно сравнивать между собой. Сравнивая их друг с другом, можно ранжировать факторы по силе их воздействия на результат. В этом основное достоинство стандартизованных коэффициентов регрессии в отличие от коэффициентов «чистой» регрессии, которые несравнимы между собой. Применяя МНК к уравнению множественной регрессии в стандартизированном масштабе, получим систему нормальных уравнений вида   2 rx1x2   3rx1x3  ...   m rx1xm , ryx1  1    3rx1x3  ...   m rx1xm , ryx2  1rx1x2   2  ........................................................ ryx  1rx x   2 rx x   3rx x  ...   m , 1 m 2 m 3 m  m (2.5) где ryxi и rxi x j – коэффициенты парной и межфакторной корреляции. Коэффициенты «чистой» регрессии bi связаны со стандартизованными коэффициентами регрессии  i следующим образом: bi   i y .  xi (2.6) Поэтому можно переходить от уравнения регрессии в стандартизованном масштабе (2.4) к уравнению регрессии в натуральном масштабе переменных (2.1), при этом параметр a определяется как a  y  b1 x1  b2 x2  ...  bm xm . 43 Рассмотренный смысл стандартизованных коэффициентов регрессии позволяет их использовать при отсеве факторов – из модели исключаются факторы с наименьшим значением  i . На основе линейного уравнения множественной регрессии y  a  b1 x1  b2 x2  ...  bm xm   (2.7) могут быть найдены частные уравнения регрессии:  y x x , x ,..., x  f  x1  ,  1 2 3 m  y x x , x ,..., x  f  x2  ,  21 3 m .............................   y xm x1 , x2 ,..., xm1  f  xm  , (2.8) т.е. уравнения регрессии, которые связывают результативный признак с соответствующим фактором xi при закреплении остальных факторов на среднем уровне. В развернутом виде систему (2.8) можно переписать в виде:  yx1x2 , x3 ,..., xm  a  b1 x1  b2 x2  b3 x3  ...  bm xm   ,   yx2 x1 , x3 ,..., xm  a  b1 x1  b2 x2  b3 x3  ...  bm xm   ,  ........................................................................  yx x , x ,..., x  a  b1 x1  b2 x2  b3 x3  ...  bm xm   .  m 1 2 m1 При подстановке в эти уравнения средних значений соответствующих факторов они принимают вид парных уравнений линейной регрессии, т.е. имеем  y x1x2 , x3 ,..., xm  A1  b1 x1 ,   y x2 x1 , x3 ,..., xm  A2  b2 x2 ,  ................................  y x x , x ,..., x  Am  bm xm ,  m 1 2 m1 где 44 (2.9)  A1  a  b2 x2  b3 x3  ...  bm xm ,  A  a  b x  b x  ...  b x ,  2 1 1 3 3 m m  ..............................................  Am  a  b1 x1  b2 x2  b3 x3  ...  bm1 xm1. В отличие от парной регрессии частные уравнения регрессии характеризуют изолированное влияние фактора на результат, ибо другие факторы закреплены на неизменном уровне. Эффекты влияния других факторов присоединены в них к свободному члену уравнения множественной регрессии. Это позволяет на основе частных уравнений регрессии определять частные коэффициенты эластичности: Эyx  bi  i xi , (2.10) y xi x1 , x2 ,... xi 1 , xi 1 ,..., xm где bi – коэффициент регрессии для фактора xi в уравнении множественной регрессии, y xi x1 , x2 ,... xi 1 , xi 1 ,..., xm – частное уравнение регрессии. Наряду с частными коэффициентами эластичности могут быть найдены средние по совокупности показатели эластичности: Эi  bi  xi , yxi (2.11) которые показывают на сколько процентов в среднем изменится результат, при изменении соответствующего фактора на 1%. Средние показатели эластичности можно сравнивать друг с другом и соответственно ранжировать факторы по силе их воздействия на результат. Рассмотрим пример4 (для сокращения объема вычислений ограничимся только десятью наблюдениями). Пусть имеются следующие данные (условные) о сменной добыче угля на одного рабочего y (т), мощности пласта x1 (м) и уровне механизации работ характеризующие процесс добычи угля в 10 шахтах. 4 Данные примера взяты из [5] 45 x2 (%), Таблица 2.2 № x1 x2 y 1 8 2 11 3 12 4 9 5 8 6 8 7 9 8 9 9 8 10 12 5 5 8 10 8 10 5 7 7 5 8 6 6 6 4 5 5 6 7 8 Предполагая, что между переменными y , x1 , x2 существует линейная корреляционная зависимость, найдем уравнение регрессии y по x1 и x2 . Для удобства дальнейших вычислений составляем таблицу (   y  y x ): Таблица 2.3 x22 6 y2 7 x1  x2 x1  y x2  y 4 x12 5 8 9 5 8 8 5 7 8 6 4 5 7 63 5 10 10 7 5 6 6 5 6 8 68 64 121 144 81 64 64 81 81 64 144 908 25 64 64 25 49 64 36 16 25 49 417 25 100 100 49 25 36 36 25 36 64 496 40 88 96 45 56 64 54 36 40 84 603 9,4 6,3 6,8 90,8 41,7 49,6 2,44 1,56 2,01 1,42 3,36 1,83 – – – – – – № 1 x1 x2 y 2 3 1 2 3 4 5 6 7 8 9 10 Сумма Среднее значение 8 11 12 9 8 8 9 9 8 12 94 2  10 yx 11 2 12 40 110 120 63 40 48 54 45 48 96 664 25 80 80 35 35 48 36 20 30 56 445 5,13 8,79 9,64 5,98 5,86 6,23 6,35 5,61 5,13 9,28 68 0,016 1,464 0,127 1,038 0,741 0,052 0,121 0,377 0,762 1,631 6,329 60,3 66,4 44,5 – – – – – – – – – – – – Для нахождения параметров уравнения регрессии в данном случае необходимо решить следующую систему нормальных уравнений: 10a  94b1  63b2  68,  94a  908b1  603b2  664, 63a  603b  417b  445. 1 2  Откуда получаем, что a  3,54 , b1  0,854 , b2  0,367 . Т.е. получили следующее уравнение множественной регрессии: 46 y x  3,54  0,854  x1  0,367  x2 . Оно показывает, что при увеличении только мощности пласта x1 (при неизменном x2 ) на 1 м добыча угля на одного рабочего y увеличится в среднем на 0,854 т, а при увеличении только уровня механизации работ x2 (при неизменном x1 ) на 1% – в среднем на 0,367 т. Найдем уравнение множественной регрессии в стандартизованном масштабе: t y  1t x1   2t x2   , при этом стандартизованные коэффициенты регрессии будут 1  b1  x1 1,56  0,854   0,728 , y 1,83  2  b2  x2 1,42  0,367   0,285 . y 1,83 Т.е. уравнение будет выглядеть следующим образом: t y  0,728  t x1  0,285  t x2 . Так как стандартизованные коэффициенты регрессии можно сравнивать между собой, то можно сказать, что мощность пласта оказывает большее влияние на сменную добычу угля, чем уровень механизации работ. Сравнивать влияние факторов на результат можно также при помощи средних коэффициентов эластичности (2.11): Эi  bi  xi . yxi Вычисляем: Э1  0,854  9,4  1,18 , 6,8 Э2  0,367  6,3  0,34 . 6,8 Т.е. увеличение только мощности пласта (от своего среднего значения) или только уровня механизации работ на 1% увеличивает в среднем сменную 47 добычу угля на 1,18% или 0,34% соответственно. Таким образом, подтверждается большее влияние на результат y фактора x1 , чем фактора x2 . Лекция 7. Проверка существенности факторов и показатели качества регрессии Практическая значимость уравнения множественной регрессии оценивается с помощью показателя множественной корреляции и его квадрата – показателя детерминации. Показатель множественной корреляции характеризует тесноту связи рассматриваемого набора факторов с исследуемым признаком или, иначе, оценивает тесноту совместного влияния факторов на результат. Независимо от формы связи показатель множественной корреляции может быть найден как индекс множественной корреляции: Ryx1x2 ... xm где 2  ост  1 2 , y (2.12) 2 – остаточная  y2 – общая дисперсия результативного признака;  ост дисперсия. Границы изменения индекса множественной корреляции от 0 до 1. Чем ближе его значение к 1, тем теснее связь результативного признака со всем набором исследуемых факторов. Величина индекса множественной корреляции должна быть больше или равна максимальному парному индексу корреляции: Ryx1x2 ... xm  ryxi (max) i  1, m . При правильном включении факторов в регрессионную модель величина индекса множественной корреляции будет существенно отличаться от индекса корреляции парной зависимости. Если же дополнительно включенные в уравнение множественной регрессии факторы третьестепенны, 48 то индекс множественной корреляции может практически совпадать с индексом парной корреляции (различия в третьем, четвертом знаках). Отсюда ясно, что сравнивая индексы множественной и парной корреляции, можно сделать вывод о целесообразности включения в уравнение регрессии того или иного фактора. Расчет индекса множественной корреляции предполагает определение уравнения множественной регрессии и на его основе остаточной дисперсии: 2  ост   1  y  y x1x2 ...xm n . 2 (2.13) Можно пользоваться следующей формулой индекса множественной детерминации: R При 2 yx1x2 ... xm y y    1  y  y  линейной множественной x1x2 ... xm зависимости корреляции может 2  2 . (2.14) признаков быть формула представлена индекса следующим выражением: Ryx1x2 ... xm   r i yxi , (2.15) где  i – стандартизованные коэффициенты регрессии; ryxi – парные коэффициенты корреляции результата с каждым фактором. Формула индекса множественной корреляции для линейной регрессии получила название линейного коэффициента множественной корреляции, или, что то же самое, совокупного коэффициента корреляции. Возможно также при линейной зависимости определение совокупного коэффициента корреляции через матрицу парных коэффициентов корреляции: Ryx1x2 ,..., x p  1  r , r11 (2.16) где 49 1 ryx1 ryx2 ... ryx p ryx1 1 rx1x2 ... rx1x p r  ryx2 rx2 x1 1 ... rx2 x p ... ... ... ... ... ryx p rx p x1 rx p x2 ... 1 – определитель матрицы парных коэффициентов корреляции; r11  1 rx1x2 ... rx1x p rx2 x1 1 ... rx2 x p ... ... ... ... rx p x1 rx p x2 ... 1 – определитель матрицы межфакторной корреляции. Как видим, величина множественного коэффициента корреляции зависит не только от корреляции результата с каждым из факторов, но и от межфакторной корреляции. Рассмотренная формула позволяет определять совокупный коэффициент корреляции, не обращаясь при этом к уравнению множественной регрессии, а используя лишь парные коэффициенты корреляции. В рассмотренных показателях множественной корреляции (индекс и коэффициент) используется систематическую ошибку остаточная в сторону дисперсия, которая преуменьшения, тем имеет более значительную, чем больше параметров определяется в уравнении регрессии при заданном объеме наблюдений n . Если число параметров при xi равно m и приближается к объему наблюдений, то остаточная дисперсия будет близка к нулю и коэффициент (индекс) корреляции приблизится к единице даже при слабой связи факторов с результатом. Для того чтобы не допустить возможного преувеличения тесноты связи, используется скорректированный индекс (коэффициент) множественной корреляции. 50 Скорректированный индекс множественной корреляции содержит поправку на число степеней свободы, а именно остаточная сумма квадратов   y  y x1x2 ... xm  n  m  1 , 2 делится на число степеней свободы остаточной вариации а общая сумма квадратов отклонений  y  y  2 на число степеней свободы в целом по совокупности  n  1 . Формула скорректированного индекса множественной детерминации имеет вид: R 2     n  m  1 ,  1   y  y   n  1 y y 2 (2.17) где m – число параметров при переменных x ; n – число наблюдений. Поскольку   y  y  y  y x1x2 ... xm  2 2  1  R2 , то величину скорректированного индекса детерминации можно представить в виде: R  1  1  R 2   2 n 1 . n  m 1 (2.17а) 2 2 Чем больше величина m , тем сильнее различия R и R . Как было показано выше, ранжирование факторов, участвующих во множественной линейной регрессии, может быть проведено через стандартизованные коэффициенты регрессии (  -коэффициенты). Эта же цель может быть достигнута с помощью частных коэффициентов корреляции (для линейных связей). Кроме того, частные показатели корреляции широко используются при решении проблемы отбора факторов: целесообразность включения того или иного фактора в модель можно доказать величиной показателя частной корреляции. 51 Частные коэффициенты корреляции характеризуют тесноту связи между результатом и соответствующим фактором при элиминировании (устранении влияния) других факторов, включенных в уравнение регрессии. Показатели частной корреляции представляют собой отношение сокращения остаточной дисперсии за счет дополнительного включения в анализ нового фактора к остаточной дисперсии, имевшей место до введения его в модель. В общем виде при наличии m факторов для уравнения y  a  b1 x1  b2 x2 ...  bm xm   коэффициент частной корреляции, измеряющий влияние на y фактора xi , при неизменном уровне других факторов, можно определить по формуле: ryxi x1x2 ... xi 1xi 1... xm  1  1  Ryx2 1x2 ... xi ... xm 1  Ryx2 1x2 ... xi 1xi 1... xm , (2.18) 2 где Ryx1x2 ... xi ... xm – множественный коэффициент детерминации всех m 2 факторов с результатом; Ryx1x2 ... xi 1xi 1... xm – тот же показатель детерминации, но без введения в модель фактора xi . При двух факторах формула (2.18) примет вид: ryx1x2  1  Порядок 1  Ryx2 1x2 1  ryx2 2 частного ryx2 x1  1  ; коэффициента 1  Ryx2 1x2 1  ryx2 1 корреляции . (2.18а) определяется количеством факторов, влияние которых исключается. Например, ryx1x2 – коэффициент частной корреляции первого порядка. Соответственно коэффициенты парной корреляции называются коэффициентами нулевого порядка. Коэффициенты частной корреляции более высоких порядков можно определить через коэффициенты частной корреляции более низких порядков по рекуррентной формуле: 52 ryxi x1x2 ... xi 1xi 1... xm  ryxi x1x2 ... xi 1xi 1... xm1  ryxm x1x2 ... xm1  rxi xm x1x2 ...xi 1xi 1...xm1 1  r 2 yxm x1x2 ... xm 1   1  r 2 xi xm x1x2 ... xi 1xi 1 ... xm 1  .(2.19) При двух факторах данная формула примет вид: ryx1  ryx2  rx1x2 ryx1x2  1  r   1  r  2 yx2 2 x1x2 ryx2  ryx1  rx1x2 ; ryx2 x1  1  r   1  r  2 yx1 . (2.19а) 2 x1x2 Для уравнения регрессии с тремя факторами частные коэффициенты корреляции второго коэффициентов порядка корреляции y  a  b1 x1  b2 x2  b3 x3   определяются первого порядка. возможно на Так, исчисление основе по трех частных уравнению частных коэффициентов корреляции второго порядка: ryx1x2 x3 , ryx2 x1x3 , ryx3x1x2 , каждый из которых определяется по рекуррентной формуле. Например, при i  1 имеем формулу для расчета ryx1x2 x3 : ryx1x2 x3  ryx1x2  ryx3x2  rx1x3x2 1  r 1  r 2 yx3 x2 2 x1x3 x2  . (2.20) Рассчитанные по рекуррентной формуле частные коэффициенты корреляции изменяются в пределах от –1 до +1, а по формулам через множественные коэффициенты детерминации – от 0 до 1. Сравнение их друг с другом позволяет ранжировать факторы по тесноте их связи с результатом. Частные коэффициенты корреляции дают меру тесноты связи каждого фактора с результатом в чистом виде. Если из стандартизованного уравнения регрессии t y  1t x1   2t x2  3t x3   следует, что 1   2  3 , т.е. no силе влияния на результат порядок факторов таков: x1 , x2 , x3 , то этот же порядок факторов определяется и по соотношению частных коэффициентов корреляции, ryx1x2 x3  ryx2 x1x3  ryx3x1x2 . 53 В эконометрике частные коэффициенты корреляции обычно не имеют самостоятельного значения. Их используют на стадии формирования модели. Так, строя многофакторную модель, на первом шаге определяется уравнение регрессии с полным набором факторов и рассчитывается матрица частных коэффициентов корреляции. На втором шаге отбирается фактор с наименьшей и несущественной по t -критерию Стьюдента величиной показателя частной корреляции. Исключив его из модели, строится новое уравнение регрессии. Процедура продолжается до тех пор, пока не окажется, что все частные коэффициенты корреляции существенно отличаются от нуля. Если исключен несущественный фактор, то множественные коэффициенты детерминации на двух смежных шагах построения регрессионной модели почти не отличаются друг от друга, Rm1  Rm , где m – число факторов. 2 2 Из приведенных выше формул частных коэффициентов корреляции видна связь этих показателей с совокупным коэффициентом корреляции. Зная частные коэффициенты корреляции (последовательно первого, второго и более высокого порядка), можно определить совокупный коэффициент корреляции по формуле:     Ryx1x2 ... xm  1  1  ryx21   1  ryx2 2 x1   1  ryx2 3x1x2  ...  1  ryx2 m x1x2 ... xm1 . (2.21) В частности, для двухфакторного уравнения формула (2.21) принимает вид: Ryx1x2 ... xm  1  1  ryx21   1  ryx2 2 x1  . (2.21) При полной зависимости результативного признака от исследуемых факторов коэффициент совокупного их влияния равен единице. Из единицы  вычитается доля остаточной вариации результативного признака 1  r 2 , обусловленная последовательно включенными в анализ факторами. В результате подкоренное выражение характеризует совокупное действие всех исследуемых факторов. 54 Значимость уравнения множественной регрессии в целом, так же как и в парной регрессии, оценивается с помощью F -критерия Фишера: F Sфакт Sост R2 n  m  1 ,   1  R2 m (2.22) где Sфакт – факторная сумма квадратов на одну степень свободы; Sост – остаточная сумма квадратов на одну степень свободы; R (индекс) множественной детерминации; 2 – коэффициент m – число параметров при переменных x (в линейной регрессии совпадает с числом включенных в модель факторов); n – число наблюдений. Оценивается значимость не только уравнения в целом, но и фактора, дополнительно включенного в регрессионную модель. Необходимость такой оценки связана с тем, что не каждый фактор, вошедший в модель, может существенно увеличивать долю объясненной вариации результативного признака. Кроме того, при наличии в модели нескольких факторов они могут вводиться в модель в разной последовательности. Ввиду корреляции между факторами значимость одного и того же фактора может быть разной в зависимости от последовательности его введения в модель. Мерой для оценки включения фактора в модель служит частный F -критерий, т.е. Fxi . Частный F -критерий построен на сравнении прироста факторной дисперсии, обусловленного влиянием дополнительно включенного фактора, с остаточной дисперсией на одну степень свободы по регрессионной модели в целом. В общем виде для фактора xi частный F -критерий определится как Ryx2 1... xi ... xm  Ryx2 1... xi 1xi 1... xm n  m  1 , Fxi   1  Ryx2 1... xi ... xm 1 (2.23) 2 где Ryx1... xi ... xm – коэффициент множественной детерминации для модели с 2 полным набором факторов, Ryx1... xi 1xi 1... xm – тот же показатель, но без 55 включения в модель фактора xi , n – число наблюдений, m – число параметров в модели (без свободного члена). Фактическое значение частного F -критерия сравнивается с табличным при уровне значимости  и числе степеней свободы: 1 и n  m  1. Если фактическое значение Fxi превышает Fтабл  , k1 , k2  , то дополнительное включение фактора xi в модель статистически оправданно и коэффициент чистой регрессии bi при факторе xi статистически значим. Если же фактическое значение Fxi меньше табличного, то дополнительное включение в модель фактора xi не увеличивает существенно долю объясненной вариации признака y , следовательно, нецелесообразно его включение в модель; коэффициент регрессии при данном факторе в этом случае статистически незначим. Для двухфакторного уравнения частные F -критерии имеют вид: Fx1  Ryx2 1x2  ryx2 2 1  Ryx2 1x2   n  3 , Fx2  Ryx2 1x2  ryx21 1  Ryx2 1x2   n  3 . (2.23а) С помощью частного F -критерия можно проверить значимость всех коэффициентов регрессии в предположении, что каждый соответствующий фактор xi вводился в уравнение множественной регрессии последним. Частный F -критерий оценивает значимость коэффициентов чистой регрессии. Зная величину Fxi , можно определить и t -критерий для коэффициента регрессии при i -м факторе, tbi , а именно: tbi  Fxi . (2.24) Оценка значимости коэффициентов чистой регрессии по t -критерию Стьюдента может быть проведена и без расчета частных F -критериев. В этом случае, как и в парной регрессии, для каждого фактора используется формула: 56 tbi  bi , mbi (2.25) где bi – коэффициент чистой регрессии при факторе xi , mbi – средняя квадратическая (стандартная) ошибка коэффициента регрессии bi . Для уравнения множественной y  a  b1 x1  b2 x2  ...  bm xm средняя регрессии квадратическая ошибка коэффициента регрессии может быть определена по следующей формуле: mbi  где  y 1  Ryx2 1... xm  xi 1  R 2 xi x1 ... xm  1 , n  m 1 (2.26)  y – среднее квадратическое отклонение для признака y ,  xi – среднее квадратическое отклонение для признака детерминации для уравнения xi , Ryx2 1... xm – коэффициент множественной регрессии, Rx2i x1... xm – коэффициент детерминации для зависимости фактора xi со всеми другими факторами уравнения множественной регрессии; n  m  1 – число степеней свободы для остаточной суммы квадратов отклонений. Как видим, чтобы воспользоваться данной формулой, необходимы матрица межфакторной корреляции и расчет по ней соответствующих коэффициентов Rx2i x1... xm . детерминации Так, для уравнения y  a  b1 x1  b2 x2  b3 x3 оценка значимости коэффициентов регрессии b1 , b2 , b3 предполагает 2 расчет 2 трех межфакторных коэффициентов 2 детерминации: Rx1x2 x3 , Rx2 x1x3 , Rx3x1x2 . Взаимосвязь показателей частного коэффициента корреляции, частного F -критерия и t -критерия Стьюдента для коэффициентов чистой регрессии может использоваться в процедуре отбора факторов. Отсев факторов при построении уравнения регрессии методом исключения практически можно 57 осуществлять не только по частным коэффициентам корреляции, исключая на каждом шаге фактор с наименьшим незначимым значением частного коэффициента корреляции, но и по величинам tbi и Fxi . Частный F критерий широко используется и при построении модели методом включения переменных и шаговым регрессионным методом. Пример. Оценим качество уравнения, полученного в предыдущем параграфе. Сначала найдем значения парных коэффициентов корреляции: ryx1  y  x1  y  x1 66,4  6,8  9,4   0,869 ;  y   x1 1,83 1,56 ryx2  y  x2  y  x2 44,5  6,8  6,3   0,639 ;  y   x2 1,83 1,42 rx1x2  x1  x2  x1  x2 60,3  9,4  6,3   0,488 .  x1   x2 1,56 1,42 Значения парных коэффициентов корреляции указывают на достаточно тесную связь сменной добычи угля на одного рабочего y с мощностью пласта x1 и на умеренную связь с уровнем механизации работ x2 . В то же время межфакторная связь rx1x2 не очень сильная ( rx1x2  0,49  0,7 ), что говорит о том, что оба фактора являются информативными, т.е. и x1 , и x2 необходимо включить в модель. Теперь рассчитаем совокупный коэффициент корреляции Ryx1x2 . Для этого сначала найдем определитель матрицы парных коэффициентов корреляции: 1 r  0,87 0,87 0,64 1 0,64 0,49 0,49  0,139064 , 1 и определитель матрицы межфакторной корреляции: 58 r11  1 0,49 0,49 1  0,7599 . Тогда коэффициент множественной корреляции по формуле (2.16): Ryx1x2  1  Т.е. можно r 0,139064  1  0,904 . r11 0,7599 сказать, что 81,7% (коэффициент детерминации Ryx2 1x2  0,817 ) вариации результата объясняется вариацией представленных в уравнении признаков, что указывает на весьма тесную связь признаков с результатом. Примерно тот же результат (различия связаны с ошибками округлений) для коэффициента множественной регрессии получим, если воспользуемся формулами (2.12) и (2.15): Ryx1x2 2  ост 0,6329  1 2  1  0,901 ; y 3,36 Ryx1x2   r i yxi  0,728  0,87  0,285  0,64  0,903 . Скорректированный коэффициент множественной детерминации R  1  1  R 2   n 1 10  1  1  1  0,817    0,765 n  m 1 10  2  1 указывает на умеренную связь между результатом и признаками. Это связано с малым количеством наблюдений. Теперь найдем частные коэффициенты корреляции по формулам (2.18а) и (2.19а): ryx1x2  1  ryx2 x1  1  1  Ryx2 1x2 1  ryx2 2 1  Ryx2 1x2 1  ryx2 1  1 1  0,817  0,831 ; 1  0,408  1 1  0,817  0,503 . 1  0,755 59 ryx1x2  ryx2 x1  ryx1  ryx2  rx1x2 1  r   1  r  2 yx2  1  0,489 1  0,639  2 2 x1x2 ryx2  ryx1  rx1x2  1  r   1  r  2 yx1 0,869  0,639  0,488 0,639  0,869  0,488 1  0,488 1  0,869  2 2 x1x2  0,830 ; 2  0,498 . 2 Т.е. можно сделать вывод, что фактор x1 оказывает более сильное влияние на результат, чем признак x2 . Оценим надежность уравнения регрессии в целом и показателя связи с помощью F -критерия Фишера. Фактическое значение F -критерия (2.22) Fфакт Табличное R2 n  m  1 0,817 10  2  1      15,63 . 2 1 R m 1  0,817 2 значение F -критерия при пятипроцентном уровне значимости (  0,05 , k1  2 , k2  10  2  1  7 ): Fтабл  4,74 . Так как Fфакт  15,63  Fтабл  4,10 , то уравнение признается статистически значимым. Оценим целесообразность включения фактора x1 после фактора x2 и x2 после x1 с помощью частного F -критерия Фишера (2.23а): Fx1  Fx2  Ryx2 1x2  ryx2 2 1  Ryx2 1x2 Ryx2 1x2  ryx21 1  Ryx2 1x2   n  3  0,817  0,408  7  15,65 ; 1  0,817   n  3  0,817  0,755  7  2,37 . 1  0,817 Табличное значение частного F -критерия при пятипроцентном уровне значимости (  0,05 , k1  1 , k2  10  2  1  7 ): Fтабл  5,59 . Так как Fx1  15,65  Fтабл  5,59 , а Fx2  2,37  Fтабл  5,59 , то включение фактора x1 в модель статистически оправдано и коэффициент чистой 60 регрессии b1 статистически значим, а дополнительное включение фактора x2 , после того, как уже введен фактор x1 , нецелесообразно. Уравнение регрессии, включающее только один значимый аргумент x2 : y  2,754  1,016 x1 . Лекция 8. Линейные регрессионные модели с гетероскедастичными остатками При оценке параметров уравнения регрессии применяется метод наименьших квадратов (МНК). При этом делаются определенные предпосылки относительно случайной составляющей  . В модели y  a  b1 x1  b2 x2  ...  bm xm   случайная составляющая  представляет собой ненаблюдаемую величину. После того как произведена оценка параметров модели, рассчитывая разности фактических и теоретических значений результативного признака y , можно определить оценки случайной составляющей y  y x . Поскольку они не являются реальными случайными остатками, их можно считать некоторой выборочной реализацией неизвестного остатка заданного уравнения, т.е.  i . При изменении спецификации модели, добавлении в нее новых наблюдений выборочные оценки остатков  i могут меняться. Поэтому в задачу регрессионного анализа входит не только построение самой модели, но и исследование случайных отклонений  i , т.е. остаточных величин. При использовании критериев Фишера и Стьюдента делаются предположения относительно поведения остатков  i – остатки представляют собой независимые случайные величины и их среднее значение равно 0; они 61 имеют одинаковую (постоянную) дисперсию и подчиняются нормальному распределению. Статистические проверки параметров регрессии, показателей корреляции основаны на непроверяемых предпосылках распределения случайной составляющей  i . Они носят лишь предварительный характер. После построения уравнения регрессии проводится проверка наличия у оценок  i (случайных остатков) тех свойств, которые предполагались. Связано это с тем, что оценки параметров регрессии должны отвечать определенным критериям. Они должны быть несмещенными, состоятельными и эффективными. Эти свойства оценок, полученных по МНК, имеют чрезвычайно важное практическое значение в использовании результатов регрессии и корреляции. Несмещенность оценки означает, что математическое ожидание остатков равно нулю. Если оценки обладают свойством несмещенности, то их можно сравнивать по разным исследованиям. Оценки считаются эффективными, если они характеризуются наименьшей дисперсией. В практических исследованиях это означает возможность перехода от точечного оценивания к интервальному. Состоятельность оценок характеризует увеличение их точности с увеличением объема выборки. Большой практический интерес представляют те результаты регрессии, для которых доверительный интервал ожидаемого значения параметра регрессии bi имеет предел значений вероятности, равный единице. Иными словами, вероятность получения оценки на заданном расстоянии от истинного значения параметра близка к единице. Указанные критерии оценок (несмещенность, состоятельность и эффективность) обязательно учитываются при разных способах оценивания. Метод наименьших квадратов строит оценки регрессии на основе минимизации суммы квадратов остатков. Поэтому очень важно исследовать поведение остаточных величин регрессии  i . Условия, необходимые для 62 получения несмещенных, состоятельных и эффективных оценок, представляют собой предпосылки МНК, соблюдение которых желательно для получения достоверных результатов регрессии. Исследования остатков  i предполагают проверку наличия следующих пяти предпосылок МНК: 1) случайный характер остатков; 2) нулевая средняя величина остатков, не зависящая от xi ; 3) гомоскедастичность – дисперсия каждого отклонения i , одинакова для всех значений x ; 4) отсутствие автокорреляции остатков – значения остатков  i распределены независимо друг от друга; 5) Если остатки подчиняются нормальному распределению. распределение случайных остатков i не соответствует некоторым предпосылкам МНК, то следует корректировать модель. Прежде всего, проверяется случайный характер остатков  i – первая предпосылка МНК. С этой целью стоится график зависимости остатков  i от теоретических значений результативного признака (рис. 2.1). Если на графике получена горизонтальная полоса, то остатки  i представляют собой случайные величины и МНК оправдан, теоретические значения y x хорошо аппроксимируют фактические значения y . 63 Рис. 2.1. Зависимость случайных остатков  i от теоретических значений y x . Возможны следующие случаи, если  i зависит от y x то: 1) остатки  i не случайны (рис. 2.2а); 2) остатки  i не имеют постоянной дисперсии (рис. 2.2б); 3) остатки  i носят систематический характер (рис. 2.2в). а б 64 в Рис. 2.2. Зависимость случайных остатков  i от теоретических значений y x . В этих случаях необходимо либо применять другую функцию, либо вводить дополнительную информацию и заново строить уравнение регрессии до тех пор, пока остатки  i не будут случайными величинами. Вторая предпосылка МНК относительно нулевой средней величины остатков означает, что  y  y x   0. Это выполнимо для линейных моделей и моделей, нелинейных относительно включаемых переменных. Вместе с тем, несмещенность оценок коэффициентов регрессии, полученных МНК, зависит от независимости случайных остатков и величин x , что также исследуется в рамках соблюдения второй предпосылки МНК. С этой целью наряду с изложенным графиком зависимости остатков  i от теоретических значений результативного признака y x строится график зависимости случайных остатков  i от факторов, включенных в регрессию x j (рис. 2.3). 65 Рис. 2.3. Зависимость величины остатков от величины фактора x j . Если остатки на графике расположены в виде горизонтальной полосы, то они независимы от значений x j . Если же график показывает наличие зависимости  i и x j , то модель неадекватна. Причины неадекватности могут быть разные. Возможно, что нарушена третья предпосылка МНК и дисперсия остатков не постоянна для каждого значения фактора x j . Может быть неправильна спецификация дополнительные определенных члены от участках модели и в x j , например значений фактора нее необходимо ввести x 2j . Скопление точек в xj говорит о наличии систематической погрешности модели. Предпосылка о нормальном распределении остатков позволяет проводить проверку параметров регрессии и корреляции с помощью F - и t критериев. Вместе с тем, оценки регрессии, найденные с применением МНК, обладают хорошими свойствами даже при отсутствии нормального распределения остатков, т.е. при нарушении пятой предпосылки МНК. Совершенно необходимым для получения по МНК состоятельных оценок параметров регрессии является соблюдение третьей и четвертой предпосылок. В соответствии с третьей предпосылкой МНК требуется, чтобы дисперсия остатков была гомоскедастичной. Это значит, что для каждого 66 значения фактора x j остатки  i имеют одинаковую дисперсию. Если это условие применения МНК не соблюдается, то имеет место гетероскедастичность. Наличие гетероскедастичности можно наглядно видеть из поля корреляции (рис. 2.4). а б в Рис. 2.4. Примеры гетероскедастичности. На рис. 2.4 изображено: а – дисперсия остатков растет по мере увеличения x ; б – дисперсия остатков достигает максимальной величины при средних значениях переменной x и уменьшается при минимальных и максимальных значениях x ; в – максимальная дисперсия остатков при малых значениях x и дисперсия остатков однородна по мере увеличения значений x . 67 Наличие гомоскедастичности или гетероскедастичности можно видеть и по рассмотренному выше графику зависимости остатков  i от теоретических значений результативного признака y x . Так, для рис. 2.4а зависимость остатков от y x представлена на рис. 2.5. Рис. 2.5. Гетероскедастичность: большая дисперсия i для больших значений yx . Соответственно для зависимости, изображенной на полях корреляции рис. 2.4б и 2.4в гетероскедастичность остатков представлена на рис. 2.6 и 2.7. Рис. 2.6. Гетероскедастичность, соответствующая полю корреляции на рис. 2.4б. 68 Рис. 2.7. Гетероскедастичность, соответствующая полю корреляции на рис. 2.4в. Для множественной регрессии данный вид графиков является наиболее приемлемым визуальным способом изучения гомо- и гетероскедастичности. При построении регрессионных моделей чрезвычайно важно соблюдение четвертой предпосылки МНК – отсутствие автокорреляции остатков, т.е. значения остатков  i , распределены независимо друг от друга. Автокорреляция остатков означает наличие корреляции между остатками текущих и предыдущих корреляции между  i и (последующих) наблюдений5. Коэффициент  j , где  i – остатки текущих наблюдений,  j – остатки предыдущих наблюдений (например, j  i  1), может быть определен как ri j  cov   i ,  j   i    j , т.е. по обычной формуле линейного коэффициента корреляции. Если этот коэффициент окажется существенно отличным от нуля, то остатки автокоррелированы и функция плотности вероятности F    зависит от j -й 5 Подробнее об автокорреляции см. в разделе 4. 69 точки наблюдения и от распределения значений остатков в других точках наблюдения. Отсутствие состоятельность автокорреляции и остаточных эффективность оценок величин обеспечивает коэффициентов регрессии. Особенно актуально соблюдение данной предпосылки МНК при построении регрессионных моделей по рядам динамики, где ввиду наличия тенденции последующие уровни динамического ряда, как правило, зависят от своих предыдущих уровней. При несоблюдении основных предпосылок МНК приходится корректировать модель, изменяя ее спецификацию, добавлять (исключать) некоторые факторы, преобразовывать исходные данные для того, чтобы получить оценки коэффициентов регрессии, которые обладают свойством несмещенности, имеют меньшее значение дисперсии остатков и обеспечивают в связи с этим более эффективную статистическую проверку значимости параметров регрессии. Лекция 9. Обобщенный метод наименьших квадратов (ОМНК) При нарушении гомоскедастичности и наличии автокорреляции ошибок рекомендуется традиционный метод наименьших квадратов (известный в английской терминологии как метод OLS – Ordinary Least Squares) заменять обобщенным методом, т.е. методом GLS (Generalized Least Squares). Обобщенный метод наименьших квадратов применяется к преобразованным данным и позволяет получать оценки, которые обладают не только свойством несмещенности, но и имеют меньшие выборочные дисперсии. Остановимся на использовании ОМНК для корректировки гетероскедастичности. Как и раньше, будем предполагать, что среднее значение остаточных величин равно нулю. А вот дисперсия их не остается неизменной для разных значений фактора, а пропорциональна величине K i , т.е. 70  2i   2  Ki , где  2i – дисперсия ошибки при конкретном i -м значении фактора;  2 – постоянная дисперсия ошибки при соблюдении предпосылки о гомоскедастичности остатков; K i – коэффициент пропорциональности, меняющийся с изменением величины фактора, что и обусловливает неоднородность дисперсии. При этом предполагается, что  2 неизвестна, а в отношении величин K i выдвигаются определенные гипотезы, характеризующие структуру гетероскедастичности. В общем виде для уравнения yi  a  bxi   i при  i    Ki модель 2 примет вид: yi  a  bxi  Ki  i . В ней 2 остаточные величины гетероскедастичны. Предполагая в них отсутствие автокорреляции, можно перейти к уравнению с гомоскедастичными остатками, поделив все переменные, зафиксированные в ходе i -го наблюдения, на Ki . Тогда дисперсия остатков будет величиной постоянной, т. е.  i   . 2 2 Иными словами, от регрессии y по x мы перейдем к регрессии на новых переменных: y yi Ki  K иx K . Уравнение регрессии примет вид: x a  b  i  i , Ki Ki а исходные данные для данного уравнения будут иметь вид: 71 y По y1 K1 x1 K1 y2 K2 , x2 K2 . x ........ ........ yn xn Kn Kn отношению преобразованными к обычной переменными регрессии уравнение представляет собой регрессию, в которой переменные y и x взяты с весами 1 Оценка параметров нового уравнения с с новыми, взвешенную K. преобразованными переменными приводит к взвешенному методу наименьших квадратов, для которого необходимо минимизировать сумму квадратов отклонений вида n S  a, b    i 1 1 2  yi  a  bxi  . Ki Соответственно получим следующую систему нормальных уравнений: 1 x  y  a   b  K K,  K  x x2  yx  a  K  b K .  K Если преобразованные переменные x и y взять в отклонениях от средних уровней, то коэффициент регрессии b можно определить как 1 b  K x y 1  K  x2 . При обычном применении метода наименьших квадратов к уравнению линейной регрессии для переменных в отклонениях от средних уровней коэффициент регрессии b определяется по формуле: 72 b Как x y . x 2 видим, корректировки при использовании гетероскедастичности обобщенного коэффициент МНК с целью регрессии b представляет собой взвешенную величину по отношению к обычному МНК с весом 1 K . Аналогичный подход возможен не только для уравнения парной, но и для множественной регрессии. Предположим, что рассматривается модель вида y  a  b1 x1  b2 x2   , 2 для которой дисперсия остаточных величин оказалась пропорциональна K i . K i представляет собой коэффициент пропорциональности, принимающий различные значения для соответствующих i значений факторов x1 и x2 . Ввиду того, что  2i   2  Ki2 , рассматриваемая модель примет вид yi  a  b1 x1i  b2 x2i  Ki i , где ошибки гетероскедастичны. Для того чтобы получить уравнение, где остатки  i гомоскедастичны, перейдем к новым преобразованным переменным, разделив все члены исходного уравнения на коэффициент пропорциональности K . Уравнение с преобразованными переменными составит yi x x a   b1 1i  b2 2i   i . Ki Ki Ki Ki Это уравнение не содержит свободного члена. Вместе с тем, найдя переменные в новом преобразованном виде и применяя обычный МНК к ним, получим иную спецификацию модели: 73 yi x x  A  b1 1i  b2 2i   i . Ki Ki Ki Параметры такой модели зависят от концепции, принятой для коэффициента пропорциональности K i . В эконометрических исследованиях довольно часто выдвигается гипотеза, что остатки  i пропорциональны значениям фактора. Так, если в уравнении y  a  b1 x1  b2 x2  ...  bm xm  e предположить, что e    x1 , т.е. K  x1 и  2i   2  x1 , то обобщенный МНК предполагает оценку параметров следующего трансформированного уравнения: x y x  b1  b2 2  ...  bm m   . x1 x1 x1 Применение в этом случае обобщенного МНК приводит к тому, что наблюдения с меньшими значениями преобразованных переменных x K имеют при определении параметров регрессии относительно больший вес, чем с первоначальными переменными. Вместе с тем, следует иметь в виду, что новые преобразованные переменные получают новое экономическое содержание и их регрессия имеет иной смысл, чем регрессия по исходным данным. Пример. Пусть y – издержки производства, x1 – объем продукции, x2 – основные производственные фонды, x3 – численность работников, тогда уравнение y  a  b1 x1  b2 x2  b3 x3  e является моделью издержек производства с объемными факторами. Предполагая, что  2i пропорциональна квадрату численности работников x3 , мы получим в качестве результативного признака затраты на одного работника y x3 , а в качестве факторов следующие показатели: 74 производительность труда x1 x3 и фондовооруженность труда x2 x3 . Соответственно трансформированная модель примет вид y x x  b3  b1 1  b2 2   , x3 x3 x3 где параметры b1 , b2 , b3 численно не совпадают с аналогичными параметрами предыдущей модели. Кроме этого, коэффициенты регрессии меняют экономическое содержание: из показателей силы связи, характеризующих среднее абсолютное изменение издержек производства с изменением абсолютной величины соответствующего фактора на единицу, они фиксируют при обобщенном МНК среднее изменение затрат на работника; с изменением производительности труда на единицу при неизменном уровне фондовооруженности фовдовооруженности труда; труда при на единицу и с изменением неизменном уровне производительности труда. Если предположить, что в модели с первоначальными переменными дисперсия остатков пропорциональна квадрату объема продукции,  2i   2  x12 , можно перейти к уравнению регрессии вида x y x  b1  b2 2  b3 3   . x1 x1 x1 В нем новые переменные: y x1 – затраты на единицу (или на 1 руб. продукции), x2 x1 – фондоемкость продукции, x3 x1 – трудоемкость продукции. Гипотеза о пропорциональности остатков величине фактора может иметь реальное основание: при обработке недостаточно однородной совокупности, включающей как крупные, так и мелкие предприятия, большим объемным значениям фактора может соответствовать большая дисперсия результативного признака и большая дисперсия остаточных величин. 75 При наличии одной объясняющей переменной гипотеза  2i   2 x 2 трансформирует линейное уравнение y  a  bx  e в уравнение y a  b  , x x в котором параметры a и b поменялись местами, константа стала коэффициентом наклона линии регрессии, а коэффициент регрессии – свободным членом. Пример. Рассматривая зависимость сбережений y от дохода x , по первоначальным данным было получено уравнение регрессии y  1,081  0,1178  x . Применяя обобщенный МНК к данной модели в предположении, что ошибки пропорциональны доходу, было получено уравнение для преобразованных данных: y 1  0,1026  0,8538  . x x Коэффициент регрессии первого уравнения сравнивают со свободным членом второго уравнения, т.е. 0,1178 и 0,1026 – оценки параметра b зависимости сбережений от дохода. Переход к относительным величинам существенно снижает вариацию фактора и соответственно уменьшает дисперсию ошибки. Он представляет собой наиболее простой случай учета гетероскедастичности в регрессионных моделях с помощью обобщенного МНК. Процесс перехода к относительным величинам может быть осложнен выдвижением иных гипотез о пропорциональности ошибок относительно включенных в модель факторов. Использование той или иной гипотезы предполагает специальные исследования остаточных величин для соответствующих регрессионных 76 моделей. Применение обобщенного МНК позволяет получить оценки параметров модели, обладающие меньшей дисперсией. Лекция 10. Регрессионные модели с переменной структурой (фиктивные переменные) До сих пор в качестве факторов рассматривались экономические переменные, принимающие количественные значения в некотором интервале. Вместе с тем может оказаться необходимым включить в модель фактор, имеющий два или более качественных уровней. Это могут быть разного рода атрибутивные признаки, такие, например, как профессия, пол, образование, климатические условия, принадлежность к определенному региону. Чтобы ввести такие переменные в регрессионную модель, им должны быть присвоены те или иные цифровые метки, т.е. качественные переменные преобразованы сконструированные переменные в количественные. в эконометрике Такого принято вида называть фиктивными переменными. Рассмотрим применение фиктивных переменных для функции спроса. Предположим, что по группе лиц мужского и женского пола изучается линейная зависимость потребления кофе от цены. В общем виде для совокупности обследуемых уравнение регрессии имеет вид: y  a  bx   , где y – количество потребляемого кофе; x – цена. Аналогичные уравнения могут быть найдены отдельно для лиц мужского пола: y1  a1  b1 x1  1 и женского пола: y2  a2  b2 x2   2 . Различия в потреблении кофе проявятся в различии средних y1 и y2 . Вместе с тем сила влияния x на y может быть одинаковой, т.е. b  b1  b2 . В этом случае возможно построение общего уравнения регрессии с включением в него фактора «пол» в виде фиктивной переменной. Объединяя 77 уравнения y1 и y2 и, вводя фиктивные переменные, можно прийти к следующему выражению: y  a1 z1  a2 z2  bx   , где z1 и z2 – фиктивные переменные, принимающие значения: 1  мужской пол, z1   0  женский пол; В общем уравнении 0  мужской пол, z2   1  женский пол. регрессии зависимая переменная рассматривается как функция не только цены x но и пола Переменная z рассматривается как дихотомическая y  z1 , z2  . переменная, принимающая всего два значения: 1 и 0. При этом когда z1  1, то z2  0 , и наоборот. Для лиц мужского пола, когда z1  1 и z2  0 , объединенное уравнение регрессии составит: y  a1  bx , а для лиц женского пола, когда z1  0 и z2  1: y  a2  bx . Иными словами, различия в потреблении для лиц мужского и женского пола вызваны различиями свободных членов уравнения регрессии: a1  a2 . Параметр b является общим для всей совокупности лиц, как для мужчин, так и для женщин. Однако при введении двух фиктивных переменных z1 и z2 в модель y  a1 z1  a2 z2  bx   применение МНК для оценивания параметров a1 и a2 приведет к вырожденной матрице исходных данных, а следовательно, и к невозможности получения их оценок. Объясняется это тем, что при использовании МНК в данном уравнении появляется свободный член, т.е. уравнение примет вид y  A  a1 z1  a2 z2  bx   . Предполагая при параметре A независимую переменную, равную 1, имеем следующую матрицу исходных данных: 78 1 1  1  1 ...   1 x1  x2   x3  . 1 0 x4  ... ... ...   0 1 xn  1 1 1 В рассматриваемой матрице существует линейная зависимость между первым, вторым и третьим столбцами: первый равен сумме второго и третьего столбцов. Поэтому матрица исходных факторов вырождена. Выходом из создавшегося затруднения может явиться переход к уравнениям y  A  A1 z1  bx   или y  A  A2 z2  bx   , т.е. каждое уравнение включает только одну фиктивную переменную z1 или z2 . Предположим, что определено уравнение y  A  A1 z1  bx   , где z1 принимает значения 1 для мужчин и 0 для женщин. Теоретические значения размера потребления кофе для мужчин будут получены из уравнения y  A  A1  bx . Для женщин соответствующие значения получим из уравнения y  A  bx . Сопоставляя эти результаты, видим, что различия в уровне потребления мужчин и женщин состоят в различии свободных членов данных уравнений: A – для женщин и A  A1 – для мужчин. Теперь качественный фактор принимает только два состояния, которым соответствуют значения 1 и 0. Если же число градаций 79 качественного признака-фактора превышает два, то в модель вводится несколько фиктивных переменных, число которых должно быть меньше числа качественных градаций. Только при соблюдении этого положения матрица исходных фиктивных переменных не будет линейно зависима и возможна оценка параметров модели. Пример. Проанализируем зависимость цены двухкомнатной квартиры от ее полезной площади. При этом в модель могут быть введены фиктивные переменные, отражающие тип дома: «хрущевка», панельный, кирпичный. При использовании трех категорий домов вводятся две фиктивные переменные: z1 и z2 . Пусть переменная z1 принимает значение 1 для панельного дома и 0 для всех остальных типов домов; переменная z2 принимает значение 1 для кирпичных домов и 0 для остальных; тогда переменные z1 и z2 принимают значения 0 для домов типа «хрущевки». Предположим, что уравнение регрессии с фиктивными переменными составило: y  320  500 x  2200 z1  1600 z2 . Частные уравнения регрессии для отдельных типов домов, свидетельствуя о наиболее высоких ценах квартир в панельных домах, будут иметь следующий вид: «хрущевки» – y  320  500 x ; панельные – y  2520  500 x ; кирпичные – y  1920  500 x . Параметры при фиктивных переменных z1 и z2 представляют собой разность между средним уровнем результативного признака для соответствующей группы и базовой группы. В рассматриваемом примере за базу сравнения цены взяты дома «хрущевки», для которых z1  z2  0 . Параметр при z1 , равный 2200, означает, что при одной и той же полезной площади квартиры цена ее в панельных домах в среднем на 2200 долл. США выше, чем в «хрущевках». Соответственно параметр при z2 показывает, что 80 в кирпичных домах цена выше в среднем на 1600 долл. при неизменной величине полезной площади по сравнению с указанным типом домов. В отдельных случаях может оказаться необходимым введение двух и более групп фиктивных переменных, т.е. двух и более качественных факторов, каждый из которых может иметь несколько градаций. Например, при изучении потребления некоторого товара наряду с факторами, имеющими количественное выражение (цена, доход на одного члена семьи, цена на взаимозаменяемые товары и др.), учитываются и качественные факторы. С их помощью оцениваются различия в потреблении отдельных социальных групп населения, дифференциация в потреблении по полу, национальному составу и др. При построении такой модели из каждой группы фиктивных переменных следует исключить по одной переменной. Так, если модель будет включать три социальные группы, три возрастные категории и ряд экономических переменных, то она примет вид: y  a  b1s1  b2 s2  b3 z1  b4 z2  b5 x1  b6 x2  ...  bm4 xm   , где y – потребление; 1  если наблюдения относятся к i -й социальной группе  i  1, 2  , si   0  в остальных случаях; 1  если наблюдения относятся к j -й возрастной группе  j  1, 2  , zi   0  в остальных случаях; x1 , x2 , ..., xm – экономические (количественные) переменные. До сих пор мы рассматривали фиктивные переменные как факторы, которые используются в регрессионной модели наряду с количественными переменными. Вместе с тем возможна регрессия только на фиктивных переменных. Например, изучается дифференциация заработной платы рабочих высокой квалификации по регионам страны. Модель заработной платы может иметь вид: y  a  b1 z1  b2 z2  ...  bm zm , 81 где y – средняя заработная плата рабочих высокой квалификации по отдельным предприятиям; 1  если предприятие находится в Северо-Западном районе; z1   0  если предприятие находится в остальных районах; 1  если предприятие находится в Волго-Вятском районе; z2   0  если предприятие находится в остальных районах; ……………………………………………………………………….. 1  если преприятие находится в Дальневосточном районе; zm   0  если предприятие находится в остальных районах. Поскольку последний район, указанный в модели, обозначен zm , то в исследование включено m  1 район. Мы рассмотрели модели с фиктивными переменными, в которых последние выступают факторами. Может возникнуть необходимость построить модель, в которой дихотомический признак, т.е. признак, который может принимать только два значения, играет роль результата. Подобного вида модели социологических применяются, опросов. В например, качестве при обработке зависимой данных переменной y рассматриваются ответы на вопросы, данные в альтернативной форме: «да» или «нет». Поэтому зависимая переменная имеет два значения: 1, когда имеет место ответ «да», и 0 – во всех остальных случаях. Модель такой зависимой переменной имеет вид: y  a  b1 x1  ...  bm xm   . Модель является вероятностной линейной моделью. В ней y принимает значения 1 и 0, которым соответствуют вероятности p и 1  p . Поэтому при решении модели находят оценку условной вероятности события y при фиксированных значениях x . Для оценки параметров линейновероятностной модели применяются методы Logit-, Probit- и Tobit-анализа. Такого рода модели используют при работе с неколичественными переменными. Как правило, это модели выбора из заданного набора 82 альтернатив. значениями Зависимая (набор переменная альтернатив), y представлена объясняющие дискретными переменные xj – характеристики альтернатив (время, цена), z j – характеристики индивидов (возраст, доход, уровень образования). Модель такого рода позволяет предсказать долю индивидов в генеральной совокупности, которые выбирают данную альтернативу. Среди моделей с фиктивными переменными наибольшими прогностическими возможностями обладают модели, в которых зависимая переменная y рассматривается как функция ряда экономических факторов xi и фиктивных переменных z j . Последние обычно отражают различия в формировании результативного признака по отдельным группам единиц совокупности, т.е. в результате неоднородной структуры пространственного или временного характера. 83 Лекция 11. Системы эконометрических уравнений При использовании отдельных уравнений регрессии, например для экономических расчетов, в большинстве случаев предполагается, что аргументы (факторы) можно изменять независимо друг от друга. Однако это предположение является очень грубым: практически изменение одной переменной, как правило, не может происходить при абсолютной неизменности других. Ее изменение повлечет за собой изменения во всей системе взаимосвязанных признаков. Следовательно, отдельно взятое уравнение множественной регрессии не может характеризовать истинные влияния отдельных признаков на вариацию результирующей переменной. Именно поэтому в последние десятилетия в экономических исследованиях важное место переменными заняла проблема описания системой так называемых структуры связей одновременных между уравнений, называемых также структурными уравнениями. Система уравнений в эконометрических исследованиях может быть построена по-разному. Возможна система независимых уравнений, когда каждая зависимая переменная y рассматривается как функция одного и того же набора факторов x :  y1  a11 x1  a12 x2  ...  a1n xn  1 ,  y  a x  a x  ...  a x   ,  2 21 1 22 2 2n n 2  ...................................................  ym  am1 x1  am 2 x2  ...  amn xn   m . (3.1) Набор факторов x j в каждом уравнении может варьировать. Каждое уравнение системы независимых уравнений может рассматриваться самостоятельно. Для нахождения его параметров используется метод наименьших квадратов. По существу, каждое уравнение этой системы является уравнением регрессии. Так как фактические значения зависимой 84 переменной отличаются от теоретических на величину случайной ошибки, то в каждом уравнении присутствует величина случайной ошибки  i . Если зависимая переменная y одного уравнения выступает в виде фактора x в другом уравнении, то исследователь может строить модель в виде системы рекурсивных уравнений:  y1  a11 x1  a12 x2  ...  a1n xn  1 ,   y2  b21 y1  a21 x1  a22 x2  ...  a2 n xn   2 ,  (3.2)  y3  b31 y1  b32 y2  a21 x1  a22 x2  ...  a2 n xn   2 , .........................................................................   ym  bm1 y1  ...  bm,m1 ym1  am1 x1  am 2 x2  ...  amn xn   m . В данной системе зависимая переменная y включает в каждое последующее уравнение в качестве факторов все зависимые переменные предшествующих уравнений наряду с набором собственно факторов x . Каждое уравнение этой системы может рассматриваться самостоятельно, и его параметры определяются методом наименьших квадратов (МНК). Наибольшее распространение в эконометрических исследованиях получила система взаимозависимых уравнений. В ней одни и те же зависимые переменные в одних уравнениях входят в левую часть, а в других уравнениях – в правую часть системы:  a11 x1  a12 x2  ...  a1n xn  1 ,  y1  b12 y2  b13 y3  ...  b1m ym   a21 x1  a22 x2  ...  a2 n xn   2 ,  y2  b21 y1  b23 y3  ...  b2 m ym   a21 x1  a22 x2  ...  a2 n xn   2 , (3.3)  y3  b31 y1  b32 y2  ...  b3m ym ............................................................................................   ym  bm1 y1  bm 2 y2  ...  bm ,m1 ym1  am1 x1  am 2 x2  ...  amn xn   n . Система взаимозависимых уравнений получила название системы совместных, одновременных уравнений. Тем самым подчеркивается, что в системе одни и те же переменные одновременно рассматриваются как зависимые в одних уравнениях и как независимые в других. В эконометрике эта система уравнений называется также структурной формой модели. В 85 отличие от предыдущих систем каждое уравнение системы одновременных уравнений не может рассматриваться самостоятельно, и для нахождения его параметров традиционный МНК неприменим. С этой целью используются специальные приемы оценивания. Структурная и приведенная формы модели Система совместных, одновременных уравнений (или структурная форма модели) обычно содержит эндогенные и экзогенные переменные. Эндогенные переменные – это зависимые переменные, число которых равно числу уравнений в системе и которые обозначаются через y . Экзогенные влияющие на переменные эндогенные – это предопределенные переменные, но не переменные, зависящие от них. Обозначаются через x . Классификация переменных на эндогенные и экзогенные зависит от теоретической концепции принятой модели. Экономические переменные могут выступать в одних моделях как эндогенные, а в других как экзогенные переменные. Внеэкономические переменные (например, климатические условия, социальное положение, пол, возрастная категория) входят в систему только как экзогенные переменные. В качестве экзогенных переменных могут рассматриваться значения эндогенных переменных за предшествующий период времени (лаговые переменные). Структурная форма модели позволяет увидеть влияние изменений любой экзогенной переменной на значения эндогенной переменной. Целесообразно в качестве экзогенных переменных выбирать такие переменные, которые могут быть объектом регулирования. Меняя их и управляя ими, можно заранее иметь целевые значения эндогенных переменных. Структурная форма модели в правой части содержит при эндогенных переменных коэффициенты bik и экзогенных переменных – коэффициенты 86 aij , которые называются структурными коэффициентами модели. Все переменные в модели выражены в отклонениях от среднего уровня, т.е. под x подразумевается x  x , а под y – соответственно y  y . Поэтому свободный член в каждом уравнении системы (3.3) отсутствует. Использование МНК для оценивания структурных коэффициентов модели дает, как принято считать в теории, смещенные и несостоятельные оценки. Поэтому обычно для определения структурных коэффициентов модели структурная форма модели преобразуется в приведенную форму модели. Приведенная форма модели представляет собой систему линейных функций эндогенных переменных от экзогенных:  y1  11 x1  12 x2  ...  1n xn  u1 ,  y   x   x  ...   x  u ,  2 21 1 22 2 2n n 2  ...................................................  ym   m1 x1   m 2 x2  ...   mn xn  um , где (3.4)  ij – коэффициенты приведенной формы модели, ui – остаточная величина для приведенной формы. По своему виду приведенная форма модели ничем не отличается от системы независимых уравнений, параметры которой традиционным МНК. Применяя МНК, можно оценить оцениваются  ij , а затем оценить значения эндогенных переменных через экзогенные. Коэффициенты приведенной формы модели представляют собой нелинейные функции коэффициентов структурной формы модели. Рассмотрим это положение на примере простейшей структурной модели, выразив коэффициенты приведенной формы модели через коэффициенты структурной модели. Для структурной модели вида 87  y1  b12 y2  a11 x1  1 ,   y2  b21 y1  a22 x2   2 (3.5) приведенная форма модели имеет вид  y1  11 x1  12 x2  u1 ,   y2   21 x1   22 x2  u2 . (3.6) Из первого уравнения (3.5) можно выразить y2 следующим образом (ради упрощения опускаем случайную величину): y2  y1  a11 x1 . b12 Подставляя во второе уравнение (3.5), имеем y1  a11 x1  b21 y1  a22 x2 , b12 откуда y1  a11 a b x1  22 12 x2 . 1  b12b21 1  b12b21 Поступая аналогично со вторым уравнением системы (3.5), получим y2  a11b21 a22 x1  x2 , 1  b12b21 1  b12b21 т.е. система (3.5) принимает вид a11 a22b12  y  x   1 1  b b 1 1  b b x2 ,  12 21 12 21   y  a11b21 x  a22 x .  2 1  b12b21 1 1  b12b21 2 Таким образом, можно сделать вывод о том, что коэффициенты приведенной формы модели будут выражаться через коэффициенты структурной формы следующим образом: 88 11  a11 a b , 12  22 12 , 1  b12b21 1  b12b21  21  a11b21 a22 ,  22  . 1  b12b21 1  b12b21 Следует заметить, что приведенная форма модели хотя и позволяет получить значения эндогенной переменной через значения экзогенных переменных, но аналитически она уступает структурной форме модели, так как в ней отсутствуют оценки взаимосвязи между эндогенными переменными. Лекция 12. Проблема идентификации При переходе от приведенной формы модели к структурной эконометрист сталкивается с проблемой идентификации. Идентификация – это единственность соответствия между приведенной и структурной формами модели. Структурная модель (3.3) в полном виде содержит m   m  n  1 параметров, а приведенная форма модели в полном виде содержит m  n параметров. Т.е. в полном виде структурная модель содержит большее число параметров, чем приведенная форма модели. Соответственно m   m  n  1 параметров структурной модели не могут быть однозначно определены из m  n параметров приведенной формы модели. Чтобы получить единственно возможное решение для структурной модели, необходимо предположить, что некоторые из структурных коэффициентов модели ввиду слабой взаимосвязи признаков с эндогенной переменной из левой части системы равны нулю. Тем самым уменьшится число структурных коэффициентов модели. Уменьшение числа структурных коэффициентов модели возможно и другим путем: например, путем приравнивания некоторых коэффициентов друг к другу, т.е. путем предположений, что их воздействие 89 на формируемую эндогенную переменную одинаково. На структурные коэффициенты могут накладываться, например, ограничения вида bik  aij  0 . С позиции идентифицируемости структурные модели можно подразделить на три вида: 1) идентифицируемые; 2) неидентифицируемые; 3) сверхидентифицируемые. Модель идентифицируема, если все структурные ее коэффициенты определяются однозначно, единственным образом по коэффициентам приведенной формы модели, т. е. если число параметров структурной модели равно числу параметров приведенной формы модели. В этом случае структурные коэффициенты модели оцениваются через параметры приведенной формы модели и модель идентифицируема. Модель неидентифицируема, если число приведенных коэффициентов меньше числа структурных коэффициентов, и в результате структурные коэффициенты не могут быть оценены через коэффициенты приведенной формы модели. Модель сверхидентифицируема, если число приведенных коэффициентов больше числа структурных коэффициентов. В этом случае на основе коэффициентов приведенной формы можно получить два или более значений одного структурного коэффициента. В этой модели число структурных коэффициентов меньше числа коэффициентов приведенной формы. Сверхидентифицируемая модель в отличие от неидентифицируемой модели практически решаема, но требует для этого специальных методов исчисления параметров. Структурная модель всегда представляет собой систему совместных уравнений, каждое из которых требуется проверять на идентификацию. Модель считается идентифицируемой, если каждое уравнение системы идентифицируемо. Если хотя бы одно из уравнений системы неидентифицируемо, то и вся модель считается неидентифицируемой. 90 Сверхидентифицируемая модель содержит хотя бы одно сверхидентифицируемое уравнение. Выполнение условия идентифицируемости модели проверяется для каждого уравнения системы. Чтобы уравнение было идентифицируемо, необходимо, чтобы число предопределенных переменных, отсутствующих в данном уравнении, но присутствующих в системе, было равно числу эндогенных переменных в данном уравнении без одного. Если обозначить число эндогенных переменных в i -м уравнении системы через H , а число экзогенных (предопределенных) переменных, которые содержатся в системе, но не входят в данное уравнение, — через D , то условие идентифицируемости модели может быть записано в виде следующего счетного правила: Таблица 4.1 D 1  H D 1  H D 1  H уравнение идентифицируемо уравнение неидентифицируемо уравнение сверхидентифицируемо Для оценки параметров структурной модели система должна быть идентифицируема или сверхидентифицируема. Рассмотренное счетное правило отражает необходимое, но недостаточное условие идентификации. Более точно условия идентификации определяются, если накладывать ограничения на коэффициенты матриц параметров структурной модели. Уравнение идентифицируемо, если по отсутствующим в нем переменным (эндогенным и экзогенным) можно из коэффициентов при них в других уравнениях системы получить матрицу, определитель которой не равен нулю, а ранг матрицы не меньше, чем число эндогенных переменных в системе без одного. Целесообразность проверки условия идентификации модели через определитель матрицы коэффициентов, отсутствующих в данном уравнении, но присутствующих в других, объясняется тем, что возможна ситуация, когда для каждого уравнения системы выполнено счетное правило, а определитель 91 матрицы названных коэффициентов равен нулю. В этом случае соблюдается лишь необходимое, но недостаточное условие идентификации. В эконометрических моделях часто наряду с уравнениями, параметры которых должны быть статистически оценены, используются балансовые тождества переменных, коэффициенты при которых равны 1. В этом случае, хотя само тождество и не требует проверки на идентификацию, ибо коэффициенты при переменных в тождестве известны, в проверке на идентификацию собственно структурных уравнений системы тождества участвуют. Рассмотрим пример. Изучается модель вида Ct  a1  b11  Yt  b12  Ct 1  1 , I  a  b  r  b  I   ,  t 2 21 t 22 t 1 2  rt  a3  b31  Yt  b32  M t   3 , Yt  Ct  I t  Gt , где Ct – расходы на потребление в период t , Yt – совокупный доход в период t , I t – инвестиции в период t , rt – процентная ставка в период t , M t – денежная масса в период t , Gt – государственные расходы в период t , Ct 1 – расходы на потребление в период t  1, I t 1 инвестиции в период t  1. Первое уравнение – функция потребления, второе уравнение – функция инвестиций, третье уравнение – функция денежного рынка, четвертое уравнение – тождество дохода. Модель представляет собой систему одновременных уравнений. Проверим каждое ее уравнение на идентификацию. Модель включает четыре эндогенные переменные  Ct , It , Yt , rt  и четыре предопределенные переменные (две экзогенные переменные – M t и Gt и две лаговые переменные – Ct 1 и I t 1 ). Проверим необходимое условие идентификации для каждого из уравнений модели. 92 Первое уравнение: Ct  a1  b11  Yt  b12  Ct 1  1 . Это уравнение содержит две эндогенные переменные Ct и Yt и одну предопределенную переменную Ct 1 . Таким образом, H  2 , а D  4  1  3, т.е. выполняется условие D  1  H . Уравнение сверхидентифицируемо. Второе уравнение: I t  a2  b21  rt  b22  I t 1   2 . Оно включает две эндогенные переменные I t и rt и одну экзогенную переменную I t 1 . Выполняется D 1  3 1  H  2 . условие Уравнение сверхидентифицируемо. Третье уравнение: rt  a3  b31  Yt  b32  M t   3 . Оно включает две эндогенные переменные Yt и rt и одну экзогенную переменную M t . Выполняется D 1  3 1  H  2 . условие Уравнение сверхидентифицируемо. Четвертое уравнение: Yt  Ct  I t  Gt . Оно представляет собой тождество, параметры которого известны. Необходимости в идентификации нет. Проверим для каждого уравнения достаточное условие идентификации. Для этого составим матрицу коэффициентов при переменных модели. Ct It rt Ct 1 b12 I t 1 Mt Gt Yt b11 I уравнение –1 II уравнение –1 b21 b22 III уравнение Тождество 1 1 –1 b31 b32 1 –1 В соответствии с достаточным условием идентификации ранг матрицы коэффициентов при переменных, не входящих в исследуемое уравнение, должен быть равен числу эндогенных переменных модели без одного. Первое уравнение. Матрица коэффициентов при переменных, не входящих в уравнение, имеет вид 93 II уравнение –1 rt b21 III уравнение Тождество 1 –1 It I t 1 b22 Mt Gt b32 1 Ранг данной матрицы равен трем, так как определитель квадратной подматрицы 3  3 не равен нулю: b22 b32 Достаточное 0  b22b32  0 . 1 условие идентификации для данного уравнения выполняется. Второе уравнение. Матрица коэффициентов при переменных, не входящих в уравнение, имеет вид Ct I уравнение –1 III уравнение Тождество 1 Yt b11 b31 –1 Ct 1 b12 Mt Gt b32 1 Ранг данной матрицы равен трем, так как определитель квадратной подматрицы 3  3 не равен нулю: b12 b32 Достаточное 0  b12b32  0 . 1 условие идентификации для данного уравнения выполняется. Третье уравнение. Матрица коэффициентов при переменных, не входящих в уравнение, имеет вид I t 1 Gt Ct 1 b12 –1 1 b22 1 Ct It I уравнение –1 II уравнение Тождество 1 94 Ранг данной матрицы равен трем, так как определитель квадратной подматрицы 3  3 не равен нулю: b12 b22 Достаточное 0  b12b22  0 . 1 условие идентификации для данного уравнения выполняется. Таким образом, все уравнения модели сверхидентифицируемы. Приведенная форма модели в общем виде будет выглядеть следующим образом: Ct  A1  11Ct 1  12 I t 1  13 M t  14Gt  u1 , I  A   C   I   M   G  u ,  t 2 21 t 1 22 t 1 23 t 24 t 2  rt  A3   31Ct 1   32 I t 1   33 M t   34Gt  u3 , Yt  A4   41Ct 1   42 I t 1   43 M t   44Gt  u1. Лекция 13. Методы оценки параметров структурной формы модели Коэффициенты структурной модели могут быть оценены разными способами в зависимости от вида системы одновременных уравнений. Наибольшее распространение в литературе получили следующие методы оценивания коэффициентов структурной модели: 1) косвенный метод наименьших квадратов; 2) двухшаговый метод наименьших квадратов; 3) трехшаговый метод наименьших квадратов; 4) метод максимального правдоподобия с полной информацией; 5) метод максимального правдоподобия при информации. Рассмотрим вкратце сущность каждого из этих методов. 95 ограниченной Косвенный метод наименьших квадратов (КМНК) применяется в случае точно идентифицируемой структурной модели. Процедура применения КМНК предполагает выполнение следующих этапов работы. 1. Структурная модель преобразовывается в приведенную форму модели. 2. Для каждого уравнения приведенной формы модели обычным МНК оцениваются приведенные коэффициенты 3.  ij . Коэффициенты приведенной формы модели трансформируются в параметры структурной модели. Если система сверхидентифицируема, то КМНК не используется, ибо он не дает однозначных оценок для параметров структурной модели. В этом случае могут использоваться разные методы оценивания, среди которых наиболее распространенным и простым является двухшаговый метод наименьших квадратов (ДМНК). Основная идея ДМНК – на основе приведенной формы модели получить для сверхидентифицируемого уравнения теоретические значения эндогенных переменных, содержащихся в правой части уравнения. Далее, подставив их вместо фактических значений, можно применить обычный МНК к структурной форме сверхидентифицируемого уравнения. Метод получил название двухшагового МНК, ибо дважды используется МНК: на первом шаге при определении приведенной формы модели и нахождении на ее основе оценок теоретических значений эндогенной переменной y i   i1 x1   i 2 x2  ...   in xn и на втором шаге применительно к структурному сверхидентифицируемому уравнению при определении структурных коэффициентов модели по данным теоретических (расчетных) значений эндогенных переменных. Сверхидентифицируемая структурная модель может быть двух типов: 1) все уравнения системы сверхидентифицируемы; 96 система содержит наряду со сверхидентифицируемыми точно 2) идентифицируемые уравнения. Если все уравнения системы сверхидентифицируемые, то для оценки структурных коэффициентов каждого уравнения используется ДМНК. Если в системе есть точно идентифицируемые уравнения, то структурные коэффициенты по ним находятся из системы приведенных уравнений. Для примера, рассмотренного в предыдущем параграфе, необходимо применить именно двухшаговый метод наименьших квадратов. Но можно сделать следующее замечание. Если из модели исключить тождество дохода, число эндогенных переменных модели снизится на единицу – переменная Yt станет экзогенной. А число предопределенных переменных модели не изменится, т.к. из модели будет исключена эндогенная переменная Gt , но ее место займет переменная Yt . В правых частях функции потребления и функции денежного рынка будут находиться только предопределенные переменные. Функция инвестиций постулирует зависимость эндогенной переменной I t от эндогенной переменной rt (которая зависит только от предопределенных переменных) и предопределенной переменной I t 1 . Таким образом, мы получим рекурсивную систему. Ее параметры можно оценивать обычным МНК, и нет необходимости исследования уравнения на идентификацию. Косвенный и двухшаговый методы наименьших квадратов подробно описаны в литературе и рассматриваются как традиционные методы оценки коэффициентов структурной модели. Эти методы достаточно легко реализуемы. Метод максимального правдоподобия рассматривается как наиболее общий метод оценивания, результаты которого при нормальном распределении признаков совпадают с МНК. Однако при большом числе уравнений системы вычислительным этот метод процедурам. приводит Поэтому 97 в к достаточно качестве сложным модификации используется метод максимального правдоподобия при ограниченной информации (метод наименьшего дисперсионного отношения), разработанный в 1949 г. Т.Андерсоном и Н.Рубиным. В отличие от метода максимального правдоподобия в данном методе сняты ограничения на параметры, связанные с функционированием системы в целом. Это делает решение более простым, но трудоемкость вычислений остается достаточно высокой. Несмотря на его значительную популярность, к середине 60-х годов он был практически вытеснен двухшаговым методом наименьших квадратов (ДМНК) в связи с гораздо большей простотой последнего. Дальнейшим развитием ДМНК является трехшаговый МНК (ТМНК), предложенный в 1962 г. А.Зельнером и Г.Тейлом. Этот метод оценивания пригоден для всех видов уравнений структурной модели. Однако при некоторых ограничениях на параметры более эффективным оказывается ДМНК. 98 Лекция 14. Временные ряды При построении эконометрической модели используются два типа данных: 1) данные, характеризующие совокупность различных объектов в определенный момент времени; 2) данные, характеризующие один объект за ряд последовательных моментов времени. Модели, построенные по данным первого типа, называются пространственными моделями. Модели, построенные на основе второго типа данных, называются моделями временных рядов. Временной ряд (ряд динамики) – это совокупность значений какоголибо показателя за несколько последовательных моментов или периодов времени. Каждый уровень временного ряда формируется под воздействием большого числа факторов, которые условно можно подразделить на три группы: 1) факторы, формирующие тенденцию ряда; 2) факторы, формирующие циклические колебания ряда; 3) случайные факторы. Рассмотрим воздействие каждого фактора на временной ряд в отдельности. Большинство временных рядов экономических показателей имеют тенденцию, характеризующую совокупное долговременное воздействие множества факторов на динамику изучаемого показателя. Все эти факторы, взятые в отдельности, могут оказывать разнонаправленное воздействие на исследуемый показатель. Однако в совокупности они формируют его возрастающую или убывающую тенденцию. На рис. 4.1 показан гипотетический временной ряд, содержащий возрастающую тенденцию. 99 Рис. 4.1. Также изучаемый показатель может быть подвержен циклическим колебаниям. Эти колебания могут носить сезонный характер, поскольку экономическая деятельность ряда отраслей экономики зависит от времени года (например, цены на сельскохозяйственную продукцию в летний период выше, чем в зимний; уровень безработицы в курортных городах в зимний период выше по сравнению с летним). При наличии больших массивов данных за длительные промежутки времени можно выявить циклические колебания, связанные с общей динамикой конъюнктуры рынка. На рис. 4.2 представлен гипотетический временной ряд, содержащий только сезонную компоненту. Рис. 4.2. Некоторые временные ряды не содержат тенденции и циклической компоненты, а каждый следующий их уровень образуется как сумма среднего уровня ряда и некоторой (положительной или отрицательной) случайной компоненты. Пример ряда, содержащего только случайную компоненту, приведен на рис. 4.3. 100 Рис. 4.3. Очевидно, что реальные данные не следуют целиком и полностью из каких-либо описанных выше моделей. Чаще всего они содержат все три компоненты. Каждый их уровень формируется под воздействием тенденции, сезонных колебаний и случайной компоненты. В большинстве случаев фактический уровень временного ряда можно представить как сумму или произведение трендовой, циклической и случайной компонент. Модель, в которой временной ряд представлен как сумма перечисленных компонент, называется аддитивной моделью временного ряда. Модель, в которой временной ряд представлен как произведение перечисленных компонент, называется мультипликативной моделью временного ряда. Основная задача эконометрического исследования отдельного временного ряда – выявление и придание количественного выражения каждой из перечисленных выше компонент с тем, чтобы использовать полученную информацию для прогнозирования будущих значений ряда или при построении моделей взаимосвязи двух или более временных рядов. Лекция 15. Автокорреляция уровней временного ряда При наличии во временном ряде тенденции и циклических колебаний значения каждого последующего уровня ряда зависят от предыдущих. Корреляционную зависимость между последовательными временного ряда называют автокорреляцией уровней ряда. 101 уровнями Количественно ее можно измерить с помощью линейного коэффициента корреляции между уровнями исходного временного ряда и уровнями этого ряда, сдвинутыми на несколько шагов во времени. Формула для расчета коэффициента автокорреляции имеет вид: n r1   y t t 2 n  y t t 2  y1  yt 1  y2   y1  2 , n  y t 2 t 1  y2  (4.1) 2 где 1 n y1   yt , n  1 t 2 1 n y2   yt 1. n  1 t 2 Эту величину называют коэффициентом автокорреляции уровней ряда первого порядка, так как он измеряет зависимость между соседними уровнями ряда t и yt 1 . Аналогично можно определить коэффициенты автокорреляции второго и более высоких порядков. Так, коэффициент автокорреляции второго порядка характеризует тесноту связи между уровнями yt и yt 2 и определяется по формуле: n r2   y t t 3 n  y t 3 t  y3  yt 2  y4   y3  2 , n  y t 3 t 2  y4  (4.2) 2 где 1 n y3   yt , n  2 t 3 Число периодов, 1 n y4   yt2 . n  2 t 3 по которым рассчитывается коэффициент автокорреляции, называют лагом. С увеличением лага число пар значений, по которым рассчитывается коэффициент автокорреляции, уменьшается. Считается целесообразным для обеспечения статистической достоверности 102 коэффициентов автокорреляции использовать правило – максимальный лаг должен быть не больше n 4 . Свойства коэффициента автокорреляции. 1. Он строится по аналогии с линейным коэффициентом корреляции и таким образом характеризует тесноту только линейной связи текущего и предыдущего уровней ряда. Поэтому по коэффициенту автокорреляции можно судить о наличии линейной (или близкой к линейной) тенденции. Для некоторых временных рядов, имеющих сильную нелинейную тенденцию (например, параболу второго порядка или экспоненту), коэффициент автокорреляции уровней исходного ряда может приближаться к нулю. 2. По знаку коэффициента автокорреляции нельзя делать вывод о возрастающей или убывающей тенденции в уровнях ряда. Большинство временных рядов экономических данных содержат положительную автокорреляцию уровней, однако при этом могут иметь убывающую тенденцию. Последовательность коэффициентов автокорреляции уровней первого, второго и т.д. порядков называют автокорреляционной функцией временного ряда. График зависимости ее значений от величины лага (порядка коэффициента автокорреляции) называется коррелограммой. Анализ автокорреляционной функции и коррелограммы позволяет определить лаг, при котором автокорреляция наиболее высокая, а следовательно, и лаг, при котором связь между текущим и предыдущими уровнями ряда наиболее тесная, т.е. при помощи анализа автокорреляционной функции и коррелограммы можно выявить структуру ряда. Если наиболее высоким оказался коэффициент автокорреляции первого порядка, исследуемый ряд содержит только тенденцию. Если наиболее высоким оказался коэффициент автокорреляции порядка  , то ряд содержит циклические колебания с периодичностью в  моментов времени. Если ни 103 один из коэффициентов автокорреляции не является значимым, можно сделать одно из двух предположений относительно структуры этого ряда: либо ряд не содержит тенденции и циклических колебаний, либо ряд содержит сильную нелинейную тенденцию, для выявления которой нужно провести дополнительный анализ. Поэтому коэффициент автокорреляции уровней и автокорреляционную функцию целесообразно использовать для выявления во временном ряде наличия или отсутствия трендовой компоненты и циклической (сезонной) компоненты. Рассмотрим пример. Пусть имеются некоторые условные данные об общем количестве правонарушений на таможне одного из субъектов РФ (например, Республики Татарстан). Таблица 4.1 2002 2001 2000 1999 Год Квартал t I II III IV I II III IV I II III IV I II III IV 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 Количество возбужденных дел, yt 375 371 869 1015 357 471 992 1020 390 355 992 905 461 454 920 927 Построим поле корреляции: 104 Рис. 4.4. Уже исходя из графика видно, что значения y образуют пилообразную фигуру. Рассчитаем несколько последовательных коэффициентов автокорреляции. Для этого составляем первую вспомогательную таблицу. Таблица 4.2 t yt yt 1 yt  y1 yt 1  y2  yt  y1     yt 1  y2   yt  y1  2  yt 1  y2  1 1 2 3 4 5 6 7 8 9 10 11 12 2 375 371 869 1015 357 471 992 1020 390 355 992 905 3 – 375 371 869 1015 357 471 992 1020 390 355 992 4 – -328,33 169,67 315,67 -342,33 -228,33 292,67 320,67 -309,33 -344,33 292,67 205,67 5 – -288,13 -292,13 205,87 351,87 -306,13 -192,13 328,87 356,87 -273,13 -308,13 328,87 6 – 94601,72 -49565,70 64986,98 -120455,66 69898,66 -56230,69 105458,74 -110390,60 94046,85 -90180,41 67638,69 7 – 107800,59 28787,91 99647,55 117189,83 52134,59 85655,73 102829,25 95685,05 118563,15 85655,73 42300,15 8 – 83018,90 85339,94 42382,46 123812,50 93715,58 36913,94 108155,48 127356,20 74600,00 94944,10 108155,48 105 2 1 2 3 4 13 461 905 -238,33 14 454 461 -245,33 15 920 454 220,67 16 927 920 227,67 Сумма 10499 9947 9,05 Среднее 699,33 663,13 – значение 5 241,87 -202,13 -209,13 256,87 0,05 6 -57644,88 49588,55 -46148,72 58481,59 74085,16 7 56801,19 60186,81 48695,25 51833,63 1153766,39 8 58501,10 40856,54 43735,36 65982,20 1187469,73 – – – – Следует заметить, что среднее значение получается путем деления не на 16, а на 15, т.к. у нас теперь на одно наблюдение меньше. Теперь вычисляем коэффициент автокорреляции первого порядка по формуле (4.1): r1  74085,16  0,063294 . 1153756,39 1187469,73 Составляем вспомогательную таблицу для расчета коэффициента автокорреляции второго порядка. Таблица 4.3 t yt yt 2 1 2 3 1 375 – 2 371 – 3 869 375 4 1015 371 5 357 869 6 471 1015 7 992 357 8 1020 471 9 390 992 10 355 1020 11 992 390 12 905 355 13 461 992 14 454 905 15 920 461 16 927 454 Сумма 10128 9027 Среднее 723,43 644,79 значение yt  y3 yt 2  y4  yt  y3     yt 2  y4   yt  y3  4 – – 145,57 291,57 -366,43 -252,43 268,57 296,57 -333,43 -368,43 268,57 181,57 -262,43 -269,43 196,57 203,57 -0,02 5 – – -269,79 -273,79 224,21 370,21 -287,79 -173,79 347,21 375,21 -254,79 -289,79 347,21 260,21 -183,79 -190,79 -0,06 6 – – -39273,33 -79828,95 -82157,27 -93452,11 -77291,76 -51540,90 -115770,23 -138238,62 -68428,95 -52617,17 -91118,32 -70108,38 -36127,60 -38839,12 -1034792,71 7 – – 21190,62 85013,06 134270,94 63720,90 72129,84 87953,76 111175,56 135740,66 72129,84 32967,66 68869,50 72592,52 38639,76 41440,74 1037835,43 8 – – 72786,64 74960,96 50270,12 137055,44 82823,08 30202,96 120554,78 140782,54 64917,94 83978,24 120554,78 67709,24 33778,76 36400,82 1116776,36 – – – – – Следовательно 106 2  yt 2  y4  2 r2  1034792,71  0,961183 . 1037835,43 1116776,36 Аналогично находим коэффициенты автокорреляции более высоких порядков, а все полученные значения заносим в сводную таблицу. Таблица 4.4 Лаг 1 2 3 4 5 6 7 8 9 10 11 12 Коэффициент автокорреляции уровней 0,063294 –0,961183 –0,036290 0,964735 0,050594 –0,976516 –0,069444 0,964629 0,162064 -0,972918 -0,065323 0,985761 Коррелограмма: Рис. 4.5. 107 Анализ коррелограммы и графика исходных уровней временного ряда позволяет сделать вывод о наличии в изучаемом временном ряде сезонных колебаний периодичностью в четыре квартала. Лекция 16. Моделирование тенденции временного ряда Распространенным способом моделирования тенденции временного ряда является построение аналитической функции, характеризующей зависимость уровней ряда от времени, или тренда. Этот способ называют аналитическим выравниванием временного ряда. Поскольку зависимость от времени может принимать разные формы, для ее формализации можно использовать различные виды функций. Для построения трендов чаще всего применяются следующие функции: линейный тренд: y t  a  b  t ; гипербола: y t  a  b ; t экспоненциальный тренд: y t  e a bt (или y t  a  b ); t степенная функция: y t  a  t ; b полиномы различных степеней: y t  a  b1  t  b2  t  ...  bm  t . 2 Параметры каждого из перечисленных выше m трендов можно определить обычным МНК, используя в качестве независимой переменной время t  1, 2, ..., n , а в качестве зависимой переменной – фактические уровни временного ряда y t . Для нелинейных трендов предварительно проводят стандартную процедуру их линеаризации. Существует несколько способов определения типа тенденции. К числу наиболее распространенных способов относятся качественный анализ изучаемого процесса, построение и визуальный анализ графика зависимости уровней ряда от времени. В этих же целях можно использовать и коэффициенты автокорреляции уровней ряда. Тип тенденции можно 108 определить путем сравнения коэффициентов автокорреляции первого порядка, рассчитанных по исходным и преобразованным уровням ряда. Если временной ряд имеет линейную тенденцию, то его соседние уровни y t и y t 1 тесно коррелируют. В этом случае коэффициент автокорреляции первого порядка уровней исходного ряда должен быть высоким. Если временной ряд содержит нелинейную тенденцию, например, в форме экспоненты, то коэффициент автокорреляции первого порядка по логарифмам уровней исходного ряда будет выше, чем соответствующий коэффициент, рассчитанный по уровням ряда. Чем сильнее выражена нелинейная тенденция в изучаемом временном ряде, тем в большей степени будут различаться значения указанных коэффициентов. Выбор наилучшего уравнения в случае, когда ряд содержит нелинейную тенденцию, можно осуществить путем перебора основных форм тренда, расчета по каждому уравнению скорректированного коэффициента детерминации и средней ошибки аппроксимации. Этот метод легко реализуется при компьютерной обработке данных. Лекция 17. Моделирование сезонных колебаний Простейший подход к моделированию сезонных колебаний – это расчет значений сезонной компоненты методом скользящей средней и построение аддитивной или мультипликативной модели временного ряда. Общий вид аддитивной модели следующий: Y T  S  E. (4.3) Эта модель предполагает, что каждый уровень временного ряда может быть представлен как сумма трендовой ( T ), сезонной ( S ) и случайной ( E ) компонент. Общий вид мультипликативной модели выглядит так: Y T S E. (4.4) 109 Эта модель предполагает, что каждый уровень временного ряда может быть представлен как произведение трендовой ( T ), сезонной ( S ) и случайной ( E ) компонент. Выбор одной из двух моделей осуществляется на основе анализа структуры сезонных колебаний. Если амплитуда колебаний приблизительно постоянна, строят аддитивную модель временного ряда, в которой значения сезонной компоненты предполагаются постоянными для различных циклов. Если амплитуда сезонных колебаний возрастает или уменьшается, строят мультипликативную модель временного ряда, которая ставит уровни ряда в зависимость от значений сезонной компоненты. Построение аддитивной и мультипликативной моделей сводится к расчету значений T , S и E для каждого уровня ряда. Процесс построения модели включает в себя следующие шаги. 1) Выравнивание исходного ряда методом скользящей средней. 2) Расчет значений сезонной компоненты S . 3) Устранение сезонной компоненты из исходных уровней ряда и получение выровненных данных ( T  E ) в аддитивной или ( T  E ) в мультипликативной модели. 4) Аналитическое выравнивание уровней ( T  E ) или ( T  E ) и расчет значений T с использованием полученного уравнения тренда. 5) Расчет полученных по модели значений ( T  E ) или ( T  E ). 6) Расчет абсолютных и/или относительных ошибок. Если полученные значения ошибок не содержат автокорреляции, ими можно заменить исходные уровни ряда и в дальнейшем использовать временной ряд ошибок E для анализа взаимосвязи исходного ряда и других временных рядов. Методику построения каждой из моделей рассмотрим на примерах. Пример. Построение аддитивной модели временного ряда. Обратимся к данным об объеме правонарушений на таможне за четыре года, представленным в табл. 4.1. 110 Было показано, что данный временной ряд содержит сезонные колебания периодичностью 4, т.к. количество правонарушений в первыйвторой кварталы ниже, чем в третий-четвертый. Рассчитаем компоненты аддитивной модели временного ряда. Шаг 1. Проведем выравнивание исходных уровней ряда методом скользящей средней. Для этого: 1.1. Просуммируем уровни ряда последовательно за каждые четыре квартала со сдвигом на один момент времени и определим условные годовые объемы потребления электроэнергии (гр. 3 табл. 4.5). 1.2. Разделив полученные суммы на 4, найдем скользящие средние (гр. 4 табл. 4.5). Полученные таким образом выровненные значения уже не содержат сезонной компоненты. 1.3. Приведем эти значения в соответствие с фактическими моментами времени, для чего найдем средние значения из двух последовательных скользящих средних – центрированные скользящие средние (гр. 5 табл. 4.5). Таблица 4.5 № квартала, Количество правонарушений, t yt 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 2 375 371 869 1015 357 471 992 1020 390 355 992 905 461 454 920 927 Итого за четыре квартала 3 – 2630 2612 2712 2835 2840 2873 2757 2757 2642 2713 2812 2740 2762 – – Скользящая средняя за четыре квартала 4 – 657,5 653 678 708,75 710 718,25 689,25 689,25 660,5 678,25 703 685 690,5 – – 111 Центрированная скользящая средняя Оценка сезонной компоненты 5 – – 655,25 665,5 693,75 709,375 714,125 703,75 689,25 674,875 669,375 690,625 694 687,75 – – 6 – – 213,75 349,5 -336,75 -238,375 277,875 316,25 -299,25 -319,875 322,625 214,375 -233 -233,75 – – Шаг 2. Найдем оценки сезонной компоненты как разность между фактическими уровнями ряда и центрированными скользящими средними (гр. 6 табл. 4.5). Используем эти оценки для расчета значений сезонной компоненты S (табл. 4.6). Для этого найдем средние за каждый квартал (по всем годам) оценки сезонной компоненты Si . В моделях с сезонной компонентой обычно предполагается, что сезонные воздействия за период взаимопогашаются. В аддитивной модели это выражается в том, что сумма значений сезонной компоненты по всем кварталам должна быть равна нулю. Таблица 4.6 Показатели Год 1999 2000 2001 2002 Всего за i -й квартал Средняя оценка сезонной компоненты для i -го квартала, Si Скорректированная сезонная компонента, I – -336,75 -299,25 -233 -869 № квартала, i II III – 213,75 -238,375 277,875 -319,875 322,625 -233,75 – -792 814,25 IV 349,5 316,25 214,375 – 880,125 -289,667 -264 271,417 293,375 -292,448 -266,781 268,636 290,593 Si Для данной модели имеем: 289,667  264  271,417  293,375  11,125 . Корректирующий коэффициент: k  11,125 4  2,781. Рассчитываем скорректированные значения сезонной компоненты ( Si  Si  k ) и заносим полученные данные в таблицу 4.6. Проверим равенство нулю суммы значений сезонной компоненты: 292,448  266,781  268,636  290,593  0 . Шаг 3. Исключим влияние сезонной компоненты, вычитая ее значение из каждого уровня исходного временного ряда. Получим величины 112 T  E  Y  S (гр. 4 табл. 4.7). Эти значения рассчитываются за каждый момент времени и содержат только тенденцию и случайную компоненту. Таблица 4.7 t yt Si yt  Si T T S E  yt  T  S  E2 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 2 375 371 869 1015 357 471 992 1020 390 355 992 905 461 454 920 927 3 -292,448 -266,781 268,636 290,593 -292,448 -266,781 268,636 290,593 -292,448 -266,781 268,636 290,593 -292,448 -266,781 268,636 290,593 4 667,448 637,781 600,364 724,407 649,448 737,781 723,364 729,407 682,448 621,781 723,364 614,407 753,448 720,781 651,364 636,407 5 672,700 673,624 674,547 675,470 676,394 677,317 678,240 679,163 680,087 681,010 681,933 682,857 683,780 684,703 685,627 686,550 6 380,252 406,843 943,183 966,063 383,946 410,536 946,876 969,756 387,639 414,229 950,569 973,450 391,332 417,922 954,263 977,143 7 -5,252 -35,843 -74,183 48,937 -26,946 60,464 45,124 50,244 2,361 -59,229 41,431 -68,450 69,668 36,078 -34,263 -50,143 8 27,584 1284,721 5503,117 2394,830 726,087 3655,895 2036,175 2524,460 5,574 3508,074 1716,528 4685,403 4853,630 1301,622 1173,953 2514,320 Шаг 4. Определим компоненту T данной модели. Для этого проведем аналитическое выравнивание ряда ( T  E ) с помощью линейного тренда. Результаты аналитического выравнивания следующие: T  671,777  0,9233  t . Подставляя в это уравнение значения t  1, 2, ..., 16 , найдем уровни T для каждого момента времени (гр. 5 табл. 4.7). Шаг 5. Найдем значения уровней ряда, полученные по аддитивной модели. Для этого прибавим к уровням T значения сезонной компоненты для соответствующих кварталов (гр. 6 табл. 4.7). На одном графике отложим фактические значения уровней временного ряда и теоретические, полученные по аддитивной модели. 113 Рис. 4.6. Для оценки качества построенной модели применим сумму квадратов полученных абсолютных ошибок. R  1 2 E2  yt  y  2  1 37911,973  0,970 . 1252743,75 Следовательно, можно сказать, что аддитивная модель объясняет 97% общей вариации уровней временного ряда количества правонарушений по кварталам за 4 года. Шаг 6. Прогнозирование по аддитивной модели. Предположим, что по нашему примеру необходимо дать прогноз об общем объеме правонарушений на I и II кварталы 2003 года. Прогнозное значение Ft уровня временного ряда в аддитивной модели есть сумма трендовой и сезонной компонент. Для определения трендовой компоненты воспользуемся уравнением тренда 114 T  671,777  0,9233  t . Получим T17  671,777  0,9233 17  687,473 ; T18  671,777  0,9233 18  688,396 . Значения сезонных компонент за соответствующие кварталы равны: S1  292,448 и S2  266,781. Таким образом, F17  T17  S1  687,473  292,448  395 ; F18  T18  S2  688,396  266,781  422 . Т.е. в первые два квартала 2003 г. следовало ожидать порядка 395 и 422 правонарушений соответственно. Построение мультипликативной модели рассмотрим на данных предыдущего примера. Шаг 1. Методика, применяемая на этом шаге, полностью совпадает с методикой построения аддитивной модели. Таблица 4.8 № квартала, Количество правонарушений, t yt 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 2 375 371 869 1015 357 471 992 1020 390 355 992 905 461 454 920 927 Итого за четыре квартала 3 – 2630 2612 2712 2835 2840 2873 2757 2757 2642 2713 2812 2740 2762 – – Скользящая средняя за четыре квартала 4 – 657,5 653 678 708,75 710 718,25 689,25 689,25 660,5 678,25 703 685 690,5 – – 115 Центрированная скользящая средняя Оценка сезонной компоненты 5 – – 655,25 665,5 693,75 709,375 714,125 703,75 689,25 674,875 669,375 690,625 694 687,75 – – 6 – – 1,3262 1,5252 0,5146 0,6640 1,3891 1,4494 0,5658 0,5260 1,4820 1,3104 0,6643 0,6601 – – Шаг 2. Найдем оценки сезонной компоненты как частное от деления фактических уровней ряда на центрированные скользящие средние (гр. 6 табл. 4.8). Эти оценки используются для расчета сезонной компоненты S (табл. 4.9). Для этого найдем средние за каждый квартал оценки сезонной компоненты Si . Так же как и в аддитивной модели считается, что сезонные воздействия за период взаимопогашаются. В мультипликативной модели это выражается в том, что сумма значений сезонной компоненты по всем кварталам должна быть равна числу периодов в цикле. В нашем случае число периодов одного цикла равно 4. Таблица 4.9 Показатели Год 1999 2000 2001 2002 Всего за i -й квартал Средняя оценка сезонной компоненты для i -го квартала, Si Скорректированная сезонная компонента, I – 0,5146 0,5658 0,6643 1,7447 № квартала, i II III – 1,3262 0,6640 1,3891 0,5260 1,4820 0,6601 – 1,8501 4,1973 IV 1,5252 1,4494 1,3104 – 4,2850 0,5816 0,6167 1,3991 1,4283 0,5779 0,6128 1,3901 1,4192 Si Имеем 0,5816  0,6167  1,3991  1,4283  4,0257 . Определяем корректирующий коэффициент: k4 4,0257  0,9936 . Скорректированные значения сезонной компоненты Si получаются при умножении ее средней оценки Si на корректирующий коэффициент k . Проверяем условие равенство 4 суммы значений сезонной компоненты: 0,5779  0,6128  1,3901  1,4192  4 . 116 Шаг 3. Разделим каждый уровень исходного ряда на соответствующие значения сезонной компоненты. В результате получим величины T  E  Y S (гр. 4 табл. 4.10), которые содержат только тенденцию и случайную компоненту. Таблица 4.10 t yt Si yt Si 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 2 375 371 869 1015 357 471 992 1020 390 355 992 905 461 454 920 927 3 0,5779 0,6128 1,3901 1,4192 0,5779 0,6128 1,3901 1,4192 0,5779 0,6128 1,3901 1,4192 0,5779 0,6128 1,3901 1,4192 4 648,9012 605,4178 625,1349 715,1917 617,7539 768,6031 713,6177 718,7148 674,8572 579,3081 713,6177 637,6832 797,7159 740,8616 661,8229 653,1849 T S T 5 654,9173 658,1982 661,4791 664,7600 668,0409 671,3218 674,6027 677,8836 681,1645 684,4454 687,7263 691,0072 694,2881 697,5690 700,8499 704,1308 6 378,4767 403,3439 919,5221 943,4274 386,0608 411,3860 937,7652 962,0524 393,6450 419,4281 956,0083 980,6774 401,2291 427,4703 974,2515 999,3024 E  yt T  S  7 0,9908 0,9198 0,9451 1,0759 0,9247 1,1449 1,0578 1,0602 0,9907 0,8464 1,0377 0,9228 1,1490 1,0621 0,9443 0,9277 Шаг 4. Определим компоненту T в мультипликативной модели. Для этого рассчитаем параметры линейного тренда, используя уровни T  E . В результате получим уравнение тренда: T  651,6364  3,2809  t . Подставляя в это уравнение значения t  1, 2, ..., 16 , найдем уровни T для каждого момента времени (гр. 5 табл. 4.10). Шаг 5. Найдем уровни ряда, умножив значения T на соответствующие значения сезонной компоненты (гр. 6 табл. 4.10). На одном графике откладываем фактические значения уровней временного теоретические, полученные по мультипликативной модели. 117 ряда и Рис. 4.7. Расчет ошибки в мультипликативной модели производится по формуле: E  Y T  S  . Для сравнения мультипликативной модели и других моделей временного ряда можно, по аналогии с аддитивной моделью, использовать сумму квадратов абсолютных ошибок  yt  T  S  : 2 R 2  y T  S  1 t 2  yt  y  2  1 43065,02  0,966 . 1252743,75 Сравнивая показатели детерминации аддитивной и мультипликативной моделей, делаем вывод, что они примерно одинаково аппроксимируют исходные данные. 118 Шаг 6. Прогнозирование по мультипликативной модели. Если предположить, что по нашему примеру необходимо дать прогноз об общем объеме правонарушений на I и II кварталы 2003 года, прогнозное значение Ft уровня временного ряда в мультипликативной модели есть произведение трендовой и сезонной компонент. Для определения трендовой компоненты воспользуемся уравнением тренда T  651,6364  3,2809  t . Получим T17  651,6364  3,2809 17  707,4117 ; T18  651,6364  3,2809 18  710,6926 . Значения сезонных компонент за соответствующие кварталы равны: S1  0,5779 и S2  0,6128 . Таким образом F17  T17  S1  707,4117  0,5779  409 ; F18  T18  S2  710,6926  0,6128  436 . Т.е. в первые два квартала 2003 г. следовало ожидать порядка 409 и 436 правонарушений соответственно. Таким образом, аддитивная и мультипликативная модели дают примерно одинаковый результат по прогнозу. Лекция 18. Автокорреляция в остатках. Критерий ДарбинаУотсона Автокорреляция в остатках может быть вызвана несколькими причинами, имеющими различную природу. 1. Она может быть связана с исходными данными и вызвана наличием ошибок измерения в значениях результативного признака. 2. В ряде случаев автокорреляция может быть следствием неправильной спецификации модели. Модель может не включать фактор, который оказывает существенное воздействие на результат и влияние которого отражается в остатках, вследствие чего последние могут оказаться 119 автокоррелированными. Очень часто этим фактором является фактор времени t . От истинной автокорреляции остатков следует отличать ситуации, когда причина автокорреляции заключается в неправильной спецификации функциональной формы модели. В этом случае следует изменить форму модели, а не использовать специальные методы расчета параметров уравнения регрессии при наличии автокорреляции в остатках. Один из более распространенных методов определения автокорреляции в остатках – это расчет критерия Дарбина-Уотсона: n d   t 2 t   t 1  . n  t 1 Т.е. величина 2 (4.5) 2 t d есть отношение суммы квадратов разностей последовательных значений остатков к остаточной сумме квадратов по модели регрессии. Можно показать, что при больших значениях n существует следующее соотношение между критерием Дарбина-Уотсона d и коэффициентом автокорреляции остатков первого порядка r1 : d  2  1  r1  . (4.6) Таким образом, если в остатках существует полная положительная автокорреляция и r1  1, то d  0 . Если в остатках полная отрицательная автокорреляция, то r1  1 и, следовательно, d  4 . Если автокорреляция остатков отсутствует, то r1  0 и d  2 . Т.е. 0  d  4 . Алгоритм выявления автокорреляции остатков на основе критерия Дарбина-Уотсона следующий. Выдвигается гипотеза H 0 об отсутствии * автокорреляции остатков. Альтернативные гипотезы H1 и H1 состоят, соответственно, в наличии положительной 120 или отрицательной автокорреляции в остатках. Далее по специальным таблицам (см. приложение E) определяются критические значения критерия ДарбинаУотсона d L и dU для заданного числа наблюдений n , числа независимых переменных модели m и уровня значимости  . По этим значениям числовой промежуток  0; 4 разбивают на пять отрезков. Принятие или отклонение каждой из гипотез с вероятностью 1   осуществляется следующим образом: 0  d  d L – есть положительная автокорреляция остатков, H 0 отклоняется, с вероятностью P  1   принимается H1 ; d L  d  dU – зона неопределенности; dU  d  4  dU – нет оснований отклонять H 0 , т.е. автокорреляция остатков отсутствует; 4  dU  d  4  d L – зона неопределенности; 4  d L  d  4 – есть отрицательная автокорреляция остатков, H 0 отклоняется, с вероятностью P  1   принимается H1 . * Если фактическое значение критерия Дарбина-Уотсона попадает в зону неопределенности, то на практике предполагают существование автокорреляции остатков и отклоняют гипотезу H 0 . Пример. Проверим гипотезу о наличии автокорреляции в остатках для аддитивной модели нашего временного промежуточные расчеты заносим в таблицу: 121 ряда. Исходные данные и Таблица 4.11 t yt t  E 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 2 375 371 869 1015 357 471 992 1020 390 355 992 905 461 454 920 927 Сумма 3 -5,252 -35,843 -74,183 48,937 -26,946 60,464 45,124 50,244 2,361 -59,229 41,431 -68,450 69,668 36,078 -34,263 -50,143 -0,002  t 1  t   t 1  4 5 – -5,252 -35,843 -74,183 48,937 -26,946 60,464 45,124 50,244 2,361 -59,229 41,431 -68,45 69,668 36,078 -34,263 50,141  t2 2 6 27,584 1284,7 5503,1 2394,8 726,09 3655,9 2036,2 2524,5 5,574 3508,1 1716,5 4685,4 4853,6 1301,6 1174 2514,3 37911,97 – 935,8093 1469,956 15158,53 5758,23 7640,508 235,3156 26,2144 2292,782 3793,328 10132,44 12073,83 19076,58 1128,288 4947,856 252,1744 84921,85 Фактическое значение критерия Дарбина-Уотсона для данной модели составляет: d 84921,85  2,24 . 37911,97 Сформулируем гипотезы: H 0 – в остатках нет автокорреляции; H1 – в * остатках есть положительная автокорреляция; H1 – в остатках есть отрицательная автокорреляция. Зададим уровень значимости таблице значений критерия Дарбина-Уотсона   0,05 . По определим для числа наблюдений n  16 и числа независимых параметров модели k  1 (мы рассматриваем только зависимость от времени t ) критические значения d L  1,10 и dU  1,37 . Фактическое значение d -критерия Дарбина-Уотсона попадает в интервал dU  d  4  dU (1,37<2,24<2,63). Следовательно, нет основания отклонять гипотезу H 0 об отсутствии автокорреляции в остатках. 122 Существует несколько ограничений на применение критерия ДарбинаУотсона. 1. Он неприменим к моделям, включающим в качестве независимых переменных лаговые значения результативного признака. 2. Методика расчета и использования критерия Дарбина-Уотсона направлена только на выявление автокорреляции остатков первого порядка. 3. Критерий Дарбина-Уотсона дает достоверные результаты только для больших выборок. 123 Приложение Математико-статистические таблицы E.1. Таблица значений F -критерия Фишера при уровне значимости   0,05 k1 k2 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 35 40 45 1 2 3 4 5 6 8 12 24  2 161,5 18,51 10,13 7,71 6,61 5,99 5,59 5,32 5,12 4,96 4,84 4,75 4,67 4,60 4,54 4,49 4,45 4,41 4,38 4,35 4,32 4,30 4,28 4,26 4,24 4,22 4,21 4,20 4,18 4,17 4,12 4,08 4,06 3 199,5 19,00 9,55 6,94 5,79 5,14 4,74 4,46 4,26 4,10 3,98 3,88 3,80 3,74 3,68 3,63 3,59 3,55 3,52 3,49 3,47 3,44 3,42 3,40 3,38 3,37 3,35 3,34 3,33 3,32 3,26 3,23 3,21 4 215,7 19,16 9,28 6,59 5,41 4,76 4,35 4,07 3,86 3,71 3,59 3,49 3,41 3,34 3,29 3,24 3,20 3,16 3,13 3,10 3,07 3,05 3,03 3,01 2,99 2,98 2,96 2,95 2,93 2,92 2,87 2,84 2,81 5 224,6 19,25 9,12 6,39 5,19 4,53 4,12 3,84 3,63 3,48 3,36 3,26 3,18 3,11 3,06 3,01 2,96 2,93 2,90 2,87 2,84 2,82 2,80 2,78 2,76 2,74 2,73 2,71 2,70 2,69 2,64 2,61 2,58 6 230,2 19,30 9,01 6,26 5,05 4,39 3,97 3,69 3,48 3,33 3,20 3,11 3,02 2,96 2,90 2,85 2,81 2,77 2,74 2,71 2,68 2,66 2,64 2,62 2,60 2,59 2,57 2,56 2,54 2,53 2,48 2,45 2,42 7 233,9 19,33 8,94 6,16 4,95 4,28 3,87 3,58 3,37 3,22 3,09 3,00 2,92 2,85 2,79 2,74 2,70 2,66 2,63 2,60 2,57 2,55 2,53 2,51 2,49 2,47 2,46 2,44 2,43 2,42 2,37 2,34 2,31 8 238,9 19,37 8,84 6,04 4,82 4,15 3,73 3,44 3,23 3,07 2,95 2,85 2,77 2,70 2,64 2,59 2,55 2,51 2,48 2,45 2,42 2,40 2,38 2,36 2,34 2,32 2,30 2,29 2,28 2,27 2,22 2,18 2,15 9 243,9 19,41 8,74 5,91 4,68 4,00 3,57 3,28 3,07 2,91 2,79 2,69 2,60 2,53 2,48 2,42 2,38 2,34 2,31 2,28 2,25 2,23 2,20 2,18 2,16 2,15 2,13 2,12 2,10 2,09 2,04 2,00 1,97 10 249,0 19,45 8,64 5,77 4,53 3,84 3,41 3,12 2,90 2,74 2,61 2,50 2,42 2,35 2,29 2,24 2,19 2,15 2,11 2,08 2,05 2,03 2,00 1,98 1,96 1,95 1,93 1,91 1,90 1,89 1,83 1,79 1,76 11 254,3 19,50 8,53 5,63 4,36 3,67 3,23 2,93 2,71 2,54 2,40 2,30 2,21 2,13 2,07 2,01 1,96 1,92 1,88 1,84 1,81 1,78 1,76 1,73 1,71 1,69 1,67 1,65 1,64 1,62 1,57 1,51 1,48 124 1 50 60 70 80 90 100 125 150 200 300 400 500 1000  2 4,03 4,00 3,98 3,96 3,95 3,94 3,92 3,90 3,89 3,87 3,86 3,86 3,85 3,84 3 3,18 3,15 3,13 3,11 3,10 3,09 3,07 3,06 3,04 3,03 3,02 3,01 3,00 2,99 4 2,79 2,76 2,74 2,72 2,71 2,70 2,68 2,66 2,65 2,64 2,63 2,62 2,61 2,60 5 2,56 2,52 2,50 2,49 2,47 2,46 2,44 2,43 2,42 2,41 2,40 2,39 2,38 2,37 6 2,40 2,37 2,35 2,33 2,32 2,30 2,29 2,27 2,26 2,25 2,24 2,23 2,22 2,21 7 2,29 2,25 2,23 2,21 2,20 2,19 2,17 2,16 2,14 2,13 2,12 2,11 2,10 2,09 8 2,13 2,10 2,07 2,06 2,04 2,03 2,01 2,00 1,98 1,97 1,96 1,96 1,95 1,94 9 1,95 1,92 1,89 1,88 1,86 1,85 1,83 1,82 1,80 1,79 1,78 1,77 1,76 1,75 10 1,74 1,70 1,67 1,65 1,64 1,63 1,60 1,59 1,57 1,55 1,54 1,54 1,53 1,52 11 1,44 1,39 1,35 1,31 1,28 1,26 1,21 1,18 1,14 1,10 1,07 1,06 1,03 1 E.2. Критические значения t -критерия Стьюдента при уровне значимости 0,10, 0,05, 0,01 (двухсторонний) Число степеней свободы d.f. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17  00,10 0,05 0,01 6,3138 2,9200 2,3534 2,1318 2,0150 1,9432 1,8946 1,8595 1,8331 1,8125 1,7959 1,7823 1,7709 1,7613 1,7530 1,7459 1,7396 12,706 4,3027 3,1825 2,7764 2,5706 2,4469 2,3646 2,3060 2,2622 2,2281 2,2010 2,1788 2,1604 2,1448 2,1315 2,1199 2,1098 63,657 9,9248 5,8409 4,5041 4,0321 3,7074 3,4995 3,3554 3,2498 3,1693 3,1058 3,0545 3,0123 2,9768 2,9467 2,9208 2,8982 Число степеней свободы d.f. 18 19 20 21 22 23 24 25 26 27 28 29 30 40 60 120  125  00,10 0,05 0,01 1,7341 1,7291 1,7247 1,7207 1,7171 1,7139 1,7109 1,7081 1,7056 1,7033 1,7011 1,6991 1,6973 1,6839 1,6707 1,6577 1,6449 2,1009 2,0930 2,0860 2,0796 2,0739 2,0687 2,0639 2,0595 2,0555 2,0518 2,0484 2,0452 2,0423 2,0211 2,0003 1,9799 1,9600 2,8784 2,8609 2,8453 2,8314 2,8188 2,8073 2,7969 2,7874 2,7787 2,7707 2,7633 2,7564 2,7500 2,7045 2,6603 2,6174 2,5758 E.3. Значения статистик Дарбина-Уотсона d L dU при 5%-ном уровне значимости n 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 k 1 dU dL 0,61 0,70 0,76 0,82 0,88 0,93 0,97 1,01 1,05 1,08 1,10 1,13 1,16 1,18 1,20 1,22 1,24 1,26 1,27 1,29 1,30 1,32 1,33 1,34 1,35 1,40 1,36 1,33 1,32 1,32 1,32 1,33 1,34 1,35 1,36 1,37 1,38 1,39 1,40 1,41 1,42 1,43 1,44 1,45 1,45 1,46 1,47 1,48 1,48 1,49 k 2 dU dL 0,47 0,56 0,63 0,70 0,66 0,81 0,86 0,91 0,95 0,98 1,02 1,05 1,08 1,10 1,13 1,15 1,17 1,19 1,21 1,22 1,24 1,26 1,27 1,28 1,90 1,78 1,70 1,64 1,60 1,58 1,56 1,55 1,54 1,54 1,54 1,53 1,53 1,54 1,54 1,54 1,54 1,55 1,55 1,55 1,56 1,56 1,56 1,57 k 3 dU dL 0,37 0,46 0,53 0,60 0,66 0,72 0,77 0,82 0,86 0,90 0,93 0,97 1,00 1,03 1,05 1,08 1,10 1,12 1,14 1,16 1,18 1,20 1,21 126 2,29 2,13 2,02 1,93 1,86 1,82 1,78 1,75 1,73 1,71 1,69 1,68 1,68 1,67 1,66 1,66 1,66 1,66 1,65 1,65 1,65 1,65 1,65 k 4 dU dL 0,69 0,74 0,78 0,82 0,85 0,90 0,93 0,96 0,99 1,01 1,04 1,06 1,08 1,10 1,12 1,14 1,97 1,93 1,90 1,87 1,85 1,83 1,81 1,80 1,79 1,78 1,77 1,76 1,76 1,75 1,74 1,74 k 5 dU dL 0,56 0,62 0,67 0,71 0,75 0,79 0,83 0,86 0,90 0,93 0,95 0,98 1,01 1,03 1,05 1,07 2,21 2,15 2,10 2,06 2,02 1,99 1,96 1,94 1,92 1,99 1,89 1,88 1,86 1,85 1,84 1,83 Литература Основная: 1. Эконометрика: Учебник / Под ред. И.И. Елисеевой. – М.: Финансы и статистика, 2002. – 344 с. 2. Практикум по эконометрике: Учебн. пособие / Под ред. И.И. Елисеевой. – М.: Финансы и статистика, 2003. – 192 с. 3. Эконометрика: Учебно-методическое пособие / Шалабанов А.К., Роганов Д.А. – Казань: ТИСБИ, 2002. – 56 с. 4. Доугерти К. Введение в эконометрику: Пер. с англ. – М.: ИНФРА-М, 1999. – 402 с. Дополнительная: 5. Кремер Н.Ш., Путко Б.А. Эконометрика: Учебник для вузов / Под ред. проф. Н.Ш. Кремера. – М.: ЮНИТИ-ДАНА, 2002. – 311 с. 6. Магнус Я.Р., Катышев П.К., Пересецкий А.А. Эконометрика. Начальный курс: Учебник. – М.: Дело, 2001. – 400 с. 7. Катышев П.К., Магнус Я.Р., Пересецкий А.А. Сборник задач к начальному курсу эконометрики. – М.: Дело, 2002. – 208 с. 8. Прикладная статистика. Основы эконометрики: Учебник для вузов: В 2-х т. – Т. 1. Айвазян С.А., Мхитарян В.С. Теория вероятностей и прикладная статистика. – М: ЮНИТИ-ДАНА, 2001. – 656 с. 9. Прикладная статистика. Основы эконометрики: Учебник для вузов: В 2-х т. – Т. 2. Айвазян С.А. Основы эконометрики. – М: ЮНИТИДАНА, 2001. – 432 с. 10. Эконометрика: Учебник / Тихомиров Н.П., Дорохина Е.Ю. – М.: Издательство «Экзамен», 2003. – 512 с. 11. Сборник задач по эконометрике: Учебное пособие для студентов экономических вузов / Сост. Е.Ю. Дорохина, Л.Ф. Преснякова, Н.П. Тихомиров. – М.: Издательство «Экзамен», 2003. – 224 с. 127 12. Кулинич Е.И. Эконометрия. – М.: Финансы и статистика, 2001. – 13. Эконометрика: Учебн. пособие для вузов / А.И. Орлов – М.: 304 с. Издательство «Экзамен», 2002. – 576 с. 14. Мардас А.Н. Эконометрика. – СПб: Питер, 2001. – 144 с. 15. Гмурман В.Е. Теория вероятностей и математическая статистика: Учебн. пособие для вузов. – М.: Высш. шк., 2002. – 479 с. 128