Введение в анализ временных рядов

Введение в анализ временных рядов Эконометрика. Осень 2020. Кеткина О.С. Содержание 1. Что такое временной ряд…. 4 2. Проблема стационарности процесса временного ряда….9 3. Что такое одномерные модели временных рядов….17 4. Порядок интегрированности временного лага….39 5. Тестирование стационарности/нестационарности временного ряда…..44 Эконометрика. Осень 2020. Кеткина О.С. Литература 1. М. Вербик Путеводитель по современно й экономике. Гл. 8. 2. Магнус Я.Р., Катышев П.К., Пересецкий А.А. Эконометрика. Начальный курс: Учеб. — 6-е изд., перераб. и доп. — М.: Дело, 2004. Гл. 11. Эконометрика. Осень 2020. Кеткина О.С. Временной ряд Эконометрика. Осень 2020. Кеткина О.С. Временной ряд • Эти наблюдения будут рассматриваться как реализации случайных переменных, которые описываются некоторым стохастическим (случайным) процессом. • Таким образом временной ряд (ВР) обычно интерпретируется как одна из возможных реализаций последовательности случайных величин, представляющей собой случайный (стохастический) процесс с дискретным временем. • Соответственно, анализируемый ряд обладает свойствами этого стохастического процесса, который мы попытаемся описать относительно простой моделью. • Важна взаимосвязь наблюдений, соответствующих разным периодам времени, для того, чтобы мы могли использовать динамические свойства ряда для предсказаний на будущие периоды времени. Эконометрика. Осень 2020. Кеткина О.С. Терминология (1/2) Эконометрика. Осень 2020. Кеткина О.С. Терминология (2/2) Эконометрика. Осень 2020. Кеткина О.С. Лаговый оператор Эконометрика. Осень 2020. Кеткина О.С. Стационарность временного ряда Интуитивно, «стационарность» означает, что поведение ВР в будущем «похоже» на его поведение в прошлом. Точнее, основные вероятностные характеристики ВР неизменны во времени. Именно «неизменность поведения» во времени позволяет строить прогнозы стационарных временных рядов на основе их предыстории. Эконометрика. Осень 2020. Кеткина О.С. Формальные определения Два типа стационарности: 1.Сильная стационарность (strictly stationarity) Стационарность в узком смысле «Постоянство законов распределения». 2.Слабая стационарность(weakly stationarity) Стационарность в широком смысле Ковариационная (2-го порядка). «Постоянство первых и вторых моментов распределения (т.е. постоянство мат.ожиданий, дисперсий, ковариаций)». Эконометрика. Осень 2020. Кеткина О.С. Строгая стационарность Временной ряд называется стационарным в узком смысле (строго стационарным), если совместное распределение m наблюдений 𝑌𝑡1,𝑌𝑡2…𝑌𝑡𝑚 не зависит от сдвига во времени, то есть совпадает с распределением 𝑌𝑡1+𝑘,𝑌𝑡2+𝑘…𝑌𝑡𝑚+𝑘 для любых 𝑚, 𝑡1,…𝑡𝑚, 𝑘. Эконометрика. Осень 2020. Кеткина О.С. Слабая стационарность Временной ряд называется стационарным в широком смысле (слабо стационарным), если для всех 𝑡: 𝐸(𝑌𝑡) = 𝜇 < ∞ 𝑉(𝑌𝑡) = 𝛾0 𝐶𝑜𝑣(𝑌𝑡,𝑌𝑡−𝑘) = 𝛾𝑘 (обратите внимание, 𝜇, 𝛾0 и 𝛾𝑘 не зависят от 𝑡) Т.е. для слабой стационарности нам достаточно чтобы среднее, дисперсии и ковариации ряда не зависели от времени, а не все распределение было независимо от сдвига во времени. Эконометрика. Осень 2020. Кеткина О.С. Пример нестационарного ряда Эконометрика. Осень 2020. Кеткина О.С. Пример стационарного ряда Эконометрика. Осень 2020. Кеткина О.С. 14 Стационарные ряды: автокорреляционная функция При условии слабой стационарности мы можем определить: • Коэффициент автоковариации 𝑘-го порядка (т.е. ковариация между Yt и одним из его лагов Yt-k : Т.к. автоковариации зависимы от единиц, в которых измеряются переменные, то обычно их стандартизируют с помощью перехода к автокорреляциям. • Коэффициент автокорреляции 𝑘-го порядка: Стационарные ряды: автокорреляционная функция • Коэффициент автокорреляции 𝑘-го порядка: • 𝜌𝑘 как функция от 𝑘 называется автокорреляционной функцией (АКФ, ACF). • АКФ —это наглядный инструмент для анализа свойств временного ряда. Эконометрика. Осень 2020. Кеткина О.С. Одномерные модели временных рядов Одномерные модели временных рядов – текущие значения переменной связаны с ее прошлыми значениями (либо напрямую, либо косвенно). Для прогнозирования будущих значений переменной используется информация только о прошлых значениях этой переменной. Эконометрика. Осень 2020. Кеткина О.С. Важные примеры одномерных случайных процессов 0. Белый шум 1. AR(1)—процесс авторегрессии первого порядка 2. AR(p)—процесс авторегрессии порядка p 3. MA(1)—процесс скользящего среднего первого порядка 4. MA(q)—процесс скользящего среднего порядка q 5. ARMA(p,q)—процесс авторегрессии со скользящим средним в остатках 6. RW —случайное блуждание 7. ARIMA(p,d,q) —интегрированный порядка k процесс авторегрессии со скользящим средним в остатках. Эконометрика. Осень 2020. Кеткина О.С. Белый шум • Процессом белого шума мы будем называть последовательность независимых и одинаково распределенных случайных величин с нулевым математическим ожиданием и дисперсией 𝜎2 (некоторой постоянной величиной): 𝜀1,𝜀2,…,𝜀𝑡−1,𝜀𝑡,… Эконометрика. Осень 2020. Кеткина О.С. Белый шум Эконометрика. Осень 2020. Кеткина О.С. MA(1)—процесс скользящего среднего первого порядка Один из простых способов смоделировать зависимость между последовательными наблюдениями мог бы состоять в том, что 𝑦𝑡 равняется постоянному среднему 𝛿, плюс сумма случайной переменной 𝜀𝑡 и константы 𝛼, умноженной на ее значение, запаздывающее на один период, то есть, 𝑦𝑡=𝛿+𝜀𝑡+𝛼𝜀𝑡−1 где 𝜀𝑡 − последовательность независимых и одинаково распределенных случайных величин с нулевым математическим ожиданием и дисперсией 𝜎2 (𝜀𝑡 − белый шум). Эконометрика. Осень 2020. Кеткина О.С. MA(1)—процесс скользящего среднего первого порядка • • • • мат. ожидание 𝜇 = 𝛿, дисперсия 𝛾0 =(1+𝛼2)·𝜎2, автоковариации 1-го порядка 𝛾1=𝛼·𝜎2, автоковариации 2-го и более высоких порядков равна нулю: 𝛾2= 𝛾3 = ⋯ = 0 • автокорреляционная функция 1-го порядка • автокорреляционные функции 2-го и более высоких порядков равны нулю. Эконометрика. Осень 2020. Кеткина О.С. MA(1)—процесс скользящего среднего первого порядка Т.е. (𝜌𝑘) автокорреляционная функция (АКФ, ACF) для MA(1) будет выглядеть следующим образом (α = 0,9): Т.е., структура скользящего среднего первого порядка подразумевает, что наблюдения, которые разделяются двумя или более тактами времени, являются некоррелироваными. Эконометрика. Осень 2020. Кеткина О.С. MA(1)—процесс скользящего среднего первого порядка • возмущения имеют эффект только в двух последующих периодах. Это означает, что при отсутствии новых возмущений, ряды возвращаются к своим средним значениям после двух периодов. Эконометрика. Осень 2020. Кеткина О.С. MA(1)—процесс скользящего среднего первого порядка Сам МА(1) процесс скользящего среднего первого порядка (ряды данных) выглядит так (α = 0,9); дисперсия = 1, мат. ожидание = 0, абсцисса – время (t): 𝑦𝑡=𝛿+𝜀𝑡+𝛼𝜀𝑡−1 Эконометрика. Осень 2020. Кеткина О.С. AR(1)—процесс авторегрессии 1-го порядка • εt – белый шум, • мат. ожидание • Дисперсия • Коэффициент автоковариации 𝑘-го порядка (т.е. ковариация между Yt и одним из его лагов Yt-k • автокорреляционная функция k-го порядка: AR(1)—процесс авторегрессии 1-го порядка Т.е. (𝜌𝑘) автокорреляционная функция (АКФ, ACF) для AR(1) будет выглядеть следующим образом (для α = 0,9): Т.е., структура авторегрессии 1-го порядка подразумевает, что после возмущения (шока) для этого ряда требуется длительный период, чтобы возвратиться к своему среднему значению. Автокорреляционная функция показывает экспоненциальное затухание, чтобы АКФ достигла нуля. AR(1)—процесс авторегрессии 1-го порядка Сам АR(1) процесс авторегрессии 1-го порядка (ряды данных) выглядит так (α = 0,9); дисперсия = 1, мат. ожидание = 0, абсцисса – время (t): Эконометрика. Осень 2020. Кеткина О.С. AR(1)—процесс авторегрессии 1-го порядка Эконометрика. Осень 2020. Кеткина О.С. MA(q)—процесс скользящего среднего порядка q Возможно, что у MA(1) и АR(1) структура слишком ограничена, и нам захочется поискать более общие представления временного ряда. 𝑦𝑡=𝛿+𝜀𝑡+𝛼1𝜀𝑡−1+⋯+𝛼𝑞𝜀𝑡−𝑞 —процесс скользящего среднего порядка q - MA(q) Эконометрика. Осень 2020. Кеткина О.С. AR(p)—процесс авторегрессии порядка p • Запись с использованием лагового оператора: Эконометрика. Осень 2020. Кеткина О.С. Процесс ARMA(p, q) • Естественное обобщение подхода к моделированию: объединение AR и MA процессов в одну модель ARMA Эконометрика. Осень 2020. Кеткина О.С. Случайное блуждание (Random walk, RW) • Стационарен ли этот процесс? Запишем процесс через лаговый оператор Характеристическое уравнение: 1−𝑧=0 𝑧 = 1. Единичный корень => Процесс не стационарен! Наличие единичного корня в характеристическом уравнении говорит о том, что процесс нестационарен. Эконометрика. Осень 2020. Кеткина О.С. Случайное блуждание (Random walk, RW) Также проверить ряд на стационарность можно следующим образом: проверяем, что процесс 𝑦𝑡 = 𝑦𝑡−1 + 𝜀𝑡 не обладает независящей от времени (t) дисперсией. Здесь: • 𝐸(𝑦𝑡) = 𝑦0 (если 𝑦0 = 𝑐𝑜𝑛𝑠𝑡) а вот дисперсия не является независящей от времени величиной: • 𝑉𝑎𝑟(𝑦𝑡)=𝑡∗𝜎2 => т.е. процесс не стационарен. Эконометрика. Осень 2020. Кеткина О.С. Случайное блуждание (Random walk, RW) Эконометрика. Осень 2020. Кеткина О.С. Случайное блуждание (Random walk, RW) • Более общий случай —случайное блуждание с дрейфом: 𝑦𝑡 = 𝛿 + 𝑦𝑡−1 + 𝜀𝑡 • 𝐸(𝑦𝑡) = 𝑦0 + 𝑡∗𝛿 • 𝑉𝑎𝑟(𝑦𝑡) = 𝑡∗𝜎2 и дисперсия и мат. ожидание зависят от времени (от t) => Процесс не стационарен. Эконометрика. Осень 2020. Кеткина О.С. Случайное блуждание (Random walk, RW) • Как устроена первая разность для этого процесса, т.е. (𝑦𝑡 − 𝑦𝑡−1) ? • Она стационарна: 𝑦𝑡 − 𝑦𝑡−1= 𝛿 + 𝜀𝑡 ∆𝑦𝑡 = 𝛿 + 𝜀𝑡 • 𝐸(𝑦𝑡) = 𝛿 • 𝑉𝑎𝑟(𝑦𝑡) = 0 Эконометрика. Осень 2020. Кеткина О.С. Случайное блуждание (Random walk, RW) Процесс случайного блуждания не стационарен, однако его первая разность является стационарным процессом. На практике многие финансовые или макроэкономические переменные также не стационарны сами по себе, но стационарны в разностях. Это приводит нас к полезному определению… Эконометрика. Осень 2020. Кеткина О.С. Порядок интегрированности ВР • Если процесс стационарен, то он называется процессом, интегрированным нулевого порядка. Обозначение 𝐼(0). • Если процесс не стационарен, а его первые разности стационарны, то он называется процессом, интегрированным 1-го порядка. 𝐼(1). Эконометрика. Осень 2020. Кеткина О.С. Порядок интегрированности ВР • Если процесс 𝑦𝑡 не стационарен, его первые разности ∆𝑦𝑡 тоже не стационарны, но его вторые разности ∆2𝑦𝑡 = (∆𝑦𝑡 − ∆𝑦𝑡−1) стационарны, то процесс называется интегрированным 2-гопорядка. 𝐼(2) • Аналогично определяется процесс интегрированный 𝑘-го порядка. 𝐼(𝑘) • На практике в экономике почти не встречается процессов интегрированных выше второго порядка. Эконометрика. Осень 2020. Кеткина О.С. Процесс ARIMA(p, d, q) Если процесс является интегрированным 𝑘-го порядка, и его разность 𝑘-го порядка описывается процессом ARMA(p,q), то исходный процесс называется интегрированным процессом авторегрессии со скользящим средним в остатках ARIMA(p,d,q). Эконометрика. Осень 2020. Кеткина О.С. Процесс ARIMA(p, d, q) Процесс содержит единичный корень (1-L)=0 => L=1, то есть нестационарен. Рассмотрим первые разности процесса. Эконометрика. Осень 2020. Кеткина О.С. Процесс ARIMA(p, d, q) = > нет единичных корней, т.е. процесс стационарен. • Первые разности описываются стационарным процессом AR(1) или, что тоже самое ARMA(1,0). • Значит исходный процесс описывается моделью ARIMA(1,1,0). Эконометрика. Осень 2020. Кеткина О.С. Стационарен ли временной ряд? • Тестирование стационарности для AR(1) Эконометрика. Осень 2020. Кеткина О.С. Тестирование стационарности для AR(1) Эконометрика. Осень 2020. Кеткина О.С. Тестирование стационарности для AR(1) Эконометрика. Осень 2020. Кеткина О.С. Тестирование стационарности для AR(1): тест Дики — Фуллера (DF) См. файл тау-статистика Эконометрика. Осень 2020. Кеткина О.С. Тестирование стационарности для AR(1): тест Дики — Фуллера (DF) • Если расчетное значение отрицательное и меньше критического (то есть по модулю больше!), то гипотеза 𝑯o отклоняется ⇒ делаем вывод о том, что ряд стационарен. • В остальных модификациях теста процедура принятия решения будет аналогичной. Эконометрика. Осень 2020. Кеткина О.С. Тест Дики — Фуллера (DF) и его обобщения Мы рассмотрели самый простой случай, когда тестируется стационарность AR(1) процесса без константы. В прикладных исследованиях важны и более общие случаи, которые будут рассмотрены далее: • Тест Дики — Фуллера с константой • Тест Дики — Фуллера с константой и трендом • Расширенный тест Дики — Фуллера (augmented DF, ADF) Эконометрика. Осень 2020. Кеткина О.С. Тест Дики — Фуллера с константой Эконометрика. Осень 2020. Кеткина О.С. Тест Дики — Фуллера с константой Эконометрика. Осень 2020. Кеткина О.С. Тестирование стационарности для AR(1): тест Дики — Фуллера (DF) с константой • Если расчетное значение отрицательное и меньше критического (то есть по модулю больше!), то гипотеза 𝑯o отклоняется ⇒ делаем вывод о том, что ряд стационарен. • В остальных модификациях теста процедура принятия решения будет аналогичной. Эконометрика. Осень 2020. Кеткина О.С. Тест Дики — Фуллера с константой и трендом Эконометрика. Осень 2020. Кеткина О.С. Тест Дики — Фуллера с константой и трендом Эконометрика. Осень 2020. Кеткина О.С. Тест Дики — Фуллера с константой и трендом Эконометрика. Осень 2020. Кеткина О.С. Тестирование стационарности для AR(1): тест Дики — Фуллера (DF) с константой • Если расчетное значение отрицательное и меньше критического (то есть по модулю больше!), то гипотеза 𝑯o отклоняется ⇒ делаем вывод о том, что ряд стационарен. • В остальных модификациях теста процедура принятия решения будет аналогичной. Эконометрика. Осень 2020. Кеткина О.С. Расширенный тест Дики — Фуллера (Augmented DF-test, ADF-test) Эконометрика. Осень 2020. Кеткина О.С. Расширенный тест Дики — Фуллера (Augmented DF-test, ADF-test) • Порядок лага для ADF-теста можно выбирать при помощи информационного критерия Шварца, минимизируя данный критерий. Эконометрика. Осень 2020. Кеткина О.С. Эконометрика. Осень 2020. Кеткина О.С. Тест Kwiatkowski, Phillips, Schmidt, Shin (KPSS) Эконометрика. Осень 2020. Кеткина О.С. Тест Kwiatkowski, Phillips, Schmidt, Shin (KPSS) Эконометрика. Осень 2020. Кеткина О.С. Тест Kwiatkowski, Phillips, Schmidt, Shin (KPSS) • Если расчетное значение статистки меньше критического значения, равного 0,146 (5% уровень значимости), то нулевая гипотеза принимается. Можно сделать вывод о стационарности ряда. • Замечание: если нулевой гипотезой является стационарность (а не тренд-стационарность), то процедура теста аналогична, только на первом шаге оценивается уравнение: 𝑦𝑡 = 𝛿 + 𝜀𝑡, а критическое значение равно 0,463 (5% уровень значимости). Эконометрика. Осень 2020. Кеткина О.С.