Модели ARMA стационарных процессов

Лекция №8. Модели ARMA стационарных процессов В данной лекции рассматривается один из базовых в анализе временных рядов классов моделей — модели авторегрессии скользящего среднего (ARMA). Данные модели тесно связаны с рассмотренными выше уравнениями в разностях и рассматриваемым в дальнейшем прогнозированием временных рядов. Числовые характеристики временных рядов и случайных процессов Говоря о некотором временном ряде , мы всегда подразумеваем, что это всего одна возможная реализация некоторого случайного процесса , даже если «выборка» «бесконечная». Т.о. мы имеем дело с последовательностью реализаций некоторых случайных величин (возможно, разных), и в общем виде числовые характеристики временного ряда не подразумевают «усреднения» значений , зафиксированных в разные даты. Пусть некоторый временной ряд генерируется по одному и тому же закону одновременно и независимо на  машинах:  ряд, полученный на -ой машине. Тогда под мат. ожиданием величины  можно понимать предел , или, если известна плотность  величины , . Аналогично определяется любая числовая характеристика временного ряда – как характеристика с.в.  на некоторую дату . Подразумевается, что в общем виде эти характеристики могут быть (а могут и не быть) функциями даты . Стационарность и эргодичность Процесс  называется строго стационарным, если для любых интервалов  совместное распределение случайных величин  зависит только от этих интервалов (не зависит от даты ). Процесс  (и любая его реализация ) называется стационарным в дисперсии или слабостационарным, если его математическое ожидание не зависит от даты, а автоковариация зависит только от длины лага: , . Наблюдая временной ряд, мы часто не имеем его «параллельных» реализаций, а наблюдаем только одну реализацию , и можем вычислить только среднее во времени значение временного ряда (и прочие характеристики) . Слабостационарный процесс называется эргодичным в среднем, если . Скользящее среднее первого порядка: Процесс , где белый шум, некоторые константы, называется скользящим средним 1-го порядка. Найдем математическое ожидание и дисперсию этого процесса: , . И найдем автоковариацию: ; Такой процесс стационарен в дисперсии вне зависимости от значения параметра , т.к. его среднее и автоковариации (включая дисперсию) не зависят от даты. Для стационарного в дисперсии процесса также допускается понятие автокорреляции: . Для процесса MA(1) автокорреляция имеет вид:   Процесс скользящего среднего порядка : . Числовые характеристики процесса: , , Процесс является стационарным в дисперсии, и можно говорить о его автокорреляционной функции:   Рассмотрим процесс  при , его можно назвать . Такой процесс стационарен в среднем, если, однако часто это условие заменяют более сильным . В таком случае его числовые характеристики имеют вид: , , .   Авторегрессия первого порядка: Процесс , где белый шум, некоторые константы, называется авторегрессией первого порядка, . Такой процесс легко представим в виде уравнения в разностях первого порядка: , где . Из анализа уравнений в разностях мы знаем, что при  процесс ведет себя как «взрывной» (или хотя бы «накапливается», ), т.е. такой процесс не может быть стационарным. Однако в случае , процесс  представим в виде эргодичного (т.к. с абсолютно суммируемыми коэффициентами) процесса : . Используя это представление, найдем числовые характеристики : , ,         , .   Примеры реализации процесса         На приведенных графиках видно, как меняется «характер» процесса AR(1) с ростом коэффициента . При  процесс представляет собой белый шум, и визуально его трудно отличить от белого шума для довольно широкого спектра значений параметра . Явные визуальные отличия в графике от белого шума появляются только при значении параметра . При дальнейшем увеличении значения параметра в динамике ряда появляются признаки тенденции, и при значениях 0,9 – 1 ряд легко принять за реализацию процесса с линейным трендом. Явный линейный тренд виден в т.н. ситуации «единичного корня», т.е. при . При превышении значения параметра 1 процесс становится «взрывным».   Процесс авторегрессии порядка , : . В терминах уравнения в разностях процесс можно представить, как , и стационарность в дисперсии такого процесса сводится к обратимости полиномиального лагового оператора , т.е. процесс стационарен тогда, и только тогда, когда все корни многочлена лежат вне единичного круга. Если процесс стационарен в дисперсии, то его математическое ожидание , и можно найти его из , т.е. .   Найти автоковариации (включая дисперсию), а также автокорреляцию процесса затруднительно в общем виде, но можно выписать систему уравнений, задающих эти величины. Заменив в уравнении процесса , получим: , откуда ; и (уравнения Юла – Уокера)  . Решение системы для автоковариаций можно представить через обратные корни  полинома , если они все различны: .   Смешанные процессы авторегрессии скользящего среднего: ARMA Смешанный процесс включает в себя, как часть , так и : . Стационарность такого процесса зависит только от параметров авторегрессионной части, т.е. если корни многочлена лежат вне единичного круга, то соответствующий полиномиальный лаговый оператор  обратим, и процесс представим в виде некотрого процесса : , где , , и .   Пользуясь представлением в виде , можно найти математическое ожидание процесса: . А для выражения автоковариаций – воспользоваться «центрированной» записью, аналогично : , откуда при , . Однако для  выражение для  «осложняется» ковариациями типа .