Основные понятия. Стационарные процессы

Тема № 1 Основные понятия. Стационарные процессы Рассмотрим произвольное вероятностное пространство  , A,   . Вспомним определение из курса теории вероятностей, призванное формально определить величины, подлежащие «измерению» в случайных экспериментах. Определение. Случайной величиной называется функция     w  :    , заданная на пространстве элементарных событий  , принимающая значения в  и удовлетворяющая условию, что для любого вещественного множество х w  :   w  x является событием, т.е. w  :   w  x A . Часто при исследовании различных явлений в области телекоммуникаций приходится иметь дело со случайными величинами, изменяющимися во времени. Основным понятием теории случайных процессов является следующее. Определение. Случайным процессом (или случайной функцией) t , t  T  называется семейство случайных величин t , зависящих от параметра t , пробегающего некоторое множество значений T . Таким образом, любому фиксированному t0 однозначно ставится в соответствие случайная величина t , называемая сечением случайного процесса. При этом считается, что все случайные величины t , которые образуют это семейство, заданы на одном вероятностном пространстве , A, P . Обычно параметр t играет роль времени (так сложилось исторически, из практических потребностей прикладных наук). Определение. Реализацией, выборочной функцией или траекторией случайного процесса t , t  T  называют действительную функцию t 0  : T   аргумента t  T , где 0 - некоторый фиксированный элемент из  . На практике считается, что в результате некоторого эксперимента происходит элементарное событие 0 и наблюдается значение t  t   в точке   0 . Поэтому траектория случайного процесса зависит от наблюдений при эксперименте. Каждой сечению t для фиксированного t  T однозначно ставится в соответствие функция распределения F x   P t  x  . t Эта функция описывает поведение случайного процесса в момент времени t . Пример. Пусть T   . По определению зададим t   t  t0   b , где t0 , b   некоторые фиксированные числа,  - некоторая случайная величина, заданная на некотором вероятностном пространстве , A, P , не зависящая от параметров t , t0 , b . При фиксированном t случайная величина t будет обладать функцией распределения   xb F    , t  t0  t  t0     x b   F x   P t  x   P (t  t0 )  b  x    P   .  , t  t0 t t  t  0    0, b  x P  b  x    , t  t0  1, b  x Если фиксировать элементарный исход 0   , то t 0  будет реализацией случайного процесса  , t  T  и будет представлять из себя прямую линию. Тангенс t угла наклона  этой линии равен значению  0  . Так как случайная величина  может принимать разные значения то все реализации (траектории) случайного процесса t будут принадлежать пучку прямых на плоскости. Каждая прямая этого пучка проходит через точку плоскости с координатами t0, b  . Эта точка в аналитической геометрии носит название центра пучка прямых на плоскости. Случайный процесс t в данном примере носит называние веерного случайного процесса. Зная поведение случайного процесса в момент времени t , мы не можем предсказать поведение значений t в другие моменты времени. Для описания этих зависимостей   необходимо рассмотреть функцию распределения случайного вектора   t ,..., t , n 1 координаты которого равны значениям процесса в моменты времени t1,..., tn . Обозначим Ft ,...,t (x 1,..., xn )  F (x 1,..., x n )  F ( x1 ,..., xn )  P t1  x1 ,..., tn  xn .   ,...,  n 1 t1 tn  Определение. Семейство функций F t1 ,...,tn (x 1,..., x n ), n  ,  t1,..., tn   T n , ti  t j  называется семейством конечномерных распределений случайного процесса t , t  T  . Это семейство удовлетворяет условиям согласованности: 1. Пусть Ft i1 ,...,ti n x ,..., x i1 2. lim Ft ,...,t xn  1 перестановка i ,..., i    F x ,..., x  . 1 in n 1 ,tn t1 ,...,tn элементов n 1 из 1,n , тогда n (x 1,..., x n 1, x n )  Ft ,...,t (x 1,..., x n 1 ) . 1 n 1 Введем еще одно полезное Определение. Случайные процессы вероятностном пространстве , A, P  , t  T  и  , t  T  , t t заданные на одном и одинаковом множестве T , называются стохастически эквивалентными, если t  T P t  t   1 . Определим некоторые характеристики случайного процесса {t , t  T } : 1. Пусть m t   E t для всех t  T , если это математическое ожидание определено и m t  : T   конечно, тогда функция называется математическим ожиданием случайного процесса.   2. Пусть D t   D t = E t  m t  2 для всех t  T , если дисперсия определена и конечна, тогда D t  : T   - дисперсия случайного процесса (иногда вводят функцию среднеквадратичного отклонения  t   D t  : T   ). m t    , 3. Пусть m s    , тогда    K s, t   E s  m s  t  m t  - ковариационная функция случайного процесса. Докажите следующие свойства K s, t  :   2 а) K s, t   D s  D t  , б) K t, t   D t  , в) K s, t   K t, s  . 4. R s, t   K s, t  D s  D t  - корреляционная функция случайного процесса. Докажите следующие свойства R(s, t ) : а) R s, t   1 , б) R t, t   1 , в) R s, t   R t, s  . Классификация случайных процессов Основными признаками, по которым можно провести классификацию случайных процессов, являются: 1). Пространство состояний E , которому принадлежат все возможные значения, принимаемые всеми случайными величинами t по всем t  T :   E   Et     t () .   t T t T   Назовем множество E фазовым пространством. Если E   , то E – фазовое пространство целочисленного случайного процесса. Если E – это некоторый непрерывный промежуток из  , то E – фазовое пространство действительного случайного процесса. 2). Временной параметр T . Определение. Если t  T   , то говорят, что процесс t , t  T  является процессом с дискретным временем. Если параметр t принимает все значения из некоторого непрерывного промежутка на числовой прямой, то говорят, что процесс t , t  T  случайный процесс с непрерывным временем. 3). Отношение зависимости между случайными величинами t . Определение. Рассмотрим случайный процесс t , t  T  , где T   . Для всех n   для любых t1  t2  ...  tn  T рассмотрим случайные величины t  t ,..., t  t 2 1 n n 1 . Случайный процесс называется процессом с независимыми приращениями, если величины t  t ,..., t  t независимы в совокупности. 2 1 n n 1 Случайный процесс называется процессом с некоррелированным приращением, если величины t  t ,..., t  t – некоррелированные случайные величины. 2 1 n n 1 Случайный процесс называется процессом с ортогональным приращением, если t  t ,..., t  t некоррелированы, и m t   0 для всех t  T . 2 n 1 n 1 Случайный процесс называется марковским, если при всех n   для любых t1  t2  ...  tn  tn 1  T , для любых x 1,..., x n , x n 1  E , где E – фазовое пространство случайного процесса t , t  T  , выполняется  P t n 1  x n 1 | t  x n , t Определение. n 1 n Функция    x n 1,..., t  x 1  P t 1 n 1 P t, x , s, y   P s  y | t  x    x n 1 | t  x n . n функцией называется переходных вероятностей марковского процесса. Данная функция играет важную роль при изучении подобных процессов. Стационарные процессы Рассмотрим случайный процесс t , t  T  . Определение. Случайный процесс называется стационарным в узком смысле, если при всех n   для любых t1  t2  ...  tn  T для всех h   таких, что t1  h , … , tn  h  T , совпадают конечномерные распределения Ft ,...,t (x 1,..., x n )  Ft h ,...,t 1 n 1 n h (x 1,..., x n ). Определение. Случайный процесс называется стационарным в широком смысле, если: 1) существует a   такое, что m t   a для всех t  T , 2) существует b   такое, что D t   b для всех t  T , 3) для любых s, t  T , для всех h   таких, что t  h, s  h  T , выполняется K s, t   K s  h, t  h  , т.е. K s, t  зависит только от разности t и s . Проверьте, всегда ли из стационарности в узком смысле следует стационарность в широком смысле. Для стационарного в широком смысле процесса корреляционная функция R s, t  зависит только от разности t  s   и может быть обозначена R s, t   R t  s   R   . Это верно и для ковариационной функции K s, t   K t  s   K   Важную роль при изучении стационарных в широком смысле случайных процессов играет следующая Теорема (Бохнера-Хинчина – без доказательства). Пусть t , t  T  - стационарный в широком смысле случайный процесс, корреляционная функция которого R   непрерывна. Тогда существует случайная величина  с функцией распределения F x   F x  , характеристическая функция которой равна R   , т.е. R       . По теореме единственности такая функция F x  определяется однозначно. Эту функцию распределения F x  называют спектральной функцией процесса Определение. F x   x  p s ds  Если спектральная функция F x   , t  T  . представима t в виде: , где p s   p s  - плотность случайной величины  из теоремы Бохнера-Хинчина, то функцию p x  называют спектральной плотностью процесса  , t  T  . t Теорема. Пусть  , t  T   t – стационарный в широком смысле случайный  процесс со спектральной плотностью p(x ) и конечен интеграл  R   d    , тогда   p(x )  1 e ix  R  d    .  2  Пример. Рассмотрим случайный процесс t  1 cos wt   2 sin wt  , где w   константа; 1 и 2 - случайные величины, заданные на одном вероятностном пространстве и не зависящие от t , t   . Ответим на вопрос, когда данный случайный процесс является стационарным в широком смысле и найдем корреляционную функцию R(s, t ) . m(t )  E 1  cos(wt )  E 2  sin(wt ) , т.е. для того, чтобы m(t ) не зависело от t , необходимо, чтобы E 1  E 2  0 . Пусть s    t . Тогда K s, t   E t s  E 12 cos wt  cos ws   22 sin wt  sin ws   12 cos wt  sin ws        E   sin wt  sin ws   E    sin t  s  w  . 12 sin wt  cos ws   E 12 cos wt  cos ws   2 2 1 2 Функция K s, t  не будет зависеть от t , если E 12  E 22   2 и E 12  0 . Из того, что E 1  E 2  0 следует, что D 1  D 2   2 . Так как  1, 2   E 1  E 1 2  E 2  D 1 D 2  E 12 2  0, то, следовательно, случайные величины 1 и 2 не коррелированны. Более того, мы будем считать, что они независимы. Следовательно, K (s, t )  2 cos wt  cos ws   sin wt  sin ws   2 cos w t  s   2 cos w   .     Мы получили, что K (s, t ) зависит только от разности s  t   . Теперь воспользуемся независимостью случайных величин 1 и 2 :       D t   D 1 cos wt   2 sin wt   D 1 cos wt   D 2 sin wt   cos2 wt  D 1     sin2 wt  D 2   2 cos2 wt   sin2 wt    2 , т.е. дисперсия случайного процесса D(t ) не зависит от t . Отсюда получаем  2 cos w   E t t  R s, t   R      cos w   . 2 2   D t  D t    Итак, если случайные величины 1 и 2 – независимые с одинаковыми математическими ожиданиями, равными 0, и одинаковыми ненулевыми дисперсиями  2 , то t , t   - стационарный в широком смысле случайном процесс с корреляционной функцией R    cos w   . Ясно, что корреляционная функция R   непрерывна на  , поэтому по теореме Бохнера – Хинчина существует случайная величина  с функцией распределения F x   F x  , и F (x ) - спектральная функция случайного процесса t , t   . Очевидно, что  – дискретная случайная величина с таблицей распределения  w w    (докажите это самостоятельно).   1 / 2 1 / 2 Для данной случайной величины  не существует плотности. Следовательно, наш процесс не обладает спектральной плотностью. Случайный процесс t , t   представляет собой гармоническое колебание со случайной амплитудой   12  22 и случайной фазой   arctg которых не зависят от времени t . Определение. Случайный процесс  , t   t 1 2 , распределения называют белым шумом, если он является стационарным в широком смысле и обладает постоянной спектральной плотностью c, называемой интенсивностью белого шума. Ковариационная функция для белого шума имеет вид K    2c  Ind   0 Это случайный процесс, любые два сечения которого некоррелированы. Белый шум это удобная математическая абстракция, так как физически такой процесс не реализуем - у него дисперсия равна бесконечности (это немного противоречит определению стационарного в широком смысле случайного процессса). С помощью этой математической модели упрощается решение многих практических задач. Обращаться к этой модели можно, когда все временные характеристики процесса много больше, чем интервал корреляции и можно считать, что выполняется: «Любые два сечения t и t ( 1 1 t1  t2 ) некоррелированные (слабо коррелированы)». Случайный процесс назвали «белым» по аналогии с белым светом, у которого спектр электромагнитного излучения имеет равномерную мощность по всем длинам волн в видимой части спектра.