Одномерные случайные величины, закон и функция распределения вероятностей

Раздел II. Случайные величины 1. Одномерные случайные величины, закон и функция распределения вероятностей Случайные результаты практически важных экспериментов часто имеют естественную числовую форму. Это могут быть размеры деталей; процентное содержание какого-либо вещества; время безотказной работы технического устройства; число заявок, поступающих в систему массового обслуживания; значения величин, полученные в физическом эксперименте; число объектов определенного типа в случайной выборке из большой совокупности объектов. Качественные характеристики тоже можно перевести в числовую форму, приписывая определенному качеству соответствующее число. Например, событие (хорошее изделие) можно отмечать числом 1, событие (плохое изделие) – числом 0. Числовой способ описания результатов эксперимента обладает более широкими возможностями по сравнению со способом описания результатов в терминах случайных событий. А применение числового способа приводит к понятию случайной величины. Под одномерной случайной величиной можно понимать числовую величину, которая в результате эксперимента принимает то или иное числовое значение, не известно заранее, какое именно. Числовые случайные величины часто обозначаются прописными латинскими буквами . Возможные значения случайных величин обозначаются строчными буквами . Используются и другие обозначения. В частности, случайные величины могут обозначаться символами греческого алфавита . Мерой случайности в математической теории случайных явлений служит вероятность. Поэтому уточненное понятие случайной величины должно содержать некоторое правило (закон распределения вероятностей), которое устанавливает связь между возможными значениями случайной величины и вероятностями. Если случайная величина может принимать только отдельные значения с ненулевыми вероятностями, то для задания закона распределения вероятностей достаточно указать эти значения и вероятности, с которыми эти значения принимаются. Но встречаются практические случайные величины, значения которых заполняют некоторый числовой промежуток, например, размер детали. Для таких случайных величин имеют смысл только вероятности попадания случайной величины на числовые промежутки. Поэтому возникает более общее понятие. Закон распределения вероятностей случайной величины – это правило, по которому задается множество возможных значений случайной величины, и задаются вероятности попадания этой величины на числовые промежутки. В учебной и научной литературе обычно говорят «закон распределения», опуская слово «вероятностей» или «распределение вероятностей», опуская слово «закон». Оказывается, что закон распределения любой одномерной случайной величины можно задать с помощью функции распределения . Функция распределения вероятностей в точке принимает значение, равное вероятности попадания величины на бесконечный интервал : . Функцию распределения иногда называют интегральной функцией распределения. Справедлива следующая Теорема. С помощью функции можно находить вероятности попадания случайной величины на полуинтервалы , точнее, справедлива формула: . Доказательство. Интервал является объединением интервала и полуинтервала : . Следовательно, событие является суммой событий и . Числовые промежутки и не пересекаются, поэтому события и несовместны. По правилу сложения вероятностей для несовместных событий получим равенства: , то есть , . Доказанное равенство можно рассматривать как основное свойство функции распределения. Отметим дополнительные свойства этой функции. 1). Значение функции распределения в точке равно вероятности события , поэтому все значения функции распределения вероятностей заключены в пределах от нуля до единицы: . 2). Функция распределения случайной величины является неубывающей функцией: если то , чем больше числовой промежуток, тем больше вероятность попадания случайной величины на этот промежуток: . 3) Предполагается, что в любом эксперименте случайная величина обязательно принимает какое-либо значение, поэтому событие достоверно и верно равенство: . Значение функции распределения в «точке» можно понимать только как предельное, поэтому верно равенство: . Аналогично, 4). С помощью аксиомы счетной аддитивности доказывается, что функция непрерывна слева: (см. Дополнения) 5). Справедливо равенство . Рисунок 3. График функции распределения вероятностей одномерной случайной величины Так как функция распределения не убывает и ограничена, то точки разрыва такой функции могут быть только точками разрыва первого рода. На рисунке 3 это точка . Величина скачка функции распределения в точке разрыва первого рода равна вероятности события . Используя свойства функции распределения можно находить вероятности попадания случайной величины на интервалы и отрезки: , . А с помощью того же свойства счетной аддитивности вероятности можно распространить понятие вероятности (вероятностную меру) на множества, которые могут быть получены из числовых промежутков с помощью повторения операций счетного объединения, счетного пересечения и перехода к дополнительным множествам (такие множества называются борелевскими множествами на числовой прямой). По сути дела, в теории вероятностей принята аксиома: для того чтобы задать любую случайную величину, достаточно задать ее функцию распределения вероятностей. И наоборот, любая функция, обладающая свойствами 1) – 5), является функцией распределения вероятностей некоторой случайной величины, то есть такая функция задает некоторую одномерную случайную величину. Комментарии. В теории Колмогорова одномерная случайная величина – это борелевская функция , определенная на измеримом пространстве (смотри пункт I.4). Функция называется борелевской, если прообраз борелевского множества принадлежит сигма - алгебре (вместо словосочетания «борелевская функция» говорят также «функция, измеримая по Борелю»). Если функция борелевская, то можно корректно определить вероятность попадания случайной величины в любое борелевское множество , полагая . Достаточно, впрочем, предположить, что алгебре принадлежат прообразы бесконечных интервалов , то есть множества . При этом функция распределения вероятностей случайной величины будет задаваться равенством . Измеримое вероятностное пространство необходимо в сложных конструкциях теории вероятностей. Но если рассматривается только одна случайная величина , то в качестве измеримого пространства можно взять действительную ось вместе с борелевской сигма - алгеброй борелевских множеств на ней. В этом случае роль функции играет функция , которая задает тождественное отображение. Неотрицательная функция множеств (вероятностная мера) на полуинтервалах задается с помощью функции распределения равенством , а затем распространяется на все борелевские множества с помощью аксиомы счетной аддитивности. Дополнения. Доказательство 4). Достаточно показать, что если – такая строго возрастающая последовательность чисел такая, что , то . Полуинтервал является объединением непересекающихся полуинтервалов: . Событие представляется в виде суммы несовместных событий: . По аксиоме счетной аддитивности: . То есть: . Последняя сумма представляет собой сходящийся числовой ряд с неотрицательными членами. Этот ряд запишем в виде суммы двух слагаемых – частичной суммы и остатка : . Раскрывая скобки в сумме , получим равенства: , , , . Остаток сходящегося числового ряда обязан стремиться к нулю, поэтому: . Доказательство 5). . 2. Дискретные и непрерывные одномерные случайные величины Среди множества случайных величин выделяются два относительно простых типа – дискретный и непрерывный. В прикладных задачах именно дискретные или непрерывные случайные величины обычно служат математическими моделями реальных практических величин. Одномерная случайная величина Х называется дискретной, если множество ее возможных значений конечно или счетно, то есть эти значения можно перенумеровать, и все эти значения могут приниматься с ненулевыми вероятностями. Для того чтобы задать закон распределения вероятностей дискретной случайной величины, достаточно указать ее значения и вероятности , с которыми эти значения могут приниматься. Такой способ задания закона распределения называется иногда рядом распределения вероятностей. Если множество возможных значений случайной величины конечное, то закон распределения вероятностей удобно задавать с помощью таблицы: X … P … Рисунок 4. Таблица распределения вероятностей Событие достоверно, поэтому его вероятность равна единице. Кроме того, оно является суммой элементарных событий , а эти события попарно несовместны (потому что два разных значения одновременно случайная величина принимать не может). Используя аксиому счетной аддитивности вероятности, получим равенство: . В этом равенстве сумма может быть и конечной и бесконечной (числовой ряд), поэтому предельные значения индекса суммирования здесь не указаны. В дискретном случае вероятность попадания случайной величины в любое множество находится по формуле: , где сумма берется по всем индексам таким, что . ПРИМЕР 1. Закон распределения вероятностей одномерной дискретной случайной величины задан таблицей: -2 1 3 4 0,1 0,3 0,2 Определить значение параметра . Вычислить вероятности событий и . Построить график функции распределения вероятностей и записать её аналитически. РЕШЕНИЕ. , . Поэтому . Событие может произойти тогда и только тогда, когда случайная величина примет значение или значение , следовательно, верны равенства: . Аналогично: . График функции распределения вероятностей случайной величины изображен на рисунке 5. Строится он очень просто. Если , то левее точки нет ни одного значения случайной величины, поэтому событие невозможно и . Если , то на промежуток случайная величина может попасть единственным образом, приняв значение . Следовательно, для таких значений аргумента . Для значений получим: . Понятно, как нужно рассуждать дальше. Нетрудно также догадаться, что и в общем случае функция распределения вероятностей одномерной дискретной случайной величины с изолированными значениями кусочно постоянна, и при переходе через каждую точку , которая является возможным значением случайной величины, к старому значению функции добавляется вероятность , с которой значение может приниматься. Другими словами, – точка разрыва первого рода, то есть «точка скачка» функции, и величина этого скачка равна . Функция распределения непрерывна слева, поэтому предельные значения справа от точек разрыва не принимаются, и этот факт принято отмечать стрелками. Обратим еще внимание на то обстоятельство, что для значений в бесконечный интервал попадают все возможные значения случайной величины, следовательно, в этом случае событие достоверно и значение функции распределения вероятностей становится максимально возможным: . Рисунок 5. График функции распределения вероятностей дискретной случайной величины из примера 1 Аналитическая форма записи функции распределения выглядит так: Практическим основанием для введения понятия непрерывной случайной величины может служить величина, возможные значения которой сплошь заполняют некоторый числовой промежуток. Например, размер детали, процентное содержание углерода в сплаве, время безотказной работы технического устройства. Более строгое определение выглядит так. Случайная величина называется непрерывной (абсолютно непрерывной), если множество ее возможных значений является объединением числовых промежутков и вероятность попадания на числовой промежуток равна интегралу по этому промежутку от неотрицательной функции : . Функция называется плотностью распределения вероятностей случайной величины (иногда называют дифференциальной функцией распределения). Из определения следует, что непрерывная случайная величина любое конкретное значение принимает с нулевой вероятностью: , поэтому вероятности попадания на отрезок , интервал и полуинтервалы , совпадают. По тому же определению плотность распределения интегрируема на любом отрезке и выполняется неравенство , следовательно, несобственный интеграл сходится. Так как событие достоверно, то должно выполняться равенство: . Плотность и функция распределения вероятностей непрерывной случайной величины связаны равенствами: , . Первое равенство непосредственно следует из определений функции распределения и плотности распределения: значение в точке равно вероятности события , а такая вероятность вычисляется как интеграл от плотности по промежутку . Второе равенство является следствием теоремы об интеграле с переменным верхним пределом. Такой интеграл является первообразной для функции под знаком интеграла, и это значит, что производная от интеграла по верхнему переменному пределу равна . Ради строгости отметим, что в буквальном смысле второе равенство верно, когда функция непрерывна в окрестности точки , а в общем случае оно выполняется «почти всюду». ПРИМЕР 2. Функция распределения вероятностей непрерывной случайной величины задана формулами: Определить вероятности событий и . Найти плотность распределения вероятностей. Нарисовать эскиз графика функции распределения и плотности распределения вероятностей. РЕШЕНИЕ. . . Следует обратить внимание на то обстоятельство, что функция распределения задана разными элементарными выражениями на разных числовых промежутках. При вычислении вероятности события использовалась одна и та же формула, потому что оба значения аргумента и попали на промежуток . А вот при вычислении вероятности события применялись разные формулы. Плотность распределения вероятностей – это производная от функции распределения. Если , то , поэтому . Если , то . Если , то . Окончательно получим: Эскизы графиков функций и представлены на рисунке 6. Фактически графики нужно изобразить на промежутке , и здесь они совпадают с графиками простейших элементарных функций. Графиком на этом промежутке служит сжатая к оси обычная парабола, а графиком – сжатая и поднятая вверх кубическая парабола. Впрочем, для изображения такой кубической параболы лучше все же воспользоваться элементарными понятиями дифференциального исчисления. Так как , то на интервале функция возрастает, причем при значении касательная к графику параллельна оси . Так как вторая производная , то график функции является выпуклым при значениях и вогнутым при значениях . Точка является абсциссой точки перегиба графика функции . Рисунок 6. Эскизы графиков функции распределения и плотности распределения вероятностей из примера 2 ПРИМЕР 3. Плотность распределения вероятностей непрерывной случайной величины задана формулами: Найти значение параметра , определить вероятности событий , . Найти функцию распределения вероятностей случайной величины , нарисовать эскизы графиков плотности и функции распределения вероятностей. РЕШЕНИЕ. Должно выполняться равенство , поэтому , , . И плотность принимает вид: В соответствии с определением плотности распределения: , . При определении функции распределения вероятностей надо учесть, что плотность распределения задана разными формулами на разных числовых промежутках. Практически мы должны рассмотреть три случая. 1). : . 2). : . 3). : . Окончательный результат: Рисунок 7. Эскизы графиков плотности и функции распределения вероятностей из примера 3 Кроме дискретных и непрерывных случайных величин существуют случайные величины смешанного типа. График функции распределения вероятностей именно такой случайной величины изображен на рисунке 3. Всюду, кроме точки , к графику можно провести наклонную касательную, существование которой равносильно дифференцируемости функции. Другими словами, плотность распределения вероятностей не существует только в точке . А значение принимается с ненулевой вероятностью, равной скачку функции распределения. Комментарии. Непрерывные в обычном смысле случайные величины называют также абсолютно непрерывными. При определении непрерывной величины мы это отметили в скобках. Дело в том, что в аксиоматической теории непрерывными иногда называются такие случайные величины, у которых непрерывна функция распределения. Однако тогда в разряд непрерывных величин попадают и так называемые сингулярные случайные величины. У таких случайных величин функция распределения вероятностей непрерывна, но не «абсолютно непрерывна». Производная такой функции существует «почти всюду», но равна нулю, и функцию распределения по ее производной восстановить нельзя. Другими словами, у сингулярных случайных величин нет обычной плотности распределения вероятностей. Сингулярную случайную величину можно также охарактеризовать как величину, у которой функция распределения непрерывна, а множество точек роста имеет меру нуль. При этом точка называется точкой роста функции распределения величины , если для любого числа вероятность попадания величины на интервал отлична от нуля. Очень странные точки, но у некоторых функций распределения они существуют! И очень странные эти сингулярные случайные величины. Принятый в математике термин «почти всюду» в данном случае означает, что некоторое свойство выполняется всюду за исключением, быть может, точек, образующих «множество лебеговой меры нуль» (Анри Леон Лебег, 1875 – 1941, французский математик, создатель обобщенной теории интегрирования, которая оказалась необходимой в аксиоматической теории вероятностей). Множество имеет лебегову меру нуль, если его можно покрыть интервалами, сумма длин которых как угодно мала. Например, любое счетное множество точек имеет меру нуль. Действительно, каждую из точек можно покрыть интервалом длины . Сумма длин таких интервалов представляет собой сумму членов бесконечной геометрической прогрессии с первым членом и знаменателем . Так как , то верно равенство . Из определения множества меры нуль по Лебегу видно, что множества лебеговой меры нуль – это просто всевозможные подмножества борелевских множеств нулевой меры. 3. Простейшие числовые характеристики одномерных случайных величин Случайная величина, даже одномерная, может принимать много или даже бесконечно много числовых значений, и закон ее распределения вероятностей может задаваться бесконечным набором вероятностей или функцией с бесконечным числом значений. Однако в практических вопросах слишком большой объем информации, как правило, не нужен. Обычно решения принимаются на основании знания числовых значений некоторого конечного множества величин. Именно так мы поступаем в практической жизни, размышляя о какой-нибудь хозяйственной покупке. Цена, главные размеры, объем, вес, мощность могут служить примерами числовых величин, знание значений которых необходимо и достаточно для того, чтобы принять определенное решение. В теории вероятностей аналогичную роль играют разного рода числовые характеристики случайных величин. Под простейшими числовыми характеристиками одномерной случайной величины обычно понимают математическое ожидание, дисперсию и среднее квадратическое отклонение. Математическое ожидание (оно же среднее значение ) дискретной случайной величины вычисляется по формуле: . Если множество возможных значений величины бесконечное, то предполагается, что ряд сходится абсолютно. Другими словами, считается, что существует тогда и только тогда, когда существует математическое ожидание случайной величины (см. Комментарии) Математическое ожидание непрерывной случайной величины находится по формуле: . Формальное выражение называют элементом вероятности. Для того чтобы от дискретного случая перейти к непрерывному случаю, достаточно вместо суммы написать интеграл, дискретные значения заменить непрерывными, а вероятности заменить элементом вероятности . В непрерывном случае предположение об абсолютной сходимости является излишним, потому что сходимость такого несобственного интеграла равносильна сходимости интегралов и . А сходимость интегралов от положительной и отрицательной частей подинтегральной функции эквивалентна абсолютной сходимости. Легко представить себе две случайные величины с одним и тем же математическим ожиданием, но обладающие разными степенями случайности. Одна из величин может быть близка к постоянной величине, ее значения сосредоточены около математического ожидания. А значения другой величины широко разбросаны относительно того же математического ожидания. Для того чтобы сравнивать случайные величины, необходимо ввести характеристику разброса значений случайной величины относительно ее математического ожидания. В качестве такой стандартной меры разброса используется дисперсия. Дисперсия вычисляется по формулам: для дискретной случайной величины, для непрерывной случайной величины. В некоторых случаях более удобной для вычислений оказывается формула: , в которой для дискретной величины, для непрерывной случайной величины. Докажем эту формулу для дискретной случайной величины. . Дисперсия имеет размерность квадрата случайной величины. Для того чтобы иметь характеристику разброса значений случайной величины той же самой размерности, что и сама величина, вводится среднее квадратическое отклонение . Математическое ожидание случайной величины называют характеристикой расположения значений величины. Математическое ожидание может не существовать, если множество значений дискретной случайной величины бесконечно или случайная величина непрерывна (см. Дополнение). В этом случае заменить математическое ожидание могут другие характеристики расположения – медиана и мода . Эти характеристики, впрочем, могут играть существенную самостоятельную роль. Медиана – это такое значение, для которого справедливы равенства: . Другими словами, медиана является корнем уравнения , и обычно говорят, что медиана делит распределение вероятностей пополам. В дискретном случае функция распределения кусочно постоянна, уравнение не имеет корней или имеет бесконечно много корней, медиана не определена. Однако «медианное среднее» часто встречается в приложениях, поэтому существуют различные способы построения медианы дискретной случайной величины, основанные на приближенной замене кусочно постоянной функции непрерывной функцией. Модой непрерывной случайной величины называется точка абсолютного максимума или точка локального максимума плотности распределения вероятностей: для всех значений случайной величины или для значений близких к значению . Мода может не существовать совсем, а может существовать несколько точек локального максимума, появляются многомодальные распределения. Для того чтобы избежать недоразумений, которые могут возникнуть в точках разрыва плотности распределения вероятностей, будем считать, что в такой точке принимается наибольшее из возможных предельных значений. В дискретном случае мода – это значение случайной величины, которое может приниматься с наибольшей вероятностью, наивероятнейшее значение. Приведем примеры вычисления простейших числовых характеристик. ПРИМЕР 1. Закон распределения вероятностей одномерной дискретной случайной величины задан таблицей: -2 1 3 4 0,1 0,3 0,2 Найти математическое ожидание, дисперсию, среднее квадратическое отклонение и моду (наивероятнейшее значение) случайной величины . РЕШЕНИЕ. , , . и, очевидно, . ПРИМЕР 2. Плотность распределения вероятностей непрерывной случайной величины задана формулами: Вычислить математическое ожидание, дисперсию и среднее квадратическое отклонение случайной величины . Найти функцию распределения вероятностей , построить графики функций и , определить моду и медиану случайной величины . РЕШЕНИЕ. , , , . Функция распределения вероятностей случайной величины найдена в примере 3 пункта 2. Графики плотности и функции распределения вероятностей изображены на рисунке 7. Наибольшее значение функции достигается в точке , следовательно, . Для нахождения медианы надо решить уравнение . Значения функции распределения на этом интервале находятся по формуле . Рисунок 7 показывает, что корень этого уравнения принадлежит интервалу . Поэтому надо решить уравнение и выбрать тот корень уравнения, который принадлежит промежутку . Умножив обе части уравнения на число , получим: , , . Из двух полученных корней только корень принадлежит интервалу , следовательно, . ПРИМЕР 3. Вычислить математическое ожидание, дисперсию и среднее квадратическое отклонение непрерывной случайной величины из примера 2 параграфа 2, определить моду и медиану. РЕШЕНИЕ. В указанном примере плотность распределения задается формулами: . Поэтому верны равенства: , , ; . Графики функций и изображены на рисунке 6. Наибольшее значение плотности достигается в точке , поэтому . Однако предельное значение плотности в точке является локально максимальным. Это дает основание считать распределение такой случайной величины двухмодальным. Медиана лежит на промежутке и является корнем уравнения . Получим: , , . Комментарии. Перестановка конечного числа членов числового ряда не влияет ни на его сходимость, ни на его сумму. Если числовой ряд сходится абсолютно, то и перестановка бесконечного числа членов ни на что не влияет. А вот если ряд сходится условно, то есть существует предел частичных сумм , но ряд из абсолютных величин членов исходного ряда расходится, то можно так переставить бесконечное число членов ряда, что суммой этого ряда будет любое заданное число (теорема Римана). Числовые значения дискретной случайной величины и вероятности, с которыми они принимаются, являются объективными характеристиками этой величины и не могут быть изменены. А вот нумерация значений, то есть присвоение значению какого-либо номера, является субъективной операцией, зависящей от нашего произвола. Конечно, математическое ожидание от изменения нумерации зависеть не должно, и условно сходящиеся ряды приходится исключать. Дополнения. Функция является плотностью распределения некоторой случайной величины. Действительно, , а несобственный интеграл сходится и равен единице: . Но эта случайная величина не имеет математического ожидания: . Интеграл расходится. В то же время очевидно, что наибольшее значение функция принимает в точке . Функция четная, , график функции симметричен по отношению к оси ординат. Поэтому , мода и медиана существуют и совпадают.