Теория вероятностей и математическая статистика. Функции и величины
Выбери формат для чтения
Загружаем конспект в формате pdf
Это займет всего пару минут! А пока ты можешь прочитать работу в формате Word 👇
ÊÀÇÀÍÑÊÈÉ ÃÎÑÓÄÀÐÑÒÂÅÍÍÛÉ ÓÍÈÂÅÐÑÈÒÅÒ
Êàôåäðà ìàòåìàòè÷åñêîé ñòàòèñòèêè
È.Í. Âîëîäèí
ËÅÊÖÈÈ
ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ
È ÌÀÒÅÌÀÒÈ×ÅÑÊÎÉ ÑÒÀÒÈÑÒÈÊÅ
Êàçàíü 2004
Ïðåäèñëîâèå
Äàííîå ó÷åáíîå ïîñîáèå ïðåäñòàâëÿåò ñîáîé ïî÷òè ñòåíîãðàôè÷åñêóþ çàïèñü ëåêöèé, ÷èòàåìûõ ìíîé íà ôàêóëüòåòå âû÷èñëèòåëüíîé ìàòåìàòèêè è
êèáåðíåòèêè Êàçàíñêîãî óíèâåðñèòåòà â òå÷åíèè äâóõ ñåìåñòðîâ. Ñòóäåíòû
ïîëó÷àþò ñïåöèàëüíîñòü Ïðèêëàäíàÿ ìàòåìàòèêà , è ýòî îáñòîÿòåëüñòâî
íàêëàäûâàåò îïðåäåëåííûé îòïå÷àòîê êàê íà ñîäåðæàíèå êóðñà, òàê è íà
ôîðìó åãî èçëîæåíèÿ.  ÷àñòè òåîðèè âåðîÿòíîñòåé îñíîâíîé óïîð äåëàåòñÿ íà ìàòåìàòè÷åñêèå ìåòîäû ïîñòðîåíèÿ âåðîÿòíûõ ìîäåëåé è ðåàëèçàöèþ ýòèõ ìåòîäîâ íà ðåàëüíûõ çàäà÷àõ åñòåñòâîçíàíèÿ è ïðàêòè÷åñêîé
äåÿòåëüíîñòè. Òàêîé ïîäõîä îáåñïå÷èâàåò íåôîðìàëüíîå îòíîøåíèå ê èñïîëüçîâàíèþ ìåòîäîâ ìàòåìàòè÷åñêîé ñòàòèñòèêè, îñîçíàíèþ òîãî, ÷òî áåç
ïîñòðîåíèÿ âåðîÿòíîñòíîé ìîäåëè íå ïðåäñòàâëÿåòñÿ âîçìîæíûì ñóäèòü î
òî÷íîñòè è íàäåæíîñòè ñòàòèñòè÷åñêîãî âûâîäà. Èìåííî ïîýòîìó â ðàçäåëå Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà îñíîâíîå âíèìàíèå óäåëÿåòñÿ ìåòîäàì
âû÷èñëåíèÿ ðèñêà êîíêðåòíûõ ñòàòèñòè÷åñêèõ ïðàâèë è ïðîáëåìàì ñòàòèñòè÷åñêèõ ðåøåíèé ñ ìèíèìàëüíûì ðèñêîì.
 èçëîæåíèè âîïðîñîâ óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ è óñëîâíîé
âåðîÿòíîñòè ÿ îãðàíè÷èëñÿ ðàññìîòðåíèåì òîëüêî ñëó÷àåâ äèñêðåòíîãî è
íåïðåðûâíîãî ðàñïðåäåëåíèé, ïîñêîëüêó ñòóäåíòàì ÂÌÊ Êàçàíñêîãî óíèâåðñèòåòà ÷èòàåòñÿ âñåãî ñ äåñÿòîê ëåêöèé ïî òåîðèè ìåðû è èíòåãðàëà
Ëåáåãà èõ äàæå íå çíàêîìÿò ñ òåîðåìîé ÐàäîíàÍèêîäèìà. ×òîáû âîñïîëíèòü ýòîò ïðîáåë, ÿ ïðèâîæó ôîðìóëèðîâêó ýòîé òåîðåìû è îïðåäåëÿþ ôóíêöèþ ïëîòíîñòè ÷åðåç ïðîèçâîäíóþ ÐàäîíàÍèêîäèìà, íî, íà ìîé
âçãëÿä, áûëî áû êðàéíå íàèâíûì ïîëàãàòü, ÷òî áîëüøèíñòâî ìîèõ ñëóøàòåëåé âîñïðèìóò ñòðîãîå ñîâðåìåííîå èçëîæåíèå êîíöåïöèè óñëîâíîãî
ìàòåìàòè÷åñêîãî îæèäàíèÿ.
Ó÷åáíîå ïîñîáèå ñîäåðæèò 25 ëåêöèé ïî òåîðèè âåðîÿòíîñòåé è 15 ëåêöèé ïî ìàòåìàòè÷åñêîé ñòàòèñòèêå. Êàæäàÿ ëåêöèÿ ñëèøêîì îáúåìíà äëÿ
òîãî, ÷òîáû åå äèêòîâàòü ñòóäåíòàì; ëåêöèè ðàññ÷èòàíû íà ñâîáîäíîå èçëîæåíèå ìàòåðèàëà ñ çàïèñüþ òîëüêî îïðåäåëåíèé è ôîðìóëèðîâîê îñíîâíûõ òåîðåì. Äèêòàíò ñòàíîâèòñÿ âîçìîæíûì, åñëè âû ðàñïîëàãàåòå äîïîëíèòåëüíî 7-þ ëåêöèÿìè.
ß ïðèíîøó èñêðåííþþ áëàãîäàðíîñòü Ñåðãåþ Âëàäèìèðîâè÷ó Ñèìóøêèíó çà ïîìîùü ïðè îôîðìëåíèè ëåêöèé â ýëåêòðîííîé ôîðìå.
ÎÃËÀÂËÅÍÈÅ
Ïðåäèñëîâèå
2
÷àñòü ïåðâàÿ
òåîðèÿ âåðîÿòíîñòåé
1 Ýëåìåíòàðíàÿ òåîðèÿ âåðîÿòíîñòåé
6
2 Âåðîÿòíîñòíîå ïðîñòðàíñòâî
19
3 Óñëîâíàÿ âåðîÿòíîñòü è íåçàâèñèìîñòü ñîáûòèé
27
4 Ñëó÷àéíûå âåëè÷èíû è ôóíêöèè ðàñïðåäåëåíèÿ
39
5 Ïîñòðîåíèå âåðîÿòíîñòíûõ ìîäåëåé ñ ïîìîùüþ ôóíêöèé
ðàñïðåäåëåíèÿ
46
6 Õàðàêòåðèñòèêè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû.
Êëàññèôèêàöèÿ ðàñïðåäåëåíèé
55
7 Ïðåäåëüíûå òåîðåìû â ñõåìå èñïûòàíèé Áåðíóëëè.
Íîðìàëüíîå ðàñïðåäåëåíèå
73
8 Âåêòîðíûå ñëó÷àéíûå âåëè÷èíû. Íåçàâèñèìîñòü.
82
9 Ìîìåíòíûå õàðàêòåðèñòèêè ìíîãîìåðíûõ íîðìàëüíûõ
ðàñïðåäåëåíèé. Ìóëüòèíîìèàëüíîå è ìíîãîìåðíîå
íîðìàëüíîå ðàñïðåäåëåíèÿ
92
10 Óñëîâíîå ðàñïðåäåëåíèå âåðîÿòíîñòåé. Óñëîâíîå
ìàòåìàòè÷åñêîå îæèäàíèå
100
11 Ñõîäèìîñòü ñëó÷àéíûõ âåëè÷èí è ôóíêöèé ðàñïðåäåëåíèé
107
12 Õàðàêòåðèñòè÷åñêèå ôóíêöèè. Òåîðåìû åäèíñòâåííîñòè.
114
13 Õàðàêòåðèñòè÷åñêèå ôóíêöèè. Êðèòåðèé ñëàáîé ñõîäèìîñòè
126
14 Ïðåäåëüíûå òåîðåìû òåîðèè âåðîÿòíîñòåé
135
15 Ñëó÷àéíûå ïðîöåññû
143
3
÷àñòü âòîðàÿ
ìàòåìàòè÷åñêàÿ ñòàòèñòèêà
1 Ïðîáëåìà ñòàòèñòè÷åñêîãî âûâîäà
163
2 Âûáîðî÷íûå õàðàêòåðèñòèêè. Äîñòàòî÷íûå ñòàòèñòèêè
174
3 Îöåíêà ïàðàìåòðîâ. Ìåòîä ìîìåíòîâ
188
4 Îöåíêà ïàðàìåòðîâ. Ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ
195
5 Ýôôåêòèâíîñòü îöåíîê
209
6 Äîâåðèòåëüíûå èíòåðâàëû
215
7 Ñòàòèñòè÷åñêàÿ ïðîâåðêà ãèïîòåç (êðèòåðèè çíà÷èìîñòè)
227
8 Ðàâíîìåðíî íàèáîëåå ìîùíûå êðèòåðèè
241
9 Ïðîâåðêà ìîäåëüíûõ ïðåäïîëîæåíèé. Êðèòåðèè ñîãëàñèÿ
Ëèòåðàòóðà
248
258
4
×ÀÑÒÜ ÏÅÐÂÀß
ÒÅÎÐÈß ÂÅÐÎßÒÍÎÑÒÅÉ
Ïóñêàé â äàííîì ñëó÷àå âû íå ñîãëàñèòåñü
ìíå äàòü ãàðàíòèþ, íî ÿ ñòàâëþ âîïðîñ
øèðå: ñóùåñòâóåò ëè âîîáùå, ìîæåò ëè ñóùåñòâîâàòü â ýòîì ìèðå õîòü êàêîå-íèáóäü
îáåñïå÷åíèå, õîòü â ÷åì-íèáóäü ïîðóêà, èëè
äàæå ñàìà èäåÿ ãàðàíòèè íåèçâåñòíà òóò?"
Â. Íàáîêîâ, Ïðèãëàøåíèå íà êàçíü
1. Ýëåìåíòàðíàÿ òåîðèÿ âåðîÿòíîñòåé
Ëåêöèÿ 1
Âî ìíîãèõ îáëàñòÿõ ÷åëîâå÷åñêîé äåÿòåëüíîñòè ñóùåñòâóþò ñèòóàöèè,
êîãäà îïðåäåëåííûå ÿâëåíèÿ ìîãóò ïîâòîðÿòüñÿ íåîãðàíè÷åííîå ÷èñëî ðàç
â îäèíàêîâûõ óñëîâèÿõ. Àíàëèçèðóÿ ïîñëåäîâàòåëüíî ðåçóëüòàòû òàêèõ
ïðîñòåéøèõ ÿâëåíèé, êàê ïîäáðàñûâàíèå ìîíåòû, èãðàëüíîé êîñòè, âûáðîñ
êàðòû èç êîëîäû è ò.ï., ìû çàìå÷àåì äâå îñîáåííîñòè, ïðèñóùèå òàêîãî ðîäà ýêñïåðèìåíòàì. Âî-ïåðâûõ, íå ïðåäñòàâëÿåòñÿ âîçìîæíûì ïðåäñêàçàòü
èñõîä ïîñëåäóþùåãî ýêñïåðèìåíòà ïî ðåçóëüòàòàì ïðåäûäóùèõ, êàê áû íè
áûëî âåëèêî ÷èñëî ïðîâåäåííûõ èñïûòàíèé. Âî-âòîðûõ, îòíîñèòåëüíàÿ ÷àñòîòà îïðåäåëåííûõ èñõîäîâ ïî ìåðå ðîñòà ÷èñëà èñïûòàíèé ñòàáèëèçèðóåòñÿ, ïðèáëèæàÿñü ê îïðåäåëåííîìó ïðåäåëó. Ñëåäóþùàÿ òàáëèöà ñëóæèò
ïîäòâåðæäåíèåì ýòîãî çàìå÷àòåëüíîãî ôàêòà, ñîñòàâëÿþùåãî îñíîâó àêñèîìàòè÷åñêîãî ïîñòðîåíèÿ òåîðèè âåðîÿòíîñòåé êàê ìàòåìàòè÷åñêîé äèñöèïëèíû.
Ïåðâûé ñòîëáåö ýòîé òàáëèöû óêàçûâàåò
íîìåð ýêñïåðèìåíòà; ïîñëåäóþùèå ñòîëáöû
ñîäåðæàò äàííûå î êîëè÷åñòâàõ m âûïàäåíèÿ ãåðáà â n(= 102 , 104 , 106 ) ïîäáðàñûâàíèÿõ (èñïûòàíèÿõ) ïðàâèëüíîé ñèììåòðè÷íîé
ìîíåòû. Òàêèì îáðàçîì, ïðîâîäèëîñü òðè ñåðèè ýêñïåðèìåíòîâ ñ ðàçíûì ÷èñëîì èñïûòàíèé â êàæäîé ñåðèè. Êàæäàÿ ñåðèÿ ñîñòîèò
èç äåñÿòè ýêñïåðèìåíòîâ ñ îäíèì è òåì æå
÷èñëîì n ïîäáðàñûâàíèé ìîíåòû, ÷òî ïîçâîëÿåò ñóäèòü îá èçìåí÷èâîñòè ÷èñëà m âûïàäåíèé ãåðáà îò ýêñïåðèìåíòà ê ýêñïåðèìåíòó
âíóòðè îäíîé ñåðèè. Î÷åâèäíà ñòàáèëèçàöèÿ
îòíîñèòåëüíîé ÷àñòîòû pn = m/n âûïàäåíèé ãåðáà ñ ðîñòîì ÷èñëà èñïûòàíèé n, à òàêæå ñòðåìëåíèå pn ê âåëè÷èíå p = 1/2. Ìîæíî äàæå âûñêàçàòü
íåêîòîðîå ñóæäåíèå îá èçìåí÷èâîñòè ýòîé ÷àñòîòû îò ýêñïåðèìåíòà ê ýêñïåðèìåíòó ïðè ôèêñèðîâàííîì n: îòêëîíåíèå pn îò öåíòðà ðàññåèâàíèÿ,
ðàâíîãî 1/2, èìååò ïîðÿäîê n−1/2 (ñì. â ñâÿçè ñ ýòèì íèæíþþ ñòðîêó òàáëèöû).
N \n 102
1
41
2
48
3
44
4
52
5
58
6
52
7
45
8
50
9
52
10
45
Er 10−1
104
4985
5004
5085
4946
4978
4985
5012
4931
5016
4973
10−2
106
499558
499952
500114
500064
500183
499533
500065
500317
500449
500704
10−3
6
Îáíàðóæåííûå çàêîíîìåðíîñòè, ðàñïðîñòðàíåííûå íà èñïûòàíèÿ ñ ïðîèçâîëüíûì ÷èñëîì èñõîäîâ, ïîçâîëÿþò ïîñòðîèòü ïðîñòåéøóþ ìàòåìàòè÷åñêóþ ìîäåëü ñëó÷àéíîãî ýêñïåðèìåíòà.
Ïîñòðîåíèå íà÷èíàåòñÿ ñ îïèñàíèÿ ìíîæåñòâà Ω âñåâîçìîæíûõ èñõîäîâ
ω , êîòîðûå ìîãóò ïðîèçîéòè â ðåçóëüòàòå êàæäîãî èñïûòàíèÿ. Ìíîæåñòâî
Ω íàçûâàåòñÿ ïðîñòðàíñòâîì ýëåìåíòàðíûõ èñõîäîâ, åãî òî÷êè (ýëåìåíòû) ω ýëåìåíòàðíûìè èñõîäàìè èëè ýëåìåíòàðíûìè ñîáûòèÿìè. Ëþáîå ïîäìíîæåñòâî A ïðîñòðàíñòâà Ω (ñîâîêóïíîñòü ýëåìåíòàðíûõ èñõîäîâ
ω ) íàçûâàåòñÿ ñîáûòèåì; ïðîñòðàíñòâî Ω òàêæå ÿâëÿåòñÿ ñîáûòèåì, íî
èìåþùèì îñîáîå íàçâàíèå äîñòîâåðíîãî ñîáûòèÿ. Ãîâîðÿò, ÷òî ïðîèçîøëî
ñîáûòèå A, åñëè â èñïûòàíèè íàáëþäàåòñÿ ýëåìåíòàðíûé èñõîä ω ∈ A.
 ýòîì ïàðàãðàôå, ïîñâÿùåííîì òàê íàçûâàåìîé ýëåìåíòàðíîé òåîðèè
âåðîÿòíîñòåé, áóäóò ðàññìàòðèâàòüñÿ òîëüêî ïðîñòðàíñòâà Ω, ñîñòîÿùèå
èç íå áîëåå ÷åì ñ÷åòíîãî ÷èñëà ýëåìåíòîâ. Ïðîèëëþñòðèðóåì ââåäåííûå
ïîíÿòèÿ íà ðÿäå ïðîñòåéøèõ ïðèìåðîâ, îòíîñÿùèõñÿ ê ñëó÷àéíûì èñïûòàíèÿì.
Ï ð è ì å ð 1.1. Ïîäáðàñûâàåòñÿ ïðàâèëüíàÿ ìîíåòà è ðåãèñòðèðóåòñÿ
ñòîðîíà (ãåðá èëè ðåøêà) ìîíåòû, êîòîðàÿ îáðàùåíà ê íàáëþäàòåëþ ïîñëå
åå ïàäåíèÿ. Ïðîñòðàíñòâî Ω ñîñòîèò èç äâóõ òî÷åê: ω1 = à (âûïàë ãåðá) è
ω2 = Ð (âûïàëà ðåøêà). Ëþáîå ñîáûòèå A â ýòîì ïðèìåðå ÿâëÿåòñÿ ëèáî
ýëåìåíòàðíûì, ëèáî äîñòîâåðíûì.
Ï ð è ì å ð 1.2. Ïðàâèëüíàÿ ìîíåòà ïîäáðàñûâàåòñÿ äâà ðàçà èëè, ÷òî îäíî è òî æå, ïîäáðàñûâàþòñÿ äâå ìîíåòû. Ïðîñòðàíñòâî Ω ñîäåðæèò ÷åòûðå
òî÷êè: ÃÃ, ÃÐ, ÐÃ, ÐÐ. Ñîáûòèå A = {ÃÐ,ÐÃ} îçíà÷àåò, ÷òî ìîíåòû âûïàëè
íà ðàçíûå ñòîðîíû, è, î÷åâèäíî, íå ÿâëÿåòñÿ ýëåìåíòàðíûì ñîáûòèåì. Èíòåðåñíî, ÷òî íà ðàííåì ýòàïå ñòàíîâëåíèÿ òåîðèè âåðîÿòíîñòåé ýòî ñîáûòèå
ðàññìàòðèâàëîñü êàê ýëåìåíòàðíîå (òî åñòü ïîëàãàëîñü Ω = {ÃÃ, A, ÐÐ}),
è ýòî ïðèâîäèëî ê âåðîÿòíîñòíîé ìîäåëè ðåçóëüòàòîâ èñïûòàíèé äâóõ ïðàâèëüíûõ ìîíåò, êîòîðàÿ ïðîòèâîðå÷èëà íàáëþäàåìîé ÷àñòîòå ýëåìåíòàðíûõ èñõîäîâ.
Ï ð è ì å ð 1.3. Áðîñàåòñÿ èãðàëüíàÿ êîñòü è ðåãèñòðèðóåòñÿ ÷èñëî âûïàâøèõ î÷êîâ (íîìåð ãðàíè èãðàëüíîé êîñòè). Ïðîñòðàíñòâî ýëåìåíòàðíûõ
èñõîäîâ ñîñòîèò èç øåñòè ýëåìåíòîâ ωi = i, i = 1, . . . , 6. Ïðèìåð ñîñòàâíîãî ñîáûòèÿ: A = {2, 4, 6} âûïàëî ÷åòíîå ÷èñëî î÷êîâ.
Ï ð è ì å ð 1.4. Áðîñàþòñÿ äâå èãðàëüíûå êîñòè. Ïðîñòðàíñòâî ýëåìåíòàðíûõ èñõîäîâ ìîæíî ïðåäñòàâèòü â âèäå ìàòðèöû Ω = k(i, j)k, i, j =
7
1, . . . , 6. Ïðèìåð ñîñòàâíîãî ñîáûòèÿ: ñóììà î÷êîâ áîëüøå 10; ïîÿâëåíèå
ýòîãî ñîáûòèÿ âîçìîæíî ëèøü ïðè ýëåìåíòàðíûõ èñõîäàõ (5,6), (6,5), (6,6).
Ï ð è ì å ð 1.5. Ïîäáðàñûâàþòñÿ n ìîíåò. Ïðîñòðàíñòâî Ω ñîäåðæèò 2n
ýëåìåíòîâ; ëþáîé ýëåìåíòàðíûé èñõîä ω èìååò âèä ñëîâà , ñîñòîÿùåãî èç
áóêâ Ã è Ð, íàïðèìåð, ÐÃÃÐÐ . . . ÃÐÃ. Ïðèìåð ñîñòàâíîãî ñîáûòèÿ, ñîñòîÿùåãî èç Cnk ýëåìåíòàðíûõ èñõîäîâ: âûïàëî k ãåðáîâ .
Ï ð è ì å ð 1.6. Ìîíåòà ïîäáðàñûâàåòñÿ äî ïåðâîãî ïîÿâëåíèÿ ãåðáà. Ïðîñòðàíñòâî Ω ñîñòîèò èç ñ÷åòíîãî ÷èñëà ýëåìåíòîâ âèäà ωi = Ð . . . Ð Ã, â
êîòîðûõ íà÷àëüíûå Ð ïîâòîðÿþòñÿ i − 1 ðàç, i = 1, 2, . . . Ïðèìåð ñîñòàâíîãî ñîáûòèÿ, îñóùåñòâëåíèå êîòîðîãî ñîïðÿæåíî ñ ïîÿâëåíèåì îäíîãî èç
÷åòûðåõ ýëåìåíòàðíûõ èñõîäîâ, ãåðá ïîÿâèëñÿ äî ïÿòîãî ïîäáðàñûâàíèÿ
ìîíåòû .
Ï ð è ì å ð 1.7. Íàáëþäàòåëü ôèêñèðóåò ÷èñëî ìåòåîðîâ, ïîÿâèâøèõñÿ â
çàäàííîì ñåêòîðå íåáåñíîãî ñâîäà â òå÷åíèå ôèêñèðîâàííîãî ïðîìåæóòêà âðåìåíè. Ïîñêîëüêó íå ïðåäñòàâëÿåòñÿ âîçìîæíûì îãðàíè÷èòü ñâåðõó
÷èñëî âîçìîæíûõ ïîÿâëåíèé ìåòåîðîâ, òî åñòåñòâåííî îòîæäåñòâèòü Ω, ñ
ìíîæåñòâîì âñåõ íåîòðèöàòåëüíûõ öåëûõ ÷èñåë {0, 1, 2 . . .}, òî åñòü ïîëîæèòü ωk = k . Ïðèìåð ñîñòàâíîãî ñîáûòèÿ: A = {1, 2 . . .} íàáëþäàëñÿ ïî
êðàéíåé ìåðå îäèí ìåòåîð .
Åñëè îãðàíè÷èòüñÿ ðàññìîòðåíèåì ïðîñòðàíñòâ ýëåìåíòàðíûõ èñõîäîâ,
ñîñòîÿùèõ èç íå áîëåå ÷åì ñ÷åòíîãî ÷èñëà ýëåìåíòîâ, òî ïîñòðîåíèå âåðîÿòíîñòíîé ìîäåëè ïî ñóùåñòâó ñîñòîèò â çàäàíèè ðàñïðåäåëåíèÿ âåðîÿòíîñòåé íà ïðîñòðàíñòâå Ω, â ñîîòâåòñòâèè ñ êîòîðûì êàæäîìó ýëåìåíòàðíîìó
èñõîäó ω ∈ Ω ñòàâèòñÿ â ñîîòâåñòâèå ÷èñëî p(ω), íàçûâàåìîå âåðîÿòíîñòüþ
ýëåìåíòàðíîãî X
ñîáûòèÿ ω . Ïîñòóëèðóåòñÿ, ÷òî 0 ≤ p(ω) ≤ 1, êàêîâî áû íè
áûëî ω ∈ Ω, è
p(ω) = 1. Âåðîÿòíîñòü ëþáîãî ñîñòàâíîãî ñîáûòèÿ A
ω∈Ω
âû÷èñëÿåòñÿ ïî ôîðìóëå
P (A) =
X
p(ω).
ω∈A
×èñëî P (A) èíòåðïðåòèðóåòñÿ êàê îòíîñèòåëüíàÿ ÷àñòîòà ïîÿâëåíèÿ ñîáûòèÿ A â ñòàòèñòè÷åñêîì ýêñïåðèìåíòå, ñîñòîÿùåì èç äîñòàòî÷íî áîëüøîãî ÷èñëà èñïûòàíèé. Îïèðàÿñü íà ýòó èíòåðïðåòàöèþ, ëåãêî ïîñòðîèòü
ðàñïðåäåëåíèå âåðîÿòíîñòåé â ïðèìåðàõ 1.11.6.
8
Åñëè ïîäáðàñûâàåòñÿ ïðàâèëüíàÿ (ñèììåòðè÷íàÿ) ìîíåòà (ñì. ïðèìåð
1.1), òî åñòåñòâåííî îïðåäåëèòü âåðîÿòíîñòè ýëåìåíòàðíûõ èñõîäîâ èç óñëîâèÿ ñèììåòðèè è ïîëîæèòü p(Ã) = p(Ð) = 1/2, ÷òî áëåñòÿùå ïîäòâåðæäàåòñÿ ðåçóëüòàòàìè ñòàòèñòè÷åñêèõ ýêñïåðèìåíòîâ (ñì. òàáëèöó 1). Îäíàêî óæå ïðè ïîäáðàñûâàíèè äâóõ ìîíåò (ïðèìåð 1.2) ó ÷àñòè íåèñêóøåííûõ èññëåäîâàòåëåé âîçíèêàåò æåëàíèå íàðóøèòü óñëîâèå ñèììåòðèè è
ïðèïèñàòü èñõîäàì Ãà è ÐÐ ìåíüøóþ âåðîÿòíîñòü, ÷åì ÃÐ èëè ÐÃ. Â
èñòîðèè ñòîõàñòèêè èçâåñòåí òàêæå ïàðàäîêñ, îñíîâàííûé íà íåêîððåêòíîì îïðåäåëåíèè ïðîñòðàíñòâà Ω, êîãäà ñîñòàâíîå ñîáûòèå A = {ÃÐ, ÐÃ}
òðàêòîâàëîñü êàê ýëåìåíòàðíîå è, ñëåäóÿ àêñèîìå ñèììåòðèè , óòâåðæäàëîñü, ÷òî p(ÃÃ) = p(ÐÐ) = p(A) = 1/3. Ïîñêîëüêó ðåçóëüòàòû îïûòîâ
ïðîòèâîðå÷èëè òàêîé âåðîÿòíîñòíîé ìîäåëè (íàáëþäåíèÿ ïîêàçûâàëè, ÷òî
p(A) = 1/2, p(ÃÃ) = p(ÐÐ) = 1/4), òî óêàçàííûé ôåíîìåí îáúÿâëÿëñÿ ïàðàäîêñîì òåîðèè âåðîÿòíîñòåé, íàä ðàçðåøåíèåì êîòîðîãî áèëèñü ìíîãèå
èçâåñòíûå ìàòåìàòèêè è åñòåñòâîèñïûòàòåëè, â òîì ÷èñëå è âåëèêèé Äàëàìáåð. Âñå ðàçúÿñíèëîñü òîëüêî ïîñëå ÷åòêîãî ìàòåìàòè÷åñêîãî îïðåäåëåíèÿ
íåçàâèñèìîñòè ñîáûòèé. Ìû ïîçíàêîìèìñÿ ñ ýòèì ôóíäàìåíòàëüíûì ïîíÿòèåì òåîðèè âåðîÿòíîñòåé íåñêîëüêî ïîçäíåå, à ïîêà, ñëåäóÿ ïðèíöèïó
ñèììåòðèè, ïðèïèøåì êàæäîìó èç ÷åòûðåõ ýëåìåíòàðíûõ èñõîäîâ, íàáëþäàåìûõ ïðè ïîäáðàñûâàíèè äâóõ ìîíåò, îäíó è òó æå âåðîÿòíîñòü 1/4. Êàê
óæå ãîâîðèëîñü âûøå, ýòà âåðîÿòíîñòíàÿ ìîäåëü ñîãëàñóåòñÿ ñ ðåçóëüòàòàìè íàáëþäåíèé ÷àñòîò ýëåìåíòàðíûõ èñõîäîâ â ñîîòâåòñòâóþùåì ñòàòèñòè÷åñêîì ýêñïåðèìåíòå, ñîñòîÿùåì èç áîëüøîãî ÷èñëà èñïûòàíèé äâóõ
ïðàâèëüíûõ ìîíåò.
×òîáû çàêîí÷èòü ñ èñïûòàíèÿìè ïðàâèëüíûõ ìîíåò, îáðàòèìñÿ ñðàçó ê
ïðèìåðó 1.5, ãäå ýëåìåíòàðíûé èñõîä ôîðìèðóåòñÿ èç ðåçóëüòàòîâ ïîäáðàñûâàíèé n ìîíåò.  ýòîé ñèòóàöèè óáåäèòü âûøåóïîìÿíóòîãî íåèñêóøåííîãî èññëåäîâàòåëÿ â ðàâíîâåðîÿòíîñòè âñåõ ýëåìåíòàðíûõ èñõîäîâ ïðàêòè÷åñêè íåâîçìîæíî. Íàïðèìåð, ñ÷èòàåòñÿ, ÷òî ýëåìåíòàðíûé èñõîä ÃÃÃÃÃÃÃÃÃà èìååò çíà÷èòåëüíî ìåíüøóþ âåðîÿòíîñòü ïîÿâëåíèÿ, ÷åì èñõîä
ÐÐÃÐÃÃÃÐÐà (çäåñü n = 10). Ýòî ÷èñòî ïñèõîëîãè÷åñêèé ôåíîìåí, ñâÿçàííûé ñ íåîñîçíàííîé ïîäìåíîé ýòèõ äâóõ ýëåìåíòàðíûõ èñõîäîâ äâóìÿ
ñîñòàâíûìè ñîáûòèÿìè: A âñå ìîíåòû âûïàëè îäíîé ñòîðîíîé (ñîáûòèå,
ñîñòîÿùåå èç äâóõ ýëåìåíòàðíûõ èñõîäîâ) è B õîòÿ áû îäíà ìîíåòà âûïàëà íå òîé ñòîðîíîé, ÷òî âñå îñòàëüíûå (ñîáûòèå, ñîñòîÿùåå èç 2n − 2 èñõîäîâ). Ïî ýòîé æå ïðè÷èíå àáñîëþòíîå áîëüøèíñòâî ïîêóïàòåëåé ëîòåðåéíûõ áèëåòîâ îòêàæóòñÿ îò áèëåòà, íîìåð êîòîðîãî ñîñòîèò èç îäèíàêîâûõ
9
öèôð, õîòÿ, î÷åâèäíî, âñå áèëåòû èìåþò îäèíàêîâûé øàíñ áûòü âûèãðûøíûìè.  ïîñëåäíåì ëåãêî óáåäèòüñÿ, íàáëþäàÿ, êàê ïðîèñõîäèò ðîçûãðûø
ëîòåðåéíûõ áèëåòîâ, òî åñòü êàê îáåñïå÷èâàåòñÿ ðàâíîâåðîÿòíîñòü áèëåòîâ âíå çàâèñèìîñòè îò èõ íîìåðîâ. Èòàê, â ïðèìåðå 1.5 âåðîÿòíîñòíàÿ
ìîäåëü îïðåäåëÿåòñÿ âåðîÿòíîñòÿìè p(ω) = 2−n , êàêîâî áû íè áûëî ω ∈ Ω.
 ñîîòâåòñòâèè ñ ýòîé, ïîäòâåðæäàåìîé ðåàëüíûìè ñòàòèñòè÷åñêèìè ýêñïåðèìåíòàìè, ìîäåëüþ âåðîÿòíîñòè óïîìÿíóòûõ ñîáûòèé A è B ðàâíû ñîîòâåòñòâåííî 1/2n−1 è 1 − 1/2n−1 . Íàïðèìåð, ïðè n = 10 P (A) = 1/512,
à P (B) = 511/512, òàê ÷òî ñîáûòèå B ïðîèñõîäèò â 511ðàçà ÷àùå, ÷åì
ñîáûòèå A.
Ïðèíöèï ñèììåòðèè òàêæå ïðèìåíÿåòñÿ è â ïîñòðîåíèè âåðîÿòíîñòíîé ìîäåëè èñïûòàíèé ïðàâèëüíîé êîñòè (ïðèìåðû 1.3 è 1.4). Åñòåñòâåííî,
âñå ãðàíè èìåþò îäèíàêîâóþ âåðîÿòíîñòü âûïàäåíèÿ, â ñîîòâåòñòâèè ñ ÷åì
p(ω) = 1/6 â ïðèìåðå 1.3 è p(ω) = 1/36 â ïðèìåðå 1.2, êàêîâî áû íè áûëî ω ∈ Ω. Îäíàêî íå ñëåäóåò èçëèøíå äîâåðÿòü ýòîé ìîäåëè íà ïðàêòèêå,
êîãäà âàì ïðèäåòñÿ èãðàòü â êîñòè ñ ïðèÿòåëåì èëè â êàçèíî. Ïðè ðàñêîïêàõ åãèïåòñêèõ ïèðàìèä áûëè íàéäåíû èãðàëüíûå êîñòè ñî ñìåùåííûì
öåíòðîì òÿæåñòè, òàê ÷òî åùå çà òûñÿ÷åëåòèÿ äî íàøåé ýðû íàõîäèëèñü
âåñüìà èñêóøåííûå èñïûòàòåëè , ñïîñîáíûå óïðàâëÿòü ÷àñòîòîé ýëåìåíòàðíûõ èñõîäîâ.
Ðàñïðåäåëåíèå âåðîÿòíîñòåé â ïðèìåðå 1.6 ìîæíî ïîëó÷èòü, èñïîëüçóÿ
òå æå ðàññóæäåíèÿ, ÷òî è â ïðèìåðàõ 1.1, 1.2 è 1.5. Äåéñòâèòåëüíî, îñóùåñòâëåíèå ýëåìåíòàðíîãî èñõîäà ω1 îçíà÷àåò âûïàäåíèå ãåðáà â îäíîêðàòíîì
ïîäáðàñûâàíèè ìîíåòû, òàê ÷òî (ñì. ïðèìåð 1.1) p1 = p(ω1 ) = 1/2. Ýëåìåíòàðíûé èñõîä ω2 ñîâïàäàåò ñ ýëåìåíòàðíûì èñõîäîì ÐÃ â ïðèìåðå 1.2,
ñëåäîâàòåëüíî, p2 = p(ω2 ) = 1/4. Íàêîíåö, ïðè ïðîèçâîëüíîì n = 1, 2, . . .,
èñïîëüçóÿ âåðîÿòíîñòü ýëåìåíòàðíîãî èñõîäà ÐÐ, . . . , Ðà (ïåðâûå n − 1 èñïûòàíèé çàêîí÷èëèñü âûïàäåíèåì ðåøêè, à ïðè n-îì èñïûòàíèè âûïàë
ãåðá) â ïðèìåðå 1.5, ïîëó÷àåì pn = p(ωn ) = 2−n . Çàâåðøèâ ïîñòðîåíèå
âåðîÿòíîñòíîé ìîäåëè, óáåäèìñÿ â ñïðàâåäëèâîñòè ðàâåíñòâà
∞
X
n=1
pn =
∞
X
2−n = 1.
n=1
Èòàê, ïðè ïîñòðîåíèè âåðîÿòíîñòíûõ ìîäåëåé â ïðèìåðàõ 1.11.6 ìû ñóùåñòâåííî èñïîëüçîâàëè ôèçè÷åñêóþ ïðèðîäó îáúåêòîâ, ñ êîòîðûìè ïðîâîäèëèñü ýêñïåðèìåíòû, ìîíåòà è êîñòü áûëè ïðàâèëüíûìè (ñèììåòðè÷íûìè), è òîëüêî ýòî ñâîéñòâî ïîçâîëèëî íàì ïðèïèñàòü îäèíàêîâûå âåðî10
ÿòíîñòè âñåì ýëåìåíòàðíûì èñõîäàì. Åñëè ïîäáðàñûâàåòñÿ ãíóòàÿ ìîíåòà,
òî îïðåäåëèòü âåðîÿòíîñòü p âûïàäåíèÿ ãåðáà, èñïîëüçóÿ óðàâíåíèÿ, îïèñûâàþùèå äèíàìèêó ïîëåòà âðàùàþùåéñÿ íåïðàâèëüíîé ìîíåòû è çàêîíîìåðíîñòè åå óïðóãîãî ñòîëêíîâåíèÿ ñ ïîâåðõíîñòüþ, ïðåäñòàâëÿåò ñîáîé
âåñüìà ñëîæíóþ è âðÿä ëè ðàçðåøèìóþ çàäà÷ó. Ñëåäóåò òàêæå îòìåòèòü,
÷òî åñëè p èçâåñòíî, íî íå ðàâíî 1/2, òî ìû íå â ñîñòîÿíèè íàéòè ðàñïðåäåëåíèå âåðîÿòíîñòåé â ïðèìåðàõ 1.2 è 1.5 ñ ìíîãîêðàòíûì ïîäáðàñûâàíèåì
ìîíåòû, ïîêà íå ôîðìàëèçîâàíî ïîíÿòèå íåçàâèñèìîñòè èñïûòàíèé ìîíåòû.
Åñëè òåïåðü îáðàòèòüñÿ ê ïðèìåðó 1.7, òî â ñâåòå âûøåñêàçàííîãî ñòàíîâèòñÿ ïîíÿòíûì, ÷òî ïîñòðîåíèå âåðîÿòíîñòíîé ìîäåëè ÷èñëåííîñòè ìåòåîðîâ íåâîçìîæíî áåç ïðèâëå÷åíèÿ çíàíèé îá èõ ðàñïðåäåëåíèè â îêîëîçåìíîì ïðîñòðàíñòâå, ó÷åòà ýôôåêòà âðàùåíèÿ Çåìëè â èíòåíñèâíîñòè
ïîÿâëåíèÿ ìåòåîðîâ, ðàçäåëåíèÿ ìåòåîðíûõ ÿâëåíèé íà ïîòîêè è ñïîðàäè÷åñêèé ôîí . Ó÷èòûâàÿ íàøè áîëåå ÷åì ñêóäíûå ïîçíàíèÿ â òåîðèè
âåðîÿòíîñòåé, ñëåäóåò ïðèçíàòü, ÷òî ðåøåíèå ýòîé çàäà÷è íàì ïîêà íå ïî
çóáàì . È âñå æå, ïðåäâîñõèùàÿ íàøè äàëüíåéøèå ïîñòðîåíèÿ, íàèáîëåå
ëþáîïûòíûì è íåòåðïåëèâûì ñîîáùó, ÷òî ïîñëå ó÷åòà ýôôåêòà âðàùåíèÿ
Çåìëè ðàñïðåäåëåíèå ìåòåîðîâ â ñïîðàäè÷åñêîì ôîíå âûðàæàåòñÿ ôîðìóëîé
λk e−λ
, k = 0, 1, . . .
pk = p(ωk ) =
k!
Ìû çàâåðøèì ýòîò ïàðàãðàô ðåøåíèåì íåêîòîðûõ çàäà÷, â êîòîðûõ èñïîëüçóþòñÿ ìîäåëè, îñíîâàííûå íà ðàâíîâåðîÿòíîñòè ýëåìåíòàðíûõ èñõîäîâ. Âñå ýòè çàäà÷è, òàê èëè èíà÷å, ñâîäÿòñÿ ê ïîäñ÷åòó ÷èñëà ýëåìåíòàðíûõ èñõîäîâ, âëåêóùèõ íåêîòîðîå ñîáûòèå A; îïðåäåëåíèå âåðîÿòíîñòè
ýòîãî ñîáûòèÿ è ñîñòàâëÿåò ïðåäìåò çàäà÷è.
Ç à ä à ÷ à 1.1. Áðîñàþòñÿ äâå ïðàâèëüíûå êîñòè. Íàéòè âåðîÿòíîñòü òîãî, ÷òî ñóììà âûïàâøèõ î÷êîâ áîëüøå 6.
 ñîîòâåòñòâèè ñ ðàñïðåäåëåíèåì âåðîÿòíîñòåé, ïîëó÷åííûì â ïðèìåðå
4, âñå 36 ýëåìåíòàðíûõ èñõîäîâ èìåþò îäèíàêîâóþ âåðîÿòíîñòü 1/36, òàê
÷òî äëÿ ðåøåíèÿ çàäà÷è äîñòàòî÷íî ïîäñ÷èòàòü ÷èñëî öåëûõ ðåøåíèé íåðàâåíñòâà x + y > 6 èëè îáðàòèòüñÿ ê ìàòðèöå ýëåìåíòàðíûõ èñõîäîâ kωi,j k,
11
âûäåëèâ â íåé ýëåìåíòû ñ i + j > 6, ñîñòàâëÿþùèå èñêîìîå ñîáûòèå A,
11
21
31
41
51
61
12
22
32
42
52
62
13
23
33
43
53
63
14
24
34
44
54
64
15
25
35
45
55
65
16
26
36
46
56
66
×èñëî áëàãîïðèÿòíûõ äëÿ ñîáûòèÿ A èñõîäîâ (îíè âûäåëåíû æèðíûì
øðèôòîì) ðàâíî (1+6)6/2=21, îòêóäà P (A) = 21/36 = 7/12. Èòàê, åñëè
âàì ïðåäëîæàò èãðàòü â êîñòè, ãäå ñòàâêà èäåò íà ñóììó î÷êîâ áîëüøå 6
èëè íà ïðîòèâîïîëîæíîå ñîáûòèå i + j ≤ 6, òî ñëåäóåò ñòàâèòü íà ïåðâîå
ñîáûòèå - â ñðåäíåì îäèí ðàç èç äâåíàäöàòè ñòàâîê âû áóäåòå ïîëó÷àòü
äîïîëíèòåëüíûé âûèãðûø ïî ñðàâíåíèþ ñ âàøèì ïàðòíåðîì ïî èãðå.
Ç à ä à ÷ à 1.2. (âåðîÿòíîñòíàÿ çàäà÷à Øåâàëüå äå Ìåðå). Îäèí èç ñîçäàòåëåé ñîâðåìåííîé òåîðèè ìàòåìàòè÷åñêîé ñòàòèñòèêè Þ.Íåéìàí óòâåðæäàåò, ÷òî îñíîâàòåëÿìè òåîðèè ñòàòèñòè÷åñêèõ ðåøåíèé ñëåäóåò ñ÷èòàòü
òåõ àçàðòíûõ èãðîêîâ, êîòîðûå âïåðâûå ñòàëè ðàñ÷èòûâàòü øàíñû îïðåäåëåííûõ ñòàâîê ïðè èãðå â êîñòè, êàðòû è ò.ï., è â ñâÿçè ñ ýòèì èçëàãàåò
íåêîòîðûå ôðàãìåíòû èç ïåðåïèñêè Á.Ïàñêàëÿ ñ îäíèì èç òàêèõ èãðîêîâ.
Íèæå ïðèâîäèòñÿ âûäåðæêà èç ââîäíîãî êóðñà Þ.Íåéìàíà ïî òåîðèè âåðîÿòíîñòåé è ìàòåìàòè÷åñêîé ñòàòèñòèêå.
 êîíöå ñåìíàäöàòîãî âåêà îäèí ôðàíöóçñêèé âåëüìîæà Øåâàëüå äå
Ìåðå, èçâåñòíûé èãðîê â àçàðòíûå èãðû, â ÷àñòíîñòè â êîñòè, çàèíòåðåñîâàëñÿ âîçìîæíîñòüþ âû÷èñëèòü ìàòåìàòè÷åñêè, êàê ñëåäóåò äåëàòü ñòàâêè.
Åãî èíòåðåñîâàëà èãðà, ñîñòîÿùàÿ èç 24 áðîñàíèé ïàðû êîñòåé. Ïî ïðàâèëàì èãðû ñòàâèòü ìîæíî áûëî èëè íà ïîÿâëåíèå äâîéíîé øåñòåðêè ïî
êðàéíåé ìåðå îäèí ðàç â 24 áðîñàíèÿõ, èëè ïðîòèâ ýòîãî ðåçóëüòàòà.
Âû÷èñëåíèÿ Øåâàëüå äå Ìåðå ïðèâåëè åãî ê çàêëþ÷åíèþ, ÷òî â äëèííîì ðÿäå èãð äâîéíàÿ øåñòåðêà äîëæíà ïîÿâëÿòüñÿ (õîòü îäèí ðàç) áîëåå
÷åì â ïÿòèäåñÿòè ïðîöåíòàõ âñåõ èãð è ÷òî ïîýòîìó âûãîäíî ñòàâèòü íà
ïîÿâëåíèå äâîéíîé øåñòåðêè. Õîòÿ Øåâàëüå äå Ìåðå áûë óâåðåí â ïðàâèëüíîñòè ñâîèõ âû÷èñëåíèé, îí ñîìíåâàëñÿ â íàäåæíîñòè ìàòåìàòèêè è
ïðîèçâåë î÷åíü äëèííûé ðÿä îïûòîâ ñ áðîñàíèåì êîñòåé. (Ýòîò ýìïèðè÷åñêèé ìåòîä ïðèìåíÿåòñÿ è òåïåðü è íîñèò íàçâàíèå ìåòîä Ìîíòå-Êàðëî ).
Îêàçàëîñü, ÷òî ÷àñòíîñòü äâîéíîé øåñòåðêè â ðÿäó èãð ìåíüøå ïÿòèäåñÿòè ïðîöåíòîâ! Ïîëó÷èâ ýòîò ðåçóëüòàò, äå Ìåðå ðàññâèðåïåë è íàïèñàë èç12
âåñòíîìó ôðàíöóçñêîìó ìàòåìàòèêó Ïàñêàëþ ïèñüìî, óòâåðæäàþùåå, ÷òî
ìàòåìàòèêà êàê íàóêà íèêóäà íå ãîäèòñÿ, è ïð. Ïèñüìî ýòî áûëî íàñòîëüêî
ÿðîñòíûì è âìåñòå ñ òåì çàáàâíûì, ÷òî ïîïàëî â èñòîðèþ!
Ïàñêàëü ðàññìîòðåë çàäà÷ó Øåâàëüå äå Ìåðå, è îòâåò åãî ãëàñèë: åñëè
êîñòè ïðàâèëüíûå , òî îòíîñèòåëüíàÿ ÷àñòîòà èãð ñ õîòÿ áû îäíîé äâîéíîé øåñòåðêîé ðàâíà 0.491. Òàêèì îáðàçîì, îêàçàëîñü, ÷òî ìàòåìàòè÷åñêèå
âûêëàäêè Øåâàëüå äå Ìåðå áûëè îøèáî÷íû, à åãî ýìïèðè÷åñêèé ðåçóëüòàò
ñîãëàñóåòñÿ ñ òåîðèåé (êîíåö öèòàòû).
Ïðèâåäåì ðåøåíèå çàäà÷è äå Ìåðå, äàííîå Ïàñêàëåì.
Ïðîñòðàíñòâî ýëåìåíòàðíûõ ñîáûòèé Ω â ýòîé çàäà÷å ñîñòîèò èç 3624
ðàâíîâåðîÿòíûõ èñõîäîâ. Ñëåäîâàòåëüíî, äëÿ ðåøåíèÿ çàäà÷è äîñòàòî÷íî
ïîäñ÷èòàòü ÷èñëî ýëåìåíòàðíûõ èñõîäîâ, âëåêóùèõ ñîáûòèå A : äâîéíàÿ
øåñòåðêà ïîÿâèëàñü õîòÿ áû îäèí ðàç. Îäíàêî íåñîìíåííî ïðîùå ïîäñ÷èòàòü ÷èñëî èñõîäîâ äëÿ ïðîòèâîïîëîæíîãî ñîáûòèÿ Ac : íè îäíî èç áðîñàíèé äâóõ êîñòåé íå çàêîí÷èëîñü ïîÿâëåíèåì äâîéíîé øåñòåðêè. Î÷åâèäíî,
÷èñëî òàêèõ èñõîäîâ ðàâíî 3524 , îòêóäà ÷èñëî èñõîäîâ,
¡ 35 ¢24 áëàãîïðèÿòñòâóþ24
24
≈ 0.491.
ùèõ ñîáûòèþ A, ðàâíî 36 − 35 è P (A) = 1 − 36
Ìîæíî ïðåäïîëîæèòü, ÷òî äå Ìåðå íàïðÿìóþ, íå çíàÿ, ïî âñåé âèäèìîñòè, ôîðìóëû áèíîìèàëüíûõ êîýôôèöèåíòîâ, ïîäñ÷èòûâàë, ñêîëüêî ýëåìåíòàðíûõ èñõîäîâ áëàãîïðèÿòñòâóåò îäíîêðàòíîìó ïîÿâëåíèþ äâîéíîé
øåñòåðêè, ïîòîì äâóêðàòíîìó, è òàê äàëåå äî 24, à ïîòîì ñëîæèë ýòè ÷èñëà. Ïðîèçâåñòè âñå ýòè äåéñòâèÿ ñ ìíîãîçíà÷íûìè ÷èñëàìè è ïðè ýòîì íå
îøèáèòüñÿ, âðÿä ëè ïî ïëå÷ó äàæå ôðàíöóçñêîìó âåëüìîæå! Èç âñåé ýòîé
èñòîðèè ìû äîëæíû ñäåëàòü îäèí ïðàêòè÷åñêè âàæíûé ïðè ðåøåíèè çàäà÷
âûâîä: ïåðåõîä ê ïðîòèâîïîëîæíîìó ñîáûòèþ è èñïîëüçîâàíèå î÷åâèäíîé
ôîðìóëû
P (A) = 1 − P (Ac )
ìîæåò çíà÷èòåëüíî óïðîñòèòü ðåøåíèå âåðîÿòíîñòíîé çàäà÷è, ñâÿçàííîé ñ
êîìáèíàòîðíûìè âûêëàäêàìè.
Ëåêöèÿ 2
Ç à ä à ÷ à 1.3. (ãèïåðãåîìåòðè÷åñêîå ðàñïðåäåëåíèå âåðîÿòíîñòåé). Ñóùåñòâóåò äîâîëüíî áîëüøîé êëàññ çàäà÷ ýëåìåíòàðíîé òåîðèè âåðîÿòíîñòåé, êîòîðûå ìîæíî èíòåðïðåòèðîâàòü â ðàìêàõ òàê íàçûâàåìîé óðíîâîé
ñõåìû: ñîáûòèå, âåðîÿòíîñòü êîòîðîãî íåîáõîäèìî âû÷èñëèòü, ìîæíî òðàêòîâàòü êàê ðåçóëüòàò ñëó÷àéíîãî âûáîðà øàðîâ ðàçëè÷íîé ðàñöâåòêè èç
13
óðíû. Ïðîñòåéøàÿ èç òàêèõ óðíîâûõ ñõåì ñîñòîèò â ñëåäóþùåì. Èç óðíû,
ñîäåðæàùåé M ÷åðíûõ è N − M áåëûõ, øàðîâ ñëó÷àéíûì îáðàçîì îòáèðàåòñÿ n øàðîâ. Êàêîâà âåðîÿòíîñòü, ÷òî âûáîðêà ñîäåðæèò m ÷åðíûõ øàðîâ
(ñîáûòèå A)?
n
 ýòîì ýêñïåðèìåíòå ïðîñòðàíñòâî ýëåìåíòàðíûõ ñîáûòèé ñîñòîèò èç CN
èñõîäîâ (øàðû îäèíàêîâîãî öâåòà íå ðàçëè÷àþòñÿ), è ñëó÷àéíîñòü îòáîðà
n
îçíà÷àåò, ÷òî ýëåìåíòàðíûå èñõîäû èìåþò îäíó è òó æå âåðîÿòíîñòü 1/CN
.
Ñëåäîâàòåëüíî, ðåøåíèå çàäà÷è ñâîäèòñÿ ê ïîäñ÷åòó ÷èñëà âûáîðîê èç n
øàðîâ, êîòîðûå ñîäåðæàò m ÷åðíûõ è n − m áåëûõ. Î÷åâèäíî,
max(0, n − (N − M )) ≤ m ≤ min(n, M ), −
(1)
åñëè îáúåì âûáîðêè n ïðåâûøàåò ÷èñëî ÷åðíûõ øàðîâ M, òî ìû íå ñìîæåì
âûáðàòü áîëåå ÷åì M ÷åðíûõ, è åñëè n áîëüøå, ÷åì ÷èñëî áåëûõ øàðîâ N −
M, òî ÷èñëî m ÷åðíûõ øàðîâ â âûáîðêå íå ìîæåò áûòü ìåíüøå n−(N −M ).
Èç M ÷åðíûõ øàðîâ âûáèðàåòñÿ m øàðîâ òîãî æå öâåòà, è ÷èñëî âñåâîçm
ìîæíûõ ñïîñîáîâ òàêîãî âûáîðà ðàâíî CM
. Àíàëîãè÷íî, èç N − M áåëûõ
n−m
øàðîâ n − m øàðîâ òîãî æå öâåòà ìîæíî âûáðàòü CN
−M ñïîñîáàìè. Ñëåäîâàòåëüíî, îáùåå ÷èñëî èñõîäîâ, áëàãîïðèÿòñòâóþùèõ ñîáûòèþ A, ðàâíî
m
CM
· CNn−m
−M , è èñêîìàÿ âåðîÿòíîñòü
m n−m
CM
CN −M
.
P (A) =
CNn
(2)
Ãîâîðÿò, ÷òî ôîðìóëà (2) îïðåäåëÿåò ãèïåðãåîìåòðè÷åñêîå ðàñïðåäåëåíèå öåëî÷èñëåííîé ñëó÷àéíîé âåëè÷èíû X, ïðèíèìàþùåé çíà÷åíèå èç îáëàñòè (1), âåðîÿòíîñòü pm = P (X = m|N, M, n) ðàâíà ïðàâîé ÷àñòè (2)
P
ïðè ëþáîì m èç îáëàñòè (1) è
pm ïî âñåì m, óäîâëåòâîðÿþùèì (1),
ðàâíà 1.
Ïðèâåäåì íåñêîëüêî ïðèìåðîâ íà ïðèìåíåíèÿ ãèïåðãåîìåòðè÷åñêîãî ðàñïðåäåëåíèÿ âåðîÿòíîñòåé.
1. Âûèãðûø â ëîòåðåå Ñïîðòëîòî 6 èç 49 .  íà÷àëå 70-õ ãîäîâ ïîëó÷èëà ðàñïðîñòðàíåíèå ðàçíîâèäíîñòü ëîòåðåè, íîñÿùàÿ íàçâàíèå ñïîðòëîòî . Ó÷àñòíèê ëîòåðåè èç 49 âèäîâ ñïîðòà, îáîçíà÷åííûõ ïðîñòî öèôðàìè, íàçûâàåò øåñòü. Âûèãðûø îïðåäåëÿåòñÿ òåì, ñêîëüêî íàèìåíîâàíèé
îí óãàäàë èç øåñòè äðóãèõ íàèìåíîâàíèé, êîòîðûå áûëè çàðàíåå âûäåëåíû
êîìèññèåé. Ñïðàøèâàåòñÿ, êàêîâà âåðîÿòíîñòü òîãî, ÷òî ó÷àñòíèê óãàäàåò
âñå øåñòü íàèìåíîâàíèé, ïÿòü íàèìåíîâàíèé è ò.ä.
14
Íåòðóäíî âèäåòü, ÷òî ýòî åñòü íå ÷òî èíîå, êàê çàäà÷à î ãèïåðãåîìåòðè÷åñêîì ðàñïðåäåëåíèè, ãäå N = 49, M = 6 (óãàäûâàåìûå íîìåðà ÷åðíûå
øàðû), n = 6 è m(= 1, . . . , 6) ÷èñëî óãàäàííûõ íîìåðîâ. Âåðîÿòíîñòü
óãàäàòü m íîìåðîâ ðàâíà
6−m
C6m C43
P (X = m|49, 6, 6) =
.
6
C49
Íàïðèìåð, âåðîÿòíîñòü ìàêñèìàëüíîãî âûèãðûøà (m = 6) ðàâíà
6
6
C66 C43
/C49
= 1/C49
= 6!43!/49! ≈ 7.2 · 10−8 .
Ýòî ìåíüøå îäíîé äåñÿòèìèëëèîííîé(!) øàíñû íà âûèãðûø íè÷òîæíû.
2. Êàê âûòàùèòü ñ÷àñòëèâûé áèëåò íà çêçàìåíå? Ãðóïïà èç N ñòóäåíòîâ ñäàåò ýêçàìåí, íà êîòîðîì êàæäîìó ñòóäåíòó ïðåäëàãàåòñÿ âûáðàòü
íàóãàä îäèí èç N áèëåòîâ. Ñòóäåíò Ïåòðîâ çíàåò M (< N ) áèëåòîâ, è
ñ÷èòàåò, ÷òî åñëè îí ïîéäåò ñäàâàòü ýêçàìåí ïåðâûì, òî øàíñîâ âûòÿíóòü ñ÷àñòëèâûé áèëåò ó íåãî íåñîìíåííî áîëüøå, ÷åì åñëè îí ïîéäåò îòâå÷àòü ïîñëåäíèì (åãî äîâîäû â ïîëüçó ýòîãî âñå ñ÷àñòëèâûå áèëåòû
áóäóò ðàçîáðàíû ). Ïðàâ ëè Ïåòðîâ?
Åñëè Ïåòðîâ ïîéäåò ïåðâûì, òî âåðîÿòíîñòü âûáîðà ñ÷àñòëèâîãî áèëåòà
ðàâíà, î÷åâèäíî, M/N. Åñëè æå Ïåòðîâ èäåò ïîñëåäíèì, òî ìû ìîæåì ïðè
ðàñ÷åòå âåðîÿòíîñòè âîñïîëüçîâàòüñÿ ãèïåðãåîìåòðè÷åñêèì ðàñïðåäåëåíèåì P (X = M − 1|N, M, N − 1) ïðåäøåñòâóþùèå Ïåòðîâó N − 1 ñòóäåíòîâ
(îáúåì âûáîðêè n = N − 1) äîëæíû âûáðàòü ðîâíî m = M − 1 ñ÷àñòëèâûõ
áèëåòîâ, è òîãäà Ïåòðîâó, êîòîðûé ñäàåò ïîñëåäíèì, äîñòàíåòñÿ ñ÷àñòëèâûé áèëåò. Èìååì
(N −1)−(M −1)
P (X = M − 1|N, M, N − 1) =
M −1
CM
CN −M
CNN −!
M −1
CM
M
= N −1 = ,
N
CN
òàê ÷òî øàíñû âûáðàòü ñ÷àñòëèâûé áèëåò îäèíàêîâû. Íåòðóäíî, ïðîèçâîäÿ
àíàëîãè÷íûå âûêëàäêè, óáåäèòüñÿ, ÷òî øàíñû âûáðàòü ñ÷àñòëèâûé áèëåò
âîîáùå íå çàâèñÿò îò òîãî, êàêèì ïî ñ÷åòó ïðèäåò Ïåòðîâ íà ýêçàìåí, îíè
âñåãäà îäíè è òå æå M/N.
3. Îöåíêà ÷èñëåííîñòè çàìêíóòîé ïîïóëÿöèè æèâîòíûõ (ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ. Ïðåäûäóùèå äâà ïðèìåðà èëëþñòðèðîâàëè ïðèìåíåíèå âåðîÿòíîñòíîé ìîäåëè ãèïåðãåîìåòðè÷åñêîãî ðàñïðåäåëåíèÿ ê ðåøåíèþ, òàê íàçûâàåìûõ, ïðÿìûõ çàäà÷ òåîðèè âåðîÿòíîñòåé: çíàÿ ïàðàìåòðû ìîäåëè N, M è n, ìû îïðåäåëÿëè âåðîÿòíîñòè ñîáûòèé, ñâÿçàííûõ
15
ñî çíà÷åíèÿìè ñëó÷àéíîé âåëè÷èíû X. Íî â åñòåñòâåííûõ íàóêàõ (ôèçèêà,
áèîëîãèÿ, ýêîíîìèêà è ïð.) îáû÷íî ïðèõîäèòñÿ ðåøàòü îáðàòíûå çàäà÷è
íàáëþäàÿ çíà÷åíèÿ ñëó÷àéíîé âåëè÷èíû X, èññëåäîâàòåëü ñòðåìèòñÿ ñäåëàòü îïðåäåëåííîå çàêëþ÷åíèå î íåèçâåñòíûõ ïàðàìåòðàõ âåðîÿòíîñòíîé
ìîäåëè. Ðåøåíèåì òàêèõ îáðàòíûõ çàäà÷ çàíèìàåòñÿ ðîäñòâåííàÿ òåîðèè
âåðîÿòíîñòåé íàóêà ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. Ñëåäóþùèé ïðèìåð
èëëþñòðèðóåò îäèí èç òèïè÷íûõ ìåòîäîâ ðåøåíèÿ çàäà÷è ïî îöåíêå ïàðàìåòðà âåðîÿòíîñòíîé ìîäåëè.
Ïðîáëåìà ñîñòîèò â îïðåäåëåíèè ÷èñëåííîñòè N ðûá, æèâóùèõ íà ìîìåíò íàáëþäåíèÿ â çàìêíóòîì âîäîåìå, ñêàæåì, â ïðóäó ðûáîâîäíîãî õîçÿéñòâà. Äëÿ îïðåäåëåíèÿ (òî÷íåå, ïðèáëèæåííîé îöåíêè) N èññëåäîâàòåëü
îòëàâëèâàåò çàäàííîå êîëè÷åñòâî M ðûá, ìåòèò èõ êàêèì-ëèáî ñïîñîáîì
è âîçâðàùàåò â ïðóä. Ïî èñòå÷åíèè íåêîòîðîãî ïðîìåæóòêà âðåìåíè, êîãäà, ïî åãî ìíåíèþ, ìå÷åíûå ðûáû ïåðåìåøàëèñü ñ äðóãèìè îáèòàòåëÿìè
ïðóäà, îí ñíîâà îòëàâëèâàåò ôèêñèðîâàííîå êîëè÷åñòâî n ðûá (â ìàòåìàòè÷åñêîé ñòàòèñòèêå ýòà ïðîöåäóðà íàçûâàåòñÿ èçâëå÷åíèåì âûáîðêè îáúåìà n èç ãåíåðàëüíîé ñîâîêóïíîñòè) è ïîäñ÷èòûâàåò ÷èñëî m îòìå÷åííûõ
ðûá, ïîïàâøèõ âî âòîðîé óëîâ.  ðàìêàõ ãèïåðãåîìåòðè÷åñêîé ìîäåëè òàêîãî ýêñïåðèìåíòà ìû ðàñïîëàãàåì çíà÷åíèÿìè ïàðàìåòðîâ M è n, çíàåì
ðåçóëüòàò m íàáëþäåíèÿ ñëó÷àéíîé âåëè÷èíû X, íî íå çíàåì çíà÷åíèÿ
ïàðàìåòðà N ãèïåðãåîìåòðè÷åñêîãî ðàñïðåäåëåíèÿ P (X = m|N, M, n).
Îäèí èç îñíîâíûõ ìåòîäîâ ðåøåíèÿ îáðàòíûõ çàäà÷ òåîðèè âåðîÿòíîñòåé (çàäà÷ ìàòåìàòè÷åñêîé ñòàòèñòèêè), êîòîðûé íàçûâàåòñÿ ìåòîäîì
ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ, ñîñòîèò â âûáîðå òàêîãî çíà÷åíèÿ N̂ ïàðàìåòðà N, êîòîðîå ñîîòâåòñòâóåò ìàêñèìóìó âåðîÿòíîñòè íàáëþäàåìîãî
èñõîäà m â íàáëþäåíèè X. Îñíîâíîé äîâîä â ïîëüçó òàêîãî ïîâåäåíèÿ ñòàòèñòèêà ñîñòîèò â ïðîñòîì æèòåéñêîì íàáëþäåíèè: åñëè ïðîèñõîäèò êàêîåëèáî ñîáûòèå, òî ýòî ñîáûòèå äîëæíî èìåòü áîëüøóþ âåðîÿòíîñòü ïî ñðàâíåíèþ ñ äðóãèìè èñõîäàìè ñòàòèñòè÷åñêîãî ýêñïåðèìåíòà.
Èòàê, ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ïðåäëàãàåò â êà÷åñòâå îöåíêè íåèçâåñòíîãî çíà÷åíèÿ N (÷èñëåííîñòè ðûá â ïðóäó) âçÿòü ðåøåíèÿ
ñëåäóþùåé çàäà÷è íà ýêñòðåìóì:
m n−m
CM
CN −M
N̂ = arg max
.
N
CNn
Ðåøèòü ýòó çàäà÷ó ìîæíî ñ ïîìîùüþ îïðåäåëåíèÿ çíà÷åíèÿ N, ïðè êî-
16
òîðîì ïðîèñõîäèò ñìåíà íåðàâåíñòâà
m n−m
m n−m
CM
CN +1−M
CM
CN −M
<
n
CN
CNn +1
íà îáðàòíîå. Èñïîëüçóÿ èçâåñòíóþ ôîðìóëó äëÿ âû÷èñëåíèÿ áèíîìèàëüíûõ êîýôôèöèåíòîâ, íàõîäèì, ÷òî ýòî íåðàâåíñòâî ýêâèâàëåíòíî
(N + 1)m < nM, îòêóäà ïîëó÷àåì îöåíêó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ
äëÿ ÷èñëåííîñòè ðûá â ïðóäó:
·
¸
M
N̂ = n
.
m
Ëåãêî çàìåòèòü, ÷òî òàêàÿ îöåíêà ñîãëàñóåòñÿ ñ ïðîñòûìè ðàññóæäåíèÿìè òèïà, åñëè ïðè ïîâòîðíîì îòëîâå ÿ îáíàðóæèë ïîëîâèíó îòìå÷åííûõ
ðûá, òî â ïðóäó èõ â äâà ðàçà áîëüøå, ÷åì ÿ ïîéìàë .
Ç à ä à ÷ à 1.4. Ãåîìåòðè÷åñêèå âåðîÿòíîñòè: çàäà÷à î âñòðå÷å. Äâà
÷åëîâåêà äîãîâîðèëèñü âñòðåòèòüñÿ â òå÷åíèå îïðåäåëåííîãî ÷àñà. Ïðåäëàãàåòñÿ, ÷òî ìîìåíò ïðèõîäà êàæäîãî èç âñòðå÷àþùèõñÿ íå çàâèñèò îò íàìåðåíèé äðóãîãî è èìååò ðàâíîìåðíîå ðàñïðåäåëåíèå â íàçíà÷åííîì ïðîìåæóòêå âñòðå÷è 60 ìèíóò (ìîìåíò ïðèõîäà ñëó÷àåí). Ïðèøåäøèé ïåðâûì
æäåò äðóãîãî òîëüêî 10 ìèíóò, ïîñëå ÷åãî óõîäèò (âñòðå÷à íå ñîñòîÿëàñü).
Êàêîâà âåðîÿòíîñòü âñòðå÷è?
Ýòî îäíà èç òèïè÷íûõ çàäà÷ ãåîìåòðè÷åñêîé âåðîÿòíîñòè, äëÿ ðåøåíèÿ êîòîðîé èñïîëüçóåòñÿ ñëåäóþùàÿ ìàòåìàòè÷åñêàÿ ôîðìàëèçàöèÿ ïîíÿòèÿ ñëó÷àéíîñòè ìîìåíòà ïðèõîäà. Ðàññìîòðèì áîëåå îáùóþ (è áîëåå
àáñòðàêòíóþ) çàäà÷ó.  ýâêëèäîâîì ïðîñòðàíñòâå Rn âûäåëÿåòñÿ çàìêíóòàÿ îáëàñòü Ω êîíå÷íîé ëåáåãîâîé ìåðû µ(Ω). Íà îáëàñòü Ω ñëó÷àéíî áðîñàåòñÿ òî÷êà, è òðåáóåòñÿ îïðåäåëèòü âåðîÿòíîñòü òîãî, ÷òî òî÷êà ïîïàäåò
â ïîäìíîæåñòâî S ⊂ Ω. Åñòåñòâåííî ôîðìàëèçîâàòü ïîíÿòèå ñëó÷àéíîñòè â òåðìèíàõ íåçàâèñèìîñòè âåðîÿòíîñòè ïîïàäàíèÿ òî÷êè â S îò ïîëîæåíèÿ ýòîãî ìíîæåñòâà â îáëàñòè Ω è åãî êîíôèãóðàöèè, è ïîñòóëèðîâàòü,
÷òî èñêîìàÿ âåðîÿòíîñòü ïðîïîðöèîíàëüíà µ(S).  òàêîì ñëó÷àå Ω èãðàåò
ðîëü ïðîñòðàíñòâà ýëåìåíòàðíûõ èñõîäîâ, âåðîÿòíîñòü ïîïàäàíèÿ òî÷êè â
Ω äîëæíà ðàâíÿòüñÿ åäèíèöå, òàê ÷òî âåðîÿòíîñòü ïîïàäàíèÿ â ìíîæåñòâî
S ðàâíà P (S) = µ(S)/µ(Ω).
Èñïîëüçóåì ýòîò ìåòîä â ðåøåíèè çàäà÷è î âñòðå÷å. Çäåñü Ω êâàäðàò
60 × 60, ìíîæåñòâî S ïîëîñà âäîëü äèàãîíàëè êâàäðàòà, êîòîðóþ â äåêàðòîâîé ñèñòåìå êîîðäèíàò ìîæíî çàäàòü â âèäå îáëàñòè |x − y| ≤ 10.
17
Î÷åâèäíî, ïëîùàäü ýòîé îáëàñòè ðàâíà 60 · 60 − 50 · 50, ïëîùàäü êâàäðàòà
60 · 60, îòêóäà èñêîìàÿ âåðîÿòíîñòü âñòðå÷è, ðàâíàÿ îòíîøåíèþ ïëîùàäåé,
P (S) = 1 − (50/60)2 = 11/36.
Îñíîâíûé âûâîä, êîòîðûé ìû äîëæíû ñäåëàòü èç ðåøåíèÿ äàííîé çàäà÷è, ñîñòîèò â îñîçíàíèè íåâîçìîæíîñòè îïðåäåëåíèÿ âåðîÿòíîñòè íà íåñ÷åòíûõ ïðîñòðàíñòâàõ Ω ïîñðåäñòâîì çàäàíèÿ ôóíêöèè p(ω), êàê âåðîÿòíîñòè
ýëåìåíòàðíîãî èñõîäà ω ∈ Ω. Ðàñïðåäåëåíèå âåðîÿòíîñòåé ñëåäóåò îïðåäåëÿòü ñ ïîìîùüþ ôóíêöèé íà ïîäìíîæåñòâàõ Ω, ïðè÷åì ýòè ôóíêöèè äîëæíû áûòü íîðìèðîâàííûìè ìåðàìè âåðîÿòíîñòü âñåãî Ω äîëæíà ðàâíÿòüñÿ
åäèíèöå, è P (S) äîëæíà îáëàäàòü ñâîéñòâîì ñ÷åòíîé àääèòèâíîñòè.
18
2. Âåðîÿòíîñòíîå ïðîñòðàíñòâî
Àêñèîìàòè÷åñêîå ïîñòðîåíèå òåîðèè âåðîÿòíîñòåé íà÷èíàåòñÿ ñ ôîðìàëèçàöèè (îïèñàíèÿ) ïðîñòðàíñòâà Ω ýëåìåíòàðíûõ èñõîäîâ ω íåêîòîðîãî ñòàòèñòè÷åñêîãî ýêñïåðèìåíòà. Îïðåäåëåííûå (ñì.íèæå) ïîäìíîæåñòâà
ïðîñòðàíñòâà Ω íàçûâàþòñÿ ñîáûòèÿìè; ãîâîðÿò, ÷òî ïðîèçîøëî ñîáûòèå
A(⊂ Ω), åñëè ñòàòèñòè÷åñêèé ýêñïåðèìåíò çàêîí÷èëñÿ ýëåìåíòàðíûì èñõîäîì ω ∈ A. Íàä ñîáûòèÿìè A, êàê ïîäìíîæåñòâàìè ïðîñòðàíñòâà Ω, ââîäÿòñÿ òåîðåòèêî-ìíîæåñòâåííûå oïåðàöèè, âåðîÿòíîñòíàÿ òðàêòîâêà êîòîðûõ ïðèâîäèòñÿ â ñëåäóþùåé òàáëèöå.
Ïðîáóåì ââåñòè ãðàôèêè ïîñðåäñòâîì ñàìîãî ÒåÕà è åãî ïñåâäîãðàôèêè
Òåîðåòèêîìíîæåñòâåííûå
îáúåêòû è îïåðàöèè
Âåðîÿòíîñòíàÿ
òðàêòîâêà
Ω ìíîæåñòâî
ïðîñòðàíñòâî
ýëåìåíòàðíûõ
èñõîäîâ,
äîñòîâåðíîå ñîáûòèå
ω ýëåìåíò Ω
ýëåìåíòàðíûé
èñõîä
ýêñïåðèìåíòà, ýëåìåíòàðíîå ñîáûòèå
A ïîäìíîæåñòâî ìíîñîáûòèå
æåñòâà Ω
∅ ïóñòîå ìíîæåñòâî
Ãåîìåòðè÷åñêàÿ
èíòåðïðåòàöèÿ
'
&
'
q
ω
&
'
#Ã
p p
p pp p pp p pp p pp p pp p
p pp p pp p pp p pp p pp p pp p
p p pA
p p p p p
p pp p pp p pp p pp p p
ppppp
"!
&
Ω
Ω
Ω
$
%
$
%
$
%
íåâîçìîæíîå ñîáûòèå
A ⊂ B ïîäìíîæåñòâî ñîáûòèå A âëå÷åò ñîáûA åñòü ÷àñòü (ïðèíàäëå- òèå B
æèò) B
19
'
'
$$
#Ã
p p
p pp p pp p pp p pp p pp p
Ω
p pp p pp p pp p pp p pp p pp p
p p p p p
p p pA
p pp p pp p pp p pp p p
ppppp
B
"!
&
%%
&
Ac äîïîëíåíèå ïîäìíî- ñîáûòèå A íå ïðîèçîæåñòâà A äî Ω
øëî
A ∪ B îáúåäèíåíèå ïîä- Ïðîèçîøëî ïî êðàéíåé
ìíîæåñòâ A è B
ìåðå îäíî èç ñîáûòèé A
èëè B
A ∩ B ïåðåñå÷åíèå ïîä- Ïðîèçîøëè
îäíîâðåìíîæåñòâ A è B
ìåííî
îáà
ñîáûòèÿ
AèB
A\B ðàçíîñòü: èç ïîä- Ïðîèçîøëî ñîáûòèå A,
ìíîæåñòâà A âû÷èòàåòñÿ â òî âðåìÿ êàê ñîïîäìíîæåñòâî B
áûòèå B íå ïðîèçîøëî
A ∩ B = ∅ ìíîæåñòâà A ñîáûòèÿ A è B íåñîâè B íå èìåþò îáùèõ òî÷åê ìåñòíû
(íå ïåðåñåêàþòñÿ)
'
$
#Ã
p p
p pp p pp p pp p pp p pp p
Ω
p pp p pp p pp p pp p pp p pp p
p p pA
p p p p p
p pp p pp p pp p pp p p
ppppp
"!
Ac
&
%
$
'
#Ã
pp p p pp p pp p p p p
Ω
pp pp p pp p pp ¾
p pp p pp p p p p p p p p p p p p »
pppppppppppppppppppppp
p pp pA
p pp p pp p pp p pp p pp p pp p pp p pp p pp p pp p pp p
p p p p p p p p p p p p p p pB
p p p
"!
p p p p p p p p p pp p pp p p ¼
½
&
%
'
$
#Ã
¾
»
Ω
pp p
A pp pp ppp pp pp p
p
B
"!
½
¼%
&
'
$
#Ã
p pp p
p p p
p pp p pp p pp ¾
»
Ω
pp p p p p p p pp p p
ppppp
p pp pA
p pp p pp p pp
ppp
B
"!
¼%
&½
'
$
#Ã
¾ »
Ω
A
B
"!
& ½ ¼
%
Åñëè ðàññìàòðèâàòü ââåäåííûå îïåðàöèè íàä ìíîæåñòâàìè êàê àëãåáðàè÷åñêèå, òî Ω âûñòóïàåò â ðîëè åäèíèöû àëãåáðû, à â ðîëè åå íóëÿ ,
÷òî âèäíî èç ñëåäóþùèõ ðàâåíñòâ:
A ⊂ Ω,
Ωc = ,
c = Ω, (Ac)c = A;
A ∪ = A, A ∪ A = A, A ∪ Ω = Ω, A ∪ Ac = Ω;
A ∩ = , A ∩ A = A, A ∩ Ω = A, A ∩ Ac = .
Îïåðàöèè îáúåäèíåíèÿ è ïåðåñå÷åíèÿ ðàñïðîñòðàíÿþòñÿ íà ëþáîå, âîçìîæíî íåñ÷åòíîå ñåìåéñòâî {Ai , i ∈ I} ñîáûòèé:
S
i∈I
Ai
i∈I
Ai
T
ïðîèçîøëî ïî êðàéíåé ìåðå îäíî èç ñîáûòèé ñåìåéñòâà {Ai , i ∈ I},
ïðîèçîøëè îäíîâðåìåííî âñå ñîáûòèÿ ñåìåéñòâà
{Ai , i ∈ I}.
Îïðåäåëåíèå 2.1. Ñåìåéñòâî ñîáûòèé {Ai , i ∈ I} íàçûâàåòñÿ ñåìåé-
ñòâîì íåñîâìåñòíûõ ñîáûòèé, åñëè Ai ∩ Aj = ïðè ëþáûõ i 6= j, i, j ∈ I.
Åñëè Ai , iX
∈ I , íåñîâìåñòíû, òî âìåñòî çíàêà
ìîé ñóììû
(èëè +):
[
i∈I
Ai =
X
Ai ,
S
èñïîëüçóåòñÿ çíàê ïðÿ-
A ∪ B = A + B.
i∈I
20
Èìååò ìåñòî ïðàâèëî äâîéñòâåííîñòè:
[
\
c
( Ai ) =
Aci ,
I
\
[
c
( Ai ) =
Aci .
I
I
I
Íàïîìíèì, ÷òî îïåðàöèè îáúåäèíåíèÿ è ïåðåñå÷åíèÿ îáëàäàþò ñâîéñòâàìè êîììóòàòèâíîñòè A ∪∩ B = B ∪∩ A, àññîöèàòèâíîñòè
(A ∪∩ B) ∪∩ C = A ∪∩ (B ∪∩ C) è äèñòðèáóòèâíîñòè B ∩ (∪I Ai ) = ∪I (Ai ∩ B). Îòíîøåíèå ïðèíàäëåæíîñòè A ⊂ B ïîðîæäàåò ÷àñòè÷íûé ïîðÿäîê íà ïîäìíîæåñòâàõ ïðîñòðàíñòâà Ω, òàê ÷òî îòíîøåíèå ýêâèâàëåíòíîñòè (ðàâåíñòâà)
A = B äâóõ ñîáûòèé îçíà÷àåò, ÷òî îäíîâðåìåííî A ⊂ B è B ⊂ A. Ââåäåííûå âûøå îïåðàöèè íàä ìíîæåñòâàìè îïðåäåëÿþò ñòðóêòóðó áóëåâîé
àëãåáðû: èìååò ìåñòî
Îïðåäåëåíèå 2.2. Áóëåâîé àëãåáðîé íàçûâàåòñÿ òàêîé êëàññ A ïîäìíî-
æåñòâ Ω, ÷òî
(A1) Ω ∈ A,
(A2) A ∈ A =⇒ Ac ∈ A,
(A3) A, B ∈ A =⇒ A ∪ B ∈ A.
Ëåêöèÿ 3
Ïðåäëîæåíèå 2.1. Åñëè A áóëåâà àëãåáðà, òî
(1) ∈ A,
Sn
Tn
(2) A1 , . . . , An ∈ A =⇒ 1 Ai ∈ A, 1 Ai ∈ A,
(3) A, B ∈ A =⇒ A \ B ∈ A.
Ä î ê à ç à ò å ë ü ñ ò â î. (1) Òàê êàê = Ωc , òî â ñèëó (A1) è (A2) ∈ A.
(2) Èñïîëüçóÿ ìåòîä èíäóêöèè, ëåãêî ïîêàçàòü, ÷òî äëÿ ëþáîãî n =
S
1, 2, . . . âêëþ÷åíèå {Ai , i = 1, . . . , n} ⊂ A âëå÷åò n1 Ai ∈ A (n − 1 ðàç
èñïîëüçóåòñÿ àêñèîìà (A3) áóëåâîé àëãåáðû). Ñ äðóãîé ñòîðîíû, èç ïðàâèTn
ëà äâîéñòâåííîñòè âûòåêàåò, ÷òî {Ai , i = 1, n} ⊂ A =⇒ 1 Ai ∈ A, èáî
S
T
T
T
{Aci , i = 1, n} ⊂ A =⇒ n1 Aci = ( n1 Ai )c ∈ A =⇒ n1 Ai = [( n1 Ai )c ]c ∈ A.
(3) Ýòî ñâîéñòâî íåìåäëåííî ñëåäóåò èç î÷åâèäíîãî ðàâåíñòâà A \ B =
A ∩ B c (ðàçíîñòü ìíîæåñòâ îçíà÷àåò, ÷òî ω îäíîâðåìåííî ïðèíàäëåæèò
äîïîëíåíèþ ìíîæåñòâà B è ìíîæåñòâó A).
Òàêèì îáðàçîì, áóëåâà àëãåáðà ñîäåðæèò åäèíèöó Ω, íîëü è çàìêíóòà îòíîñèòåëüíî êîíå÷íîãî ÷èñëà îïåðàöèé îáúåäèíåíèÿ, ïåðåñå÷åíèÿ è âû÷èòàíèÿ (âçÿòèÿ äîïîëíåíèÿ).
21
Ï ð è ì å ð û á ó ë å â û õ à ë ã å á ð. 1. Ñàìàÿ òîíêàÿ áóëåâà àëãåáðà:
ìíîæåñòâî P(Ω) âñåâîçìîæíûõ ïîäìíîæåñòâ ïðîñòðàíñòâà Ω, âêëþ÷àÿ ïóñòîå ìíîæåñòâî , êàê ïîäìíîæåñòâî ëþáîãî A ∈ Ω. 2. Ñàìàÿ ãðóáàÿ áóëåâà àëãåáðà A = {, Ω}. 3. Áóëåâà àëãåáðà, ïîðîæäåííàÿ ñîáûòèåì
A : A = {, Ω, A, Ac }.
Îïðåäåëåíèå 2.3. Âåðîÿòíîñòüþ P íà áóëåâîé àëãåáðå A ïîäìíîæåñòâ
Ω íàçûâàåòñÿ îòîáðàæåíèå A â îòðåçîê [0; 1], îáëàäàþùåå ñëåäóþùèìè
ñâîéñòâàìè:
(P 1) íîðìèðóåìîñòü: P (Ω) = 1;
(P 2) êîíå÷íàÿ àääèòèâíîñòü: åñëè ñîáûòèÿ A1 , . . . , An íåñîâìåñòíû, òî
à n
!
n
X
X
P
Ai =
P (Ai );
1
1
(P 3) íåïðåðûâíîñòü: åñëè {An , n ≥ 1} ìîíîòîííî
óáûâàþùàÿ ïî
T∞
âêëþ÷åíèþ ïîñëåäîâàòåëüíîñòü ýëåìåíòîâ èç A è 1 An = (â ýòîì ñëó÷àå
ïèøóò An ↓ , êîãäà n → ∞), òî
lim P (An ) = 0.
n→∞
 ñëåäóþùåì ïðåäëîæåíèè ïðåäïîëàãàåòñÿ, ÷òî âñå ñîáûòèÿ ïðèíàäëåæàò áóëåâîé àëãåáðå A.
Ïðåäëîæåíèå 2.2. Âåðîÿòíîñòü P íà áóëåâîé àëãåáðå A îáëàäàåò ñëå-
äóþùèìè ñâîéñòâàìè:
(1) P () = 0;
(2) P (Ac ) = 1 − P (A);
(3) åñëè A ⊂ B, òî P (A) ≤ P (B) (ñâîéñòâî ìîíîòîííîñòè) è
P (B \ A) = P (B) − P (A);
(4) P (A∪B) = PX
(A)+P (B)−P (A∩B) (ñâîéñòâî ñèëüíîé àääèòèâíîñòè);
n
Sn
(5) P ( 1 Ai ) ≤
P (Ai ) (ñâîéñòâî ïîëóàääèòèâíîñòè);
1
(6) åñëè An ↓ A èëè An ↑ A, òî ñïðàâåäëèâî ñâîéñòâî íåïðåðûâíîñòè
îòíîñèòåëüíî ìîíîòîííîé ñõîäèìîñòè
lim P (An ) = P (A);
n→∞
22
(7) åñëè {An , n ≥ 1} áåñêîíå÷íàÿ ïîñëåäîâàòåëüíîñòü íåñîâìåñòíûõ
ñîáûòèé, òî èìååò ìåñòî ñâîéñòâî σ -àääèòèâíîñòè
P
̰
X
!
An
=
1
S∞
(8) P (
1
An ) ≤
X∞
1
∞
X
P (An );
1
P (An ) (ñâîéñòâî σ -ïîëóàääèòèâíîñòè.)
Ä î ê à ç à ò å ë ü ñ ò â î. (1) Èñïîëüçóÿ â íóæíîì ìåñòå àêñèîìû (P 2) è
(P 1), ïîëó÷àåì 1 = P (Ω) = P (Ω + ) = P (Ω) + P () = 1 + P (), îòêóäà
P () = 0.
(2) Èñïîëüçóÿ àêñèîìó àääèòèâíîñòè (P 2), èìååì 1 = P (Ω) = P (A +
Ac ) = P (A) + P (Ac ), îòêóäà P (Ac ) = 1 − P (A).
(3) Òàê êàê B = A + (B \ A), òî, â ñèëó (P 2), P (B) = P (A) +
P (B \ A), îòêóäà P (B \ A) = P (B) − P (A). Ïîñêîëüêó P (B \ A) ≥ 0, òî èç
ïîñëåäíåãî ðàâåíñòâà âûòåêàåò ñâîéñòâî ìîíîòîííîñòè P (A) ≤ P (B).
(4) Ëåãêî âèäåòü, ÷òî A ∪ B = A + (B \ (A ∩ B)), è ïîñêîëüêó A ∩ B ⊂ B,
òî â ñèëó àêñèîìû àääèòèâíîñòè è äîêàçàííîãî ñâîéñòâà (3) ìîíîòîííîñòè
âåðîÿòíîñòè ïîëó÷àåì P (A ∪ B) = P (A) +
P (B \ (A ∩ B)) = P (A) + P (B) − P (A ∩ B).
(5) Äîêàçàòåëüñòâî ïðîâåäåì ïî èíäóêöèè. Ïðè n = 2 èç äîêàçàííîãî
ñâîéñòâà (4) ñèëüíîé àääèòèâíîñòè è ïîëîæèòåëüíîñòè âåðîÿòíîñòè âûòåêàåò, ÷òî P (A1 ∪A2 ) = P (A1 )+P (A2 )−P (A1 ∩A2 ) ≤ P (A1 )+P (A2 ). Òåïåðü,
ïîëàãàÿ, ÷òî äîêàçûâàåìîå íåðàâåíñòâî èìååò ìåñòî äëÿ íåêîòîðîãî öåëîãî
n, óáåæäàåìñÿ, ÷òî îíî ñïðàâåäëèâî äëÿ n + 1, èñïîëüçóÿ ïðåäñòàâëåíèå
Ãn
!
n+1
[
[
Ai =
Ai ∪ An+1 .
1
1
(6) Åñëè An ↓ A, òî An \ A ↓ , è òðåáóåìîå ñâîéñòâî âûòåêàåò èç ïðåäñòàâëåíèÿ An = A + (An \ A) è àêñèîì àääèòèâíîñòè (P 2) è íåïðåðûâíîñòè
(P 3) âåðîÿòíîñòè P. Ñëó÷àé An ↑ A ðàññìàòðèâàåòñÿ àíàëîãè÷íî è ïðè
ýòîì èñïîëüçóåòñÿ ïðåäñòàâëåíèå A = An + (A \ An ).
(7) Ñâîéñòâî σ -àääèòèâíîñòè âûòåêàåò èç äîêàçàííîãî ñâîéñòâà (6) è
ñâîéñòâà (P 2) êîíå÷íîé àääèòèâíîñòè:
Ã
P
∞
X
1
!
Ak
Ã
=P
lim ↑
n→∞
n
X
1
23
!
Ak
Ã
= lim P
n→∞
n
X
1
!
Ak
=
n
X
lim
n→∞
P (Ak ) =
∞
X
1
P (Ak ).
1
(8) Èñïîëüçóÿ, êàê è â (7), ñâîéñòâî (6), à òàêæå ñâîéñòâî ïîëóàääèòèâíîñòè (5), ïîëó÷àåì
P
̰
[
!
Ak
Ã
=P
lim ↑
n
[
n→∞
1
lim
n→∞
n
X
!
Ak
= lim P
n→∞
1
P (Ak ) =
∞
X
1
Ãn
[
!
Ak
≤
1
P (Ak ).
1
Èç äîêàçàííûõ ñâîéñòâ âåðîÿòíîñòè ñëåäóåò îáðàòèòü îñîáîå âíèìàíèå
íà ñâîéñòâî (7) σ -àääèòèâíîñòè. Äåëî â òîì, ÷òî ýòî ñâîéñòâî ÷àñòî êëàäåòñÿ â îñíîâó îïðåäåëåíèÿ âåðîÿòíîñòè âìåñòî àêñèîì (P 2) è (P 3). Èìååò
ìåñòî
Îïðåäåëåíèå 2.4. Âåðîÿòíîñòüþ P íà áóëåâîé àëãåáðå A ïîäìíîæåñòâ
Ω íàçûâàåòñÿ òàêîå îòîáðàæåíèå A â îòðåçîê [0; 1], ÷òî
(P 1) (íîðìèðóåìîñòü) P (Ω) = 1,
X∞
(P 20 ) (σ -àääèòèâíîñòü) åñëè îáúåäèíåíèå
An ñ÷åòíîãî ñåìåéñòâà
1
{An , n ≥ 1} íåñîâìåñòíûõ ñîáûòèé ïðèíàäëåæèò áóëåâîé àëãåáðå A, òî
!
̰
∞
X
X
P (An ).
P
An =
1
1
Èìååò ìåñòî
Ïðåäëîæåíèå 2.3.Îïðåäåëåíèÿ 2.3 è 2.4 âåðîÿòíîñòè P íà áóëåâîé
àëãåáðå A ýêâèâàëåíòíû.
Ä î ê à ç à ò å ë ü ñ ò â î. Òî, ÷òî (P 2) è (P 3) âëå÷åò (P 20 ) áûëî óñòàíîâëåíî
â óòâåðæäåíèè (7) ïðåäëîæåíèÿ 2.2. Äîêàæåì îáðàòíîå σ -àääèòèâíîñòü
âëå÷åò íåïðåðûâíîñòü P.
Ïóñòü An ↓ ; òðåáóåòñÿ äîêàçàòü, ÷òî P (An ) → 0, êîãäà n → ∞. Ïðåäñòàâèì An â âèäå îáúåäèíåíèÿ ïîñëåäîâàòåëüíîñòè íåñîâìåñòíûõ ñîáûòèé:
An =
∞
X
(Ak \ Ak+1 ).
k=n
24
 ñèëó àêñèîìû σ -àääèòèâíîñòè
P (An ) =
∞
X
P (Ak \ Ak+1 ).
k=n
Ïðàâàÿ ÷àñòü ýòîãî ðàâåíñòâà ïðåäñòàâëÿåò îñòàòî÷íûé ÷ëåí ñõîäÿùåãîñÿ
ðÿäà
S=
∞
X
P (Ak \ Ak+1 ),
k=1
ïîñêîëüêó èç âêëþ÷åíèÿ Ak+1 ⊂ Ak (ïîñëåäîâàòåëüíîñòü {An , n ≥ 1}
ìîíîòîííî óáûâàþùàÿ) ñëåäóåò
S=
∞
X
[P (Ak ) − P (Ak+1 )] = P (A1 ) ≤ 1.
k=1
Èòàê, ðÿä ñõîäèòñÿ è, ñëåäîâàòåëüíî, åãî îñòàòî÷íûé ÷ëåí P (An ) → 0,
êîãäà n → ∞.
Îïðåäåëåíèå 2.4 ïîñòóëèðóåò, ÷òî P åñòü íîðìèðîâàííàÿ ñ÷åòíî àääèòèâíàÿ ìåðà íà áóëåâîé àëãåáðå A ïîäìíîæåñòâ (ñîáûòèé) ïðîñòðàíñòâà
ýëåìåíòàðíûõ èñõîäîâ Ω. Ïîñêîëüêó íàì ïðèäåòñÿ äîâîëüíî ÷àñòî âû÷èñëÿòü âåðîÿòíîñòè îáúåäèíåíèé áåñêîíå÷íîãî ÷èñëà ñîáûòèé, à òàêèå îáúåäèíåíèÿ íå îáÿçàòåëüíî ïðèíàäëåæàò A, òî åñòåñòâåííî, êàê ýòî ïðèíÿòî
â òåîðèè ìåðû, ðàñøèðèòü áóëåâó àëãåáðó A, âêëþ÷èâ â íåå ïðåäåëû ìîíîòîííûõ ïîñëåäîâàòåëüíîñòåé åå ýëåìåíòîâ, ïîñëå ÷åãî ïðîäîëæèòü âåðîÿòíîñòü P íà ðàñøèðåííûé òàêèì îáðàçîì êëàññ ïîäìíîæåñòâ Ω.
Îïðåäåëåíèå 2.5. Ñîâîêóïíîñòü A ïîäìíîæåñòâ ïðîñòðàíñòâà Ω íàçû-
âàåòñÿ áóëåâîé σ -àëãåáðîé, åñëè
(A1) Ω ∈ A,
(A2) A ∈ A =⇒ Ac ∈ A,
S
(A3)S {An , n ≥ 1} ⊂ A =⇒ ∞
1 A n ∈ A.
Èñïîëüçóÿ ïðàâèëî äâîéñòâåííîñòè ïî àíàëîãèè ñ äîêàçàòåëüñòâîì ïðåäëîæåíèÿ 2.1, ëåãêî óáåäèòüñÿ, ÷òî áóëåâà σ -àëãåáðà çàìêíóòà íå òîëüêî
îòíîñèòåëüíî îáúåäèíåíèÿ ñ÷åòíîãî ÷èñëà ñâîèõ ýëåìåíòîâ, íî è îòíîñèòåëüíî èõ ïåðåñå÷åíèÿ.
Âñåãäà ñóùåñòâóåò õîòÿ áû îäíà σ -àëãåáðà ïîäìíîæåñòâ ëþáîãî ïðîñòðàíñòâà Ω, íàïðèìåð, òàêîâîé ÿâëÿåòñÿ ñîâîêóïíîñòü P(Ω) âñåâîçìîæíûõ ïîäìíîæåñòâ Ω, âêëþ÷àÿ (ñàìàÿ òîíêàÿ áóëåâà àëãåáðà ñì. ïðè25
ìåð 1). Âñïîìèíàÿ íàøè ðàññóæäåíèÿ î ïîïîëíåíèè áóëåâîé àëãåáðû ïðåäåëàìè ìîíîòîííûõ (ïî âêëþ÷åíèþ) ïîñëåäîâàòåëüíîñòåé åå ýëåìåíòîâ, ââåäåì
Îïðåäåëåíèå 2.6. Íàèìåíüøàÿ σ -àëãåáðà
B(A), ñîäåðæàùàÿ áóëåâó
àëãåáðó A, íàçûâàåòñÿ σ -àëãåáðîé, ïîðîæäåííîé áóëåâîé àëãåáðîé A.
Èç êóðñà àíàëèçà âàì õîðîøî èçâåñòíà çíàìåíèòàÿ òåîðåìà î ïðîäîëæåíèè ìåðû. Â òåðìèíàõ âåðîÿòíîñòíîé ìåðû îíà ôîðìóëèðóåòñÿ ñëåäóþùèì
îáðàçîì
Òåîðåìà (î ïðîäîëæåíèè âåðîÿòíîñòè). Ëþáàÿ âåðîÿòíîñòü P, çà-
äàííàÿ íà áóëåâîé àëãåáðå A, èìååò åäèíñòâåííîå ïðîäîëæåíèå íà ïîðîæäåííóþ A σ -àëãåáðó B(A).
Îïðåäåëåíèå 2.7. Ïàðà (Ω,
A), ñîñòîÿùàÿ èç ïðîñòðàíñòâà ýëåìåí-
òàðíûõ èñõîäîâ Ω è áóëåâîé σ -àëãåáðû A åãî ïîäìíîæåñòâ, íàçûâàåòñÿ
èçìåðèìûì ïðîñòðàíñòâîì. Òîëüêî ýëåìåíòû A íàçûâàþòñÿ ñîáûòèÿìè,
îñòàëüíûå ïîäìíîæåñòâà Ω, íå ïðèíàäëåæàùèå A, íàçûâàþòñÿ íåèçìåðèìûìè ïîäìíîæåñòâàìè. Íàêîíåö, òðèïëåò (Ω, A, P ), â êîòîðîì P âåðîÿòíîñòü íà σ -àëãåáðå A, íàçûâàåòñÿ âåðîÿòíîñòíûì ïðîñòðàíñòâîì.
26
3. Óñëîâíàÿ âåðîÿòíîñòü è íåçàâèñèìîñòü ñîáûòèé
Ëåêöèÿ 4
Ïîíÿòèå âåðîÿòíîñòíîãî ïðîñòðàíñòâà èãðàåò ôóíäàìåíòàëüíóþ ðîëü â
ïðèëîæåíèÿõ òåîðèè âåðîÿòíîñòåé, ïîñêîëüêó ýòî ìàòåìàòè÷åñêàÿ ôîðìàëèçàöèÿ âåðîÿòíîñòíîé ìîäåëè. Çíàÿ ðàñïðåäåëåíèå âåðîÿòíîñòåé, ìû â
ñîñòîÿíèè îïòèìèçèðîâàòü ñâîå ïîâåäåíèå ïðè èãðå ñ ïðèðîäîé, ïðîèçâîäÿ
ñòàâêè íà òå ñîáûòèÿ èç ñèãìà-àëãåáðû A, êîòîðûå îáëàäàþò íàèáîëüøåé
âåðîÿòíîñòüþ. Äàëüíåéøàÿ îïòèìèçàöèÿ òàêîé èãðû îáû÷íî îñóùåñòâëÿåòñÿ çà ñ÷åò äîïîëíèòåëüíîé èíôîðìàöèè, êîòîðîé ìîæåò ðàñïîëàãàòü èãðîê, è ó÷åò òàêîé èíôîðìàöèè îñóùåñòâëÿåòñÿ â òåðìèíàõ òàê íàçûâàåìîé
óñëîâíîé âåðîÿòíîñòè. ×òîáû óÿñíèòü ñìûñë ýòîãî íîâîãî äëÿ íàñ ïîíÿòèÿ, ðàññìîòðèì ñëåäóþùèé ïðîñòîé ïðèìåð.
Áðîñàåòñÿ ïðàâèëüíàÿ êîñòü è íàñ èíòåðåñóåò ñîáûòèå A : âûïàëî 6
î÷êîâ. Àïðèîðè âåðîÿòíîñòü ýòîãî ñîáûòèÿ ðàâíà 1/6, íî ïóñòü ìû ðàñïîëàãàåì äîïîëíèòåëüíîé èíôîðìàöèåé, ÷òî âûïàëî ÷åòíîå êîëè÷åñòâî î÷êîâ
(ñîáûòèå B ).  òàêîì ñëó÷àå âåðîÿòíîñòü ñîáûòèÿ A äîëæíà óâåëè÷èòüñÿ,
è äëÿ åå ïåðåñ÷åòà ìû äîëæíû ðàññìîòðåòü ñóæåííîå ïðîñòðàíñòâî ýëåìåíòàðíûõ èñõîäîâ ΩB = {2, 4, 6}.  ñîîòâåòñòâèè ñ ðàñïðåäåëåíèåì âåðîÿòíîñòåé íà èñõîäíîì ïðîñòðàíñòâå ýëåìåíòàðíûõ èñõîäîâ Ω = {1, 2, 3, 4, 5, 6}
âåðîÿòíîñòü P (B) ñîáûòèÿ B (èëè, ÷òî òî æå, âåðîÿòíîñòíàÿ ìåðà íîâîãî ïðîñòðàíñòâà ýëåìåíòàðíûõ èñõîäîâ ΩB ) ðàâíà 1/2. Óñëîâèå ïðîèçîøëî ñîáûòèå B äåëàåò ïðîñòðàíñòâî ýëåìåíòàðíûõ èñõîäîâ ΩB äîñòîâåðíûì ñîáûòèåì, è, ñëåäîâàòåëüíî, ìû äîëæíû ïðèïèñàòü åìó âåðîÿòíîñòü
åäèíèöà, à âåðîÿòíîñòè p(2) = p(4) = p(6) = 1/6 îñòàëüíûõ èñõîäîâ
èç ΩB ïðîíîðìèðîâàòü ðàçäåëèòü íà ìåðó P (B) = P (ΩB ) = 1/2. Òàêèì îáðàçîì, óñëîâíîå ðàñïðåäåëåíèå íà ΩB ñëåäóåò âû÷èñëÿòü ïî ôîðìóëå p(ω ∩ B) = P ({ω} ∩ B)/P (B). Èòàê, èñêîìàÿ âåðîÿòíîñòü ñîáûòèÿ
A ïðè óñëîâèè, ÷òî ïðîèçîøëî ñîáûòèå B, (óñëîâíàÿ âåðîÿòíîñòü) ðàâíà
P (A | B) = P (A ∩ B)/P (B).
Îïðåäåëåíèå 3.1. Óñëîâíàÿ âåðîÿòíîñòü ñîáûòèÿ A îòíîñèòåëüíî
ñîáûòèÿ B (áîëåå äëèííàÿ è óñòàðåâøàÿ òåðìèíîëîãèÿ âåðîÿòíîñòü A
ïðè óñëîâèè, ÷òî ïðîèçîøëî B ) îïðåäåëÿåòñÿ ôîðìóëîé
P (A | B) =
P (A ∩ B)
,
P (B)
åñëè P (B) 6= 0.
27
Ïîñëåäíåå óñëîâèå, êàñàþùååñÿ âåðîÿòíîñòè ñîáûòèÿ B, ÿâëÿåòñÿ âåñüìà âàæíûì â äàííîì îïðåäåëåíèè óñëîâíîé âåðîÿòíîñòè, è ìû ïîêà íå
ðàñïîëàãàåì òåõíè÷åñêèìè âîçìîæíîñòÿìè äëÿ îïðåäåëåíèÿ óñëîâíîé âåðîÿòíîñòè îòíîñèòåëüíî ñîáûòèÿ ñ íóëåâîé âåðîÿòíîñòüþ åãî îñóùåñòâëåíèÿ. Ñòàíîâëåíèå òåîðèè âåðîÿòíîñòåé êàê ìàòåìàòè÷åñêîé äèñöèïëèíû âî
ìíîãîì áûëî ñâÿçàíî ñ ïîïûòêîé äàòü êîððåêòíîå îïðåäåëåíèå óñëîâíîé âåðîÿòíîñòè îòíîñèòåëüíî ëþáîãî ýëåìåíòà σ -àëãåáðû, è èìåííî ýòî óäàëîñü
ñäåëàòü Àíäðåþ Íèêîëàåâè÷ó Êîëìîãîðîâó â 20-õ ãîäàõ XX ñòîëåòèÿ, ÷òî
ïðèâåëî ê èñêëþ÷èòåëüíî áóðíîìó ðàçâèòèþ ñòîõàñòè÷åñêèõ äèñöèïëèí è
ðàñøèðåíèþ îáëàñòè èõ ïðèìåíåíèÿ.
Ââåäåì òåïåðü îäíî èç âàæíåéøèõ ïîíÿòèé òåîðèè âåðîÿòíîñòåé, êîòîðîå, ïî ñóùåñòâó, âûäåëÿåò åå â ñàìîñòîÿòåëüíóþ äèñöèïëèíó èç îáùåé
òåîðèè ìåðû. Åñëè îêàçûâàåòñÿ, ÷òî óñëîâíàÿ âåðîÿòíîñòü ñîáûòèÿ A îòíîñèòåëüíî ñîáûòèÿ B ðàâíà áåçóñëîâíîé âåðîÿòíîñòè ñîáûòèÿ A, òî åñòü
P (A | B) = P (A ∩ B)/P (B) = P (A), òî åñòåñòâåííî ñêàçàòü, ÷òî A íå çàâèñèò îò B. Îêàçûâàåòñÿ, ÷òî â òàêîì ñëó÷àå è B íå çàâèñèò îò A, òî åñòü ñîáûòèÿ A è B âçàèìíî íåçàâèñèìû, ïîñêîëüêó P (B | A) = P (A∩B)/P (A) =
P (A)P (B)/P (A) = P (B) è, â ñèëó íåçàâèñèìîñòè A îò B (ñì. ïðåäûäóùåå ðàâåíñòâî), P (A ∩ B) = P (A)P (B). Èòàê, ìû ïðèøëè ê ñëåäóþùåìó
îïðåäåëåíèþ âçàèìíîé íåçàâèñèìîñòè ñîáûòèé.
Îïðåäåëåíèå 3.2. Ñîáûòèÿ A è B íàçûâàþòñÿ íåçàâèñèìûìè, åñëè
P (A ∩ B) = P (A)P (B).
Ëåãêî ïîíÿòü, ÷òî íåñîâìåñòíûå ñîáûòèÿ çàâèñèìû. Äåéñòâèòåëüíî, ñïðàâåäëèâî
Ïðåäëîæåíèå 3.1. Åñëè A, B íåñîâìåñòíûå ñîáûòèÿ, ïðè÷åì P (A) >
0 è P (B) > 0, òî P (A ∩ B) 6= P (A)P (B) (ñîáûòèÿ A è B çàâèñèìû).
Ä î ê à ç à ò å ë ü ñ ò â î. Äëÿ íåñîâìåñòíûõ ñîáûòèé âåðîÿòíîñòü èõ îäíîâðåìåííîãî ïîÿâëåíèÿ P (A ∩ B) = P () = 0, è, â òî æå âðåìÿ, â ñèëó
íåíóëåâîé âåðîÿòíîñòè ïîÿâëåíèÿ êàæäîãî èç ñîáûòèé, P (A)P (B) 6= 0.
Ïðèâåäåì ïðèìåð íåçàâèñèìûõ ñîáûòèé.
Ï ð è ì å ð 3.1. Îáðàòèìñÿ ê ýêñïåðèìåíòó ñ äâóêðàòíûì ïîäáðàñûâàíèåì ïðàâèëüíîé ìîíåòû (ñì. ïðèìåð 1.2), â êîòîðîì ïðîñòðàíñòâî ýëåìåíòàðíûõ èñõîäîâ Ω = {ÃÃ,ÃÐ,ÐÃ,ÐÐ} íàäåëÿåòñÿ ðàâíîìåðíûì ðàñïðåäåëåíèåì
28
âåðîÿòíîñòåé: p(ω) = 1/4 ïðè ëþáîì ω ∈ Ω. Ïîêàæåì, ÷òî âûïàäåíèå ãåðáà
ïðè âòîðîì ïîäáðàñûâàíèè íå çàâèñèò îò òîãî, ÷òî ãåðá âûïàë ïðè ïåðâîì
áðîñàíèè ìîíåòû. Ðàññìîòðèì äâà ñîáûòèÿ: A = {ÃÃ,ÃÐ} ïðè ïåðâîì áðîñàíèè ïîÿâëÿåòñÿ ãåðá è B = {ÃÃ,ÐÃ} âòîðîå èñïûòàíèå ìîíåòû çàêîí÷èëîñü âûïàäåíèåì ãåðáà, è ïîêàæåì, ÷òî ýòè ñîáûòèÿ íåçàâèñèìû. Äåéñòâèòåëüíî, P (A) = 1/2, P (B) = 1/2, P (A ∩ B) = P (ÃÃ) = 1/4 = P (A)P (B).
Ðàñïðîñòðàíèì òåïåðü ïîíÿòèå íåçàâèñèìîñòè íà ñîâîêóïíîñòè ñîáûòèé.
Îïðåäåëåíèå 3.3. Ñîáûòèÿ ñåìåéñòâà
C = {Ai , i ∈ I} íàçûâàþòñÿ
íåçàâèñèìûìè â ñîâîêóïíîñòè èëè ñîâìåñòíî íåçàâèñèìûìè, åñëè
à k
!
k
\
Y
¡ ¢
P
Aij =
P Aij ,
j=1
j=1
êàêîâ áû íè áûë êîíå÷íûé íàáîð ñîáûòèé Ai1 , . . . , Aik , k ≥ 2, èç ñîâîêóïíîñòè C.
Ïîêàæåì, ÷òî ïîïàðíàÿ íåçàâèñèìîñòü ñîáûòèé: P (Ai ∩ Aj ) =
P (Ai )P (Aj ), åñëè i 6= j, íå âëå÷åò, âîîáùå ãîâîðÿ, ñîâìåñòíóþ íåçàâèñèìîñòü ñîáûòèé A1 , . . . , An .
Ï ð è ì å ð 3.2 (Ïèðàìèäêà Áåðíøòåéíà). Ïðàâèëüíàÿ ÷åòûðåõãðàííàÿ
ïèðàìèäà, êîòîðàÿ ïðè áðîñàíèè ñ îäèíàêîâîé âåðîÿòíîñòüþ, ðàâíîé 1/4,
ïàäàåò íà ëþáóþ èç ÷åòûðåõ ãðàíåé, ðàñêðàøèâàåòñÿ â òðè öâåòà. Îäíà
ãðàíü ïîêðûâàåòñÿ êðàñíûì öâåòîì (ýëåìåíòàðíûé èñõîä ω1 =ê), äðóãàÿ
çåëåíûì (ω2 =ç), òðåòüÿ ñèíèì (ω3 =ñ), à ÷åòâåðòàÿ (ω4 =ì) äåëèòñÿ íà
òðè ÷àñòè, êàæäàÿ èç êîòîðûõ çàêðàøèâàåòñÿ ñâîèì öâåòîì êðàñíûì,
çåëåíûì è ñèíèì.
Ðàññìîòðèì òðè ñîáûòèÿ: A = {ê,ì} ïèðàìèäà óïàëà ãðàíüþ, ñîäåðæàùåé êðàñíûé öâåò; B = {ç,ì} çåëåíûé öâåò; C = {ñ,ì} ñèíèé öâåò.
Êàæäîå èç ýòèõ ñîáûòèé ñîäåðæèò ïî äâà ðàâíîâåðîÿòíûõ èñõîäà, ïîýòîìó P (A) = P (B) = P (C) = 1/2. Åñëè ýòè ñîáûòèÿ íåçàâèñèìû, òî, ñîãëàñíî îïðåäåëåíèþ 3.3, äîëæíî âûïîëíÿòüñÿ ðàâåíñòâî P (A ∩ B ∩ C) =
P (A)P (B)P (C) = 1/8. Îäíàêî â íàøåì ñëó÷àå îäíîâðåìåííîå îñóùåñòâëåíèå âñåõ òðåõ ñîáûòèé âîçìîæíî ëèøü ïðè ïîÿâëåíèè åäèíñòâåííîãî ýëåìåíòàðíîãî èñõîäà ω4 = ì, òàê ÷òî P (A ∩ B ∩ C) = p(ì) = 1/4 6= 1/8. Èòàê,
ñîáûòèÿ A, B è C çàâèñèìû.
29
 òî æå âðåìÿ ñîáûòèÿ A, B è C ïîïàðíî íåçàâèñèìû. Äåéñòâèòåëüíî, P (A ∩ B) = p(ì) = 1/4 = P (A)P (B), è òî÷íî òàêèå æå ðàâåíñòâà
ñïðàâåäëèâû äëÿ îñòàëüíûõ ïàð ñîáûòèé.
Ðàñïðîñòðàíèì òåïåðü ïîíÿòèå íåçàâèñèìîñòè íà êëàññû ñîáûòèé. Ôèêñèðóåì íåêîòîðîå âåðîÿòíîñòíîå ïðîñòðàíñòâî (Ω, A, P ) è ââåäåì
Îïðåäåëåíèå 3.4. Áóëåâû ïîäàëãåáðû (èëè σ -ïîäàëãåáðû)
A1 , . . . , An
áóëåâîé σ -àëãåáðû A íàçûâàþòñÿ íåçàâèñèìûìè â ñîâîêóïíîñòè, åñëè äëÿ
ëþáîãî íàáîðà ñîáûòèé A1 , . . . , An èç ñîîòâåòñòâóþùèõ àëãåáð âûïîëíÿåòñÿ
ðàâåíñòâî
Ã
!
P
n
\
Ai
=
1
n
Y
P (Ai ).
(1)
1
Çàìåòèì, ÷òî â ñëó÷àå áóëåâûõ ïîäàëãåáð ôîðìóëà (1), îïðåäåëÿþùàÿ
èõ íåçàâèñèìîñòü, ñîäåðæèò ñîáûòèÿ, âçÿòûå îäíîâðåìåííî èç âñåõ àëãåáð,
íå ðàññìàòðèâàþòñÿ âñåâîçìîæíûå ðàçëè÷íûå íàáîðû ïîäàëãåáð. Òàêèå
íàáîðû â (1) ïîëó÷àþòñÿ àâòîìàòè÷åñêè, åñëè íåêîòîðûå èç Ai = Ω, à
äîñòîâåðíîå ñîáûòèå Ω ïðèíàäëåæèò âñåì ïîäàëãåáðàì σ -àëãåáðû A.
Ï ð è ì å ð 3.3 (íåçàâèñèìûõ áóëåâûõ ïîäàëãåáð). Îïðåäåëåíèå íåçàâèñèìîñòè áóëåâûõ àëãåáð ïîçâîëÿåò äàòü ñòðîãîå ìàòåìàòè÷åñêîå îáîñíîâàíèå
íåçàâèñèìîñòè ðåçóëüòàòà î÷åðåäíîãî èñïûòàíèÿ ïðàâèëüíîé ìîíåòû îò òîãî, êàêèìè èñõîäàìè çàêîí÷èëèñü ïðåäûäóùèå èñïûòàíèÿ, èëè îò òîãî, ÷òî
áóäåò â áóäóùåì. Ðàññìîòðèì, êàê è â ïðèìåðå 1.5, ñòàòèñòè÷åñêèé ýêñïåðèìåíò, â êîòîðîì ðåãèñòðèðóþòñÿ ðåçóëüòàòû n èñïûòàíèé ïðàâèëüíîé
ìîíåòû. Ïóñòü A áóëåâà àëãåáðà âñåâîçìîæíûõ ïîäìíîæåñòâ ïðîñòðàíñòâà Ω ýëåìåíòàðíûõ èñõîäîâ ýòîãî ýêñïåðèìåíòà, ÷èñëî êîòîðûõ ðàâíî 2n .
 ñîîòâåòñòâèè ñ âåðîÿòíîñòíîé ìîäåëüþ, îáîñíîâàíèå êîòîðîé áûëî äàíî â 1, ðàñïðåäåëåíèå âåðîÿòíîñòåé {P (A), A ∈ A} íà áóëåâîé àëãåáðå A
îïðåäåëÿåòñÿ ñëåäóþùèì îáðàçîì: P (A) ðàâíà ÷èñëó ýëåìåíòàðíûõ èñõîäîâ, ñîäåðæàùèõñÿ â ñîáûòèè A, ïîäåëåííîå íà 2n . Ðàññìîòðèì n ïîäàëãåáð
A1 , . . . , An áóëåâîé àëãåáðû A, ãäå Ai ïîðîæäàåòñÿ ïðîòèâîïîëîæíûìè ñîáûòèÿìè Ai ïðè i-îì èñïûòàíèè âûïàë ãåðá è Aci âûïàëà ðåøêà, òî åñòü
Ai = {Ai , Aci , Ω, }, i = 1, . . . , n. Ïîêàæåì, ÷òî ýòè ïîäàëãåáðû íåçàâèñèìû
â ñîâîêóïíîñòè.
Ïóñòü B1 , . . . , Bn íåêîòîðûé íàáîð ýëåìåíòîâ (ñîáûòèé) èç ñîîòâåò-
30
ñòâóþùèõ ïîäàëãåáð. Òðåáóåòñÿ ïîêàçàòü, ÷òî
P
Ãn
\
!
Bi
=
1
n
Y
P (Bi ).
(2)
1
Êàæäîå èç ñîáûòèé Ai èëè Aci ñîñòîèò èç 2n−1 èñõîäîâ, ïîýòîìó P (Bi ) =
1/2, åñëè Bi = Ai èëè Aci ; P (Bi ) = 1, åñëè Bi = Ω, è P (Bi ) = 0, åñëè
Bi = . Òàêèì îáðàçîì, (2) âûïîëíÿåòñÿ òðèâèàëüíûì îáðàçîì, åñëè õîòÿ
áû îäíî èç Bi = ; äîñòîâåðíûå ñîáûòèÿ Bi = Ω ïðè äîêàçàòåëüñòâå (2)
ìîæíî ïðîñòî èãíîðèðîâàòü, òàê ÷òî îñòàëîñü óáåäèòüñÿ â ñïðàâåäëèâîñòè
Tn
(2), êîãäà âñå Bi ðàâíû Ai èëè Aci , i = 1, . . . , n. Íî â òàêîì ñëó÷àå 1 Bi
ñîâïàäàåò ñ îäíèì èç ýëåìåíòàðíûõ èñõîäîâ, âåðîÿòíîñòü êîòîðîãî ðàâíà
2−n (çíà÷åíèå ëåâîé ÷àñòè (2)), è òî æå çíà÷åíèå ïðèíèìàåò ïðàâàÿ ÷àñòü
(2), ïîñêîëüêó âñå P (Bi ) = 1/2, i = 1, . . . , n.
Ðàññìîòðåííûé ïðèìåð óêàçûâàåò íàì ïóòü ê ïîñòðîåíèþ âåðîÿòíîñòíîé ìîäåëè ñòàòèñòè÷åñêîãî ýêñïåðèìåíòà ñ íåçàâèñèìûìè èñïûòàíèÿìè
ãíóòîé ìîíåòû, äëÿ êîòîðîé âåðîÿòíîñòü âûïàäåíèÿ ãåðáà îòëè÷íà îò 1/2.
Åñòåñòâåííî, òàêîãî ðîäà èñïûòàíèÿ îñóùåñòâëÿþòñÿ â ïðàêòè÷åñêîé è íàó÷íîé äåÿòåëüíîñòè íå òîëüêî ñ ãíóòîé ìîíåòîé èñïûòàíèÿ ñ áèíàðíûìè
èñõîäàìè èìåþò ìåñòî ïðè êîíòðîëå êà÷åñòâà (èçäåëèÿ ìîãóò áûòü êîíäèöèîííûìè è äåôåêòíûìè), ýïèäåìèîëîãè÷åñêèõ èññëåäîâàíèÿõ (âûáðàííàÿ
îñîáü èç ïîïóëÿöèè èíôèöèðîâàíà èëè íåò) è ò.ï. Îáùàÿ òåîðèÿ ýêñïåðèìåíòîâ ñ áèíàðíûìè èñõîäàìè áûëà ðàçðàáîòàíà â XVII âåêå È.Áåðíóëëè
è ïîýòîìó íàçâàíà åãî èìåíåì.
Ñõåìà èñïûòàíèé Áåðíóëëè. Ýêñïåðèìåíò ñîñòîèò â íàáëþäåíèè
n(≥ 1) îäíîòèïíûõ îáúåêòîâ, êàæäûé èç êîòîðûõ ñ îäèíàêîâîé âåðîÿòíîñòüþ p ìîæåò îáëàäàòü îïðåäåëåííûì ïðèçíàêîì èëè íåò. Åñëè i-ûé
îáúåêò îáëàäàåò óêàçàííûì ïðèçíàêîì, òî ãîâîðÿò, ÷òî i-îå èñïûòàíèå çàâåðøèëîñü óñïåõîì, è â æóðíàëå íàáëþäåíèé ïðîòèâ i-ãî îáúåêòà ñòàâèòñÿ
öèôðà 1; îòñóòñòâèå ïðèçíàêà (íåóäà÷à) îòìå÷àåòñÿ öèôðîé 0, i = 1, . . . , n.
Òàêèì îáðàçîì, ðåçóëüòàò ýêñïåðèìåíòà ìîæíî ïðåäñòàâèòü â âèäå ïîñëåäîâàòåëüíîñòè x1 , . . . , xn íàáëþäåíèé ñëó÷àéíûõ èíäèêàòîðîâ X1 , . . . , Xn
ñëó÷àéíûõ âåëè÷èí, ïðèíèìàþùèõ çíà÷åíèå 1 ñ âåðîÿòíîñòüþ p è 0 ñ
âåðîÿòíîñòüþ 1 − p.  ýòèõ îáîçíà÷åíèÿõ âåðîÿòíîñòü òîãî, ÷òî ïðè i-îì
èñïûòàíèè Xi ïðèíÿëî çíà÷åíèå xi (ðàâíîå 0 èëè 1), ìîæíî ïðåäñòàâèòü
ôîðìóëîé
P (Xi = xi ) = pxi (1 − p)1−xi , i = 1, . . . , n.
31
Êàê è â èñïûòàíèÿõ ïðàâèëüíîé ìîíåòû, ïðîñòðàíñòâî Ω ýëåìåíòàðíûõ èñõîäîâ ðàññìàòðèâàåìîãî ýêñïåðèìåíòà ñîñòîèò èç 2n ýëåìåíòîâ âèäà x1 , . . . , xn . Ïóñòü A áóëåâà àëãåáðà âñåâîçìîæíûõ ïîäìíîæåñòâ Ω è
A1 , . . . , An ïîäàëãåáðû A, ïðè÷åì Ai ïîðîæäàåòñÿ ñîáûòèåì Xi = xi (=0
èëè 1), i = 1, . . . , n. Åñëè íàì a priori èçâåñòíî, ÷òî êàê íàáëþäàåìûå îáúåêòû, òàê è ðåçóëüòàòû íàáëþäåíèé íàä íèìè, íå îêàçûâàþò âëèÿíèÿ äðóã íà
äðóãà, òî åñòåñòâåííî ôîðìàëèçîâàòü ýòó àïðèîðíóþ èíôîðìàöèþ â âèäå
óòâåðæäåíèÿ: ïîäàëãåáðû A1 , . . . , An íåçàâèñèìû â ñîâîêóïíîñòè .  òàêîì ñëó÷àå âåðîÿòíîñòü êàæäîãî ýëåìåíòàðíîãî èñõîäà x1 , . . . , xn ñîâïàäàåò ñ âåðîÿòíîñòüþ îäíîâðåìåííîãî îñóùåñòâëåíèÿ n íåçàâèñèìûõ ñîáûòèé
Xi = xi , i = 1, . . . , n è, ñëåäîâàòåëüíî,
P (X1 = x1 , . . . , Xn = xn ) =
n
Y
Xn
P (Xi = xi ) = p
1
xi
Xn
n−
(1 − p)
1
xi
.
i=1
Ïîëó÷åííîå ðàñïðåäåëåíèå âåðîÿòíîñòåé íà ïðîñòðàíñòâå ýëåìåíòàðíûõ
èñõîäîâ Ω îáëàäàåò îäíîé èíòåðåñíîé
Cnm èñõîäîâ, ñîäåðæàXîñîáåííîñòüþ:
n
ùèõ îäíî è òî æå êîëè÷åñòâî m =
xi óñïåøíûõ èñïûòàíèé, îáëàäàþò
1
îäèíàêîâîé âåðîÿòíîñòüþ èõ ïîÿâëåíèÿ, ðàâíîé pm (1 − p)n−m . Ðàññìîòðèì
â ñâÿçè ñ ýòèì ñëó÷àéíóþ âåëè÷èíó
X=
n
X
Xi ,
1
ðåçóëüòàò íàáëþäåíèÿ êîòîðîé m òðàêòóåòñÿ êàê ÷èñëî óñïåøíûõ èñïûòàíèé â ýêñïåðèìåíòå. Íà ïðîñòðàíñòâå çíà÷åíèé m = 0, 1, . . . , n ýòîé ñëó÷àéíîé âåëè÷èíû ïîëó÷àåì ðàñïðåäåëåíèå âåðîÿòíîñòåé, êîòîðîå íàçûâàåòñÿ
áèíîìèàëüíûì ðàñïðåäåëåíèåì
P (X = m | p, n) = Cnm pm (1 − p)n−m .
Îòìåòèì, ÷òî áèíîìèàëüíîå ðàñïðåäåëåíèå ñëóæèò àïïðîêñèìàöèåé ãèïåðãåîìåòðè÷åñêîãî ðàñïðåäåëåíèÿ ïðè áîëüøèõ çíà÷åíèÿõ N è M (ñì.
çàäà÷ó 3 è ôîðìóëó 2 â 1). Èìååò ìåñòî
Ïðåäëîæåíèå 3.2. Åñëè â ãèïåðãåîìåòðè÷åñêîì ðàñïðåäåëåíèè P (X =
m | N, M, n) ïàðàìåòðû N → ∞, M → ∞ è ïðè ýòîì M/N → p, òî äëÿ
âñåõ ôèêñèðîâàííûõ n è m
P (X = m | N, M, n) → P (X = m | p, n) = Cnm pm (1 − p)n−m .
32
Ä î ê à ç à ò å ë ü ñ ò â î ëåãêî ïîëó÷èòü, èñïîëüçóÿ ñëåäóþùèå ýëåìåíòàðíûå ïðåîáðàçîâàíèÿ ãèïåðãåîìåòðè÷åñêîé âåðîÿòíîñòè:
m n−m
CM
CN −M
=
P (X = m | N, M, n) =
CNn
M!
(N − M )!
n!(N − n)!
·
·
=
m!(M − m)! (n − m)!(N − M − (n − m))!
N!
n!
· [(M − m + 1) · · · (M − 1)M ]·
m!(n − m)!
[(N − M − (n − m) + 1) · · · (N − M + 1)(N − M )]
=
(N − n + 1) · · · (N − 1)N
·µ
Cnm
·µ
µ
¶
¶ ¸
M
M m−1
1 M
···
·
−
−
N
N
N
N N
µ
¶
¶µ
¶¸
M n−m−1
M
M
1
1−
··· 1 −
1−
·
−
−
N
N
N
N
N
·µ
¶
µ
¶ ¸−1
n−1
1
1−
.
··· 1 −
·1
N
N
33
Ëåêöèÿ 5
Ñëåäóþùèå äâå ôîðìóëû óñëîâíîé âåðîÿòíîñòè èãðàþò âàæíóþ ðîëü
ïðè ðåøåíèè ìíîãèõ ïðàêòè÷åñêèõ çàäà÷. Îáå ôîðìóëû ñâÿçàíû ñ òàê
íàçûâàåìîé ïîëíîé ãðóïïîé ñîáûòèé {B1 , . . . , Bn }, êîòîðûå íåñîâìåñòíû
(Bi ∩ Bj = , i 6= j) è â îáúåäèíåíèè äàþò âñå ïðîñòðàíñòâî ýëåìåíòàðíûõ
èñõîäîâ Ω.
÷òî ýòà ãðóïïà ñîáûòèé îïðåäåëÿåò ðàçáèåíèå Ω, òàê
XÃîâîðÿò,
n
êàê Ω =
Bi .
1
Ïðåäëîæåíèå 3.3 (Ôîðìóëà ïîëíîé âåðîÿòíîñòè). Äëÿ ëþáîãî
ñîáûòèÿ A è ïîëíîé ãðóïïû ñîáûòèé {B1 , . . . , Bn } ñïðàâåäëèâà ôîðìóëà
P (A) =
n
X
P (A | Bi )P (Bi ).
i=1
Ä î ê à ç à ò å ë ü ñ ò â î íåìåäëåííî ñëåäóåò èç ñëåäóþùåé öåïî÷êè ðàâåíñòâ, â êîòîðîé íà ïîñëåäíåì ýòàïå èñïîëüçóåòñÿ ôîðìóëà óñëîâíîé âåðîÿòíîñòè:
P (A) = P (A ∩ Ω) = P (A ∩
n
X
P(
A ∩ Bi ) =
1
n
X
P (A ∩ Bi ) =
1
n
X
1
n
X
Bi ) =
P (A|Bi )P (Bi ).
1
Ïðåäëîæåíèå 3.4 (Ôîðìóëà Áàéåñà). Äëÿ ëþáîãî ñîáûòèÿ A è
ïîëíîé ãðóïïû ñîáûòèé {B1 , . . . , Bn } ñïðàâåäëèâà ôîðìóëà
P (A | Bk )P (Bk )
P (Bk | A) = Xn
.
P (A | Bi )P (Bi )
i=1
Ä î ê à ç à ò å ë ü ñ ò â î. Â ñèëó ôîðìóëû óñëîâíîé âåðîÿòíîñòè
P (A ∩ Bk ) = P (A | Bk )P (Bk ), ïîýòîìó
P (Bk | A) =
P (A ∩ Bk ) P (A | Bk )P (Bk )
=
P (A)
P (A).
Ïîäñòàâëÿÿ â ïðàâóþ ÷àñòü ïîñëåäíåãî ðàâåíñòâà âìåñòî P (A) åå âûðàæåíèå ïî ôîðìóëå ïîëíîé âåðîÿòíîñòè, ïîëó÷àåì èñêîìóþ ôîðìóëó Áàéåñà.
34
Ç à ì å ÷ à í è å. Âåðîÿòíîñòè P (B1 ), . . . , P (Bn ) ÷àñòî íàçûâàþò àïðèîðíûìè âåðîÿòíîñòÿìè ãðóïïû ñîáûòèé B1 , . . . , Bn , â òî âðåìÿ êàê óñëîâíûå âåðîÿòíîñòè P (B1 | A), . . . , P (Bn | A) àïîñòåðèîðíûìè, ïîëó÷åííûìè ïîñëå äîïîëíèòåëüíîãî ýêñïåðèìåíòà, â êîòîðîì ïðîèçîøëî ñîáûòèå A.
 ñâÿçè ñ ýòèì ôîðìóëà Áàéåñà íàçûâàåòñÿ òàêæå ôîðìóëîé îáíîâëåíèÿ
àïðèîðíûõ âåðîÿòíîñòåé.
Ïðèâåäåì íåñêîëüêî çàäà÷, ðåøàåìûõ ñ ïîìîùüþ ïîëó÷åííûõ ôîðìóë
óñëîâíîé âåðîÿòíîñòè.
Ç à ä à ÷ à 3.1. Èç óðíû, ñîäåðæàùåé 3 áåëûõ è 2 ÷åðíûõ øàðà, íàóãàä
âûíèìàþò 2 øàðà è ïåðåêëàäûâàþò â äðóãóþ óðíó, ñîäåðæàùóþ 4 áåëûõ
è 4 ÷åðíûõ øàðà. Êàêîâà âåðîÿòíîñòü èìåòü áåëûé øàð ïðè ñëó÷àéíîì
âûáîðå îäíîãî øàðà èç âòîðîé óðíû ïîñëå ïåðåêëàäûâàíèÿ?
Ýòà çàäà÷à ðåøàåòñÿ îáû÷íî ñ ïîìîùüþ ôîðìóëû ïîëíîé âåðîÿòíîñòè. Ïóñòü A ñîáûòèå, îçíà÷àþùåå îòáîð áåëîãî øàðà. Îïðåäåëèì ïîëíóþ ãðóïïó ñîáûòèé â ñîîòâåòñòâèè ñ âîçìîæíûìè ðåçóëüòàòàìè ïåðåêëàäûâàíèÿ: B1 = {Á,Á}, B2 = {Á,×} + {×,Á}, B3 = {×,×}. Çäåñü
ïåðâàÿ áóêâà â ôèãóðíûõ ñêîáêàõ óêàçûâàåò öâåò øàðà (Á áåëûé, ×
÷åðíûé), êîòîðûé áûë âûíóò èç ïåðâîé óðíû ïåðâûì, à âòîðàÿ áóêâà
öâåò âòîðîãî øàðà. Òåðìèí íàóãàä îçíà÷àåò, ÷òî âåðîÿòíîñòü âûíóòü
øàð îïðåäåëåííîãî öâåòà ðàâíà îòíîøåíèþ ÷èñëà øàðîâ ýòîãî öâåòà ê îáùåìó ÷èñëó øàðîâ â óðíå.  òàêîì ñëó÷àå, â ñîîòâåòñòâèè ñ ôîðìóëîé
óñëîâíîé âåðîÿòíîñòè, P (B1 ) = P (Á ∩ Á) = P (âòîðîé øàð áåëûé | ïåðâûé øàð áåëûé)·P (ïåðâûé øàð áåëûé)=(3/5) · (2/4) = 3/10. Àíàëîãè÷íî,
P (B2 ) = (3/5) · (2/4) + (2/5) · (3/4) = 6/10 è P (B3 ) = (2/5) · (1/4) = 1/10.
Óñëîâíûå âåðîÿòíîñòè ñîáûòèÿ A âû÷èñëÿþòñÿ â ñîîòâåòñòâèè ñ ÷èñëîì
áåëûõ øàðîâ âî âòîðîé óðíå ïîñëå äîáàâëåíèÿ â íåå äâóõ øàðîâ èç ïåðâîé óðíû: P (A | B1 ) = 6/10, P (A | B2 ) = 5/10, P (A | B3 ) = 4/10. Ôîðìóëà
ïîëíîé âåðîÿòíîñòè äàåò
P (A) =
5 6
4 1
13
6 3
·
+
·
+
·
= .
10 10 10 10 10 10 25
(3)
Ç à ì å ÷ à í è å ê ç à ä à ÷ å 3.1. Ñëåäóåò îáðàòèòü îñîáîå âíèìàíèå íà
ïðîñòðàíñòâî Ω ýëåìåíòàðíûõ èñõîäîâ â ýòîé çàäà÷å, ãëóáîêî çàáëóæäàåòñÿ òîò, êòî íàäåëÿåò Ω âñåãî äâóìÿ ýëåìåíòàìè Á è ×. Íàø ýêñïåðèìåíò
ñîñòîÿë íå òîëüêî â îòáîðå øàðà èç âòîðîé óðíû ïåðåä ýòèì ïðîèçâîäèëñÿ ñëó÷àéíûé îòáîð äâóõ øàðîâ èç ïåðâîé óðíû, è ðåçóëüòàò ýòîãî îòáîðà
35
âëèÿë íà óñëîâíóþ âåðîÿòíîñòü âûáîðà áåëîãî øàðà. Ïðîñòðàíñòâî Ω â
äåéñòâèòåëüíîñòè ñîñòîèò èç âîñüìè ýëåìåíòîâ
ÁÁ.Á
ÁÁ.×
Á×.Á
Á×.×
×Á.Á
×Á.×
××.Á
××.×
(3)
Çäåñü ïåðâûå äâå áóêâû äî òî÷êè óêàçûâàþò öâåò øàðîâ, âûíóòûõ èç ïåðâîé óðíû, à áóêâà ïîñëå òî÷êè öâåò øàðà, âûíóòîãî èç âòîðîé óðíû ïîñëå
ïåðåêëàäûâàíèÿ. Âû÷èñëåíèÿ, ïðîâîäèìûå â (3), ïðåäñòàâëÿþò ñîáîé ñóììèðîâàíèå âåðîÿòíîñòåé ýëåìåíòàðíûõ èñõîäîâ, óêàçàííûõ â ïåðâîé ñòðîêå
òàáëèöû.
Ñëåäóþùàÿ çàäà÷à óäèâèòåëüíî òî÷íî èëëþñòðèðóåò íåäîðàçóìåíèÿ,
êîòîðûå ìîãóò âîçíèêíóòü èç-çà íåïðàâèëüíîé ñïåöèôèêàöèè ïðîñòðàíñòâà
ýëåìåíòàðíûõ èñõîäîâ.
Ç à ä à ÷ à 3.2. Ýêñïåðèìåíòàòîð ðàñïîëàãàåò äâóìÿ ïàðàìè øàðîâ îäèíàêîâîãî öâåòîâîãî ñîñòàâà Á× è Á×. Èç êàæäîé ïàðû íàóãàä âûáèðàåòñÿ
ïî îäíîìó øàðó è áðîñàåòñÿ â óðíó, ãäå ëåæèò áåëûé øàð. Èç òðåõ øàðîâ â
óðíå íàóãàä îòáèðàåòñÿ îäèí. Êàêîâà âåðîÿòíîñòü, ÷òî âûíóò áåëûé øàð?
Ìû ñíîâà íàõîäèìñÿ â ñèòóàöèè, ñâÿçàííîé ñ ïðèìåíåíèåì ôîðìóëû
ïîëíîé âåðîÿòíîñòè, ãäå ïîëíàÿ ãðóïïà ñîáûòèé ñîîòíîñèòñÿ ñ âîçìîæíûì
ñîñòàâîì óðíû: B1 =ÁÁÁ (â óðíå 3 áåëûõ øàðà), B2 =ÁÁ×+Á×Á (â óðíå 2
áåëûõ) è B3 =Á×× (â óðíå 1 áåëûé). Ïîñêîëüêó âåðîÿòíîñòü âûáîðà øàðà
îïðåäåëåííîãî öâåòà èç êàæäîé ïàðû ðàâíà 1/2 è âûáîð â êàæäîé ïàðå
îñóùåñòâëÿåòñÿ íåçàâèñèìî îò ðåçóëüòàòà âûáîðà â äðóãîé, òî âåðîÿòíîñòè
ñîáûòèé èç ïîëíîé ãðóïïû âû÷èñëÿþòñÿ î÷åíü ïðîñòî: P (B1 ) = P (B3 ) =
(1/2) · (1/2) = 1/4, P (B2 ) = (1/2) · (1/2) + (1/2) · (1/2) = 1/2. Óñëîâíûå
âåðîÿòíîñòè îòáîðà áåëîãî øàðà ïðè êàæäîì ôèêñèðîâàííîì ñîñòàâå óðíû
ðàâíû P (A | B1 ) = 1, P (A | B2 ) = 2/3, P (A | B3 ) = 1/3. Òåïåðü, èñïîëüçóÿ
ôîðìóëó ïîëíîé âåðîÿòíîñòè, íàõîäèì P (A) = 1 · (1/4) + (2/3) · (1/2) +
(1/3) · (1/4) = 2/3. Åñëè èãíîðèðîâàòü ïðîöåññ ñëó÷àéíîãî ôîðìèðîâàíèÿ
ñîñòàâà óðíû è ñ÷èòàòü, ÷òî ìû èìååì äåëî ñ äâóõòî÷å÷íûì ïðîñòðàíñòâîì
ýëåìåíòàðíûõ èñõîäîâ Ω = {Á,×}, òî ïðèõîäèì ê ïàðàäîêñàëüíîìó âûâîäó:
ñîñòàâ óðíû âñåãäà îäèí è òîò æå äâà áåëûõ è îäèí ÷åðíûé!
Íåòðóäíî ïîíÿòü, ÷òî â ýòîé çàäà÷å ïðîñòðàíñòâî ýëåìåíòàðíûõ èñõîäîâ
òî æå, ÷òî è â ïðåäûäóùåé çàäà÷å 3.1 (äîïîëíèòåëüíûé áåëûé øàð ôèêñèðîâàí è åãî ìîæíî íå ó÷èòûâàòü ïðè îïðåäåëåíèè Ω), è íàøè âû÷èñëåíèÿ
P (A) ñîñòîÿò â ñóììèðîâàíèè âåðîÿòíîñòåé ýëåìåíòàðíûõ èñõîäîâ ïåðâîé
ñòðîêè â òàáëèöå, ïðåäñòàâëÿþùåé ïðîñòðàíñòâî Ω.
36
Ç à ä à ÷ à 3.3 Ñòàòèñòè÷åñêèé êîíòðîëü êà÷åñòâà. Ôîðìóëà
Áàéåñà èãðàåò áîëüøóþ ðîëü â ïëàíèðîâàíèè ïðîöåäóð ãàðàíòèéíîãî êîíòðîëÿ êà÷åñòâà âûïóñêàåìîé ïðîäóêöèè. Ïðîèçâîäèòåëü ïðîäóêòà äîëæåí
âûïîëíÿòü îïðåäåëåííûå äîãîâîðíûå îáÿçàòåëüñòâà ïåðåä ïîòðåáèòåëåì,
êîòîðûå, òàê èëè èíà÷å, ñâîäÿòñÿ ê îãðàíè÷åíèÿì íà äîëþ íåêîíäèöèîííîé ïðîäóêöèè, ïîñòàâëÿåìîé ïîòðåáèòåëþ, èëè, ÷òî òî æå, äîëÿ êîíäèöèîííîé ïðîäóêöèè äîëæíà áûòü äîñòàòî÷íî âûñîêîé. Îáåñïå÷åíèå ýòèõ
îãðàíè÷åíèé äîñòèãàåòñÿ ñ ïîìîùüþ êîíòðîëÿ (êàê ïðàâèëî, âûáîðî÷íîãî)
ïðîèçâîäèìîé ïðîäóêöèè. Ïóñòü Qin äîëÿ êîíäèöèîííîé ïðîäóêöèè ñðåäè èçãîòàâëèâàåìîé ïðåäïðèÿòèåì. Îáû÷íî ýòà äîëÿ íàçûâàåòñÿ âõîäíûì
óðîâíåì êà÷åñòâà, è íåîáõîäèìîñòü êîíòðîëÿ ïðîäóêöèè îáóñëàâëèâàåòñÿ íåâûñîêèì çíà÷åíèåì Qin , êîòîðîå íå óäîâëåòâîðÿåò ïîòðåáèòåëÿ. Åñëè
êîíòðîëü ïðîäóêöèè ïðîèçâîäèòñÿ íà îñíîâå îáñëåäîâàíèÿ òîëüêî åå ÷àñòè
(òàê íàçûâàåìûé âûáîðî÷íûé èëè ñòàòèñòè÷åñêèé êîíòðîëü êà÷åñòâà),
òî âîçíèêàåò âåðîÿòíîñòü ïðèíÿòèÿ îøèáî÷íîãî ðåøåíèÿ î êà÷åñòâå êîíòðîëèðóåìîãî ïðîäóêòà: ñ íåêîòîðîé âåðîÿòíîñòüþ β ïðîöåäóðà êîíòðîëÿ
ìîæåò ïðîïóñòèòü íåêîíäèöèîííûé ïðîäóêò èëè, íàîáîðîò, ñ âåðîÿòíîñòüþ
α îòêëîíèòü êîíäèöèîííûé. Âåðîÿòíîñòü β íàçûâàåòñÿ ðèñêîì ïîòðåáèòåëÿ, à âåðîÿòíîñòü α ðèñêîì èçãîòîâèòåëÿ. Ñóùåñòâóþò ìåòîäû ðàñ÷åòà
ýòèõ ðèñêîâ íà îñíîâå âåðîÿòíîñòíîé ìîäåëè ñòàòèñòè÷åñêîãî êîíòðîëÿ, ñ
êîòîðûìè ìû ïîçíàêîìèìñÿ â êóðñå ìàòåìàòè÷åñêîé ñòàòèñòèêè. Çíàÿ çíà÷åíèÿ Qin , α è β , ìîæíî, èñïîëüçóÿ ôîðìóëó Áàéåñà, âû÷èñëèòü âûõîäíîé
óðîâåíü êà÷åñòâà Qout äîëþ êîíäèöèîííîé ïðîäóêöèè, ñðåäè îòñûëàåìîé
ïîòðåáèòåëþ ïîñëå êîíòðîëÿ.
Ïóñòü B1 ñîáûòèå, ñîñòîÿùåå â òîì, ÷òî ïîñòóïèâøèé íà êîíòðîëü ïðîäóêò êîíäèöèîíåí, à B2 = B1c ïðîäóêò ïëîõîé .  íàøèõ îáîçíà÷åíèÿõ
P (B1 ) = Qin . Ïóñòü, äàëåå, A óòâåðæäåíèå î êîíäèöèîííîñòè ïðîäóêòà
ïîñëå åãî êîíòðîëÿ. Òîãäà Qout = P (B1 | A) âåðîÿòíîñòü êîíäèöèîííîñòè
ïðîäóêòà ïðè óñëîâèè, ÷òî îí ïðîøåë êîíòðîëü. Íàêîíåö, P (A | B1 ) = 1−α
è P (A | B2 ) = β. Ïî ôîðìóëå Áàéåñà
Qout = P (B1 | A) =
P (A | B1 )P (B1 )
=
P (A | B1 )P (B1 ) + P (A | B2 )P (B2 )
(1 − α)Qin
.
(1 − α)Qin + β(1 − Qin )
Ïðîèëëþñòðèðóåì ðàñ÷åòû, ïðîèçâîäèìûå ïî ýòîé ôîðìóëå, íà îñíîâå êîíêðåòíûõ ÷èñëîâûõ äàííûõ. Ïóñòü ïðåäïðèÿòèå ðàáîòàåò èç ðóê âîí
37
ïëîõî: Qin = 0.1 (90% âûïóñêàåìîé ïðîäóêöèè íå óäîâëåòâîðÿåò íîðìàì
êà÷åñòâà), íî íà ïðåäïðèÿòèè ñóùåñòâóåò äîâîëüíî æåñòêèé êîíòðîëü, â
êîòîðîì ðèñê ïîòðåáèòåëÿ β = 0.01, à ðèñê èçãîòîâèòåëÿ α = 0.1. Òîãäà
âûõîäíîé óðîâåíü êà÷åñòâà
Qout =
0.9 · 0.1
10
=
≈ 0.91,
0.9 · 0.1 + 0.01 · 0.9 11
è ýòî ñîâñåì íåïëîõî ïî ñðàâíåíèþ ñ òåì, ÷òî áûëî äî êîíòðîëÿ.
38
4. Ñëó÷àéíûå âåëè÷èíû è ôóíêöèè ðàñïðåäåëåíèÿ
Ëåêöèÿ 6
 ïðèìåíåíèÿõ ìåòîäîâ òåîðèè âåðîÿòíîñòåé èññëåäîâàòåëü ÷àùå âñåãî
èìååò äåëî ñ ÷èñëîâûìè õàðàêòåðèñòèêàìè íàáëþäàåìîãî îáúåêòà, êîòîðûå ÿâëÿþòñÿ ôóíêöèÿìè ýëåìåíòàðíûõ èñõîäîâ ñîñòîÿíèé îáúåêòà. Ïðè
èñïîëüçîâàíèè ðàçëè÷íûõ õàðàêòåðèñòèê âàæíûì ÿâëÿåòñÿ òî îáñòîÿòåëüñòâî, ÷òî âñå îíè îïðåäåëåíû íà îäíîì è òîì æå ïðîñòðàíñòâå Ω, è åñëè
ìû ïðèñòóïàåì ê ïîñòðîåíèþ âåðîÿòíîñòíîé ìîäåëè, íà îñíîâàíèè êîòîðîé
áóäåò ïîëó÷åíî ðàñïðåäåëåíèå íàáëþäàåìîé õàðàêòåðèñòèêè X = X(ω), òî
ìû äîëæíû ïîíèìàòü, ÷òî ýòî ðàñïðåäåëåíèå èíäóöèðîâàíî èñõîäíûì ðàñïðåäåëåíèåì P íà σ -àëãåáðå A ïîäìíîæåñòâ Ω. Íàïîìíèì, ÷òî òàêîãî ðîäà
ïîñòðîåíèÿ ïðîâîäèëèñü ïðè âûâîäå ãèïåðãåîìåòðè÷åñêîãî è áèíîìèàëüíîãî ðàñïðåäåëåíèé.
Èòàê, ìû ïðèñòóïàåì ê òåîðèè ðàñïðåäåëåíèé ôóíêöèé X = X(ω) íà
ïðîñòðàíñòâå ýëåìåíòàðíûõ èñõîäîâ, ôèêñèðóÿ íåêîòîðîå âåðîÿòíîñòíîå
ïðîñòðàíñòâî (Ω, A, P ). Îáëàñòüþ çíà÷åíèé ôóíêöèè X ñëóæèò ýâêëèäîâî
ïðîñòðàíñòâî R, è ýòî ïðîñòðàíñòâî ÿâëÿåòñÿ íîâûì ïðîñòðàíñòâîì ýëåìåíòàðíûõ èñõîäîâ. Ïîñêîëüêó íàñ, â îñíîâíîì, áóäóò èíòåðåñîâàòü âåðîÿòíîñòè ïîïàäàíèÿ çíà÷åíèé X â èíòåðâàëû, òî åñòåñòâåííî ðàññìîòðåòü
áóëåâó σ - àëãåáðó ïîäìíîæåñòâ R, ïîðîæäåííóþ âñåâîçìîæíûìè èíòåðâàëàìè íà ïðÿìîé R. Êàê íàì èçâåñòíî èç îáùåãî êóðñà àíàëèçà, òàêàÿ
σ -àëãåáðà B, ñîñòîÿùàÿ èç âñåâîçìîæíûõ îáúåäèíåíèé è ïåðåñå÷åíèé ñ÷åòíîãî ÷èñëà èíòåðâàëîâ, íàçûâàåòñÿ áîðåëåâñêèì ïîëåì, è äëÿ åå ïîñòðîåíèÿ
äîñòàòî÷íî ðàññìîòðåòü îòêðûòûå èíòåðâàëû âèäà (−∞, x).
Ââåäåì èçìåðèìîå ïðîñòðàíñòâî (R, B) çíà÷åíèé X è ðàññìîòðèì ñëåäóþùèé, ñîâåðøåííî åñòåñòâåííûé ìåòîä íàâåäåíèÿ ðàñïðåäåëåíèÿ P X
íà B ïîñðåäñòâîì âåðîÿòíîñòè P íà A. Êàæäîìó áîðåëåâñêîìó ìíîæåñòâó
B ∈ B ñîïîñòàâèì åãî ïðîîáðàç X −1 (B) = {ω : X(ω) ∈ B} ⊂ Ω. Åñëè
X −1 (B) ∈ A, òî åñòåñòâåííî îïðåäåëèòü âåðîÿòíîñòü ïîïàäàíèÿ çíà÷åíèÿ
X â B êàê P X (B) = P (X −1 (B)). Ôóíêöèè, êîòîðûå îáëàäàþò ñâîéñòâîì
X −1 (B) ∈ A ïðè ëþáîì B ∈ B, íàçûâàþòñÿ èçìåðèìûìè, è â äàëüíåéøåì áóäóò ðàññìàòðèâàòüñÿ òîëüêî òàêèå õàðàêòåðèñòèêè íàáëþäàåìîãî
îáúåêòà. Ìû ïîäîøëè ê îñíîâíîìó ïîíÿòèþ òåîðèè ðàñïðåäåëåíèé íà ïîäìíîæåñòâàõ R.
Îïðåäåëåíèå 4.1. Ñëó÷àéíîé âåëè÷èíîé X = X(ω) íàçûâàåòñÿ èçìå-
ðèìîå îòîáðàæåíèå èçìåðèìîãî ïðîñòðàíñòâà (Ω, A) íà áîðåëåâñêóþ ïðÿ39
ìóþ (R, B).
Ëåãêî ïîíÿòü, ÷òî, ñ òî÷êè çðåíèÿ ïðàêòè÷åñêèõ ïðèëîæåíèé, ìû ìîãëè áû íå îáðàùàòüñÿ ê îïðåäåëåíèþ ñëó÷àéíîé âåëè÷èíû, êàê èçìåðèìîé
ôóíêöèè, à ïðîñòî ñêàçàòü, ÷òî ñåé÷àñ ìû çàéìåìñÿ ïîñòðîåíèåì âåðîÿòíîñòíûõ ìîäåëåé, â êîòîðûõ ïðîñòðàíñòâî ýëåìåíòàðíûõ èñõîäîâ åñòü
÷èñëîâàÿ ïðÿìàÿ. Òåì íå ìåíåå, ÷òîáû îïèñàòü êëàññ âîçìîæíûõ ðàñïðåäåëåíèé íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X èíîãäà ïðîñòî íåîáõîäèìî
çíàòü ïðè÷èíó èçìåí÷èâîñòè ñîñòîÿíèé îáúåêòà (èëè èíñòðóìåíòà èññëåäîâàíèÿ), êîòîðàÿ îáóñëàâëèâàåò ðàçíûå çíà÷åíèÿ â ïîâòîðíûõ íàáëþäåíèÿõ
X.
Áîðåëåâñêîå ïîëå B, íà êîòîðîì áóäåò îïðåäåëÿòüñÿ ðàñïðåäåëåíèå X,
ÿâëÿåòñÿ ÷ðåçâû÷àéíî ñëîæíûì îáúåêòîì ñ òî÷êè çðåíèÿ ñòðîåíèé åãî ýëåìåíòîâ, ïîýòîìó çàäàíèå ôóíêöèè P (B), B ∈ B ïðåäñòàâëÿåòñÿ ñîâåðøåííî íåðàçðåøèìîé ïðîáëåìîé. Îäíàêî ìû çíàåì, ÷òî B ïîðîæäàåòñÿ èíòåðâàëàìè âèäà (−∞, x) (ñîáûòèÿìè X < x), è ýòî óêàçûâàåò ïðîñòîé ïóòü ê
çàäàíèþ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû X. ×òî åñëè íà÷àòü ñ çàäàíèÿ
âåðîÿòíîñòè òîëüêî íà ñîáûòèÿõ, ïîðîæäàþùèõ B, òî åñòü ñ îïðåäåëåíèÿ
ôóíêöèè F (x) = P (X < x), x ∈ R, ïîòîì ðàñïðîñòðàíèòü åå àääèòèâíûì
îáðàçîì íà áóëåâó àëãåáðó êîíå÷íûõ îáúåäèíåíèé âñåâîçìîæíûõ èíòåðâàëîâ íà R, ïîêàçàòü, ÷òî ïîëó÷åííàÿ òàêèì îáðàçîì àääèòèâíàÿ ôóíêöèÿ
íà áóëåâîé àëãåáðå îáëàäàåò ñâîéñòâîì íåïðåðûâíîñòè îòíîñèòåëüíî ìîíîòîííî óáûâàþùèõ ïîñëåäîâàòåëüíîñòåé ñîáûòèé (ÿâëÿåòñÿ âåðîÿòíîñòüþ)
è, íàêîíåö, çàêîí÷èòü ïîñòðîåíèå âåðîÿòíîñòè íà B ññûëêîé íà òåîðåìó îá
åäèíñòâåííîñòè ïðîäîëæåíèÿ âåðîÿòíîñòè ñ áóëåâîé àëãåáðû îáúåäèíåíèé
èíòåðâàëîâ íà ïîðîæäåííóþ ýòîé àëãåáðîé σ -àëãåáðó áîðåëåâñêèõ ïîäìíîæåñòâ R.
Ìû ïðèñòóïàåì ê ðåàëèçàöèè ýòîé ïðîãðàììû è ââåäåì ñíà÷àëà
Îïðåäåëåíèå 4.2. Ôóíêöèÿ F (x) = P (X < x), îïðåäåëåííàÿ íà âñåé
÷èñëîâîé ïðÿìîé R, íàçûâàåòñÿ ôóíêöèåé ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû X.
Ï ð è ì å ð 4.1. Ïóñòü ñëó÷àéíàÿ âåëè÷èíà X ïðèíèìàåò ñ íåíóëåâîé âåðîÿòíîñòüþ âñåãî äâà çíà÷åíèÿ: x = −1 ñ âåðîÿòíîñòüþ 1/2 è x = +1 ñ òîé
æå âåðîÿòíîñòüþ 1/2 (èãðà â îðëÿíêó ñî ñòàâêîé 1 ðóáëü). Òîãäà ôóíêöèÿ
ðàñïðåäåëåíèÿ X èìååò ñëåäóþùèé âèä.
40
F (x)
6
1
-1
0.5
1
-
x
Äåéñòâèòåëüíî, äëÿ ëþáîãî x < −1 ìíîæåñòâî (−∞, x) íå ñîäåðæèò
çíà÷åíèé X, êîòîðûå îíà ìîãëà áû ïðèíÿòü ñ ïîëîæèòåëüíîé âåðîÿòíîñòüþ, òàê ÷òî F (x) = P (X < x) = 0. Äàëåå, F (−1) = P (X < −1) = 0,
íî åñëè −1 < x ≤ +1, òî F (x) = P (X = −1) = 1/2. Â îáëàñòè x > +1
ñîäåðæàòñÿ âñå çíà÷åíèÿ ñëó÷àéíîé âåëè÷èíû X, êîòîðûå îíà ïðèíèìàåò
ñ ïîëîæèòåëüíîé âåðîÿòíîñòüþ, ïîýòîìó F (x) = 1 ïðè x > +1.
Èññëåäóåì íåêîòîðûå îñîáåííîñòè ïîâåäåíèÿ ôóíêöèè F.
Ïðåäëîæåíèå 4.1. Ôóíêöèÿ F (x), x ∈ R îáëàäàåò ñëåäóþùèìè ñâîé-
ñòâàìè.
(F 1)
lim F (x) = 0, lim F (x) = 1.
x→−∞
x→+∞
(F 2) F (x) íåóáûâàþùàÿ ôóíêöèÿ x ∈ R.
(F 3) Ôóíêöèÿ F (x) íåïðåðûâíà ñëåâà: lim F (x) = F (a).
x→a−
(F 4) Âåðîÿòíîñòè ïîïàäàíèÿ çíà÷åíèé ñëó÷àéíîé âåëè÷èíû X â èíòåðâàëû íà R âû÷èñëÿþòñÿ ïî ôîðìóëàì
P {X ∈ [ a, b)} = F (b) − F (a),
P {X ∈ [ a, b ]} = F (b+) − F (a),
P {X ∈ (a, b ]} = F (b+) − F (a+),
P {X ∈ (a, b)} = F (b) − F (a+).
(F 5) Ôóíêöèÿ F (x) èìååò íå áîëåå ÷åì ñ÷åòíîå ìíîæåñòâî ñêà÷êîâ.
Ä î ê à ç à ò å ë ü ñ ò â î. (F 1). Ðàññìîòðèì ñîáûòèÿ {An = (−∞, xn ), n ≥
1}. Åñëè xn & −∞ ïðè n → ∞, òî, î÷åâèäíî, An ↓ ∅, è, àíàëîãè÷íî,
41
An ↑ R(= Ω), åñëè xn % +∞. Òàê êàê F (xn ) = P (X < xn ) = P (An ), òî
ñâîéñòâà (F 1) âûòåêàþò èç àêñèîìû íåïðåðûâíîñòè (P 3) âåðîÿòíîñòè P.
(F 2). Åñëè x1 ≤ x2 , òî F (x1 ) ≤ F (x2 ), òàê êàê A1 = (−∞, x1 ) ⊂ A2 =
(−∞, x2 ) è, â ñèëó ñâîéñòâà ìîíîòîííîñòè âåðîÿòíîñòè (ñì. (3) â ïðåäëîæåíèè 2.2), F (x1 ) = P (A1 ) ≤ P (A2 ) = F (x2 ).
(F 3). Ïóñòü ïîñëåäîâàòåëüíîñòü xn ↑ x ïðè n → ∞, òàê ÷òî ñîîòâåòñòâóþùàÿ ïîñëåäîâàòåëüíîñòü ñîáûòèé An = (−∞, xn ) ↑ A = (−∞, x).
Èñïîëüçóÿ ñâîéñòâî (P 3) íåïðåðûâíîñòè P, ïîëó÷àåì F (xn ) = P (An ) →
P (A) = F (x), ÷òî, ïî îïðåäåëåíèþ, îçíà÷àåò íåïðåðûâíîñòü ñëåâà ôóíêöèè F (x).
(F 4). Åñëè A ⊂ B, òî P (B \ A) = P (B) − P (A) (ñì. (3) â ïðåäëîæåíèè 2.2). Èç ýòîãî ñâîéñòâà âåðîÿòíîñòè è òîëüêî ÷òî äîêàçàííîãî ñâîéñòâà íåïðåðûâíîñòè âûòåêàåò, ÷òî, íàïðèìåð, çàìêíóòûé èíòåðâàë [ a, b ] =
(−∞, b ] \ (−∞, a), è ïîñêîëüêó ìíîæåñòâî (−∞, a) ⊂ (−∞, b ], òî P {X ∈
[ a, b ]} = P {X ∈ (−∞, b ]} − P {X ∈ (−∞, a)} = P (X ≤ b) − P (X < a) =
F (b+) − F (a). Â ïîñëåäíåì ðàâåíñòâå ìû èñïîëüçîâàëè çàïèñü F (b+) äëÿ
âûðàæåíèÿ âåðîÿòíîñòè ñîáûòèÿ {X ≤ b}. Äåëî â òîì, ÷òî P (X < b) =
F (b), è åñëè â òî÷êå b ôóíêöèÿ F (x) èìååò ñêà÷îê, òî åãî âåëè÷èíà ðàâíà
F (b+) − F (b).
(F 5).  ýòîì ïóíêòå ïðåäëîæåíèÿ óòâåðæäàåòñÿ, ÷òî âñå ñêà÷êè (òî÷êè
ðàçðûâà) ôóíêöèè F (x) ìîæíî çàíóìåðîâàòü. Ïîñòóïèì ñëåäóþùèì îáðàçîì: ðàññìîòðèì ïîñëåäîâàòåëüíîñòü ìíîæåñòâ {An ,
n ≥ 1}, ãäå An åñòü ìíîæåñòâî òî÷åê ðàçðûâà ôóíêöèè F (x) ñ âåëè÷èíîé
ñêà÷êà, íå ìåíüøåé 1/n. Ïîñêîëüêó 0 ≤ F (x) ≤ 1, òî ìíîæåñòâî An êîíå÷íî
è ñîäåðæèò íå áîëåå ÷åì n òî÷åê. Ñëåäîâàòåëüíî, ìû ìîæåì çàíóìåðîâàòü
âñå ñêà÷êè ôóíêöèè F (x) â ïîðÿäêå óáûâàíèÿ èõ âåëè÷èíû, îñóùåñòâëÿÿ
ïîñëåäîâàòåëüíóþ íóìåðàöèþ òî÷åê ìíîæåñòâà A1 , ïîòîì A2 è òàê äàëåå,
âîçìîæíî, äî áåñêîíå÷íîñòè, åñëè ÷èñëî ñêà÷êîâ F (x) íå êîíå÷íî. Ïðè òàêîì ñïîñîáå íóìåðàöèè ëþáîìó, ñêîëü óãîäíî ìàëîìó ïî âåëè÷èíå ñêà÷êó
ôóíêöèè F (x) ðàíî èëè ïîçäíî áóäåò ïðèñâîåí íîìåð.
Èòàê, ìû óáåäèëèñü, ÷òî ôóíêöèÿ ðàñïðåäåëåíèÿ ÿâëÿåòñÿ õîðîøèì è
äîñòàòî÷íî ïðîñòûì èíñòðóìåíòîì äëÿ âû÷èñëåíèÿ âåðîÿòíîñòåé ïîïàäàíèÿ çíà÷åíèé ñëó÷àéíîé âåëè÷èíû â èíòåðâàëû íà äåéñòâèòåëüíîé ïðÿìîé.
Îäíàêî, åñëè ìû îïðåäåëèì òîëüêî âåðîÿòíîñòè ýëåìåíòîâ áîðåëåâñêîãî ïîëÿ B, èìåþùèõ âèä èíòåðâàëîâ, òî ñìîæåì ëè íà îñíîâàíèè èõ âû÷èñëÿòü
âåðîÿòíîñòè äðóãèõ ñîáûòèé èç B? Îòâåò íà ýòîò âîïðîñ äàåò
42
Òåîðåìà 4.1. Ïóñòü ôóíêöèÿ F (x), x ∈ R, îáëàäàåò ñâîéñòâàìè
(F 1)
lim F (x) = 0, lim F (x) = 1;
x→−∞
x→+∞
(F 2) F (x) íåóáûâàþùàÿ ôóíêöèÿ x ∈ R;
(F 3) F (x) íåïðåðûâíà ñëåâà: lim F (x) = F (a).
x→a−
Òîãäà íà áîðåëåâñêîé ïðÿìîé (R, B) ñóùåñòâóåò åäèíñòâåííàÿ âåðîÿòíîñòü P, äëÿ êîòîðîé P {(−∞, x)} = F (x) äëÿ âñåõ x ∈ R.
Ä î ê à ç à ò å ë ü ñ ò â î. Ôóíêöèÿ F (x) îïðåäåëÿåò ôóíêöèþ ìíîæåñòâ P 0
íà ñåìåéñòâå C îòêðûòûõ èíòåðâàëîâ âèäà C = Cx = (−∞, x) ïîñðåäñòâîì
ðàâåíñòâà P 0 (Cx ) = F (x), ïðè÷åì, â ñèëó ñâîéñòâà (F 1), P 0 (Ω) = P 0 (R) =
1. Ðàñïðîñòðàíèì ýòó ôóíêöèþ ìíîæåñòâ íà áóëåâó àëãåáðó A = A(C), ïîðîæäåííóþ ñåìåéñòâîì C. Ýëåìåíòû A áóëåâîé àëãåáðû A î÷åâèäíî èìåþò
âèä A =
Xk
[ ai , bi ), è ïîýòîìó åñòåñòâåííî ïîëîæèòü (ñì. (F 4) â ïðåäëîXk
æåíèè 4.1) P (A) =
[ F (bi ) − F (ai ) ] .
1
Î÷åâèäíî, ôóíêöèÿ ìíîæåñòâ P 0 (A) íà áóëåâîé àëãåáðå A îáëàäàåò òàêèìè ñâîéñòâàìè âåðîÿòíîñòè, êàê íîðìèðóåìîñòü (P 1) è êîíå÷íàÿ àääèòèâíîñòü (P 2). Åñëè ìû ïîêàæåì, ÷òî P 0 îáëàäàåò ñâîéñòâîì σ -àääèòèâíîñòè
P (2 0 ), òî óòâåðæäåíèå òåîðåìû áóäåò ïðîñòûì ñëåäñòâèåì îáùåé òåîðåìû
î ïðîäîëæåíèè ìåðû íà ïîðîæäåííóþ áóëåâîé àëãåáðîé σ -àëãåáðó, èáî, êàê
èçâåñòíî, áîðåëåâñêîå ïîëå ïîðîæäàåòñÿ àëãåáðîé A ( áîëåå òîãî, ñåìåéñòâîì C).
Ðàññìîòðèì ïðîèçâîëüíóþ ïîñëåäîâàòåëüíîñòü íå ïåðåñåêàþùèõñÿ ìíîæåñòâ
kn
X
An =
[ ani ; bni ), n = 1, 2, . . . ,
1
i=1
X∞
äëÿ êîòîðîé ìíîæåñòâî A =
An ïðèíàäëåæèò àëãåáðå A. Ïî îïðå1
äåëåíèþ àëãåáðû A ýòî îçíà÷àåò, ÷òî ìíîæåñòâî A ìîæíî ïðåäñòàâèòü â
âèäå êîíå÷íîãî
Xmîáúåäèíåíèÿ èíòåðâàëîâ, íå èìåþùèõ òî÷åê ñîïðèêîñíîâåíèÿ: A =
[ cj ; dj ). Ïîñëå ñîîòâåòñòâóþùåé ïåðåñòàíîâêè èíòåðâàëîâ
1
âíóòðè îáúåäèíåíèÿ ìíîæåñòâ An , ìîæíî äîáèòüñÿ
X∞ äëÿ êàæäîãî èç èíòåðâàëîâ [ cj ; dj ) ïðåäñòàâëåíèÿ âèäà [ cj ; dj ) =
[ ajk ; bjk ), j = 1, . . . , m.
1
Òàêèì îáðàçîì, äîñòàòî÷íî äîêàçàòü, ÷òî äëÿ ëþáûõ c < d
F (d) − F (c) =
∞
X
j=1
43
[ F (bj ) − F (aj ) ],
(1)
åñëè èíòåðâàë [ c; d) =
X∞
[ aj ; bj ).
Xn
Î÷åâèäíî, F (d) − F (c) ≥
[ F (bj ) − F (aj ) ], èáî äîïîëíåíèå ìíîæå1
Xn
ñòâà
[ aj ; bj ) äî èíòåðâàëà [ c, d) ìîæíî ïðåäñòàâèòü â âèäå êîíå÷íîãî
1
îáúåäèíåíèÿ íå ïåðåñåêàþùèõñÿ ïîëóîòêðûòûõ
X∞ èíòåðâàëîâ. Óñòðåìëÿÿ n
ê áåñêîíå÷íîñòè, ïîëó÷àåì F (d) − F (c) ≥
[ F (bj ) − F (aj ) ].
1
Ïîêàæåì òåïåðü, ÷òî èìååò ìåñòî ïðîòèâîïîëîæíîå íåðàâåíñòâî, è, ñëåäîâàòåëüíî, ñïðàâåäëèâî ðàâåíñòâî (1).
Ïðåäïîëîæèì ñíà÷àëà, ÷òî −∞ < c < d < ∞. Âûáåðåì ïðîèçâîëüíîå
ε > 0. Èñõîäíûé èíòåðâàë [ c; d) ñóçèì äî çàìêíóòîãî èíòåðâàëà [ c; d0 ] òàê,
÷òîáû d0 < d è F (d0 ) ≥ F (d)−ε. Ýòîãî âñåãäà ìîæíî äîáèòüñÿ â ñèëó íåïðåðûâíîñòè ñëåâà ôóíêöèè F. Àíàëîãè÷íî, êàæäûé èç èíòåðâàëîâ [ an ; bn )
ðàñøèðèì äî îòêðûòîãî èíòåðâàëà (a0n ; bn ) òàê, ÷òîáû a0n < an F (a0n ) ≥
S
F (an ) − ε/2n .  ðåçóëüòàòå ïîëó÷èì ïîêðûòèå [ c; d0 ] ⊂ ∞
n=1 (an ; bn ) îãðàíè÷åííîãî çàìêíóòîãî ìíîæåñòâà ñåìåéñòâîì îòêðûòûõ èíòåðâàëîâ.
èçâåñòíîé ëåììû Ãåéíå-Áîðåëÿ íàéäåòñÿ êîíå÷íîå ïîêðûòèå [ c; d0 ] ⊂
SNÂ ñèëó
i=1 (ani ; bni ), â êîòîðîì an1 < c, bnN > d è bni−1 > ani äëÿ âñåõ i = 2, . . . , N.
Òî÷êè bn1 , . . . , bnN −1 îáðàçóþò ðàçáèåíèå èíòåðâàëà [ a0n1 , bnN ), êîòîðûé ñîäåðæèò èíòåðâàë [ c, d0 ), è ïîýòîìó
1
F (d0 ) − F (c) ≤ F (bnN ) − F (a0n1 ) = F (bn1 ) − F (a0n1 )+
N
N
∞
X
X
X
[ F (bni ) − F (bni−1 ) ] ≤
[ F (bni ) − F (ani ) ] ≤
[ F (bn ) − F (a0n ) ].
i=2
n=1
i=1
Èç ïîñòðîåíèÿ èíòåðâàëîâ ñëåäóåò, ÷òî F (d) − F (c) ≤ F (d0 ) − F (c) + ε è
F (bn ) − F (a0n ) ≤ F (bn ) − F (an ) + ε/2n , îòêóäà
F (d) − F (c) ≤
∞
X
[F (bn ) − F (an )] + 2ε.
(2)
n=1
Óñòðåìëÿÿ ε → 0, ïîëó÷àåì îêîí÷àòåëüíîå äîêàçàòåëüñòâî ðàâåíñòâà (1)
äëÿ êîíå÷íûõ èíòåðâàëîâ.
Äëÿ áåñêîíå÷íûõ èíòåðâàëîâ âèäà [ c; ∞) äîñòàòî÷íî, âîñïîëüçîâàâøèñü
ñâîéñòâàìè ôóíêöèè F , ðàññìîòðåòü êîíå÷íûé èíòåðâàë [ c; d), óäîâëåòâîðÿþùåé óñëîâèþ 1 − F (d) ≤ ε. Îòêðûòîå ïîêðûòèå èñõîäíîãî èíòåðâàëà
[ c; ∞) èíäóöèðóåò åñòåñòâåííûì îáðàçîì îòêðûòîå ïîêðûòèå èíòåðâàëà
[ c; d ], ê êîòîðîìó ïðèìåíèìû âñå ïðåäûäóùèå ðàññóæäåíèÿ, ïðèâîäÿùèå
44
ê íåðàâåíñòâó (2). Î÷åâèäíî, ðàçíîñòü 1−F (c) íå ïðåâîñõîäèò ïðàâîé ÷àñòè
(2) ñ çàìåíîé 2ε íà 3ε, ÷òî çàâåðøàåò äîêàçàòåëüñòâî òåîðåìû.
Äîêàçàííàÿ òåîðåìà ïîçâîëÿåò íàì âû÷èñëÿòü âåðîÿòíîñòè ñîáûòèé ñ
ïîìîùüþ èíòåãðàëà Ñòèëòüåñà:
Z
P (A) =
dF (x),
A
45
A ∈ A.
5. Ïîñòðîåíèå âåðîÿòíîñòíûõ ìîäåëåé ñ ïîìîùüþ
ôóíêöèé ðàñïðåäåëåíèÿ
Ëåêöèÿ 7
 ýòîì ïàðàãðàôå ìû áóäåì ðåøàòü íåñêîëüêî ïðàêòè÷åñêèõ çàäà÷ íà
ïîñòðîåíèå âåðîÿòíîñòíûõ ìîäåëåé, öåëü êîòîðîãî ñîñòîèò â ñïåöèôèêàöèè
íàèáîëåå óçêîãî ñåìåéñòâà âîçìîæíûõ ðàñïðåäåëåíèé íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X. Ýòè ìîäåëè íîñÿò óíèâåðñàëüíûé õàðàêòåð è ïðèìåíÿþòñÿ â ðàçëè÷íûõ îáëàñòÿõ íàóêè è ïðàêòè÷åñêîé äåÿòåëüíîñòè, ïîýòîìó öåëåñîîáðàçíî ïîñëå ðåøåíèÿ êàæäîé çàäà÷è ðàññìîòðåòü âîçìîæíûå
àíàëîãè ýòèõ çàäà÷, ïðèâîäÿùèå ê òåì æå âåðîÿòíîñòíûì ìîäåëÿì. Êàæäîé ìîäåëè ìû ïðèñâîèì ñâîå èìÿ è àááðåâèàòóðó, ñîäåðæàùóþ ïàðàìåòðû ìîäåëè; çíà÷åíèÿ ïàðàìåòðîâ, êàê ïðàâèëî, íåèçâåñòíû, è îïðåäåëåíèå
ýòèõ çíà÷åíèé ñîñòàâëÿåò ïðåäìåò äðóãîé, ðîäñòâåííîé òåîðèè âåðîÿòíîñòåé, íàóêè ìàòåìàòè÷åñêîé ñòàòèñòèêè.
Ñîáñòâåííî ãîâîðÿ, ìû óæå äàâíî çàíèìàåìñÿ ïîñòðîåíèåì âåðîÿòíîñòíûõ ìîäåëåé ñ ïîìîùüþ ôóíêöèé ðàñïðåäåëåíèé ñëó÷àéíûõ âåëè÷èí, ïðèíèìàþùèõ äèñêðåòíûé ðÿä çíà÷åíèé, ðå÷ü èäåò î ãèïåðãåîìåòðè÷åñêîì
è áèíîìèàëüíîì ðàñïðåäåëåíèÿõ (ñì. 2 è 3). Âåðîÿòíîñòü, ñ êîòîðîé ñëó÷àéíàÿ âåëè÷èíà ïðèíèìàëà êîíêðåòíîå öåëî÷èñëåííîå çíà÷åíèå m, ðàâíà
âåëè÷èíå ñêà÷êà ôóíêöèè ðàñïðåäåëåíèÿ â òî÷êå x = m. Ñ ýòèõ äâóõ ðàñïðåäåëåíèé ìû íà÷íåì ñîñòàâëåíèå íàøåãî êàòàëîãà âåðîÿòíîñòíûõ ìîäåëåé.
Ãèïåðãåîìåòðè÷åñêîå ðàñïðåäåëåíèå GG(N, M, n). Èññëåäóåòñÿ êî-
íå÷íàÿ ïîïóëÿöèÿ, ñîñòîÿùàÿ èç N åäèíèö, ÷àñòü èç êîòîðûõ (Ì åäèíèö)
ïîìå÷åíû. Èç ïîïóëÿöèè èçâëåêàåòñÿ ñëó÷àéíàÿ âûáîðêà îáúåìà n, è ñ
ýòîé âûáîðêîé ñîîòíîñèòñÿ ñëó÷àéíàÿ âåëè÷èíà X, íàáëþäàåìîå çíà÷åíèå
x êîòîðîé óêàçûâàåò ÷èñëî ïîìå÷åííûõ åäèíèö â âûáîðêå. Îáëàñòü çíà÷åíèé X, êîòîðûå îíà ïðèíèìàåò ñ íåíóëåâîé âåðîÿòíîñòüþ, ñîñòàâëÿþò
öåëî÷èñëåííûå òî÷êè îòðåçêà X = [max(0, n − (N − M )); min(n, M )] .
Ôóíêöèÿ ðàñïðåäåëåíèÿ F (x) ðàâíà íóëþ â îáëàñòè, ëåæàùåé ñëåâà îò
X, è êàê òîëüêî x âûõîäèò íà ïðàâûé êîíåö îòðåçêà X, ôóíêöèÿ F (x) ïðèíèìàåò çíà÷åíèå 1, êîòîðîå ñîõðàíÿåò ïðè âñåõ x, ëåæàùèõ ñïðàâà îò X. Âíóòðè îòðåçêà X ôóíêöèÿ ðàñïðåäåëåíèÿ èìååò ñòóïåí÷àòûé âèä, âîçðàñòàÿ
ñêà÷êàìè â öåëî÷èñëåííûõ òî÷êàõ x = m, è âåëè÷èíà ñêà÷êà îïðåäåëÿåòñÿ
46
ôîðìóëîé (2) 1:
m n−m
CM
CN −M
,
P (X = m) = F (m+) − F (m) =
CNn
m ∈ X.
Ïåðåìåííûå N, M è n ÿâëÿþòñÿ ïàðàìåòðàìè ìîäåëè; â ïðàêòè÷åñêèõ
ïðèëîæåíèÿõ ìîäåëè GG(N, M, n) çíà÷åíèå ïî êðàéíåé ìåðå îäíîãî èç ïàðàìåòðîâ N èëè M íåèçâåñòíî. Îáëàñòü âîçìîæíûõ çíà÷åíèé ïàðàìåòðîâ
ñîñòàâëÿåò òàê íàçûâàåìîå ïàðàìåòðè÷åñêîå ïðîñòðàíñòâî è îáîçíà÷àåòñÿ
îáû÷íî Θ.  äàííîì ñëó÷àå Θ ñîñòîèò èç öåëî÷èñëåííûõ çíà÷åíèé ïàðàìåòðîâ N, M è n, ïðè÷åì N ≥ 2, 1 ≤ M ≤ N, 1 ≤ n ≤ N.
Èòàê, äèñêðåòíàÿ âåðîÿòíîñòíàÿ ìîäåëü ãèïåðãåîìåòðè÷åñêîãî ðàñïðåäåëåíèÿ ïîëíîñòüþ îïðåäåëÿåòñÿ ôóíêöèåé ñêà÷êîâ f (x | θ),
x ∈ R, θ = (N, M, n) ∈ Θ, êîòîðàÿ ïðèíèìàåò íåíóëåâûå çíà÷åíèÿ P (X =
x) òîëüêî â öåëî÷èñëåííûõ òî÷êàõ x îòðåçêà X. Ôóíêöèÿ f (· | θ) îáû÷íî
íàçûâàåòñÿ ôóíêöèåé ïëîòíîñòè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû X.
Âåðîÿòíîñòü ñîáûòèÿ âèäà X ∈ B (∈ B) âû÷èñëÿåòñÿ ñ ïîìîùüþ f ïî ôîðìóëå
X
P (X ∈ B) =
f (x | θ),
x∈B
â ÷àñòíîñòè, ôóíêöèÿ ðàñïðåäåëåíèÿ
F (x) =
X
f (t | θ).
t 0) íàçûâàåòñÿ ïàðàìåòðîì èíòåíñèâíîñòè ïîòîêà Ïóàññîíà â òåðìèíàõ çàäà÷è ñ ðàäèîàêòèâíûì ðàñïàäîì λ ðàâíî ñðåäíåìó ÷èñëó àòîìîâ, ðàñïàâøèõñÿ çà åäèíèöó âðåìåíè. Ôóíêöèÿ ðàñïðåäåëåíèÿ Ïóàññîíà ðàâíà íóëþ íà îòðèöàòåëüíîé ïîëóîñè, à íà ïîëîæèòåëüíîé âîçðàñòàåò ñêà÷êàìè â öåëî÷èñëåííûõ òî÷êàõ
x = 0, 1, . . . , âåëè÷èíà êîòîðûõ ðàâíà ïðàâîé ÷àñòè (1).
Òðóäíî ïåðåîöåíèòü çíà÷èìîñòü çàêîíà Ïóàññîíà â ðàçëè÷íûõ ïðîáëåìàõ åñòåñòâîçíàíèÿ. Ýòî ðàñïðåäåëåíèå èñïîëüçóåòñÿ ïðè èññëåäîâàíèè ÷èñëà íåñ÷àñòíûõ ñëó÷àåâ íà ïðåäïðèÿòèÿõ, ÷èñëà âûçîâîâ íà òåëåôîííîé
49
ñòàíöèè; ýòîìó çàêîíó ïîä÷èíÿþòñÿ ìåòåîðíûå ÿâëåíèÿ, ïîòîêè òðàíñïîðòà, ðàçìåðû î÷åðåäåé ñèñòåì îáñëóæèâàíèÿ è ïð.
Ðàâíîìåðíîå ðàñïðåäåëåíèå U(a, b). Íà îòðåçîê [ 0; 1 ] íàóãàä áðî-
ñàåòñÿ òî÷êà, òàê ÷òî âåðîÿòíîñòü åå ïîïàäàíèÿ â ëþáîé èíòåðâàë (α; β) ∈
[ 0; 1 ] çàâèñèò òîëüêî îò äëèíû β − α èíòåðâàëà è íå çàâèñèò îò åãî ïîëîæåíèÿ âíóòðè îòðåçêà [ 0; 1 ]. Ýêñïåðèìåíòàòîðà èíòåðåñóåò ðàñïðåäåëåíèå
ñëó÷àéíîé âåëè÷èíû X, ðåàëèçóþùåé êîîðäèíàòó x òî÷êè ïîñëå áðîñàíèÿ.
Êëþ÷ ê âûâîäó ôóíêöèè ðàñïðåäåëåíèÿ X óêàçûâàåò ñëåäóþùàÿ ýêâèâàëåíòíàÿ ôîðìóëèðîâêà óñëîâèé ýêñïåðèìåíòà: èíòåðâàëû îäèíàêîâîé
äëèíû îáëàäàþò îäèíàêîâîé âåðîÿòíîñòüþ ïîïàäàíèÿ â íèõ áðîñàåìîé òî÷êè. Åñëè ðàçäåëèòü îòðåçîê [ 0; 1 ] íà n îäèíàêîâûõ ÷àñòåé, òî äëÿ ôóíêöèè
ðàñïðåäåëåíèÿ X èìååò ìåñòî äâóñòîðîííÿÿ îöåíêà:
[ nx ]
[ nx ] + 1
≤ F (x) ≤
,
n
n
ãäå [ t ] öåëàÿ ÷àñòü t. Äåéñòâèòåëüíî, âñåì îòðåçêàì, ïîëó÷åííûì â ðåçóëüòàòå äåëåíèÿ [ 0; 1 ], ñîîòâåòñòâóåò îäèíàêîâàÿ âåðîÿòíîñòü, ðàâíàÿ 1/n
ïîïàäàíèÿ â íèõ òî÷êè, òàê ÷òî âåðîÿòíîñòü P (X < x) = F (x) ìîæíî îöåíèòü êîëè÷åñòâîì îòðåçêîâ äëèíû 1/n, ïîêðûâàþùèõ [ 0; x ]. Óñòðåìëÿÿ
òåïåðü n ê áåñêîíå÷íîñòè, ïîëó÷àåì, ÷òî F (x) = x, åñëè x ∈ [ 0; 1 ]. Ïîñêîëüêó âåðîÿòíîñòü ïîïàäàíèÿ òî÷êè âî âíåøíîñòü îòðåçêà [ 0; 1 ] ðàâíà
íóëþ, òî F (x) = 0 ïðè x < 0 è F (x) = 1 ïðè x > 1.
Èòàê, ìû ïîñòðîèëè âåðîÿòíîñòíóþ ìîäåëü ðàâíîìåðíîãî ðàñïðåäåëåíèÿ U(0, 1) íà îòðåçêå [ 0, 1 ]. Ëåãêî ïîíÿòü, ÷òî åñëè àíàëîãè÷íûé ýêñïåðèìåíò ïðîâîäèòñÿ ñ îòðåçêîì [ 0, b ], òî ôóíêöèÿ ðàñïðåäåëåíèÿ íà ýòîì
îòðåçêå áóäåò èìåòü âèä F (x) = x/b, òàê êàê ñâîéñòâî ëèíåéíîñòè äîëæíî ñîõðàíÿòüñÿ â ñèëó ïðèíöèïà ñëó÷àéíîñòè áðîñàíèÿ òî÷êè íà îòðåçîê [ 0, b ], è, â òî æå âðåìÿ, F (b+) = 1. Íàêîíåö, åñëè òî÷êà áðîñàåòñÿ íà îòðåçîê îáùåãî âèäà [ a, b ], òî F (a) = 0, F (b+) = 1, è ïîýòîìó
F (x) = (x − a)/(b − a). Òàêèì îáðàçîì, ìû ïðèøëè ê ðàâíîìåðíîìó ðàñïðåäåëåíèþ U(a, b) íà îòðåçêå [ a, b ]. Ýòî ðàñïðåäåëåíèå çàâèñèò îò äâóìåðíîãî ïàðàìåòðà θ = (a, b) ñ îáëàñòüþ çíà÷åíèé (ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì) Θ = {(a, b) ∈ R2 : a < b}.
Ðàâíîìåðíîå ðàñïðåäåëåíèå èìååò èíòåðåñíóþ ñâÿçü ñ ïîñëåäîâàòåëüíîñòüþ èñïûòàíèé Áåðíóëëè. Åñëè ïðåäñòàâèòü ðåàëèçàöèþ x ñëó÷àéíîé
âåëè÷èíû X ñ ðàñïðåäåëåíèåì U (0, 1) â âèäå äâîè÷íîé äðîáè, òî åå äðîáíàÿ ÷àñòü ðåàëèçóåò ïîñëåäîâàòåëüíîñòü èíäèêàòîðîâ óñïåõà â áåñêîíå÷íîé
50
ïîñëåäîâàòåëüíîñòè èñïûòàíèé Áåðíóëëè ñ p = 1/2. Ëåãêî ïðîâåðèòü, ÷òî
ñïðàâåäëèâî è îáðàòíîå óòâåðæäåíèå, ÷òî äàåò îäèí èç ïðîñòåéøèõ ñïîñîáîâ ãåíåðèðîâàíèÿ ñëó÷àéíûõ âåëè÷èí ñ ðàâíîìåðíûì çàêîíîì ðàñïðåäåëåíèÿ.
Ëåêöèÿ 8
Ïîêàçàòåëüíîå ðàñïðåäåëåíèå E(θ). Âû, íàâåðíîå, îáðàòèëè âíè-
ìàíèå, ÷òî áîëüøèíñòâî, ïî êðàéíåé ìåðå, ñåðüåçíûõ èçäåëèé, êîòîðûå
âûïóñêàþò ïðåäïðèÿòèÿ, ñíàáæàåòñÿ ãàðàíòèéíûì ñðîêîì ñëóæáû t0 , è åñëè èçäåëèå îòêàçûâàåò äî ìîìåíòà t0 , òî ïðåäïðèÿòèå íåñåò îïðåäåëåííûå
óáûòêè, ñâÿçàííûå ñ ðåìîíòîì èëè çàìåíîé èçäåëèÿ. Åñòåñòâåííî, äîëãîâå÷íîñòü x (èëè, êàê ãîâîðÿò àíãëè÷àíå, ñðîê æèçíè lifetime) ÿâëÿåòñÿ ðåàëèçàöèåé ñëó÷àéíîé âåëè÷èíû X, è òîëüêî çíàíèå åå ôóíêöèè ðàñïðåäåëåíèÿ F (x) ïîçâîëèò ïðåäïðèÿòèþ óñòàíîâèòü òîò ãàðàíòèéíûé ñðîê
ñëóæáû, êîòîðûé îòâå÷àåò åãî ôèíàíñîâûì âîçìîæíîñòÿì ïî îáåñïå÷åíèþ
ðåìîíòà èëè çàìåíû. Äëÿ ðàñ÷åòà t0 íåîáõîäèìî îïðåäåëèòüñÿ ñ òðåáóåìîé
íàäåæíîñòüþ èçäåëèÿ P0 ñðåäíåé äîëåé èçäåëèé, êîòîðûå îáÿçàíû îòðàáîòàòü ãàðàíòèéíîå âðåìÿ. Çíàÿ íàäåæíîñòü P0 , ìû íàõîäèì ãàðàíòèéíûé
ñðîê t0 èç óðàâíåíèÿ P (X ≥ t0 ) = 1 − F (t0 ) = P0 . Â ñâÿçè ñ ýòèì ôóíêöèÿ
H(t) = 1 − F (t), t ≥ 0, íàçûâàåòñÿ ôóíêöèåé íàäåæíîñòè.
Îáû÷íî ïîñòðîåíèå ìîäåëè íàäåæíîñòè èçäåëèÿ îïèðàåòñÿ íà íåêîòîðûå
ïîñòóëàòû, ñâÿçàííûå ñ ôóíêöèîíèðîâàíèåì èçäåëèÿ, åãî ñòàðåíèåì, èçíîñîì, ïîäâåðæåííîñòüþ óäàðíûì íàãðóçêàì è ò.ï. Ìû ðàññìîòðèì ñåé÷àñ
îäèí èç òàêèõ ïîñòóëàòîâ ïðèìåíèòåëüíî ê èçäåëèÿì, êîòîðûå îòêàçûâàþò íå â ñèëó ïðîöåññîâ ñòàðåíèÿ, à òîëüêî ïî ïðè÷èíå ðåçêî âîçðîñøèõ
(òàê íàçûâàåìûõ óäàðíûõ ) íàãðóçîê íà ðåæèì åãî ðàáîòû. Åñòåñòâåííî,
â òàêîé ñèòóàöèè âåðîÿòíîñòü òîãî, ÷òî èçäåëèå ïðîñëóæèò åùå íåêîòîðîå
âðåìÿ t ïðè óñëîâèè, ÷òî îíî óæå îòñëóæèëî ñðîê s, íå äîëæíà çàâèñåòü
îò s, òî åñòü
P {X ≥ t + s | X ≥ s} =
P ({X ≥ t + s} ∩ {X ≥ s})
=
P (X ≥ s)
P (X ≥ t + s)
= P (X ≥ t).
P (X ≥ s)
Òàêèì îáðàçîì, ôóíêöèÿ íàäåæíîñòè H(t) èçäåëèÿ äîëæíà óäîâëåòâîðÿòü
ôóíêöèîíàëüíîìó óðàâíåíèþ
H(t + s) = H(t)H(s),
51
t ≥ 0, s ≥ 0.
(2)
Ïðåäëîæåíèå 5.2. Åñëè ôóíêöèÿ H(t), t ≥ 0 óäîâëåòâîðÿåò êðàåâûì
óñëîâèÿì limt→0 H(t) = 1, limt→∞ H(t) = 0 è íåïðåðûâíà ñëåâà, òî âñå
ðåøåíèÿ óðàâíåíèÿ (2) èìåþò âèä
H(t) = e−λt ,
ãäå λ > 0 ïðîèçâîëüíûé ïàðàìåòð.
Ä î ê à ç à ò å ë ü ñ ò â î. Èç óðàâíåíèÿ (2) ëåãêî âûâåñòè, ÷òî äëÿ ëþáîãî
c > 0 è ëþáîãî öåëîãî n ≥ 1 èìååò ìåñòî ñîîòíîøåíèå
H(nc) = H n (c).
(3)
Äåéñòâèòåëüíî, â ñèëó (2), èñïîëüçóÿ èíäóêöèþ, ïîëó÷àåì H(nc) = H((n−
1)c) + c) = H((n − 1)c)H(c) = H((n − 2)c)H 2 (c) = . . . = H n (c).
Äàëåå, äëÿ ëþáûõ c > 0 è öåëîãî m ≥ 1 ñïðàâåäëèâî ðàâåíñòâî
³c´
H
= H 1/m (c),
m
(4)
êîòîðîå íåìåäëåííî ñëåäóåò èç (3): H(c) = H(mc/m) = H m (c/m).
Ñîîòíîøåíèÿ (3) è (4) ïîçâîëÿþò óñòàíîâèòü ñòðîãîå íåðàâåíñòâî 0 <
H(1) < 1. Äåéñòâèòåëüíî, åñëè äîïóñòèòü ïðîòèâíîå: H(1) = 0, òî â ñèëó
(4) äëÿ ëþáîãî öåëîãî m ≥ 1 ïîëó÷àåì H(1/m) = H 1/m (1) = 0. Óñòðåìëÿÿ m ê áåñêîíå÷íîñòè è èñïîëüçóÿ ñâîéñòâî íåïðåðûâíîñòè H â íóëå,
ïîëó÷àåì ïðîòèâîðå÷èå 1 = H(0) = limm→∞ H(1/m) = 0. Àíàëîãè÷íî,
åñëè ïðåäïîëîæèòü, ÷òî H(1) = 1, òî, â ñèëó (3), äëÿ ëþáîãî öåëîãî n
H(n) = H n (1) = 1 è, â òî æå âðåìÿ, limn→∞ H(n) = 0.
Íåðàâåíñòâî 0 < H(1) < 1 îçíà÷àåò, ÷òî ñóùåñòâóåò òàêîå λ > 0, ÷òî
H(1) = e−λ . Íî òîãäà, â ñèëó (3) è (4), äëÿ ëþáûõ öåëûõ n è m èìååì
H(n) = e−nλ , H(n/m) = H 1/m (n) = exp{−nλ/m}. Ýòî îçíà÷àåò, ÷òî íàøå
ïðåäïîëîæåíèå äîêàçàíî äëÿ âñåõ ðàöèîíàëüíûõ t. Ëþáîå äðóãîå çíà÷åíèå
t íà ïîëîæèòåëüíîé ïîëóîñè ìîæíî ñêîëü óãîäíî òî÷íî îöåíèòü ñíèçó ðàöèîíàëüíûì ÷èñëîì è çàòåì âîñïîëüçîâàòüñÿ íåïðåðûâíîñòüþ ñëåâà H(t)
ïðè ïåðåõîäå â îöåíêå t ê ïðåäåëó.
Èòàê, ìû íàøëè ôóíêöèþ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû X, ðåàëèçóþùóþ äîëãîâå÷íîñòü èçäåëèÿ, F (x) = 1 − H(x) = 1 − exp{−λx} â
îáëàñòè x > 0. Êàê áóäåò ïîêàçàíî â äàëüíåéøåì, ýòî ðàñïðåäåëåíèå òåñíî
52
ñâÿçàíî ñ ðàñïðåäåëåíèåì Ïóàññîíà è ïàðàìåòð λ, êàê è â ìîäåëè P(λ), õàðàêòåðèçóåò èíòåíñèâíîñòü ïîòîêà îòêàçîâ. Îäíàêî â òåîðèè âåðîÿòíîñòåé îáû÷íî ìîäåëü ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ ïàðàìåòðèçóåòñÿ èíûì
ñïîñîáîì, ÷åðåç ïàðàìåòð θ = 1/λ, êîòîðûé èìååò ñìûñë ñðåäíåé äîëãîâå÷íîñòè. Òàêèì îáðàçîì, ïîêàçàòåëüíîå ðàñïðåäåëåíèå E(θ), êîòîðîå áóäåò â
äàëüíåéøåì ðàññìàòðèâàòüñÿ, èìååò ôóíêöèþ ðàñïðåäåëåíèÿ F (x) = 0
ïðè x ≤ 0 è F (x) = 1 − exp{−x/θ}, åñëè x > 0.
Ìû çàâåðøèì ýòîò ïàðàãðàô ïîñòðîåíèåì åùå îäíîé äèñêðåòíîé ìîäåëè
òåîðèè íàäåæíîñòè, â êîòîðîé ïðîñëåæèâàþòñÿ ïåðâûå, ïîêà åùå î÷åíü
ñìóòíûå, ñâÿçè ïóàññîíîâñêîãî è ïîêàçàòåëüíîãî ðàñïðåäåëåíèé.
Ãåîìåòðè÷åñêîå ðàñïðåäåëåíèå Geo(p). Ïðè ïîñàäêå âîçäóøíîãî ëàé-
íåðà âîçìîæåí ñèëüíûé óäàð î ïîñàäî÷íóþ ïîëîñó, êîòîðûé ìîæåò ïðèâåñòè ê ðàçðóøåíèþ øàññè. Ïóñòü p âåðîÿòíîñòü ãðóáîé ïîñàäêè; íàñ èíòåðåñóåò âåðîÿòíîñòü òîãî, ÷òî øàññè íå áóäåò ðàçðóøåíî äî ìîìåíòà t (À 1)
(íàäåæíîñòü øàññè).
Ñ ïîäîáíîé çàäà÷åé ìû èìåëè äåëî â 1 (ïðèìåð 6), êîãäà îïðåäåëÿëè
âåðîÿòíîñòü ïåðâîãî ïîÿâëåíèÿ ãåðáà ïðè n-îì èñïûòàíèè ïðàâèëüíîé ìîíåòû (p = 1/2).  äàííîì, áîëåå îáùåì ñëó÷àå åñòåñòâåííî âîñïîëüçîâàòüñÿ
ïðåäïîëîæåíèåì î íåçàâèñèìîñòè ñèòóàöèé, âîçíèêàþùèõ ïðè êàæäîé ïîñàäêå ëàéíåðà. Ïóñòü X ñëó÷àéíàÿ âåëè÷èíà, ïðèíèìàþùàÿ çíà÷åíèÿ
x = 1, 2, . . . , êîòîðûå óêàçûâàþò ìîìåíò ðàçðóøåíèÿ øàññè, òî÷íåå, íîìåð
ïîñàäêè, êîòîðàÿ îêàçàëàñü ãðóáîé. Òîãäà ñîáûòèå X = x ñîñòîèò èç x − 1
áëàãîïîëó÷íûõ ïîñàäîê è ãðóáîé ïîñàäêè ñ íîìåðîì x, îòêóäà íàõîäèì
ôóíêöèþ ïëîòíîñòè ãåîìåòðè÷åñêîãî ðàñïðåäåëåíèÿ Geo(p):
f (x | p) = P (X = x) = (1 − p)x−1 p,
åñëè x ∈ N, è f (x | p) = 0 â îñòàëüíûõ òî÷êàõ âåùåñòâåííîé îñè R.
 äèñêðåòíîé ôóíêöèè íàäåæíîñòè
H(t) = P (X ≥ t) =
∞
X
(1 − p)x−1 p = (1 − p)t−1 , t ≥ 1
x=t
ïðàêòè÷åñêèé èíòåðåñ ïðåäñòàâëÿþò î÷åâèäíî ìàëûå çíà÷åíèÿ p è áîëüøèå çíà÷åíèÿ t. Íàéäåì àñèìïòîòèêó H(t), ïîëîæèâ p = λ/N, t = N x è
óñòðåìèâ N ê áåñêîíå÷íîñòè. Èìååì
µ
H(N x) =
λ
1−
N
53
¶N x−1
→ e−λx .
Èòàê, àñèìïòîòè÷åñêèé àíàëèç H(t), àíàëîãè÷íûé òåîðåìå Ïóàññîíà,
ïðèâåë íàñ ê ôóíêöèè íàäåæíîñòè ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ.
Äëÿ òîãî ÷òîáû ñòðîèòü íîâûå âåðîÿòíîñòíûå ìîäåëè, íàì íåîáõîäèìî
áëèæå ïîçíàêîìèòüñÿ ñ ÷èñëîâûìè è ôóíêöèîíàëüíûìè õàðàêòåðèñòèêàìè ðàñïðåäåëåíèé, êîòîðûå ïîñòîÿííî èñïîëüçóþòñÿ íà ïðàêòèêå, êîãäà
âîçíèêàåò ïðîáëåìà ñðàâíåíèÿ ðàñïðåäåëåíèé èëè õàðàêòåðèçàöèÿ èõ ñïåöèôè÷åñêèõ îñîáåííîñòåé. Ýòîìó âîïðîñó ïîñâÿùåí ñëåäóþùèé ïàðàãðàô.
54
6. Õàðàêòåðèñòèêè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû.
Êëàññèôèêàöèÿ ðàñïðåäåëåíèé
Ìû ïîñòðîèëè øåñòü âåðîÿòíîñòíûõ ìîäåëåé, è åñëè ïðåä íàìè ñòîèò
çàäà÷à èõ êëàññèôèêàöèè, òî ïåðâàÿ î÷åâèäíàÿ îñîáåííîñòü, êîòîðîé îáëàäàåò êàæäîå èç ðàñïðåäåëåíèé ñîîòâåòñòâóþùåé ñëó÷àéíîé âåëè÷èíû,
ýòî íåïðåðûâíîñòü èëè ðàçðûâíîñòü ôóíêöèè ðàñïðåäåëåíèÿ. Ïîëó÷åííûå ñåìåéñòâà ðàñïðåäåëåíèé ìîæíî ðàçáèòü íà äâà êëàññà äèñêðåòíûé
è íåïðåðûâíûé.
Ãèïåðãåîìåòðè÷åñêîå GG(N,M,n), áèíîìèàëüíîå B(n,p), ïóàññîíîâñêîå
P(λ) è ãåîìåòðè÷åñêîå Geo(p) ðàñïðåäåëåíèÿ ïðèíàäëåæàò ê äèñêðåòíîìó
êëàññó. Ïðè âûâîäå ýòèõ ðàñïðåäåëåíèé ìû âïîëíå ìîãëè áû îãðàíè÷èòüñÿ òåõíèêîé ýëåìåíòàðíîé òåîðèè âåðîÿòíîñòåé, ïîñêîëüêó ïðîñòðàíñòâà
ýëåìåíòàðíûõ èñõîäîâ (çíà÷åíèé ñëó÷àéíîé âåëè÷èíû X ) ñîñòîÿëè èç êîíå÷íîãî èëè ñ÷åòíîãî ÷èñëà òî÷åê, è ôóíêöèè ïëîòíîñòè f (x | θ) â îáëàñòè
èõ íåíóëåâûõ çíà÷åíèé îïðåäåëÿëè âåðîÿòíîñòè êàæäîãî ýëåìåíòàðíîãî èñõîäà X = x. Ãðàôè÷åñêîå èçîáðàæåíèå f (x) = f (x | θ) êàê ôóíêöèè x ïðè
êàæäîì ôèêñèðîâàííîì θ ïîçâîëÿåò íàèáîëåå ïîëíî ïðåäñòàâèòü êàðòèíó
îáùåãî ðàñïðåäåëåíèÿ âåðîÿòíîñòåé è, îäíîâðåìåííî, âûçûâàåò íåêîòîðûå
àññîöèàöèè ñ íàãðóæåííûì ñòåðæíåì , à òàêæå ñòðåìëåíèå õàðàêòåðèçîâàòü ðàñïðåäåëåíèå ìàññ ïî ñòåðæíþ òàêèìè ìåõàíè÷åñêèìè õàðàêòåðèñòèêàìè, êàê öåíòð òÿæåñòè, ìîìåíò èíåðöèè, àñèììåòðèÿ è ýêñöåññ â
ðàñïðåäåëåíèè ìàññ è ïð.
f (x)
6
.
.
.
.
.
.
.
. .
.
-
x
Ïðèáåãàÿ ê òàêîé ìåõàíè÷åñêîé èíòåðïðåòàöèè ðàñïðåäåëåíèÿ âåðîÿòíîñòåé, ìû ñîîòíîñèì âåðîÿòíîñòü ñîáûòèÿ X ∈ B ïðè ëþáîì B ∈ B ñ
ìàññîé ó÷àñòêà ñòåðæíÿ B è âû÷èñëÿåì âåëè÷èíó ýòîé ìàññû ïî ôîðìóëå
P (B) =
X
x∈B
55
f (x).
Öåíòð òÿæåñòè íàãðóæåííîãî ñòåðæíÿ íàçûâàåòñÿ ñðåäíèì çíà÷åíèåì ñëó÷àéíîé âåëè÷èíû X, îáîçíà÷àåòñÿ EX è âû÷èñëÿåòñÿ êàê
EX =
X
xf (x).
x∈R
Ìîìåíò èíåðöèè îòíîñèòåëüíî òî÷êè µ = EX, ðàâíûé
DX =
X
(x − µ)2 f (x),
x∈R
õàðàêòåðèçóåò ìåðó ðàçáðîñà (óäàëåííîñòè) îòäåëüíûõ òî÷åê íàãðóæåíèÿ
îò öåíòðà ìàññ, è ïîýòîìó â òåîðèè âåðîÿòíîñòåé íàçûâàåòñÿ äèñïåðñèåé
ñëó÷àéíîé âåëè÷èíû X. Êðîìå ñòàíäàðòíîãî îáîçíà÷åíèÿ DX, çà âåëè÷èíîé äèñïåðñèè çàêðåïëåí
ñèìâîë σ 2 , â òî âðåìÿ êàê êâàäðàòíûé êîðåíü èç
√
äèñïåðñèè σ = DX íàçûâàåòñÿ ñòàíäàðòíûì îòêëîíåíèåì X.
Íåñîìíåííûé ïðàêòè÷åñêèé èíòåðåñ ïðåäñòàâëÿåò òàêæå òî÷êà äîñòèæåíèÿ ìàêñèìóìà ôóíêöèè f (x), êàê íàèáîëåå âåðîÿòíîãî çíà÷åíèÿ X. Ýòà
òî÷êà íàçûâàåòñÿ ìîäîé ðàñïðåäåëåíèÿ X, è êàê-òî òàê ñëîæèëîñü, ÷òî
ñòàíäàðòíîãî, íàèáîëåå ðàñïðîñòðàíåííîãî îáîçíà÷åíèÿ ó ýòîé õàðàêòåðèñòèêè íåò, ðàçâå ëèøü mod(X).
Ìû íå áóäåì òîðîïèòüñÿ ñ ââåäåíèåì äðóãèõ õàðàêòåðèñòèê ðàñïðåäåëåíèÿ X, à òàêæå èëëþñòðèðîâàòü âû÷èñëåíèÿ EX, DX è mod(X) íà
êîíêðåòíûõ ðàñïðåäåëåíèÿõ, è ñíà÷àëà ïîïûòàåìñÿ ââåñòè àíàëîãè ýòèõ
õàðàêòåðèñòèê äëÿ ñëó÷àéíûõ âåëè÷èí ñ íåïðåðûâíîé ôóíêöèåé ðàñïðåäåëåíèÿ.
Ê êëàññó íåïðåðûâíûõ ðàñïðåäåëåíèé ïðèíàäëåæàò ðàâíîìåðíîå
U(a,b) è ïîêàçàòåëüíîå E(θ) ðàñïðåäåëåíèÿ. Ïðè ïîñòðîåíèè ýòèõ âåðîÿòíîñòíûõ ìîäåëåé ôóíêöèÿ ðàñïðåäåëåíèÿ èãðàëà îïðåäåëÿþùóþ ðîëü è
òåîðåìà 4.1 èñïîëüçîâàëàñü ïî ñóùåñòâó.
Ãðàôè÷åñêîå èçîáðàæåíèå íåïðåðûâíîé ôóíêöèè ðàñïðåäåëåíèÿ âðÿä
ëè ñòîèò ðàññìàòðèâàòü êàê ñòîëü æå íàãëÿäíóþ èëëþñòðàöèþ ðàñïðåäåëåíèÿ âåðîÿòíîñòåé, êàê, íàïðèìåð, ãðàôèê ôóíêöèè ïëîòíîñòè (ôóíêöèè
ñêà÷êîâ) ðàñïðåäåëåíèÿ äèñêðåòíîãî òèïà. Ýòî çàìå÷àíèå â ðàâíîé ñòåïåíè
îòíîñèòñÿ êàê ê äèñêðåòíîìó, òàê è íåïðåðûâíîìó êëàññó ðàñïðåäåëåíèé.
Ãðàôèêè âîçðàñòàþùèõ ôóíêöèé ñ îáëàñòüþ çíà÷åíèé â èíòåðâàëå [ 0; 1 ]
òàê ïîõîæè äðóã íà äðóãà, ÷òî èõ ãëàâíàÿ ïðèìå÷àòåëüíîñòü òî÷êè ïåðåãèáà íà ãëàç îïðåäåëÿþòñÿ òîëüêî ïðè âûñîêèõ õóäîæåñòâåííûõ äîñòîèíñòâàõ ãðàôè÷åñêîãî èçîáðàæåíèÿ. Äðóãîå äåëî ïðîèçâîäíàÿ ôóíêöèè, ãäå ýòè òî÷êè ïåðåãèáà ïðåâðàùàþòñÿ â òî÷êè ýêñòðåìóìà. Ñ äðóãîé
56
ñòîðîíû, ïðîèçâîäíàÿ ôóíêöèè ðàñïðåäåëåíèÿ â íåïðåðûâíîì ñëó÷àå, òàê
æå êàê è ôóíêöèÿ ñêà÷êîâ äèñêðåòíîãî ðàñïðåäåëåíèÿ, äîïóñêàåò ìåõàíè÷åñêóþ èíòåðïðåòàöèþ ôóíêöèè ïëîòíîñòè åäèíè÷íîé ìàññû, ðàçìàçàííîé ïî áåñêîíå÷íîìó ñòåðæíþ, è â ðàìêàõ ýòîé èíòåðïðåòàöèè ìû ñíîâà
ìîæåì ðàññìàòðèâàòü òàêèå õàðàêòåðèñòèêè, êàê öåíòð òÿæåñòè, ìîìåíò
èíåðöèè è òîìó ïîäîáíîå.
Èòàê, îïðåäåëèì ôóíêöèþ ïëîòíîñòè íåïðåðûâíîãî ðàñïðåäåëåíèÿ
F (x) êàê ïðîèçâîäíóþ f (x) = dF (x)/dx, êîòîðàÿ â íàøåì ñëó÷àå îïðåäåëÿåòñÿ ïî÷òè âñþäó ïî ìåðå Ëåáåãà, ÷òî, êàê áóäåò â äàëüíåéøåì, âïîëíå
äîñòàòî÷íî äëÿ âû÷èñëåíèÿ õàðàêòåðèñòèê íåïðåðûâíîãî ðàñïðåäåëåíèÿ.
Òàê, äëÿ ðàâíîìåðíîãî ðàñïðåäåëåíèÿ f (x) = f (x | θ) = 0 ðàâíà íóëþ âíå
ñåãìåíòà [ a; b ] è f (x | θ) = (b − a)−1 , òî åñòü ïîñòîÿííà íà ýòîì ñåãìåíòå.
 ñëó÷àå ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ f (x | θ) = 0 ïðè x < 0,
n xo
1
f (x | θ) = exp −
,
θ
θ
åñëè x ≥ 0, è îòíåñåíèå òî÷êè x = 0 ê îáëàñòè íóëåâûõ çíà÷åíèé ôóíêöèè
f î÷åâèäíî íå èçìåíèò çíà÷åíèé èíòåãðàëüíûõ õàðàêòåðèñòèê ðàñïðåäåëåíèÿ; àíàëîãè÷íîå çàêëþ÷åíèå ìîæíî ñäåëàòü è îòíîñèòåëüíî êîíöåâûõ
òî÷åê a è b ðàâíîìåðíîãî ðàñïðåäåëåíèÿ U(a, b).
Ôóíêöèÿ ðàñïðåäåëåíèÿ èç íåïðåðûâíîãî êëàññà âûðàæàåòñÿ ÷åðåç ñâîþ
ôóíêöèþ ïëîòíîñòè â âèäå
Zx
F (x) =
f (t)dt,
−∞
à âåðîÿòíîñòü ïîïàäàíèÿ X â íåêîòîðîå ïðîèçâîëüíîå áîðåëåâñêîå ìíîæåñòâî B (âåðîÿòíîñòü ñîáûòèÿ B ) çàïèñûâàåòñÿ êàê
Z
Z
P (X ∈ B) =
f (x)dx =
B
IB (x)f (x)dx,
R
ãäå IB (x) èíäèêàòîðíàÿ ôóíêöèÿ ìíîæåñòâà B. Åñòåñòâåííî, â ñèëó ÿâíîé íåðåãóëÿðíîñòè (ðàçðûâíîñòè è ïðî÷èõ ïàêîñòåé) ïîäûíòåãðàëüíûõ
ôóíêöèé èíòåãðàëû â ýòèõ ôîðìóëàõ ñëåäóåò ðàññìàòðèâàòü êàê èíòåãðàëû Ëåáåãà ïî ëåáåãîâîé ìåðå dx íà áîðåëåâñêîé ïðÿìîé (R, B).
Öåíòð òÿæåñòè ñòåðæíÿ ñ íåïðåðûâíûì ðàñïðåäåëåíèåì ìàññ, êîòîðîå
îïðåäåëÿåòñÿ ôóíêöèåé ïëîòíîñòè f (x), âû÷èñëÿåòñÿ ïî èçâåñòíîé ôîðìó57
ëå
Z∞
µ = EX =
xf (x)dx
−∞
è íàçûâàåòñÿ, êàê è â äèñêðåòíîì ñëó÷àå, ñðåäíèì çíà÷åíèåì ñëó÷àéíîé
âåëè÷èíû X. Òî÷íî òàê æå ìîìåíò èíåðöèè
Z∞
σ 2 = DX =
(x − µ)2 f (x)dx
−∞
íàçûâàåòñÿ äèñïåðñèåé X, à σ ñòàíäàðòíûì îòêëîíåíèåì. Íàêîíåö, òî÷êà äîñòèæåíèÿ ìàêñèìóìà ôóíêöèè ïëîòíîñòè:
mod(X) = arg max f (x) −
x∈R
ìîäîé ðàñïðåäåëåíèÿ X. Îêðåñòíîñòü òî÷êè mod(X ) îáëàäàåò íàèáîëüøåé
êîíöåíòðàöèåé âåðîÿòíîñòíîé ìàññû.
Ëåêöèÿ 9
Åñòåñòâåííî, ðàññìîòðåâ äâà îñíîâíûõ êëàññà ðàñïðåäåëåíèé, ìû ìîãëè áû òåïåðü ïðîäîëæèòü èçó÷åíèå õàðàêòåðèñòèê ðàñïðåäåëåíèé êàæäîãî òèïà, íî âîçíèêàåò åñòåñòâåííûé âîïðîñ, à ñóùåñòâóþò ëè ñìåøàííûå
äèñêðåòíî-íåïðåðûâíûå ðàñïðåäåëåíèÿ èëè âîîáùå ðàñïðåäåëåíèÿ, íå ïðèíàäëåæàùèå ê èçó÷åííûì êëàññàì, è êàê òîãäà âû÷èñëÿòü èõ ñðåäíèå çíà÷åíèÿ è äèñïåðñèè?
×òî êàñàåòñÿ äèñêðåòíî-íåïðåðûâíûõ ðàñïðåäåëåíèé, òî î ñóùåñòâîâàíèè è ïðàêòè÷åñêîé öåííîñòè òàêèõ ðàñïðåäåëåíèé óêàçûâàåò ñëåäóþùàÿ
âåðîÿòíîñòíàÿ ìîäåëü òåîðèè íàäåæíîñòè. Ïðåäïîëîæèì, ÷òî ïðåäïðèÿòèå âûïóñêàåò èçäåëèÿ ñ ïîêàçàòåëüíûì ðàñïðåäåëåíèåì äîëãîâå÷íîñòè,
íî â ñèëó ñïåöèôè÷åñêèõ äåôåêòîâ ïðîèçâîäñòâà êàæäîå èçäåëèå ñ íåêîòîðîé âåðîÿòíîñòüþ p ìîæåò áûòü ìåðòâîðîæäåííûì , òî åñòü îòêàçàòü ïðè
åãî âêëþ÷åíèè .  òàêîì ñëó÷àå ôóíêöèÿ ðàñïðåäåëåíèÿ äîëãîâå÷íîñòè
â îáëàñòè x > 0 èìååò âèä (èñïîëüçóåòñÿ ôîðìóëà ïîëíîé âåðîÿòíîñòè)
F (x) = p + (1 − p)(1 − exp{−x/θ}), à ñðåäíèé ñðîê ñëóæáû
Z∞
EX = 0 · p + (1 − p)θ−1
x exp {−x/θ} dx = (1 − p)θ −
58
îïÿòü íîâàÿ ôîðìóëà äëÿ âû÷èñëåíèÿ õàðàêòåðèñòèê ðàñïðåäåëåíèÿ X !
Äàëüøå áîëüøå, îêàçûâàåòñÿ ñóùåñòâóåò åùå îäèí òèï ðàñïðåäåëåíèé,
âû÷èñëåíèå õàðàêòåðèñòèê êîòîðîãî âîîáùå íåìûñëèìî âíå ðàìîê òåîðèè
èíòåãðàëà Ëåáåãà. Ïîìíèòå, ìû ãîâîðèëè ñ âàìè î ñâÿçè ìåæäó ñõåìîé èñïûòàíèé Áåðíóëëè ñ âåðîÿòíîñòüþ óñïåøíîãî èñïûòàíèÿ p = 1/2 è ðàâíîìåðíûì ðàñïðåäåëåíèåì íà îòðåçêå [ 0, 1 ]? Îêàçûâàåòñÿ, åñëè âåðîÿòíîñòü
óñïåõà p 6= 1/2, òî äâîè÷íàÿ äðîáü, ñîñòàâëåííàÿ èç ðåàëèçàöèé èíäèêàòîðîâ óñïåõà, ïðåäñòàâëÿåò ðåçóëüòàò íàáëþäåíèÿ ñëó÷àéíîé âåëè÷èíû ñ
âåñüìà çàãàäî÷íîé ôóíêöèåé ðàñïðåäåëåíèÿ. Âî-ïåðâûõ, ýòà ôóíêöèÿ ïî÷òè âñþäó ïîñòîÿííà ïðîèçâîäíàÿ îò íåå ïî÷òè âñþäó ïî ìåðå Ëåáåãà íà
(R, B) ðàâíà íóëþ. Òåì íå ìåíåå ýòà ôóíêöèÿ âîçðàñòàåò, íåïðåðûâíà(!),
íî òî÷êè åå ðîñòà ñîñòàâëÿþò ñ÷åòíîå ìíîæåñòâî, èìåþùåå, åñòåñòâåííî,
íóëåâóþ ëåáåãîâó ìåðó. Ñîîòâåòñòâóþùàÿ ýòîé ôóíêöèè ðàñïðåäåëåíèÿ âåðîÿòíîñòíàÿ ìåðà P íà áîðåëåâñêîé ïðÿìîé ñèíãóëÿðíà îòíîñèòåëüíî ìåðû
Ëåáåãà: åñëè ìíîæåñòâî B ∈ B èìååò íóëåâóþ ëåáåãîâó ìåðó, òî îòñþäà íå
ñëåäóåò, ÷òî P (B) = 0.
Ðàñïðåäåëåíèÿ òàêîãî âèäà, èìåþùèå íåïðåðûâíóþ ôóíêöèþ ðàñïðåäåëåíèÿ, íî ñèíãóëÿðíûå ïî îòíîøåíèþ ê ìåðå Ëåáåãà, ñîñòàâëÿþò êëàññ
ñèíãóëÿðíûõ ðàñïðåäåëåíèé. Ëåãêî ïîíÿòü, ÷òî ÿâíàÿ çàïèñü òàêèõ ðàñïðåäåëåíèé âðÿä ëè âîçìîæíà. Â íàøåì ïðèìåðå ñ ïîñòðîåíèåì ðåàëèçàöèé
ñëó÷àéíîé âåëè÷èíû X ñ ïîìîùüþ ñõåìû Áåðíóëëè äëÿ ôóíêöèè ðàñïðåäåëåíèÿ X ñîñòàâëÿåòñÿ íåêîòîðîå îïåðàòîðíîå óðàâíåíèå, è åñëè ìû õîòèì
ðàññ÷èòàòü âåðîÿòíîñòè ïîïàäàíèÿ X â èíòåðâàëû íà ïðÿìîé, òî ïðèäåòñÿ
èñïîëüçîâàòü ÷èñëåííûå ìåòîäû ðåøåíèÿ òàêèõ óðàâíåíèé. Êîíå÷íî, ìû íå
áóäåì çàíèìàòüñÿ ñåé÷àñ âûâîäîì óðàâíåíèÿ, îïðåäåëÿþùåãî ñèíãóëÿðíóþ
ôóíêöèþ ðàñïðåäåëåíèÿ ýòî ñëèøêîì òðóäîåìêàÿ çàäà÷à, äëÿ ðåøåíèÿ
êîòîðîé ó íàñ íåò âðåìåíè.
Èòàê, ìû ðàññìîòðåëè òðè òèïà ðàñïðåäåëåíèé: äèñêðåòíûé, íåïðåðûâíûé è ñèíãóëÿðíûé. Óäèâèòåëüíî òî, ÷òî äðóãèõ òèïîâ íå ñóùåñòâóåò, î
÷åì ñâèäåòåëüñòâóåò çíàìåíèòàÿ
Òåîðåìà Ëåáåãà. Ëþáàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ ïðåäñòàâèìà â âèäå
ñóììû òðåõ íåîòðèöàòåëüíûõ, íåóáûâàþùèõ ôóíêöèé, îäíà èç êîòîðûõ àáñîëþòíî íåïðåðûâíà è èìååò íåîòðèöàòåëüíóþ ïðîèçâîäíóþ íà ìíîæåñòâå
ïîëîæèòåëüíîé ëåáåãîâîé ìåðû; âòîðàÿ ÿâëÿåòñÿ ñòóïåí÷àòîé è îáëàäàåò
íå áîëåå ÷åì ñ÷åòíûì ìíîæåñòâîì òî÷åê ðàçðûâà (ñêà÷êîâ); òðåòüÿ íåïðåðûâíà, íî èìååò íå áîëåå ÷åì ñ÷åòíîå ìíîæåñòâî òî÷åê ðîñòà.
59
Äîêàçàòåëüñòâî ýòîé òåîðåìû âûõîäèò èç ðàìîê íàøåãî îáùåãî êóðñà
òåîðèè âåðîÿòíîñòåé.  íå ñòîëü îòäàëåííûå âðåìåíà, êîãäà â óíèâåðñèòåòå çàíèìàëèñü ïðåïîäàâàíèåì ôóíäàìåíòàëüíûõ íàóê, à íå îáó÷åíèåì
ïðèìèòèâíîìó ðåìåñëó, òåîðåìà Ëåáåãà äîêàçûâàëàñü â îáùåì êóðñå ìàòåìàòè÷åñêîãî àíàëèçà. Èç òåîðåìû Ëåáåãà âûòåêàåò, ÷òî â ÷èñòîì âèäå
ñóùåñòâóåò òîëüêî òðè òèïà ðàñïðåäåëåíèé, èç êîòîðûõ äâà (íåïðåðûâíûé
è äèñêðåòíûé) íàì çíàêîìû, à òðåòèé ñèíãóëÿðíûé çàãàäî÷åí, è ìû
ïîêà íå â ñîñòîÿíèè ïðåäñòàâèòü ñåáå, êàêèì îáðàçîì âû÷èñëÿòü èíòåãðàë
Ëåáåãà,
Z
EX =
xdP (x),
R
îïðåäåëÿþùèé ñðåäíåå çíà÷åíèå ñëó÷àéíîé âåëè÷èíû X ñ ñèíãóëÿðíûì
ðàñïðåäåëåíèåì âåðîÿòíîñòåé P (B), B ∈ B.
Ñïåøó îáðàäîâàòü âàñ, ÷òî ìû íå áóäåì ðàññìàòðèâàòü ñèíãóëÿðíûå
âåðîÿòíîñòíûå ìîäåëè. Òåì íå ìåíåå ñóùåñòâóåò âåñüìà îáùèé ïîäõîä ê
îïðåäåëåíèþ ôóíêöèè ïëîòíîñòè äëÿ ëþáîãî, â òîì ÷èñëå è ñìåøàííîãî,
òèïîâ ðàñïðåäåëåíèé, îïèðàÿñü íà êîòîðûé ìîæíî ïðåäëîæèòü íåêîòîðûé
îáùèé ìåòîä îïðåäåëåíèÿ è âû÷èñëåíèÿ õàðàêòåðèñòèê ðàñïðåäåëåíèé ðàçëè÷íûõ òèïîâ. Ýòîò ïîäõîä óêàçûâàåò ñëåäóþùàÿ, íå ìåíåå çíàìåíèòàÿ,
÷åì òåîðåìà Ëåáåãà,
Òåîðåìà ÐàäîíàÍèêîäèìà. Ïóñòü íà áîðåëåâñêîé ïðÿìîé (R, B)
çàäàíû âåðîÿòíîñòü P è ñèãìà-êîíå÷íàÿ ìåðà µ, ïðè÷åì P àáñîëþòíî íåïðåðûâíà îòíîñèòåëüíî µ, òî åñòü µ(B) = 0 âëå÷åò P (B) = 0. Òîãäà äëÿ ïî÷òè
âñåõ ïî ìåðå µ òî÷åê x ∈ R ñóùåñòâóåò òàêàÿ åäèíñòâåííàÿ ôóíêöèÿ f (x),
÷òî
Z
P (B) =
f (x)dµ(x),
∀B ∈ B.
(1)
B
Ýòà òåîðåìà, äîêàçàòåëüñòâî êîòîðîé ìû òàêæå îïóñêàåì (è íå ïîòîìó,
÷òî âðåìåíè íåò, à ïðîñòî çíàíèé íå õâàòàåò), ïîçâîëÿåò ââåñòè îäíî èç
öåíòðàëüíûõ ïîíÿòèé òåîðèè âåðîÿòíîñòåé, ïîñòîÿííî èñïîëüçóåìîå ïðè
ïîñòðîåíèè âåðîÿòíîñòíûõ ìîäåëåé.
Îïðåäåëåíèå 6.1. Ôóíêöèÿ f (x), îïðåäåëÿåìàÿ ñîîòíîøåíèåì (1) äëÿ
ïî÷òè âñåõ ïî ìåðå µ òî÷åê x ∈ R, íàçûâàåòñÿ ôóíêöèåé ïëîòíîñòè ðàñïðåäåëåíèÿ âåðîÿòíîñòåé P ïî ìåðå µ. Ýòà ôóíêöèÿ íàçûâàåòñÿ òàêæå ïðî-
60
èçâîäíîé ÐàäîíàÍèêîäèìà ìåðû P ïî ìåðå µ, è èìååò ìåñòî ñèìâîëè÷åñêàÿ çàïèñü f (x) = dP/dµ.
 ðàìêàõ ýòîãî îïðåäåëåíèÿ, ââåäåííàÿ âûøå ôóíêöèÿ ïëîòíîñòè íåïðåðûâíîãî ðàñïðåäåëåíèÿ åñòü ïðîèçâîäíàÿ ÐàäîíàÍèêîäèìà âåðîÿòíîñòè P
ïî ìåðå Ëåáåãà dµ = dx íà áîðåëåâñêîé ïðÿìîé. Òàê êàê âåðîÿòíîñòü P â
ñîîòâåòñòâèè ñ òåîðåìîé 4.1 îïðåäåëÿëàñü ñ ïîìîùüþ ôóíêöèè ðàñïðåäåëåíèÿ F (x), òî ìû èñïîëüçîâàëè òîò âàðèàíò ïðîèçâîäíîé ÐàäîíàÍèêîäèìà,
êîòîðûé ñîâïàäàåò ñ îáû÷íîé ïðîèçâîäíîé ôóíêöèè F (x), äîîïðåäåëÿÿ ýòó
ôóíêöèþ â òî÷êàõ, ãäå ïðîèçâîäíàÿ íå ñóùåñòâóåò, òàêèì îáðàçîì, ÷òîáû
íå âîçíèêàëè äîïîëíèòåëüíûå ðàçðûâû. ×òî æå êàñàåòñÿ äèñêðåòíîãî ñëó÷àÿ, òî çäåñü ìû èñïîëüçîâàëè ïðîèçâîäíóþ ÐàäîíàÍèêîäèìà ïî ñ÷èòàþùåé ìåðå µ : äëÿ ëþáîãî B ∈ B ìåðà µ(B) ðàâíà êîëè÷åñòâó òî÷åê ñ
öåëî÷èñëåííûìè êîîðäèíàòàìè, êîòîðûå ïðèíàäëåæàò B. Íàïðèìåð, áîðåëåâñêîå ìíîæåñòâî B = [−2.5; 5] ñîäåðæèò âîñåìü òî÷åê ñ öåëî÷èñëåííûìè êîîðäèíàòàìè −2, −1, 0, . . . 5, è ïîýòîìó µ(B) = 8.  äðîáíûõ òî÷êàõ
x ∈ R ìû ïîëàãàëè f (x) = 0, õîòÿ ìîãëè áû âûáèðàòü ëþáûå äðóãèå çíà÷åíèÿ ïðè âû÷èñëåíèè âåðîÿòíîñòåé ïî ôîðìóëå (1). Äåëî â òîì, ÷òî ïðè
èíòåãðèðîâàíèè ïî äèñêðåòíîé ñ÷èòàþùåé ìåðå èíòåãðàë Ëåáåãà îò ëþáîé
ôóíêöèè ïðåâðàùàåòñÿ â ñóììó çíà÷åíèé ýòîé ôóíêöèè â öåëî÷èñëåííûõ
òî÷êàõ, è (1) ïðèíèìàåò èçâåñòíûé íàì èç ýëåìåíòàðíîé òåîðèè âåðîÿòíîñòåé âèä
X
X
P (B) =
P (X = x) =
x∈B
f (x).
x∈B
Òåïåðü ìû îáëàäàåì îáùèì ïîäõîäîì ê îïðåäåëåíèþ õàðàêòåðèñòèê ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû X. Çíà÷èòåëüíàÿ ÷àñòü èç íèõ îïðåäåëÿåòñÿ ÷åðåç èíòåãðàë Ëåáåãà ïî ìåðå (âåðîÿòíîñòè) P îò ñïåöèàëüíî ïîäîáðàííûõ ôóíêöèé.
Îïðåäåëåíèå 6.2. Ïóñòü X ñëó÷àéíàÿ âåëè÷èíà ñ ðàñïðåäåëåíèåì
P è f (x) ôóíêöèÿ ïëîòíîñòè P ïî ñèãìà-êîíå÷íîé ìåðå µ. Ìàòåìàòè÷åñêèì îæèäàíèåì ëþáîãî èçìåðèìîãî îòîáðàæåíèÿ g(X) áîðåëåâñêîé
ïðÿìîé â ñåáÿ (èçìåðèìîé ôóíêöèè îò ñëó÷àéíîé âåëè÷èíû X ) íàçûâàåòñÿ èíòåãðàë Ëåáåãà
Z
Z
Eg(X) =
g(x)dP (x) =
g(x)f (x)dµ(x).
R
R
 ÷àñòíîñòè, ìàòåìàòè÷åñêîå îæèäàíèå ñëó÷àéíîé âåëè÷èíû X âû÷èñ61
ëÿåòñÿ ïî ôîðìóëå
Z
Z
EX =
xdP (x) =
R
xf (x)dµ(x).
R
Ç à ì å ÷ à í è å.  îòå÷åñòâåííîé ëèòåðàòóðå ïî òåîðèè âåðîÿòíîñòåé (íàïðèìåð, â ó÷åáíèêå À.À.Áîðîâêîâà Òåîðèÿ âåðîÿòíîñòåé ) ìàòåìàòè÷åñêîå
îæèäàíèå îáîçíà÷àåòñÿ ëàòèíñêîé áóêâîé M à íå E.
Ìîìåíòíûå õàðàêòåðèñòèêè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû. Ìàòåìàòè÷åñêîå îæèäàíèå ôóíêöèè g(X) = (X − a)k îò ñëó÷àéíîé
âåëè÷èíû X, ãäå k ïðèíèìàåò òîëüêî öåëî÷èñëåííûå çíà÷åíèÿ 1, 2, . . . ,
íàçûâàåòñÿ ìîìåíòîì k -ãî ïîðÿäêà ñëó÷àéíîé âåëè÷èíû X îòíîñèòåëüíî òî÷êè a. Åñëè a = 0, òî αk = EX k íàçûâàåòñÿ ïðîñòî ìîìåíòîì k ãî ïîðÿäêà ñëó÷àéíîé âåëè÷èíû X, à åñëè a = EX (= α1 ), òî ìîìåíò
µk = E(X − EX)k íàçûâàåòñÿ öåíòðàëüíûì ìîìåíòîì k -ãî ïîðÿäêà. Èíîãäà, âî èçáåæàíèå íåäîðàçóìåíèé, ìîìåíòû αk íàçûâàþòñÿ íåöåíòðàëüíûìè ìîìåíòàìè. Ïåðâûé íåöåíòðàëüíûé ìîìåíò α1 = EX íàçûâàåòñÿ ñðåäíèì çíà÷åíèåì èëè ìàòåìàòè÷åñêèì îæèäàíèåì ñëó÷àéíîé âåëè÷èíû X è îáîçíà÷àåòñÿ îáû÷íî áóêâîé µ. Âòîðîé öåíòðàëüíûé ìîìåíò
µ2 = E(X − µ)2 íàçûâàåòñÿ äèñïåðñèåé ñëó÷àéíîé âåëè÷èíû X è îáîçíà÷àåòñÿ èëè áóêâîé σ 2 , èëè ââîäèòñÿ
îïåðàòîð DX. Íàïîìíèì, ÷òî êâàäðàòíûé
√
êîðåíü èç äèñïåðñèè: σ = DX ìû äîãîâîðèëèñü íàçûâàòü ñòàíäàðòíûì
îòêëîíåíèåì X. Ïîñêîëüêó σ èìååò òó æå ðàçìåðíîñòü, ÷òî è íàáëþäàåìàÿ
ñëó÷àéíàÿ âåëè÷èíà X, òî â ïðàêòè÷åñêèõ ïðèëîæåíèÿõ â êà÷åñòâå ìåðû
ðàçáðîñà âåðîÿòíîñòåé èñïîëüçóåòñÿ îáû÷íî ñòàíäàðòíîå îòêëîíåíèå σ, à
íå äèñïåðñèÿ σ 2 . Äëÿ ñðåäíåãî è äèñïåðñèè X ñïðàâåäëèâî
Ïðåäëîæåíèå 6.1. Ñðåäíåå çíà÷åíèå EX è äèñïåðñèÿ DX îáëàäàþò
ñëåäóþùèìè ñâîéñòâàìè:
10 . E(aX + b) = aEX + b äëÿ ëþáûõ ïîñòîÿííûõ a, b ∈ R,
20 . D(aX + b) = a2 DX äëÿ ëþáûõ ïîñòîÿííûõ a, b ∈ R, òî åñòü äèñïåðñèÿ èíâàðèàíòíà îòíîñèòåëüíî ñäâèãîâ ñëó÷àéíîé âåëè÷èíû X íà ïîñòîÿííóþ âåëè÷èíó;
30 . DX = EX 2 − (EX)2 = α2 − µ2 ,
40 . inf E(X − a)2 = DX, òî åñòü
a∈R
Ä î ê à ç à ò å ë ü ñ ò â î.
62
arg inf E(X − a)2 = EX.
a∈R
10 . Äàííîå óòâåðæäåíèå åñòü ïðîñòàÿ êîíñòàòàöèÿ èçâåñòíîãî ñâîéñòâà
ëèíåéíîñòè èíòåãðàëà Ëåáåãà.
20 . D(aX + b) = E(aX + b − aµ − b)2 = a2 E(X − µ)2 = a2 DX.
¡
¢
30 . DX = E(X − EX)2 = E X 2 − 2XEX + (EX)2 =
EX 2 − 2EX · EX + (EX)2 = EX 2 − (EX)2 .
2
2
4
.
E(X
−
a)
=
E
((X
−
µ)
−
(a
−
µ))
¡
¢ =
2
2
E (X − µ) − 2(a − µ)(X − µ) + (a − µ) = E(X − µ)2 − 2(a − µ)E(X −
µ) + (a − µ)2 = DX + (a − µ)2 ≥ DX, ïðè÷åì ðàâåíñòâî äîñòèãàåòñÿ òîãäà
è òîëüêî òîãäà, êîãäà a = µ = EX.
Ñ ìîìåíòàìè ñëó÷àéíîé âåëè÷èíû X ñâÿçàíû äâå çàìå÷àòåëüíûå õàðàêòåðèñòèêè ôîðìû ðàñïðåäåëåíèÿ X :
êîýôôèöèåíò àñèììåòðèè γ1 = µ3 /σ 3 , è
êîýôôèöèåíò ýêñöåññà γ2 = µ4 /σ 4 − 3.
Ëåãêî çàìåòèòü ïî àíàëîãèè ñ äîêàçàòåëüñòâîì ïóíêòà 20 ïðåäûäóùåãî ïðåäëîæåíèÿ, ÷òî γ1 è γ2 èíâàðèàíòíû îòíîñèòåëüíî ëèíåéíûõ ïðåîáðàçîâàíèé ñëó÷àéíûõ âåëè÷èí, òî åñòü X è aX + b èìåþò îäèíàêîâûå
êîýôôèöèåíòû àñèììåòðèè è ýêñöåññà ïðè ëþáûõ ïîñòîÿííûõ a è b.
Êàê è âûøå, ìû áóäåì íàçûâàòü ìîäîé ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû X ëþáóþ òî÷êó mod(X) äîñòèæåíèÿ ëîêàëüíîãî ìàêñèìóìà ó ôóíêöèè ïëîòíîñòè f (x). Åñëè ìîäà åäèíñòâåííà, òî ãîâîðÿò, ÷òî ðàñïðåäåëåíèå X óíèìîäàëüíî. Êîãäà ãðàôèê óíèìîäàëüíîé êðèâîé ïëîòíîñòè èìååò äëèííûé õâîñò ñïðàâà îò ìîäû (ñì. ðèñóíîê íà ýòîé ñòðàíèöå), òî â
âûðàæåíèè µ3 êóáû ïîëîæèòåëüíûõ îòêëîíåíèé ïåðåâåñÿò îòðèöàòåëüíûå
êóáû, è êîýôôèöèåíò àñèììåòðèè γ1 áóäåò ïîëîæèòåëåí. Åñëè æå ìîäà
ñâàëåíà âïðàâî (äëèííûé õâîñò ñëåâà îò ìîäû), òî γ1 < 0. Ðàñïðåäåëåíèÿ ñ ñèììåòðè÷íîé ôóíêöèåé ïëîòíîñòè, êàê, íàïðèìåð, áèíîìèàëüíîå ñ
p = 1/2 èëè ðàâíîìåðíîå U(a,b), îáëàäàþò íóëåâîé àñèììåòðèåé: γ1 = 0.
63
f (x)
6
-
x
×òî æå êàñàåòñÿ êîýôôèöèåíòà ýêñöåññà γ2 , òî åãî ïîäëèííûé ñìûñë ìû
ïîéìåì ïîñëå çíàêîìñòâà â ñëåäóþùåì ïàðàãðàôå ñ íîðìàëüíûì ðàñïðåäåëåíèåì íà áîðåëåâñêîé ïðÿìîé, à ïîêà òîëüêî îòìåòèì, ÷òî ïîëîæèòåëüíûé
ýêñöåññ ãîâîðèò îá èçëèøíåé ïèêîîáðàçíîñòè âûòÿíóòîñòè ââåðõ êðèâîé
ïëîòíîñòè, â òî âðåìÿ êàê îòðèöàòåëüíîå çíà÷åíèå γ2 óêàçûâàåò íà áîëåå
ïëîñêèé õàðàêòåð âåðøèíû êðèâîé ïëîòíîñòè.
Ëåêöèÿ 10
Ïðåæäå ÷åì ïåðåéòè ê ïðèìåðàì ïî âû÷èñëåíèþ ìîìåíòíûõ õàðàêòåðèñòèê ñëó÷àéíûõ âåëè÷èí, ñëåäóåò îáðàòèòü âíèìàíèå íà òî, ÷òî â ðàññìîòðåííûõ íàìè âåðîÿòíîñòíûõ ìîäåëÿõ ñóùåñòâóþò äîâîëüíî êðóïíûå ýëåìåíòû, èìåþùèå íóëåâóþ âåðîÿòíîñòü, íàïðèìåð, âî âñåõ ìîäåëÿõ P (X ∈
(−∞, 0)) = 0. Â ñâÿçè ñ ýòèì ââîäèòñÿ ïîíÿòèå íîñèòåëÿ ðàñïðåäåëåíèÿ
ñëó÷àéíîé âåëè÷èíû, êàê çàìûêàíèÿ ìíîæåñòâà {x ∈ R : f (x) > 0}.
Òàêîå îïðåäåëåíèå íîñèòåëÿ íå ÿâëÿåòñÿ äîñòàòî÷íî îáùèì è ñâÿçàíî ñ
ìåðîé µ, ïî êîòîðîé âû÷èñëÿåòñÿ ïëîòíîñòü f (x), íî ïîñêîëüêó ìû äîãîâîðèëèñü ðàññìàòðèâàòü òîëüêî äèñêðåòíûå è íåïðåðûâíûå ðàñïðåäåëåíèÿ
(µ ñ÷èòàþùàÿ ìåðà èëè ìåðà Ëåáåãà), òî òàêîå îïðåäåëåíèå âïîëíå ðàáîòîñïîñîáíî è ïîçâîëÿåò ëåãêî íàéòè íîñèòåëü ëþáîãî èç øåñòè èçâåñòíûõ
íàì ðàñïðåäåëåíèé. Íîñèòåëü ðàñïðåäåëåíèÿ áóäåò îáîçíà÷àòüñÿ ðóêîïèñíîé áóêâîé X. Íåòðóäíî ïîíÿòü, ÷òî ïðè âû÷èñëåíèè ìîìåíòíûõ è ïðî÷èõ èíòåãðàëüíûõ õàðàêòåðèñòèê ðàñïðåäåëåíèÿ èç îáëàñòè èíòåãðèðîâàíèÿ ìîæíî óáðàòü âñå òî÷êè, íå ïðèíàäëåæàùèå X, è ïðè ýòîì âåëè÷èíà
õàðàêòåðèñòèêè îñòàíåòñÿ íåèçìåííîé.
Ï ð è ì å ð 6.1 (áèíîìèàëüíîå ðàñïðåäåëåíèå B(n, p)). Íîñèòåëü ýòîãî
ðàñïðåäåëåíèÿ X = {0, 1, . . . , n}. Äëÿ âû÷èñëåíèÿ ïåðâûõ äâóõ ìîìåíòîâ
áèíîìèàëüíîãî ðàñïðåäåëåíèÿ âîñïîëüçóåìñÿ ìåòîäîì äèôôåðåíöèðîâà-
64
íèÿ ïî ïàðàìåòðó è ôîðìóëîé áèíîìà Íüþòîíà:
n
X
Cnk ak bn−k = (a + b)n .
k=0
Ïî îïðåäåëåíèþ ñðåäíåãî çíà÷åíèÿ
µ = EX =
n
X
kCnk pk (1 − p)n−k
k=0
·
d
(x + 1 − p)n
p
dx
α2 = EX 2 =
k=0
#
=
x=p
¸
= pn(x + 1 − p)n−1 |x=p = np.
x=p
"
k 2 Cnk pk (1 − p)n−k
n
d d X k k
Cn x (1 − p)n−k
=p
x
dx dx
k=0
k=0
·
n
d X k k
=p
Cn x (1 − p)n−k
dx
Âòîðîé ìîìåíò
n
X
"
#
=
x=p
·
¸
d
n−1
=p
=
xn(x + 1 − p)
dx
x=p
x=p
£
¤
np (x + 1 − p)n−1 + x(n − 1)(x + 1 − p)n−2 x=p = np(1 − p) + (np)2 ,
d d
p
x (x + 1 − p)n
dx dx
¸
îòêóäà äèñïåðñèÿ áèíîìèàëüíîãî ðàñïðåäåëåíèÿ σ 2 = EX 2 − (EX)2 =
np(1 − p).
Ñ ïîìîùüþ àíàëîãè÷íûõ, íî áîëåå óòîìèòåëüíûõ âûêëàäîê ìîæíî íàéòè òðåòèé è ÷åòâåðòûé ìîìåíòû, à òàêæå êîýôôèöèåíòû àñèììåòðèè è
ýêñöåññà
1 − 2p
1 − 6p(1 − p)
γ1 = p
, γ2 =
.
np(1 − p)
np(1 − p)
Ñëåäîâàòåëüíî, áèíîìèàëüíîå ðàñïðåäåëåíèå ñâàëåíî âëåâî ( õâîñò ñïðàâà äëèííåå) ïðè p < 1/2, ñèììåòðè÷íî, êàê íàì áûëî èçâåñòíî ðàíåå, ïðè
p = 1/2 è ñâàëåíî âïðàâî ïðè p > 1/2. Êîýôôèöèåíò ýêñöåññà ïîëîæèòåëåí â îáëàñòè p(1 − p) < 1/6, à íàèáîëüøåå ïî àáñîëþòíîé âåëè÷èíå
îòðèöàòåëüíîå çíà÷åíèå γ2 = −2/n, êîãäà p = 1/2.
Ìîäà B(n, p) îïðåäåëÿåòñÿ êàê öåëî÷èñëåííîå x, ïðè êîòîðîì ïðîèñõîäèò ñìåíà íåðàâåíñòâà f (x | n, p) < f (x + 1 | n, p) íà îáðàòíîå. Íåòðóäíî
óáåäèòüñÿ, ÷òî ýòî íåðàâåíñòâî ýêâèâàëåíòíî x + 1 < p(n + 1), òàê ÷òî
mod(X ) îïðåäåëÿåòñÿ ÷åðåç ñðàâíåíèå çíà÷åíèé f (x | n, p) ïðè öåëûõ x ≥ 0,
áëèæàéøèõ ê p(n + 1).
65
Ï ð è ì å ð 6.2 (ðàñïðåäåëåíèå Ïóàññîíà P(λ)). Íîñèòåëü ðàñïðåäåëåíèÿ
X = {0, 1, . . . , ∞} òî÷êà x = ∞ äîëæíà áûòü âêëþ÷åíà â íîñèòåëü ïî
òðåáîâàíèþ çàìûêàíèÿ ìíîæåñòâà âåðîÿòíîñòè åäèíèöà. Ìîìåíòíûå õàðàêòåðèñòèêè ïóàññîíîâñêîãî ðàñïðåäåëåíèÿ ìîæíî ðàññ÷èòàòü, èñïîëüçóÿ
òîò æå ìåòîä äèôôåðåíöèðîâàíèÿ ïî ïàðàìåòðó, íî ïðîùå, âñïîìíèâ, ÷òî
P(λ) åñòü ïðåäåë B(n,p) ïðè n → ∞, p → 0 è np = λ, ïåðåéòè ê ýòîìó
ïðåäåëó â ìîìåíòíûõ õàðàêòåðèñòèêàõ áèíîìèàëüíîãî ðàñïðåäåëåíèÿ. Â
ðåçóëüòàòå ïîëó÷àåì
EX = DX = λ, γ1 = λ−1/2 , γ2 = λ−1 ,
à mod(X) = [ λ ], ïîñêîëüêó àñèììåòðèÿ P(λ) âñåãäà ïîëîæèòåëüíà è ãðàôèê f (x | λ) ñâàëåí âëåâî.
Ñëåäóåò îáðàòèòü îñîáîå âíèìàíèå íà òî, ÷òî ó ðàñïðåäåëåíèÿ Ïóàññîíà
äèñïåðñèÿ ñîâïàäàåò ñî ñðåäíèì çíà÷åíèåì: µ = σ 2 = λ.
Ï ð è ì å ð 6.3 (ðàâíîìåðíîå ðàñïðåäåëåíèå U(a, b)). Íîñèòåëü ðàñïðåäåëåíèÿ X = [ a; b ]. Ìîäîé ðàñïðåäåëåíèÿ ÿâëÿåòñÿ ëþáàÿ òî÷êà èíòåðâàëà
(a, b), ïîñêîëüêó ïëîòíîñòü f (x) = (b − a)−1 ïîñòîÿííà íà ýòîì èíòåðâàëå.
Íåòðóäíî óáåäèòüñÿ, ÷òî åñëè ñëó÷àéíàÿ âåëè÷èíà X èìååò ðàñïðåäåëåíèå U(0, 1), òî Y = (b − a)X + a, b > a, ðàñïðåäåëåíà êàê U(a, b). Ýòî
ïðîèñòåêàåò èç-çà ñëåäóþùåãî ñîîòíîøåíèÿ ìåæäó ôóíêöèÿìè ðàñïðåäåëåíèÿ ñëó÷àéíûõ âåëè÷èí: P (Y < x) = P ((b − a)X + a < x) = P (X <
(x − a)/(b − a)) = (x − a)/(b − a).  ñèëó ýòîãî äëÿ âû÷èñëåíèÿ ìîìåíòíûõ
õàðàêòåðèñòèê U(a, b) äîñòàòî÷íî íàéòè ñîîòâåòñòâóþùèå õàðàêòåðèñòèêè
U(0, 1) è çàòåì âîñïîëüçîâàòüñÿ ïðåäëîæåíèåì 6.1.
Äëÿ ðàñïðåäåëåíèÿ U(0, 1) èìååì
Z1
µ = EX =
Z1
xdx = 1/2,
x2 dx = 1/3,
α2 =
îòêóäà äèñïåðñèÿ σ 2 = 1/3 − 1/4 = 1/12. Ñëåäîâàòåëüíî, äëÿ ðàñïðåäåëåíèÿ U(a, b) (ñì. ïðåäëîæåíèå 6.1) µ = a + (b − a)/2, σ 2 = (b − a)2 /12.
Ñèììåòðè÷íîå ðàâíîìåðíîå ðàñïðåäåëåíèå U(a, b) èìååò íóëåâîé êîýôôèöèåíò àñèììåòðèè, â òî âðåìÿ êàê êîýôôèöèåíò ýêñöåññà γ2 îòðèöàòåëåí
(íå áóäåì çàíèìàòüñÿ åãî âû÷èñëåíèåì).
Ï ð è ì å ð 6.4 (ïîêàçàòåëüíîå ðàñïðåäåëåíèå E(θ)). Íîñèòåëü ðàñïðåäåëåíèÿ X = [ 0, ∞ ] ðàñøèðåííàÿ ïîëîæèòåëüíàÿ ÷àñòü ïðÿìîé R. Íàè66
áîëüøåå çíà÷åíèå ïëîòíîñòè f (x) = θ−1 exp{−x/θ} äîñòèãàåòñÿ â òî÷êå
x = 0, ïîýòîìó mod(X )=0.
Ìîìåíòû ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ
Z∞
αk = θ−1
Z∞
xk exp{−x/θ}dx = θk
xk e−x dx = Γ(k + 1)θk = k!θk ,
îòêóäà µ = θ, σ 2 = θ2 è ñòàíäàðòíîå îòêëîíåíèå σ = θ ñîâïàäàåò ñî
ñðåäíèì çíà÷åíèåì.
Åñòåñòâåííî, ìîìåíòíûå õàðàêòåðèñòèêè äàëåêî íå óíèâåðñàëüíû, è ìîæíî ïðèâåñòè ïðèìåðû ðàñïðåäåëåíèé, ó êîòîðûõ ñóùåñòâóåò îãðàíè÷åííîå
êîëè÷åñòâî ìîìåíòîâ, èëè íå ñóùåñòâóåò äàæå ñðåäíåãî çíà÷åíèÿ. Ìû ïðèâåäåì äâà èç òàêèõ ðàñïðåäåëåíèé, îäíî èç êîòîðûõ ìîæåò ïðåäñòàâëÿòü
íåêîòîðûé ïðàêòè÷åñêèé èíòåðåñ, à äðóãîå áóäåò èñïîëüçîâàòüñÿ äëÿ èëëþñòðàöèé ðàçëè÷íûõ ïàòàëîãèé â òåîðèè ñòàòèñòè÷åñêîãî âûâîäà; îáà ðàñïðåäåëåíèÿ çàíîñÿòñÿ â êàòàëîã âåðîÿòíîñòíûõ ìîäåëåé.
Ðàñïðåäåëåíèå Ïàðåòî Par(a, α). Íàëîãîâûå îðãàíû îáû÷íî èíòåðå-
ñóþòñÿ ðàñïðåäåëåíèåì ãîäîâûõ äîõîäîâ òåõ ëèö, ãîäîâîé äîõîä êîòîðûõ
ïðåâîñõîäèò íåêîòîðûé ïðåäåë a, óñòàíîâëåííûé çàêîíàìè î íàëîãîîáëîæåíèè. Òàêîãî ðîäà ðàñïðåäåëåíèÿ èíîãäà ñ÷èòàþò (ê ñîæàëåíèþ, áåç îñîáîãî
ýêîíîìè÷åñêîãî îáîñíîâàíèÿ) ïðèáëèæåííî ñîâïàäàþùèìè ñ ðàñïðåäåëåíèåì Ïàðåòî, âñÿ âåðîÿòíîñòíàÿ ìàññà êîòîðîãî ñîñðåäîòî÷åíà â îáëàñòè
x > a (íîñèòåëü ðàñïðåäåëåíèÿ X = [ a, ∞ ]), è ôóíêöèÿ ðàñïðåäåëåíèÿ íà
ñåãìåíòå X ðàâíà
F (x) = 1 −
³ a ´α
x
,
x > a, α > 0.
Ýòî ðàñïðåäåëåíèå, çàâèñÿùåå îò äâóìåðíîãî ïàðàìåòðà θ = (a, α) ñ ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì Θ = R+ × R+ , ïðèíàäëåæèò íåïðåðûâíîìó
òèïó; åãî ôóíêöèÿ ïëîòíîñòè â îáëàñòè x > a ðàâíà
α ³ a ´α+1
f (x | θ) =
.
a x
Ìîìåíò k -ãî ïîðÿäêà ó ðàñïðåäåëåíèÿ Ïàðåòî ñóùåñòâóåò òîëüêî ïðè çíà÷åíèÿõ ïàðàìåòðà α > k, íàïðèìåð, íåðàâåíñòâî α > 1 ãàðàíòèðóåò ñóùåñòâîâàíèå ñðåäíåãî çíà÷åíèÿ, êîòîðîå, êàê íåòðóäíî ïîäñ÷èòàòü, ðàâíî
αa/(α − 1).
67
Åñëè ñëó÷àéíàÿ âåëè÷èíà X ðàñïðåäåëåíà ïî çàêîíó Ïàðåòî, òî, êàê ëåãêî âèäåòü, ln X èìååò ïîêàçàòåëüíîå ðàñïðåäåëåíèå, ñäâèíóòîå âïðàâî íà
âåëè÷èíó ln a, òàê êàê P (ln X < x) = P (X < ex ) = F (ex ). Ýòî çàìå÷àíèå
îáúÿñíÿåò, ïî÷åìó ðàñïðåäåëåíèå Ïàðåòî àäåêâàòíî îïèñûâàåò ðàñïðåäåëåíèå íàáëþäàåìûõ äîõîäîâ ó ëèö ñ âûñîêèì óðîâíåì äîõîäà. Âñïîìíèì
ïîñòóëàò îòñóòñòâèÿ ïîñëåäåéñòâèÿ , ïðèâîäÿùèé ê ïîêàçàòåëüíîìó ðàñïðåäåëåíèþ äîëãîâå÷íîñòè: âåðîÿòíîñòü òîãî, ÷òî èçäåëèå ïðîñëóæèò ïðîìåæóòîê âðåìåíè, íå ìåíüøèé s, ïðè óñëîâèè, ÷òî îíî óæå îòðàáîòàëî
ñðîê t, íå çàâèñèò îò âåëè÷èíû t.  îñíîâó ìîäåëè Ïàðåòî ïîëîæåí òîò æå
ïðèíöèï, òîëüêî â ìóëüòèïëèêàòèâíîé, à íå â àääèòèâíîé, ôîðìóëèðîâêå:
âåðîÿòíîñòü òîãî, ÷òî äîõîä îòäåëüíîãî ëèöà óâåëè÷èòñÿ íå ìåíüøå,
÷åì â s ðàç, ïðè óñëîâèè, ÷òî îí óæå äîñòèã óðîâíÿ t, íå çàâèñèò îò âåëè÷èíû äîñòèãíóòîãî óðîâíÿ. Ýòî ïðîèñõîäèò, ïîâèäèìîìó, îò òîãî, ÷òî
îáëàäàþùèé áîëüøèìè äîõîäàìè ñòðåìèòñÿ ñîõðàíèòü äîñòèãíóòîå ïîëîæåíèå è ðåäêî ñòðåìèòñÿ âêëàäûâàòü áîëüøèå êàïèòàëû â íîâûå îòðàñëè ñ
öåëüþ íàðàùèâàíèÿ äåíåæíîé ìàññû.  òàêîì ñëó÷àå èçìåí÷èâîñòü äîõîäà
çà íàáëþäàåìûå ïåðèîäû âðåìåíè íîñèò ñëó÷àéíûé õàðàêòåð è íå ñâÿçàíà ñ âåëè÷èíîé êàïèòàëà, êîòîðûì ðàñïîëàãàþò îòäåëüíûå ñóáúåêòû.  òî
æå âðåìÿ ó ïðåäïðèíèìàòåëåé ðàñïðåäåëåíèå äîõîäîâ îòëè÷íî îò çàêîíà
Ïàðåòî. Ýòî òàê íàçûâàåìîå ëîãàðèôìè÷åñêè íîðìàëüíîå ðàñïðåäåëåíèå, ñ
êîòîðûì ìû ïîçíàêîìèìñÿ íåñêîëüêî ïîçæå, îñâîèâ íîâûå ìàòåìàòè÷åñêèå
ìåòîäû ïîñòðîåíèÿ âåðîÿòíîñòíûõ ìîäåëåé.
Ðàñïðåäåëåíèå Êîøè C(a, b). Îðóäèå ñ âðàùàþùèìñÿ ëàôåòîì ïî-
ìåùàåòñÿ íà åäèíè÷íîì ðàññòîÿíèè îò ñòåíû, áåñêîíå÷íî óõîäÿùåé â îáå
ñòîðîíû.
x
@
I
@
@
@
@
ϕ
@
®
@
@
@
Ïðåäñòàâèì, ÷òî ñòåíà ÿâëÿåòñÿ äåéñòâèòåëüíîé ïðÿìîé R ñ íà÷àëîì
êîîðäèíàò â îñíîâàíèè ïåðïåíäèêóëÿðà, îïóùåííîãî èç îðóäèÿ íà ñòåíó.
Ñòâîë îðóäèÿ ðàçìåùàåòñÿ ïàðàëëåëüíî ñòåíå ñ íàïðàâëåíèåì âûñòðåëà â
ñòîðîíó îòðèöàòåëüíîé ïîëóîñè, ëàôåò îðóäèÿ íà÷èíàåò ðàâíîìåðíî âðà68
ùàòüñÿ ïî õîäó ÷àñîâîé ñòðåëêè, è ïðåæäå, ÷åì ñòâîë çàéìåò ïåðâîå ïîëîæåíèå ïàðàëëåëüíîå ñòåíå, â ñëó÷àéíûé ìîìåíò âðåìåíè ïðîèñõîäèò âûñòðåë. Ýêñïåðèìåíòàòîðà èíòåðåñóåò ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû
X, ðåàëèçàöèÿ x êîòîðîé ñîâïàäàåò ñ êîîðäèíàòîé òî÷êè ïîïàäàíèÿ ñíàðÿäà.
Ïóñòü ϕ ñëó÷àéíàÿ âåëè÷èíà, ñîîòâåòñòâóþùàÿ âåëè÷èíå óãëà, ìåæäó
ïåðïåíäèêóëÿðîì ê ñòåíå è ïîëîæåíèåì ñòâîëà â ìîìåíò âûñòðåëà. Íàì
áóäåò óäîáíåå èçìåðÿòü ϕ â ïðåäåëàõ [ −π/2; π/2 ] è òðàêòîâàòü ïðåäïîëîæåíèå î ñëó÷àéíîì ìîìåíòå âûñòðåëà â òåðìèíàõ ðàâíîìåðíîãî ðàñïðåäåëåíèÿ ϕ íà ýòîì ñåãìåíòå. Ñëåäîâàòåëüíî, ôóíêöèÿ ðàñïðåäåëåíèÿ ϕ ïðè
−π/2 ≤ x ≤ π/2 ðàâíà F (x) = (x + π/2)π −1 . Î÷åâèäíî, êîîðäèíàòà òî÷êè
ïîïàäàíèÿ (ñì. ðèñóíîê) X = tg ϕ, îòêóäà èñêîìàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ
F (x) = P (X < x) = P (tg ϕ < x) = P (ϕ < arctg x) =
1³
π´
arctg x +
, x ∈ R,
π
2
à ôóíêöèÿ ïëîòíîñòè
1
1
f (x) = ·
.
π 1 + x2
Ñäâèã âïðàâî íà ïàðàìåòð a è âûáîð ìàñøòàáíîãî ïàðàìåòðà b îïðåäåëÿåò òî ðàñïðåäåëåíèå, êîòîðîìó ìû ïðèñâîèì èìÿ Êîøè è áóäåì îáîçíà÷àòü
C(a, b); åãî ôóíêöèÿ ïëîòíîñòè
"
µ
¶2 #−1
x−a
1
f (x | a, b) =
1+
,
πb
b
íîñèòåëåì ðàñïðåäåëåíèÿ ÿâëÿåòñÿ ðàñøèðåííàÿ ÷èñëîâàÿ ïðÿìàÿ X = R̄ =
[ −∞, +∞ ].
Ëåãêî âèäåòü, ÷òî ðàñïðåäåëåíèå Êîøè íå îáëàäàåò äàæå êîíå÷íûì
ñðåäíèì çíà÷åíèåì, íå ãîâîðÿ î ìîìåíòàõ áîëåå âûñîêîãî ïîðÿäêà. Îäíàêî
ýòî ðàñïðåäåëåíèå ñèììåòðè÷íî è èìååò ÿðêî âûðàæåííóþ ìîäó, mod(X )=a,
êîòîðàÿ ñ óñïåõîì çàìåíÿåò ñðåäíåå çíà÷åíèå, êàê õàðàêòåðèñòèêó ïîëîæåíèÿ öåíòðà ìàññ.  ñâÿçè ñ ýòèì ïîëåçíî ñäåëàòü çàìå÷àíèå î ñðåäíåì
çíà÷åíèè êàê õàðàêòåðèñòèêå ïîëîæåíèÿ: îíî äåéñòâèòåëüíî èãðàåò ñâîþ
ðîëü òîëüêî â ñëó÷àå ñèììåòðè÷íûõ ðàñïðåäåëåíèé, íî ïðè áîëüøèõ àáñîëþòíûõ çíà÷åíèÿõ γ1 ñðåäíåå ïåðåñòàåò áûòü ïîëåçíîé õàðàêòåðèñòèêîé
ðàñïðåäåëåíèÿ, â òî âðåìÿ êàê ìîäà âñåãäà õîðîøà .
69
Êàêèå æå õàðàêòåðèñòèêè èñïîëüçóþòñÿ ïðè îïèñàíèè ðàñïðåäåëåíèé,
ó êîòîðûõ îòñóòñòâóþò ìîìåíòû?
Îïðåäåëåíèå 6.3 Ïóñòü ôóíêöèÿ ðàñïðåäåëåíèÿ F (x) ñëó÷àéíîé âå-
ëè÷èíû X ñòðîãî âîçðàñòàåò â îáëàñòè âñåõ çíà÷åíèé ñâîåãî àðãóìåíòà, äëÿ
êîòîðûõ 0 < F (x) < 1. Òîãäà äëÿ ëþáîãî p ∈ (0; 1) êîðåíü xp = F −1 (p)
óðàâíåíèÿ F (x) = p íàçûâàåòñÿ p-êâàíòèëüþ ðàñïðåäåëåíèÿ X.
 òîì ñëó÷àå, êîãäà F (x) íåïðåðûâíà, íî íå ñòðîãî ìîíîòîííà, òàê ÷òî
óðàâíåíèå F (x) = p èìååò ìíîãî ðåøåíèé, â êà÷åñòâå p-êâàíòèëè îáû÷íî
áåðåòñÿ íàèáîëüøèé èëè íàèìåíüøèé èç êîðíåé ýòîãî óðàâíåíèÿ, è âûáîð
êîðíÿ îïðåäåëÿåòñÿ ñóùåñòâîì ðàññìàòðèâàåìîé âåðîÿòíîñòíîé ïðîáëåìû.
 ñëó÷àå æå äèñêðåòíîãî ðàñïðåäåëåíèÿ ýòî óðàâíåíèå ìîæåò âîîáùå íå
èìåòü ðåøåíèé, è òîãäà â êà÷åñòâå p-êâàíòèëè âûáèðàåòñÿ òî çíà÷åíèå x,
äëÿ êîòîðîãî çíà÷åíèå F (x) áëèæå âñåãî ê çàäàííîìó p.
Êâàíòèëü ñ÷èòàåòñÿ õàðàêòåðèñòèêîé ïîëîæåíèÿ, è ñ ýòîé òî÷êè çðåíèÿ îñîáîãî âíèìàíèÿ çàñëóæèâàåò êâàíòèëü x0.5 , êîòîðàÿ ðàçäåëÿåò âñþ
âåðîÿòíîñòíóþ ìàññó íà äâå îäèíàêîâûå ïîëîâèíêè. Ýòà êâàíòèëü íîñèò
íàçâàíèå ìåäèàíû ðàñïðåäåëåíèÿ è îáû÷íî îáîçíà÷àåòñÿ áóêâîé m. Ó ñèììåòðè÷íûõ ðàñïðåäåëåíèé (áèíîìèàëüíîå ñ âåðîÿòíîñòüþ óñïåøíîãî èñïûòàíèÿ p = 1/2, ðàâíîìåðíîå è Êîøè) ìåäèàíà ñîâïàäàåò ñ öåíòðîì ñèììåòðèè ðàñïðåäåëåíèÿ, à ïðè íàëè÷èè ñðåäíåãî çíà÷åíèÿ ó ñèììåòðè÷íîãî
ðàñïðåäåëåíèÿ ìåäèàíà m = EX. Åñëè p êðàòíî 0.1, òî êâàíòèëü íàçûâàåòñÿ äåöèëüþ, à åñëè p = 1/4 èëè 3/4, òî êâàðòèëüþ.
Ñ êâàíòèëÿìè ñâÿçàíû òàêæå íåñêîëüêî õàðàêòåðèñòèê ðàññåÿíèÿ ðàñïðåäåëåíèÿ âåðîÿòíîñòåé. Î÷åâèäíî, èíòåðâàë (x1−p ; xp ) ïðè äîñòàòî÷íî
áëèçêèõ ê åäèíèöå çíà÷åíèÿõ p íàêðûâàåò îñíîâíóþ ÷àñòü âåðîÿòíîñòíîé
ìàññû, è ïîýòîìó ðàçíîñòü xp − x1−p , p > 1/2, ñëóæèò õàðàêòåðèñòèêîé
òîëåðàíòíîñòè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû X. Åñëè p = 3/4, òî
ðàçíîñòü x3/4 − x1/4 íàçûâàåòñÿ ñåìèèíòåðêâàðòèëüíîé øèðîòîé ðàñïðåäåëåíèÿ X.
Ëåêöèÿ 11
Ìû çàâåðøèì ýòîò ïàðàãðàô äîêàçàòåëüñòâîì îäíîãî çàìå÷àòåëüíîãî
íåðàâåíñòâà, èãðàþùåãî èñêëþ÷èòåëüíóþ ðîëü ïðè äîêàçàòåëüñòâå ìíîãèõ
òåîðåì (èëè, êàê ÷àñòî ãîâîðÿò, çàêîíîâ ) òåîðèè âåðîÿòíîñòåé. Ýòî íåðàâåíñòâî èëè, â áîëüøåé ñòåïåíè, ñëåäñòâèå èç íåãî ñâÿçûâàåò êâàíòèëüíûå
è ìîìåíòíûå õàðàêòåðèñòèêè ðàññåÿíèÿ ðàñïðåäåëåíèÿ.
70
Ïðåäëîæåíèå 6.2 (í å ð à â å í ñ ò â î
× å á û ø å â à). Äëÿ ëþáîé íåîòðèöàòåëüíîé èçìåðèìîé ôóíêöèè g(x) è ëþáîãî ε > 0 èìååò ìåñòî íåðàâåíñòâî
P ( g(X) > ε ) ≤
E g(X)
.
ε
Ä î ê à ç à ò å ë ü ñ ò â î. Åñëè E g(X) = +∞, òî íåðàâåíñòâî òðèâèàëüíî.
 ñëó÷àå êîíå÷íîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ
Z
Z
E g(X) =
Z
g(x)dP (x) =
R
g(x)dP (x) +
g(x)<ε
g(x)dP (x).
g(x)≥ε
Åñëè â ïðàâîé ÷àñòè ýòîãî ðàâåíñòâà ïåðâîå ñëàãàåìîå çàìåíèòü íóëåì
(îíî íåîòðèöàòåëüíî), à âî âòîðîì ñëàãàåìîì ïîä èíòåãðàëîì âìåñòî g(x)
ïîäñòàâèòü åãî íàèìåíüøåå çíà÷åíèå ε, òî ïîëó÷èì îöåíêó ñíèçó
Z
E g(X) ≥ ε
dP (x) = εP (g(X) > ε),
g(x)>ε
èç êîòîðîé íåìåäëåííî ñëåäóåò íåðàâåíñòâî ×åáûøåâà.
Ñëåäñòâèå 6.1. Äëÿ ëþáîé ñëó÷àéíîé âåëè÷èíû X ñ êîíå÷íûì ñðåä-
íèì çíà÷åíèåì EX è ëþáîãî ε > 0 èìååò ìåñòî íåðàâåíñòâî
P (|X − EX| > ε) ≤
DX
.
ε2
(2)
Ä î ê à ç à ò å ë ü ñ ò â î. Åñëè äèñïåðñèÿ X íå ñóùåñòâóåò (ðàâíà áåñêîíå÷íîñòè), òî óòâåðæäåíèå ñëåäñòâèÿ òðèâèàëüíî.  ñëó÷àå DX < ∞ äîñòà2
òî÷íî çàìåíèòü ñîáûòèå |X − EX| > ε íà ýêâèâàëåíòíîå |X − EX| > ε2
è ïðèìåíèòü íåðàâåíñòâî ×åáûøåâà.
Äîêàçàííîå íåðàâåíñòâî ÷àñòî èñïîëüçóåòñÿ íà ïðàêòèêå äëÿ óíèâåðñàëüíîé õàðàêòåðèñòèêè òîëåðàíòíîñòè ðàñïðåäåëåíèé, îáëàäàþùèõ êîíå÷íûì ñðåäíèì µ è êîíå÷íîé äèñïåðñèåé σ 2 . Èìååòñÿ â âèäó ðàñïðîñòðàíåííîå
Ïðàâèëî òðåõ ñèãì. Èíòåðâàë ñ êîíöàìè µ ± 3σ ñîäåðæèò ïðèáëèçè-
òåëüíî 90% âåðîÿòíîñòíîé ìàññû ðàñïðåäåëåíèÿ X.
Äåéñòâèòåëüíî, åñëè â íåðàâåíñòâå (2) ïîëîæèòü ε = 3σ, òî ïîëó÷èì:
P (µ − 3σ ≤ X ≤ µ + 3σ) = 1 − P (|X − µ| > 3σ) ≥ 8/9 ≈ 0.9.
71
Òàê êàê ïðàâèëî 3σ íîñèò óíèâåðñàëüíûé õàðàêòåð, òî îíî äàåò â áîëüøèíñòâå ñëó÷àåâ ñëèøêîì ãðóáóþ îöåíêó òîëåðàíòíîñòè ðàñïðåäåëåíèÿ.
Íàïðèìåð, ìîæíî äîêàçàòü, ÷òî äëÿ ñèììåòðè÷íûõ ðàñïðåäåëåíèé ñ êîíå÷íûì òðåòüèì ìîìåíòîì µ3 ñïðàâåäëèâî ïðàâèëî 2σ : èíòåðâàë ñ êîíöàìè
µ ± 2σ ñîäåðæèò 90% âåðîÿòíîñòíîé ìàññû ðàñïðåäåëåíèÿ.
 äàëüíåéøåì, ÷òîáû íå ïèñàòü äëèííûå íàçâàíèÿ ðàññìîòðåííûõ íàìè
ðàñïðåäåëåíèé, ìû áóäåì óêàçûâàòü ðàñïðåäåëåíèå X ïîñðåäñòâîì ññûëêè
íà ñèìâîë ýòîãî ðàñïðåäåëåíèÿ, èñïîëüçóÿ ïðè ýòîì çíàê ýêâèâàëåíòíîñòè,
íàïðèìåð, X ∼ B(n, p) îçíà÷àåò, ÷òî X èìååò áèíîìèàëüíîå ðàñïðåäåëåíèå.
72
7. Ïðåäåëüíûå òåîðåìû â ñõåìå èñïûòàíèé Áåðíóëëè.
Íîðìàëüíîå ðàñïðåäåëåíèå
Ïðè âûâîäå ðàñïðåäåëåíèÿ Ïóàññîíà ìû èññëåäîâàëè àñèìïòîòèêó áèíîìèàëüíîãî ðàñïðåäåëåíèÿ, êîãäà n → ∞, p → 0, np = λ (const). Ñóùåñòâóåò, îäíàêî, øèðîêèé êëàññ ïðàêòè÷åñêèõ çàäà÷, â êîòîðûõ ïîñòðîåíèå
âåðîÿòíîñòíûõ ìîäåëåé òðåáóåò àñèìïòîòè÷åñêîãî àíàëèçà áèíîìèàëüíîãî
ðàñïðåäåëåíèÿ ïðè ôèêñèðîâàííîì p ∈ (0; 1) è n → ∞.
Ï ð è ì å ð 7.1 (îïðåäåëåíèå âèäèìîé çâåçäíîé âåëè÷èíû). Íàáëþäåíèÿ
çà èçìåíåíèåì áëåñêà íåáåñíûõ ñâåòèë, â ÷àñòíîñòè çâåçä, ÿâëÿåòñÿ îäíîé
èç âàæíåéøèõ çàäà÷ ïðàêòè÷åñêîé àñòðîíîìèè. Òîëüêî ñ ïîìîùüþ àíàëèçà
òàêèõ íàáëþäåíèé ìîæíî îáíàðóæèòü ïåðåìåííûå çâåçäû, ïîñòàâëÿþùèå
èíôîðìàöèþ î ðàññòîÿíèÿõ äî îòäàëåííûõ ñâåòèë (öåôåèäû), à òàêæå îá
èõ ìàññàõ, ðàçìåðàõ è ïð. (çàòìåííûå ïåðåìåííûå è ñïåêòðàëüíî-äâîéíûå
çâåçäû).
Âåëè÷èíà áëåñêà çâåçäû îïðåäåëÿåòñÿ òàê íàçûâàåìîé âèäèìîé çâåçäíîé
âåëè÷èíîé õàðàêòåðèñòèêîé ñâåòèìîñòè, ïðîïîðöèîíàëüíîé êîëè÷åñòâó
êâàíòîâ ñâåòà, èñõîäÿùèõ îò çâåçäû è äîñòèãøèõ ïðèáîðà (ýëåêòðè÷åñêîãî
ôîòîìåòðà, ôîòîãðàôè÷åñêîé ïëàñòèíêè è ò.ï.), êîòîðûé ðåãèñòðèðóåò ïîòîê ëó÷åâîé ýíåðãèè. Ñ òî÷êè çðåíèÿ ïðîáëåìû ïîñòðîåíèÿ âåðîÿòíîñòíîé
ìîäåëè èçìåí÷èâîñòè â ïîâòîðíûõ íàáëþäåíèÿõ áëåñêà, ìû èìååì òó æå
êàðòèíó, ÷òî è ïðè èçìåðåíèÿõ èíòåíñèâíîñòè ðàäèîàêòèâíîãî èñòî÷íèêà:
êàæäûé êâàíò ñâåòà ñ îïðåäåëåííîé âåðîÿòíîñòüþ p äîñòèãàåò ðåãèñòðèðóþùåãî ïðèáîðà, è îáùåå êîëè÷åñòâî ðåãèñòðèðóåìûõ êâàíòîâ îïðåäåëÿåò
ðåçóëüòàò íàáëþäåíèÿ áëåñêà çâåçäû. Ïðèíöèïèàëüíîå ðàçëè÷èå ñ èçìåðåíèÿìè ðàäèîàêòèâíîñòè ñîñòîèò â äîñòàòî÷íî áîëüøîì çíà÷åíèè âåðîÿòíîñòè óñïåøíîãî èñõîäà p, â òî âðåìÿ êàê îáùåå êîëè÷åñòâî èñïûòàíèé n
(â äàííîì ñëó÷àå êîëè÷åñòâî êâàíòîâ, íàïðàâëåííûõ íà ïðèáîð) ÷ðåçâû÷àéíî âåëèêî. Òàêèì îáðàçîì âîçíèêàåò ïðîáëåìà àñèìïòîòè÷åñêîãî àíàëèçà áèíîìèàëüíîãî ðàñïðåäåëåíèÿ ïðè ôèêñèðîâàííîì p è n → ∞.
Ï ð è ì å ð 7.2 (îïðåäåëåíèå îáùåãî ñîäåðæàíèÿ ñåðû â äèçåëüíîì òîïëèâå). Îáùåå ñîäåðæàíèå ñåðû ñëóæèò îäíîé èç âàæíûõ õàðàêòåðèñòèê
ýêîëîãè÷åñêîé ÷èñòîòû äèçåëüíîãî òîïëèâà. Ðå÷ü èäåò íå îá ýëåìåíòàðíîé ñåðå (ïðîöåíòíîì ñîäåðæàíèè õèìè÷åñêîãî ýëåìåíòà S, ÷òî ñ âûñîêîé
ñòåïåíüþ òî÷íîñòè îïðåäåëÿåòñÿ ñ ïîìîùüþ ñïåêòðàëüíîãî àíàëèçà âåùåñòâà), à ñïîñîáíîñòè ýëåìåíòà S ïðè ñãîðàíèè òîïëèâà ñîåäèíÿòüñÿ ñ êèñëîðîäîì, îáðàçóÿ ñåðíûé ãàç SO2 . Èìåííî ýòîò ãàç ÷åðåç âûõëîïíûå òðóáû
73
ìàøèí ïîïàäàåò â ñðåäó íàøåãî îáèòàíèÿ è ñîåäèíÿåòñÿ ñ âîäîé, îáðàçóÿ
ñåðíóþ êèñëîòó H2 SO4 . Íó, à ÷òî òàêîå ñåðíàÿ êèñëîòà, è ÷òî îíà ìîæåò
íàòâîðèòü ñ íàøèìè ëåãêèìè, âû çíàåòå èç øêîëüíîãî êóðñà õèìèè.
Èòàê, ðå÷ü èäåò î õèìè÷åñêîé àêòèâíîñòè ñåðû, ñîäåðæàùåéñÿ â äèçåëüíîì òîïëèâå â ñâÿçàííîì âèäå. Àíàëèç ýòîé àêòèâíîñòè ïðîèçâîäèòñÿ ñëåäóþùèì îáðàçîì. Áåðåòñÿ îïðåäåëåííîå êîëè÷åñòâî äèçåëüíîãî òîïëèâà,
ñêàæåì 100 ãðàìì, è ñæèãàåòñÿ â çàìêíóòîé êîëáå. Ïðîäóêòû ñãîðàíèÿ ÷àñòè÷íî âûïàäàþò â çîëó èëè â âèäå äûìà ïî òðóá÷àòîìó îòâîäó ïîïàäàþò
â äðóãóþ çàìêíóòóþ êîëáó, íàïîëíåííóþ âîäîé. Ñåðíûé ãàç ñîåäèíÿåòñÿ
ñ âîäîé, îáðàçóÿ ðàñòâîð ñåðíîé êèñëîòû. Òèòðóÿ ýòîò ðàñòâîð îïðåäåëåííûì êîëè÷åñòâîì ùåëî÷è, ìû ìîæåì îïðåäåëèòü îáùåå êîëè÷åñòâî ýëåìåíòà ñåðû, êîòîðîå èç äèçåëüíîãî òîïëèâà ÷åðåç ñæèãàíèå è ïîñëåäóþùåå
ñîåäèíåíèå ñ êèñëîðîäîì è âîäîé ïåðåøëî â ñåðíóþ êèñëîòó. Ðàçäåëèâ ýòî
êîëè÷åñòâî ñåðû íà âåñ àíàëèçèðóåìîé ïðîáû òîïëèâà (100 ãðàìì) è óìíîæèâ ðåçóëüòàò íà 100%, ìû ïîëó÷èì ðåçóëüòàò x íàøåãî ñòàòèñòè÷åñêîãî
ýêñïåðèìåíòà ïî íàáëþäåíèþ ñëó÷àéíîé âåëè÷èíû X.
Ïîâòîðíûå àíàëèçû àíàëîãè÷íûõ ïðîá òîé æå ïàðòèè òîïëèâà, â òåõ æå
óñëîâèÿõ ýêñïåðèìåíòà è íà òåõ æå ïðèáîðàõ óêàçûâàþò íà çíà÷èòåëüíóþ
èçìåí÷èâîñòü ðåçóëüòàòîâ êàæäîãî ýêñïåðèìåíòà. Ìåòðîëîãè÷åñêèé àíàëèç
èñïûòàíèé óêàçûâàåò íà òî, ÷òî ýòà èçìåí÷èâîñòü â ïåðâóþ î÷åðåäü îáóñëîâëåíà ñëó÷àéíûì õàðàêòåðîì ïðîöåññîâ ñïåêàíèÿ îïðåäåëåííîãî êîëè÷åñòâà ñåðû ñ äðóãèìè ïðîäóêòàìè ñãîðàíèÿ è âûïàäåíèÿ èõ â çîëó, à òàêæå
íåïîëíûì ñîåäèíåíèåì ñåðíîãî ãàçà ñ âîäîé. Ãðóáî ãîâîðÿ, êàæäàÿ ìîëåêóëà ñåðû òîëüêî ñ íåêîòîðîé äîñòàòî÷íî âûñîêîé âåðîÿòíîñòüþ p ìîæåò
äîñòè÷ü ñâîåãî êîíå÷íîãî ñîñòîÿíèÿ â ìîëåêóëå ñåðíîé êèñëîòû è âíåñòè
ñâîé âêëàä â ðåçóëüòàò x íàáëþäåíèÿ X. Ïîíÿòíî, ÷òî êîëè÷åñòâî n ìîëåêóë ñåðû â ïðîáå òîïëèâà ÷ðåçâû÷àéíî âåëèêî. Ñëåäîâàòåëüíî, ìû èìååì
äåëî ñ ïðîáëåìîé àñèìïòîòè÷åñêîãî àíàëèçà áèíîìèàëüíîãî ðàñïðåäåëåíèÿ
ïðè ðàñòóùåì ÷èñëå èñïûòàíèé n è ïîñòîÿííîé âåðîÿòíîñòè óñïåõà p.
Îãðàíè÷èìñÿ ðàññìîòðåíèåì ýòèõ äâóõ ïðèìåðîâ, èç êîòîðûõ ëåãêî âèäåòü, ÷òî ñóùåñòâóåò îáøèðíåéøèé êëàññ ñòàòèñòè÷åñêèõ ýêñïåðèìåíòîâ,
ñâÿçàííûõ ñ íàáëþäåíèåì ëèíåéíîé ôóíêöèè îò ñëó÷àéíîé âåëè÷èíû ñ áèíîìèàëüíûì çàêîíîì ðàñïðåäåëåíèÿ B(n, p), â êîòîðîì p=const, à n ÷ðåçâû÷àéíî âåëèêî. Ïðîâåäåì àñèìïòîòè÷åñêèé àíàëèç òàêîé ñèòóàöèè è íà÷íåì åãî ñ èññëåäîâàíèÿ àñèìïòîòè÷åñêîãî ïîâåäåíèÿ X/n ÷àñòîòíîé
îöåíêè âåðîÿòíîñòè p óñïåøíîãî èñïûòàíèÿ â ñõåìå Áåðíóëëè. Òîò ôàêò,
÷òî ïðè n → ∞ îòíîñèòåëüíàÿ ÷àñòîòà X/n ñòðåìèòñÿ ê p â îïðåäåëåííîì
74
âåðîÿòíîñòíîì ñìûñëå óñòàíàâëèâàåò îäèí èç îñíîâíûõ çàêîíîâ òåîðèè âåðîÿòíîñòåé, îòêðûòûé È.Áåðíóëëè â XVII âåêå.
Òåîðåìà 7.1. (Çàêîí áîëüøèõ ÷èñåë Áåðíóëëè). Ïóñòü X ∼ B(n, p).
Òîãäà, êàêîâî áû íè áûëî ε > 0,
¯
¶
µ¯
¯X
¯
lim P ¯¯ − p ¯¯ > ε = 0.
n→∞
n
Ä î ê à ç à ò å ë ü ñ ò â î. Âîñïîëüçóåìñÿ íåðàâåíñòâîì ×åáûøåâà â ôîðìå
ñëåäñòâèÿ 6.1, ãäå â ñëó÷àå áèíîìèàëüíîãî ðàñïðåäåëåíèÿ EX = np è
DX = np(1 − p). Èìååì
¯
µ¯
¶
¯X
¯
D(X/n) np(1 − p)/n2
p(1 − p)
¯
¯
P ¯ − p¯ > ε ≤
=
=
→ 0,
2
2
n
ε
ε
nε2
êîãäà n → ∞.
Çàêîí áîëüøèõ ÷èñåë ðàçúÿñíÿåò ïðèðîäó ñòàáèëèçàöèè îòíîñèòåëüíîé
÷àñòîòû âûïàäåíèÿ ãåðáà îêîëî çíà÷åíèÿ p = 1/2, êîòîðóþ ìû íàáëþäàëè
íà ïåðâîé ëåêöèè ïî òåîðèè âåðîÿòíîñòåé. Äåéñòâèòåëüíî, â ñëó÷àéíûõ ýêñïåðèìåíòàõ íåëüçÿ óòâåðæäàòü, ÷òî | X/n−p | ≤ ε, íà÷èíàÿ ñ íåêîòîðîãî n.
Èñòèíà â òîì, ÷òî, íà÷èíàÿ ñ íåêîòîðîãî n, ýòî íåðàâåíñòâî âûïîëíÿåòñÿ ñ
ëþáîé, íàïåðåä çàäàííîé è ñêîëü óãîäíî áëèçêîé ê åäèíèöå âåðîÿòíîñòüþ.
Òàêèì îáðàçîì ìû äîëæíû ñêàçàòü, ÷òî â äàííîì ñëó÷àå íàáëþäàåòñÿ ñõîäèìîñòü ïî âåðîÿòíîñòè, êîòîðàÿ èìååò ñîâåðøåííî äðóãóþ ïðèðîäó, ÷åì
òà ñõîäèìîñòü, êîòîðóþ ìû èçó÷àåì â êóðñå ìàòåìàòè÷åñêîãî àíàëèçà.
Âûâîä çàêîíà áîëüøèõ ÷èñåë ñîäåðæèò òàêæå îáúÿñíåíèå ôåíîìåíó, ñâÿçàííîìó ñ ïîðÿäêîì n−1/2 îøèáêè â ïðèáëèæåíèè p (= 1/2) âåëè÷èíîé
X/n.
p
Äåéñòâèòåëüíî, â ñëó÷àå p = 1/2 ñòàíäàðòíîå îòêëîíåíèå σ = D(X/n) =
√
(2 n)−1 , ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû X/n ñèììåòðè÷íî, è â ñèëó
ïðàâèëà äâóõ ñèãì èíòåðâàë 0.5±n−1/2 íàêðûâàåò 90% öåíòðàëüíîé ÷àñòè
îáëàñòè âîçìîæíûõ çíà÷åíèé X/n.
Åñòåñòâåííî, åñëè íå äåëèòü X íà n, òî X → ∞ ïî âåðîÿòíîñòè, êîãäà n → ∞. Íî åñëè X öåíòðèðîâàòü åå ñðåäíèì çíà÷åíèåì np è çàòåì
ìàñøòàáèðîâàòü ñòàíäàðòíûì îòêëîíåíèåì,
òî ïîñòðîåííàÿ òàêèì îáðàçîì
p
ñëó÷àéíàÿ âåëè÷èíà Yn = (X − np)/ np(1 − p) èìååò ïðè n → ∞ íåâûðîæäåííîå ðàñïðåäåëåíèå. Âèä ýòîãî ðàñïðåäåëåíèÿ óñòàíàâëèâàåò çíàìåíèòàÿ ïðåäåëüíàÿ òåîðåìà ÌóàâðàËàïëàñà (18 âåê!). Ïðè äîêàçàòåëüñòâå
ñóùåñòâåííî èñïîëüçóåòñÿ ñëåäóþùèé òåõíè÷åñêèé ðåçóëüòàò.
75
Ëåììà 7.1. Ïóñòü X ∼ B(n, p), n → ∞ è öåëîå k → ∞ òàê, ÷òî
1 > p̂ = k/n = O(1). Òîãäà
P (X = k) = f (k | n, p) = p
ãäå
H(x) = x ln
1
2πnp̂(1 − p̂)
¡
¢
exp{−nH(p̂)} 1 + O(n−1 ) ,
x
1−x
+ (1 − x) ln
,
p
1−p
0 < x < 1.
Ä î ê à ç à ò å ë ü ñ ò â î. Âîñïîëüçóåìñÿ àñèìïòîòè÷åñêîé ôîðìóëîé
Ñòèðëèíãà
√
¡
¢
n! =
2πnnn e−n 1 + O(n−1 )
äëÿ ôàêòîðèàëîâ n!, k! è (n − k)! â áèíîìèàëüíîì êîýôôèöèåíòå Cnk è
ïðåäñòàâèì ôóíêöèþ ïëîòíîñòè áèíîìèàëüíîãî ðàñïðåäåëåíèÿ â àñèìïòîòè÷åñêîì âèäå:
n!
pk (1 − p)n−k =
k!(n − k)!
√
µ ¶¶
µ
1
2πn nn e−n pk (1 − p)n−k
p
√
1+O
=
n
2πk k k e−k 2π(n − k) (n − k)n−k e−n+k
f (k | n, p) =
exp{n ln n − k ln k − (n − k) ln(n − k) + k ln p + (n − k) ln(1 − p)}
q
·
¡
¢
k
k
2πn n 1 − n
¡
¡
¢¢
1 + O n−1 .
Äîêàçàòåëüñòâî çàâåðøàåòñÿ î÷åâèäíûìè ïðåîáðàçîâàíèÿìè âûðàæåíèÿ,
ñòîÿùåãî â ôèãóðíûõ ñêîáêàõ ïîä ýêñïîíåíòîé, ê âèäó {−nH(p̂)}.
Ëåêöèÿ 12
Òåîðåìà 7.2. (Ëîêàëüíàÿ ïðåäåëüíàÿ òåîðåìà
Ìóàâðà
√
Ëàïëàñà). Ïóñòü ïðè n → ∞ öåëîå k = np + O( n). Òîãäà
½
(k − np)2
f (k | n, p) = p
exp −
2np(1 − p)
2πnp(1 − p)
1
76
¾³
³
´´
−1/2
1+O n
.
Ä î ê à ç à ò å ë ü ñ ò â î. Òàê êàê ïî óñëîâèþ òåîðåìû p̂ = k/n =
p + O(n−1/2 ), òî åñòåñòâåííî âîñïîëüçîâàòüñÿ àñèìïòîòè÷åñêîé ôîðìóëîé
ëåììû 7.1, ðàçëàãàÿ ôóíêöèè (p̂ (1 − p̂))−1/2 è H(p̂) â ðÿä Òåéëîðà ïî ñòåïåíÿì p̂ − p = O(n−1/2 ).
Èìååì
−1/2
(p̂ (1 − p̂))
³
´−1/2
−1/2
−1/2
= (p + O(n
))(1 − p + O(n
))
=
(p (1 − p))−1/2 (1 + O(n−1/2 )),
è äëÿ äîêàçàòåëüñòâà òåîðåìû îñòàåòñÿ ïîêàçàòü, ÷òî
(k − np)2
n H(p̂) =
+O
2np(1 − p)
µ
¶
1
√
.
n
(1)
Ðàçëîæèì
p̂
1 − p̂
+ (1 − p̂) ln
p
1−p
â ðÿä Òåéëîðà â îêðåñòíîñòè òî÷êè p̂ = p :
H(p̂) = p̂ ln
(p̂ − p)2 00
(p̂ − p)3 000
H(p̂) = H(p) + (p̂ − p)H (p) +
H (p) +
H (p + λ(p̂ − p)),
2!
3!
ãäå, êàê è â ëþáîì ðàçëîæåíèè Òåéëîðà, 0 < λ < 1.
Èìååì H(p) = 0, è òàê êàê H 0 (x) = ln(x/p) − ln((1 − x)/(1 − p)), òî
H 0 (p) = 0. Äàëåå, H 00 (x) = 1/x + 1/(1 − x), îòêóäà H 00 (p) = (p(1 − p))−1 .
Íàêîíåö, H 000 (x) = −x−2 + (1 − x)−2 , ÷òî âëå÷åò îãðàíè÷åííîñòü H 000 (p +
λ(p̂ − p)) ïðè áîëüøèõ n, ïîñêîëüêó p îòãðàíè÷åíî îò 0 è 1. Òàêèì îáðàçîì,
¡
¢
(p̂ − p)2
+ O (p̂ − p)3 ,
H(p̂) =
2p(1 − p)
÷òî, î÷åâèäíî, ýêâèâàëåíòíî (1).
Òåîðåìà 7.3. (Èíòåãðàëüíàÿ ïðåäåëüíàÿ òåîðåìà Ìóàâðà
Ëàïëàñà). Äëÿ ëþáûõ ïîñòîÿííûõ a è b è ñëó÷àéíîé âåëè÷èíû
X ∼ B(n, p) ñïðàâåäëèâî àñèìïòîòè÷åñêîå ïðåäñòàâëåíèå
Ã
lim P
n→∞
X − np
a≤ p
1. Ìû áóäåì èçó÷àòü âåðîÿòíîñòíûå ìîäåëè, êîòîðûå ìîæíî
çàïèñàòü â âèäå èíòåãðàëà Ëåáåãà
Z
P (X
(n)
∈ B) =
f (x1 , . . . , xn )dµ1 (x1 ) · · · dµn (xn )
B
82
îò íåîòðèöàòåëüíîé ôóíêöèè f (x1 , . . . , xn ) ïî ìåðå dµ = dµ1 · · · dµn , ãäå
êàæäàÿ σ -êîíå÷íàÿ ìåðà µi , i = 1, . . . , n íà áîðåëåâñêîé ïðÿìîé (R, B)
ÿâëÿåòñÿ èëè ñ÷èòàþùåé ìåðîé, èëè ìåðîé Ëåáåãà.  òàêîì ñëó÷àå âû÷èñëåíèå âåðîÿòíîñòè ñîáûòèé B ∈ Bn ñâîäèòñÿ èëè ê ñóììèðîâàíèþ âåðîÿòíîñòåé îòäåëüíûõ òî÷åê â Rn , èëè ê âû÷èñëåíèþ êðàòíûõ èíòåãðàëîâ
Ðèìàíà. Ôóíêöèÿ f â äàííîì ñëó÷àå âûñòóïàåò â ðîëè n-ìåðíîé ôóíêöèè
ïëîòíîñòè. Åñòåñòâåííî, ìîæíî ââåñòè òàêæå ïîíÿòèå n-ìåðíîé ôóíêöèè
ðàñïðåäåëåíèÿ
F (x1 , . . . , xn ) = P (X1 < x1 , . . . , Xn < xn ) =
Zxn
Zx1
...
−∞
f (t1 , . . . , tn )dµ1 (t1 ) · · · dµn (tn ),
−∞
îäíàêî ïðè n > 1 ñ ïîìîùüþ ýòîé ôóíêöèè ìîæíî âûðàçèòü òîëüêî âåðîÿòíîñòè ïðÿìîóãîëüíèêîâ â Rn , â òî âðåìÿ êàê âåðîÿòíîñòü ïîïàäàíèÿ
ñëó÷àéíîãî âåêòîðà â ïîäìíîæåñòâà áîëåå ñëîæíîé êîíôèãóðàöèè (íàïðèìåð, ýëëèïñîèäû) ïðèõîäèòñÿ âû÷èñëÿòü ñ ïîìîùüþ èíòåãðàëà îò ôóíêöèè
ïëîòíîñòè. Êàê è â îäíîìåðíîì ñëó÷àå, n-ìåðíàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ
îäíîçíà÷íî îïðåäåëÿåò ðàñïðåäåëåíèå âåðîÿòíîñòåé íà (Rn , Bn ), òî åñòü
èìååò ìåñòî n-ìåðíûé àíàëîã òåîðåìû 4.1.
Èç îïðåäåëåíèÿ ôóíêöèè ðàñïðåäåëåíèÿ âûòåêàåò, ÷òî â ñëó÷àå íåïðåðûâíîãî ðàñïðåäåëåíèÿ (µ = µ1 × · · · × µn ìåðà Ëåáåãà) ôóíêöèÿ ïëîòíîñòè f âûðàæàåòñÿ ÷åðåç ôóíêöèþ ðàñïðåäåëåíèÿ ïîñðåäñòâîì äèôôåðåíöèðîâàíèÿ
∂ n F (x1 , . . . , xn )
f (x1 , . . . , xn ) =
,
∂x1 · · · ∂xn
à â äèñêðåòíîì ñëó÷àå (µ ñ÷èòàþùàÿ ìåðà, ïðèïèñûâàþùàÿ åäèíèöó êàæäîé òî÷êå Rn ñ öåëî÷èñëåííûìè êîîðäèíàòàìè)
f (x1 , . . . , xn ) = P (X (n) = x(n) ) = P (X1 = x1 , . . . , Xn = xn ).
ß ïîëàãàþ, âû ñàìè ñìîæåòå çàïèñàòü àíàëîãè÷íûå ñâÿçè ìåæäó F è f â
ñìåøàííîì äèñêðåòíî-íåïðåðûâíîì ñëó÷àå, êîãäà ÷àñòü êîìïîíåíò ñëó÷àéíîãî âåêòîðà èìååò íåïðåðûâíîå ðàñïðåäåëåíèå, à äðóãàÿ äèñêðåòíîå.
Êàê âû÷èñëèòü ñîâìåñòíîå ðàñïðåäåëåíèå îòäåëüíûõ êîìïîíåíò
Xi1 , . . . , Xik ñëó÷àéíîãî âåêòîðà X (n) ? Äëÿ ýòîãî äîñòàòî÷íî â ôóíêöèè ðàñïðåäåëåíèÿ X (n) óñòðåìèòü ê +∞ âñå ïåðåìåííûå, îòëè÷íûå îò xi1 , . . . , xik ,
83
èëè, ÷òî òî æå, ïðîèíòåãðèðîâàòü ôóíêöèþ ïëîòíîñòè ïî êàæäîé èç ïåðåìåííûõ, îòëè÷íûõ îò xi1 , . . . , xik , â ïðåäåëàõ ±∞.
Çàìåòèì, ÷òî â òåîðèè âåðîÿòíîñòåé ïðèíÿòî íàçûâàòü ðàñïðåäåëåíèÿ
êàæäîé êîìïîíåíòû (ñëó÷àéíîé âåëè÷èíû) Xi , i = 1, . . . , n, ìàðãèíàëüíûìè èëè ÷àñòíûìè ðàñïðåäåëåíèÿìè.
Ï ð è ì å ð 8.1 (ðàâíîìåðíîå ðàñïðåäåëåíèå íà êðóãå.)  ÷àñòü ïëîñêîñòè R2 , îãðàíè÷åííóþ îêðóæíîñòüþ x2 + y 2 = r2 , íàóãàä áðîñàåòñÿ òî÷êà,
òàê ÷òî åå êîîðäèíàòû (x, y) ïðåäñòàâëÿþò ðåàëèçàöèþ ñëó÷àéíîãî âåêòîðà (X, Y ). Êàê è â ñëó÷àå ñ áðîñàíèåì òî÷êè íà îòðåçîê ïðÿìîé, òåðìèí
íàóãàä ïîíèìàåòñÿ â ñìûñëå çàâèñèìîñòè âåðîÿòíîñòè ïîïàäàíèÿ òî÷êè
â íåêîòîðóþ, èçìåðèìóþ ïî Ëåáåãó ÷àñòü B êðóãà òîëüêî îò ïëîùàäè B.
Òå æå ðàññóæäåíèÿ, ÷òî è ïðè âûâîäå ðàâíîìåðíîãî ðàñïðåäåëåíèÿ íà îòðåçêå, ïðèâîäÿò íàñ ê ðàâíîìåðíîìó ðàñïðåäåëåíèþ (X, Y ) ñ ôóíêöèåé
ïëîòíîñòè (ïî ìåðå Ëåáåãà dµ = dxdy ) f (x, y), ðàâíîé ïîñòîÿííîé 1/πr2 ,
åñëè x2 + y 2 ≤ r2 , è ðàâíîé íóëþ âíå ýòîãî êðóãà.
Íàéäåì ôóíêöèþ ïëîòíîñòè f X (x) ìàðãèíàëüíîãî ðàñïðåäåëåíèÿ X.
Äëÿ ýòîãî ìû äîëæíû ïðîèíòåãðèðîâàòü ôóíêöèþ f (x, y) ïî ïåðåìåííîé y
â ïðåäåëàõ ±∞ ïðè êàæäîì ôèêñèðîâàííîì çíà÷åíèè x ∈ R. Åñëè x ôèê2
ñèðîâàíî, òî f (x, y) îòëè÷íà îò íóëÿ
√ è ðàâíà 1/πr√òîëüêî ïðè çíà÷åíèÿõ y,
óäîâëåòâîðÿþùèõ íåðàâåíñòâó − r2 − x2 ≤ y ≤ r2 − x2 . Ñëåäîâàòåëüíî,
√
f X (x) =
1
πr2
Zr2 −x2
dy =
√
− r2 −x2
2 p 2
r − x2 ,
2
πr
åñëè |x| ≤ r, è f X (x) = 0 â ïðîòèâíîì ñëó÷àå. Ëåãêî âèäåòü, ÷òî ìàðãèíàëüíîå ðàñïðåäåëåíèå âòîðîé êîìïîíåíòû Y ñëó÷àéíîãî âåêòîðà èìååò òîò æå
âèä. Òàêèì îáðàçîì, ìàðãèíàëüíûå ðàñïðåäåëåíèÿ êîìïîíåíò îòëè÷íû îò
ðàâíîìåðíîãî è èìåþò ÷åòêî âûðàæåííóþ ìîäó, ñîâïàäàþùóþ ñ íà÷àëîì
êîîðäèíàò.
Ìàðãèíàëüíûå ïëîòíîñòè êîìïîíåíò ñëó÷àéíîãî âåêòîðà íàèáîëåå ïðîñòî íàõîäÿòñÿ â òîì ñëó÷àå, êîãäà ôóíêöèÿ ïëîòíîñòè X (n) ðàñïàäàåòñÿ â
ïðîèçâåäåíèå ôóíêöèé ïëîòíîñòè îòäåëüíûõ êîìïîíåíò. Ïîíÿòíî, ÷òî õîòÿ
áû â äèñêðåòíîì ñëó÷àå ýòî ãîâîðèò î íåêîòîðîé íåçàâèñèìîñòè êîìïîíåíò
ñëó÷àéíîãî âåêòîðà. ×òîáû ââåñòè ñòðîãîå îïðåäåëåíèå òàêîé íåçàâèñèìîñòè, ìû äîëæíû îáðàòèòüñÿ ê σ -ïîäàëãåáðàì àëãåáðû A, ïîðîæäåííûì
êàæäîé êîìïîíåíòîé Xi , i = 1, . . . , n, âåêòîðà X (n) .
84
Ïóñòü X = X(ω) ñëó÷àéíàÿ âåëè÷èíà íà (Ω, A) ñî çíà÷åíèÿìè â èçìåðèìîì ïðîñòðàíñòâå (R, B). Ðàññìîòðèì êëàññ AX = {X −1 (B), B ∈ B}
âñåõ ïðîîáðàçîâ ýëåìåíòîâ áîðåëåâñêîãî ïîëÿ B, ïîëàãàÿ X −1 (R) = Ω. Èìååò ìåñòî
Ïðåäëîæåíèå 8.1. Êëàññ AX ïîäìíîæåñòâ Ω ÿâëÿåòñÿ σ -àëãåáðîé (ïî-
äàëãåáðîé A.)
Ä î ê à ç à ò å ë ü ñ ò â î. Äîñòàòî÷íî ïðîâåðèòü àêñèîìû áóëåâîé σ -àëãåáðû
(ñì. îïðåäåëåíèå 2.5).
(A1). Ïî îïðåäåëåíèþ AX ïðîñòðàíñòâî ýëåìåíòàðíûõ èñõîäîâ Ω =
X −1 (R) ∈ AX .
¡
¢c
(A2). Ïîêàæåì, ÷òî äîïîëíåíèå X −1 (B) ∈ AX , êàêîâî áû íè áûëî
B ∈ B. Äåéñòâèòåëüíî, ñîáûòèå, ïðîòèâîïîëîæíîå X −1 (B) = {ω : X(ω) ∈
B}, îçíà÷àåò, ÷òî X(ω)
íå ïðèíàäëåæèò
B, òî åñòü X(ω) ∈ B c . Òàê êàê
¡
¢
c
B c ∈ B, òî X −1 (B c ) = X −1 (B) ∈ AX .
(A3)S . Ðàññóæäåíèÿ, àíàëîãè÷íûå ïðåäûäóùåìó ïóíêòó, ïîêàçûâàþò,
÷òî
̰ !
∞
[
[
X −1 (Bi ) = X −1
Bi ∈ AX .
1
1
Ëåãêî ïîíÿòü, ÷òî äàííîå óòâåðæäåíèå ñïðàâåäëèâî íå òîëüêî äëÿ ñêàëÿðíûõ ñëó÷àéíûõ âåëè÷èí, íî è ñëó÷àéíûõ âåêòîðîâ. Òåïåðü ìû â ñîñòîÿíèè ââåñòè îäíî èç ôóíäàìåíòàëüíåéøèõ ïîíÿòèé òåîðèè âåðîÿòíîñòåé è
ìàòåìàòè÷åñêîé ñòàòèñòèêè.
Îïðåäåëåíèå 8.2. Ñëó÷àéíûå âåëè÷èíû (ñëó÷àéíûå âåêòîðû)
X1 , . . . , Xn , çàäàííûå íà îäíîì è òîì æå èçìåðèìîì ïðîñòðàíñòâå (Ω, A),
íàçûâàþòñÿ íåçàâèñèìûìè â ñîâîêóïíîñòè èëè ñîâìåñòíî íåçàâèñèìûìè,
åñëè íåçàâèñèìû σ -ïîäàëãåáðû AX1 , . . . , AXn σ -àëãåáðû A, ïîðîæäåííûå
ñîîòâåòñòâóþùèìè ñëó÷àéíûìè âåëè÷èíàìè.
Òàêèì îáðàçîì, â ñîîòâåòñòâèè ñ îïðåäåëåíèåì 3.4 íåçàâèñèìîñòè σ àëãåáð, äëÿ ëþáûõ ýëåìåíòîâ (ñîáûòèé) B1 , . . . , Bn áîðåëåâñêîãî ïîëÿ B
ñïðàâåäëèâî ðàâåíñòâî
P (X1 ∈ B1 , . . . , Xn ∈ Bn ) =
n
Y
P (Xi ∈ Bi ),
(1)
1
òî åñòü ñîâìåñòíîå ðàñïðåäåëåíèå íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ðàñïàäàåòñÿ â ïðîèçâåäåíèå èõ ìàðãèíàëüíûõ ðàñïðåäåëåíèé. Îêàçûâàåòñÿ,
85
äëÿ íåçàâèñèìîñòè ñëó÷àéíûõ âåëè÷èí äîñòàòî÷íî ïîòðåáîâàòü âûïîëíåíèÿ áîëåå ñëàáîãî óñëîâèÿ, ñîñòîÿùåãî â âîçìîæíîñòè ïðåäñòàâëåíèÿ ñîâìåñòíîé ôóíêöèè ðàñïðåäåëåíèÿ X1 , . . . , Xn â âèäå ïðîèçâåäåíèÿ ìàðãèíàëüíûõ ôóíêöèé ðàñïðåäåëåíèÿ.
Ïðåäëîæåíèå 8.2. ( êðèòåðèé íåçàâèñèìîñòè ñëó÷àéíûõ âåëè÷èí).
Ñëó÷àéíûå âåëè÷èíû X1 , . . . , Xn íåçàâèñèìû â ñîâîêóïíîñòè òîãäà è òîëüêî òîãäà, êîãäà èõ ñîâìåñòíàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ (ôóíêöèÿ ïëîòíîñòè) ðàñïàäàåòñÿ â ïðîèçâåäåíèå ìàðãèíàëüíûõ ôóíêöèé ðàñïðåäåëåíèÿ
(ìàðãèíàëüíûõ ôóíêöèé ïëîòíîñòè):
F (x1 , . . . , xn ) =
n
Y
Xi
F (xi ),
f (x1 , . . . , xn ) =
1
n
Y
f Xi (xi ).
1
Ä î ê à ç à ò å ë ü ñ ò â î. Óñëîâèìñÿ îáîçíà÷àòü ïîëóæèðíîé áóêâîé P âåðîÿòíîñòü íà èñõîäíîì âåðîÿòíîñòíîì ïðîñòðàíñòâå (Ω, A), íà êîòîðîì îïðåäåëåíû ñëó÷àéíûå âåëè÷èíû X1 , . . . , Xn , à îáû÷íîé áóêâîé P âåðîÿòíîñòü
íà (Rn , Bn ), êîòîðàÿ åäèíñòâåííûì îáðàçîì îïðåäåëÿåòñÿ çàäàíèåì ôóíêöèè ðàñïðåäåëåíèÿ F. Òîãäà
Ã
F (x1 , . . . , xn ) = P
n
\
!
{Xi ∈ (−∞, xi )}
i=1
n
Y
P
¡
Xi−1 ((−∞,
Ã
=P
n
\
!
Xi−1 ((−∞, xi ))
=
i=1
n
n
Y
¢ Y
xi )) =
P (Xi ∈ (−∞, xi )) =
F Xi (xi ),
i=1
1
i=1
òî åñòü ñâîéñòâî ìóëüòèïëèêàòèâíîñòè ñîâìåñòíîé ôóíêöèè ðàñïðåäåëåíèÿ
åñòü ÷àñòíûé ñëó÷àé ðàâåíñòâà (1).
Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íîñòè óñëîâèÿ ìóëüòèïëèêàòèâíîñòè ïîêàæåì, ÷òî äëÿ ñëó÷àéíûõ âåëè÷èí X è Y ðàâåíñòâî F (x, y) = F X (x)F Y (y)
ïðè ëþáûõ x, y ∈ R âëå÷åò P (X ∈ B1 , Y ∈ B2 ) = P (X ∈ B1 )P (Y ∈ B2 )
êàêîâû áû íè áûëè B1 , B2 ∈ B (îáùèé ñëó÷àé, êàñàþùèéñÿ íåçàâèñèìîñòè n > 2 ñëó÷àéíûõ âåëè÷èí, ðàññìàòðèâàåòñÿ ñ ïðèâëå÷åíèåì ìåòîäà
ìàòåìàòè÷åñêîé èíäóêöèè). Îòñþäà áóäåò ñëåäîâàòü íåçàâèñèìîñòü ïîðîæäåííûõ ñèãìà-àëãåáð. Äåéñòâèòåëüíî, ëþáîé ýëåìåíò A1 ∈ AX èìååò âèä
X −1 (B1 ) ñ íåêîòîðûì B1 ∈ B, è, àíàëîãè÷íî, ëþáîé A2 ∈ AY èìååò âèä
Y −1 (B2 ) ñ B2 ∈ B, òàê ÷òî ïðè ëþáûõ A1 ∈ AX , A2 ∈ AY
P(A1
\
A2 ) = P(X −1 (B1 )
\
Y −1 (B2 )) = P (X ∈ B1 , Y ∈ B2 ) =
86
¡
¢ ¡
¢
P (X ∈ B1 )P (Y ∈ B2 ) = P X −1 (B1 ) P Y −1 (B2 ) = P(A1 )P(A2 ),
òî åñòü ñèãìà-àëãåáðû AX è AY íåçàâèñèìû.
Ïåðåïèøåì óñëîâèå íåçàâèñèìîñòè
P (X ∈ (−∞, x))P (Y ∈ (−∞, y)) =
P ({X ∈ (−∞, x)} ∩ {Y ∈ (−∞, y)})
â âèäå
F X (x) = P (X ∈ (−∞, x)) =
P ({X ∈ (−∞, x)} ∩ {Y ∈ (−∞, y)})
.
F Y (y)
(2)
Ïîñêîëüêó ôóíêöèÿ ðàñïðåäåëåíèÿ F X (x) îäíîçíà÷íî îïðåäåëÿåò ìàðãèíàëüíîå ðàñïðåäåëåíèå P (X ∈ B1 ) ñëó÷àéíîé âåëè÷èíû X (òåîðåìà 4.1),
òî ðàâåíñòâî (2) âëå÷åò
P (X ∈ B1 ) =
P ({X ∈ B1 } ∩ {Y ∈ (−∞, y)})
F Y (y)
èëè, ÷òî òî æå,
F Y (y) = P (Y ∈ (−∞, y)) =
P ({X ∈ B1 } ∩ {Y ∈ (−∞, y)})
P (X ∈ B1 )
äëÿ ëþáûõ B1 ∈ B. Èñïîëüçóÿ ñíîâà òåîðåìó 4.1 îá îäíîçíà÷íîì îïðåäåëåíèè ðàñïðåäåëåíèÿ âåðîÿòíîñòåé ñëó÷àéíîé âåëè÷èíû Y ïîñðåäñòâîì åå
ôóíêöèè ðàñïðåäåëåíèÿ F Y (y), ïîëó÷àåì òðåáóåìîå îïðåäåëåíèå íåçàâèñèìîñòè:
P (X ∈ B1 , Y ∈ B2 ) = P (X ∈ B1 )P (Y ∈ B2 ),
êàêîâû áû íè áûëè B1 , B2 ∈ B.
Óòâåðæäåíèå òåîðåìû, êàñàþùååñÿ ôóíêöèè ïëîòíîñòè, ñëåäóåò íåìåäëåííî èç ñîîòíîøåíèÿ ìåæäó ôóíêöèåé ðàñïðåäåëåíèÿ è ôóíêöèåé ïëîòíîñòè:
y
Zx Z
F (x, y) =
f (u, v)dµ1 (u)dµ2 (v).
−∞ −∞
Ñëåäóþùåå óòâåðæäåíèå, îòíîñÿùååñÿ ê ôóíêöèÿì îò íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí, ïîçâîëÿåò âû÷èñëÿòü ìîìåíòíûå õàðàêòåðèñòèêè íåêîòîðûõ ðàñïðåäåëåíèé çíà÷èòåëüíî ïðîùå, ÷åì ýòî äåëàëîñü â 6.
87
Ïðåäëîæåíèå 8.3. Åñëè X1 , . . . , Xn íåçàâèñèìû â ñîâîêóïíîñòè, òî
10 . íåçàâèñèìû â ñîâîêóïíîñòè ñëó÷àéíûå âåëè÷èíû Y1 = g1 (X1 ),
. . . , Yn = gn (Xn ), ãäå gi , i = 1, . . . , n èçìåðèìûå ôóíêöèè;
n
n
Y
Y
2.E
Xi =
EXi ;
30 . D
1
n
X
Xi =
1
n
X
1
DXi .
1
Ä î ê à ç à ò å ë ü ñ ò â î. 10 . Ïîñêîëüêó σ -àëãåáðû, ïîðîæäåííûå ñëó÷àéíûìè âåëè÷èíàìè Y1 , . . . , Yn , ÿâëÿþòñÿ ïîäàëãåáðàìè ñîîòâåòñòâóþùèõ σ àëãåáð, ïîðîæäåííûõ X1 , . . . , Xn , à ïîñëåäíèå íåçàâèñèìû (ñì. îïðåäåëåíèå 3.4), òî äàííîå óòâåðæäåíèå ñëåäóåò íåïîñðåäñòâåííî èç îïðåäåëåíèÿ
8.2 íåçàâèñèìîñòè ñëó÷àéíûõ âåëè÷èí.
20 . Ïóñòü fi ( · ) ôóíêöèÿ ïëîòíîñòè Xi ïî ìåðå µi , i = 1, . . . , n. Òîãäà,
â ñèëó ïðåäëîæåíèÿ 8.2, ñîâìåñòíàÿ ôóíêöèÿ ïëîòíîñòè
f (x1 , . . . , xn ) =
n
Y
fi (xi ),
1
òàê ÷òî
E
n
Y
Z
Z
Xi =
x1 f1 (x1 )dµ1 (x1 ) · · ·
R
1
xn fn (xn )dµn (xn ) =
R
n
Y
EXi .
1
30 . Èñïîëüçóÿ òîëüêî ÷òî äîêàçàííîå óòâåðæäåíèå (2) è ñâîéñòâî ëèíåéíîñòè ìàòåìàòè÷åñêîãî îæèäàíèÿ, ïîëó÷àåì
à n
!2
n
X
X
D
Xi = E
(Xi − EXi ) =
1
1
n
X
X
E (Xi − EXi )2 +
(Xi − EXi )(Xj − EXj ) =
1
n
X
1
i6=j
2
E(Xi − EXi ) +
X
E(Xi − EXi ) · E(Xj − EXj ) =
i6=j
88
n
X
2
E(Xi − EXi ) =
1
n
X
DXi .
1
Êàê áóäåò âèäíî â äàëüíåéøåì, âûâîä ðÿäà âåðîÿòíîñòíûõ ìîäåëåé
ñòðîèòñÿ íà ñòîõàñòè÷åñêîì ïðåäñòàâëåíèè íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû â âèäå ñóììû íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí: X = X1 + . . . + Xn ,
è ïðè ýòîì ðàñïðåäåëåíèå êàæäîé Xi , i = 1, . . . n èìååò äîñòàòî÷íî ïðîñòîé âèä, íàïðèìåð, âû÷èñëèòü ìîìåíòû Xi íàìíîãî ïðîùå, ÷åì ìîìåíòû
X.  òàêîì ñëó÷àå ôîðìóëû ïðåäëîæåíèÿ 8.3 óêàçûâàþò ïðÿìîé ïóòü ê
âû÷èñëåíèþ ìîìåíòîâ, à èíîãäà è ðàñïðåäåëåíèÿ, ñëó÷àéíîé âåëè÷èíû X.
 ñóùíîñòè, ìû óæå èñïîëüçîâàëè òåõíèêó òàêèõ ïðåäñòàâëåíèé, êîãäà
âûâîäèëè áèíîìèàëüíîå ðàñïðåäåëåíèå ðàñïðåäåëåíèå ÷èñëà óñïåõîâ â
èñïûòàíèÿõ Áåðíóëëè.
Ëåêöèÿ 14
Ï ð è ì å ð 8.2 (î íåêîòîðûõ ñâîéñòâàõ áèíîìèàëüíîãî ðàñïðåäåëåíèÿ).
Ðåçóëüòàò êàæäîãî i-ãî èñïûòàíèÿ â ñõåìå Áåðíóëëè ìîæíî ðåãèñòðèðîâàòü
êàê çíà÷åíèå èíäèêàòîðíîé ôóíêöèè óñïåõà, îáîçíà÷àÿ öèôðîé 1 óñïåõ, à
öèôðîé 0 íåóäà÷ó. Òàêèì îáðàçîì, ñ i-ûì èñïûòàíèåì ñîîòíîñèòñÿ ñëó÷àéíàÿ âåëè÷èíà Xi , ïðèíèìàþùàÿ çíà÷åíèå 1 ñ âåðîÿòíîñòüþ p è çíà÷åíèå
0 ñ âåðîÿòíîñòüþ 1 − p. Ïîñëåäîâàòåëüíîñòè èç n íåçàâèñèìûõ èñïûòàíèé
Áåðíóëëè ñòàâèòñÿ â ñîîòâåòñòâèå ñëó÷àéíûé âåêòîð X (n) = (X1 , . . . , Xn ),
ñîñòîÿùèé èç íåçàâèñèìûõ, îäèíàêîâî ðàñïðåäåëåííûõ ïî çàêîíó B(1, p)
êîìïîíåíò (íàïîìíèì, B(1, p) åñòü ÷àñòíûé ñëó÷àé áèíîìèàëüíîãî ðàñïðåäåëåíèÿ, êîòîðîå ìû íàçâàëè äâóõòî÷å÷íûì ðàñïðåäåëåíèåì).  òàêèõ îáîçíà÷åíèÿõ ñëó÷àéíàÿ âåëè÷èíà X, ðåàëèçàöèÿ êîòîðîé ðàâíà ÷èñëó óñïåõîâ â X
n èñïûòàíèÿõ (÷èñëó Xi , ïðèíÿâøèõ çíà÷åíèå 1), ïðåäñòàâèìà â âèäå
n
X=
Xi , è â ñèëó ïðåäëîæåíèÿ 8.3
1
EX =
n
X
EXi = nEX1 ,
DX =
1
n
X
DXi = nDX1 .
1
Èìååì: EX1 = 1 · p + 0 · (1 − p) = p, EX12 = EX1 = p, DX1 = p −
p2 = p(1 − p), îòêóäà íåìåäëåííî ïîëó÷àåì èçâåñòíûå íàì è ïîëó÷åííûå
â ðåçóëüòàòå áîëåå ñëîæíûõ âûêëàäîê ôîðìóëû ìîìåíòîâ áèíîìèàëüíîãî
ðàñïðåäåëåíèÿ: EX = np, DX = np(1 − p).
89
Óêàæåì åùå íà îäíî èíòåðåñíîå ïðèìåíåíèå ñòîõàñòè÷åñêîãî ïðåäñòàâëåíèÿ áèíîìèàëüíîé ñëó÷àéíîé âåëè÷èíû X â âèäå ñóììû íåçàâèñèìûõ
ñëó÷àéíûõ âåëè÷èí.
Ïðåäëîæåíèå 8.4 (òåîðåìà ñëîæåíèÿ äëÿ áèíîìèàëüíîãî ðàñïðåäå-
ëåíèÿ). Åñëè X1 , . . . , Xm íåçàâèñèìû â ñîâîêóïíîñòè è Xk ∼ B(nk , p), k =
1, . . . , m, òî
m
X
X=
Xk ∼ B(n, p),
ãäå n = n1 + . . . + nm .
1
Ä î ê à ç à ò å ë ü ñ ò â î. Êàæäîå Xk åñòü ñóììà nk íåçàâèñèìûõ, îäèíàêîâî
ðàñïðåäåëåííûõ ïî çàêîíó B(1, p) ñëó÷àéíûõ âåëè÷èí. Ñëåäîâàòåëüíî, X
åñòü ñóììà n òàêèõ æå âåëè÷èí, îòêóäà X ∼ B(n, p).
Ðàñïðåäåëåíèÿ, äëÿ êîòîðûõ ñïðàâåäëèâû òåîðåìû ñëîæåíèÿ, ñîñòàâëÿþò îñîáûé êëàññ óñòîé÷èâûõ çàêîíîâ ðàñïðåäåëåíèé, è èçó÷åíèþ ñâîéñòâ
òàêèõ ðàñïðåäåëåíèé ïîñâÿùàþòñÿ îòäåëüíûå ìîíîãðàôèè. Âû, íàâåðíîå,
äîãàäûâàåòåñü, ÷òî óñòîé÷èâûì ÿâëÿåòñÿ ïóàññîíîâñêîå ðàñïðåäåëåíèå, êàê
ïðåäåë áèíîìèàëüíîãî.  äàëüíåéøåì ìû ïîêàæåì, ÷òî ýòî â äåéñòâèòåëüíîñòè òàê, ðàçðàáîòàâ áîëåå ñîâåðøåííûé ìàòåìàòè÷åñêèé àïïàðàò äîêàçàòåëüñòâ òåîðåì ñëîæåíèÿ. À ñåé÷àñ ìû äîêàæåì óñòîé÷èâîñòü íîðìàëüíîãî
çàêîíà, ïîëó÷èâ ïðåäâàðèòåëüíî îáùóþ ôîðìóëó äëÿ ðàñïðåäåëåíèÿ ñóììû íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí.
Ïðåäëîæåíèå 8.5 (ôîðìóëà ñâåðòêè ðàñïðåäåëåíèé). Ïóñòü X1 è X2
íåçàâèñèìû è èìåþò íåïðåðûâíûå ðàñïðåäåëåíèÿ ñ ôóíêöèÿìè ïëîòíîñòè
f1 (x) è, ñîîòâåòñòâåííî, f2 (x) ïî ìåðå Ëåáåãà dµ = dx. Òîãäà ôóíêöèÿ
ïëîòíîñòè f (x) ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû X = X1 + X2 åñòü
ñâåðòêà ôóíêöèé f1 è f2 :
Z∞
f (x) =
Z∞
f1 (t)f2 (x − t)dt =
−∞
f2 (t)f1 (x − t)dt.
−∞
Ä î ê à ç à ò å ë ü ñ ò â î. Ñîâìåñòíàÿ ôóíêöèÿ ïëîòíîñòè f (x1 , x2 ) íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí X1 è X2 ðàâíà (ñì. ïðåäëîæåíèå 8.2) ïðîèçâåäåíèþ èõ ôóíêöèé ïëîòíîñòè: f (x1 , x2 ) = f1 (x1 )f2 (x2 ). Èñïîëüçóÿ èçâåñòíóþ
íàì ôîðìóëó (ñì. ôîðìóëû ïîñëå îïðåäåëåíèÿ 8.1)
Z
P ((X1 , X2 ) ∈ B) =
f1 (x1 )f (x2 )dx1 dx2
B
90
äëÿ âû÷èñëåíèÿ âåðîÿòíîñòåé ïîïàäàíèÿ ñëó÷àéíîãî âåêòîðà â ëþáóþ èçìåðèìóþ îáëàñòü B íà ïëîñêîñòè R2 , ïðåäñòàâèì ôóíêöèþ ðàñïðåäåëåíèÿ
ñóììû ñëó÷àéíûõ âåëè÷èí â âèäå
Z Z
Z∞
F (x) = P (X1 + X2 < x) =
f1 (t)f2 (s)dtds =
t + s 0. Îäíàêî, ðàâåíñòâî ρ = 0 íå îçíà÷àåò, ÷òî
ñëó÷àéíûå âåëè÷èíû X è Y íåçàâèñèìû!
Ï ð è ì å ð 9.1 (çàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ñ íóëåâûì êîýôôèöèåíòîì êîððåëÿöèè). Ïîêàæåì, ÷òî ñëó÷àéíûå âåëè÷èíû X è Y, ðàâíîìåðíî
ðàñïðåäåëåííûå â êðóãå ðàäèóñà r, çàâèñèìû, íî ρXY = 0.
Äåéñòâèòåëüíî, ñîâìåñòíàÿ ôóíêöèÿ ïëîòíîñòè f (x, y) ñëó÷àéíûõ âåëè÷èí X è Y (ñì. ïðèìåð 8,1) îòëè÷íà îò íóëÿ òîëüêî â êðóãå x2 + y 2 ≤ r2
è ïðèíèìàåò ïîñòîÿííîå çíà÷åíèå, ðàâíîå 1/πr2 , âíóòðè ýòîãî êðóãà. Ìàðãèíàëüíûå ïëîòíîñòè
2 p 2
f (x) = 2 r − x2 , |x| ≤ r;
πr
f Y (y) =
X
2 p 2
r − y 2 , |y| ≤ r,
πr2
è f X (x) = f Y (y) = 0 âíå êâàäðàòà |x| ≤ r, |y| ≤ r.
£
¤1/2
Èìååì: f X (x)f Y (y) = 4π −2 r−4 (r2 − x2 )(r2 − y 2 )
, ÷òî, î÷åâèäíî, íå
ñîâïàäàåò ñ f (x, y) = 1/πr2 â îáëàñòè x2 + y 2 ≤ r2 . Òàêèì îáðàçîì, â ñèëó
ïðåäëîæåíèÿ 8.2, ñëó÷àéíûå âåëè÷èíû X è Y çàâèñèìû.
Ïîêàæåì, ÷òî, òåì íå ìåíåå, ρXY = 0. Ôóíêöèÿ f (x, y) öåíòðàëüíî ñèììåòðè÷íà, è ïîýòîìó µX = µY = 0. Äàëåå,
λXY =
1
πr2
√
Zr
Zr2 −x2
xdx
−r
√
− r2 −x2
Íî åñëè λXY = 0, òî è ρ = 0.
93
ydy = 0.
Äëÿ êîâàðèàöèè ïàðû ñëó÷àéíûõ âåëè÷èí ñïðàâåäëèâû ôîðìóëû, àíàëîãè÷íûå òåì, ÷òî áûëè ïîëó÷åíû äëÿ äèñïåðñèè â ïðåäëîæåíèÿõ 6.1 è 8.3.
Ïðåäëîæåíèå 9.1. Äëÿ ëþáîé ïàðû ñëó÷àéíûõ âåëè÷èí (X, Y ) è íåçà-
âèñèìûõ äâóìåðíûõ âåêòîðîâ (X1 , Y1 ), . . . , (Xn , Yn ), îáëàäàþùèõ êîíå÷íûìè âòîðûìè ìîìåíòàìè, ñïðàâåäëèâû ðàâåíñòâà
(1) λXY = EXY − EXEY,
(2) λSX SY =
n
X
λXi Yi ,
1
ãäå
SX =
Xn
1
Xi ,
SY =
Xn
1
Yi .
Ä î ê à ç à ò å ë ü ñ ò â î. (1) Èìååì λXY = E [(X − EX)(Y − EY )] =
E (XY − Y EX − XEY + EXEY ) = EXY − EXEY.
(2) Äåëàåì ñòîëü æå òðèâèàëüíûå âûêëàäêè, ÷òî è âûøå, è ïðè ýòîì
íå çàáûâåì, ÷òî ñðåäíåå îò ïðîèçâåäåíèÿ íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí
ðàâíî ïðîèçâåäåíèþ ñðåäíèõ:
" n
#
n
X
X
λSX SY = E
(Xi − EXi )
(Yi − EYi ) =
1
1
n
X
X
E (Xi − EXi )(Yi − EYi ) +
(Xi − EXi )(Yj − EYj ) =
1
n
X
1
i6=j
E [(Xi − EXi )(Yi − EYi )] +
X
E(Xi − EXi ) · E(Yj − EYj ).
i6=j
Ïîñëåäíåå ñëàãàåìîå â ïðàâîé ÷àñòè ðàâíî íóëþ, èáî E(Xi − EXi ) = EXi −
EXi = 0, à ïåðâîå ñëàãàåìîå åñòü ñóììà êîâàðèàöèé êàæäîãî âåêòîðà.
Èçó÷èì äâå íàèáîëåå ðàñïðîñòðàíåííûå ìíîãîìåðíûå âåðîÿòíîñòíûå ìîäåëè.
94
Ëåêöèÿ 15
Ìóëüòèíîìèàëüíîå ðàñïðåäåëåíèå M(m, n, p). Ðàññìàòðèâàåòñÿ ñõå-
ìà íåçàâèñèìûõ èñïûòàíèé, â êàæäîì èç êîòîðûõ ìîæåò ïðîèçîéòè îäíî
èç
≥ 2 ñîáûòèé A1 , . . . , Am ñ âåðîÿòíîñòÿìè p1 , . . . , pm ,
Xm
m
pj = 1. Òèïè÷íûé ïðèìåð òàêèõ èñïûòàíèé íàáëþäåíèÿ ýíòîìîëîãà
1
ïî îöåíêå ÷èñëåííîñòè âèäîâ íàñåêîìûõ, íàñåëÿþùèõ íåêîòîðûé, äîñòàòî÷íî èçîëèðîâàííûé ðàéîí íàøåé ïëàíåòû. Âñåãî ïðîâîäèòñÿ n íåçàâèñèìûõ
èñïûòàíèé, è ðåãèñòðèðóþòñÿX
çíà÷åíèÿ x1 , . . . , xm êîìïîíåíò ñëó÷àéíîãî
m
Xj
âåêòîðà X (m) = (X1 , . . . , Xm ),
1
= n, ãäå xj êîëè÷åñòâî èñïûòàíèé, â êîòîðûõ ïðîèçîøëî ñîáûòèå Aj , j =
1, . . . , m.
Ëåãêî âèäåòü, ÷òî ìû èìååì äåëî ñ ìíîãîìåðíûì àíàëîãîì ñõåìû Áåðíóëëè, è äëÿ âûâîäà ðàñïðåäåëåíèÿ X (m) åñòåñòâåííî âîñïîëüçîâàòüñÿ òåõíèêîé ñòîõàñòè÷åñêèõ ïðåäñòàâëåíèé íàáëþäàåìîãî ñëó÷àéíîãî ýëåìåíòà â
âèäå ñóììû èíäèêàòîðîâ, òî åñòü ïîñòóïèòü ïî àíàëîãèè ñ ïðèìåðîì 8.2.
Ñâÿæåì ñ êàæäûì i-ûì èñïûòàíèåì ñëó÷àéíûé âåêòîð Yi = X1i , . . . , Xmi ,
êàæäàÿ êîìïîíåíòà Xji êîòîðîãî ïðèíèìàåò çíà÷åíèå 1, åñëè â i-îì èñïûòàíèè ïðîèçîøëî ñîáûòèå Aj , è Xji = 0 â ïðîòèâíîì ñëó÷àå. Òàêèì îáðàçîì,
âñå êîìïîíåíòû Yi ðàâíû íóëþ çà èñêëþ÷åíèåì îäíîé êîìïîíåíòû, ðàâíîé
åäèíèöå, è íîìåð ýòîé êîìïîíåíòû ñîâïàäàåò ñ íîìåðîì èñõîäà (ñîáûòèÿ
Aj ), êîòîðûì çàâåðøèëîñü i-îå èñïûòàíèå, i = 1, . . . , n, j = 1, . . . , m. Ïîñòóëèðóåòñÿ, ÷òî ñëó÷àéíûå âåêòîðû Y1 , . . . , Yn íåçàâèñèìû â ñîâîêóïíîñòè
(ñëåäñòâèå íåçàâèñèìîñòè ïðîâåäåíèÿ èñïûòàíèé).
Ïðè òàêîì ñîãëàøåíèè êàæäàÿ êîìïîíåíòà Xj íàáëþäàåìîãî âåêòîðà
(m)
X
èìååò ñòîõàñòè÷åñêîå ïðåäñòàâëåíèå
Xj =
n
X
Xji ,
(1)
i=1
â êîòîðîì Xj1 , . . . , Xjn íåçàâèñèìû è îäèíàêîâî B(1, pj ) ðàñïðåäåëåíû: ïðèíèìàþò çíà÷åíèå 1 ñ âåðîÿòíîñòüþ pj è çíà÷åíèå 0 ñ âåðîÿòíîñòüþ 1 −
pj , j = 1, . . . , m. Èç ïðåäñòàâëåíèÿ (1) ñëåäóåò, ÷òî âåðîÿòíîñòü ëþáîãî ñîáûòèÿ â n ìóëüòèíîìèàëüíûõ èñïûòàíèÿõ (çíà÷åíèé, êîòîðûå ïðèíèìàþò âåêòîðû Y1 , . . . , Yn ) îïðåäåëÿåòñÿ òîëüêî êîëè÷åñòâàìè x1 , . . . , xm
èñïûòàíèé, êîòîðûå çàâåðøèëèñü ñîîòâåòñòâóþùèìè èñõîäàìè
X m A1 , . . . , A m .
x1
Ëåãêî âèäåòü, ÷òî ýòà âåðîÿòíîñòü ðàâíà p1 · · · pxmm , ãäå
xj = n. Òå1
ïåðü äëÿ òîãî, ÷òîáû âûâåñòè ôóíêöèþ ïëîòíîñòè f (x1 , . . . , xm ) = P (X1 =
95
x1 , . . . , Xm = xm ), äîñòàòî÷íî ðåøèòü êîìáèíàòîðíóþ çàäà÷ó, êîòîðóþ ìû
óìååì ðåøàòü â ñëó÷àå m = 2 : ñêîëüêèìè ñïîñîáàìèX
ìîæíî ïîëó÷èòü x1
m
èñõîäîâ A1 , x2 èñõîäîâ A2 , . . . , xm èñõîäîâ Am â n =
xi èñïûòàíèÿõ?
1
Ðåøåíèå çàäà÷è äàþò ìóëüòèíîìèàëüíûå êîýôôèöèåíòû
Cnx1 ...xm =
n!
x1 ! · · · xm !
(ñðàâíèòå ñ áèíîìèàëüíûìè êîýôôèöèåíòàìè Cnx ). Èòàê, ôóíêöèÿ ïëîòíîñòè ìóëüòèíîìèàëüíîãî ðàñïðåäåëåíèÿ M(m, n, p) ïî m-êðàòíîìó ïðîèçâåäåíèþ ñ÷èòàþùèõ ìåð ðàâíà
f (x1 , . . . , xm ) =
n!
px1 1 · · · pxmm ,
x1 ! · · · xm !
Xm
â îáëàñòè
xj = n è f (x1 , . . . , xm ) = 0 â ñëó÷àå öåëûõ x1 , . . . , xm , íå
1
óäîâëåòâîðÿþùèõ ïîñëåäíåìó ðàâåíñòâó, à òàêæå â ñëó÷àå äðîáíûõ xj , j =
1, . . . , m.
Âû÷èñëèì ìîìåíòíûå õàðàêòåðèñòèêè ìóëüòèíîìèàëüíîãî ðàñïðåäåëåíèÿ, èñïîëüçóÿ ñòîõàñòè÷åñêîå ïðåäñòàâëåíèå (1). Âåêòîð ñðåäíèõ
EXj =
n
X
EXji = n(1.pj + 0 · (1 − pj )) = npj ,
j = 1, . . . , m;
i=1
âåêòîð äèñïåðñèé (ñì. ïðåäëîæåíèå 9.1)
σj2
=D
n
X
i=1
Xji =
n
X
DXji = npj (1 − pj ),
j = 1, . . . , m.
i=1
Âû÷èñëèì êîâàðèàöèè Xj ñ Xl ïðè j 6= l (ñì. ïðåäëîæåíèå 9.1):
λjl =
n
X
cov(Xji , Xli ) =
i=1
n
X
[ E(Xji Xli ) − EXji EXil ] .
i=1
Ïîñêîëüêó ïðè i-îì èñïûòàíèè òîëüêî îäíà èç êîìïîíåíò X1i , . . . , Xmi ðàâíà åäèíèöå, à îñòàëüíûå ðàâíû íóëþ, òî Xji Xli ≡ 0, è λjl = −npj pl . Êîýôôèöèåíòû êîððåëÿöèè
ρjl = −
r
npj pl
n (pj (1 − pj )pl (1 − pl ))1/2
96
=−
pj pl
,
(1 − pj )(1 − pl )
j 6= l.
Îòðèöàòåëüíûå çíà÷åíèÿ êîýôôèöèåíòîâ êîððåëÿöèè
Xm åñòü ñëåäñòâèå ñâÿçåé ìåæäó êîìïîíåíòàìè íàáëþäàåìîãî âåêòîðà:
Xj = n.
1
Ìíîãîìåðíîå íîðìàëüíîå ðàñïðåäåëåíèå
Nm (µ, Λ). Ìû òðàêòî-
âàëè ìóëüòèíîìèàëüíóþ ñõåìó èñïûòàíèé êàê ìíîãîìåðíûé àíàëîã ñõåìû
íåçàâèñèìûõ èñïûòàíèé Áåðíóëëè.  òàêîì ñëó÷àå åñòåñòâåííî ðàññìîòðåòü ìíîãîìåðíûé àíàëîã ïðåäåëüíîé òåîðåìû ÌóàâðàËàïëàñà. Ïðèìåíÿÿ ôîðìóëó Ñòèðëèíãà, íåòðóäíî óáåäèòüñÿ, ÷òî èìååò ìåñòî
Òåîðåìà 9.1. (Èíòåãðàëüíàÿ ïðåäåëüíàÿ òåîðåìà äëÿ ìóëüòèíîìèàëüíîãî ðàñïðåäåëåíèÿ). Äëÿ ëþáûõ ïîñòîÿííûõ (a1 , b1 ),
. . . , (am , bm ) è (m + 1)-ìåðíîãî ñëó÷àéíîãî âåêòîðà X (m+1) = (X1 , . . . ,
Xm , Xm+1 ) ∼ M(m + 1, n, p) ñïðàâåäëèâî àñèìïòîòè÷åñêîå ïðåäñòàâëåíèå
!
Ã
X1 − np1
Xm − npm
lim P a1 ≤ p
< b 1 , . . . , am ≤ p
< bm =
n→∞
np1 (1 − p1 )
npm (1 − pm )
1
(2π)m/2
Zb1
p
|P|
Zbm
...
a1
am
½
¾
1 0 −1
exp − x P x dx1 · · · dxm ,
2
(2)
ãäå x = (x1 , . . . xm ), x àíàëîãè÷íûé âåêòîð ñòîëáåö; P = kρij k êîððåëÿöèîííàÿ ìàòðèöà, â êîòîðîé ρii = 1 è
r
ρij = −
pi pj
,
(1 − pi )(1 − pj )
åñëè i 6= j, i, j = 1, . . . , m; P−1 ìàòðèöà, îáðàòíàÿ ê P, íàêîíåö, |P|
îïðåäåëèòåëü ìàòðèöû P.
Èíòåãðàë (2) îïðåäåëÿåò íåïðåðûâíîå ðàñïðåäåëåíèå âåðîÿòíîñòåé íà
ïðÿìîóãîëüíèêàõ (ñëåäîâàòåëüíî, è íà áîðåëåâñêîì ïîëå) ïðîñòðàíñòâà Rm ,
ïðè÷åì ôóíêöèÿ ïëîòíîñòè ýòîãî ðàñïðåäåëåíèÿ
½
¾
1 0 −1
p
fm (x | P) =
exp − x P x ,
2
(2π)m/2 |P|
1
x0 ∈ Rm .
Åñëè òåïåðü âìåñòî êîððåëÿöèîííîé ìàòðèöû P ìóëüòèíîìèàëüíîãî ðàñïðåäåëåíèÿ ðàññìîòðåòü ïðîèçâîëüíóþ, ïîëîæèòåëüíî îïðåäåëåííóþ êîððåëÿöèîííóþ ìàòðèöó P = kρij k, ρii = 1, i = 1, . . . , m, òî fm (x0 | P) áóäåò ôóíêöèåé ïëîòíîñòè ñëó÷àéíîãî âåêòîðà X (m) = (X1 , . . . , Xm ), èìåþùåãî ñòàíäàðòíîå m-ìåðíîå íîðìàëüíîå ðàñïðåäåëåíèå Nm (0, P). Äàëåå, åñëè ââåñòè âåêòîð ñðåäíèõ µ = (µ1 , . . . , µm ) è âåêòîð äèñïåðñèé
97
2
σ 2 = (σ12 , . . . , σm
), òî ñëó÷àéíûé âåêòîð σX1 + µ1 , . . . , σm Xm + µm áóäåò
èìåòü ìíîãîìåðíîå íîðìàëüíîå ðàñïðåäåëåíèå Nm (µ, Λ) ñ ôóíêöèåé ïëîòíîñòè
½
¾
1
1
p
ϕm (x0 | µ, Λ) =
exp − (x − µ)0 Λ−1 (x − µ) =
m/2
2
(2π)
|Λ|
(
)
X
1
Pij (xi − µi )(xj − µj )
1
p
exp −
·
, x0 ∈ Rm ,
m/2
2
|
P
|
σ
σ
(2π) σ1 · · · σm | P |
i j
i,j
ãäå îïðåäåëèòåëü êîâàðèàöèîííîé ìàòðèöû | Λ | = σ1 · · · σm ·| P |, à Pij /|P|
ýëåìåíòû ìàòðèöû P−1 , îáðàòíîé ê P.
Íåòðóäíî âèäåòü, ÷òî åñëè êîýôôèöèåíòû êîððåëÿöèè ρij = 0, êîãäà
i 6= j, òî åñòü P åñòü åäèíè÷íàÿ ìàòðèöà, à â ìàòðèöå êîâàðèàöèé Λ îò2
ëè÷íû îò íóëÿ òîëüêî äèàãîíàëüíûå ýëåìåíòû σ12 , . . . , σm
, òî íîðìàëüíàÿ
ôóíêöèÿ ïëîòíîñòè ðàñïàäàåòñÿ â ïðîèçâåäåíèå ìàðãèíàëüíûõ íîðìàëüíûõ N1 (µi , σi2 ), i = 1, . . . , m ôóíêöèé ïëîòíîñòè. Ïîýòîìó ñïðàâåäëèâî
Ïðåäëîæåíèå 9.2.  ñëó÷àå íîðìàëüíîãî ðàñïðåäåëåíèÿ ñëó÷àéíîãî
âåêòîðà íåêîððåëèðîâàííîñòü åãî êîìïîíåíò âëå÷åò èõ íåçàâèñèìîñòü.
Ñëåäóåò îáðàòèòü îñîáîå âíèìàíèå íà òðåáîâàíèå ïîëîæèòåëüíîé îïðåäåëåííîñòè êîððåëÿöèîííîé ìàòðèöû P èëè, ÷òî òî æå, êîâàðèàöèîííîé
ìàòðèöû Λ. Åñëè ýòè ìàòðèöû ïîëîæèòåëüíî ïîëóîïðåäåëåíû, òî åñòü èìåþò ðàíã r < m, òî ìû ïîëó÷èì íåñîáñòâåííîå m-ìåðíîå íîðìàëüíîå ðàñïðåäåëåíèå, âñÿ âåðîÿòíîñòíàÿ ìàññà êîòîðîãî áóäåò ñîñðåäîòî÷åíà íà ãèïåðïëîñêîñòè Rr , à ìåæäó êîìïîíåíòàìè ñëó÷àéíîãî âåêòîðà X (m) áóäåò
ñóùåñòâîâàòü ëèíåéíàÿ çàâèñèìîñòü.
Óêàçàííûå ñâîéñòâà ìíîãîìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ íàèáîëåå
íàãëÿäíî ïðîñëåæèâàþòñÿ â ñëó÷àå m = 2 íîðìàëüíîãî ðàñïðåäåëåíèÿ
íà ïëîñêîñòè R2 . Ôóíêöèÿ ïëîòíîñòè ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà
(X, Y ) ∼ N2 (µ, Λ) ïðè ρ = ρXY 6= ±1 ðàâíà
ϕ2 (x, y | µ, Λ) =
½
1
exp −
2(1 − ρ2 )
µ
2πσ1 σ2
1
p
1 − ρ2
·
(x − µ1 )2 2ρ(x − µ1 )(y − µ2 ) (y − µ2 )2
−
+
σ12
σ1 σ2
σ22
98
¶¾
.
Êàê îòìå÷àëîñü âûøå, µ1 = EX, µ2 = EY åñòü âåêòîð ñðåäíèõ çíà÷åíèé; σ12 = DX, σ22 = DY äèñïåðñèè ñîîòâåòñòâóþùèõ ñëó÷àéíûõ âåëè÷èí; ρ = cov(X, Y )/σ1 σ2 , êîýôôèöèåíò êîððåëÿöèè ìåæäó X è Y.
 òîì, ÷òî ýòî äåéñòâèòåëüíî òàê, ìîæíî óáåäèòüñÿ è íåïîñðåäñòâåííûì
âû÷èñëåíèåì èíòåãðàëîâ, îïðåäåëÿþùèõ ñîîòâåòñòâóþùèå ìîìåíòíûå õàðàêòåðèñòèêè. Ìàðãèíàëüíûå ôóíêöèè ïëîòíîñòè f X (x) è f Y (y) íàõîäÿòñÿ
òàêæå íåïîñðåäñòâåííûì èíòåãðèðîâàíèåì ñîâìåñòíîé ôóíêöèè ïëîòíîñòè
ϕ2 (x, y | µ, Λ) ïî ñîîòâåòñòâóþùèì ïåðåìåííûì y è x :
¾
¾
½
½
1
1
(x − µ1 )2
(y − µ2 )2
Y
f (x) = √
exp −
, f (y) = √
exp −
,
2σ12
2σ22
2πσ1
2πσ2
X
òî åñòü X ∼ N(µ1 , σ12 ), Y ∼ N(µ2 , σ22 ). Îñîáî îòìåòèì, ÷òî ñóùåñòâóþò
ìíîãîìåðíûå ðàñïðåäåëåíèÿ, îòëè÷íûå îò íîðìàëüíîãî, íî èìåþùèå íîðìàëüíûå ìàðãèíàëüíûå ðàñïðåäåëåíèÿ.
Ïîäîáíûå ýëëèïñû
1
2(1 − ρ2 )
µ
(x − µ)2 2ρ(x − µ1 )(y − µ2 ) (y − µ2 )2
−
+
σ12
σ1 σ2
σ22
¶
= c2
èãðàþò ðîëü êðèâûõ ðàâíûõ âåðîÿòíîñòåé: íåòðóäíî âû÷èñëèòü, ÷òî âåðîÿòíîñòü ïîïàäàíèÿ (X, Y ) â îáëàñòü, îãðàíè÷åííóþ ýòèì ýëëèïñîì, ðàâíà
1 − exp{−c2 }.
Ôîðìà ýëëèïñà ðàâíûõ âåðîÿòíîñòåé äàåò õîðîøåå ïðåäñòàâëåíèå î âèäå
ïîâåðõíîñòè z = ϕ2 (x, y | µ, Λ) íîðìàëüíîé ïëîòíîñòè. Ïðè ρ = 0, σ1 = σ2
ýëëèïñû ïðåâðàùàþòñÿ â îêðóæíîñòè. Êîãäà ρ ïðèáëèæàåòñÿ ê +1 èëè
1, ýëëèïñû ñòàíîâÿòñÿ áîëåå òîíêèìè è âûòÿíóòûìè, ÷òî ÿâëÿåòñÿ ïîêàçàòåëåì ñòðåìëåíèÿ âåðîÿòíîñòíîé ìàññû ñîñðåäîòà÷èâàòüñÿ îêîëî îáùåé
áîëüøîé îñè ýòèõ ýëëèïñîâ.
Îñîáûé èíòåðåñ ïðåäñòàâëÿåò ýëëèïñ ñ c = 2, êîòîðûé íàçûâàåòñÿ ýëëèïñîì ðàññåÿíèÿ. Îí îáëàäàåò äîñòàòî÷íî âûñîêîé âåðîÿòíîñòüþ 1−e−4 ≈
0.98 ïîïàäàíèÿ ñëó÷àéíîé òî÷êè (X, Y ) âíóòðü ýëëèïñà è åùå îäíèì çàìå÷àòåëüíûì ñâîéñòâîì: ðàâíîìåðíîå ðàñïðåäåëåíèå ïî îáëàñòè, îãðàíè÷åííîé ýëëèïñîì ðàññåÿíèÿ, èìååò òå æå ìîìåíòû ïåðâîãî (µ1 , µ2 ) è âòîðîãî
(σ12 , σ22 , ρσ1 σ2 ) ïîðÿäêîâ, ÷òî è íîðìàëüíîå ðàñïðåäåëåíèå.
 çàêëþ÷åíèå îòìåòèì, ÷òî äâóìåðíîå íîðìàëüíîå ðàñïðåäåëåíèå èãðàåò âàæíóþ ðîëü â òåîðèè ñòðåëüá: ðàñïðåäåëåíèå êîîðäèíàò òî÷åê ïîïàäàíèÿ ïðè ñòðåëüáå èç çàêðåïëåííîãî ñòâîëà õîðîøî ñîãëàñóåòñÿ ñ íîðìàëüíûì çàêîíîì.
99
10. Óñëîâíîå ðàñïðåäåëåíèå âåðîÿòíîñòåé.
Óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå
Ëåêöèÿ 16
Îäíîé èç òèïè÷íûõ çàäà÷ òåîðèè âåðîÿòíîñòåé ÿâëÿåòñÿ ïðîãíîç âîçìîæíîãî çíà÷åíèÿ ñëó÷àéíîé âåëè÷èíû Y ïî ðåçóëüòàòó íàáëþäåíèÿ äðóãîé ñëó÷àéíîé âåëè÷èíû X. Ïðèìåðû òàêèõ çàäà÷ ïðîãíîç ìåòåîðîëîãè÷åñêèõ ïîêàçàòåëåé (òåìïåðàòóðû âîçäóõà, àòìîñôåðíîãî äàâëåíèÿ, êîëè÷åñòâà îñàäêîâ) ïî äàííûì èõ çàìåðîâ â ïðîøëîì; ïðîãíîç ñòîèìîñòè
öåííûõ áóìàã èëè îáìåííîãî êóðñà âàëþòû íà áëèæàéøåå áóäóùåå, ïðè÷åì
ïðîãíîç îñóùåñòâëÿåòñÿ íå ñòîëüêî ïî çíà÷åíèÿì ýòèõ ôèíàíñîâûõ ïîêàçàòåëåé íà ñåãîäíÿøíèé äåíü, ñêîëüêî ïî äàííûì èíôîðìàöèîííîãî öåíòðà î
ñîñòîÿíèè ïðîìûøëåííîñòè ñòðàíû, ðàçëè÷íûõ ïîêàçàòåëåé ðûíêà öåííûõ
áóìàã, èõ äâèæåíèÿ, ñïðîñà è ïð. Ñ àíàëîãè÷íûìè ïðîáëåìàìè ìû ñòàëêèâàåìñÿ â ìåäèöèíå, òåõíèêå, óïðàâëåíèè ïðîèçâîäñòâîì. Ëåãêî ïîíÿòü, ÷òî
âî âñåõ ýòèõ ïðèìåðàõ ïðîãíîç íîñèò âåðîÿòíîñòíûé õàðàêòåð, è äîëæåí
îòâå÷àòü íà âîïðîñû òèïà: åñëè íàáëþäàåòñÿ çíà÷åíèå x ñëó÷àéíîé âåëè÷èíû X, òî êàêîâà âåðîÿòíîñòü òîãî, ÷òî Y áóäåò ëåæàòü â îïðåäåëåííûõ
ïðåäåëàõ, êàêîâî íàèáîëåå âåðîÿòíîå çíà÷åíèå Y, èëè ÷åìó ðàâíî ñðåäíåå
çíà÷åíèå Y, åñëè X ïðèíÿëî çíà÷åíèå x?
Íà âñå ýòè âîïðîñû ëåãêî îòâåòèòü â ñëó÷àå äèñêðåòíûõ ðàñïðåäåëåíèé ñëó÷àéíîãî âåêòîðà (X, Y ). Ïóñòü f X,Y (x, y) = P (X = x, Y = y)
ñîâìåñòíàÿ ôóíêöèÿ ïëîòíîñòè X è Y ïî ñ÷èòàþùåé ìåðå íà áîðåëåâñêîé ïëîñêîñòè R2 . Òîãäà ðåøåíèå çàäà÷è ïðîãíîçà äàåò óñëîâíàÿ ôóíêöèÿ
ïëîòíîñòè óñëîâíàÿ âåðîÿòíîñòü
f
Y |X
P (X = x, Y = y) f X,Y (x, y)
(y | x) = P {Y = y | X = x} =
=
,
P (X = x)
f X (x)
ãäå f X (x) ìàðãèíàëüíàÿ ôóíêöèÿ ïëîòíîñòè X. Äåéñòâèòåëüíî, âåðîÿòíîñòü òîãî, ÷òî ïðîãíîçèðóåìîå çíà÷åíèå Y áóäåò ëåæàòü â ïðåäåëàõ (a; b)
ðàâíî óñëîâíîé âåðîÿòíîñòè
P {Y ∈ (a; b) | X = x} =
X
f Y |X (y | x),
y∈(a;b)
íàèáîëåå âåðîÿòíîå çíà÷åíèå Y ýòî ìîäà óñëîâíîãî ðàñïðåäåëåíèÿ
mod(Y | X) = arg sup f Y |X (y | x),
y
100
îæèäàåìîå (ñðåäíåå) çíà÷åíèå Y óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå
E{Y | X = x} =
X
yf Y |X (y | x).
y
Íî êàê îñóùåñòâèòü àíàëîãè÷íûå ðàñ÷åòû â ñëó÷àå íåïðåðûâíîãî ðàñïðåäåëåíèÿ X, êîãäà P (X = x) = 0 è íà íîëü, êàê èçâåñòíî, äåëèòü íåëüçÿ?
Êîíå÷íî, è â ýòîì ñëó÷àå ìîæíî ïðåäëîæèòü íåêîòîðîå ñóððîãàòíîå , ïîñòðîåííîå íà àíàëîãèÿõ ñ äèñêðåòíûì ñëó÷àåì, îïðåäåëåíèå óñëîâíîãî ðàñïðåäåëåíèÿ, íî òåì íå ìåíåå îòñóòñòâèå ñòðîãîãî îïðåäåëåíèÿ óñëîâíîé âåðîÿòíîñòè, ïðèãîäíîãî äëÿ ðàñïðåäåëåíèé ëþáîãî òèïà, äîëãî òîðìîçèëî
ðàçâèòèå òåîðèè âåðîÿòíîñòåé è åå ñòàíîâëåíèå êàê ñàìîñòîÿòåëüíîé ìàòåìàòè÷åñêîé äèñöèïëèíû. Îñîáåííî ñòðàäàëà îò ýòîãî òåîðèÿ ñëó÷àéíûõ
ïðîöåññîâ, äî òåõ ïîð ïîêà â 20-õ ãîäàõ íàøåãî ñòîëåòèÿ Àíäðåé Íèêîëàåâè÷ Êîëìîãîðîâ ââåë ñòðîãîå îïðåäåëåíèå óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ è óñëîâíîãî ðàñïðåäåëåíèÿ âåðîÿòíîñòåé. Óâû, ýòî ñëèøêîì ñëîæíàÿ
òåîðèÿ, êîòîðóþ ìû íå ñìîæåì ïîñòè÷ü ñ íàøèìè ñêóäíûìè Âý-ýÌ-Êàøèíñêèìè ïîçíàíèÿìè â îáëàñòè òåîðèè ìåðû. Çàìå÷ó òîëüêî, ÷òî â ýòîì
îïðåäåëåíèè ðåøàþùóþ ðîëü èãðàåò òåîðåìà ÐàäîíàÍèêîäèìà, î êîòîðîé ìû óïîìèíàëè â 6, êîãäà ââîäèëè ôóíêöèþ ïëîòíîñòè ðàñïðåäåëåíèÿ
ñëó÷àéíîé âåëè÷èíû. Êðîìå òîãî, óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå è
óñëîâíîå ðàñïðåäåëåíèå òðàêòóþòñÿ êàê ñëó÷àéíûå âåëè÷èíû, èçìåíåíèå
çíà÷åíèé êîòîðûõ íà ìíîæåñòâàõ íóëåâîé âåðîÿòíîñòè íå âëèÿåò íà èõ
ðàñïðåäåëåíèå, è ýòî îáñòîÿòåëüñòâî ïîçâîëÿåò èñêëþ÷èòü èç ðàññìîòðåíèÿ çíà÷åíèÿ x ñëó÷àéíîé âåëè÷èíû X, â êîòîðûõ f X (x) = 0. Ñåé÷àñ ìû
ðàññêàæåì, êàê ýòî äåëàåòñÿ áåç ïðèâëå÷åíèÿ òåîðåìû ÐàäîíàÍèêîäèìà,
êîãäà ñîâìåñòíîå ðàñïðåäåëåíèå X è Y ïðèíàäëåæèò íåïðåðûâíîìó òèïó
(ñóùåñòâóåò ïëîòíîñòü f X,Y (x, y) ïî ìåðå Ëåáåãà íà ïëîñêîñòè).
Ïðåäïîëîæèì äîïîëíèòåëüíî, ÷òî ñîâìåñòíàÿ ôóíêöèÿ ïëîòíîñòè
X,Y
f (x, y) íåïðåðûâíà ïî îáåèì ïåðåìåííûì, è èçó÷èì àñèìïòîòè÷åñêîå
ïîâåäåíèå óñëîâíîé âåðîÿòíîñòè P {Y < y | x ≤ X < x + ∆x} ïðè ∆x → 0.
Ïîíÿòíî, ÷òî òàêèì îáðàçîì ìû ïûòàåìñÿ ââåñòè óñëîâíóþ ôóíêöèþ ïëîòíîñòè Y, ïðè óñëîâèè X = x. Ïî ôîðìóëå óñëîâíîé âåðîÿòíîñòè íàõîäèì
P {Y < y | x ≤ X < x + ∆x} =
P (Y < y, x ≤ X < x + ∆x)
=
P (x ≤ X < x + ∆x)
101
Ry
−∞
dt
x+∆x
R
x
x+∆x
R
f X,Y (s, t)ds
.
f X (s)ds
x
Ïðèìåíÿÿ òåîðåìó î ñðåäíåì ê èíòåãðàëàì â ïðàâîé ÷àñòè ýòîãî ðàâåíñòâà,
ïîëó÷àåì
Ry
P {Y < y | x ≤ X < x + ∆x} =
f X,Y (x + λ1 ∆x, t)dt∆x
−∞
f X (x + λ2 ∆x)∆x
,
ãäå 0 < λi < 1, i = 0, 1.
Òåïåðü, èñïîëüçóÿ íåïðåðûâíîñòü ôóíêöèé f X,Y è f X , ìû ìîæåì îïðåäåëèòü óñëîâíóþ ôóíêöèþ ðàñïðåäåëåíèÿ Y îòíîñèòåëüíî ñîáûòèÿ X = x,
åñëè óñòðåìèì â îáåèõ ÷àñòÿõ ïîñëåäíåãî íåðàâåíñòâà ∆x → 0 :
Ry
F Y |X (y | x) = lim P {Y < y | x ≤ X < x + ∆x} =
f X,Y (x, t)dt
−∞
∆x→0
f X (x)
.
Óñëîâíàÿ ôóíêöèÿ ïëîòíîñòè ïîëó÷àåòñÿ äèôôåðåíöèðîâàíèåì óñëîâíîé ôóíêöèè ðàñïðåäåëåíèÿ:
f
Y |X
d Y |X
f X,Y (x, y)
(y | x) = F
(y | x) =
.
dy
f X (x)
Óäèâèòåëüíî, íî ìû ïðèøëè ê òîé æå ôîðìóëå óñëîâíîé ïëîòíîñòè, ÷òî è
â äèñêðåòíîì ñëó÷àå!
Ïîñêîëüêó çíà÷åíèÿ x, â êîòîðûõ f X (x) = 0, ìîæíî âîîáùå èñêëþ÷èòü
èç îáëàñòè âîçìîæíûõ çíà÷åíèé ñëó÷àéíîé âåëè÷èíû X (ýòè çíà÷åíèÿ â
ñîâîêóïíîñòè äàþò ìíîæåñòâî íóëåâîé âåðîÿòíîñòè), òî, ïîäñòàâëÿÿ â îïðåäåëåíèè óñëîâíîé ïëîòíîñòè âìåñòî x ñëó÷àéíóþ âåëè÷èíó X, ïðèõîäèì ê
ñëåäóþùåìó îïðåäåëåíèþ óñëîâíîãî ðàñïðåäåëåíèÿ è óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ äëÿ äèñêðåòíûõ è íåïðåðûâíûõ ðàñïðåäåëåíèé ñëó÷àéíîãî âåêòîðà (X, Y ).
Îïðåäåëåíèå 10.1. Åñëè ñëó÷àéíûé âåêòîð (X, Y ) èìååò äèñêðåòíóþ
èëè íåïðåðûâíóþ ñîâìåñòíóþ ôóíêöèþ ïëîòíîñòè f X,Y (x, y), òî óñëîâíîå
ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû Y îòíîñèòåëüíî ñëó÷àéíîé âåëè÷èíû
102
X îïðåäåëÿåòñÿ ôóíêöèåé ïëîòíîñòè
f Y |X (y | X) =
f X,Y (y, X)
, y ∈ R,
f X (X)
à óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå Y îòíîñèòåëüíî ñëó÷àéíîé âåëè÷èíû X âû÷èñëÿåòñÿ ïî ôîðìóëå
Z
yf Y |X (y | X)dµ(y).
E{Y | X} =
R
Òàêèì îáðàçîì, óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå è óñëîâíîå ðàñïðåäåëåíèå ÿâëÿþòñÿ ñëó÷àéíûìè âåëè÷èíàìè è îïðåäåëÿþùèå èõ ôîðìóëû
ñïðàâåäëèâû äëÿ ïî÷òè âñåõ çíà÷åíèé ñëó÷àéíîé âåëè÷èíû X.
Åñòåñòâåííî, ìû ìîæåì ââåñòè òàêæå îïðåäåëåíèå óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ èçìåðèìîé ôóíêöèè g(Y ) îòíîñèòåëüíî ñëó÷àéíîé âåëè÷èíû X, ïîëàãàÿ
Z
g(y)f Y |X (y | X)dµ(y).
E{g(Y ) | X} =
R
Åñëè ïîëîæèòü g(y) = IB (y) èíäèêàòîðíîé ôóíêöèè áîðåëåâñêîãî ìíîæåñòâà B, òî óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå îò g(Y ) îòíîñèòåëüíî X
ñîâïàäàåò ñ óñëîâíîé âåðîÿòíîñòüþ ñîáûòèÿ B, è, òàêèì îáðàçîì, óñëîâíîå
ðàñïðåäåëåíèå Y îòíîñèòåëüíî X åñòü ÷àñòíûé ñëó÷àé óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ:
P {Y ∈ B | X} = E{IB (Y ) | X}.
Ëåãêî âèäåòü, ÷òî óñëîâíîå ìàòåìàòè÷åñêîå îæèäàíèå îáëàäàåò âñåìè
ñâîéñòâàìè îáû÷íîãî ñðåäíåãî, íî åìó ïðèñóùè è íåêîòîðûå ñïåöèôè÷åñêèå ÷åðòû.
Ïðåäëîæåíèå 10.1. Äëÿ óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ
E{Y | X} ñïðàâåäëèâû ðàâåíñòâà
(1) EX E{Y | X} = EY,
(2) åñëè X è Y íåçàâèñèìû, òî E{Y | X} = EY.
Ä î ê à ç à ò å ë ü ñ ò â î. Îáà ðàâåíñòâà íåìåäëåííî ñëåäóþò èç îïðåäåëåíèÿ óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ.
103
(1)
Èìååì
Z
X
E{Y | x}f X (x)dµ(x) =
E E{Y | X} =
Z
R
Z
f X,Y (x, y) X
dµ(x) y
f (x)dµ(y) =
f X (x)
R
R
(2)
Z
yf Y (y)dµ(y) = EY.
R
Åñëè X è Y íåçàâèñèìû, òî f X,Y (x, y) = f X (x)f Y (y), îòêóäà
Z
f X (x)f Y (y)
E{Y | X} =
y
dµ(y) =
X (x)
f
R
Z
yf Y (y)dµ(y) = EY.
R
Òåïåðü ìû ðàñïîëàãàåì íåêîòîðîé òåõíèêîé äëÿ ðåøåíèÿ ïðîñòåéøèõ
çàäà÷ ïðîãíîçà.
Íàèëó÷øèé â ñðåäíåì êâàäðàòè÷åñêîì ïðîãíîç
îæèäàåìîãî çíà÷åíèÿ Y ïî ðåçóëüòàòó íàáëþäåíèÿ X.
Ïðîáëåìà îïòèìàëüíîãî ïðåäñêàçàíèÿ îæèäàåìîãî çíà÷åíèÿ Y ïî ðåçóëüòàòó x íàáëþäåíèÿ ñëó÷àéíîé âåëè÷èíû X ñîñòîèò â îòûñêàíèè ôóíêöèè g(X), êîòîðàÿ ìèíèìèçèðóåò íåêîòîðóþ ìåðó óêëîíåíèÿ g(X) îò Y.
Ìû áóäåì ðåøàòü çàäà÷ó ìèíèìèçàöèè ñðåäíåãî êâàäðàòè÷åñêîãî óêëîíåíèÿ E(Y − g(X))2 , â êîòîðîì ìàòåìàòè÷åñêîå îæèäàíèå âû÷èñëÿåòñÿ ïî
ñîâìåñòíîìó ðàñïðåäåëåíèþ X è Y. Ðåøåíèå çàäà÷è äàåò
Ïðåäëîæåíèå 10.2. Ìèíèìóì ôóíêöèîíàëà E(Y −g(X))2 äîñòèãàåòñÿ
íà ôóíêöèè g ∗ (X) = E{Y | X}.
Ä î ê à ç à ò å ë ü ñ ò â î. Èñïîëüçóÿ ñâîéñòâî (1) óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ, óñòàíîâëåííîå â ïðåäëîæåíèè 10.1, ïðåäñòàâèì ñðåäíåå êâàäðàòè÷åñêîå óêëîíåíèå â âèäå E(Y −g(X))2 = EX E{(Y −g(X))2 | X} è áóäåì
ìèíèìèçèðîâàòü ìîìåíò âòîðîãî ïîðÿäêà E{(Y − g(X))2 | X} ñëó÷àéíîé
âåëè÷èíû Y îòíîñèòåëüíî òî÷êè g(X), êîãäà ðàñïðåäåëåíèå Y îïðåäåëÿåòñÿ óñëîâíîé ôóíêöèåé ïëîòíîñòè f Y |X (y | X).  6 (ïðåäëîæåíèå 6.1,
óòâåðæäåíèå 40 ) áûëî ïîêàçàíî, ÷òî ìèíèìóì äîñòèãàåòñÿ íà ñðåäíåì çíà÷åíèè Y è ðàâåí DY. Ïîñêîëüêó â äàííîì ñëó÷àå ìîìåíò âòîðîãî ïîðÿäêà
âû÷èñëÿëñÿ ïî óñëîâíîìó ðàñïðåäåëåíèþ Y îòíîñèòåëüíî X, òî ìèíèìóì
äîñòèãàåòñÿ íà ôóíêöèè (ñëó÷àéíîé âåëè÷èíå) g ∗ (X) = E{(Y | X}.
Èòàê, íàèëó÷øèé â ñðåäíåì êâàäðàòè÷åñêîì ïðîãíîç îæèäàåìîãî çíà÷åíèÿ Y ïî ðåçóëüòàòó x íàáëþäåíèÿ ñëó÷àéíîé âåëè÷èíû X äîñòàâëÿåò
104
ðåàëèçàöèÿ â òî÷êå X = x óñëîâíîãî ìàòåìàòè÷åñêîãî îæèäàíèÿ E{Y | X}.
Äîïóñêàÿ íåêîòîðóþ âîëüíîñòü, çàïèøåì ýòó ðåàëèçàöèþ â âèäå ôóíêöèè
y = g ∗ (x) = E{Y | X = x}. Ôóíêöèÿ y = g ∗ (x) íàçûâàåòñÿ êðèâîé ñðåäíåé
êâàäðàòè÷åñêîé ðåãðåññèè Y íà X, à ìèíèìàëüíîå ñðåäíåå êâàäðàòè÷åñêîå
óêëîíåíèå σY2 |X = E(Y − g ∗ (X))2 îñòàòî÷íîé äèñïåðñèåé.
Íàéäåì êðèâóþ g ∗ (x) è âû÷èñëèì îñòàòî÷íóþ äèñïåðñèþ â ñëó÷àå ñîâìåñòíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ X è Y.
Ïðåäëîæåíèå 10.3. Ïóñòü (X, Y ) ∼
N2 (µ, Λ). Òîãäà êðèâàÿ ñðåäíåé
êâàäðàòè÷åñêîé ðåãðåññèè Y íà X åñòü ïðÿìàÿ
y = µ2 + ρ
σ2
(x − µ1 ).
σ1
Îñòàòî÷íàÿ äèñïåðñèÿ σY2 |X = σ22 (1 − ρ2 ).
Ä î ê à ç à ò å ë ü ñ ò â î.  ñëó÷àå äâóìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ
f X,Y (x, y) = f Y |X (y | x) · f X (x) =
2πσ1 σ2
1
p
1 − ρ2
·
µ
¶¾
(x − µ1 )2 2ρ(x − µ1 )(y − µ2 ) (y − µ2 )2
1
−
+
,
exp −
2(1 − ρ2 )
σ12
σ1 σ2
σ22
è îñòàåòñÿ òîëüêî óáåäèòüñÿ, ÷òî
½
¾
2
1
(x
−
µ
)
1
f X (x) = √
exp −
,
2σ12
2πσ1
½
à
f
Y |X
½
¾
1
(y − g(x))2
p
(y | x) = √
exp − 2
,
2σ2 (1 − ρ2 )
2πσ2 1 − ρ2
ãäå
(1)
σ2
(x − µ1 ).
σ1
Ìàðãèíàëüíóþ ôóíêöèþ ïëîòíîñòè f X (x) êîìïîíåíòû X ìû âû÷èñëÿëè â êîíöå ïðåäûäóùåãî ïàðàãðàôà. Ïåðåìíîæàÿ f X (x) è
f Y |X (y | x) è ïðîèçâîäÿ íåñëîæíûå àëãåáðàè÷åñêèå ïðåîáðàçîâàíèÿ, óáåæäàåìñÿ, ÷òî ýòî ïðîèçâåäåíèå ðàâíî ïëîòíîñòè f X,Y (x, y) äâóìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ.
Èç ôîðìóëû (1) íàõîäèì, ÷òî óñëîâíàÿ ïëîòíîñòü èìååò ñðåäíåå çíà÷åíèå E{Y | X = x} = g(x) è äèñïåðñèþ σ22 (1 − ρ2 ), êîòîðûå ñîâïàäàþò ñ
ôîðìóëàìè, ïðèâåäåííûìè â ôîðìóëèðîâêå ïðåäëîæåíèÿ.
g(x) = µ2 + ρ
105
Ëåãêî ïîíÿòü, ÷òî åñëè ïðîáëåìà ñîñòîèò â ïðåäñêàçàíèè çíà÷åíèÿ x
ñëó÷àéíîé âåëè÷èíû X ïî íàáëþäåíèþ y ñëó÷àéíîé âåëè÷èíû Y, òî íàèëó÷øèé â ñðåäíåì êâàäðàòè÷åñêîì ïðîãíîç x èìååò âèä
x = µ1 + ρ
σ1
(y − µ2 ),
σ2
÷òî íå ñîâïàäàåò ñ ôóíêöèåé, îáðàòíîé ê
y = µ2 + ρ
σ2
(x − µ1 ).
σ1
Ýòî âïîëíå åñòåñòâåííî, ïîñêîëüêó ìû ìèíèìèçèðóåì â êàæäîì èç ýòèõ
ñëó÷àåâ óêëîíåíèÿ îò ïðÿìîé ðåãðåññèè â ðàçëè÷íûõ (ïåðïåíäèêóëÿðíûõ
äðóã ê äðóãó) íàïðàâëåíèÿõ: îäíî âäîëü îñè OY, âòîðîå âäîëü îñè OX.
Íèæå ïðèâîäèòñÿ ðèñóíîê, èëëþñòðèðóþùèé ðàñïîëîæåíèå ïðÿìûõ ðåãðåññèè Y íà X è X íà Y îòíîñèòåëüíî ãëàâíîé îñè ýëëèïñà ðàññåÿíèÿ,
êîòîðàÿ íîñèò íàçâàíèå ïðÿìîé îðòîãîíàëüíîé ðåãðåññèè è äàåò íàèëó÷øèé â ñðåäíåì êâàäðàòè÷åñêîì ïðîãíîç, êîãäà îøèáêè èçìåðÿþòñÿ íå âäîëü
êîîðäèíàòíûõ îñåé, à ïî êðàò÷àéøåìó ðàññòîÿíèþ ê êðèâîé ïðîãíîçà g(x).
y
6
x = E{X | Y = y}
y = E{Y | X = x}
µ2
-
x
µ1
106
11. Ñõîäèìîñòü ñëó÷àéíûõ âåëè÷èí è
ôóíêöèé ðàñïðåäåëåíèé
Ëåêöèÿ 17
Äëÿ òîãî, ÷òîáû ïðîäâèíóòüñÿ äàëüøå â ïîñòðîåíèè íîâûõ âåðîÿòíîñòíûõ ìîäåëåé è âîçìîæíî â áîëüøåé ñòåïåíè äàòü ìàòåìàòè÷åñêîå îñíîâàíèå äëÿ ïðèìåíåíèÿ ìåòîäîâ ìàòåìàòè÷åñêîé ñòàòèñòèêè ê èäåíòèôèêàöèè
âåðîÿòíîñòíûõ ìîäåëåé, ìû äîëæíû èçó÷èòü ïðîáëåìû ñõîäèìîñòè ïîñëåäîâàòåëüíîñòåé ñëó÷àéíûõ âåëè÷èí è èõ ôóíêöèé ðàñïðåäåëåíèÿ.
Ïóñòü íà âåðîÿòíîñòíîì ïðîñòðàíñòâå (Ω, A, P ) çàäàíû äâå ñëó÷àéíûå
âåëè÷èíû X = X(ω) è Y = Y (ω), èìåþùèõ îäíî è òî æå ðàñïðåäåëåíèå
âåðîÿòíîñòåé.  òàêîì ñëó÷àå, ñ òî÷êè çðåíèÿ ïðèëîæåíèé òåîðèè âåðîÿòíîñòåé òàêèå ñëó÷àéíûå âåëè÷èíû ñëåäóåò ñ÷èòàòü ýêâèâàëåíòíûìè (íåðàçëè÷èìûìè).
Îïðåäåëåíèå 11.1. Åñëè P (X(ω) = Y (ω)) = 1, òî ñëó÷àéíûå âåëè÷è-
íû X è Y íàçûâàþòñÿ ðàâíûìè ïî÷òè íàâåðíîå èëè ýêâèâàëåíòíûìè è
ïèøåòñÿ X = Y.
ï.í.
Ïðè èññëåäîâàíèè ïðåäåëà ïîñëåäîâàòåëüíîñòè ñëó÷àéíûõ âåëè÷èí {Xn ,
n ≥ 1}, çàäàííûõ íà îäíîì è òîì æå âåðîÿòíîñòíîì ïðîñòðàíñòâå (Ω, A, P ),
ìû èìååì äåëî, ïî ñóùåñòâó, ñ ïðîáëåìîé ñõîäèìîñòè ïîñëåäîâàòåëüíîñòè
ôóíêöèé {Xn (ω), n ≥ 1}, íî ïðè ýòîì ìû ìîæåì íå îáðàùàòü âíèìàíèÿ
íà ìíîæåñòâî òî÷åê ω íóëåâîé âåðîÿòíîñòè, â êîòîðûõ ñîîòâåòñòâóþùèå
÷èñëîâûå ïîñëåäîâàòåëüíîñòè íå èìåþò ïðåäåëà. Ïîýòîìó ïîòî÷å÷íàÿ (â
êàæäîé òî÷êå ω ∈ Ω)) ñõîäèìîñòü ôóíêöèé ïðåòåðïåâàåò ñóùåñòâåííîå
èçìåíåíèå è ïðåâðàùàåòñÿ â ñëåäóþùåå
Îïðåäåëåíèå 11.2. Åñëè äëÿ ïîñëåäîâàòåëüíîñòè ñëó÷àéíûõ âåëè÷èí
{Xn (ω), n ≥ 1}, çàäàííûõ íà âåðîÿòíîñòíîì ïðîñòðàíñòâå (Ω, A, P ), ñóùåñòâóåò òàêàÿ ñëó÷àéíàÿ âåëè÷èíà X = X(ω), ω ∈ Ω, ÷òî
P ({ lim Xn (ω) = X(ω)}) = 1,
n→∞
òî X íàçûâàåòñÿ ïðåäåëîì ïîñëåäîâàòåëüíîñòè {Xn , n ≥ 1} ïî÷òè íàâåðíîå è ïèøåòñÿ Xn −→ X.
ï.í.
 îáùåé òåîðèè ìåðû ñõîäèìîñòü ïî÷òè íàâåðíîå íàçûâàåòñÿ ñõîäèìîñòüþ ïî÷òè âñþäó, è ýòî íàèáîëåå ñèëüíàÿ èç èçâåñòíûõ íàì ôîðìà ñõîäèìîñòè ôóíêöèé ñëó÷àéíûõ âåëè÷èí. Äëÿ íåå, åñòåñòâåííî, ñïðàâåäëèâ
107
êðèòåðèé ñõîäèìîñòè Êîøè: åñëè |Xn − Xm | −→ 0 ïðè n, m → ∞, òî ïîñëåï.í.
äîâàòåëüíîñòü {Xn , n ≥ 1} ïî÷òè íàâåðíîå ñõîäèòñÿ ê íåêîòîðîìó ïðåäåëó
X. Ñóùåñòâóþò äîâîëüíî ñëîæíûå â ïðèìåíåíèÿõ äîñòàòî÷íûå ïðèçíàêè
ñõîäèìîñòè ïî÷òè íàâåðíîå, îäíàêî ìû ïðàêòè÷åñêè íå áóäåì â äàëüíåéøåì êàñàòüñÿ ýòîé ôîðìû ñõîäèìîñòè, ïîñêîëüêó êîíêðåòíûå ðåçóëüòàòû
(íàïðèìåð, óñèëåííûé çàêîí áîëüøèõ ÷èñåë) òðåáóþò äëÿ ñâîåãî äîêàçàòåëüñòâà îãðîìíûõ âðåìåííûõ çàòðàò, ìû íå ìîæåì ïîçâîëèòü ñåáå òàêîé
ðîñêîøè â ðàìêàõ òîãî ñêóäíîãî ïðîìåæóòêà âðåìåíè, êîòîðûé îòâåäåí
íàì ó÷åáíûì ïëàíîì äëÿ èçó÷åíèÿ òåîðèè âåðîÿòíîñòåé è ìàòåìàòè÷åñêîé
ñòàòèñòèêè. Ìû áóäåì, â îñíîâíîì, èìåòü äåëî ñ áîëåå ñëàáîé ôîðìîé ñõîäèìîñòè, êîòîðàÿ â îáùåé òåîðèè ìåðû íàçûâàåòñÿ ñõîäèìîñòüþ ïî ìåðå,
à â òåîðèè âåðîÿòíîñòåé, êàê âû íàâåðíîå óæå äîãàäûâàåòåñü, ñõîäèìîñòüþ
ïî âåðîÿòíîñòè.
Îïðåäåëåíèå 11.3. Ïîñëåäîâàòåëüíîñòü {Xn , n ≥ 1} íàçûâàåòñÿ ñõî-
äÿùåéñÿ ê ïðåäåëó X ïî âåðîÿòíîñòè, åñëè äëÿ ëþáîãî ε > 0
lim P (| Xn (ω) − X(ω) | > ε) = 0.
n→∞
Ñõîäèìîñòü ïî âåðîÿòíîñòè îáîçíà÷àåòñÿ Xn → X.
P
Íàïîìíèì èçâåñòíûé âàì èç îáùåé òåîðèè ìåðû ôàêò: ñõîäèìîñòü ïî÷òè íàâåðíîå âëå÷åò ñõîäèìîñòü ïî âåðîÿòíîñòè, íî îáðàòíîå, âîîáùå ãîâîðÿ, íå âåðíî, è ñóùåñòâóþò ïðèìåðû ïîñëåäîâàòåëüíîñòåé, ñõîäÿùèõñÿ
ïî âåðîÿòíîñòè, íî íå èìåþùèõ ïðåäåëà ïî÷òè íàâåðíîå. Îäíàêî èç âñÿêîé
ñõîäÿùåéñÿ ïî âåðîÿòíîñòè ïîñëåäîâàòåëüíîñòè ñëó÷àéíûõ âåëè÷èí ìîæíî èçâëå÷ü ïîäïîñëåäîâàòåëüíîñòü, ñõîäÿùóþñÿ ê òîìó æå ïðåäåëó ïî÷òè
íàâåðíîå.
Ìû óæå èìåëè äåëî ñî ñõîäèìîñòüþ ïî âåðîÿòíîñòè, êîãäà äîêàçûâàëè
çàêîí áîëüøèõ ÷èñåë Áåðíóëëè. Ñëåäóþùèé ðåçóëüòàò îáîáùàåò ýòîò çàêîí íà ñóììû íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ñ äîñòàòî÷íî ïðîèçâîëüíûì
îáùèì ðàñïðåäåëåíèåì.
Òåîðåìà 11.1 (çàêîí áîëüøèõ ÷èñåë ×åáûøåâà) Ïóñòü {Xn , n ≥
1} ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí ñ êîíå÷íûì âòîðûì ìîìåíòîì. Òîãäà
n
1X
Xk → EX1 .
Xn =
P
n 1
108
Ä î ê à ç à ò å ë ü ñ ò â î ïðîâîäèòñÿ ñòîëü æå ïðîñòî, êàê è â ñëó÷àå çàêîíà áîëüøèõ ÷èñåë Áåðíóëëè, êîãäà Xk ∼ B(1, p), è òàêæå îñíîâàíî íà
èñïîëüçîâàíèè íåðàâåíñòâà ×åáûøåâà P (g(X) > c) ≤ Eg(X)/c. Ïîëîæèì
g(X) = (X n − EX1 )2 è c = ε2 , ãäå ε ïðîèçâîëüíîå ïîëîæèòåëüíîå ÷èñëî.
Òîãäà
¡
¢ E(X n − EX1 )2
2
2
P (| X n − EX1 | > ε) = P (X n − EX1 ) > ε ≤
.
ε2
Ïîñêîëüêó X n åñòü íîðìèðîâàííàÿ íà n ñóììà íåçàâèñèìûõ ñëó÷àéíûõ
âåëè÷èí ñ îáùèì êîíå÷íûì ñðåäíèì µ = EX1 è îáùåé äèñïåðñèåé σ 2 =
DX1 , òî
"
2
E(X n − EX1 ) = E
n
1X
(Xk − µ)
n 1
#2
n
1 X
σ2
= 2D
Xk = .
n
n
1
Ñëåäîâàòåëüíî,
σ2
P (| X n − EX1 |) ≤ 2 → 0,
nε
êàêîâî áû íè áûëî ε > 0.
Ìû ïîêàæåì â äàëüíåéøåì, ÷òî â çàêîíå áîëüøèõ ÷èñåë ìîæíî óáðàòü òðåáîâàíèå î ñóùåñòâîâàíèè âòîðîãî ìîìåíòà, äîñòàòî÷íî òîëüêî
ñóùåñòâîâàíèå ñðåäíåãî, íî äëÿ ýòîãî ìû äîëæíû áóäåì ðàçðàáîòàòü áîëåå
ñîâåðøåííûé ìàòåìàòè÷åñêèé àïïàðàò àíàëèçà ñõîäèìîñòè ïî âåðîÿòíîñòè ïîñëåäîâàòåëüíîñòåé ñëó÷àéíûõ âåëè÷èí. Îòìåòèì ïîêà íåñîìíåííóþ
ïðàêòè÷åñêóþ öåííîñòü óñòàíîâëåííîãî çàêîíà: ïðè íåçàâèñèìûõ ðàâíîòî÷íûõ íàáëþäåíèÿõ íåêîòîðîé ïîñòîÿííîé µ, õàðàêòåðèçóþùåé ñîñòîÿíèå
èññëåäóåìîãî îáúåêòà (íàïðèìåð, îáùåãî ñîäåðæàíèÿ ñåðû â ïàðòèè äèçåëüíîãî òîïëèâà), àðèôìåòè÷åñêîå ñðåäíåå X n ðåçóëüòàòîâ ïàðàëëåëüíûõ
íàáëþäåíèé, îòÿãùåííûõ ñëó÷àéíîé îøèáêîé ñ íóëåâûì ñðåäíèì, ÿâëÿåòñÿ
àñèìïòîòè÷åñêè òî÷íîé îöåíêîé µ â òîì ñìûñëå, ÷òî X n → µ.
P
Äîêàæåì åùå äâà óòâåðæäåíèÿ, êàñàþùèåñÿ ñõîäèìîñòè ïî âåðîÿòíîñòè, êîòîðûå îáû÷íî íàçûâàþòñÿ â ìîíîãðàôèÿõ ïî òåîðèè âåðîÿòíîñòåé
òåîðåìàìè òèïà Ñëóöêîãî.
Ïðåäëîæåíèå 11.1. Åñëè ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí {Xn ,
n ≥ 1} ñõîäèòñÿ ïî âåðîÿòíîñòè ê ñëó÷àéíîé âåëè÷èíå X, à ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí {ξn , n ≥ 1} ñõîäèòñÿ ïî âåðîÿòíîñòè ê íóëþ,
òîãäà (1) Xn + ξn → X, (2) Xn ξn → 0.
P
P
109
Ä î ê à ç à ò å ë ü ñ ò â î. (1) Òðåáóåòñÿ ïîêàçàòü, ÷òî P (| Xn + ξn − X |
> ε) → 0, êàêîâî áû íè áûëî ε > 0.
Èñïîëüçóÿ íåðàâåíñòâî | a + b | ≤ | a | + | b |, ïîëó÷àåì
0 ≤ P (| Xn + ξn − X | > ε) ≤ P (| Xn − X | + | ξn | > ε) ≤
³n
³
εo [ n
ε o´
ε´
P
| Xn − X | >
| ξn | >
≤ P | Xn − X | >
+
2
2
2
³
ε´
→ 0,
P | ξn | >
2
òàê êàê ïî óñëîâèþ ïðåäëîæåíèÿ | Xn − X | → 0 è | ξn | → 0.
P
P
(2) Ïî àíàëîãèè ñ (1) ñíà÷àëà äåëàåì îöåíêó âåðîÿòíîñòè
P (| Xn ξn | > ε) = P (| ((Xn − X) + X) ξn | > ε) ≤
P (| Xn − X | | ξn | + | X | | ξn | > ε) ≤
³
³
ε´
ε´
P | Xn − X | | ξn | >
+ P | X | | ξn | >
.
(1)
2
2
Ïîêàæåì, ÷òî ïåðâîå ñëàãàåìîå â ïðàâîé ÷àñòè (1) ñòðåìèòñÿ ê íóëþ,
êîãäà n → ∞ :
³n
p o[n
p o´
P (| Xn − X | | ξn | > ε/2) ≤ P
| Xn − X | > ε/2
| ξn | > ε/2
≤
³
³
p ´
p ´
P | Xn − X | > ε/2 + P | ξn | > ε/2 → 0.
Òåïåðü ïîêàæåì, ÷òî âòîðîå ñëàãàåìîå â (1) ìîæíî ñäåëàòü ìåíüøå ëþáîãî δ > 0, äëÿ âñåõ n ≥ N = N (δ), èíûìè ñëîâàìè, ïîêàæåì, ÷òî âòîðîå
ñëàãàåìîå òàêæå ñòðåìèòñÿ ê íóëþ ïðè n → ∞. Ñ ýòîé öåëüþ ââåäåì äâà
ïðîòèâîïîëîæíûõ ñîáûòèÿ {| X | > A} è {| X | ≤ A}, â êîòîðûõ ÷èñëî A
áóäåò âûáðàíî â äàëüíåéøåì ïî çàäàííîìó δ, è ïðåäñòàâèì âòîðîå ñëàãàåìîå â âèäå
³n
´
³
εo \
ε´
=P
| X | | ξn | >
{| X | > A} +
P | X | | ξn | >
2
2
³n
´
εo \
P
| X | | ξn | >
{| X | ≤ A} .
(2)
2
Ïåðâîå ñëàãàåìîå â ïðàâîé ÷àñòè ýòîãî ïðåäñòàâëåíèÿ íå ïðåâîñõîäèò
P ( | X | > A), è ìû ìîæåì âûáðàòü A = A(δ) ïî çàäàííîìó δ íàñòîëüêî áîëüøèì, ÷òî P ( | X | > A) < δ/2. Äëÿ âûáðàííîãî òàêèì îáðàçîì A,
êîòîðîå íå çàâèñèò îò n, îöåíèì âòîðîå ñëàãàåìîå â ïðåäñòàâëåíèè (2):
³n
´
εo \
P
| X | · | ξn | >
{| X | ≤ A} ≤
2
110
³
³
ε´
ε ´
P A · | ξn | >
= P | ξn | >
.
2
2A
Ïîñêîëüêó ξn → 0, òî ñóùåñòâóåò òàêîå N = N (δ), ÷òî äëÿ âñåõ n > N
P
âåðîÿòíîñòü
³
ε ´ δ
P | ξn | >
≤ .
2A
2
Ñëåäóåò îáðàòèòü îñîáîå âíèìàíèå íà òî, êàê â èçó÷àåìûõ íàìè âèäàõ
ñõîäèìîñòè ïî÷òè íàâåðíîå è ïî âåðîÿòíîñòè èãðàåò ñóùåñòâåííóþ ðîëü çàäàíèå ïîñëåäîâàòåëüíîñòåé ñëó÷àéíûõ âåëè÷èí íà åäèíîì âåðîÿòíîñòíîì
ïðîñòðàíñòâå (Ω, A, P ). Ïî ñóùåñòâó, áëèçîñòü ÷ëåíîâ Xn ñ áîëüøèìè çíà÷åíèÿìè n ê èõ ïðåäåëó X çàâèñèò íå ñòîëüêî îò ñîâïàäåíèÿ ðàñïðåäåëåíèé
Xn è X, ñêîëüêî îò áëèçîñòè ôóíêöèé Xn (ω) è X(ω). Ñåé÷àñ ìû ââåäåì åùå
îäèí âèä ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí, áîëåå ñëàáûé, ÷åì ñõîäèìîñòü ïî
âåðîÿòíîñòè, è äëÿ ýòîãî âèäà áëèçîñòü ðàñïðåäåëåíèé ñëó÷àéíûõ âåëè÷èí
ñòàíîâèòñÿ äîìèíèðóþùåé, ïî ñðàâíåíèþ ñ áëèçîñòüþ èõ êàê ôóíêöèé íà
åäèíîì ïðîñòðàíñòâå Ω; â ýòîì âèäå ñõîäèìîñòè ñëó÷àéíûå âåëè÷èíû, êàê
êîìïîíåíòû íåêîòîðîé ïîñëåäîâàòåëüíîñòè, ìîãóò áûòü îïðåäåëåíû äàæå
íà ðàçíûõ ïðîñòðàíñòâàõ ýëåìåíòàðíûõ èñõîäîâ.
Îïðåäåëåíèå 11.4. Ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí
{Xn , n ≥ 1} ñõîäèòñÿ ê ñëó÷àéíîé âåëè÷èíå X ñëàáî èëè ïî ðàñïðåäåëåíèþ, åñëè ñîîòâåòñòâóþùàÿ ïîñëåäîâàòåëüíîñòü èõ ôóíêöèé ðàñïðåäåëåíèÿ {Fn (x), n ≥ 1} ñõîäèòñÿ ê ôóíêöèè ðàñïðåäåëåíèÿ F (x) ñëó÷àéíîé
âåëè÷èíû X â êàæäîé òî÷êå íåïðåðûâíîñòè ôóíêöèè F (x).
Ñëàáàÿ ñõîäèìîñòü îáîçíà÷àåòñÿ äâîéíîé ñòðåëêîé: Xn ⇒ X, è ïîñêîëüêó ðå÷ü èäåò íå ñòîëüêî î ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí, ñêîëüêî îá èõ
ðàñïðåäåëåíèÿõ, òî àíàëîãè÷íîå îáîçíà÷åíèå ñîõðàíÿåòñÿ è äëÿ ïîñëåäîâàòåëüíîñòè ôóíêöèé ðàñïðåäåëåíèÿ: Fn ⇒ F, è ïðè ýòîì ãîâîðÿò, ÷òî
ïîñëåäîâàòåëüíîñòü ôóíêöèé ðàñïðåäåëåíèÿ {Fn , n ≥ 1} ñëàáî ñõîäèòñÿ ê
ôóíêöèè F (x).
Âîçíèêàåò åñòåñòâåííûé âîïðîñ: ïî÷åìó â îïðåäåëåíèè ñëàáîé ñõîäèìîñòè îãðàíè÷èâàþòñÿ òîëüêî òî÷êàìè íåïðåðûâíîñòè ïðåäåëüíîé ôóíêöèè
F (x)? Äåëî â òîì, ÷òî áåç ýòîãî óñëîâèÿ ïîñëåäîâàòåëüíîñòü {Xn , n ≥ 1} è,
íàïðèìåð, ñäâèíóòàÿ íà áåñêîíå÷íî ìàëóþ âåëè÷èíó ïîñëåäîâàòåëüíîñòü
{Xn + 1/n, n ≥ 1} ìîãóò èìåòü ðàçëè÷íûå ñëàáûå ïðåäåëû, à ýòî íåõîðîøî.
111
Ïðèâåäåì ïðèìåð ïîñëåäîâàòåëüíîñòè ñëó÷àéíûõ âåëè÷èí, êîòîðàÿ ñõîäèòñÿ ïî ðàñïðåäåëåíèþ, íî íå èìååò ïðåäåëà ïî âåðîÿòíîñòè.
Ï ð è ì å ð 11.1. Ïóñòü Ω = [0; 1], A áîðåëåâñêàÿ σ -àëãåáðà ïîäìíîæåñòâ ýòîãî îòðåçêà è P ðàâíîìåðíîå ðàñïðåäåëåíèå U(0, 1). Íà âåðîÿòíîñòíîì ïðîñòðàíñòâå (Ω, A, P ) ââåäåì ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ
âåëè÷èí {Xn , n ≥ 1}, ïîëàãàÿ Xn (ω) = (−1)n , åñëè 0 ≤ ω ≤ 1/2, è
Xn (ω) = (−1)n−1 , åñëè 1/2 < ω ≤ 1. Âñå ñëó÷àéíûå âåëè÷èíû ïîñëåäîâàòåëüíîñòè èìåþò îäíó è òó æå ôóíêöèþ ðàñïðåäåëåíèÿ F (x), îïðåäåëÿåìóþ âåðîÿòíîñòÿìè P (Xn = −1) = P (Xn = +1) = 1/2, òàê ÷òî
{Xn , n ≥ 1} ñõîäèòñÿ ïî ðàñïðåäåëåíèþ. Îäíàêî ýòà ïîñëåäîâàòåëüíîñòü
ñîñòîèò èç ÷åðåäóþùåéñÿ ïàðû ðàçëè÷íûõ ñëó÷àéíûõ âåëè÷èí: âñå ÷ëåíû
ïîñëåäîâàòåëüíîñòè ñ ÷åòíûìè íîìåðàìè X2k ïðèíèìàþò çíà÷åíèÿ +1 ïðè
0 ≤ ω ≤ 1/2, â òî âðåìÿ êàê ñîñåäíèé ÷ëåí X2k+1 ñ íå÷åòíûì íîìåðîì íà
ýòîì îòðåçêå ðàâåí 1. Ñëåäîâàòåëüíî, íå ñóùåñòâóåò ñëó÷àéíîé âåëè÷èíû
X = X(ω), ω ∈ [0; 1] îäèíàêîâî áëèçêîé ïðè áîëüøèõ n êî âñåì Xn â
ñìûñëå ìàëîñòè âåðîÿòíîñòè P (| Xn − X | > ε).
Åñòåñòâåííî, ïðåäñòàâëÿþò íåñîìíåííûé èíòåðåñ äîñòàòî÷íûå óñëîâèÿ,
ïðè âûïîëíåíèè êîòîðûõ ñëàáàÿ ñõîäèìîñòü âëå÷åò ñõîäèìîñòü ïî âåðîÿòíîñòè. Îäíî èç òàêèõ óñëîâèé äàåò
Ïðåäëîæåíèå 11.2. Åñëè ïîñëåäîâàòåëüíîñòü Xn ⇒ C (≡ const), òî
Xn → C.
P
Ä î ê à ç à ò å ë ü ñ ò â î. Áóäåì òðàêòîâàòü ïîñòîÿííóþ C êàê âûðîæäåííóþ ñëó÷àéíóþ âåëè÷èíó ñ ôóíêöèåé ðàñïðåäåëåíèÿ F (x) = 0 ïðè x ≤ C
è F (x) = 1 ïðè x > C. Ïî óñëîâèþ ïðåäëîæåíèÿ ñîîòâåòñòâóþùàÿ ïîñëåäîâàòåëüíîñòü ôóíêöèé ðàñïðåäåëåíèÿ Fn (x) → F (x) ïðè ëþáîì x 6= C,
èáî C åäèíñòâåííàÿ òî÷êà ðàçðûâà ïðåäåëüíîé ôóíêöèè ðàñïðåäåëåíèÿ
F (x). Òðåáóåòñÿ ïîêàçàòü, ÷òî P (| Xn − C | > ε) → 0, êîãäà n → ∞, êàêîâî
áû íè áûëî ε > 0.
Âûðàçèì âåðîÿòíîñòü P (| Xn − C | > ε) ÷åðåç ôóíêöèþ ðàñïðåäåëåíèÿ
Fn (x) :
P (| Xn − C | > ε) = P (Xn − C > ε) + P (Xn − C < −ε) =
P (Xn < C − ε) + 1 − P (Xn ≤ C + ε) =
Fn (C − ε) + 1 − Fn (C + ε) − P (Xn = C + ε).
112
Òàê êàê C −ε è C +ε òî÷êè íåïðåðûâíîñòè ôóíêöèè F (x), òî Fn (C −ε) →
0, à Fn (C + ε) → 1. Îñòàåòñÿ ïîêàçàòü, ÷òî P (Xn = C + ε) → 0. Èìååì
µ
¶
ε
3ε
0 ≤ P (Xn = C + ε) ≤ P C + ≤ Xn < C +
=
2
2
µ
¶
³
3ε
ε´
Fn C +
− Fn C +
→ 0,
2
2
ïîñêîëüêó C + 3ε/2 è C + ε/2 åñòü òî÷êè íåïðåðûâíîñòè ïðåäåëüíîé ôóíêöèè F (x), â êîòîðûõ îíà ïðèíèìàåò îäíî è òî æå çíà÷åíèå 1.
Òåïåðü ìû ïðèñòóïèì ê ïîñòðîåíèþ êðèòåðèÿ ñëàáîé ñõîäèìîñòè, ðàçâèâàÿ ïîïóòíî íîâóþ è î÷åíü ñèëüíóþ òåõíèêó ïîñòðîåíèÿ âåðîÿòíîñòíûõ
ìîäåëåé.
113
12. Õàðàêòåðèñòè÷åñêèå ôóíêöèè.
Òåîðåìû åäèíñòâåííîñòè è ñëîæåíèÿ
Ëåêöèÿ 18
Ìû ââåäåì ñåé÷àñ îäíó èç èíòåðåñíåéøèõ ôóíêöèîíàëüíûõ õàðàêòåðèñòèê ñëó÷àéíîé âåëè÷èíû X, êîòîðàÿ åäèíñòâåííûì îáðàçîì îïðåäåëÿåò
ðàñïðåäåëåíèå X. Ñ åå ïîìîùüþ ìîæíî íàéòè âñå ìîìåíòû X áåç âû÷èñëåíèÿ èíòåãðàëîâ, âû÷èñëÿÿ ïðîèçâîäíûå îò ýòîé õàðàêòåðèñòèêè. Íàêîíåö,
îíà ïðåäñòàâëÿåò óíèâåðñàëüíûé èíñòðóìåíò äëÿ âûâîäà ðàñïðåäåëåíèé
ñóìì íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí, ïîýòîìó ñ åå ïîìîùüþ ìîæíî ïðîñòî è áåç ãðîìîçäêèõ âûêëàäîê äîêàçûâàòü ïðåäåëüíûå òåîðåìû òèïà òåõ,
÷òî ìû íàçûâàëè èíòåãðàëüíîé ïðåäåëüíîé òåîðåìîé ÌóàâðàËàïëàñà.
Îïðåäåëåíèå 12.1. Õàðàêòåðèñòè÷åñêîé ôóíêöèåé ϕ(t) ñëó÷àéíîé âå-
ëè÷èíû X ñ ôóíêöèåé ïëîòíîñòè f (x) ïî ìåðå µ íàçûâàåòñÿ ïðåîáðàçîâàíèå ÔóðüåËåáåãà f (x) :
Z
ϕ(t) = Ee
itX
eitx f (x)dµ(x).
=
R
Íàïîìíèì, ÷òî â ïðåîáðàçîâàíèÿõ Ôóðüå i ìíèìàÿ åäèíèöà, òàê ÷òî
eitx = cos(tx)+i sin(tx), è èíòåãðàë, îïðåäåëÿþùèé ϕ(t) ïðåäñòàâëÿåò ñîáîé
èíòåãðàë îò ôóíêöèè êîìïëåêñíîãî ïåðåìåííîãî (êðèâîëèíåéíûé èíòåãðàë
âòîðîãî ðîäà) ïî äåéñòâèòåëüíîé îñè R=(−∞, +∞).
Õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ñóùåñòâóåò ïðè ëþáîì ðàñïðåäåëåíèè X,
ïîñêîëüêó | eitx | = 1, îòêóäà
Z
Z
| ϕ(t) | ≤
|e
itx
|f (x)dµ(x) =
R
f (x)dµ(x) = 1.
R
Åñëè dµ(x) = dx ìåðà Ëåáåãà, òî ϕ(t) åñòü îáû÷íîå ïðåîáðàçîâàíèå
Ôóðüå
Z∞
eitx f (x)dx,
ϕ(t) =
−∞
åñëè æå µ ñ÷èòàþùàÿ ìåðà, òî ϕ(t) ïðåäñòàâëÿåò äèñêðåòíûé àíàëîã
ïðåîáðàçîâàíèÿ Ôóðüå
X
eitx f (x).
ϕ(t) =
x
114
Ðàññìîòðèì íåñêîëüêî èíòåðåñíûõ ïðèìåðîâ ïî âû÷èñëåíèþ õàðàêòåðèñòè÷åñêèõ ôóíêöèé èçâåñòíûõ íàì ðàñïðåäåëåíèé.
Ï ð è ì å ð 12.1 (áèíîìèàëüíîå ðàñïðåäåëåíèå B(n, p)). Õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ âû÷èñëÿåòñÿ ïðîñòûì ñóììèðîâàíèåì áèíîìèàëüíîãî ðÿäà:
ϕ(t) = Ee
itX
=
n
X
eitx Cnx px (1 − p)n−x =
x=0
n
X
¡ ¢x
¡
¢n
Cnx eit p (1 − p)n−x = peit + (1 − p) .
x=0
Ï ð è ì å ð 12.2 (ðàñïðåäåëåíèå Ïóàññîíà P(λ)). Èñïîëüçóåì èçâåñòíîå ðàçëîæåíèå Ìàêëîðåíà äëÿ ïîêàçàòåëüíîé ôóíêöèè:
∞ ¡ it ¢x
x −λ
X
© ¡
¢ª
λe
λ
e
ϕ(t) =
eitx
= e−λ
= exp λ eit − 1 .
x!
x!
x=0
x=0
∞
X
Ï ð è ì å ð 12.3 (ðàâíîìåðíîå ðàñïðåäåëåíèå U(a, b)). Õàðàêòåðèñòè÷åñêàÿ
ôóíêöèÿ ïðåäñòàâëÿåò ñîáîé êðèâîëèíåéíûé èíòåãðàë ïî îòðåçêó [a; b]
äåéñòâèòåëüíîé ïðÿìîé:
1
ϕ(t) =
b−a
Zb
a
Z
1
eitx dx =
b−a
eitz dz.
[a;b]
Ïîñêîëüêó eitz åñòü àíàëèòè÷åñêàÿ ôóíêöèÿ, òî èíòåãðàë ðàâåí ðàçíîñòè
çíà÷åíèé ïåðâîîáðàçíîé ýòîé ôóíêöèè â êîíå÷íûõ òî÷êàõ îòðåçêà èíòåãðèðîâàíèÿ:
ϕ(t) =
eitb − eita
.
it(b − a)
Ï ð è ì å ð 12.4 (ïîêàçàòåëüíîå ðàñïðåäåëåíèå E(θ)). Õàðàêòåðèñòè÷åñêàÿ
ôóíêöèÿ ñíîâà ïðåäñòàâëÿåòñÿ êðèâîëèíåéíûì èíòåãðàëîì îò àíàëèòè÷åñêîé ôóíêöèè, íî íà ñåé ðàç ïî áåñêîíå÷íîìó ïðîìåæóòêó [0; ∞) äåéñòâèòåëüíîé ïðÿìîé:
1
ϕ(t) =
θ
Z∞
©
exp itx − xθ
−1
ª
1
dx =
lim
θ A→∞
Z
[0;A]
115
©
ª
exp z(it − θ−1 ) dz =
1 − exp{A(it − θ−1 )}
.
A→∞
1 − itθ
lim
Îäíàêî
¯
¯
¯ exp{A(it − θ−1 )} ¯ = exp{−Aθ−1 } | exp{iAt} | = exp{−Aθ−1 },
è òàê êàê θ > 0, òî
lim exp{A(it − θ−1 )} = 0.
A→∞
Òàêèì îáðàçîì,
ϕ(t) =
1
.
1 − itθ
Ìîæíî, êîíå÷íî, îáîéòèñü è áåç ýòîé êîìïëåêñíîé çàóìè, à ïðîñòî âîñïîëüçîâàòüñÿ ôîðìóëîé Ýéëåðà eiz = cos z + i sin z è êàêèì-íèáóäü ñïðàâî÷íèêîì ïî èíòåãðàëàì (íàïðèìåð, ðîäíûì Äåìèäîâè÷åì , à ëó÷øå âñåãî
ñïðàâî÷íèêîì ïî èíòåãðàëüíûì ïðåîáðàçîâàíèÿì).
Ï ð è ì å ð 12.5 (ðàñïðåäåëåíèå Êîøè C(0, 1)). Èñïîëüçóÿ ôîðìóëó Ýéëåðà, íàéäåì õàðàêòåðèñòè÷åñêóþ ôóíêöèþ ñòàíäàðòíîãî (ïàðàìåòð ñäâèãà
a = 0, ïàðàìåòð ìàñøòàáà b = 1) ðàñïðåäåëåíèÿ Êîøè:
1
ϕ(t) =
π
Z
∞
cos tx + i sin tx
dx.
1 + x2
−∞
Èíòåãðàë îò ñèíóñà (òàê íàçûâàåìîå ñèíóñ-ïðåîáðàçîâàíèå Ôóðüå) ðàâåí
íóëþ, êàê èíòåãðàë îò íå÷åòíîé ôóíêöèè ïî ñèììåòðè÷íîìó îòíîñèòåëüíî
íà÷àëà êîîðäèíàò ïðîìåæóòêó, à äëÿ íàõîæäåíèÿ êîñèíóñ-ïðåîáðàçîâàíèÿ
Ôóðüå âîñïîëüçóåìñÿ ÷åòíîñòüþ ôóíêöèè cos x è îòâåòîì ê ïðèìåðó N 3825
çàäà÷íèêà Äåìèäîâè÷à:
2
ϕ(t) =
π
Z
∞
cos tx
dx = e−| t | .
2
1+x
Ï ð è ì å ð 12.6 (ñòàíäàðòíîå íîðìàëüíîå ðàñïðåäåëåíèå N(0, 1)). Ðàññóæäàÿ òàê æå, êàê è â ñëó÷àå ðàñïðåäåëåíèÿ Êîøè, è èñïîëüçóÿ îòâåò ê
ïðèìåðó N 3809, ïîëó÷àåì
2
ϕ(t) = √
2π
Z
∞
½
x2
cos tx exp −
2
116
¾
½
t2
dx = exp −
2
¾
.
Õàðàêòåðèñòè÷åñêèå ôóíêöèè ðàñïðåäåëåíèé Êîøè è íîðìàëüíîãî ïðè
ïðîèçâîëüíûõ çíà÷åíèÿõ ïàðàìåòðîâ ìîæíî ïîëó÷èòü ïðîñòî ëèíåéíîé çàìåíîé ïåðåìåííîé èíòåãðèðîâàíèÿ, íî ëåãêî âèäåòü, ÷òî ñïðàâåäëèâà îáùàÿ ôîðìóëà äëÿ ñåìåéñòâ ðàñïðåäåëåíèé, çàâèñÿùèõ îò ïàðàìåòðîâ ñäâèãà è ìàñøòàáà.
Ïðåäëîæåíèå 12.1. Õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ϕX (t) ñëó÷àéíîé
âåëè÷èíû X îáëàäàåò ñëåäóþùèìè ñâîéñòâàìè.
10 . ϕ(0) = 1, | ϕ(t) | ≤ 1.
20 . ϕbX+a = eita ϕX (bt).
30 . Åñëè X1 , . . . , Xn íåçàâèñèìû â ñîâîêóïíîñòè, òî
ϕPn1 Xk (t) =
n
Y
ϕXk (t);
1
â ÷àñòíîñòè, åñëè X1 , . . . , Xn íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû, òî
ϕPn1 Xk (t) = (ϕX1 (t))n .
40 . Õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ϕ(t) ðàâíîìåðíî íåïðåðûâíà íà âñåé
äåéñòâèòåëüíîé îñè R.
50 . Åñëè ñëó÷àéíàÿ âåëè÷èíà X îáëàäàåò ìîìåíòàìè αk = EX k , k =
1, . . . , n, òî
αk = i−k ϕ(k) (0)
è äëÿ õàðàêòåðèñòè÷åñêîé ôóíêöèè ñïðàâåäëèâî ðàçëîæåíèå Òåéëîðà
ϕ(t) = 1 +
n
X
(it)k
k=1
k!
αk + o(tn ), t → 0.
Ä î ê à ç à ò å ë ü ñ ò â î. 10 . Ýòî ñâîéñòâî, ïî ñóùåñòâó, áûëî óñòàíîâëåíî
ñðàçó æå ïîñëå îïðåäåëåíèÿ õàðàêòåðèñòè÷åñêîé ôóíêöèè, êîãäà ìû ðàññóæäàëè î åå ñóùåñòâîâàíèè.
20 . Ïî îïðåäåëåíèþ õàðàêòåðèñòè÷åñêîé ôóíêöèè
ϕbX+a (t) = Eeit(bX+a) = eita EeibtX = eita ϕX (bt).
117
30 . Îïÿòü ðàáîòàåì ñ îïðåäåëåíèåì õàðàêòåðèñòè÷åñêîé ôóíêöèè:
( n
)
n
n
n
X
Y
Y
Y
itXk
itXk
X
ϕ n (t) = E exp it
Xk = E
e
=
Ee
=
ϕXk (t).
Xk
1
1
1
1
1
Åñòåñòâåííî, åñëè X1 , . . . , Xn îäèíàêîâî ðàñïðåäåëåíû, òî ïðîèçâåäåíèå â
ïðàâîé ÷àñòè ïîñëåäíåãî ðàâåíñòâà ñîñòîèò èç îäèíàêîâûõ ñîìíîæèòåëåé
è ìû ïîëó÷àåì ϕnX1 (t).
40 . Òðåáóåòñÿ äîêàçàòü, ÷òî supt∈R | ϕ(t + h) − ϕ(t) | → 0, êîãäà h → 0.
Îöåíèì ïðèðàùåíèå õàðàêòåðèñòè÷åñêîé ôóíêöèè:
| ϕ(t + h) − ϕ(t) | =
¯ ∞
¯
¯Z ³
¯ Z∞
´
¯
¯
i(t+h)x
itx
¯
¯≤
e
−
e
f
(x)dµ(x)
| eitx || eihx − 1 |f (x)dµ(x) =
¯
¯
¯
¯
−∞
−∞
Z∞ p
Z∞ q
(cos hx − 1)2 + sin2 hxf (x)dµ(x) =
2(1 − cos hx)f (x)dµ(x).
−∞
−∞
Òàê êàê 0 ≤ 1 − cos hx ≤ 1, òî ïîñëåäíèé èíòåãðàë ñõîäèòñÿ ðàâíîìåðíî
(ïðèçíàê Âåéåðøòðàññà) è ìîæíî ïåðåõîäèòü ê ïðåäåëó ïðè h → 0 ïîä
çíàêîì èíòåãðàëà. Íî
lim (1 − cos hx) = 0,
h→0
êàêîâî áû íè áûëî x ∈ R. Ñëåäîâàòåëüíî,
Z∞ p
lim
2(1 − cos hx)f (x)dµ(x) = 0,
h→0
−∞
îòêóäà
lim sup | ϕ(t + h) − ϕ(t) | → 0.
h→0 t∈R
50 . Ôîðìàëüíîå äèôôåðåíöèðîâàíèå k ðàç ïîä çíàêîì èíòåãðàëà â ôîðìóëå, îïðåäåëÿþùåé õàðàêòåðèñòè÷åñêóþ ôóíêöèþ, ïðèâîäèò íàñ ê ñîîòíîøåíèþ
Z∞
ϕ(k) (t) = ik
xk eitx f (x)dµ(x).
−∞
118
Åñëè k -ûé ìîìåíò αk ñóùåñòâóåò, òî (íàïîìíèì, | eitx | = 1)
¯
¯ ∞
¯ Z∞
¯Z
¯
¯
k itx
¯
¯≤
x
e
f
(x)dµ(x)
| x |k f (x)dµ(x) < ∞,
¯
¯
¯
¯
−∞
−∞
ïîñêîëüêó ñóùåñòâîâàíèå èíòåãðàëà Ëåáåãà îò ôóíêöèè âëå÷åò åãî ñóùåñòâîâàíèå îò ìîäóëÿ ýòîé ôóíêöèè. Òàêèì îáðàçîì, â ñèëó ïðèçíàêà Âåéåðøòðàññà, èíòåãðàë ñõîäèòñÿ ðàâíîìåðíî, ôîðìàëüíîå äèôôåðåíöèðîâàíèå
ïîä çíàêîì èíòåãðàëà îïðàâäàíî, è ìû ïîëó÷àåì èñêîìóþ ôîðìóëó äëÿ âû÷èñëåíèÿ ìîìåíòîâ ñëó÷àéíîé âåëè÷èíû X, ïîëàãàÿ t = 0 : ϕ(k) (0) = ik αk .
Èòàê, ñóùåñòâîâàíèå ìîìåíòà k -ãî ïîðÿäêà âëå÷åò ñóùåñòâîâàíèå k -îé
ïðîèçâîäíîé â òî÷êå t = 0 ôóíêöèè ϕ(t). Åñëè ñóùåñòâóåò n ìîìåíòîâ,
òî ìîæíî âîñïîëüçîâàòüñÿ ôîðìóëîé Òåéëîðà è ïîëó÷èòü àñèìïòîòè÷åñêîå
(t → 0) ðàçëîæåíèå õàðàêòåðèñòè÷åñêîé ôóíêöèè:
ϕ(t) =
n
X
ϕ(k) (0)
k=0
k!
k
k
t + o(t ) = 1 +
n
X
(it)k
k=1
k!
αk + o(tk ).
Èñïîëüçóÿ ñâîéñòâî 20 , ëåãêî íàõîäèì õàðàêòåðèñòè÷åñêóþ ôóíêöèþ
ðàñïðåäåëåíèé C(a, b) è N(µ, σ 2 ).
Åñëè X ∼ C(0, 1), òî bX + a ∼ C(a, b), è õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ
ðàñïðåäåëåíèÿ Êîøè ñ ïëîòíîñòüþ
f (x) =
1
πb[1 + ((x − a)/b)2 ]
ðàâíà (ñì. ïðèìåð 12.5) ϕbX+a (t) = exp{iat − b| t |}. Àíàëîãè÷íî, åñëè X ∼
N(0, 1), òî σX +µ ∼ N(µ, σ 2 ), è õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ íîðìàëüíîãî
ðàñïðåäåëåíèÿ ñ ïëîòíîñòüþ
½
¾
1
(x − µ)2
f (x) = √
exp −
2σ 2
2πσ
©
ª
ðàâíà (ñì. ïðèìåð 12.6) ϕσX+µ (t) = exp iµt − σ 2 t2 /2 .
119
Ëåêöèÿ 19
Èç âñåõ ñâîéñòâ õàðàêòåðèñòè÷åñêîé ôóíêöèè, óñòàíîâëåííûõ â ïðåäëîæåíèè 12.1, íàèáîëåå ïðèâëåêàòåëüíûì êàæåòñÿ ñâîéñòâî 30 , ïîçâîëÿþùåå íàõîäèòü õàðàêòåðèñòè÷åñêóþ ôóíêöèþ ñóììû íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ïî õàðàêòåðèñòè÷åñêèì ôóíêöèÿì ñëàãàåìûõ îòêðûâàþòñÿ íîâûå âîçìîæíîñòè â ïîñòðîåíèè âåðîÿòíîñòíûõ ìîäåëåé. Íî ïðè ýòîì
âîçíèêàåò åñòåñòâåííûé âîïðîñ: ñóùåñòâóåò ëè âçàèìíî îäíîçíà÷íîå ñîîòâåòñòâèå ìåæäó õàðàêòåðèñòè÷åñêèìè ôóíêöèÿìè è ôóíêöèÿìè ðàñïðåäåëåíèÿ (èëè ïëîòíîñòè). Èç êóðñà ìàòåìàòè÷åñêîãî àíàëèçà ìû çíàåì, ÷òî
íà êàæäîå ïðåîáðàçîâàíèå Ôóðüå
Z∞
eitx f (x)dx
ϕ(t) =
−∞
ñóùåñòâóåò îáðàòíîå ïðåîáðàçîâàíèå
1
f (x) =
2π
Z∞
e−itx ϕ(t)dt,
(1)
−∞
õîòÿ, íàñêîëüêî ìíå èçâåñòíî, äîêàçàòåëüñòâà ýòîé ôîðìóëû îáðàùåíèÿ
âàì íå äàâàëîñü. Òåì íå ìåíåå, èíôîðìàöèþ î ñïðàâåäëèâîñòè òåîðåìû
åäèíñòâåííîñòè âû ïîëó÷èëè, è ìû òåïåðü âîñïîëíèì ïðîáåë â âàøåì îáðàçîâàíèè, äîêàçàâ àíàëîãè÷íóþ òåîðåìó äëÿ áîëåå îáùåãî ïðåîáðàçîâàíèÿ
ÔóðüåËåáåãà.
Òåîðåìà 12.1. (ôîðìóëà îáðàùåíèÿ Ëåâè). Åñëè F (x) ôóíêöèÿ ðàñ-
ïðåäåëåíèÿ ñ.â. X , à ϕ(t) åå õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ, òî äëÿ ëþáûõ
òî÷åê íåïðåðûâíîñòè x è y ôóíêöèè F (x) èìååò ìåñòî ôîðìóëà îáðàùåíèÿ
1
F (y) − F (x) =
lim
2π A→∞
ZA
e−itx − e−ity
ϕ(t)dt.
it
(2)
−A
Ä î ê à ç à ò å ë ü ñ ò â î.. Çàìåòèì ñíà÷àëà, ÷òî ïðàâàÿ ÷àñòü ôîðìóëû îáðàùåíèÿ (2) ïðåäñòàâëÿåò ñîáîé íåñîáñòâåííûé èíòåãðàë â ñìûñëå ãëàâíîãî
çíà÷åíèÿ, òàê êàê ϕ(t) ìîæåò îêàçàòüñÿ íåèíòåãðèðóåìîé ôóíêöèåé. Åñëè
ñóùåñòâóåò f (x) = dF (x)/dx è õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ϕ(t) èíòåãðèðóåìà, òî (2) íåòðóäíî ïîëó÷èòü èç ôîðìóëû îáðàùåíèÿ ïðåîáðàçîâàíèÿ
Ôóðüå (1) ïðîèíòåãðèðîâàâ îáå ÷àñòè (1) â ïðåäåëàõ îò x äî y .
120
Îáðàòèìñÿ òåïåðü íåïîñðåäñòâåííî ê äîêàçàòåëüñòâó ôîðìóëû (2), äëÿ
÷åãî ðàññìîòðèì ïðè y > x èíòåãðàë
1
JA =
2π
ZA
1
e−itx − e−ity
ϕ(t)dt =
it
2π
−A
ZA
Z∞
dt
−∞
−A
eit(u−x) − eit(u−y)
f (u)dµ(u),
it
â êîòîðîì ϕ(t) çàìåíåíà íà îïðåäåëÿþùèé åå èíòåãðàë. Ëåãêî âèäåòü, ÷òî
ïðè ôèêñèðîâàííûõ x è y ïîäûíòåãðàëüíàÿ ôóíêöèÿ
eit(u−x) − eit(u−y)
t
â îáëàñòè | u | < ∞, | t | < ∞ íåïðåðûâíà è îãðàíè÷åíà, ïîýòîìó ìîæíî
èçìåíèòü ïîðÿäîê èíòåãðèðîâàíèÿ:
Z∞ ZA it(u−x)
it(u−y)
1
−e
e
JA =
dt f (u)dµ(u).
2π
it
−∞
−A
Ïðåîáðàçóåì âíóòðåííèé èíòåãðàë IA â ïðåäåëàõ îò −A äî A, äëÿ ÷åãî
ïðåäñòàâèì åãî â âèäå ñóììû èíòåãðàëîâ ïî îòðåçêàì [ −A, 0 ] è [ 0, A ]
è â èíòåãðàëå ïî îòðåçêó [ −A, 0 ] ñäåëàåì çàìåíó t íà −t. Â ðåçóëüòàòå
ïîëó÷èì
ZA ·
IA =
¸
eit(u−x) − e−it(u−x) eit(u−y) − e−it(u−y)
−
dt =
it
it
ZA ·
2
sin(t(u − x))
t
−
sin(t(u − y))
t
¸
dt,
ïîñêîëüêó (ôîðìóëà Ýéëåðà) (eiz − e−iz )/2i = sinz .
Âû÷èñëÿÿ èíòåãðàë Äèðèõëå
Z∞
sin(αt)
t
dt =
π
sgn α,
2
ïîëó÷àåì ñëåäóþùåå âûðàæåíèå äëÿ ïðàâîé ÷àñòè (2):
1
2
Z∞
[ sgn(u − x) − sgn(u − y) ]f (u)dµ(u).
−∞
121
Ïðåäñòàâèì ïîñëåäíèé èíòåãðàë â âèäå ñóììû òðåõ èíòåãðàëîâ ïî îòðåçêàì (−∞, x ], [ x, y ] è [ y, ∞), íà êîòîðûõ, ñîîòâåòñòâåííî, sgn(u−x) =
sgn(u−y) = −1, sgn(u−x) = −sgn(u−y) = +1, sgn(u−x) = sgn(u−y) = 1.
Òîãäà ýòîò èíòåãðàë, à ñëåäîâàòåëüíî, è ïðàâàÿ ÷àñòü (2), ïðèíèìàåò îêîí÷àòåëüíûé âèä
Zy
f (u)dµ(u) = F (y) − F (x),
x
óñòàíàâëèâàþùèé ñïðàâåäëèâîñòü ôîðìóëû îáðàùåíèÿ (2).
Èòàê, òåïåðü ìîæíî íå ñîìíåâàòüñÿ, ÷òî, ïîëó÷èâ êàêèì-ëèáî ñïîñîáîì õàðàêòåðèñòè÷åñêóþ ôóíêöèþ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X ,
ìû, ïî ñóòè äåëà, óæå ïîñòðîèëè âåðîÿòíîñòíóþ ìîäåëü, è îñòàåòñÿ òîëüêî, èñïîëüçóÿ ôîðìóëó (2), íàéòè ôóíêöèþ ðàñïðåäåëåíèÿ X. Ïðîèëëþñòðèðóåì ýòîò ìåòîä ïîñòðîåíèÿ ìîäåëè íà îäíîé èç öåíòðàëüíûõ çàäà÷
òåîðèè âîññòàíîâëåíèÿ, èìåþùåé áîëüøèå ïðèìåíåíèÿ â ïðàêòèêå è òåîðèè íàäåæíîñòè ñèñòåì, ïîäâåðãàåìûõ â ïðîöåññå èõ ýêñïëóàòàöèè ðåìîíòó
(âîññòàíîâëåíèþ), ïðîôèëàêòèêå è ðåçåðâèðîâàíèþ êîìïîíåíò ñ âûñîêîé
÷àñòîòîé îòêàçà.
Ãàììà-ðàñïðåäåëåíèå G(λ, θ). Ðàññìàòðèâàåòñÿ ñèñòåìà, äîëãîâå÷-
íîñòü êîòîðîé îïðåäåëÿåòñÿ ìîìåíòîì îòêàçà X1 åå îòäåëüíîãî ýëåìåíòà. Ïðåäïîëîæèì, ÷òî X1 ∼ E(θ), òî åñòü ôóíêöèîíèðîâàíèå ýëåìåíòà
ïðîòåêàåò â ðàìêàõ ïîñòóëàòà îòñóòñòâèå ïîñëåäåéñòâèÿ . Ñèñòåìà èìååò ðåçåðâ, ñîñòîÿùèé èç n − 1 òàêèõ æå ýëåìåíòîâ, è ïðè îòêàçå ðàáîòàþùåãî ýëåìåíòà ìãíîâåííî ïîäêëþ÷àåòñÿ çàïàñíîé. Òàêèì îáðàçîì, îáùàÿ äîëãîâå÷íîñòü
ñèñòåìû îïðåäåëÿåòñÿ ðåàëèçàöèåé ñëó÷àéíîé âåëè÷èXn
íû X =
Xi , â êîòîðîé ñëàãàåìûå íåçàâèñèìû è îäèíàêîâî ðàñïðåäå1
ëåíû ïî ïîêàçàòåëüíîìó çàêîíó E(θ) ñ õàðàêòåðèñòè÷åñêîé ôóíêöèåé (ñì.
ïðèìåð 12.4) ϕ1 (t) = (1 − iθt)−1 .
 ñèëó ïóíêòà 30 ïðåäëîæåíèÿ 12.1 õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ X ðàâíà ϕ(t) = (1 − iθt)−n . Ïðèìåíÿÿ îáðàòíîå ïðåîáðàçîâàíèå Ôóðüå ê ϕ(t)
(ñîâåòóþ âîñïîëüçîâàòüñÿ ñïðàâî÷íèêîì òàêèå èíòåãðàëû íà íàøåì áîãîóãîäíîì ôàêóëüòåòå ñ÷èòàòü òåïåðü íå ó÷àò), ïîëó÷àåì ôóíêöèþ ïëîòíîñòè ðàñïðåäåëåíèÿ äîëãîâå÷íîñòè
f (x) = f (x | n, θ) =
n xo
1
n−1
x
exp
−
,
(n − 1)!θn
θ
(åñòåñòâåííî, f (x) = 0 ïðè x ≤ 0).
122
x > 0,
Êàê áóäåò âèäíî â äàëüíåéøåì, ïîëó÷åííîå ðàñïðåäåëåíèå äîëãîâå÷íîñòè ñ çàìåíîé öåëî÷èñëåííîãî ïàðàìåòðà n íà ïðîèçâîëüíûé ïîëîæèòåëüíûé ïàðàìåòð λ îïèñûâàåò äîëãîâå÷íîñòü íå òîëüêî ðåçåðâèðîâàííûõ (èëè
âîññòàíàâëèâàåìûõ ïðè îòêàçå) ñèñòåì, íî è äîëãîâå÷íîñòü ñèñòåì, ïîäâåðæåííûõ èçíîñó, ñòàðåíèþ, íàêîïëåíèþ óñòàëîñòè, â îáùåì, âñåìó òîìó,
÷òî ïîñòåïåííî íàêàïëèâàåòñÿ, à ïîòîì ïðèâîäèò ê ãèáåëè .  ñâÿçè ñ ýòèìè çàìå÷àíèÿìè ìû îïðåäåëÿåì ãàììà-ðàñïðåäåëåíèå G(λ, θ) ïîñðåäñòâîì
ôóíêöèè ïëîòíîñòè
n xo
1
λ−1
x exp −
,
f (x | λ, θ) =
Γ(λ)θλ
θ
ãäå
x > 0; λ > 0, θ > 0,
Z∞
xλ−1 e−x dx
Γ(λ) =
ãàììà-ôóíêöèÿ Ýéëåðà.
Ñåìåéñòâî äâóõïàðàìåòðè÷åñêèõ ãàììà-ðàñïðåäåëåíèé {G(λ, θ),
(λ, θ) ∈ R+ ×R+ } ñîäåðæèò, êàê ÷àñòíûé ñëó÷àé, ïîêàçàòåëüíîå ðàñïðåäåëåíèå (λ = 1). Ãàììà-ðàñïðåäåëåíèå óíèìîäàëüíî: åñëè λ ≤ 1, òî modX = 0,
à ïðè λ > 1 ìîäà modX = θ(λ − 1).
f 6
λ = 0.5
1
λ=1
λ=3
1
2
3
4
5
6
Ó ãàììà-ðàñïðåäåëåíèÿ ñóùåñòâóþò ìîìåíòû ëþáîãî ïîðÿäêà:
1
αk = EX k =
Γ(λ)θλ
Z∞
x
λ+k−1
n xo
exp −
dx =
θ
Γ(λ + k)θλ+k
= λ(λ − 1) · · · (λ − k + 1)θk .
Γ(λ)θλ
123
-
x
 ÷àñòíîñòè, EX = λθ, DX = λθ2 .
Òåïåðü, èñïîëüçóÿ àïïàðàò õàðàêòåðèñòè÷åñêèõ ôóíêöèé, ìû ìîæåì ñîñòàâèòü êàòàëîã èçó÷åííûõ íàìè ðàñïðåäåëåíèé, äëÿ êîòîðûõ ñïðàâåäëèâà
òåîðåìà ñëîæåíèÿ.
Xn
Ïðåäëîæåíèå 12.2. Ïóñòü X1 , . . . , Xn íåçàâèñèìû è Sn =
Òîãäà,
10 åñëè Xk ∼ B( mk , p ),
20 åñëè Xk ∼ P( λk ),
k = 1, . . . , n,
k = 1, . . . , n,
òî
òî
3 åñëè Xk ∼ C( ak , bk ), k = 1, . . . , n, òî Sn ∼ C(
40 åñëè Xk ∼ N( µk , σk2 ), k = 1, . . . , n, òî Sn ∼ N(
k = 1, . . . , n,
òî
Xk .
Xn
mk , p );
Xn
Sn ∼ P(
λk );
Sn ∼ B(
50 åñëè Xk ∼ G( λk , θ ),
1
1
Xn
1
Xn
1
Sn ∼ G(
1
n
X
ak ,
µk ,
Xn
1
1
n
X
bk );
σk2 );
1
λk , θ ).
Ä î ê à ç à ò å ë ü ñ ò â î. Ñëåäóþùàÿ òàáëèöà õàðàêòåðèñòè÷åñêèõ
ôóíêöèé îòäåëüíûõ ñëàãàåìûõ Xk è ñóììû Sn óñòàíàâëèâàåò ñïðàâåäëèâîñòü âñåõ óòâåðæäåíèé ïðåäëîæåíèÿ.
10 B(m, p) :
Xn
¡ it
¢mk
¡ it
¢
mk
1
ϕXk (t) = pe + 1 − p
, ϕSn (t) = pe + 1 − p
;
20 P(λ) :
nXn
o
©
ª
it
it
ϕXk (t) = exp λk (e − 1) , ϕSn (t) = exp
λk (e − 1) ;
1
30 C(a, b) :
n Xn
Xn o
ϕXk (t) = exp {itak − | t |bk } , ϕSn (t) = exp it
ak − | t |
bk ;
1
40 N(µ, σ 2 ) : n
o
n P
t2 2
ϕXk (t) = exp itµk − 2 σk , ϕSn (t) = exp it n1 µk −
50 G(λ, θ) :
124
1
t2
2
Xn
σk2
1
o
;
Xn
ϕXk (t) = (1 − iθt)−λk , ϕSn (t) = (1 − iθt)
−
1
λk
.
Íåñêîëüêî ñëîâ î õàðàêòåðèñòè÷åñêîé ôóíêöèè ìíîãîìåðíîãî ðàñïðåäåëåíèÿ. Åñëè X (n) = (X1 , . . . , Xn ) ñëó÷àéíûé âåêòîð ñ ôóíêöèåé ïëîòíîñòè
fn (x(n) ) = fn (x1 , . . . , xn ) ïî ìåðå dµn (x(n) ) = dµ1 (x1 ) · · · · · · dµn (xn ), òî
õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ îïðåäåëÿåòñÿ êàê
n-ìåðíîå ïðåîáðàçîâàíèå Ôóðüå-Ëåáåãà
n ³
´o Z
(n)
(n)
(n)
ϕn (t ) = E exp i t , X
=
Rn
(
exp i
n
X
)
tk xk
fn (x(n) )dµn (x(n) ).
1
Î÷åíü ïðîñòî, ïî ïðÿìîé àíàëîãèè ñ áèíîìèàëüíûì ðàñïðåäåëåíèåì, íàõîäèòñÿ õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ìóëüòèíîìèàëüíîãî ðàñïðåäåëåíèÿ,
è ñòîëü æå ïðîñòî, åñëè âîñïîëüçîâàòüñÿ îòâåòîì ê çàäà÷å N 4220 èç
Äåìèäîâè÷à, õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ n-ìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ N(µ, Λ) :
n
X
1 X
(n)
λjk tj tk .
ϕn (t ) = exp i
µk tk −
2
1
1≤j,k≤n
Äëÿ ìíîãîìåðíîé õàðàêòåðèñòè÷åñêîé ôóíêöèè òàêæå ñïðàâåäëèâû òåîðåìû åäèíñòâåííîñòè è óòâåðæäåíèÿ, àíàëîãè÷íûå ïðåäëîæåíèþ 12.1. Èñïîëüçóÿ àïïàðàò ìíîãîìåðíûõ õàðàêòåðèñòè÷åñêèõ ôóíêöèé, ìîæíî ïîêàçàòü, ÷òî äëÿ ìóëüòèíîìèàëüíîãî è ìíîãîìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèé ñïðàâåäëèâû òåîðåìû ñëîæåíèÿ, è äîêàçàòü ñëåäóþùåå óäèâèòåëüíîå ñâîéñòâî ìíîãîìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ: ëþáîå ëèíåéíîå
ïðåîáðàçîâàíèå Y (m) = AX (n) (ñ ìàòðèöåé A ðàçìåðíîñòè n × m) ñëó÷àéíîãî âåêòîðà X (n) ∼ N(µ, Λ) äàåò ñëó÷àéíûé âåêòîð, èìåþùèé mìåðíîå íîðìàëüíîå ðàñïðåäåëåíèå ñî ñðåäíèì µA è êîâàðèàöèîííîé ìàòðèöåé AΛA0 .
125
13. Õàðàêòåðèñòè÷åñêèå ôóíêöèè.
Êðèòåðèé ñëàáîé ñõîäèìîñòè
Ëåêöèÿ 2021
Ñëåäóþùàÿ òåîðåìà äàåò óäîáíûé êðèòåðèé ñëàáîé ñõîäèìîñòè ðàñïðåäåëåíèé ñëó÷àéíûõ âåëè÷èí.
Òåîðåìà 13.1. Ïóñòü {ϕn , n ≥ 1} ïîñëåäîâàòåëüíîñòü õàðàêòåðè-
ñòè÷åñêèõ ôóíêöèé è {Fn , n ≥ 1} ïîñëåäîâàòåëüíîñòü ñîîòâåòñòâóþùèõ
ôóíêöèé ðàñïðåäåëåíèé. Åñëè ïðè ëþáîì ôèêñèðîâàííîì t ∈ R ïîñëåäîâàòåëüíîñòü õàðàêòåðèñòè÷åñêèõ ôóíêöèé ñõîäèòñÿ ê íåêîòîðîé íåïðåðûâíîé â òî÷êå t = 0 ôóíêöèè ϕ(t), òî ϕ( · ) åñòü õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ íåêîòîðîé ñëó÷àéíîé âåëè÷èíû X ñ ôóíêöèåé ðàñïðåäåëåíèÿ F ( · ) è
Fn ⇒ F . Îáðàòíî, åñëè Fn ⇒ F è F ( · ) åñòü ôóíêöèÿ ðàñïðåäåëåíèÿ, òî
ϕn (t) → ϕ(t) ïðè ëþáîì t ∈ R è ϕ( · ) õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ
ñëó÷àéíîé âåëè÷èíû X ñ ôóíêöèåé ðàñïðåäåëåíèÿ F ( · ).
Äîêàçàòåëüñòâî ýòîé òåîðåìû (â ìîíîãðàôèÿõ ïî òåîðèè âåðîÿòíîñòåé
îíà îáû÷íî íàçûâàåòñÿ òåîðåìîé íåïðåðûâíîñòè äëÿ ïîñëåäîâàòåëüíîñòåé
õàðàêòåðèñòè÷åñêèõ ôóíêöèé) îñíîâàíî íà ðÿäå âñïîìîãàòåëüíûõ óòâåðæäåíèé î ñëàáîé ñõîäèìîñòè ôóíêöèé ðàñïðåäåëåíèé.
Ëåììà 13.1. Âñÿêàÿ ïîñëåäîâàòåëüíîñòü ôóíêöèé ðàñïðåäåëåíèÿ
{Fn , n ≥ 1} ñîäåðæèò ïîäïîñëåäîâàòåëüíîñòü {Fnk , k ≥ 1}, ñëàáî ñõîäÿùóþñÿ ê íåêîòîðîé îãðàíè÷åííîé íåóáûâàþùåé è íåïðåðûâíîé ñëåâà
ôóíêöèè F ( · ), ò.å. Fnk (x) −→ F (x) ïðè k → ∞ â ëþáîé òî÷êå x íåïðåðûâíîñòè ôóíêöèè F ( · ).
Çàìå÷àíèå 13.1. Åñëè ïîñëåäîâàòåëüíîñòü {Fn (x), n ≥ 1} ñõîäèòñÿ â
êàæäîé òî÷êå x, òî ïðåäåëüíàÿ ôóíêöèÿ F (x), x ∈ R ìîæåò è íå áûòü
ôóíêöèåé ðàñïðåäåëåíèÿ, õîòÿ, î÷åâèäíî, F ( · ) íå óáûâàåò è åå èçìåíåíèå
íà R : varF = supx F (x)−inf x F (x) ≤ 1, èáî òàêîâû ôóíêöèè ðàñïðåäåëåíèÿ
Fn ( · ), n = 1, 2, . . . Ïðèìåð òàêîé ïîñëåäîâàòåëüíîñòè äàþò ôóíêöèè Fn ( · )
ðàâíîìåðíûõ ðàñïðåäåëåíèé íà îòðåçêàõ [ n; n+1 ], n = 1, 2, . . . . Ïîñêîëüêó
Fn (x) = 0 ïðè x < n, òî äëÿ ëþáîãî x ∈ R ñóùåñòâóåò òàêîå N (äîñòàòî÷íî
âçÿòü N áîëüøå x), ÷òî Fn (x) = 0 äëÿ âñåõ n ≥ N . Ñëåäîâàòåëüíî, Fn (x) →
F (x) ≡ 0 è varF = 0.
Ä î ê à ç à ò å ë ü ñ ò â î ë å ì ì û 13.1. Íà÷íåì ñ âûáîðà ïîäïîñëåäîâàòåëüíîñòè {Fnk , k ≥ 1}, êîòîðàÿ ñõîäèòñÿ ñëàáî ê íåêîòîðîìó ïðåäåëó F,
îáëàäàþùåìó óêàçàííûìè ñâîéñòâàìè.
126
Ïóñòü D = {rn , n ≥ 1} ñ÷åòíîå âñþäó ïëîòíîå â R ìíîæåñòâî, íàïðèìåð, ìíîæåñòâî ðàöèîíàëüíûõ ÷èñåë. ×èñëîâàÿ ïîñëåäîâàòåëüíîñòü {Fn (r1 ),
n ≥ 1} îãðàíè÷åíà, è ïîýòîìó ñîäåðæèò ñõîäÿùóþñÿ ïîäïîñëåäîâàòåëüíîñòü {F1n (r1 ), n ≥ 1}. Ïóñòü F1 (r1 ) ïðåäåë ýòîé ïîäïîñëåäîâàòåëüíîñòè.
Ðàññìîòðèì òåïåðü ïîñëåäîâàòåëüíîñòü ÷èñåë {F1n (r2 ), n ≥ 1}; îíà òàêæå
ñîäåðæèò ñõîäÿùóþñÿ ïîäïîñëåäîâàòåëüíîñòü {F2n (r2 ), n ≥ 1} ñ íåêîòîðûì ïðåäåëîì F2 (r2 ), ïðè÷åì
lim F2n (r1 ) = F1 (r1 ),
n→∞
èáî {F2n (r1 ), n ≥ 1} ïîäïîñëåäîâàòåëüíîñòü ñõîäÿùåéñÿ ê F1 (r1 ) ïîñëåäîâàòåëüíîñòè {F1n (r1 ), n ≥ 1}. Òî÷íî òàê æå ïîñëåäîâàòåëüíîñòü {F2n (r3 ),
n ≥ 1} ñîäåðæèò ïîäïîñëåäîâàòåëüíîñòü {F3n (r3 ), n ≥ 1} ñ ïðåäåëîì
F3 (r3 ), ïðè÷åì
lim F3n (r2 ) = F2 (r2 ),
n→∞
lim F3n (r1 ) = F1 (r1 ),
n→∞
èáî {F3n (r1 ), n ≥ 1} ⊆ {F2n (r1 ), n ≥ 1} ⊆ {F1n (r1 ), n ≥ 1} èíäåêñû êàæäîé ïîñëåäóþùåé ïîäïîñëåäîâàòåëüíîñòè âûáèðàëèñü èç ìíîæåñòâà
èíäåêñîâ ïðåäûäóùåé. Ïðîäîëæàÿ ýòîò ïðîöåññ, ìû óáåæäàåìñÿ, ÷òî äëÿ
ëþáîãî k ≥ 1 ÷èñëî Fk (rk ) åñòü îáùèé ïðåäåë âñåõ ïîñëåäîâàòåëüíîñòåé
{Fjn (rk ), n ≥ 1}, j = k, k + 1, . . . , ïðè÷åì êàæäàÿ ïîñëåäóþùàÿ ïîñëåäîâàòåëüíîñòü åñòü ïîäïîñëåäîâàòåëüíîñòü ïðåäûäóùåé.
Ðàññìîòðèì äèàãîíàëüíóþ ïîñëåäîâàòåëüíîñòü {Fnn (rk ), n ≥ 1}. Çà èñêëþ÷åíèåì ïåðâûõ k − 1 ÷ëåíîâ åå ïîñëåäóþùèå ÷ëåíû âûáèðàþòñÿ ïî
îäíîìó èç ðàññìîòðåííûõ âûøå ïîñëåäîâàòåëüíîñòåé, ñëåäîâàòåëüíî,
lim Fnn (rk ) = Fk (rk ).
n→∞
Òåì ñàìûì äëÿ âñåõ x ∈ D îïðåäåëåíà íåóáûâàþùàÿ ôóíêöèÿ F0 (x), ðàâíàÿ Fk (rk ), åñëè x = rk , è
lim Fnn (x) = F0 (x), ∀x ∈ D.
n→∞
Ôóíêöèÿ F0 ( · ) îãðàíè÷åíà è íå óáûâàåò íà D, èáî ýòèìè ñâîéñòâàìè îáëàäàåò êàæäûé ÷ëåí ïîñëåäîâàòåëüíîñòè {Fnn , n ≥ 1}. Òåïåðü îïðåäåëèì
F (x) ïðè ëþáîì x ∈ R, ïîëàãàÿ
F (x) =
sup F0 (r).
r 0 è x ∈ R ñóùåñòâóåò òàêîå
y0 = y0 (ε, x) < x, ÷òî 0 ≤ F (x) − F (y) ≤ ε ïðè ëþáîì y ∈ (y0 , x). Ïî
îïðåäåëåíèþ ñóïðåìóìà ñóùåñòâóåò òàêàÿ âîçðàñòàþùàÿ (ñóïðåìàëüíàÿ)
ïîñëåäîâàòåëüíîñòü {rk , k ≥ 1} ⊂ D, ÷òî rk < x ïðè ∀k = 1, 2, . . . è
lim ↑ F0 (rk ) = F (x).
k
Ñëåäîâàòåëüíî, ñóùåñòâóåò òàêîå K = K(ε), ÷òî ïðè ∀k ≥ K âûïîëíÿåòñÿ
íåðàâåíñòâî 0 ≤ F (x) − F0 (rk ) < ε. Íî äëÿ ëþáîãî y ≥ rK èìååò ìåñòî
íåðàâåíñòâî F0 (rK ) ≤ supr 0.
Íà÷íåì ñ òîãî, ÷òî â ñèëó òîëüêî ÷òî óñòàíîâëåííîé íåïðåðûâíîñòè ñëåâà ôóíêöèè F ( · ) ïî çàäàííîìó ε âñåãäà ìîæíî ïîäîáðàòü òàêèå x0 , x00 ∈ R
è r0 , r00 ∈ D, ÷òî x0 < r0 < x < r00 < x00 , è ïðè ýòîì 0 < F (x00 ) − F (x) < ε/2
è 0 < F (x) − F (x0 ) < ε/2.
Òàê êàê Fnn (r) → F0 (r) ïðè ∀r ∈ D, òî, íà÷èíàÿ ñ íåêîòîðîãî n > N (ε),
âûïîëíÿåòñÿ íåðàâåíñòâî | Fnn (r)−F0 (r) | < ε/2, è ïîýòîìó Fnn (x)−F (x) ≤
Fnn (r00 ) − F (x) = [ Fnn (r00 ) − F0 (r00 ) ] + [ F0 (r00 ) − F (x) ] ≤ ε/2 + F0 (r00 ) −
F (x) , à òàêæå F (x) − Fnn (x) ≤ F (x) − Fnn (r0 ) = [ F (x) − F0 (r0 ) ] +
[ F0 (r0 ) − Fnn (r0 ) ] ≤ F (x) − F0 (r0 ) + ε/2. Äëÿ äîêàçàòåëüñòâà ñõîäèìîñòè
Fnn (x) ê F (x) äîñòàòî÷íî ïîêàçàòü, ÷òî F0 (r00 ) ≤ F (x00 ), à F0 (r0 ) ≥ F (x0 ),
à çàòåì âîñïîëüçîâàòüñÿ íåðàâåíñòâîì F (x00 ) − F (x) < ε/2. Íî ýòî ïî÷òè
î÷åâèäíî, ïîñêîëüêó âûïîëíÿþòñÿ ñòðîãèå íåðàâåíñòâà x0 < r0 è r00 < x00 .
Äåéñòâèòåëüíî,
F0 (r00 ) ≤ sup F0 (r) = F (x00 )
r 0 è âûáåðåì íà îñè R òàêèå òî÷êè a è b, ÷òîáû
F (x) áûëà íåïðåðûâíîé â a è b è ÷òîáû F (a) < ε è 1 − F (b) < ε. Ïîñêîëüêó
Fn ⇒ F, òî
lim Fn (a) = F (a),
lim Fn (b) = F (b)
n→∞
n→∞
Fn (a) ≤ F (a) + ε,
Fn (b) ≥ F (b) − ε,
è, ñëåäîâàòåëüíî,
íà÷èíàÿ ñ íåêîòîðîãî n > N (ε).
129
(2)
Ðàçîáüåì êàæäûé èç èíòåãðàëîâ, ó÷àñòâóþùèõ â îïðåäåëåíèè ∆n , íà
ñóììó òðåõ èíòåãðàëîâ ïî ïðîìåæóòêàì [−∞; a ], [ a; b ], [ b; +∞]. Òîãäà
∆n ≤ ∆1n + ∆2n + ∆3n , ãäå
∆1n
¯Z
¯
= ¯¯
Z
a
a
gdF −
−∞
−∞
∆3n
¯
¯
gdFn ¯¯ ,
¯Z
¯
= ¯¯
b
∆2n
¯
¯Z b
Z b
¯
¯
gdFn ¯¯ ,
= ¯¯
gdF −
a
a
¯
Z ∞
∞
¯
gdF −
gdFn ¯¯ .
b
Ïîëîæèì M = supx | g(x) | < ∞ (íàïîìíèì, ôóíêöèÿ g îãðàíè÷åíà) è
îöåíèì ∆1n è ∆3n . Èñïîëüçóÿ (2), ïîëó÷àåì
Za
∆1n ≤
Za
| g |dF +
−∞
| g |dFn ≤ M (F (a) + Fn (a)) ≤ M (2F (a) + ε) ≤ 3M ε,
−∞
Z
Z
∞
∆3n =
∞
| g |dF +
b
| g |dFn ≤ M (1 − F (b) + 1 − Fn (b)) ≤ 3M ε,
b
èáî F (a) < ε è 1 − F (b) < ε. Òàêèì îáðàçîì, ∆1n è ∆3n ñòðåìÿòñÿ ê
íóëþ ñ ðîñòîì n. Ïîêàæåì, ÷òî àíàëîãè÷íîå çàêëþ÷åíèå ìîæíî ñäåëàòü
îòíîñèòåëüíî ∆2n .
Ðàçîáüåì îòðåçîê [ a; b ] íà N ÷àñòåé òî÷êàìè x1 , . . . , xN −1 , âûáðàâ èõ
òàê, ÷òîáû îíè îêàçàëèñü òî÷êàìè íåïðåðûâíîñòè F ( · ) (ýòî âîçìîæíî â
ñèëó èçâåñòíîãî ñâîéñòâà ôóíêöèè ðàñïðåäåëåíèÿ: îíà èìååò íå áîëåå ÷åì
ñ÷åòíîå ìíîæåñòâî ñêà÷êîâ, è ïîýòîìó íå ìîæåò áûòü öåëîãî ïðîìåæóòêà,
ñîñòîÿùåãî èç òî÷åê ðàçðûâà F ( · )). Èòàê, ïóñòü a = x0 < x1 < . . . <
xN −1 < xN = b.
Òàê êàê ôóíêöèÿ g( · ) íåïðåðûâíà íà R, òî íà êîíå÷íîì îòðåçêå [ a; b ]
îíà ðàâíîìåðíî íåïðåðûâíà. Ñëåäîâàòåëüíî, ïðè äîñòàòî÷íî áîëüøîì N
ðàçíîñòü | g(x) − g(xk ) | < ε ïðè xk ≤ x < xk+1 è ëþáîì k = 0, . . . , N .
Ââåäåì ñòóïåí÷àòóþ ôóíêöèþ gε (x), ïîëîæèâ åå ðàâíîé g(xk ), åñëè x ∈
[ xk ; xk+1 ), k = 0, . . . , N − 1, è îáðàòèìñÿ ê îöåíêå ∆2n . Èìååì
¯Z b
¯
Z b
¯
¯
∆2n = ¯¯ (g − gε + gε )dF −
(g − gε + gε )dFn ¯¯ ≤
a
¯Z b
¯
¯ (g − gε )dF
¯
a
a
¯ ¯Z b
¯ ¯Z b
¯
Z b
¯ ¯
¯ ¯
¯
¯ + ¯ (g − gε )dFn ¯ + ¯
¯
g
dF
−
g
dF
ε
ε
n¯.
¯ ¯
¯ ¯
a
a
130
a
Êàæäîå èç ïåðâûõ äâóõ ñëàãàåìûõ â ïðàâîé ÷àñòè íå ïðåâîñõîäèò ε,
ïîñêîëüêó |g−gε | < ε, F (b)−F (a) ≤ 1 è Fn (b)−Fn (a) ≤ 1, à äëÿ ïîñëåäíåãî
ñëàãàåìîãî èìååì îöåíêó
¯
¯ ¯
¯ b
xk+1
xk+1
¯
¯ ¯N
¯Z
Z
Z
Zb
−1
N
−1
X
¯
¯
¯ ¯X
¯=
¯ gε dF − gε dFn ¯ = ¯
dF
(x)
g(x
)
dF
(x)
−
g(x
)
k
n
k
¯
¯
¯ ¯
¯
¯ ¯ k=0
¯
k=0
xk
xk
a
a
¯
¯
−1
¯N
¯
X
¯
¯
g(xk ){(F (xk+1 ) − F (xk )) − (Fn (xk+1 ) − Fn (xk ))} ¯ ≤
¯
¯
¯
k=0
N
−1
X
| g(xk ) |{| F (xk+1 ) − Fn (xk+1 ) | + | F (xk ) − Fn (xk ) |}.
k=0
Ïðàâàÿ ÷àñòü ýòîãî íåðàâåíñòâà ìåíüøå íàïåðåä çàäàííîãî ε > 0, ïîñêîëüêó N ôèêñèðîâàíî, | g(x) | ≤ M, à Fn (xk ) → F (xk ) ïðè ëþáîì k =
0, . . . , N. Èòàê, ∆2n ñêîëü óãîäíî ìàëî è, ñëåäîâàòåëüíî, ∆n → 0 ïðè
n → ∞.
Äîñòàòî÷íîñòü. Ïóñòü âûïîëíÿåòñÿ (1). Äëÿ ëþáîãî ε > 0 è ëþáîé
òî÷êè x íåïðåðûâíîñòè F ðàññìîòðèì íåïðåðûâíóþ ôóíêöèþ fε (t), ïðèíèìàþùóþ çíà÷åíèå 1 ïðè t < x, çíà÷åíèå 0, åñëè t > x + ε, è ìåíÿþùóþñÿ
ëèíåéíî íà [ x; x + ε ]. Òàê êàê
Z ∞
Z x
fε (t)dFn (t) ≤
fε (t)dFn (t),
Fn (x) =
−∞
òî â ñèëó (1)
Z
−∞
Z
∞
lim sup Fn (x) ≤
x+ε
fε (t)dF (t) ≤
n
−∞
dF (t) = F (x + ε).
−∞
Àíàëîãè÷íî, ñ ïîìîùüþ ôóíêöèè fε∗ (t) = fε (t+ε) ïîëó÷àåì íåðàâåíñòâî
Z
x
Fn (x) ≥
−∞
îòêóäà
Z
fε∗ (t)dFn (t)
Z
∞
lim inf Fn (x) ≥
n
−∞
∞
=
−∞
fε∗ (t)dFn (t),
fε∗ (t)dF (t) ≥ F (x − ε).
Ñëåäîâàòåëüíî, F (x − ε) ≤ lim inf n Fn (x) ≤ lim supn Fn (x) ≤ F (x + ε), à
òàê êàê x òî÷êà íåïðåðûâíîñòè F, òî â ñèëó ïðîèçâîëüíîñòè ε èìååì
ðàâåíñòâî
lim inf Fn (x) = lim sup Fn (x) = lim Fn (x) = F (x).
n
n
n
131
Çàìå÷àíèå 13.2.  áîëüøèíñòâå ìîíîãðàôèé ïî òåîðèè âåðîÿòíîñòåé
ñëàáàÿ ñõîäèìîñòü ðàñïðåäåëåíèé îïðåäåëÿåòñÿ ñîîòíîøåíèåì (1) èìåííî òàêèì îáðàçîì ìîæíî ðàñïðîñòðàíèòü ïîíÿòèå ñëàáîé ñõîäèìîñòè íà
âåêòîðíûå ñëó÷àéíûå âåëè÷èíû (èëè ñëó÷àéíûå âåëè÷èíû ñ àáñòðàêòíûì
ïðîñòðàíñòâîì èõ çíà÷åíèé). Ñëàáàÿ ñõîäèìîñòü ðàñïðåäåëåíèé îáîçíà÷àåòñÿ òåì æå ñèìâîëîì Pn ⇒ P.
Òåïåðü ìû èìååì âñå íåîáõîäèìîå, ÷òîáû óñòàíîâèòü êðèòåðèé ñëàáîé
ñõîäèìîñòè.
Ä î ê à ç à ò å ë ü ñ ò â î ò å î ð å ì û í å ï ð å ð û â í î ñ ò è 13.1. Åñëè
Fn ⇒ F, òî
Z
∞
Z
itx
∞
e dFn (x) →
ϕn (t) =
−∞
eitx dF (x) = ϕ(t)
−∞
(äîñòàòî÷íî ïðèìåíèòü ëåììó 13.1 ê îãðàíè÷åííîé íåïðåðûâíîé ôóíêöèè
g(x) = eitx ).
Ïóñòü òåïåðü ïîñëåäîâàòåëüíîñòü õàðàêòåðèñòè÷åñêèõ ôóíêöèé
{ϕn , n ≥ 1} ñõîäèòñÿ ê íåêîòîðîé íåïðåðûâíîé â òî÷êå t = 0 ôóíêöèè ϕ(t),
è {Fn , n ≥ 1} ñîîòâåòñòâóþùàÿ ïîñëåäîâàòåëüíîñòü ôóíêöèé ðàñïðåäåëåíèÿ. Òðåáóåòñÿ äîêàçàòü, ÷òî ϕ õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ñëó÷àéíîé
âåëè÷èíû ñ ôóíêöèåé ðàñïðåäåëåíèÿ F è Fn ⇒ F .
 ñèëó ëåììû 13.1 èç ïîñëåäîâàòåëüíîñòè {Fn , n ≥ 1} ìîæíî âûáðàòü ïîäïîñëåäîâàòåëüíîñòü {Fnk , k ≥ 1}, ñëàáî ñõîäÿùóþñÿ ê íåêîòîðîé íåóáûâàþùåé, íåïðåðûâíîé ñëåâà ôóíêöèè F, ïðè÷åì 0 ≤ F (x) ≤ 1.
Åñëè varF = 1, òî åñòü F ôóíêöèÿ ðàñïðåäåëåíèÿ, òî (ñì.(1)) ϕnk (t) →
ϕ0 (t), k → ∞, ïðè ëþáîì t ∈ R, ãäå ϕ0 ( · ) õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ,
ñîîòâåòñòâóþùàÿ ôóíêöèè ðàñïðåäåëåíèÿ F ( · ). Òàê êàê ïîñëåäîâàòåëüíîñòü {ϕn (t), n ≥ 1} ñõîäèòñÿ, òî âñå åå ïîäïîñëåäîâàòåëüíîñòè èìåþò
îäèí è òîò æå ïðåäåë ϕ(t), îòêóäà ϕ0 (t) = ϕ(t) è ϕ(t), t ∈ R õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ. Íàêîíåö, â ñèëó òåîðåìû åäèíñòâåííîñòè 12.1 âñå
ïîäïîñëåäîâàòåëüíîñòè ïîñëåäîâàòåëüíîñòè {Fn , n ≥ 1} èìåþò îäèí è òîò
æå ñëàáûé ïðåäåë F, õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ êîòîðîãî åñòü ϕ, îòêóäà
Fn ⇒ F.
Èòàê, îñòàëîñü ïîêàçàòü, ÷òî varF = 1.
Äîïóñòèì ïðîòèâíîå varF = δ < 1. Òàê êàê ϕ( · ) íåïðåðûâíà â òî÷êå
t = 0 è ϕ(0) = 1, èáî ϕn (0) = 1 ïðè ëþáîì n = 1, 2, . . . , òî äëÿ ëþáîãî ε ∈ (0; 1 − δ) ñóùåñòâóåò îòðåçîê [−τ, τ ], íà êîòîðîì | 1 − ϕ(t) | <
132
ε/2 = ε − ε/2 < 1 − δ − ε/2. Ôóíêöèÿ ϕ( · ) èíòåãðèðóåìà íà ëþáîì îòðåçêå
[ −τ, τ ], òàê êàê îíà åñòü ïðåäåë èíòåãðèðóåìûõ íà [ −τ, τ ] è îãðàíè÷åííûõ
ôóíêöèé ϕn ( · ) (ñì.íà÷àëî äîêàçàòåëüñòâà ôîðìóëû îáðàùåíèÿ). Ñëåäîâàòåëüíî, (íàïîìíèì, | a | − | b | ≤ | a − b |)
¯
¯
¯ τ
¯
¯
¯Z
¯
¯
Zτ
¯ 1
¯
¯
¯
1
¯ (1 − ϕ(t))dt ¯ ≤
1 − ¯¯
ϕ(t)dt ¯¯ ≤
¯
¯
¯ 2τ
¯
¯ 2τ ¯
−τ
−τ
1
2τ
Zτ
| 1 − ϕ(t) |dt < 1 − δ − ε/2,
−τ
îòêóäà,
¯
¯
¯
¯
Zτ
¯ 1
¯
¯
¯ > δ + ε/2.
ϕ(t)dt
¯ 2τ
¯
¯
¯
(3)
−τ
Íåðàâåíñòâî (3) ïîëó÷åíî íàìè òîëüêî èç ïðåäïîëîæåíèÿ íåïðåðûâíîñòè ôóíêöèè ϕ( · ) â òî÷êå t = 0. Ïîêàæåì òåïåðü, ÷òî èç ñäåëàííîãî íàìè
ïðåäïîëîæåíèÿ varF = δ < 1, âûòåêàåò íåðàâåíñòâî, ïðîòèâîïîëîæíîå (3).
Ïóñòü Fnk ⇒ F, à ñîîòâåòñòâóþùàÿ ïîñëåäîâàòåëüíîñòü õàðàêòåðèñòè÷åñêèõ ôóíêöèé ϕnk (t) → ϕ(t) ïðè ∀t ∈ R. Èìååì
¯Z
¯
¯
¯
τ
−τ
¯ ¯Z
¯ ¯
ϕnk (t)dt ¯¯ = ¯¯
Z
| x |>A
¯Z
¯
¯
¯
τ
−τ
τ
−τ
Z
∞
−∞
¯ Z
¯
eitx dFnk (x)dt ¯¯ ≤
¯
Z
¯
eitx dt ¯¯ dFnk (x) +
| x |≤A
¯Z
¯
¯
¯
∞
−∞
τ
−τ
¯Z
¯
¯
¯
τ
−τ
¯
¯
eitx dt ¯¯ dFnk (x) =
¯
¯
eitx dt ¯¯ dFnk (x),
ãäå A íåêîòîðîå ïîëîæèòåëüíîå ÷èñëî. Òàê êàê F (A)−F (−A) ≤ varF ≤ δ,
òî Fnk (A) − Fnk (−A) < δ + ε/4, íà÷èíàÿ ñ íåêîòîðîãî k. Ó÷èòûâàÿ, ÷òî
èíòåãðàë
Z
τ
eiτ x − e−iτ x
2 sin(τ x)
e dt =
=
ix
x
−τ
itx
è, ñëåäîâàòåëüíî, ïî ìîäóëþ íå ïðåâîñõîäèò 2τ (íàïîìíèì, | sin x | ≤ | x |),
ïîëó÷àåì
¯
¯
Z
| x |≤A
¯ Zτ
¯
¯
¯
¯ eitx dt ¯ dFn (x) ≤ 2τ (δ + ε/4),
k
¯
¯
¯
¯
−τ
133
Z
| x |>A
¯ τ
¯
¯
¯Z
¯
Z ¯
¯
¯
¯
¯
sin(τ
x)
¯ eitx dt ¯ dFn (x) = 2
¯ dFn (x) ≤
¯
k
k
¯
¯
¯
¯
x
¯
¯
−τ
| x |>A
Z
2
2
dFnk (x) ≤ .
|x|
A
| x |>A
Åñëè âûáðàòü A = 4/τ ε, òî
¯Z
¯
¯
1 ¯¯ τ
¯ ≤ δ + ε/2,
ϕ
(t)dt
nk
¯
¯
2τ −τ
÷òî ïðîòèâîðå÷èò (3) ïðè k → ∞ è, ñëåäîâàòåëüíî, ïðåäïîëîæåíèþ δ =
varF < 1. Èòàê, F ôóíêöèÿ ðàñïðåäåëåíèÿ, ϕ ñîîòâåòñòâóþùàÿ åé
õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ è Fn ⇒ F.
134
14. Ïðåäåëüíûå òåîðåìû òåîðèè âåðîÿòíîñòåé
Ëåêöèÿ 22
Õàðàêòåðèñòè÷åñêèå ôóíêöèè ÿâëÿþòñÿ âåñüìà ìîùíûì èíñòðóìåíòîì
äëÿ ïîñòðîåíèÿ âåðîÿòíîñòíûõ ìîäåëåé è ïîçâîëÿþò áåç îñîáûõ òåõíè÷åñêèõ ñëîæíîñòåé ïîëó÷èòü èçâåñòíûå íàì çàêîíû òåîðèè âåðîÿòíîñòåé, çíà÷èòåëüíî ðàñøèðÿÿ èõ îáëàñòü äåéñòâèÿ. Ñåé÷àñ ìû ïîëó÷èì áîëåå ñèëüíûé, ÷åì Ï.Ë. ×åáûøåâà, çàêîí áîëüøèõ ÷èñåë è îáîáùèì ïðåäåëüíóþ òåîðåìó ÌóàâðàËàïëàñà íà ñóììû íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ñ ïðîèçâîëüíûì îáùèì çàêîíîì ðàñïðåäåëåíèÿ.
Òåîðåìà 14.1
(çàêîí áîëüøèõ ÷èñåë Õèí÷èíà). Ïóñòü
{Xn , n ≥ 1} ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ
ñëó÷àéíûõ âåëè÷èí ñ êîíå÷íûì ìàòåìàòè÷åñêèì îæèäàíèåì µ = EX1 . Òîãäà
n
1 X
Xn =
Xk → µ.
P
n
k=1
Ä î ê à ç à ò å ë ü ñ ò â î..  ñèëó êîíå÷íîñòè ïåðâîãî ìîìåíòà õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ êàæäîãî ñëàãàåìîãî äîïóñêàåò àñèìïòîòè÷åñêîå ïðåäñòàâëåíèå (ïðåäëîæåíèå 12.1, ï. 50 ) ϕXk (t) = 1 + itµ + o(t). Èç ñâîéñòâ 20
è 30 ïðåäëîæåíèÿ 12.1 ñëåäóåò, ÷òî
µ
ϕX̄n (t) =
µ ¶¶n
µ
t
1 + it + o
.
n
n
Î÷åâèäíî, ϕX n (t) → ϕ(t) = eitµ , ôóíêöèÿ ϕ( · ) íåïðåðûâíà â òî÷êå t =
0 è ñîîòâåòñòâóåò õàðàêòåðèñòè÷åñêîé ôóíêöèè êîíñòàíòû µ ñëó÷àéíîé
âåëè÷èíå, ïðèíèìàþùåé çíà÷åíèå µ ñ âåðîÿòíîñòüþ åäèíèöà.
Òàêèì îáðàçîì, â ñèëó òåîðåìû íåïðåðûâíîñòè 13.1 X n ⇒ µ, à ïîñêîëüêó ñëàáàÿ ñõîäèìîñòü ê ïîñòîÿííîé âëå÷åò ñõîäèìîñòü ïî âåðîÿòíîñòè
(ïðåäëîæåíèå 11.2), òî X n → µ.
P
Íàèáîëåå ñèëüíûé ðåçóëüòàò â çàêîíàõ áîëüøèõ ÷èñåë ïðèíàäëåæèò
À.Í.Êîëìîãîðîâó, êîòîðûé äîêàçàë, ÷òî ïðè ñóùåñòâîâàíèè ìàòåìàòè÷åñêîãî îæèäàíèÿ X n −→ µ. Êîíå÷íî, íàì, êàê âñåãäà, íå õâàòàåò âðåìåíè
ï.í.
äîêàçàòü ÷òî-íèáóäü ñòîÿùåå, è åñëè â 11 ÿ ââîäèë ïîíÿòèå ñõîäèìîñòè
ïî÷òè íàâåðíîå, òî ýòî äåëàëîñü òîëüêî äëÿ òîãî, ÷òîáû ñåé÷àñ õîòÿ áû
óïîìÿíóòü îá óñèëåííîì çàêîíå áîëüøèõ ÷èñåë À.Í.Êîëìîãîðîâà.
135
À ÷òî áóäåò, åñëè îòêàçàòüñÿ îò óñëîâèÿ êîíå÷íîñòè èëè ñóùåñòâîâàíèÿ
ñðåäíåãî çíà÷åíèÿ EX1 ? Ñëåäóþùèé ïðèìåð ïîêàçûâàåò, ÷òî ñõîäèìîñòè
ê ïîñòîÿííîé âåëè÷èíå íå áóäåò.
Ï ð è ì å ð (íàðóøåíèÿ çàêîíà áîëüøèõ ÷èñåë.) Ïóñòü X1 , . . . , Xn íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû ïî çàêîíó Êîøè C(0, 1). Õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ñòàíäàðòíîãî (a = 0, b = 1) ðàñïðåäåëåíèÿ Êîøè
P
ϕ(t) = exp{−| t |}, õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ñóììû Sn = n1 Xk ðàâíà
ϕn (t) = exp{−n| t |}, íàêîíåö, õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ íîðìèðîâàííîé ñóììû X n = Sn /n ðàâíà ϕn (t/n) = exp{−| t |}, è ìû ñíîâà ïîëó÷èëè
òî æå ñàìîå ñòàíäàðòíîå ðàñïðåäåëåíèå Êîøè! Êîíå÷íî, âíóòðè êàæäîãî èç íàñ òåïëèëàñü íàäåæäà, ÷òî X n áóäåò ñõîäèòüñÿ ïðè n → ∞ ê ìîäå
ðàñïðåäåëåíèÿ Êîøè mod(X1 ) = 0, íî, óâû, çàêîíû ïðèðîäû (ìàòåìàòèêè)
íåóìîëèìû è, âû÷èñëÿÿ àðèôìåòè÷åñêîå ñðåäíåå ëþáîãî êîëè÷åñòâà ðåàëèçàöèé ñëó÷àéíûõ âåëè÷èí ñ ðàñïðåäåëåíèåì Êîøè, ìû òàêæå áóäåì (â
ñðåäíåì) äàëåêè îò ìîäû, êàê è íà ïåðâîì øàãå íàøåãî ñòàòèñòè÷åñêîãî
ýêñïåðèìåíòà.
Èçó÷èì òåïåðü áîëåå ïîäðîáíî àñèìïòîòè÷åñêîå (n → ∞) ðàñïðåäåëåíèå
Pn
1 Xk .
Òåîðåìà 14.2
(öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà). Ïóñòü
{Xn , n ≥ 1} ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ, îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí ñ êîíå÷íûìè ìàòåìàòè÷åñêèì îæèäàíèåì EX1 =
µ è äèñïåðñèåé DX1 = σ 2 . Òîãäà ïðè ëþáîì x ∈ R
Xn
Zx
Xk − nµ
1
2
1
√
lim P
< x = Φ(x) = √
e−t /2 dt.
n→∞
σ n
2π
−∞
Ä î ê à ç à ò å ë ü ñ ò â î.. Ðàññóæäåíèÿ òå æå, ÷òî è ïðè âûâîäå çàêîíà áîëüøèõ ÷èñåë, íî èñïîëüçóåòñÿ ñóùåñòâîâàíèå äâóõ ìîìåíòîâ ó Xk .  ñèëó ï.
50 ïðåäëîæåíèÿ 12.1 õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ íîðìèðîâàííîé ñëó÷àéíîé âåëè÷èíû Yk = (Xk − µ)/σ, ó êîòîðîé EYk = 0 è DYk = 1, äîïóñêàåò
àñèìïòîòè÷åñêîå (t → 0) ïðåäñòàâëåíèå
µ
ϕYk (t) =
¶
t2
1 − + o(t2 ) .
2
Òåïåðü, â ñèëó ï. 20 ïðåäëîæåíèÿ 12.1, õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ íîð136
ìèðîâàííîé ñóììû
1
Sn = √
n
n
X
Xn
1
Yk =
1
Xk − nµ
√
,
σ n
èìååò àñèìïòîòèêó
µ
µ 2 ¶¶n
t
t2
ϕS n (t) = 1 −
+o
.
2n
n
Î÷åâèäíî,
ϕS n (t) → e−t
2
/2
,
åñëè n → ∞, à ýòî, êàê íàì èçâåñòíî èç 12, åñòü õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ñòàíäàðòíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ N(0, 1). Ïîñêîëüêó ïðåäåëüíàÿ íîðìàëüíàÿ ôóíêöèÿ Φ(x) íåïðåðûâíà íà âñåì R, òî ôóíêöèÿ ðàñïðåäåëåíèÿ S n ñõîäèòñÿ ê Φ(x) ïðè ëþáîì x ∈ R.
Ñóùåñòâóþò îáøèðíåéøèå èññëåäîâàíèÿ ïî ðàñïðåäåëåíèÿì ñóìì ñëó÷àéíûõ âåëè÷èí, â êîòîðûõ öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà îáîáùàåòñÿ
íà ñëó÷àé ñëàáî çàâèñèìûõ èëè ðàçíî ðàñïðåäåëåííûõ, íî îáëàäàþùèõ
îäèíàêîâûì ïîðÿäêîì ìàëîñòè, ñëó÷àéíûõ âåëè÷èí; ðàññìàòðèâàþòñÿ ñóììû ñëó÷àéíûõ âåêòîðîâ è ñóììû ñëó÷àéíûõ ýëåìåíòîâ, ïðèíèìàþùèõ çíà÷åíèÿ â àáñòðàêòíûõ ïðîñòðàíñòâàõ, è ò.ä., è ò.ï., òàê ÷òî íå ïåðåñòàåøü
óäèâëÿòüñÿ, êàê ýòî ìîæíî ÷òî-òî åùå ñäåëàòü â îáëàñòè òîãî, ãäå, êàæåòñÿ,
âñ
qle óæå ñäåëàíî. Ìû íå áóäåì óãëóáëÿòüñÿ â ýòó îáøèðíåéøóþ òåìàòèêó
è çàéìåìñÿ áîëåå ïðèêëàäíûìè âîïðîñàìè ïðîäîëæèì ïîñòðîåíèå âåðîÿòíîñòíûõ ìîäåëåé, ìàòåìàòè÷åñêîé îñíîâîé êîòîðûõ ñëóæàò ïðåäåëüíûå
òåîðåìû òåîðèè âåðîÿòíîñòåé.
Âåðîÿòíîñòíûå ìîäåëè ðîñòà. Óñëîâèìñÿ óïîòðåáëÿòü òåðìèíîëî-
ãèþ, ñâÿçàííóþ ñ áèîëîãè÷åñêèìè èññëåäîâàíèÿìè; î ïðèëîæåíèÿõ ê äðóãèì îáëàñòÿì åñòåñòâîçíàíèÿ ïîãîâîðèì íèæå, ïîñëå âûâîäà îñíîâíîãî óðàâíåíèÿ ìîäåëè.
Ïðåäïîëîæèì, ÷òî ìû ïîñàäèëè ñ âàìè ìàëåíüêîå äåðåâöå (ñàæåíåö)
âûñîòû x0 , è âî âñå ïîñëåäóþùèå ãîäû ïðîèçâîäèì çàìåðû x1 , x2 , . . . âûñîòû ðàñòóùåãî äåðåâà. Íàñ èíòåðåñóò ïðîãíîç âûñîòû äåðåâà ïî èñòå÷åíèè
n ëåò. Åñòåñòâåííî, íà åæåãîäíûé ïðèðîñò âûñîòû äåéñòâóåò îãðîìíîå êîëè÷åñòâî ïðèðîäíûõ ôàêòîðîâ: òåìïåðàòóðà, îñàäêè, ñîëíå÷íîå îñâåùåíèå,
137
ïëîäîðîäèå ïî÷âû è ò.ï., ïîýòîìó ìû, î÷åâèäíî, èìååì äåëî ñî ñòîõàñòè÷åñêèì ïðîãíîçîì, êîòîðûé ôîðìóëèðóåòñÿ, ïðèìåðíî, êàê ñëåäóþùåå çàêëþ÷åíèå: ×åðåç 60 ëåò ñ âåðîÿòíîñòüþ 0,9 âûñîòà äåðåâà áóäåò íå ìåíüøå
15 ìåòðîâ. Êîíå÷íî, òàêîé ïðîãíîç, êàê è â ñëó÷àå îäíîêðàòíîãî ïîäáðàñûâàíèÿ ìîíåòû, íåëüçÿ ïðèìåíèòü ê îäíîìó ïîñàæåííîìó äåðåâó, íî åãî
ìîæíî èñïîëüçîâàòü â ïðîãíîçå çðåëîñòè ëåñíîé ïîñàäêè, ñîñòîÿùåé èç
áîëüøîãî ÷èñëà äåðåâüåâ, è òîãäà íàøå çàêëþ÷åíèå áóäåò îòíîñèòüñÿ ïðèáëèçèòåëüíî ê 90% ñàæåíöåâ.
Èòàê, ìû äîëæíû òðàêòîâàòü çàìåðû x1 , x2 , . . . â òåðìèíàõ ðåàëèçàöèé êîìïîíåíò ïîñëåäîâàòåëüíîñòè ñëó÷àéíûõ âåëè÷èí X1 , X2 , . . . è ïîïûòàòüñÿ ôîðìàëèçîâàòü â ìàòåìàòè÷åñêèõ òåðìèíàõ ïðè÷èíó ðàçáðîñà â
çíà÷åíèÿõ åæåãîäíûõ ïðèðàùåíèé ∆k = Xk − Xk−1 âûñîòû äåðåâà. Åñòåñòâåííî ïðåäïîëîæèòü, ÷òî ïðèðîñò ∆k âûçâàí ñóììàðíûì äåéñòâèåì âñåõ
òåõ ïðè÷èí ðîñòà, î êîòîðûõ ìû ãîâîðèëè âûøå, òî åñòü äåéñòâèåì íåêîòîðîãî íåîòðèöàòåëüíîãî èìïóëüñà ξk (≥ 0). Ìåæäó ∆k è ξk ñóùåñòâóåò
ïðèáëèæåííàÿ ëèíåéíàÿ ñâÿçü ∆k = αk ξk , ãäå αk çàâèñèò îò âûñîòû Xk−1
äåðåâà, êîòîðîé îíî äîñòèãëî ïî èñòå÷åíèè k ëåò. Ïîëîæèì αk = g(Xk−1 ) ñ
åñòåñòâåííûì óñëîâèåì íåîòðèöàòåëüíîñòè è íåïðåðûâíîñòè ôóíêöèè g(·).
Òàêèì îáðàçîì, ìû ïðèõîäèì ê ðåêóðåíòíûì ñîîòíîøåíèÿì, êîòîðûå îïèñûâàþò åæåãîäíûé ïðèðîñò âûñîòû äåðåâà,
Xk − Xk−1 = ξk g(Xk−1 ),
k = 1, 2, . . .
(1)
Íàì îñòàëîñü òîëüêî ñäåëàòü íåêîòîðûå ïðåäïîëîæåíèÿ, êàñàþùèåñÿ
ðàñïðåäåëåíèÿ ñëó÷àéíûõ âåëè÷èí ξk , k = 1, 2, . . . . Áóäåì ñ÷èòàòü, ÷òî ýòè
ñëó÷àéíûå âåëè÷èíû íåîòðèöàòåëüíû, íåçàâèñèìû, îäèíàêîâî ðàñïðåäåëåíû è îáëàäàþò êîíå÷íûìè ìîìåíòàìè âòîðîãî ïîðÿäêà: ñðåäíèì çíà÷åíèåì
a = Eξk è äèñïåðñèåé b2 = Dξk .
Íàïîìíèì, ÷òî ìû èíòåðåñóåìñÿ ðàñïðåäåëåíèåì ñëó÷àéíîé âåëè÷èíû
Xn , ðåàëèçàöèÿ xn êîòîðîé óêàçûâàåò ðàçìåð êîíêðåòíîãî äåðåâà ïî èñòå÷åíèè n ëåò. Ïåðåïèøåì ïåðâûå n ðåêóðåíòíûõ ñîîòíîøåíèé (1) â âèäå
ξk =
Xk − Xk−1
,
g(Xk−1 )
k = 1, . . . , n
è ïðîñóììèðóåì ëåâûå è ïðàâûå ÷àñòè ýòèõ ðàâåíñòâ.  ðåçóëüòàòå ïîëó÷èì
n
X
1
ξk =
n
X
Xk − Xk−1
1
138
g(Xk−1 )
.
Åñëè êàæäûé èìïóëüñ âûçûâàåò íåçíà÷èòåëüíûé ïðèðîñò äåðåâà, òî
åñòü âñå ∆k = Xk − Xk−1 ìàëû, òî, òðàêòóÿ ïðàâóþ ÷àñòü ïîñëåäíåãî ðàâåíñòâà êàê èíòåãðàëüíóþ ñóììó, ïîëó÷àåì ïðèáëèæåííîå ðàâåíñòâî
n
X
ZX
ξk =
1
x0
dt
,
g(t)
(2)
ãäå X = Xn îêîí÷àòåëüíûé ðàçìåð äåðåâà.
Òàê êàê ôóíêöèÿ g(x) ïîëîæèòåëüíà, òî èíòåãðàë â ïðàâîé ÷àñòè (2)
ïðåäñòàâëÿåò ñîáîé íåêîòîðóþ ìîíîòîííî âîçðàñòàþùóþ ôóíêöèþ h(X).
Ïðèìåíåíèå öåíòðàëüíîé ïðåäåëüíîé òåîðåìû 14.2 ê ëåâîé ÷àñòè (2) ïðèâîäèò ê óòâåðæäåíèþ: ïî èñòå÷åíèè äîñòàòî÷íî áîëüøîãî ñðîêà ïîñëå ïîñàäêè äåðåâà (n À 1) ðàñïðåäåëåíèå åãî âûñîòû X îïðåäåëÿåòñÿ ñîîòíîøåíèåì h(X) ∼ N(µ, σ 2 ), ãäå µ = na, σ 2 = nb2 .  ñèëó ìîíîòîííîñòè
ôóíêöèè h(·)
µ
¶
h(x) − µ
F (x) = P (X < x) = P (h(X) < h(x)) = Φ
.
σ
Îñòàëîñü ðåøèòü ïðîáëåìó ñ âûáîðîì ôóíêöèè g( · ). Åñëè ïîñòóëèðîâàòü, ÷òî ïðèðîñò âûñîòû äåðåâà ïðîïîðöèîíàëåí äîñòèãíóòîé âûñîòå. òî
åñòü ïîëîæèòü g(t) = t, à èìåííî òàêîå ïðåäïîëîæåíèå íàèáîëåå ÷àñòî èñïîëüçóåòñÿ â ìîäåëÿõ ðîñòà, òî ìû ïðèäåì ê ñëåäóþùåìó ðàñïðåäåëåíèþ
ñëó÷àéíîé âåëè÷èíû X.
Ëîãàðèôìè÷åñêè-íîðìàëüíîå ðàñïðåäåëåíèå LN(µ, σ 2 ).
Ïðè g(t) = t èíòåãðàë â ïðàâîé ÷àñòè (2) ñ òî÷íîñòüþ äî ïîñòîÿííîãî ñëàãàåìîãî − ln x0 ðàâåí ln X, òàê ÷òî ln X ∼ N(µ, σ 2 ), è ôóíêöèÿ ðàñïðåäåëåíèÿ
X
µ
¶
ln x − µ
,
F (x) = Φ
σ
x > 0;
ôóíêöèÿ ïëîòíîñòè
½
¾
1
(ln x − µ)2
f (x | µ, σ) = √
exp −
.
2σ 2
σ 2π x
Ýòî óíèìîäàëüíîå, ðåçêî àñèììåòðè÷íîå (γ1 > 0) ðàñïðåäåëåíèå, ãðàôèê ïëîòíîñòè êîòîðîãî èìååò ñëåäóþùèé âèä:
139
f 6
1
1
2
3
4
5
6
-
x
Êîíå÷íî, â ïðàêòè÷åñêèõ ïðèëîæåíèÿõ öåëåñîîáðàçíåå îïåðèðîâàòü íå
ñ X, à ñ åãî íàòóðàëüíûì ëîãàðèôìîì Y = ln X, ïîñëå ÷åãî ïðîèçâîäèòü
âñå ðàñ÷åòû, èñïîëüçóÿ ìîäåëü íîðìàëüíîãî ðàñïðåäåëåíèÿ.
Ëîãàðèôìè÷åñêè-íîðìàëüíûé çàêîí íîñèò äîñòàòî÷íî óíèâåðñàëüíûé
õàðàêòåð. Ýòîìó ðàñïðåäåëåíèþ ïîä÷èíÿåòñÿ ðàçìåð òðåùèíû â èñïûòóåìîì îáðàçöå ìàòåðèàëà, êîòîðûé ïîäâåðãàåòñÿ öèêëè÷åñêèì íàãðóæåíèÿì
íà èçãèá âû ìîæåòå ñàìè áåç îñîáûõ ôàíòàçèéíûõ óñèëèé ïåðåñêàçàòü
íàøè ïîñòðîåíèÿ ñ âûñîòîé äåðåâà â òåðìèíàõ ðàçìåðà òðåùèíû. Àíàëîãè÷íûå ðàññóæäåíèÿ ìîãóò áûòü òàêæå ïðèìåíåíû â èçó÷åíèè ðîñòà äîõîäîâ ó îòäåëüíûõ ëèö äîñòàòî÷íî îäíîðîäíîé ÷åëîâå÷åñêîé ïîïóëÿöèè.
Ïðîâîäèìûå â ýòîì íàïðàâëåíèè ñòàòèñòè÷åñêèå èññëåäîâàíèÿ óêàçûâàþò
íà õîðîøåå ñîãëàñèå ñ ëîãàðèôìè÷åñêè-íîðìàëüíûì ðàñïðåäåëåíèåì äîñòàòî÷íî íèçêèõ äîõîäîâ, â òî âðåìÿ êàê äëÿ óìåðåííûõ è âûñîêèõ äîõîäîâ
áîëåå ïîäõîäÿùèì ÿâëÿåòñÿ ðàñïðåäåëåíèå Ïàðåòî.
 ðàìêàõ ïîñòðîåííîé íàìè ìîäåëè ðîñòà ÷àñòî âîçíèêàåò çàäà÷à, êîòîðóþ ìîæíî òðàêòîâàòü êàê íåêîòîðóþ àëüòåðíàòèâó ê ïðîáëåìå âûâîäà ðàñïðåäåëåíèÿ ðàçìåðà, äîñòèãíóòîãî ê îïðåäåëåííîìó ñðîêó ðàñòóùèì îáúåêòîì èññëåäîâàíèÿ. Ïóñòü ôèêñèðîâàí íåêîòîðûé óðîâåíü x ðàçìåðà (äåðåâà, òðåùèíû, äîõîäà) è íàñ èíòåðåñóåò ðàñïðåäåëåíèå ìîìåíòà
âðåìåíè (íîìåðà öèêëà), íà êîòîðîì ýòîò ðàçìåð áóäåò äîñòèãíóò. Óäèâèòåëüíî, ÷òî â ðàìêàõ íàøåé ìîäåëè ýòî ðàñïðåäåëåíèå íå çàâèñèò îò âûáîðà ïîëîæèòåëüíîé ôóíêöèè g(·), è ïîëó÷èòü åãî ìîæíî ïóòåì ñëåäóþùèõ
òðèâèàëüíûõ ðàññóæäåíèé.
Ðàñïðåäåëåíèå ÁèðíáàóìàÑàóíäåðñà BS(λ, θ). Ïóñòü τ ñëó÷àé-
íàÿ âåëè÷èíà, ðåàëèçóþùàÿ ìîìåíò äîñòèæåíèÿ çàäàííîãî ðàçìåðà x. Òîãäà ñîáûòèå τ > n ýêâèâàëåíòíî ñîáûòèþ Xn < x (íàïîìíèì, âñå ξk ≥ 0)
140
ê ìîìåíòó âðåìåíè n âûñîòà äåðåâà åùå íå äîñòèãëà óðîâíÿ x. Èòàê,
µ
¶
h(x) − na
√
P (τ > n) = P (Xn < x) = P (h(Xn ) < h(x)) = Φ
.
b n
(3)
Çàìåíèì òåïåðü n íà íåïðåðûâíóþ ïåðåìåííóþ
t è ââåäåì√íîâûå ïà√
ðàìåòðû λ è θ, îïðåäåëèâ èõ óðàâíåíèÿìè λ θ = h(x)/b, λ/ θ = a/b.
Öåïî÷êà ðàâåíñòâ (3) ïîçâîëÿåò íàì çàïèñàòü ðàñïðåäåëåíèå ñëó÷àéíîãî
ìîìåíòà âðåìåíè τ, â êîòîðûé äåðåâî (òðåùèíà, äîõîä,) äîñòèãíåò çàäàííîãî óðîâíÿ x :
à Ãr
F (t) = P (τ < t) = 1 − Φ λ
θ
−
t
r !!
t
,
θ
t > 0.
Ýòî óíèìîäàëüíîå ðàñïðåäåëåíèå, êîòîðîå íàçûâàåòñÿ ðàñïðåäåëåíèåì
ÁèðíáàóìàÑàóíäåðñà, è ìû áóäåì îáîçíà÷àòü åãî BS(λ, θ). Ãðàôèê ïëîòíîñòè BS-ðàñïðåäåëåíèÿ (ÿ, íàäåþñü, âû äîñòàòî÷íî îáðàçîâàíû â îáëàñòè
ìàòåìàòè÷åñêîãî àíàëèçà, ÷òîáû íàéòè ïðîèçâîäíóþ îò F (t)) î÷åíü ïîõîæ íà ôóíêöèþ ïëîòíîñòè ãàììà-ðàñïðåäåëåíèÿ. BS-ðàñïðåäåëåíèå èãðàåò áîëüøóþ ðîëü ïðè ðàñ÷åòàõ íàäåæíîñòè îáúåêòîâ, äîëãîâå÷íîñòü êîòîðûõ îïðåäåëÿåòñÿ ðàçâèòèåì òðåùèí, ïðèâîäÿùèõ ê ãèáåëè îáúåêòà.
Ðàññìîòðèì åùå îäíî ðàñïðåäåëåíèå, ÷àñòî èñïîëüçóåìîå â ïðàêòè÷åñêèõ ðàñ÷åòàõ íàäåæíîñòè ñëîæíûõ ñèñòåì.
Ðàñïðåäåëåíèå Âåéáóëëà W(λ, θ) (ìîäåëü ñëàáîãî çâåíà). Èìååòñÿ
öåïü, ñîñòîÿùàÿ èç áîëüøîãî ÷èñëà n çâåíüåâ. Äîïóñòèì, ÷òî ïðî÷íîñòè
x1 , . . . , xn îòäåëüíûõ çâåíüåâ ìîæíî òðàêòîâàòü êàê ðåàëèçàöèè n íåçàâèñèìûõ, îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí X1 , . . . , Xn . Íà
îáà êîíöà öåïè ïîäàåòñÿ ðàâíîìåðíî âîçðàñòàþùàÿ íàãðóçêà, è ôèêñèðóåòñÿ íàïðÿæåíèå, ïðè êîòîðîì ïðîèñõîäèò ðàçðûâ öåïè. Î÷åâèäíî ýòî íàïðÿæåíèå ðàâíî ïðî÷íîñòè íàèñëàáåéøåãî çâåíà öåïè, ïîýòîìó åãî ìîæíî
òðàêòîâàòü êàê ðåàëèçàöèþ ñëó÷àéíîé âåëè÷èíû
X = min Xk .
1≤k≤n
Åñëè F (x) ôóíêöèÿ ðàñïðåäåëåíèÿ êàæäîãî Xk , k = 1, . . . , n, òî ôóíêöèÿ ðàñïðåäåëåíèÿ X îïðåäåëÿåòñÿ ïîñðåäñòâîì ñëåäóþùèõ ðàñ÷åòîâ, â
êîòîðûõ ñóùåñòâåííî èñïîëüçóåòñÿ íåçàâèñèìîñòü X1 , . . . , Xn :
Gn (x) = P (X < x) = 1 − P (X ≥ x) = 1 − P (X1 ≥ x, . . . , Xn ≥ x) =
141
1−
n
Y
P (Xk ≥ x) = 1 − (1 − F (x))n .
k=1
Ïðè áîëüøèõ n åñòåñòâåííî âìåñòî Gn (x) èñïîëüçîâàòü åå àñèìïòîòèêó.
Îäíàêî ïðè êàæäîì ôèêñèðîâàííîì x (> 0) âåðîÿòíîñòü Gn (x) → 1, åñëè
n → ∞, è ïîýòîìó ìû äîëæíû ïðîâåñòè íîðìèðîâêó X ïî àíàëîãèè ñ òåì,
êàê ýòî äåëàëîñü â öåíòðàëüíîé ïðåäåëüíîé òåîðåìå, ÷òîáû ðàñïðåäåëåíèå
íå âûðîæäàëîñü, êîãäà n → ∞. Ïîíÿòíî òàêæå, ÷òî X ïî âåðîÿòíîñòè ñõîäèòñÿ ê íóëþ, ïîýòîìó íîðìèðîâêó X ñëåäóåò ïðîèçâîäèòü äîìíîæåíèåì
íà íåêîòîðóþ ðàñòóùóþ ôóíêöèþ îò n. Ïðè ýòîì íàì íå èçáåæàòü óñëîâèé
íà ïîâåäåíèå ôóíêöèè ðàñïðåäåëåíèÿ F (x) ïðè x → 0+ äîïóñòèì, ÷òî
F (x) ∼ axλ , ãäå a è λ íåîòðèöàòåëüíûå ÷èñëà (óäèâèòåëüíî, íî âñå èçó÷åííûå íàìè ðàñïðåäåëåíèÿ, ñîñðåäîòî÷åííûå íà ïîëîæèòåëüíîé ïîëóîñè,
óäîâëåòâîðÿþò ýòîìó óñëîâèþ).
Ôóíêöèÿ ðàñïðåäåëåíèÿ W (x) íîðìèðîâàííîé ñëó÷àéíîé âåëè÷èíû Y =
n1/λ X íå âûðîæäàåòñÿ ñ ðîñòîì n, è ïðåäåëüíîå ðàñïðåäåëåíèå íàõîäèòñÿ
ñ ïîìîùüþ ñëåäóþùèõ âûêëàäîê:
³
³
³ x ´´n
x ´
∼
W (x) = P (Y < x) = P X < 1/λ = 1 − 1 − F
n
n1/λ
µ
µ
¶n
³ x ´λ ¶n
axλ
λ
1 − 1 − a 1/λ
=1− 1−
∼ 1 − e−ax .
n
n
Çàìåíÿÿ ïàðàìåòð a íà ïàðàìåòð θ, îïðåäåëÿåìûé óðàâíåíèåì a = θ−λ ,
ïîëó÷àåì ðàñïðåäåëåíèå Âåéáóëëà W(λ, θ) ñ ôóíêöèåé ðàñïðåäåëåíèÿ
½ ³ ´ ¾
x λ
W (x | λ, θ) = 1 − exp −
,
θ
x > 0, λ, θ > 0.
Ýòî òàêæå óíèìîäàëüíîå ðàñïðåäåëåíèå, ãðàôèê ôóíêöèè ïëîòíîñòè êîòîðîãî íà ãëàç íå îòëè÷èì îò ãðàôèêà ôóíêöèè ïëîòíîñòè ãàììà-ðàñïðåäåëåíèÿ. Âåéáóëëîâñêîìó ðàñïðåäåëåíèþ îáû÷íî ñëåäóþò äîëãîâå÷íîñòè
ñèñòåì, ñîñòîÿùèõ èç áîëüøîãî ÷èñëà îäíîòèïíûõ ýëåìåíòîâ (íàïðèìåð,
ïëàòà êîìïüþòåðà), îòêàç îäíîãî èç êîòîðûõ (íàèñëàáåéøåãî) ïðèâîäèò ê
îòêàçó ñèñòåìû.
142
15. Ñëó÷àéíûå ïðîöåññû
Ëåêöèÿ 23
Äî ñèõ ïîð ìû èçó÷àëè ðàñïðåäåëåíèå êîíå÷íîãî ÷èñëà ñëó÷àéíûõ âåëè÷èí X1 (ω), . . . , Xn (ω), çàäàííûõ íà åäèíîì âåðîÿòíîñòíîì ïðîñòðàíñòâå
(Ω, A, P ), è âûâîä èõ ñîâìåñòíîãî ðàñïðåäåëåíèÿ ñâîäèëñÿ, ïî ñóùåñòâó, ê
ïîñòðîåíèþ ðàñïðåäåëåíèÿ âåðîÿòíîñòåé íà ïðîèçâåäåíèå èçìåðèìûõ ïðîñòðàíñòâ çíà÷åíèé ýòèõ âåëè÷èí (ïðîèçâåäåíèè áîðåëåâñêèõ ïðÿìûõ). Òåïåðü ìû ïðèñòóïàåì ê èçó÷åíèþ ðàñïðåäåëåíèé íà áåñêîíå÷íîì (âîçìîæíî
íåñ÷åòíîì) ïðîèçâåäåíèè èçìåðèìûõ ïðîñòðàíñòâ. Äîïóñòèì, ÷òî íà ïðîñòðàíñòâå ýëåìåíòàðíûõ èñõîäîâ Ω çàäàíî ñåìåéñòâî ñëó÷àéíûõ âåëè÷èí
{Xt , t ∈ T }, Xt = Xt (ω), èíäåêñèðîâàííûõ ïàðàìåòðîì t, êîòîðûé ïðîáåãàåò ìíîæåñòâî çíà÷åíèé T (íàïðèìåð, âåêòîðíàÿ ñëó÷àéíàÿ âåëè÷èíà
èìååò T = {1, . . . , n}). Ïóñòü (Xt , Bt ), t ∈ T èçìåðèìûå ïðîñòðàíñòâà çíà÷åíèé Xt , ñîîòâåòñòâóþùèå êàæäîìó t ∈ T.  äàëüíåéøåì áóäåò ðàññìàòðèâàòü òîëüêî ñëó÷àé Xt = R ñ áîðåëåâñêîé σ -àëãåáðîé Bt ïîäìíîæåñòâ R,
íî äëÿ ïîíèìàíèÿ êîíñòðóêöèè ðàñïðåäåëåíèé íà áåñêîíå÷íîìåðíûõ ïðîñòðàíñòâàõ âàæíî ñîõðàíèòü èíäåêñ t â îáîçíà÷åíèè ïðîñòðàíñòâ çíà÷åíèé
êàæäîãî ïðåäñòàâèòåëÿ ñåìåéñòâà {Xt , t ∈ T }. Ýòî ñåìåéñòâî íàçûâàåòñÿ
ñëó÷àéíûì ïðîöåññîì.
Åñëè çàôèêñèðîâàòü íåêîòîðûé ýëåìåíòàðíûé èñõîä ω0 , òî ïîëó÷èì ôóíêöèþ x(t) = Xt (ω0 ) íà ìíîæåñòâå T ñî çíà÷åíèÿìè ïðè êàæäîì ôèêñèðîâàííîì t â Xt . Ýòà ôóíêöèÿ íàçûâàåòñÿ òðàåêòîðèåé èëè ðåàëèçàöèåé
ïðîöåññà Xt , t ∈ T.  ñâÿçè ñ ýòèì ïîíÿòèåì ñëåäóåò òðàêòîâàòü ñëó÷àéíûé ïðîöåññ êàê ñëó÷àéíóþ ôóíêöèþ Xt = X(t), ïîìíÿ ïðè ýòîì, ÷òî âñÿ
ñëó÷àéíîñòü ñîñòîèò â çàâèñèìîñòè X(t) îò ω ∈ Ω, â òî âðåìÿ êàê òðàåêòîðèÿ x(t) åñòü çíà÷åíèå ñëó÷àéíîãî ïðîöåññà X(t) ïðè ôèêñèðîâàííîì
ω. Ïðèâåäåì íåñêîëüêî ïðèìåðîâ ñëó÷àéíûõ ïðîöåññîâ è îïèøåì âèä èõ
òðàåêòîðèé.
Ï ð è ì å ð 15.1 (òî÷å÷íûå ïðîöåññû). Íà òåëåôîííóþ ñòàíöèþ ïîñòóïàþò çàÿâêè íà ìåæäóãîðîäíèå ðàçãîâîðû, è ïðè ýòîì ôèêñèðóåòñÿ âðåìÿ
ïîñòóïëåíèÿ çàÿâêè.  òàêèõ ïðîöåññàõ ñ ïîÿâëåíèåì îïðåäåëåííûõ ñîáûòèé â ñëó÷àéíûå ìîìåíòû âðåìåíè îáû÷íî ïîëàãàþò x(t) ðàâíîé ÷èñëó
çàÿâîê, ïîñòóïèâøèõ çà ïðîìåæóòîê âðåìåíè [ 0, t ]. Ýòè ïðîöåññû ñëóæàò
õîðîøèìè ìàòåìàòè÷åñêèìè ìîäåëÿìè ïðè ïðîåêòèðîâàíèè ñèñòåì îáñëóæèâàíèÿ (ìîäåëè òåîðèè î÷åðåäåé), ïðè àíàëèçå òðàíñïîðòíûõ ïîòîêîâ íà
ìàãèñòðàëÿõ; îíè èñïîëüçóþòñÿ â ÿäåðíîé ôèçèêå, ìåòåîðíîé àñòðîíîìèè
143
è ò.ï. Ìíîæåñòâî T â äàííîì ñëó÷àå îòðåçîê R+ âèäà [ 0, T ] ñ âîçìîæíûì
áåñêîíå÷íûì çíà÷åíèåì T. Ïðîñòðàíñòâî Xt çíà÷åíèé ñëó÷àéíîãî ïðîöåññà
ïðè ëþáîì t ∈ T ñîâïàäàåò ñ ìíîæåñòâîì íåîòðèöàòåëüíûõ öåëûõ ÷èñåë.
Òðàåêòîðèÿ èìååò âèä ñòóïåí÷àòîé ôóíêöèè, âîçðàñòàþùåé ñêà÷êàìè â
ñëó÷àéíûå ìîìåíòû âðåìåíè, è âåëè÷èíà êàæäîãî ñêà÷êà ðàâíà åäèíèöå.
Ï ð è ì å ð 15.2 (âåòâÿùèåñÿ ïðîöåññû). Íàáëþäàåòñÿ íåêîòîðàÿ áèîëîãè÷åñêàÿ ïîïóëÿöèÿ, ñîñòîÿùàÿ èç îñîáåé, ñïîñîáíûõ ðàçìíîæàòüñÿ è
ãèáíóòü. Òàêèå äàííûå, êàê ÷èñëî ïîòîìêîâ â îïðåäåëåííîì êîëåíå îòäåëüíîé îñîáè, ÷èñëåííîñòü ïîïóëÿöèè ê ôèêñèðîâàííîìó ìîìåíòó âðåìåíè t,
êîëè÷åñòâà ïîãèáøèõ è íîâîðîæäåííûõ îñîáåé è ò.ï., ñîñòàâëÿþò îñîáûé
èíòåðåñ äëÿ ïîïóëÿöèîííîé ãåíåòèêè, è òðóäíî ïåðåîöåíèòü ðîëü âåðîÿòíîñòíûõ ìîäåëåé â èçó÷åíèè äèíàìèêè ðàçâèòèÿ áèîëîãè÷åñêîé ïîïóëÿöèè. Àíàëîãè÷íûå ìîäåëè èñïîëüçóþòñÿ â ôèçèêå ýëåìåíòàðíûõ ÷àñòèö,
îñîáåííî ïðè èçó÷åíèè ÿäåðíûõ ðåàêöèé. Ïðîñòðàíñòâà T è Xt òå æå, ÷òî
è â ïåðâîì ïðèìåðå, òðàåêòîðèè òàêæå èìåþò âèä ñòóïåí÷àòûõ ôóíêöèé,
íî âåëè÷èíû ñêà÷êîâ ïðîèçâîëüíûå öåëûå ÷èñëà.
Ï ð è ì å ð 15.3 (áðîóíîâñêîå äâèæåíèå â êàïèëÿðå). Äëèííûé òîíêèé êàïèëÿð íàïîëíÿåòñÿ æèäêîñòüþ, è â ñåðåäèíó êàïèëÿðà ïîìåùàåòñÿ ÷àñòèöà, äèàìåòð êîòîðîé íå íàìíîãî ìåíüøå äèàìåòðà êàïèëÿðà. Ïîä äåéñòâèåì ìîëåêóë æèäêîñòè ÷àñòèöà ñîâåðøàåò õàîòè÷åñêèå äâèæåíèÿ, è äëÿ íàáëþäåíèÿ çà íèìè ââîäèòñÿ ñèñòåìà êîîðäèíàò: êàïèëÿð ðàññìàòðèâàåòñÿ
êàê äåéñòâèòåëüíàÿ îñü R ñ íóëåì â ñåðåäèíå êàïèëÿðà.  êàæäûé ìîìåíò âðåìåíè t (íåïðåðûâíî) ðåãèñòðèðóåòñÿ ðàññòîÿíèå x(t) ÷àñòèöû îò
ñåðåäèíû êàïèëÿðà (åñòåñòâåííî, x(0) = 0) ñ ó÷åòîì çíàêà (ìèíóñ ñëåâà
îò ñåðåäèíû, ïëþñ ñïðàâà). Åñëè èçîáðàçèòü òåïåðü òðàåêòîðèþ äâèæåíèÿ ÷àñòèöû íà ïëîñêîñòè â êîîðäèíàòàõ (t, x(t)), òî ìû ïîëó÷èì òî, ÷òî
ôèçèêè íàçûâàþò òðàåêòîðèåé îäíîìåðíîãî áðîóíîâñêîãî äâèæåíèÿ. Âåðîÿòíîñòíûå ìîäåëè, îïðåäåëÿþùèå ðàñïðåäåëåíèÿ òàêèõ ïðîöåññîâ, áûëè
ïðåäëîæåíû Âèíåðîì, Ýéíøòåéíîì è Ñìîëóõîâñêèì. Â ýòîì ïðèìåðå T
îòðåçîê âðåìåííîé îñè, Xt = R.
Ï ð è ì å ð 15.4 (áðîóíîâñêîå äâèæåíèå íà ïëîñêîñòè.)  öåíòð êþâåòà, íàïîëíåííîãî òîíêèì ñëîåì æèäêîñòè, ïîìåùàåòñÿ ÷àñòèöà íåêîòîðîãî
âåùåñòâà, êîòîðàÿ, êàê è â ïðåäûäóùåì ïðèìåðå ñîâåðøàåò áðîóíîâñêîå
äâèæåíèå, íî íå íà ïðÿìîé R, à íà ïëîñêîñòè R2 (öåíòð êþâåòà ñëóæèò
íà÷àëîì äåêàðòîâîé ñèñòåìû êîîðäèíàò (x, y)). Òðàåêòîðèÿ áðîóíîâñêîãî
äâèæåíèÿ ïðåäñòàâëÿåò ñîáîé íåêîòîðóþ êðèâóþ íà ïëîñêîñòè, îïðåäåëÿ144
åìóþ ïàðàìåòðè÷åñêèìè óðàâíåíèÿìè x = x(t), y = y(t). Åñòåñòâåííî, T
îòðåçîê âðåìåíè, à Xt = R2 .
Ï ð è ì å ð 15.5 (ñëó÷àéíîå ïîëå.) Îòøëèôîâàííàÿ ïîâåðõíîñòü ìåòàëëà
îáû÷íî ïîäâåðãàåòñÿ ïðîâåðêå íà øåðîõîâàòîñòü , äëÿ ÷åãî îíà ïîìåùàåòñÿ ïîä ìèêðîñêîï è çàìåðÿþòñÿ íåêîòîðûå õàðàêòåðèñòèêè îòêëîíåíèÿ
ðàçëè÷íûõ òî÷åê ïîâåðõíîñòè ìåòàëëà îò ïëîñêîãî óðîâíÿ. Òàêàÿ øåðîõîâàòàÿ ïîâåðõíîñòü z = z(u, v), ãäå (u, v) ôèêñèðîâàííàÿ ñèñòåìà äåêàðòîâûõ êîîðäèíàò, òðàêòóåòñÿ êàê ðåàëèçàöèÿ ñëó÷àéíîãî ïîëÿ Z = Z(u, v),
ïðîñòðàíñòâî T ñîîòâåòñòâóåò ÷àñòè ïëîñêîñòè R2 = {u, v}, çàíèìàåìîé
îáðàáàòûâàåìûì îáúåêòîì, Xt = R. Ïðèìåð ñëó÷àéíîãî ïîëÿ, â êîòîðîì
êðîìå êîîðäèíàò (u, v) ïðîñòðàíñòâî T âêëþ÷àåò âðåìåííóþ îñü R+ ,
ó÷àñòîê ïîâåðõíîñòè ìîðÿ âî âðåìÿ øòîðìà.
Çàäàäèìñÿ âîïðîñîì, êàêîãî ðîäà ñîáûòèÿ, ñâÿçàííûå ñ ðàññìîòðåííûìè ñëó÷àéíûìè ïðîöåññàìè X(t), ïðåäñòàâëÿþò íàèáîëüøèé èíòåðåñ äëÿ
èõ èññëåäîâàòåëåé?  ïåðâóþ î÷åðåäü ñëåäóåò îáðàòèòü âíèìàíèå íà ñîáûòèå supt∈T X(t) ≥ x0 , à òàêæå íà ìîìåíò âðåìåíè t, ïðè êîòîðîì ïðîöåññ
âïåðâûå äîñòèãíåò óðîâíÿ x0 . Íî äëÿ òîãî, ÷òîáû âû÷èñëÿòü âåðîÿòíîñòè
òàêèõ ñîáûòèé, ñëåäóåò ââåñòè ïîíÿòèå ðàñïðåäåëåíèÿ âåðîÿòíîñòåé íà èçìåðèìîì ïðîñòðàíñòâå òðàåêòîðèé ïðîöåññà.
Ïðîñòðàíñòâî òðàåêòîðèé òðàêòóåòñÿ êàê ïðÿìîå ïðîèçâåäåíèå
X=
Y
Xt
t∈T
ïðîñòðàíñòâ çíà÷åíèé ïðîöåññà â êàæäîé òî÷êå t ∈ T. Ïîäìíîæåñòâà ýòîãî
ïðîñòðàíñòâà, îïðåäåëÿåìûå îãðàíè÷åíèÿìè âèäà
a1 < X(t1 ) < b1 , . . . , an < X(tn ) < bn
ïðè ëþáîì êîíå÷íîì n, íàçûâàþòñÿ ïðÿìîóãîëüíèêàìè. Êîíå÷íûå îáúåäèíåíèÿ âñåâîçìîæíûõ íåïåðåñåêàþùèõñÿ ïðÿìîóãîëüíèêîâ
(èçìåíÿþòñÿ êàê çíà÷åíèÿ n, òàê è íàáîðû òî÷åê t1 , . . . , tn èç T ) îáðàçóþò, î÷åâèäíî, áóëåâó àëãåáðó A. Íàèìåíüøàÿ σ -àëãåáðà F, ñîäåðæàùàÿ A,
ÿâëÿåòñÿ èñêîìîé σ -àëãåáðîé íà ïðîñòðàíñòâå òðàåêòîðèé X.
Òàêèì îáðàçîì, ìû èìååì èçìåðèìîå ïðîñòðàíñòâî (X, F), σ -àëãåáðà F
êîòîðîãî ïîðîæäàåòñÿ ïîëóàëãåáðîé ïðÿìîóãîëüíèêîâ, è åñòåñòâåííî îæèäàòü, ÷òî çàäàíèå ñîâìåñòíûõ ôóíêöèé ðàñïðåäåëåíèÿ
Ft1 ,...,tn (x1 , . . . , xn ) = P (X(t1 ) < x1 , . . . , X(tn ) < xn )
145
ñëó÷àéíûõ âåëè÷èí X(t1 ), . . . , X(tn ) ïðè ëþáûõ n = 1, 2, . . . è ëþáûõ íàáîðàõ t1 , . . . , tn îäíîçíà÷íî îïðåäåëÿþò âåðîÿòíîñòü íà σ -àëãåáðå F. Òî,
÷òî ýòî äåéñòâèòåëüíî òàê, óñòàíàâëèâàåò çíàìåíèòàÿ òåîðåìà À.Í, Êîëìîãîðîâà, ïîëîæèâøàÿ íà÷àëî ñòðîãîé ìàòåìàòè÷åñêîé òåîðèè ñëó÷àéíûõ
ïðîöåññîâ. Çàìåòèì òîëüêî, ÷òî â ýòîé òåîðåìå íàêëàäûâàåòñÿ åñòåñòâåííîå
óñëîâèå ñîãëàñîâàííîñòè ôóíêöèé ðàñïðåäåëåíèÿ: ìàðãèíàëüíûå ôóíêöèè
ðàñïðåäåëåíèÿ, ñîîòâåòñòâóþùèå ÷àñòè Tk = (ti1 , . . . , tik ), k < n, íàáîðà
èíäåêñîâ t1 , . . . , tn , äîëæíû ñîâïàäàòü ñ òåìè, ÷òî áûëè ïîñòðîåíû äëÿ
íàáîðà Tk . Âïðî÷åì, ýòî óñëîâèå ñîáëþäàåòñÿ àâòîìàòè÷åñêè, ïîñêîëüêó
ïîñòðîåíèå ôóíêöèé ðàñïðåäåëåíèÿ ïðîèçâîäèòñÿ ïðè ïðîèçâîëüíûõ çíà÷åíèÿõ åå àðãóìåíòîâ.
Ñëåäóþùèå äâà ïðèìåðà, èãðàþùèå âàæíóþ ðîëü â ïðàêòè÷åñêèõ ïðèìåíåíèÿõ òåîðèè ñëó÷àéíûõ ïðîöåññîâ, èëëþñòðèðóþò îáùóþ ìåòîäîëîãèþ è òåõíè÷åñêèå ïðèåìû, èñïîëüçóåìûå ïðè ïîñòðîåíèè âåðîÿòíîñòíûõ
ìîäåëåé ñëó÷àéíûõ ïðîöåññîâ.
Ïóàññîíîâñêèé ïðîöåññ
Íà âðåìåííîé îñè T = R+ â ñëó÷àéíûå ìîìåíòû âðåìåíè ïîÿâëÿþòñÿ íåêîòîðûå ñîáûòèÿ (ñì. ïðèìåð 15.1), è íàáëþäàåòñÿ òðàåêòîðèÿ x(t)
òî÷å÷íîãî ñëó÷àéíîãî ïðîöåññà X(t), ðåãèñòðèðóþùàÿ ÷èñëî ñîáûòèé, ïîÿâèâøèõñÿ ê ìîìåíòó âðåìåíè t. Ñëåäóþùèå òðè ïîñòóëàòà âûäåëÿþò ïóàññîíîâñêèé ïðîöåññ èç êëàññà âñåâîçìîæíûõ òî÷å÷íûõ ïðîöåññîâ.
(P1) Ñòàöèîíàðíîñòü. Ðàñïðåäåëåíèå ÷èñëà ñîáûòèé, ïîÿâèâøèõñÿ âî
âðåìåííîì ïðîìåæóòêå [ t1 , t2 ], çàâèñèò òîëüêî îò äëèíû t2 − t1 ýòîãî ïðîìåæóòêà, òî åñòü
P (X(t2 ) − X(t1 ) = x) = px (t2 − t1 ).
(P2) Íåçàâèñèìîñòü ïðèðàùåíèé. Äëÿ ëþáîãî óïîðÿäî÷åííîãî
íàáîðà ìîìåíòîâ âðåìåíè 0 = t0 < t1 < . . . < tn ñëó÷àéíûå âåëè÷èíû X(tk ) − X(tk−1 ), k = 1, . . . , n, ãäå X(t0 ) = X(0) = 0, íåçàâèñèìû â
ñîâîêóïíîñòè.
(P3) Îðäèíàðíîñòü èëè ðàçðåæåííîñòü. Âåðîÿòíîñòü px (∆t) =
P (X(t + ∆t) − X(t) = x) òîãî, ÷òî çà ïðîìåæóòîê âðåìåíè ∆t ïðîèçîéäåò ðîâíî x (= 0, 1, . . .) ñîáûòèé äîïóñêàåò ïðè ∆t → 0 àñèìïòîòè÷åñêîå
ïðåäñòàâëåíèå
p0 (∆t) = 1 − λ∆t + o(∆t), p1 (∆t) = λ∆t + o(∆t); px (∆t) = o(∆t), x ≥ 2, .
146
 ýòîì ïðåäñòàâëåíèè λ > 0 ÷èñëîâîé ïàðàìåòð, íàçûâàåìûé îáû÷íî èíòåíñèâíîñòüþ ïóàññîíîâñêîãî ïîòîêà ñîáûòèé (ñì. â ñâÿçè ñ ýòèì ìîäåëü
ïóàññîíîâñêîãî ðàñïðåäåëåíèÿ â 5).
Èñïîëüçóÿ ïîñòóëàòû (P1)(P3), ïîñòðîèì êîíå÷íîìåðíûå ðàñïðåäåëåíèÿ
ft1 ,...,tn (x1 , . . . , xn ) = P (X(t1 ) = x1 , . . . , X(tn ) = xn )
ïóàññîíîâñêîãî ïðîöåññà. Ýòè ïîñòðîåíèÿ çíà÷èòåëüíî îáëåã÷àåò
Ëåììà 15.1. Ôóíêöèÿ px (t) = P (X(t) = x), t ≥ 0, x = 0, 1, . . . ,
îäíîçíà÷íî îïðåäåëÿåò âñå êîíå÷íîìåðíûå ðàñïðåäåëåíèÿ ïóàññîíîâñêîãî
ïðîöåññà.
Ä î ê à ç à ò å ë ü ñ ò â î.. Ñëåäóþùàÿ öåïî÷êà ðàâåíñòâ, â êîòîðîé ñíà÷àëà
èñïîëüçóåòñÿ ïîñòóëàò (P2), à ïîòîì (P1), óñòàíàâëèâàåò ñîîòíîøåíèå
ìåæäó êîíå÷íîìåðíîé ïëîòíîñòüþ ïðîöåññà ft1 ,...,tn è ôóíêöèåé px (t) :
ft1 ,...,tn (x1 , . . . , xn ) = P (X(t1 ) = x1 ,
X(t2 ) − X(t1 ) = x2 − x1 , . . . , X(tn ) − X(tn−1 ) = xn − xn−1 ) =
n
Y
P (X(tk ) − X(tk−1 ) = xk − xk−1 ) =
k=1
n
Y
P (X(tk − tk−1 ) = xk − xk−1 ) =
k=1
n
Y
pxk −xk−1 (tk − tk−1 ).
k=1
Åñòåñòâåííî, âñå ýòè âûêëàäêè èìåþò ñìûñë ëèøü ïðè 0 < t1 < t2 < . . . <
tn , 0 ≤ x1 ≤ . . . ≤ xn .
Âèä ôóíêöèè px (t), à âìåñòå ñ íèì è êîíå÷íîìåðíûå ðàñïðåäåëåíèÿ ïðîöåññà Ïóàññîíà, óñòàíàâëèâàåò
Òåîðåìà 15.1. Åñëè ñïðàâåäëèâû ïîñòóëàòû (P1)(P3), òî
(λt)x e−λt
,
px (t) = P (X(t) = x) =
x!
147
t ≥ 0, x = 0, 1, . . . .
(1)
Ä î ê à ç à ò å ë ü ñ ò â î. Ïîêàæåì ñíà÷àëà, ÷òî (1) âûïîëíÿåòñÿ â ñëó÷àå
x = 0, äëÿ ÷åãî èññëåäóåì àñèìïòîòèêó ïðè ∆t → 0 ôóíêöèè p0 (t + ∆t) =
P (X(t + ∆t) = 0).
Ñîáûòèå X(t + ∆t) = 0 ýêâèâàëåíòíî îäíîâðåìåííîìó îñóùåñòâëåíèþ
äâóõ íåçàâèñèìûõ (â ñèëó ïîñòóëàòà (P2)) ñîáûòèé: X(t) = 0 è X(t + ∆t) −
X(t) = 0. Èñïîëüçóÿ ïîñòóëàòû (P1) è (P3), íàõîäèì, ÷òî
p0 (t + ∆t) = P (X(t) = 0) · P (X(t + ∆t) − X(t) = 0) =
p0 (t) · p0 (∆t) = p0 (t)(1 − λ∆t + o(∆t).
Åñëè ïîëó÷åííîå àñèìïòîòè÷åñêîå ïðåäñòàâëåíèå çàïèñàòü â âèäå
p0 (t + ∆t) − p0 (t)
= −λp0 (t) + o(1)
∆t
è óñòðåìèòü ∆t ê íóëþ, òî ïîëó÷èì äèôôåðåíöèàëüíîå óðàâíåíèå
dp0 (t)
= −λp0 (t)
dt
ñ î÷åâèäíûì íà÷àëüíûì óñëîâèåì p0 (0) = 1. Ýòî óðàâíåíèå ñ ðàçäåëÿþùèìèñÿ ïåðåìåííûìè, ðåøåíèå êîòîðîãî ñ ó÷åòîì íà÷àëüíûõ óñëîâèé
p0 (t) = e−λt ,
÷òî ñîâïàäàåò ñ (1) ïðè x = 0.
Ïðîâåäåì àíàëîãè÷íûå ïîñòðîåíèÿ äëÿ ïðîèçâîëüíîãî öåëîãî x ≥ 1,
äëÿ ÷åãî ïðåäñòàâèì ñîáûòèå X(t + ∆t) = x â âèäå îáúåäèíåíèÿ x + 1
T
íåñîâìåñòíûõ ñîáûòèé {X(t) = x − k} {X(t + ∆t) − X(t) = k}, k =
0, 1, . . . , x. Èñïîëüçóÿ, êàê è âûøå, ïîñòóëàòû (P1)(P3), ïîëó÷àåì
px (t + ∆t) = P (X(t + ∆t) = x) =
x
X
P (X(t) = x − k, X(t + ∆t) − X(t) = k) =
k=0
x
X
P (X(t) = x − k) · P (X(t + ∆t) − X(t) = k) =
k=0
x
X
px−k (t) · pk (∆t) = px (t)(1 − λ∆t) + px−1 (t)λ∆t + o(∆t).
k=0
148
Åñëè ïðåäñòàâèòü ïîëó÷åííîå ñîîòíîøåíèå â âèäå
px (t + ∆t) − px (t)
= −λ (px (t) − px−1 (t)) + o(1)
∆t
è óñòðåìèòü ∆t ê íóëþ, òî ïîëó÷èì ðåêóðåíòíóþ ñèñòåìó äèôôåðåíöèàëüíûõ óðàâíåíèé ñ íà÷àëüíûìè óñëîâèÿìè:
dpx (t)
= −λ (px (t) − px−1 (t)) ,
dt
px (0) = 0,
x = 1, 2, . . .
Ïîñêîëüêó âûøå ìû îïðåäåëèëè p0 (t) = e−λt , òî äëÿ p1 (t) èìååì ëèíåéíîå äèôôåðåíöèàëüíîå óðàâíåíèå ñ ïîñòîÿííûìè êîýôôèöèåíòàìè
¡
¢
dp1 (t)
= −λ p1 (t) − e−λt , p1 (0) = 0,
dt
ðåøåíèå êîòîðîãî ñòàíäàðòíûìè ìåòîäàìè äàåò
p1 (t) = λte−λt ,
÷òî îïÿòü ñîâïàäàåò ñ (1) ïðè x = 1.
Äàëüíåéøåå ïîñòðîåíèå ìîäåëè îñóùåñòâëÿåòñÿ ïî èíäóêöèè.
Ïðåäïîëàãàåòñÿ, ÷òî (1) ñïðàâåäëèâî äëÿ íåêîòîðîãî x ≥ 2, è ðåøàåòñÿ
ëèíåéíîå äèôôåðåíöèàëüíîå óðàâíåíèå
µ
¶
dpx+1 (t)
(λt)x e−λt
= −λ px+1 (t) −
,
dt
x!
px+1 (0) = 0.
Íåòðóäíî óáåäèòüñÿ, ÷òî ðåøåíèå ýòîãî óðàâíåíèÿ ñ ó÷åòîì íà÷àëüíîãî
óñëîâèÿ îïðåäåëÿåòñÿ ôîðìóëîé (1) ñ çàìåíîé x íà x + 1. Òàêèì îáðàçîì,
ïîñòðîåíèå âåðîÿòíîñòíîé ìîäåëè ïóàññîíîâñêîãî ïðîöåññà çàâåðøåíî.
Èíòåðåñíî çàìåòèòü, ÷òî ôîðìóëà (1) ïðè t = 1 äàåò ôóíêöèþ ïëîòíîñòè
ðàñïðåäåëåíèÿ Ïóàññîíà P(λ), òàê ÷òî (1) ìîæíî òðàêòîâàòü êàê îáîáùåíèå
òåîðåìû ñëîæåíèÿ äëÿ ðàñïðåäåëåíèÿ Ïóàññîíà íà ñëó÷àé äðîáíîãî ÷èñëà
ñëàãàåìûõ, ïî ñóùåñòâó æå ïðîèñõîäèò ïðîñòîå ñóììèðîâàíèå ÷èñëà ñîáûòèé ïî âñåì t åäèíèöàì âðåìåíè.
Ëåêöèÿ 24
Èçó÷èì íåêîòîðûå ñâîéñòâà ïðîöåññà Ïóàññîíà, êîòîðûå âñêðûâàþò èíòåðåñíûå ñâÿçè ðàñïðåäåëåíèÿ Ïóàññîíà P(λ) ñ ïîêàçàòåëüíûì, ðàâíîìåðíûì è ãàììà-ðàñïðåäåëåíèÿìè. Íà÷íåì ñ âûÿñíåíèÿ âèäà ðàñïðåäåëåíèÿ
ïðîìåæóòêîâ âðåìåíè ìåæäó ïîÿâëåíèÿìè ñîáûòèé â ïðîöåññå Ïóàññîíà.
149
Ïðåäëîæåíèå 15.1. Ñëó÷àéíûå âåëè÷èíû τ1 , . . . , τn , ðåàëèçàöèè êîòî-
ðûõ óêàçûâàþò ïðîìåæóòêè âðåìåíè ìåæäó ïîÿâëåíèÿìè ñîáûòèé â ïðîöåññå Ïóàññîíà, íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû ïî ïîêàçàòåëüíîìó
çàêîíó E(λ−1 ).
Ä î ê à ç à ò å ë ü ñ ò â î.Òðåáóåòñÿ ïîêàçàòü, ÷òî ñîâìåñòíàÿ ôóíêöèÿ ïëîòíîñòè ñëó÷àéíûõ âåëè÷èí τ1 , . . . , τn
(
fn (t1 , . . . , tn ) = λn exp −λ
n
X
)
tk
,
(2)
1
â îáëàñòè t[ 1 ] = min{t1 , . . . , tn } > 0.
Âûáåðåì ∆t < t[ 1 ] è ïîäñ÷èòàåì âåðîÿòíîñòü òîãî, ÷òî â êàæäîì èç
ïðîìåæóòêîâ [ Tk , Tk + ∆t), ãäå Tk = t1 + . . . + tk , k = 1, . . . , n, ïðîèçîøëî òîëüêî ïî îäíîìó ñîáûòèþ, â òî âðåìÿ êàê â ïðîìåæóòêàõ [ 0, t1 ) è
[ Tk + ∆t, Tk+1 ), k = 1, . . . , n − 1, ñîáûòèé íå áûëî. Î÷åâèäíî, ïðè ∆t → 0
àñèìïòîòèêà ýòîé âåðîÿòíîñòè äîëæíà èìåòü âèä fn (t1 , . . . , tn )(∆t)n , è ýòî
îáñòîÿòåëüñòâî ïîçâîëèò íàì ïîëó÷èòü èñêîìóþ ôóíêöèþ ïëîòíîñòè fn .
 ñèëó ïîñòóëàòà (P2) íåçàâèñèìîñòè ïðèðàùåíèé âñå èç ðàññìàòðèâàåìûõ 2n ñîáûòèé î ïîÿâëåíèè ïî îäíîìó èëè ïîëíîìó îòñóòñòâèþ èíöèäåíòîâ â óêàçàííûõ âðåìåííûõ ïðîìåæóòêàõ ÿâëÿþòñÿ íåçàâèñèìûìè;
âåðîÿòíîñòü ïîÿâëåíèÿ ðîâíî îäíîãî ñîáûòèÿ â êàæäîì èç ïðîìåæóòêîâ
[ Tk , Tk + ∆t), k = 1, . . . , n, ðàâíà (ïîñòóëàò (P1)) p1 (∆t), à âåðîÿòíîñòè
îòñóòñòâèÿ ñîáûòèé â ïðîìåæóòêàõ [ 0, t1 ) è [ Tk + ∆t, Tk+1 ) ðàâíû ñîîòâåòñòâåííî p0 (t1 ) è p0 (tk+1 − ∆t), k = 1, . . . , n − 1. Òàêèì îáðàçîì, âåðîÿòíîñòü ñîâìåñòíîãî îñóùåñòâëåíèÿ âñåõ 2n ñîáûòèé â òåðìèíàõ ôóíêöèè
px (t) ðàâíà
p0 (t1 )pn1 (∆t)
n−1
Y
p0 (tk+1 − ∆t) .
(3)
1
Åñëè ∆t → 0, òî ïðèìåíåíèå ôîðìóëû (1) äàåò
p0 (t1 ) = exp{−λt1 },
pn1 (∆t) = λn exp{−nλ∆t}(∆t)n ∼ λn (∆t)n ,
p0 (tk+1 − ∆t) = exp {−λtk+1 + λ∆t} ∼ exp {−λtk+1 } .
Ïîäñòàâëÿÿ ïîëó÷åííûå àñèìïòîòèêè â (3), ïîëó÷àåì ñ òî÷íîñòüþ äî ìíîæèòåëÿ (∆t)n ïðàâóþ ÷àñòü (2).
Äîêàçàííîå ïðåäëîæåíèå ïîçâîëÿåò íàì äîñòàòî÷íî ïðîñòî óñòàíîâèòü
ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû τ, ðåàëèçàöèÿ êîòîðîé ñîîòâåòñòâóåò
150
ìîìåíòó ïåðâîãî äîñòèæåíèÿ ïóàññîíîâñêèì ïðîöåññîì çàäàííîãî óðîâíÿ
h.
Ñëåäñòâèå 15.1. Ñëó÷àéíàÿ âåëè÷èíà τ èìååò ãàììà-ðàñïðåäåëåíèå
G(m, λ−1 ), ãäå ïàðàìåòð ôîðìû m ïðèíèìàåò öåëî÷èñëåííîå çíà÷åíèå,
ðàâíîå h, åñëè h öåëîå, è ðàâíîå [ h ] + 1, åñëè h äðîáíîå.
Ä î ê à ç à ò å ë ü ñ ò â î. íåìåäëåííî âûòåêàåò èç ðåçóëüòàòà ïðåäëîæåíèÿ
15.1, ïîñêîëüêó
τ=
m
X
τk ,
1
ãäå τ1 , . . . , τm íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû â ñîîòâåòñòâèè ñ ïîêàçàòåëüíûì ðàñïðåäåëåíèåì E(λ−1 ) (íàïîìíèì, ÷òî èìåííî òàêèì îáðàçîì
ââîäèëîñü ãàììà-ðàñïðåäåëåíèå â 12).
Óñòàíîâëåííàÿ ñâÿçü ãàììà-ðàñïðåäåëåíèÿ ñ ïóàññîíîâñêèì ïîòîêîì ñîáûòèé îòêðûâàåò íîâóþ îáëàñòü ïðèëîæåíèé ýòîãî ðàñïðåäåëåíèÿ. Ýòî
âåðîÿòíîñòíûå ìîäåëè èçíîñà è ñòàðåíèÿ. Ïðîñòåéøèé ïðèìåð ïîñòðîåíèÿ òàêîé ìîäåëè äàåò èññëåäîâàíèå ïðîöåññà èçíîñà ïðîòåêòîðà àâòîìîáèëüíîé øèíû. Ðåçîííî ñ÷èòàòü, ÷òî ðàçëè÷íîãî ðîäà ïðåïÿòñòâèÿ, âîçíèêàþùèå íà ïóòè äâèæåíèÿ àâòîìîáèëÿ è ïðèâîäÿùèå ê ðåçêîìó òîðìîæåíèþ, ðåàëèçóþò ïóàññîíîâñêèé ïîòîê ñîáûòèé. Êàæäîå ðåçêîå òîðìîæåíèå ïðèâîäèò ê óìåíüøåíèþ ãëóáèíû r ïðîòåêòîðà íà îïðåäåëåííóþ
(ïðåäïîëîæèì, äëÿ ïðîñòîòû, îäèíàêîâóþ) âåëè÷èíó ∆r.  òàêîì ñëó÷àå
îáëûñåíèå øèí íàñòóïèò ïîñëå m òîðìîæåíèé, ãäå m â ñîîòâåòñòâèè ñî
ñëåäñòâèåì 15.1 îïðåäåëÿåòñÿ óðîâíåì h = r/∆r.
Åùå îäíî çàìå÷àòåëüíîå ñâîéñòâî ïóàññîíîâñêîãî ïðîöåññà, õàðàêòåðèçóþùåå îñîáîãî ðîäà ñëó÷àéíîñòü â ïîòîêå ñîáûòèé, ñîñòîèò â ñëåäóþùåé
ñïåöèôèêå óñëîâíîãî ðàñïðåäåëåíèÿ ìîìåíòîâ ïîÿâëåíèÿ ôèêñèðîâàííîãî ÷èñëà n ñîáûòèé íà ôèêñèðîâàííîì ïðîìåæóòêå âðåìåíè [ 0, T ]. Òî÷íàÿ ôîðìóëèðîâêà ýòîãî ñâîéñòâà îñóùåñòâëÿåòñÿ â òåðìèíàõ ñïåöèàëüíîãî
ñëó÷àéíîãî âåêòîðà, èãðàþùåãî âàæíóþ ðîëü â ìàòåìàòè÷åñêîé ñòàòèñòèêå.
Ïóñòü X1 , . . . , Xn ñëó÷àéíûé âåêòîð, çàäàííûé íà èçìåðèìîì ïðîñòðàíñòâå (Ω, A), ñ íåçàâèñèìûìè îäèíàêîâî ðàñïðåäåëåííûìè ñ ïëîòíîñòüþ f (x) ïî ìåðå Ëåáåãà êîìïîíåíòàìè. Âåêòîð X[ 1 ] , . . . , X[ n ] , ïîëó÷åííûé
èç èñõîäíîãî âåêòîðà óïîðÿäî÷èâàíèåì åãî êîìïîíåíò ïðè êàæäîì ôèêñèðîâàííîì ω ∈ Ω, íàçûâàåòñÿ âàðèàöèîííûì ðÿäîì. Òàêèì îáðàçîì, ïðè
151
êàæäîì ôèêñèðîâàííîì ω ∈ Ω êîìïîíåíòû âàðèàöèîííîãî ðÿäà óäîâëåòâîðÿþò íåðàâåíñòâàì X[ 1 ] (ω) ≤ . . . ≤ X[ n ] (ω), è åñëè x1 = X1 (ω), . . . , xn =
Xn (ω), òî x[ 1 ] = min{x1 , . . . , xn },
x[ 2 ] ðàâåí âòîðîìó ïî âåëè÷èíå çíà÷åíèþ ñðåäè x1 , . . . , xn , x[ 3 ] òðåòüåìó
è ò.ä., òàê ÷òî ðåàëèçàöèÿ (ïðè ýëåìåíòàðíîì èñõîäå ω ) ïîñëåäíåé êîìïîíåíòû âàðèàöèîííîãî ðÿäà x[ n ] = max{x1 , . . . , xn }.
Ôóíêöèÿ ïëîòíîñòè èñõîäíîãî âåêòîðà X1 , . . . , Xn ñ íåçàâèñèìûìè, îäèíàêîâî íåïðåðûâíî ðàñïðåäåëåííûìè êîìïîíåíòàìè ðàâíà
fn (x1 , . . . , xn ) =
n
Y
f (xk ),
k=1
à ôóíêöèÿ ïëîòíîñòè âàðèàöèîííîãî ðÿäà îòëè÷íà îò íóëÿ òîëüêî â îáëàñòè x1 ≤ x2 ≤ . . . ≤ xn è ðàâíà gn (x1 , . . . , xn ) = n!fn (x1 , . . . , xn ). Äëÿ òîãî,
÷òîáû óáåäèòüñÿ â ýòîì, äîñòàòî÷íî ïðèìåíèòü ìåòîä, êîòîðûé èñïîëüçîâàëñÿ ïðè äîêàçàòåëüñòâå ïîñëåäíåãî ïðåäëîæåíèÿ.
Äëÿ êàæäîãî ôèêñèðîâàííîãî ðÿäà x1 < x2 < . . . < xn àðãóìåíòîâ
ôóíêöèè ïëîòíîñòè gn (·) è ∆x < min1≤k≤n−1 (xk+1 − xk ) âû÷èñëèì âåðîÿòíîñòü ñîáûòèÿ A, ñîñòîÿùåãî â òîì, ÷òî îäíà èç êîìïîíåíò èñõîäíîãî
âåêòîðà X1 , . . . , Xn ïîïàäåò â èíòåðâàë [x1 , x1 + ∆x) (ñîáûòèå A1 ), äðóãàÿ,
èç îñòàâøèõñÿ n − 1 êîìïîíåíò, â èíòåðâàë [x2 , x2 + ∆x) (ñîáûòèå A2 ), è
ò.ä., òàê ÷òî ïîñëåäíÿÿ èç îñòàâøèõñÿ êîìïîíåíò äîëæíà ïîïàñòü â èíòåðâàë [xn , xn + ∆x) (ñîáûòèå An ). Â ñèëó íåçàâèñèìîñòè êîìïîíåíò ñîáûòèÿ
A1 , . . . , An íåçàâèñèìû, è ïîýòîìó
Ã
P (A) = P
n
\
!
Ak
1
=
n
Y
P (Ak ).
1
Åñëè F (x) ôóíêöèÿ ðàñïðåäåëåíèÿ, ñîîòâåòñòâóþùàÿ ïëîòíîñòè f (x),
òî âåðîÿòíîñòü ñîáûòèÿ A1 ðàâíà n [F (x1 + ∆x) − F (x1 )] , ïîñêîëüêó ó êàæäîé êîìïîíåíòû âåðîÿòíîñòü ïîïàñòü â óêàçàííûé èíòåðâàë [x1 , x1 + ∆x)
îäíà è òà æå è ðàâíà ðàçíîñòè çíà÷åíèé ôóíêöèè ðàñïðåäåëåíèÿ íà êîíöàõ
èíòåðâàëà, à ñàìî ñîáûòèå A1 ñîñòîèò èç n íåñîâìåñòíûõ ñîáûòèé ïîïàäàíèÿ ñîîòâåòñòâóþùèõ êîìïîíåíò â ýòîò èíòåðâàë. Âåðîÿòíîñòü ñîáûòèÿ A2 ,
ñîñòîÿùåãî èç n − 1 íåñîâìåñòíûõ ñîáûòèé ïîïàäàíèÿ îäíîé èç îñòàâøèõñÿ
êîìïîíåíò ñëó÷àéíîãî âåêòîðà â èíòåðâàë [x2 , x2 +∆x), â ñèëó òåõ æå äîâîäîâ ðàâíà (n − 1) [F (x2 + ∆x) − F (x2 )] . Ïðîäîëæàÿ â òîì æå äóõå, ïðèäåì
ê ïîñëåäíåìó ñîáûòèþ An , âåðîÿòíîñòü êîòîðîãî ðàâíà F (xn +∆x)−F (xn ).
152
Ïåðåìíîæàÿ ýòè âåðîÿòíîñòè, ïîëó÷àåì
P (A) = n!
n
Y
[ F (xk + ∆x) − F (xk ) ] ,
k=1
÷òî ïðè ∆x → 0 ýêâèâàëåíòíî n!fn (x1 , . . . , xn )(∆x)n , òàê ÷òî ìíîæèòåëü
ïåðåä (∆x)n äàåò èñêîìóþ ôóíêöèþ ïëîòíîñòè gn (x1 , . . . , xn ) âàðèàöèîííîãî ðÿäà.
 ÷àñòíîñòè, ôóíêöèÿ ïëîòíîñòè âàðèàöèîííîãî ðÿäà ðàâíîìåðíîãî íà
èíòåðâàëå [0, T ] ðàñïðåäåëåíèÿ
gn (x1 , . . . , xn ) = n!T −n ,
0 ≤ x1 ≤ . . . ≤ xn ≤ T.
(4)
Òåïåðü ñôîðìóëèðóåì îáåùàííîå ñâîéñòâî ïóàññîíîâñêîãî ïðîöåññà.
Ïðåäëîæåíèå 15.2. Ñîâìåñòíîå ðàñïðåäåëåíèå ìîìåíòîâ τ1 , . . .
. . . , τn ïîÿâëåíèÿ n ñîáûòèé íà èíòåðâàëå [ 0, T ] ïóàññîíîâñêîãî ïðîöåññà
ïðè óñëîâèè, ÷òî â ýòîì èíòåðâàëå ïîÿâèëîñü ðîâíî n ñîáûòèé, ñîâïàäàåò
ñ ðàñïðåäåëåíèåì âàðèàöèîííîãî ðÿäà ðàâíîìåðíîãî íà èíòåðâàëå [ 0, T ]
ðàñïðåäåëåíèÿ.
Ä î ê à ç à ò å ë ü ñ ò â î. Ñíîâà èñïîëüçóåì ìåòîä àñèìïòîòè÷åñêîãî ïðåäñòàâëåíèÿ ôóíêöèè ïëîòíîñòè. Âûáåðåì íà èíòåðâàëå [ 0, T ] óïîðÿäî÷åííûé ðÿä èç n òî÷åê 0 < t1 < . . . < tn < T, à òàêæå âûáåðåì ∆t, ìåíüøåå
ëþáîãî èç ïðîìåæóòêîâ, îãðàíè÷åííûõ òî÷êàìè t1 , . . . , tn . Ïóñòü A = B0 ∩n1
(Ak Bk ) ñîáûòèå, ñîñòîÿùåå â òîì, ÷òî â êàæäîì èç èíòåðâàëîâ [tk , tk +
∆t), k = 1, . . . , n, ïîÿâèòñÿ ðîâíî ïî îäíîìó ïóàññîíîâñêîìó ñîáûòèþ (ýòè
ïóàññîíîâñêèå ñîáûòèÿ îáîçíà÷àþòñÿ Ak ), à â èíòåðâàëàõ [ 0, t1 ), [ tk +
∆t, tk+1 ), k = 1, . . . , n − 1, [ tn + ∆t, T ] ïóàññîíîâñêèõ ñîáûòèé íå áûëî (ýòè ïîäñîáûòèÿ îáîçíà÷àþòñÿ Bk , k = 0, . . . , n). Ñîáûòèå, ñîñòîÿùåå
â òîì, ÷òî íà èíòåðâàëå [ 0, T ] ïîÿâèëîñü ðîâíî n ïóàññîíîâñêèõ ñîáûòèé
(óñëîâèå) îáîçíà÷èì B.  ýòèõ îáîçíà÷åíèÿõ äîêàçàòåëüñòâî ïðåäëîæåíèÿ
ñîñòîèò â âûâîäå ñëåäóþùåé àñèìïòîòè÷åñêîé ôîðìóëû (ñì. ôîðìóëó (4)):
P (A | B) = P (A ∩ B)/P (B) = n!T −n .
Ïîâòîðÿÿ ðàññóæäåíèÿ, êîòîðûå ìû ïðîâîäèëè ïðè äîêàçàòåëüñòâå ïðåäëîæåíèÿ 15.1 ïðè ∆t → 0, ïîëó÷àåì
P (A ∩ B) =
(
"
n−1
X
n
(λ∆t) exp −λ n∆t + t1 +
(tk+1 − tk − ∆t) + T − tn − ∆t
1
153
#)
∼
(
"
λn exp −λ t1 +
n−1
X
#)
(tk+1 − tk ) + T − tn
(∆t)n = λn e−λT (∆t)n .
1
Ïîñêîëüêó âåðîÿòíîñòü ïîÿâëåíèÿ ðîâíî n ñîáûòèé â ïðîìåæóòêå [ 0, T ]
ðàâíà P (B) = (λT )n e−λT /n!, òî
gn (t1 , . . . , tn )(∆t)n ∼ P (A ∩ B)/P (B) ∼ n!T −n .
Äîêàçàííîå ïðåäëîæåíèå ïðîëèâàåò ñâåò íà ôåíîìåí ïóàññîíîâîñòè ñïîðàäè÷åñêîãî ôîíà ìåòåîðîâ (ñì. ïðèìåð 7 èç 1). Ïî-âèäèìîìó, ñïîðàäè÷åñêèå ìåòåîðíûå ÷àñòèöû ðàâíîìåðíî çàïîëíÿþò ïðîñòðàíñòâî îêîëî îðáèòû Çåìëè, è ïðè åå äâèæåíèè ìû íàòàëêèâàåìñÿ íà îòäåëüíûå ÷àñòèöû
(ïóàññîíîâñêèå ñîáûòèÿ) òàê, ÷òî ìîìåíòû ýòèõ ñòîëêíîâåíèé âûñòðàèâàþò âàðèàöèîííûé ðÿä ðàâíîìåðíîãî ðàñïðåäåëåíèÿ.
Âèíåðîâñêèé ïðîöåññ
Âåðíåìñÿ ê ïðèìåðó 15.4 è ðàññìîòðèì áðîóíîâñêîå äâèæåíèå íà ïëîñêîñòè. ×àñòèöà âåùåñòâà ïîìåùàåòñÿ â íà÷àëî äåêàðòîâîé ñèñòåìû êîîðäèíàò (x, y) íà ïëîñêîñòè, è òðàåêòîðèÿ åå äâèæåíèÿ îïèñûâàåòñÿ êðèâîé ñ
ïàðàìåòðè÷åñêèì óðàâíåíèåì x = x(t), y = y(t). Íàñ èíòåðåñóþò êîíå÷íîìåðíûå ðàñïðåäåëåíèÿ äâóìåðíîãî ïðîöåññà Z(t) = (X(t), Y (t)), äëÿ ÷åãî
äîñòàòî÷íî îïðåäåëèòü ñîâìåñòíóþ ôóíêöèþ ðàñïðåäåëåíèÿ
F (x1 , y1 , x2 , y2 , . . . , xn , yn ) =
P (X(t1 ) < x1 , Y (t1 ) < y1 , . . . , X(tn ) < xn , Y (tn ) < yn ).
Ìû íà÷íåì ñ î÷åâèäíîãî óñëîâèÿ íåçàâèñèìîñòè è îäèíàêîâîé ðàñïðåäåëåííîñòè êîìïîíåíò X(t) è Y (t) ïðîöåññà Z(t). Õàîòè÷åñêîå äâèæåíèå
îòäåëüíûõ, íå ñâÿçàííûõ äðóã ñ äðóãîì ìîëåêóë òîëêàåò ÷àñòèöó â íàïðàâëåíèè îñè OX âíå çàâèñèìîñòè îò òîãî, ÷òî äåëàþò äðóãèå ìîëåêóëû, ñïîñîáñòâóþùèå åå äâèæåíèþ â íàïðàâëåíèè OY. Òàêèì îáðàçîì, áðîóíîâñêîå äâèæåíèå íà ïëîñêîñòè ìîæíî ðàññìàòðèâàòü êàê ïðÿìîå ïðîèçâåäåíèå äâóõ îäíîìåðíûõ îäèíàêîâî ðàñïðåäåëåííûõ áðîóíîâñêèõ äâèæåíèé. Ñóùåñòâóåò íåñêîëüêî ìîäåëåé îäíîìåðíîãî áðîóíîâñêîãî äâèæåíèÿ
X(t), t ∈ R+ , èç êîòîðûõ ìû îñòàíîâèìñÿ íà ïðîñòåéøåé, ïðåäëîæåííîé
Í.Âèíåðîì â íà÷àëå XX âåêà, è ïîýòîìó íîñÿùåé íàçâàíèå âèíåðîâñêîãî
ïðîöåññà.
154
Ïîñòðîåíèå ìîäåëè îñóùåñòâëÿåòñÿ ïî àíàëîãèè ñ âûâîäîì íîðìàëüíîãî ðàñïðåäåëåíèÿ ïóòåì ïðåäåëüíîãî ïåðåõîäà â áèíîìèàëüíîì ðàñïðåäåëåíèè ïðè íåîãðàíè÷åííîì âîçðàñòàíèè ÷èñëà èñïûòàíèé Áåðíóëëè. Ðàçîáúåì âðåìåííóþ îñü T = R+ íà ìàëûå èíòåðâàëû îäèíàêîâîé äëèíû 1/n,
ââåäåì äèñêðåòíîå âðåìÿ t = k/n, k = 0, 1, . . . , è áóäåì ïðåäïîëàãàòü,
÷òî ÷àñòèöà äâèæåòñÿ ðûâêàìè â ýòè ìîìåíòû âðåìåíè, ïåðåäâèãàÿñü ñ
âåðîÿòíîñòüþ 1/2 âïðàâî íà íåêîòîðóþ âåëè÷èíó α èëè, ñ òîé æå âåðîÿòíîñòüþ 1/2, âëåâî íà òàêóþ æå âåëè÷èíó α, êîòîðàÿ íå çàâèñèò îò âðåìåíè t. Òàêîé äèñêðåòíûé ñëó÷àéíûé ïðîöåññ Xn (t), t = k/n, k = 0, 1, . . . ,
òðàåêòîðèÿ xn (t) êîòîðîãî îïðåäåëÿåò ïîëîæåíèÿ ÷àñòèöû â êàïèëëÿðå â
ìîìåíòû âðåìåíè t, ìîæíî ïðåäñòàâèòü â âèäå ñóììû íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí, ïðèíèìàþùèõ âñåãî äâà ðàâíûõ ïî ìîäóëþ çíà÷åíèÿ. Äåéñòâèòåëüíî, ïóñòü X1 , X2 , . . . áåñêîíå÷íàÿ
ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí, êàæäàÿ èç êîòîðûõ
ïðèíèìàåò çíà÷åíèÿ +1 èëè 1 ñ îäèíàêîâîé âåðîÿòíîñòüþ 1/2. Òîãäà
Xn (t) = α
tn
X
Xi ,
i=0
ïðè ëþáûõ t = k/n, k = 0, 1, . . . .
Òàê êàê ñëó÷àéíûå âåëè÷èíû Xn (t1 ), . . . , Xn (tm ) îäíîçíà÷íî îïðåäåëÿþòñÿ ïðèðàùåíèÿìè Xn (ti ) − Xn (ti−1 ), i = 1, . . . , m, t0 = 0, Xn (0)
=0 ïðîöåññà Xn (t) è ýòè ïðèðàùåíèÿ íåçàâèñèìû â ñîâîêóïíîñòè â ñèëó
íåçàâèñèìîñòè áèíàðíûõ ñëó÷àéíûõ âåëè÷èí X1 , X2 , . . . , à
Xn (ti ) − Xn (ti−1 ) =
nti
X
Xj ,
j=nti−1 +1
òî êîíå÷íîìåðíûå ðàñïðåäåëåíèÿ ïðîöåññà ñ íåçàâèñèìûìè ïðèðàùåíèÿìè
{Xn (t), t ≥ 0} îäíîçíà÷íî îïðåäåëÿþòñÿ ðàñïðåäåëåíèÿìè ñëó÷àéíîé âåëè÷èíû Xn (t) ïðè êàæäîì ôèêñèðîâàííîì çíà÷åíèè t. Ýòî åñòü ñëåäñòâèå
íå òîëüêî íåçàâèñèìîñòè áèíàðíûõ ñëó÷àéíûõ âåëè÷èí, íî è òîãî, ÷òî ïðèðàùåíèå Xn (ti ) − Xn (ti−1 ) èìååò òî æå ðàñïðåäåëåíèå, ÷òî è Xn (ti − ti−1 ).
Ïîýòîìó, åñëè f (x | t) ôóíêöèÿ ïëîòíîñòè Xn (t), òî ôóíêöèÿ ïëîòíîñòè
êîíå÷íîìåðíûõ ðàñïðåäåëåíèé ïðîöåññà ðàâíà
m
Y
f (xi − xi−1 | ti − ti−1 ) ,
1
155
ãäå, êàê è âûøå, t0 = 0, x0 = 0.
Íå òðóäíî ïîíÿòü, ÷òî ìû çàòåÿëè âñþ ýòó èãðó ñ äèñêðåòíûì äâèæåíèåì áðîóíîâñêîé ÷àñòèöû òîëüêî äëÿ òîãî, ÷òîáû ïîòîì ïåðåéòè ê ïðåäåëó
ïðè n → ∞, âîñïîëüçîâàâøèñü öåíòðàëüíîé
Xn ïðåäåëüíîé òåîðåìîé. Íî â òàêîì ñëó÷àå íåîáõîäèìî íîðìèðîâàòü
Xi . Òàê êàê EXi = 0, à DXi = 1,
1
òî óñëîâèå íåâûðîæäàåìîñòè ïðîöåññà Xn (t) ïðè n → ∞ ñîñòîèò â âûáîðå
√
α ïðîïîðöèîíàëüíûì 1/ n. Â ñâÿçè ñ ýòèì ââîäÿò ïàðàìåòð σ 2 , êîòîðûé
íàçûâàþò êîýôôèöèåíòîì äèôôóçèè (îí õàðàêòåðèçóåò ñêîðîñòü äâèæå√
íèÿ ÷àñòèöû), è ïîëàãàþò α = σ/ n. Ïðè òàêîì âûáîðå α ìû ïîëó÷àåì
äèñêðåòíûé ñëó÷àéíûé ïðîöåññ
tn
σ X
√
Xn (t) =
Xi .
n 0
 ñèëó öåíòðàëüíîé ïðåäåëüíîé òåîðåìû ïðè êàæäîì ôèêñèðîâàííîì
çíà÷åíèè t ñëó÷àéíàÿ âåëè÷èíà Xn (t) ñõîäèòñÿ ñëàáî ê ñëó÷àéíîé âåëè÷èíå
ñ íîðìàëüíûì N(0, σ 2 t) ðàñïðåäåëåíèåì. Èñïîëüçóÿ òåïåðü ïðåäñòàâëåíèå
êîíå÷íîìåðíûõ ðàñïðåäåëåíèé ÷åðåç ðàñïðåäåëåíèÿ ïðèðàùåíèé, ìû ìîæåì äàòü ñëåäóþùåå îïðåäåëåíèå âèíåðîâñêîãî ïðîöåññà.
Îïðåäåëåíèå 15.1. Ñëó÷àéíûé ïðîöåññ {X(t), t ≥ 0}, ó êîòîðîãî ôóíê-
öèÿ ïëîòíîñòè êîíå÷íîìåðíîãî ðàñïðåäåëåíèÿ îïðåäåëÿåòñÿ ôîðìóëîé
−n/2 n
ft1 ,...,tn (x1 , . . . , xn ) = (2π)
σ
n
Y
(ti − ti−1 )−1/2 ·
1
(
n
1 X (xi − xi−1 )2
exp − 2
2σ 1 (ti − ti−1 )
)
,
íàçûâàåòñÿ âèíåðîâñêèì ñëó÷àéíûì ïðîöåññîì.
Ëåêöèÿ 25
Êàê è â ñëó÷àå ïóàññîíîâñêîãî ïðîöåññà, äëÿ ïðàêòè÷åñêèõ ïðèëîæåíèé íåñîìíåííûé èíòåðåñ ïðåäñòàâëÿåò ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû τ = inf{ t : X(t) ≥ h }, ðåàëèçàöèÿ êîòîðîé ñîîòâåòñòâóåò ìîìåíòó
ïåðâîãî äîñòèæåíèÿ âèíåðîâñêèì ïðîöåññîì óðîâíÿ h > 0. Ê ñîæàëåíèþ,
äëÿ âèíåðîâñêîãî ïðîöåññà òåõíèêà âûâîäà ðàñïðåäåëåíèé ôóíêöèîíàëîâ
156
îò òðàåêòîðèé ïðîöåññà äîñòàòî÷íî ñëîæíà, è äëÿ îâëàäåíèÿ ýòîé òåõíèêîé òðåáóåòñÿ ñïåöèàëüíûé àïïàðàò, âî ìíîãîì âûõîäÿùèé çà ðàìêè îáùåãî êóðñà òåîðèè âåðîÿòíîñòåé. Îäíàêî, ÷òî êàñàåòñÿ äèñêðåòíîãî àíàëîãà âèíåðîâñêîãî ïðîöåññà, êîòîðûé ìû ðàññìàòðèâàëè äî îïðåäåëåíèÿ
15.1, òî çäåñü ðàñïðåäåëåíèå ïåðâîãî ïåðåñêîêà ìîæíî ïîëó÷èòü, èñïîëüçóÿ íåñëîæíóþ òåõíèêó êîìáèíàòîðíûõ âûêëàäîê.
Ðàññìîòðèì, êàê è âûøå, ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ
âåëè÷èí {Xi , i ≥ 1}, ïðèíèìàþùèõ âñåãî äâà çíà÷åíèÿ +1 è 1 ñ îäèíàêîâûìè âåðîÿòíîñòÿìè 1/2. Ââåäåì äèñêðåòíûé ñëó÷àéíûé ïðîöåññ
S(t) =
t
X
Xi , t = 0, 1, . . . ;
S(0) = 0
i=0
(äëÿ íàãëÿäíîñòè ìîæíî ñîåäèíèòü ïîñëåäîâàòåëüíî òî÷êè (t, s(t)) òðàåêòîðèè s(t), t = 0, 1 . . . ïðîöåññà S(t), ïðåäñòàâèâ òðàåêòîðèþ â âèäå
ëîìàíîé ëèíèè). Íàïîìíèì, ÷òî äèñêðåòíûé àíàëîã Xn (t) âèíåðîâñêîãî
ïðîöåññà X(t) ïîëó÷àåòñÿ èç ïðîöåññà S(t) çàìåíîé t íà tn ñ t = k/n è
√
ïîñëåäóþùèì ìàñøòàáèðîâàíèåì åãî òðàåêòîðèè: Xn (t) = S(tn)σ/ n.
Ðàññìîòðèì âñå òðàåêòîðèè, ïðîõîäÿùèå ÷åðåç äâå çàäàííûå òî÷êè A1 =
(t1 , s1 = s(t1 )) è A2 = (t2 , s2 = s(t2 )), t1 < t2 , è íàçîâåì ó÷àñòîê òðàåêòîðèè ìåæäó ýòèìè òî÷êàìè ïóòåì èç òî÷êè A1 â òî÷êó A2 . Ýòè ïóòè îáëàäàþò òåì çàìå÷àòåëüíûì ñâîéñòâîì, ÷òî ó íèõ ÷èñëî p ñëàãàåìûõ Xi , i = t1 + 1, . . . , t2 , ïðèíÿâøèõ çíà÷åíèå +1, îäèíàêîâî è ðàâíî
(t2 −t1 +s2 −s1 )/2, åñëè, êîíå÷íî, ïîñëåäíåå ÷èñëî öåëîå, â ïðîòèâíîì ñëó÷àå íå ñóùåñòâóåò òðàåêòîðèè, ïðîõîäÿùåé ÷åðåç ýòè òî÷êè. Äåéñòâèòåëüíî, åñëè îáîçíà÷èòü q ÷èñëî îòðèöàòåëüíûõ (1) ñëàãàåìûõ, òî p+q = t2 −t1
è p − q = s2 − s1 , ÷òî è äàåò óêàçàííóþ ôîðìóëó äëÿ ðàñ÷åòà p. Èç ýòèõ
æå ñîîòíîøåíèé ëåãêî ïîëó÷èòü ôîðìóëó äëÿ îáùåãî ÷èñëà N ïóòåé, ïðîp
q
õîäÿùèõ ÷åðåç òî÷êè A1 è A2 ; î÷åâèäíî, N = Cp+q = Cp+q .
Ñëåäóþùèå äâå ëåììû óêàçûâàþò ïðîñòîé ìåòîä äëÿ ðàñ÷åòà ÷èñëà ïóòåé èç íà÷àëà êîîðäèíàò â òî÷êó (k, m), êîòîðûå ðàñïîëîæåíû íèæå óðîâíÿ m.
Ëåììà 15.2 (ïðèíöèï îòðàæåíèÿ). ×èñëî ïóòåé èç òî÷êè A1 = (t1 , s1 ),
s1 > 0, â òî÷êó A2 = (t2 , s2 ), s2 > 0, êîòîðûå êàñàþòñÿ èëè ïåðåñåêàþò îñü t
õîòÿ áû îäèí ðàç, ðàâíî ÷èñëó âñåâîçìîæíûõ ïóòåé èç òî÷êè A01 = (t1 , −s1 )
â òî÷êó A2 .
Ä î ê à ç à ò å ë ü ñ ò â î. Ìåæäó ìíîæåñòâîì ïóòåé èç A1 â A2 , óäîâëåòâî157
ðÿþùèõ óñëîâèþ ëåììû, è ìíîæåñòâîì âñåâîçìîæíûõ ïóòåé èç A01 â A2
ìîæíî óñòàíîâèòü âçàèìíî îäíîçíà÷íîå ñîîòâåòñòâèå, èñïîëüçóÿ ñëåäóþùèé ïðèíöèï îòðàæåíèÿ (ñì. ðèñóíîê).
s
6
.
A1 .¡¡@
@ ¡@
@¡
o
...
... 0
1
.......
...
.
.
.
.
... ..... .....
...
...
.
... .....
... ...
...
1
t
A
.
¡@
¡
@¡
@ ¡@
@...¡
t
¡A 2
¡
¡
@
¡
@
@
@¡
¡@
¡ @¡
t2
-
t
Ïóòü èç A1 â A2 äîëæåí ïî êðàéíåé ìåðå îäèí ðàç êîñíóòüñÿ îñè âðåìåíè
t; ïóñòü t0 > t1 àáñöèññà ïåðâîãî êàñàíèÿ (íàïîìíèì, s1 = s(t1 ) > 0).
Òàêîìó ïóòè ñ îðäèíàòàìè
s(t1 ) > 0, s(t1 + 1) > 0, . . . , s(t0 − 1) > 0, s(t0 ) = 0,
s(t0 + 1), . . . , s(t2 )
ñîïîñòàâèì ïóòü ñ îðäèíàòàìè
−s(t1 ) < 0, −s(t1 + 1) < 0, . . . , −s(t0 − 1) < 0, s(t0 ) = 0,
s(t0 + 1), . . . , s(t2 ),
êîòîðûé ïðèíàäëåæèò âòîðîìó ìíîæåñòâó, òî åñòü îòðàçèì ó÷àñòîê ïóòè
èç A1 â A2 íà ïðîìåæóòêå [t1 , t0 ] çåðêàëüíî îòíîñèòåëüíî îñè t, à äàëüøå
îñòàâèì ïóòü áåç èçìåíåíèÿ. Ëåãêî óáåäèòüñÿ, ÷òî ýòî âçàèìíî îäíîçíàíîå ñîîòâåòñòâèå êàæäîìó ïóòè âòîðîãî ìíîæåñòâà îòâå÷àåò òàêîé æå
çåðêàëüíûé îáðàç èç ïåðâîãî ìíîæåñòâà, èáî ïóòè èç âòîðîãî ìíîæåñòâà
îáÿçàòåëüíî ïåðåñåêàþò îñü t, òàê êàê −s(t1 ) < 0, à s(t2 ) > 0. Òàêèì îáðàçîì, îáà ìíîæåñòâà ñîäåðæàò îäèíàêîâîå ÷èñëî ïóòåé.
Ðàññìîòðèì òåïåðü ïóòè èç íà÷àëà êîîðäèíàò (0, 0) â òî÷êó (k, m) ñ
0 < m ≤ k. Îáùåå ÷èñëî òàêèõ ïóòåé, êàê áûëî ïîêàçàíî âûøå, Nk,m = Cpk ,
ãäå p = (m + k)/2, åñëè îíî öåëîå, â ïðîòèâíîì ñëó÷àå Nk,m = 0.
Ëåììà 15.3. ×èñëî ïóòåé èç íà÷àëà êîîðäèíàò â òî÷êó (k, m),
0 < m ≤ k, ó êîòîðûõ s(t) > 0 ïðè âñåõ t = 1, 2, . . . , k, ðàâíî
Nk−1,m−1 − Nk−1,m+1 =
158
m
Nk,m .
k
Ä î ê à ç à ò å ë ü ñ ò â î. Ëþáîé ïóòü èç (0, 0) â (k, m), óäîâëåòâîðÿþùèé
óñëîâèþ ëåììû, ïðîõîäèò ÷åðåç òî÷êó (1, 1). Ñëåäîâàòåëüíî, åñëè âû÷åñòü
èç îáùåãî ÷èñëà ïóòåé Nk−1,m−1 èç òî÷êè (1, 1) â òî÷êó (k, m) ÷èñëî M
ïóòåé, êîòîðûå ñîåäèíÿþò ýòè òî÷êè, êàñàÿñü èëè ïåðåñåêàÿ îñü t, òî ïîëó÷èì èñêîìîå ÷èñëî ïóòåé èç (0, 0) â (k, m), ëåæàùèõ â ïåðâîì êâàäðàíòå.
 ñèëó ëåììû 15.2 M ðàâíî îáùåìó ÷èñëó ïóòåé èç òî÷êè (1, −1) â òî÷êó
(k, m), ïîýòîìó M = Nk−1, m+1 .
Ëåììà 15.4. ×èñëî ïóòåé èç íà÷àëà êîîðäèíàò â òî÷êó (k, m),
0 < m ≤ k, ó êîòîðûõ s(t) < m ïðè âñåõ t = 1, 2, . . . , k − 1, ðàâíî
m
Nk−1,m−1 − Nk−1,m+1 = Nk,m .
(5)
k
Ä î ê à ç à ò å ë ü ñ ò â î. Äîñòàòî÷íî ïîìåñòèòü íà÷àëî êîîðäèíàò â òî÷êó
(k, m) è òðàêòîâàòü óðîâåíü m êàê îñü àáñöèññ. Èñïîëüçóÿ ôîðìóëó äëÿ
ðàñ÷åòà N, êîòîðàÿ áûëà ïîëó÷åíà â ëåììå 15.3, ïîëó÷àåì (5).
Ïîñëåäíÿÿ ëåììà óñòàíàâëèâàåò ðàñïðåäåëåíèå ìîìåíòà κ =
min{t : S(t) ≥ m} ïåðâîãî âûõîäà íà óðîâåíü m äèñêðåòíîãî ïðîöåññà
Xt
S(t) =
Xi , t = 0, 1, . . . . Äåéñòâèòåëüíî, ôîðìóëà (5) âû÷èñëÿåò êîëè1
÷åñòâî òðàåêòîðèé îïðåäåëåííîãî âèäà, ñâÿçàííîãî ñ èõ ïîëîæåíèåì â ìîìåíò t = k. Ìû ìîæåì ñãðóïïèðîâàòü áåñêîíå÷íîå ìíîæåñòâî òðàåêòîðèé
ïðîöåññà S(t) â 2k ðàâíîâåðîÿòíûõ êëàññà â ñîîòâåòñòâèè ñ ðàçëè÷èÿìè â
ïóòÿõ, ñîåäèíÿþùèõ íà÷àëî êîîðäèíàò ñ äîñòèæèìûìè òî÷êàìè, àáñöèññà
êîòîðûõ ðàâíà k. Ýòî ðàâíîñèëüíî ê ïåðåõîäó ê äðóãîìó âåðîÿòíîñòíîìó
ïðîñòðàíñòâó, ãäå Ω ñîñòîèò èç 2k ðàâíîâåðîÿòíûõ òî÷åê, è íàñ èíòåðåñóåò
âåðîÿòíîñòü ñîáûòèÿ, ñîñòîÿùåãî èç mNk,m /k ýëåìåíòàðíûõ èñõîäîâ, òàê
÷òî ñïðàâåäëèâà
Ëåììà 15.5. Âåðîÿòíîñòü òîãî, ÷òî äèñêðåòíûé ïðîöåññ S(t) âïåðâûå
äîñòèãíåò óðîâíÿ m â ìîìåíò âðåìåíè t = k ðàâíà
m (k+m)/2
m
N
=
C
,
k,m
2k k
2k k k
ãäå k è m äîëæíû èìåòü îäèíàêîâóþ ÷åòíîñòü, m ≤ k.
Òåïåðü îáðàòèìñÿ ê äèñêðåòíîìó àíàëîãó Xn (t) âèíåðîâñêîãî ïðîöåññà
X(t) è ìîìåíòó τn = min{t : Xn (t) ≥ h} ïåðâîãî âûõîäà ïðîöåññà Xn (t) íà
óðîâåíü h > 0. Ïåðåïèøåì îïðåäåëåíèå τn â òåðìèíàõ ìîìåíòà κ :
κ
= min
n
½
σ
mσ
t : √ S(nt) ≥ √
n
n
159
¾
,
√
ãäå m = h n/σ. Èç ýòîé çàïèñè âèäíî, ÷òî ôóíêöèÿ ïëîòíîñòè ñëó÷àéíîé
âåëè÷èíû τn
m (k+m)/2
C
,
2k k k
ãäå k = nt ñ î÷åâèäíûìè îãðàíè÷åíèÿìè íà âîçìîæíûå çíà÷åíèÿ ïåðåìåííîé t è ïàðàìåòðîâ h è σ.
Èçó÷èì àñèìïòîòè÷åñêîå ïîâåäåíèå gn (t) ïðè n → ∞ è ôèêñèðîâàííîì h. Ëåãêî ïîíÿòü, ÷òî òåì ñàìûì ìû óñòàíàâëèâàåì àñèìïòîòè÷åñêîå
ïîâåäåíèå âåðîÿòíîñòè
gn (t) = P (τn = t) =
G(t + 1/n) − G(t) = P (t ≤ τ < t + 1/n) ∼ g(t)
1
n
ïðè n → ∞, è ýòî ïîçâîëèò íàì íàéòè ôóíêöèþ ïëîòíîñòè g(t) ìîìåíòà τ
ïåðâîãî äîñòèæåíèÿ óðîâíÿ h âèíåðîâñêèì ïðîöåññîì X(t).
Ïðåäëîæåíèå 15.3. Åñëè n → ∞, òî
½
¾
h
h2
gn (t) ∼ √
exp − 2 .
2σ t
2πσt3/2 n
Ä î ê à ç à ò å ë ü ñ ò â î. Íàì ïðåäñòîèò èññëåäîâàòü àñèìïòîòèêó
âûðàæåíèÿ
√
k!
m
¡
¢
¡ k−m ¢ ,
2k k k+m
!
!
2
2
â êîòîðîì k = nt, m = h n/σ è n → ∞.
Ïîñêîëüêó k, k + m è k − m ñ ðîñòîì n ñòðåìÿòñÿ ê áåñêîíå÷íîñòè, òî,
êàê ìû ýòî äåëàëè ðàíüøå ïðè äîêàçàòåëüñòâå òåîðåìû ÌóàâðàËàïëàñà,
âîñïîëüçóåìñÿ ôîðìóëîé Ñòèðëèíãà
n! =
√
2πnn+1/2 e−n (1 + O(1/n))
è ïðåäñòàâèì ôóíêöèþ ïëîòíîñòè â àñèìïòîòè÷åñêîì âèäå
gn (t) ∼
m
√ ·
2k k 2π
k k+1/2 e−k 2(k+m)/2+1/2+(k−m)/2+1/2
=
(k + m)(k+m)/2+1/2 (k − m)(k−m)/2+1/2 e−(k+m)/2 e−(k−m)/2
1 ³
1
³
m ´− k+m
m ´− k−m
m
2 −2
2 −2
√
1+
1−
k
k
2πk 3/2
160
Ïîñêîëüêó m/k → 0, òî ñòåïåíè 1/2 íå âëèÿþò íà àñèìïòîòèêó, è ïðîñòûå
àëãåáðàè÷åñêèå ïðåîáðàçîâàíèÿ äàþò
µ
¶− k2 ³
m ´− m2 ³
m ´ m2
1+
1−
.
k
k
√
Åñëè òåïåðü ïîäñòàâèòü â ïðàâóþ ÷àñòü m = h n/σ , k = nt è âîñïîëüçîâàòüñÿ çàìå÷àòåëüíûì ïðåäåëîì, îïðåäåëÿþùèì ÷èñëî e, òî ïîëó÷èì îêîí÷àòåëüíûé ðåçóëüòàò
½
¾
h2
h
gn (t) ∼ √
exp −
.
2tσ 2
2πσt3/2 n
m
gn (t) ∼ √
2πk 3/2
m2
1− 2
k
Èòàê, ìû óñòàíîâèëè, ÷òî τn ⇒ τ, ôóíêöèÿ ïëîòíîñòè êîòîðîãî èìååò
âèä
½ 2¾
a
a
exp −
, a = h/σ,
2t
2πt3/2
à ôóíêöèÿ ðàñïðåäåëåíèÿ G(t) âûðàæàåòñÿ ÷åðåç ôóíêöèþ ðàñïðåäåëåíèÿ
Φ(·) ñòàíäàðòíîãî íîðìàëüíîãî çàêîíà N(0, 1) ñîîòíîøåíèåì
g(t) = √
a
G(t) = √
2π
2
√
2π
Z∞
√
a/ t
½
Zt
½ 2¾
1
a
√ exp −
dx =
2x
x x
u2
exp −
2
¾
·
µ
a
du = 2 1 − Φ √
t
¶¸
.
Îäíàêî, ýòî ñîâñåì íå îçíà÷àåò, ÷òî ìû ïîëó÷èëè ôóíêöèþ ðàñïðåäåëåíèÿ
ìîìåíòà ïåðâîãî ïåðåñêîêà âèíåðîâñêèì ïðîöåññîì çàäàííîãî óðîâíÿ.  íàøåì äîêàçàòåëüñòâå èìååòñÿ îãðîìíàÿ äûðà ìû íå ðàñïîëàãàåì óñëîâèÿìè, ïðè êîòîðûõ ñõîäèìîñòü ïîñëåäîâàòåëüíîñòè êîíå÷íîìåðíûõ ðàñïðåäåëåíèé ïðîöåññà (ñëàáàÿ ñõîäèìîñòü) âëå÷åò ñõîäèìîñòü ðàñïðåäåëåíèé
ôóíêöèîíàëîâ îò ýòîãî ïðîöåññà. Ê ñ÷àñòüþ, â íàøåì ñëó÷àå ñ äèñêðåòíûì àíàëîãîì âèíåðîâñêîãî ïðîöåññà âñå îáñòîèò áëàãîïîëó÷íî.
Ñëåäóåò îòìåòèòü, ÷òî ðàñïðåäåëåíèå ïåðâîãî ïåðåñêîêà èãðàåò âàæíóþ
ðîëü â ìîäåëÿõ òåîðèè íàäåæíîñòè, êîãäà îòêàç ñèñòåìû âûçûâàåòñÿ óñòàëîñòíûìè ðàçðóøåíèÿìè, âûçâàííûìè õàîòè÷åñêèìè ïîÿâëåíèÿìè ïèêîâûõ íàãðóçîê, êîòîðûå âîçíèêàþò âî âðåìåíè ïîäîáíî ëîêàëüíûì ìàêñèìóìàì òðàåêòîðèè âèíåðîâñêîãî ïðîöåññà.
161
×ÀÑÒÜ ÂÒÎÐÀß
ÌÀÒÅÌÀÒÈ×ÅÑÊÀß ÑÒÀÒÈÑÒÈÊÀ
. . . à ñïîðèëè îíè î ÷åì óãîäíî, íà÷èíàÿ ñ
ïîäëèííîñòè Ñâÿùåííîãî ïèñàíèÿ è êîí÷àÿ
âîïðîñîì, ÷òî íà ñàìîì äåëå çíà÷èò íàäïèñü ãàðàíòèðîâàíî"íà áàíêàõ ñ äæåìîì."
Ìþðèýë Ñïàðê, Ìèññ Äæèí Áðîäè â ðàñöâåòå ëåò
(Muriel Spark, The prime of Miss Jean Brodie)
1. Ïðîáëåìà ñòàòèñòè÷åñêîãî âûâîäà
Ëåêöèÿ 1
Òåîðèÿ âåðîÿòíîñòåé ñîçäàåò áàçó äëÿ ïîñòðîåíèÿ ìîäåëåé ðåàëüíûõ
ÿâëåíèé, â îñíîâå êîòîðûõ ëåæàò ñîîòíîøåíèÿ ìåæäó ÷àñòîòàìè ïîÿâëåíèÿ îïðåäåëåííûõ ñîáûòèé. Ðàñïîëàãàÿ âåðîÿòíîñòíîé ìîäåëüþ, ìû ìîæåì ðàññ÷èòàòü âåðîÿòíîñòè (îòíîñèòåëüíûå ÷àñòîòû) ýòèõ ñîáûòèé è òåì
ñàìûì îïòèìèçèðîâàòü ñâîå ïîâåäåíèå â óñëîâèÿõ íåîïðåäåëåííîñòè. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà ñòðîèò ìîäåëè èíäóêòèâíîãî ïîâåäåíèÿ â ýòèõ
óñëîâèÿõ íà îñíîâå èìåþùèõñÿ âåðîÿòíîñòíûõ ìîäåëåé. Îñíîâíàÿ ïðîáëåìà ñîñòîèò â òîì, ÷òîáû ïî íàáëþäåíèÿì ýëåìåíòàðíûõ èñõîäîâ (îáû÷íî ýòî çíà÷åíèÿ íàáëþäàåìûõ ñëó÷àéíûõ âåëè÷èí) äàòü ìåòîä âûáîðà
äåéñòâèé, ïðè êîòîðûõ ÷àñòîòà îøèáîê áûëà áû íàèìåíüøåé. Åñòåñòâåííî, ýòà ïðîáëåìà ñîïðÿæåíà ñ ðåøåíèåì ñëîæíûõ çàäà÷ íà ýêñòðåìóì, íî
äàæå â òîì ñëó÷àå, êîãäà ýòè çàäà÷è íå óäàåòñÿ ðåøèòü, òåîðèÿ âåðîÿòíîñòåé äàåò ìåòîä äëÿ ðàñ÷åòà ñðåäíåé âåëè÷èíû ïîòåðü, êîòîðûå ìû áóäåì
íåñòè, èñïîëüçóÿ êîíêðåòíîå, âûáðàííîå íàìè ïðàâèëî èíäóêòèâíîãî ïîâåäåíèÿ. Òàêèì îáðàçîì, ìàòåìàòè÷åñêàÿ ñòàòèñòèêà åñòü òåîðèÿ ïðèíÿòèÿ îïòèìàëüíûõ ðåøåíèé, êîãäà ïîñëåäñòâèÿ îò äåéñòâèé, ïðåäïðèíèìàåìûõ íà îñíîâå ýòèõ ðåøåíèé, íîñÿò ñëó÷àéíûé õàðàêòåð. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà èñïîëüçóåò ìåòîäû òåîðèè âåðîÿòíîñòåé äëÿ ðàñ÷åòà
÷àñòîòû íåïðàâèëüíûõ ðåøåíèé èëè, áîëåå îáùî, äëÿ âåëè÷èíû ñðåäíèõ
ïîòåðü, êîòîðûå íåèçáåæíî âîçíèêàþò â óñëîâèÿõ ñëó÷àéíîñòè, êàê áû ìû
íè ïûòàëèñü îïòèìèçèðîâàòü ñâîå ïîâåäåíèå â ýòèõ óñëîâèÿõ.
Ïðèâåäåì äâà ïðèìåðà, èëëþñòðèðóþùèõ çàäà÷è ìàòåìàòè÷åñêîé ñòàòèñòèêè è, îò÷àñòè, ìåòîäû èõ ðåøåíèÿ, ñ òåì ÷òîáû â ïîñëåäóþùåì ôîðìàëèçîâàòü îáùóþ ïðîáëåìó ñòàòèñòè÷åñêîãî âûâîäà.
Ï ð è ì å ð 1.1. Îïðåäåëåíèå îáùåãî ñîäåðæàíèÿ ñåðû â äèçåëüíîì òîïëèâå. Ìû ñíîâà îáðàùàåìñÿ ê ïðèìåðó 7.2 èç êóðñà òåîðèè âåðîÿòíîñòåé,
ãäå ðå÷ü øëà î âàæíîé â ýêîëîãè÷åñêîì îòíîøåíèè õàðàêòåðèñòèêå äèçåëüíîãî òîïëèâà ïðîöåíòíîì ñîäåðæàíèè ýëåìåíòàðíîé ñåðû, êîòîðàÿ
ïðè ñæèãàíèè è ïîñëåäóþùåì ñîåäèíåíèè ñ âîäîé äàåò ñåðíóþ êèñëîòó.
Íåîáõîäèìîñòü èñïîëüçîâàíèÿ ìåòîäîâ òåîðèè âåðîÿòíîñòåé ïðè àòòåñòàöèè äèçåëüíîãî òîïëèâà ïî ýòîé õàðàêòåðèñòèêå áûëà âûçâàíà çíà÷èòåëüíûìè ðàñõîæäåíèÿìè ìåæäó ðåçóëüòàòàìè x1 , . . . , xn ïàðàëëåëüíûõ è íåçàâèñèìûõ èñïûòàíèé n ïðîá èç ïàðòèè äèçåëüíîãî òîïëèâà. Åñëè äàæå èñêëþ÷èòü îøèáêè ýêñïåðèìåíòà, ñâÿçàííûå ñ íåïðàâèëüíûì îïðåäåëåíèåì
163
âåñà ïðîáû è òèòðîâàíèåì, òî âñå ðàâíî ðàçáðîñ â ïàðàëëåëüíûõ èñïûòàíèÿõ áóäåò çíà÷èòåëüíûì â ñèëó ñëó÷àéíîãî õàðàêòåðà ïðîöåññà ñæèãàíèÿ
ïðîáû òîïëèâà è âûïàäåíèÿ ÷àñòè ýëåìåíòàðíîé ñåðû â çîëó. Íî â òàêîì
ñëó÷àå âîçíèêàåò åñòåñòâåííûé âîïðîñ, ÷òî æå ìû èçìåðÿåì è ÷òî æå ýòî
çà õàðàêòåðèñòèêà äèçåëüíîãî òîïëèâà, êîòîðóþ ìû íàçâàëè îáùèì ñîäåðæàíèåì ñåðû ?  ïðàêòèêå ëàáîðàòîðíûõ èñïûòàíèé îáû÷íî ãîâîðÿò î
ñðåäíåì çíà÷åíèè ýòîé
Xn õàðàêòåðèñòèêè, è äèçåëüíîå òîïëèâî àòòåñòóåòñÿ
−1
âåëè÷èíîé x = n
xk àðèôìåòè÷åñêèì ñðåäíèì ðåçóëüòàòîâ ïàðàë1
ëåëüíûõ èñïûòàíèé. Ýòî è åñòü òî èíäóêòèâíîå ïîâåäåíèå ñòàòèñòèêà â
óñëîâèÿõ ñëó÷àéíîñòè, î êîòîðîì ìû ãîâîðèëè â íà÷àëå ëåêöèè, è îïðàâäàíèå ðàçóìíîñòè òàêîãî ïîâåäåíèÿ åñòåñòâåííî èñêàòü â ðàìêàõ çàêîíà
áîëüøèõ ÷èñåë.
Äåéñòâèòåëüíî, â ïðèìåðå 7.2 ìû èíòåðïðåòèðîâàëè ðåçóëüòàò x îïðåäåëåíèÿ îáùåãî ñîäåðæàíèÿ ñåðû â îäíîé ïðîáå êàê ðåçóëüòàò íàáëþäåíèÿ
ñëó÷àéíîé âåëè÷èíû X, ðàñïðåäåëåííîé ïî íîðìàëüíîìó çàêîíó ñî ñðåäíèì µ è äèñïåðñèåé σ 2 , ïðè÷åì çíà÷åíèå (íåèçâåñòíîå ýêñïåðèìåíòàòîðó)
ïàðàìåòðà µ ÿâëÿëîñü ìàòåìàòè÷åñêèì âûðàæåíèåì òîé, íå ñîâñåì ïîíÿòíîé äëÿ íàñ õàðàêòåðèñòèêè èñïûòóåìîãî òîïëèâà, êîòîðàÿ íàçûâàëàñü îáùèì ñîäåðæàíèåì ñåðû .  ðàìêàõ ýòîé âåðîÿòíîñòíîé ìîäåëè åñòåñòâåííî
òðàêòîâàòü ðåçóëüòàòû x1 , . . . , xn ïàðàëëåëüíûõ èñïûòàíèé n ïðîá äèçåëüíîãî òîïëèâà êàê íàáëþäåíèÿ n íåçàâèñèìûõ êîïèé X1 , . . . , Xn ñëó÷àéíîé
âåëè÷èíû X. Òåðìèí êîïèÿ â äàííîì ñëó÷àå óïîòðåáëÿåòñÿ äëÿ îáîçíà÷åíèÿ òîãî ôàêòà, ÷òî êàæäàÿ èç íàáëþäàåìûõ ñëó÷àéíûõ âåëè÷èí èìååò òî
æå ðàñïðåäåëåíèå, ÷òî è X. Òàêèì îáðàçîì, ïîñòóëèðóåòñÿ, ÷òî X1 , . . . , Xn
íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû N (µ, σ 2 ), òàê ÷òî â ñèëó çàêîíà
áîëüøèõ ÷èñåë ïðè íåîãðàíè÷åííîì âîçðàñòàíèè îáúåìà èñïûòàíèé n
n
1X
X=
Xk → µ.
P
n
k=1
Èòàê, çàêîí áîëüøèõ ÷èñåë ãàðàíòèðóåò íàì, ÷òî ïðè äîñòàòî÷íî áîëüøîì îáúåìå èñïûòàíèé ìû áóäåì áëèçêè ê èñòèííîìó çíà÷åíèþ èññëåäóåìîé õàðàêòåðèñòèêè òîïëèâà. Îäíàêî íà ïðàêòèêå â çàâîäñêèõ ëàáîðàòîðèÿõ îáû÷íî ñæèãàþòñÿ âñåãî äâå ïðîáû òîïëèâà, è òîëüêî â èñêëþ÷èòåëüíûõ ñëó÷àÿõ ïðè ïîâåðêå ïðèáîðîâ èëè òåñòèðîâàíèè ëàáîðàíòîâ
äåëàåòñÿ ÷åòûðå èñïûòàíèÿ. Åñòåñòâåííî, ïðè n = 2 ãîâîðèòü î çàêîíå
áîëüøèõ ÷èñåë ïðîñòî ñìåøíî, ñëåäóåò èñêàòü íåêîòîðóþ êîëè÷åñòâåííóþ õàðàêòåðèñòèêó ïîñëåäñòâèé îò íåòî÷íîé àòòåñòàöèè ïàðòèè äèçåëü164
íîãî òîïëèâà. Ëåãêî ïîíÿòü, ÷òî â îñíîâó òàêîé õàðàêòåðèñòèêè ñëåäóåò
ïîëîæèòü îøèáêó | X − µ | â îöåíêå ïàðàìåòðà µ, íî, ê ñîæàëåíèþ, çíà÷åíèå µ íàì íåèçâåñòíî, à X åñòü ñëó÷àéíàÿ âåëè÷èíà, ÷òî îêîí÷àòåëüíî
äåëàåò ïðîáëåìó ïðîãíîçà îæèäàåìûõ îøèáîê ïðè àòòåñòàöèè êîíêðåòíîé
ïàðòèè òîïëèâà íåðàçðåøèìîé. Çäåñü íàáëþäàåòñÿ òà æå ñèòóàöèÿ, ÷òî è
ïðè ïîïûòêå ïðåäñêàçàòü ñòîðîíó ìîíåòû, êîòîðàÿ âûïàäåò ïðè åå ïîäáðàñûâàíèè. Òî÷íûé ïðîãíîç íåâîçìîæåí, íî ìåòîäû òåîðèè âåðîÿòíîñòåé
ïîçâîëÿþò íàì ðàññ÷èòàòü, êàê ÷àñòî ìû áóäåì îøèáàòüñÿ â ïðîãíîçå ïðè
äîñòàòî÷íî äëèòåëüíîé èãðå â îðëÿíêó. Ñëåäîâàòåëüíî, ìû äîëæíû ðåøèòü çàäà÷ó î âû÷èñëåíèè âåðîÿòíîñòè òîãî, ÷òî îøèáêà â îöåíêå µ áóäåò
ñëèøêîì áîëüøîé ïðåâîñõîäèòü íåêîòîðóþ ïðåäïèñàííóþ âåëè÷èíó ∆.
Ýòà âåðîÿòíîñòü P (| X − µ | > ∆) îáû÷íî íàçûâàåòñÿ ðèñêîì îöåíêè X, à
âåðîÿòíîñòü P (| X − µ | ≤ ∆) ïðîòèâîïîëîæíîãî ñîáûòèÿ íàäåæíîñòüþ
ýòîé îöåíêè.
Òàêèì îáðàçîì, ðèñê îöåíêè óêàçûâàåò ÷àñòîòó òåõ ïàðòèé äèçåëüíîãî
òîïëèâà, â ïàñïîðòå êîòîðûõ îáùåå ñîäåðæàíèå ñåðû óêàçàíî ñ íåäîïóñòèìî áîëüøîé îøèáêîé. Çíàÿ ðèñê îöåíêè, ìû ìîæåì âû÷èñëèòü ñðåäíèå
çàòðàòû íà âûïëàòó ðåêëàìàöèé ïî èñêàì ïîòðåáèòåëåé äèçåëüíîãî òîïëèâà. Âûâåñòè ôîðìóëó äëÿ âû÷èñëåíèÿ ðèñêà íå ïðåäñòàâëÿåò îñîáîãî òðóäà, åñëè îáðàòèòüñÿ ê òåîðåìå ñëîæåíèÿ äëÿ íîðìàëüíîãî ðàñïðåäåëåíèÿ
(ïðåäëîæåíèå 12.2 êóðñà ÒÂ). Âûáîðî÷íîå ñðåäíåå X åñòü íîðìèðîâàííàÿ
íà n ñóììà íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ N (µ, σ 2 ) ñëó÷àéíûõ
âåëè÷èí.  ñèëó òåîðåìû ñëîæåíèÿ ýòà ñóììà èìååò òàêæå íîðìàëüíîå
ðàñïðåäåëåíèå, ñðåäíåå çíà÷åíèå êîòîðîãî ðàâíî ñóììå ñðåäíèõ nµ, à äèñïåðñèÿ ðàâíà ñóììå äèñïåðñèé nσ 2 . Ïðè óìíîæåíèè íà 1/n ñðåäíåå óìíîæàåòñÿ íà òó æå âåëè÷èíó, à äèñïåðñèÿ óìíîæàåòñÿ íà åå êâàäðàò. Òàêèì
îáðàçîì, X ∼ N (µ, σ 2 /n), íàäåæíîñòü îöåíêè
√
√
√
P (−∆ ≤ X − µ ≤ ∆) = Φ(∆ n/σ) − Φ(−∆ n/σ) = 2Φ(∆ n/σ) − 1
(íàïîìíèì, Φ(−x) = 1 − Φ(x)), à åå ðèñê
¡
¢
¡
¢
√
P | X − µ | > ∆ = 2 1 − Φ(∆ n/σ) .
Ïðè âû÷èñëåíèè ðèñêà îöåíêè íåîáõîäèìî çíàòü âåëè÷èíó ñòàíäàðòíîãî
îòêëîíåíèÿ σ. Íî çíà÷åíèå σ, î÷åâèäíî, îñòàåòñÿ ïîñòîÿííûì ïðè àòòåñòàöèè ðàçëè÷íûõ ïàðòèé ýòî ïàðàìåòð, õàðàêòåðèçóþùèé òî÷íîñòü ìåòîäà
õèìè÷åñêîãî àíàëèçà òîïëèâà, è íå èìååò îòíîøåíèÿ ê åãî õèìè÷åñêîìó ñîñòàâó. Åñòåñòâåííî, çà äîñòàòî÷íî êîðîòêèé ñðîê â ëàáîðàòîðèÿõ íàêàïëèâàåòñÿ áîëüøîé àðõèâíûé ìàòåðèàë äàííûõ èñïûòàíèé ðàçëè÷íûõ ïàðòèé
165
òîïëèâà, ÷òî ïîçâîëÿåò îöåíèòü çíà÷åíèå σ ñ äîñòàòî÷íî âûñîêîé òî÷íîñòüþ. Ñ òåì, êàê ýòî äåëàåòñÿ, ìû ïîçíàêîìèìñÿ â îäíîé èç áëèæàéøèõ
ëåêöèé.
Èñïîëüçóÿ ôîðìóëó ðèñêà, ìû ìîæåì îïðåäåëèòü ìèíèìàëüíûé îáúåì
èñïûòàíèé n, ãàðàíòèðóþùèé ïðåäïèñàííóþ, äîñòàòî÷íî ìàëóþ âåëè÷èíó
ðèñêà. Äåéñòâèòåëüíî, åñëè α çàäàííîå îãðàíè÷åíèå íà ðèñê îöåíêè, òî
√
ðàçðåøàÿ íåðàâåíñòâî 2(Φ(∆ n/σ) − 1) ≤ α îòíîñèòåëüíî ïåðåìåííîé n,
ïîëó÷àåì, ÷òî òðåáóåìûé îáúåì èñïûòàíèé îïðåäåëÿåòñÿ íåðàâåíñòâîì
µ
n≥
Φ−1 (1 − α/2)σ
∆
¶2
.
Ï ð è ì å ð 1.2. Âûÿâëåíèå ýôôåêòà ëå÷åíèÿ. Ãðóïïà ïàöèåíòîâ â êîëè÷åñòâå 10 ÷åëîâåê, îáëàäàþùèõ ñõîæèìè àíòðîïîìåòðè÷åñêèìè è àíòðîïîëîãè÷åñêèìè õàðàêòåðèñòèêàìè, ïîäâåðãàåòñÿ ëå÷åíèþ ïî íåêîòîðîé íîâîé ìåòîäèêå, ïîäòâåðæäåíèå èëè îïðîâåðæåíèå ýôôåêòèâíîñòè êîòîðîé
ñîñòàâëÿåò ïðåäìåò ñòàòèñòè÷åñêîãî èññëåäîâàíèÿ. Ïîñëå ëå÷åíèÿ äàåòñÿ
òîëüêî êà÷åñòâåííîå çàêëþ÷åíèå î ñîñòîÿíèè çäîðîâüÿ êàæäîãî ïàöèåíòà,
òàê ÷òî ðåçóëüòàò èñïûòàíèÿ íîâîé ìåòîäèêè ìîæíî ïðåäñòàâèòü â âèäå
ïîñëåäîâàòåëüíîñòè x1 , . . . , x10 , êîìïîíåíòû êîòîðîé ïðèíèìàþò çíà÷åíèÿ
1 (ïîëîæèòåëüíûé èñõîä ëå÷åíèÿ) èëè 0 (îòðèöàòåëüíûé èñõîä).
Ïðåäëàãàåòñÿ ñëåäóþùåå ñòàòèñòè÷åñêîå ïðàâèëî: íîâàÿ ìåòîäèêà îáúÿâëÿåòñÿ ýôôåêòèâíîé, åñëè xi = 1 äëÿ âñåõ i = 1, . . . , 10, òî åñòü âñå ïàöèåíòû âûçäîðîâåëè. Åñëè æå ëå÷åíèå õîòÿ áû îäíîãî ïàöèåíòà íå ïðèâåëî ê
ïîëîæèòåëüíîìó èñõîäó, íîâàÿ ìåòîäèêà íå ðåêîìåíäóåòñÿ ê äàëüíåéøåìó
êëèíè÷åñêîìó èñïîëüçîâàíèþ. ×òî ìîæíî ñêàçàòü î íàäåæíîñòè èëè, êàê
ãîâîðÿò ìåäèêè, äîñòîâåðíîñòè òàêîãî ïðàâèëà èíäóêòèâíîãî ïîâåäåíèÿ?
×òîáû îòâåòèòü íà ýòîò âîïðîñ, ìû äîëæíû ïîñòðîèòü âåðîÿòíîñòíóþ
ìîäåëü ïðîâîäèìûõ íàáëþäåíèé. Åñòåñòâåííî ïðåäïîëàãàòü, ÷òî â ñèëó îäíîðîäíîñòè ãðóïïû ïàöèåíòîâ îíè îáëàäàþò îäèíàêîâîé âåðîÿòíîñòüþ p
ïîëîæèòåëüíîãî èñõîäà ëå÷åíèÿ, è åñëè â ïðîöåññå ëå÷åíèÿ îíè íå èìåëè
âîçìîæíîñòè èçëèøíå òåñíîãî îáùåíèÿ, òî èñõîäû ëå÷åíèé ìîæíî ïðåäñòàâèòü â âèäå ðåàëèçàöèè äåñÿòè íåçàâèñèìûõ áèíàðíûõ ñëó÷àéíûõ âåëè÷èí
X1 , . . . , X10 , êàæäàÿ èç êîòîðûõ ïðèíèìàåò çíà÷åíèå 1 ñ âåðîÿòíîñòüþ p è
çíà÷åíèå 0 ñ âåðîÿòíîñòüþ 1−p. Òàêèì îáðàçîì, ìû ïðèøëè ê ìîäåëè èñïûòàíèé â ñõåìå Áåðíóëëè ñ âåðîÿòíîñòüþ p óñïåøíîãî èñõîäà. Âåðîÿòíîñòü
òîãî, ÷òî âñå 10 èñõîäîâ áûëè óñïåøíûìè ðàâíà p10 , è çàäàâàÿ ðàçëè÷166
íûå çíà÷åíèÿ p ìû ìîæåì ñóäèòü î òîì, êàê ÷àñòî âîçìîæíû ðàçëè÷íûå
ðåçóëüòàòû àïðîáàöèè íîâîãî ìåòîäà ëå÷åíèÿ.
Ïðåäïîëîæèì ñíà÷àëà, ÷òî íîâàÿ ìåòîäèêà íåýôôåêòèâíà. Ïðè òàêîì
ïðåäïîëîæåíèè çíà÷åíèå p íå äîëæíî ïðåâîñõîäèòü âåëè÷èíû 1/2, è ìàêñèìàëüíîå çíà÷åíèå âåðîÿòíîñòè ñîáûòèÿ X1 = 1, . . . , X10 = 1 ðàâíî 2−10 =
1/1024 < 0, 001. Ýòî î÷åíü ðåäêîå ñîáûòèå, è ïîýòîìó ïðåäïîëîæåíèå î
íåýôôåêòèâíîñòè íîâîé ìåòîäèêè äîëæíî áûòü îòâåðãíóòî. Ïðè ýòîì âåðîÿòíîñòü 2−10 ìîæíî èíòåðïðåòèðîâàòü êàê ðèñê âíåäðåíèÿ â ìåäèöèíñêóþ ïðàêòèêó íåýôôåêòèâíîãî ìåòîäà ëå÷åíèÿ: èñïîëüçóÿ ïðåäëîæåííîå
ïðàâèëî âûáîðà ìåæäó äâóìÿ äåéñòâèÿìè (âíåäðåíèå èëè îòêëîíåíèå ìåòîäèêè) ïðè èñïûòàíèÿõ ïîñëåäóþùèõ ìåòîäèê, ìû ðèñêóåì â ñðåäíåì
íå áîëåå ÷åì îäèí ðàç èç òûñÿ÷è âíåäðèòü íåýôôåêòèâíûé ìåòîä ëå÷åíèÿ.
Èíòåðåñíî çàìåòèòü, ÷òî â ïðåäïîëîæåíèè íåéòðàëüíîñòè íîâîãî ìåòîäà (p = 1/2) âåðîÿòíîñòü ëþáîãî èñõîäà X1 = x1 , . . . , X10 = x10 îäèíàêîâà
è ðàâíà 2−10 , íî èñõîä X1 = 1, . . . , X10 = 1 îáëàäàåò íàèáîëüøåé âåðîÿòíîñòüþ ïðèíÿòèÿ äåéñòâèòåëüíî ýôôåêòèâíîé ìåòîäèêè, èáî
X 10
p
1
xk
X 10
(1 − p)
n−
1
xk
≤ p 10 ,
åñëè p > 1/2. Ñòîëü æå ïðîñòî ïðîâåðèòü, ÷òî ðåçóëüòàòû èñïûòàíèé, â
êîòîðûõ ëå÷åíèå òîëüêî îäíîãî ïàöèåíòà îêîí÷èëîñü íåóäà÷åé, èìåþò âåðîÿòíîñòü p 9 (1 − p), è òàêèå 10 ðåçóëüòàòîâ x1 , . . . , x10 ñ îäíèì xi = 0 è
äðóãèìè xj = 1 îáëàäàþò áîëüøåé âåðîÿòíîñòüþ, ÷åì èñõîäû ñ äâóìÿ è áîëåå êîëè÷åñòâîì íåóäà÷, åñëè â äåéñòâèòåëüíîñòè p > 1/2. Ýòî çàìå÷àíèå
ïîçâîëÿåò íàì îïðåäåëèòü ñòàòèñòè÷åñêîå ïðàâèëî, îáëàäàþùåå íàèáîëüøåé âåðîÿòíîñòüþ ïðèíÿòèÿ â äåéñòâèòåëüíîñòè ýôôåêòèâíîé ìåòîäèêè,
íî íå ñ òàêèì ìàëûì ðèñêîì, êàê 2−10 .
Äåëî â òîì, ÷òî â ìåäèöèíñêîé ïðàêòèêå óñòàíîâèëàñü îïðåäåëåííàÿ
ãðàíèöà ðèñêà, ðàâíàÿ 0.05, è âñå ñîáûòèÿ, îáëàäàþùèå ìåíüøåé âåðîÿòíîñòüþ, îáúÿâëÿþòñÿ ðåäêèìè èìè ìîæíî ïðåíåáðå÷ü.  ñâÿçè ñ ýòèì ïîçâîëèì ñåáå âêëþ÷èòü â îáëàñòü ïðèíÿòèÿ íîâîé ìåòîäèêè äîïîëíèòåëüíûå
èñõîäû ñ ðîâíî îäíèì íåóñïåõîì, è âû÷èñëèì ðèñê òàêîãî ñòàòèñòè÷åñêîãî
ïðàâèëà ïðè p = 1/2. Èñïîëüçóÿ èçâåñòíûå íàì ôîðìóëû áèíîìèàëüíûõ
âåðîÿòíîñòåé, íàõîäèì, ÷òî
P
à 10
X
!
Xk ≥ 9
= p10 + C 110 p 9 (1 − p),
1
167
è ïðè p = 1/2 ýòà âåðîÿòíîñòü ðàâíà 2−10 (1 + 10) = 11/1024 ≈ 0, 01,
÷òî ïî-ïðåæíåìó äîñòàòî÷íî ìàëî ïî ñðàâíåíèþ ñ 0.05. Ñëåäîâàòåëüíî, ìû
ìîæåì âêëþ÷èòü â îáëàñòü ïðèíÿòèÿ íîâîé ìåòîäèêè åùå C 210 ðåçóëüòàòîâ èñïûòàíèé, â êîòîðûõ ïðèñóòñòâóþò ðîâíî äâå íåóäà÷è. Ðèñê òàêîâîãî
ñòàòèñòè÷åñêîãî ïðàâèëà ñòàíîâèòñÿ ðàâíûì
Ã
P
10
X
!
Xk ≥ 8
= p10 + C 110 p 9 (1 − p) + C 210 p 8 (1 − p)2 ,
1
è ïðè p = 1/2 ýòà âåðîÿòíîñòü ðàâíà 2−10 (1 + 10 + 45) = 56/1024 ≈ 0.05.
Ýòî êàê ðàç ñîîòâåòñòâóåò ïðèíÿòîé â ìåäèöèíå íîðìå ðèñêà ñòàòèñòè÷åñêîãî ïðàâèëà. Èòàê, ìû ðåêîìåíäóåì íîâóþ ìåòîäèêó ê äàëüíåéøåìó
èñïîëüçîâàíèþ â êëèíèêå, åñëè ëå÷åíèå íå áîëåå ÷åì äâóõ ïàöèåíòîâ èç
äåñÿòè îêàçàëîñü íåóäà÷íûì, è ïðèìåíåíèå òàêîãî ïðàâèëà â èñïûòàíèÿõ
äàëüíåéøèõ ìåòîäèê ìîæåò ïðèâåñòè ê ïðèíÿòèþ íåýôôåêòèâíîãî ìåòîäà
ëå÷åíèÿ â ñðåäíåì â ïÿòè ñëó÷àÿõ èç 100.
Ìû ðàññìîòðåëè äâå òèïè÷íûõ çàäà÷è ìàòåìàòè÷åñêîé ñòàòèñòèêè
îöåíêà ïàðàìåòðîâ è ïðîâåðêà ãèïîòåç. Åñòåñòâåííî, êðóã ïðîáëåì ìàòåìàòè÷åñêîé ñòàòèñòèêè íàìíîãî øèðå, íî ïðè íàäëåæàùåé òðàêòîâêå ïðîáëåì áîëüøèíñòâî èç íèõ ñâîäèòñÿ èëè ê çàäà÷å îöåíêè ïàðàìåòðîâ, èëè
ê çàäà÷å âûáîðà îäíîãî èç íåñêîëüêèõ àëüòåðíàòèâíûõ âûñêàçûâàíèé îá
èññëåäóåìîì îáúåêòå. Îïèðàÿñü íà ðàññìîòðåííûå ïðèìåðû, ìû ìîæåì òåïåðü ïðåäñòàâèòü äîñòàòî÷íî îáùóþ ñõåìó ñòàòèñòè÷åñêîãî âûâîäà.
168
Ëåêöèÿ 2
Ëþáîå ñòàòèñòè÷åñêîå èññëåäîâàíèå, ïðîâîäèìîå â ðàìêàõ ìàòåìàòè÷åñêîé ñòàòèñòèêè, íà÷èíàåòñÿ ñ îïèñàíèÿ îáúåêòà èññëåäîâàíèÿ è ôîðìàëèçàöèè ïðîñòðàíñòâà D ðåøåíèé d, îäíî èç êîòîðûõ ñòàòèñòèê ïðèíèìàåò
íà îñíîâå íàáëþäåíèé íåçàâèñèìûõ êîïèé ñëó÷àéíîé, âîçìîæíî âåêòîðíîé,
âåëè÷èíû X, õàðàêòåðèçóþùåé ñîñòîÿíèå îáúåêòà â ìîìåíò ïðîâåäåíèÿ íàáëþäåíèé. Òàê, â ïðèìåðå ñ àòòåñòàöèåé ïàðòèè äèçåëüíîãî òîïëèâà (îáúåêò èññëåäîâàíèÿ) D åñòü èíòåðâàë (0; 100) (íàïîìíèì, îáùåå ñîäåðæàíèå
ñåðû èçìåðÿåòñÿ â ïðîöåíòàõ ê âåñó ïðîáû), à â ïðèìåðå ñ îïðåäåëåíèåì
ýôôåêòèâíîñòè íîâîãî ìåòîäà ëå÷åíèÿ (îáúåêò èññëåäîâàíèÿ) ïðîñòðàíñòâî D ñîñòîèò èç äâóõ òî÷åê: d0 ðåøåíèå î íåýôôåêòèâíîñòè ìåòîäà
(ïðèíÿòèå íóëåâîé ãèïîòåçû) è d1 ðåøåíèå î âíåäðåíèè íîâîãî ìåòîäà
â ëå÷åáíóþ ïðàêòèêó (ïðèíÿòèå àëüòåðíàòèâíîé ãèïîòåçû).
Íàèáîëåå âàæíîé è, ïî-âèäèìîìó, íàèáîëåå ñëîæíîé ÷àñòüþ ñòàòèñòè÷åñêîãî èññëåäîâàíèÿ ÿâëÿåòñÿ ýòàï ïîñòðîåíèÿ âåðîÿòíîñòíîé ìîäåëè,
êîòîðûé ñîñòîèò â ñïåöèôèêàöèè ñåìåéñòâà P = {P θ , θ ∈ Θ} âîçìîæíûõ
ðàñïðåäåëåíèé íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X. Ýòîò ýòàï ñâÿçàí ñ
äîñòàòî÷íî ãëóáîêèì ïðîíèêíîâåíèåì â ïðèðîäó èññëåäóåìîãî îáúåêòà è
ìåòîäà íàáëþäåíèé X, îäíîé ìàòåìàòèêîé çäåñü, êàê ïðàâèëî, íå îáîéäåøüñÿ. Ñåìåéñòâî P èíäåêñèðóåòñÿ àáñòðàêòíûì ïàðàìåòðîì θ, ñîâîêóïíîñòü çíà÷åíèé êîòîðîãî Θ íàçûâàåòñÿ ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì.
 ïåðâîì ïðèìåðå ìû âûÿñíèëè, ÷òî ñåìåéñòâî âîçìîæíûõ ðàñïðåäåëåíèé X åñòü ñåìåéñòâî íîðìàëüíûõ ðàñïðåäåëåíèé N (µ, σ 2 ) ñ äâóìåðíûì
ïàðàìåòðîì θ = (µ, σ) è ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì Θ = R × R+ .
 äàëüíåéøåì ìû ïðåäïîëîæèëè, ÷òî çíà÷åíèå σ èçâåñòíî, è ñâåëè íàøå ïàðàìåòðè÷åñêîå ïðîñòðàíñòâî ê ýâêëèäîâîé ïðÿìîé: Θ = R ñ θ = µ.
Íàêîíåö, ïîñêîëüêó îáùåå ñîäåðæàíèå ñåðû èçìåðÿåòñÿ â ïðîöåíòàõ, ìû
äîëæíû îêîí÷àòåëüíî ïîëîæèòü Θ = (0; 100.).
Âî âòîðîì ïðèìåðå ìû èìåëè äåëî ñ áèíàðíîé ñëó÷àéíîé âåëè÷èíîé X,
ïðèíèìàþùåé çíà÷åíèå 1 ñ âåðîÿòíîñòüþ p è çíà÷åíèå 0 ñ âåðîÿòíîñòüþ
1 − p. Òàêèì îáðàçîì, âåðîÿòíîñòíàÿ ìîäåëü ïðåäñòàâëÿëàñü ñåìåéñòâîì
äâóõòî÷å÷íûõ ðàñïðåäåëåíèé B(1, p) ñ θ = p è ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì Θ = (0; 1).
Ñëåäóþùèé ýòàï ñòàòèñòè÷åñêîãî èññëåäîâàíèÿ ñîñòîèò â èíòåðïðåòàöèè ðåøåíèé d â òåðìèíàõ âûñêàçûâàíèé î ñîîòâåòñòâóþùèõ ýòîìó ðåøåíèþ çíà÷åíèÿõ ïàðàìåòðà θ. Ýòî íåîáõîäèìî ñäåëàòü, åñëè ìû ïîñòàâèëè
169
ñåáå çàäà÷ó êîëè÷åñòâåííîãî èçìåðåíèÿ ïîñëåäñòâèé îò ïðèíÿòèÿ íåâåðíûõ ðåøåíèé, â íàøèõ ïðèìåðàõ ðèñê èñïîëüçóåìûõ ïðàâèë ïðåäñòàâëÿë
ñîáîé ôóíêöèþ îò θ. Íåòðóäíî ïîíÿòü, ÷òî â ïåðâîì ïðèìåðå D = Θ, à
âî âòîðîì ïðèìåðå ðåøåíèþ d0 î íåýôôåêòèâíîñòè ìåòîäà ñîîòâåòñòâóåò
ïîäìíîæåñòâî ïàðàìåòðè÷åñêîãî ïðîcòðàíñòâà (0; 1/2 ], à àëüòåðíàòèâíîìó ðåøåíèþ d1 îá èñïîëüçîâàíèè íîâîé ìåòîäèêè ñîîòâåòñòâóåò èíòåðâàë
(1/2; 1) âîçìîæíûõ çíà÷åíèé ïàðàìåòðà θ = p. Èìåííî òàêèì îáðàçîì
ìû ñâîäèì êîíêðåòíûå çàäà÷è ïî àòòåñòàöèè ïàðòèè äèçåëüíîãî òîïëèâà
è âûÿâëåíèþ ýôôåêòèâíîñòè íîâîãî ìåòîäà ëå÷åíèÿ ê àáñòðàêòíûì çàäà÷àì ìàòåìàòè÷åñêîé ñòàòèñòèêè îöåíêå ïàðàìåòðà (ñðåäíåãî çíà÷åíèÿ)
θ íîðìàëüíîãî (θ, σ 2 ) ðàñïðåäåëåíèÿ è, ñîîòâåòñòâåííî, ðàçëè÷åíèþ äâóõ
ãèïîòåç H0 : θ ∈ (0; 1/2 ] è H1 : θ ∈ (1/2; 1) î âåëè÷èíå âåðîÿòíîñòè θ
óñïåøíîãî èñïûòàíèÿ â ñõåìå Áåðíóëëè.
Ïàðàìåòðè÷åñêàÿ èíòåðïðåòàöèÿ ðåøåíèé ïîçâîëÿåò ñòàòèñòèêó çàäàòü
ïîòåðè L(θ, d), êîòîðûå îí íåñåò îò ïðèíÿòèÿ ðåøåíèÿ d, êîãäà θ ïðåäñòàâëÿåò èñòèííîå çíà÷åíèå ïàðàìåòðà. Ñðåäíåå çíà÷åíèå ýòèõ ïîòåðü â
äëèííîì ðÿäó îäíîòèïíûõ ñòàòèñòè÷åñêèõ èññëåäîâàíèé ñ îäíèì è òåì
æå ïðàâèëîì ïðèíÿòèÿ ðåøåíèÿ îïðåäåëÿåò âåëè÷èíó ðèñêà, ñâÿçàííóþ
ñ ïðèíÿòèåì íåïðàâèëüíûõ ðåøåíèé. Òàê, â íàøèõ ïðèìåðàõ ðèñê îïðåäåëÿëñÿ âåðîÿòíîñòüþ ïðèíÿòèÿ ðåøåíèÿ, îòñòîÿùåãî äîñòàòî÷íî äàëåêî
îò òîãî ðåøåíèÿ, êîòîðîå ñîîòâåñòâîâàëî èñòèííîìó çíà÷åíèþ ïàðàìåòðà,
è, ñëåäîâàòåëüíî, ôóíêöèÿ ïîòåðü îïðåäåëÿëàñü èíäèêàòîðîì íåêîòîðîãî
ïîäìíîæåñòâà â Θ × D. Ýòî òàê íàçûâàåìûå ôóíêöèè ïîòåðü òèïà 01. Â
ïåðâîì ïðèìåðå L(θ, d) = 1, åñëè | d − θ | > ∆, è L(θ, d) = 0 â ïðîòèâíîì
ñëó÷àå. Âî âòîðîì ïðèìåðå L(θ, d) = 1, åñëè ïðèíèìàëîñü ðåøåíèå d1 , à
θ ∈ (0; 1/2 ], èëè ïðèíèìàëîñü d0 , à θ ∈ (1/2; 1), â îñòàëüíûõ òî÷êàõ ïðîèçâåäåíèÿ ïðîñòðàíñòâ Θ × D ïîòåðè L(θ, d) ïîëàãàëèñü ðàâíûìè íóëþ.
Îòìåòèì, ÷òî â çàäà÷å îöåíêè ïàðàìåòðîâ äîâîëüíî ÷àñòî èñïîëüçóåòñÿ
êâàäðàòè÷íàÿ ôóíêöèÿ ïîòåðü L(θ, d) = | d − θ |2 .
Êàæäîå èç ðåøåíèé d ñòàòèñòèê ïðèíèìàåò íà îñíîâå ðåçóëüòàòà x(n) =
x1 , . . . , xn íàáëþäåíèé íàä íåçàâèñèìûìè êîïèÿìè X (n) = (X1 , . . . , Xn ) ñëó÷àéíîé âåëè÷èíû X. Ñòðîèòñÿ èçìåðèìîå îòîáðàæåíèå δ = δ(·) ïðîñòðàíñòâà âîçìîæíûõ çíà÷åíèé X (n) â ïðîñòðàíñòâî ðåøåíèé D, ñ ïîìîùüþ êîòîðîãî ïðèíèìàåòñÿ ðåøåíèå d = δ(x(n) ). Ýòî îòîáðàæåíèå íàçûâàåòñÿ ðåøàþùåé ôóíêöèåé èëè ñòàòèñòè÷åñêèì ïðàâèëîì. Òàê, â ïåðâîì ïðèìåðå
170
δ(X (n) ) = X, à âî âòîðîì
Xn
d0 , åñëè
Xk < 8,
1
(n)
δ(X ) =
Xn
d , åñëè
Xk ≥ 8 .
1
1
Ïîñëåäñòâèÿ îò èñïîëüçîâàíèÿ êîíêðåòíîé ðåøàþùåé ôóíêöèè â äëèííîì ðÿäó îäíîòèïíûõ ñòàòèñòè÷åñêèõ èññëåäîâàíèé îïðåäåëÿþòñÿ âåëè÷èíîé ñðåäíèõ ïîòåðü R(θ; δ) = Eθ L(θ, δ(X (n) )), êîòîðàÿ çàâèñèò îò θ;
ôóíêöèÿ R(θ, δ), θ ∈ Θ, íàçûâàåòñÿ ôóíêöèåé ðèñêà.
Îñíîâíàÿ ïðîáëåìà ìàòåìàòè÷åñêîé ñòàòèñòèêè ñîñòîèò â ïîñòðîåíèè ðåøàþùèõ ôóíêöèé δ , ìèíèìèçèðóþùèõ ðàâíîìåðíî ïî θ ∈ Θ ôóíêöèþ ðèñêà R(θ; δ). Ìû áóäåì ðåøàòü ýòó ïðîáëåìó äëÿ çàäà÷ îöåíêè ïàðàìåòðîâ è ïðîâåðêè ãèïîòåç. Åñòåñòâåííî, áóäóò òàêæå èçó÷àòüñÿ òðàäèöèîííûå, âîçìîæíî íå îáëàäàþùèå îïòèìàëüíûìè ñâîéñòâàìè, ñòàòèñòè÷åñêèå ïðàâèëà, è â ýòîì ñëó÷àå íàøåé îñíîâíîé çàäà÷åé áóäåò âû÷èñëåíèå
èõ ôóíêöèé ðèñêà.
Ïðåäñòàâëåííàÿ âûøå ñõåìà ñòàòèñòè÷åñêîãî âûâîäà âåñüìà äàëåêà îò
îáùíîñòè. Áîëüøèíñòâî ñòàòèñòè÷åñêèõ çàäà÷ èìååò äåëî ñ íàáëþäåíèÿìè
îäíîâðåìåííî çà íåñêîëüêèìè îáúåêòàìè, íàïðèìåð, íîâûé ìåòîä ëå÷åíèÿ
ïðèìåíÿåòñÿ ê îäíîé ãðóïïå ïàöèåíòîâ, â òî âðåìÿ êàê äðóãàÿ ïîäâåðãàåòñÿ
ëå÷åíèþ òðàäèöèîííûì ìåòîäîì, è ïî äàííûì íàáëþäåíèé êîïèé äâóõ ñëó÷àéíûõ âåëè÷èí äåëàåòñÿ âûâîä î ïðåäïî÷òèòåëüíîñòè íîâîãî ìåòîäà. Åñëè
ìû õîòèì ñîêðàòèòü ÷èñëî íàáëþäåíèé, íåîáõîäèìîå äëÿ äîñòèæåíèÿ çàäàííîé (ìàëîé) âåëè÷èíû ðèñêà, òî öåëåñîîáðàçíî íå ôèêñèðîâàòü çàðàíåå
n, à ïëàíèðîâàòü ïðåêðàùåíèå èñïûòàíèé ïîñëå íàáëþäåíèÿ êàæäîé êîïèè â çàâèñèìîñòè îò ïîëó÷åííûõ ðàíåå ðåçóëüòàòîâ. Ñóùåñòâóåò áîëüøîé
êëàññ çàäà÷ óïðàâëåíèÿ íàáëþäåíèÿìè îïòèìàëüíîãî âûáîðà ñëó÷àéíîé
âåëè÷èíû, íàáëþäàåìîé íà êàæäîì øàãå ñòàòèñòè÷åñêîãî ýêñïåðèìåíòà, à
òàêæå ïðàâèëà ïðåêðàùåíèÿ íàáëþäåíèé. Âñå ýòî äàëåêî âûõîäèò çà ðàìêè òåõ êðàòêèõ íà÷àòêîâ òåîðèè ñòàòèñòè÷åñêèõ âûâîäîâ, êîòîðûå áóäóò
ïðåäñòàâëåíû â íàøåì ñåìåñòðîâîì êóðñå.
Ìû çàâåðøèì ýòîò ïàðàãðàô íàáîðîì ïðîñòåéøèõ îïðåäåëåíèé è ïîíÿòèé, êîòîðûå ïîñòîÿííî èñïîëüçóþòñÿ â ìàòåìàòè÷åñêîé ñòàòèñòèêå.
Èòàê, ñ èññëåäóåìûì îáúåêòîì, îòíîñèòåëüíî êîòîðîãî ìû äîëæíû ïðèíÿòü íåêîòîðîå ðåøåíèå d ∈ D, ñîîòíîñèòñÿ íàáëþäàåìàÿ ñëó÷àéíàÿ âåëè÷èíà X, ðàñïðåäåëåíèå êîòîðîé Pθ èçâåñòíî ñ òî÷íîñòüþ äî çíà÷åíèÿ ïàðàìåòðà θ. Ñåìåéñòâî ðàñïðåäåëåíèé P = {P θ , θ ∈ Θ}, êàê îáû÷íî, íàçû171
âàåòñÿ âåðîÿòíîñòíîé ìîäåëüþ. Ïóñòü (X, A) èçìåðèìîå ïðîñòðàíñòâî
çíà÷åíèé X.  äàëüíåéøåì áóäåò âñåãäà ïðåäïîëàãàòüñÿ, ÷òî íà ñèãìààëãåáðå A ñóùåñòâóåò òàêàÿ ñèãìà-êîíå÷íàÿ ìåðà µ, ÷òî ïðè ëþáîì θ ∈ Θ
ðàñïðåäåëåíèå X ìîæíî ïðåäñòàâèòü â âèäå èíòåãðàëà
Z
P θ (A) = P(X ∈ A) =
f (x | θ) dµ(x), A ∈ A,
A
îò ïëîòíîñòè f (x | θ) ðàñïðåäåëåíèÿ X ïî ìåðå µ.  òàêîì ñëó÷àå ðàñïðåäåëåíèå íåçàâèñèìûõ êîïèé X (n) = (X1 , . . . , Xn ) ñëó÷àéíîé âåëè÷èíû X íà
ïðîèçâåäåíèè (Xn , An ) èçìåðèìûõ ïðîñòðàíñòâ (X, A) îïðåäåëÿåòñÿ ôóíêöèåé ïëîòíîñòè
fn (x
(n)
| θ) =
n
Y
f (xk | θ)
k=1
ïî ìåðå µn = µ × · · · × µ, òî åñòü
|
{z
}
n
Z
P θ,n (An ) = P(X (n) ∈ An ) =
fn (x(n) | θ) dµn (x(n) ), An ∈ An .
An
Îïðåäåëåíèå 1.1. Âåêòîð X (n) = (X1 , . . . , Xn ) íåçàâèñèìûõ, îäèíà-
êîâî ðàñïðåäåëåííûõ ïî òîìó æå çàêîíó, ÷òî è íàáëþäàåìàÿ ñëó÷àéíàÿ âåëè÷èíà X, ñëó÷àéíûõ âåëè÷èí íàçûâàåòñÿ ñëó÷àéíîé âûáîðêîé îáúåìà n.
Èçìåðèìîå ïðîñòðàíñòâî (Xn , An ) çíà÷åíèé X (n) íàçûâàåòñÿ âûáîðî÷íûì
ïðîñòðàíñòâîì, à ñåìåéñòâî ðàñïðåäåëåíèé Pn = {P θ,n , θ ∈ Θ} íà ýòîì
ïðîñòðàíñòâå ñòàòèñòè÷åñêîé ñòðóêòóðîé èëè ñòàòèñòè÷åñêèì ýêñïåðèìåíòîì. Âåêòîð x(n) = (x1 , . . . , xn ) ðåçóëüòàòîâ íàáëþäåíèÿ ñëó÷àéíîé âûáîðêè X (n) íàçûâàåòñÿ âåêòîðîì (èëè ñîâîêóïíîñòüþ) âûáîðî÷íûõ
äàííûõ.
Çíàÿ ðàñïðåäåëåíèå âûáîðêè, ìû ìîæåì âû÷èñëÿòü ðèñê ëþáîãî ñòàòèñòè÷åñêîãî ïðàâèëà δ ñ ïîìîùüþ n-êðàòíîãî èíòåãðàëà
Z
R(θ; δ) =
Z
L(θ, δ(x(n) ))fn (x(n) | θ) dµn (x(n) ).
...
X
X
Êîíå÷íî, åñëè óäàñòñÿ íàéòè ðàñïðåäåëåíèå Gθ ðåøàþùåé ôóíêöèè δ íà
èçìåðèìîì ïðîñòðàíñòâå ðåøåíèé (D, D), òî âû÷èñëåíèå ðèñêà óïðîùàåòñÿ:
Z
R(θ; δ) =
L(θ, a) dG(a).
D
172
Òàê, â ïåðâîì ïðèìåðå ñ âûáîðêîé èç íîðìàëüíîãî (µ, σ 2 ) ðàñïðåäåëåíèÿ
ðåøàþùåé ôóíêöèåé ñëóæèëî âûáîðî÷íîå ñðåäíåå X. Áûëî ïîêàçàíî, ÷òî
X èìååò íîðìàëüíîå (µ, σ 2 ) ðàñïðåäåëåíèå, è èìåííî ýòî îáñòîÿòåëüñòâî
ïîçâîëèëî íàì íàéòè ïðîñòîå âûðàæåíèå ðèñêà ñòàòèñòè÷åñêîãî ïðàâèëà
÷åðåç ôóíêöèþ ðàñïðåäåëåíèÿ ñòàíäàðòíîãî íîðìàëüíîãî çàêîíà. Òî÷íî
òàê æå âî âòîðîì ïðèìåðå ñ âûáîðîì èç äâóõòî÷å÷íîãî ðàñïðåäåëåíèÿ
Xn
B(1, p) ðåøàþùàÿ ôóíêöèÿ áûëà îñíîâàíà íà ñëó÷àéíîé âåëè÷èíå
Xk ,
1
êîòîðàÿ èìååò ðàñïðåäåëåíèå Áåðíóëëè B(n, p). Ðèñê íàøåãî ðåøàþùåãî
ïðàâèëà ïî âûÿâëåíèþ ýôôåêòèâíîñòè ìåòîäà ëå÷åíèÿ âûðàæàëñÿ ÷åðåç
ôóíêöèþ ðàñïðåäåëåíèÿ B(n, p).
Çàìåòèì, ÷òî ôóíêöèè îò âûáîðî÷íîãî âåêòîðà X (n) èãðàþò âàæíóþ,
ìîæíî äàæå ñêàçàòü ñàìîñòîÿòåëüíóþ, ðîëü â ìàòåìàòè÷åñêîé ñòàòèñòèêå.
Îïðåäåëåíèå 1.2. Ëþáîå èçìåðèìîå îòîáðàæåíèå T = T (X (n) ) âûáî-
ðî÷íîãî ïðîñòðàíñòâà (Xn , An ) â íåêîòîðîå èçìåðèìîå ïðîñòðàíñòâî (T, B)
íàçûâàåòñÿ ñòàòèñòèêîé.
Ñóùåñòâóåò äîâîëüíî óñòîÿâøèéñÿ óíèâåðñàëüíûé íàáîð ñòàòèñòèê, ïîñòîÿííî èñïîëüçóåìûõ â òåîðèè è ïðàêòèêå ñòàòèñòè÷åñêîãî âûâîäà; ðàñïðåäåëåíèÿ ýòèõ ñòàòèñòèê èíòåíñèâíî èçó÷àëèñü íà ïðîòÿæåíèè ïîñëåäíèõ äâóõ ñòîëåòèé.  ñëåäóþùåì ïàðàãðàôå ìû ïîçíàêîìèìñÿ ñ íàáîðîì
ñòàòèñòèê, êîòîðûå ÿâëÿþòñÿ âûáîðî÷íûìè àíàëîãàìè ñòàíäàðòíûõ õàðàêòåðèñòèê ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû, à òàêæå ðàññìîòðèì ñòàòèñòèêè, ðåäóöèðóþùèå ðàçìåðíîñòü âûáîðî÷íîãî âåêòîðà äî
ðàçìåðíîñòè ïàðàìåòðè÷åñêîãî ïðîñòðàíñòâà áåç ïîòåðè èíôîðìàöèè.
173
2. Âûáîðî÷íûå õàðàêòåðèñòèêè.
Äîñòàòî÷íûå ñòàòèñòèêè
Ëåêöèÿ 3
Ïîñòðîåíèå âåðîÿòíîñòíûõ ìîäåëåé â êóðñå òåîðèè âåðîÿòíîñòåé îñóùåñòâëÿëîñü ïîñðåäñòâîì ñïåöèôèêàöèè ôóíêöèè ðàñïðåäåëåíèÿ èëè ôóíêöèè ïëîòíîñòè íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X. Ëþáàÿ èç ýòèõ ôóíêöèé îäíîçíà÷íî îïðåäåëÿåò ðàñïðåäåëåíèå X íà ñèãìà-àëãåáðå A áîðåëåâñêèõ ìíîæåñòâ, ïîðîæäåííîé èíòåðâàëàìè â ïðîñòðàíñòâå X = R âîçìîæíûõ çíà÷åíèé X, è ñ èõ ïîìîùüþ âû÷èñëÿëèñü òàêèå õàðàêòåðèñòèêè ðàñïðåäåëåíèÿ, êàê ñðåäíåå, äèñïåðñèÿ, êîýôôèöèåíòû àñèììåòðèè è ýêñöåññà, êâàíòèëè, ìîäà è ïð.  ïðèêëàäíîé ñòàòèñòèêå ñóùåñòâóåò òðàäèöèÿ,
èëè, ìîæíî ñêàçàòü, îáÿçàòåëüíîå ïðàâèëî, ïðåäñòàâëÿòü ïîëó÷åííûå ýêñïåðèìåíòàëüíûå äàííûå ñ ïîìîùüþ ñòàòèñòèê âûáîðî÷íûõ àíàëîãîâ ýòèõ
ôóíêöèé è õàðàêòåðèñòèê ðàñïðåäåëåíèÿ X. Âûáîðî÷íûå õàðàêòåðèñòèêè
ÿâëÿþòñÿ îöåíêàìè èñòèííûõ çíà÷åíèé ñâîèõ ïðîîáðàçîâ è ïîçâîëÿþò ñóäèòü â îáùèõ ÷åðòàõ î õàðàêòåðå ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé
âåëè÷èíû.
Òàêàÿ îïèñàòåëüíàÿ ñòàòèñòèêà îáû÷íî íà÷èíàåòñÿ ñ ïîñòðîåíèÿ âàðèàöèîííîãî ðÿäà: âûáîðî÷íûå äàííûå x1 , . . . , xn óïîðÿäî÷èâàþòñÿ ïî âîçðàñòàíèþ èõ çíà÷åíèé x(1) ≤ . . . ≤ x(n) , è ïîëó÷åííûé òàêèì îáðàçîì
âåêòîð ñ íåóáûâàþùèìè êîìïîíåíòàìè ñëóæèò ðåàëèçàöèåé ñëó÷àéíîãî
âåêòîðà X(1) , . . . , X(n) , êîòîðûé, ñîáñòâåííî, è ñëåäóåò íàçûâàòü âàðèàöèîííûì ðÿäîì. Êîìïîíåíòû âàðèàöèîííîãî ðÿäà íàçûâàþòñÿ ïîðÿäêîâûìè
ñòàòèñòèêàìè, à X(1) è X(n) êðàéíèìè ÷ëåíàìè âàðèàöèîííîãî ðÿäà.
Ìû óæå ñòàëêèâàëèñü ñ ïîðÿäêîâûìè ñòàòèñòèêàìè, êîãäà èçó÷àëè ñòðóêòóðó ïóàññîíîâñêîãî ïðîöåññà è ñòðîèëè âåðîÿòíîñòíóþ ìîäåëü ñëàáîãî
çâåíà (ðàñïðåäåëåíèå Âåéáóëëà).
Óïîðÿäî÷åííûå äàííûå íàíîñÿòñÿ íà îñü àáñöèññ, è ñòðîèòñÿ ñòóïåí÷àòàÿ ôóíêöèÿ, âîçðàñòàþùàÿ ñêà÷êàìè âåëè÷èíû 1/n â êàæäîé òî÷êå
x(1) , . . . , x(n) . Ïîñòðîåííàÿ òàêèì îáðàçîì äèñêðåòíàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ ÿâëÿåòñÿ ðåàëèçàöèåé ñëó÷àéíîé ôóíêöèè
n
1X
Fn (x) =
I(Xk < x)
n
k=1
(I(A), êàê îáû÷íî, èíäèêàòîð ñîáûòèÿ A) è íàçûâàåòñÿ ýìïèðè÷åñêîé ôóíêöèåé ðàñïðåäåëåíèÿ.
174
1
¾
¾
¾
¾
¾
x(1)
x(2)
x(3)
x(4) x(5)
x(6)
Òàêèì îáðàçîì, äèñêðåòíîå ýìïèðè÷åñêîå ðàñïðåäåëåíèå ïðèïèñûâàåò
ðàâíûå âåðîÿòíîñòè 1/n êàæäîé èç n êîìïîíåíò âûáîðî÷íîãî âåêòîðà, è
ïðè êàæäîì ôèêñèðîâàííîì x ∈ R ñëó÷àéíàÿ âåëè÷èíà nFn (x) ïîä÷èíÿåòñÿ áèíîìèàëüíîìó ðàñïðåäåëåíèþ B(n, F (x)) :
P (Fn (x) = k/n) = Ckn F k (x)(1 − F (x))n−k , k = 0, 1, . . . , n.
 ñèëó çàêîíà áîëüøèõ ÷èñåë Áåðíóëëè Fn → F (x) ïðè ëþáîì x ∈ R.
P
Áîëåå òîãî, òåîðåìà ÃëèâåíêîÊàíòåëëè, óòâåðæäåíèå êîòîðîé
Dn = sup | Fn (x) − F (x) | → 0
P
x∈R
ìû ïðèâîäèì áåç äîêàçàòåëüñòâà, óêàçûâàåò íà ðàâíîìåðíîñòü ýòîé ñõîäèìîñòè íà âñåé ÷èñëîâîé îñè R.
Ìû çàêîí÷èì îáñóæäåíèå ñâîéñòâ ýìïèðè÷åñêîé ôóíêöèè ðàñïðåäåëåíèÿ ôîðìóëèðîâêîé øèðîêî èçâåñòíîãî ðåçóëüòàòà À.Í. Êîëìîãîðîâà:
+∞
X
√
2 2
lim P ( nDn < x) =
(−1)k e−k x .
n→∞
k=−∞
Ïîëó÷åííàÿ èì ôîðìóëà äëÿ àñèìïòîòè÷åñêîãî (n → ∞) ðàñïðåäåëåíèÿ
√
ñòàòèñòèêè nDn , õàðàêòåðèçóþùåé âåëè÷èíó ðàñõîæäåíèÿ ìåæäó òåîðåòè÷åñêèì F è ýìïèðè÷åñêèì Fn ðàñïðåäåëåíèÿìè, èñïîëüçóåòñÿ äëÿ ïîñòðîåíèÿ êðèòåðèÿ ñîãëàñèÿ âûáîðî÷íûõ äàííûõ ñ ïðåäïîëîæåíèåì, ÷òî
F ÿâëÿåòñÿ èñòèííîé ôóíêöèåé ðàñïðåäåëåíèÿ, èç êîòîðîãî èçâëåêàåòñÿ
âûáîðêà (ãèïîòåçîé î òîì, ÷òî F åñòü ôóíêöèÿ ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X ).
Èòàê, ìû óñòàíîâèëè, ÷òî ýìïèðè÷åñêîå ðàñïðåäåëåíèå ñõîäèòñÿ ïî âåðîÿòíîñòè ê èñòèííîìó (èëè, êàê îáû÷íî ãîâîðÿò ïðèêëàäíèêè, òåîðåòè÷åñêîìó) ðàñïðåäåëåíèþ, è òåïåðü ìîæåì îáðàòèòüñÿ ê âû÷èñëåíèþ ìîìåíòíûõ
175
è êâàíòèëüíûõ õàðàêòåðèñòèê ðàñïðåäåëåíèÿ Fn . Åãî íåöåíòðàëüíûå
Z
ak =
R
è öåíòðàëüíûå
Z
n
1X k
X
x dFn (x) =
n i=1 i
k
n
1X
(x − a1 ) dFn (x) =
(Xi − a1 )k
n i=1
k
mk =
R
ìîìåíòû ñëóæàò âûáîðî÷íûìè àíàëîãàìè ñîîòâåòñòâóþùèõ òåîðåòè÷åñêèõ
ìîìåíòîâ αk , k = 1, 2 . . . , è µk , k = 2, 3, . . . , è íàçûâàþòñÿ âûáîðî÷íûìè
ìîìåíòàìè.
Åñëè òåîðåòè÷åñêèå ìîìåíòû ñóùåñòâóþò, òî â ñèëó çàêîíà áîëüøèõ ÷èñåë âûáîðî÷íûå ìîìåíòû ñõîäÿòñÿ ïî âåðîÿòíîñòè ê ñâîèì òåîðåòè÷åñêèì
ïðîîáðàçàì. Ñðåäè âûáîðî÷íûõ ìîìåíòîâ îñîáîå ìåñòî çàíèìàþò ìîìåíòû
ïåðâîãî è âòîðîãî ïîðÿäêîâ. Âûáîðî÷íûé ìîìåíò a1 íàçûâàåòñÿ âûáîðî÷íûì ñðåäíèì è èìååò ñïåöèàëüíîå îáîçíà÷åíèå X; âûáîðî÷íàÿ äèñïåðñèÿ
2
m2 = a2 − X îáû÷íî îáîçíà÷àåòñÿ S 2 . Ñîîòâåòñòâóþùèì îáðàçîì îïðåäåëÿþòñÿ âûáîðî÷íûé êîýôôèöèåíò àñèììåòðèè g1 = m3 /S 3 è âûáîðî÷íûé
êîýôôèöèåíò ýêñöåññà g2 = m4 /S 4 − 3.
Ïðè âûáîðå èç m-ìåðíîãî, m > 1, ðàñïðåäåëåíèÿ ýìïèðè÷åñêîå ðàñïðåäåëåíèå òàêæå ïðèïèñûâàåò ìàññó n−1 êàæäîìó âûáîðî÷íîìó (âåêòîðíîìó) çíà÷åíèþ Xi = (X1i , . . . , Xmi ), i = 1, . . . , n.  ñîîòâåòñòâèè ñ ýòèì
ìû ìîæåì îïðåäåëèòü âåêòîð âûáîðî÷íûõ ñðåäíèõ X = (X 1 , . . . , X m ) ñ
êîìïîíåíòàìè
n
Xk =
1X
Xki , k = 1, . . . , m,
n i=1
âûáîðî÷íóþ êîâàðèàöèîííóþ ìàòðèöó S = k Skj k ñ ýëåìåíòàìè
n
Skj
n
1X
1X
=
(Xki − X k )(Xji − X j ) =
Xki Xji − X k X j , k, j = 1, . . . , m,
n i=1
n i=1
è ìàòðèöó âûáîðî÷íûõ
êîýôôèöèåíòîâ êîððåëÿöèè R = k rkj k ñ ýëåìåíòàp
ìè rkj = Skj / Skk Sjj , k, j = 1, . . . , m. Ñìåøàííûå ìîìåíòû áîëåå âûñîêèõ
ïîðÿäêîâ â ìíîãîìåðíîì ñëó÷àå îáû÷íî íå âû÷èñëÿþòñÿ.
Åñëè âûáîð ïðîèñõîäèò èç ðàñïðåäåëåíèÿ, äëÿ êîòîðîãî ñïðàâåäëèâà
òåîðåìà ñëîæåíèÿ (ïðåäëîæåíèå 12.2 êóðñà ÒÂ), òî ðàñïðåäåëåíèå âûáîðî÷íîãî ñðåäíåãî óñòàíàâëèâàåòñÿ äîñòàòî÷íî ïðîñòî.  îáùåì æå ñëó÷àå
176
ìîæíî òîëüêî óòâåðæäàòü îá àñèìïòîòè÷åñêîé (n → ∞) íîðìàëüíîñòè
ýòîé ñòàòèñòèêè ïðè óñëîâèè ñóùåñòâîâàíèÿ âòîðîãî ìîìåíòà ó òåîðåòè÷åñêîãî ðàñïðåäåëåíèÿ. Àíàëîãè÷íîå óòâåðæäåíèå ñïðàâåäëèâî è äëÿ ìîìåíòîâ ëþáîãî k -ãî ïîðÿäêà, åñëè ó F (x) ñóùåñòâóåò ìîìåíò ïîðÿäêà 2k.
Îáðàòèìñÿ òåïåðü ê âûáîðî÷íûì àíàëîãàì êâàíòèëåé ðàñïðåäåëåíèÿ F
íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X. Íàïîìíèì, ÷òî äëÿ íåïðåðûâíîãî
ðàñïðåäåëåíèÿ êâàíòèëü ïîðÿäêà p îïðåäåëÿëàñü êàê ðåøåíèå xp óðàâíåíèÿ F (x) = p, à â ñëó÷àå äèñêðåòíîãî ðàñïðåäåëåíèÿ êàê íàèáîëüøåå
x = xp èç íîñèòåëÿ ðàñïðåäåëåíèÿ, ïðè êîòîðîì F (xp ) ≤ p. Ïîñêîëüêó ýìïèðè÷åñêîå ðàñïðåäåëåíèå äèñêðåòíî, è åãî ôóíêöèÿ ðàñïðåäåëåíèÿ Fn (·)
âîçðàñòàåò ñêà÷êàìè â òî÷êàõ, ñîîòâåòñòâóþùèõ êîìïîíåíòàì âàðèàöèîííîãî ðÿäà, òî âûáîðî÷íàÿ êâàíòèëü ïîðÿäêà p ïîëàãàåòñÿ ðàâíîé ïîðÿäêîâîé ñòàòèñòèêå X([ np ]) , ãäå [ x ], êàê îáû÷íî, îçíà÷àåò öåëóþ ÷àñòü x.
Åñòåñòâåííî, äëÿ ïîâûøåíèÿ òî÷íîñòè îöåíêè èñòèííîé êâàíòèëè xp ìîæíî ïðîâîäèòü èíòåðïîëÿöèþ ìåæäó ñòàòèñòèêàìè X([ np ]) è X([ np ]+1) . Òàê,
âûáîðî÷íàÿ¡ìåäèàíà, áóäó÷è êâàíòèëüþ
ïîðÿäêà p = 0.5, îáû÷íî îïðåäå¢
ëÿåòñÿ êàê X([ n/2 ]) + X([ n/2 ]+1) /2. ×òî æå êàñàåòñÿ îöåíêè ìîäû ðàñïðåäåëåíèÿ òî÷êè íàèáîëüøåãî ñãóùåíèÿ âûáîðî÷íûõ äàííûõ, òî çäåñü íàì
ïðèäåòñÿ îáðàòèòüñÿ ê âûáîðî÷íûì àíàëîãàì ôóíêöèè ïëîòíîñòè.
Ïðè áîëüøèõ îáúåìàõ íàáëþäåíèé âûáîðî÷íûå äàííûå îáû÷íî ïîäâåðãàþòñÿ ãðóïïèðîâêå, ïðè ýòîì èíäèâèäóàëüíûå âûáîðî÷íûå çíà÷åíèÿ íå
ïðèâîäÿòñÿ, à óêàçûâàþòñÿ ëèøü êîëè÷åñòâà íàáëþäåíèé, ïîïàâøèõ â èíòåðâàëû íåêîòîðîãî ðàçáèåíèÿ ìíîæåñòâà X çíà÷åíèé íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû. Ïîÿñíèì ïðîöåäóðó ãðóïïèðîâêè íà ïðèìåðå âûáîðêè
èç íåïðåðûâíîãî îäíîìåðíîãî ðàñïðåäåëåíèÿ, êîãäà X = R.
 äåêàðòîâîé ñèñòåìå êîîðäèíàò îñü àáñöèññ ðàçáèâàåòñÿ íà r ≥ 2 èíòåðâàëîâ (−∞, a1 ], (a1 , a2 ], . . . , (ar−2 , ar−1 ], (ar−1 , +∞), ïðè÷åì âíóòðåííèå èíòåðâàëû âûáèðàþòñÿ, êàê ïðàâèëî, îäèíàêîâîé äëèíû: ai − ai−1 =
∆, i = 2, . . . , r − 1. Âûáîðî÷íûå äàííûå ñîðòèðóþòñÿ ïî èíòåðâàëàì ðàçáèåíèÿ è ïîäñ÷èòûâàþòñÿ ÷àñòîòû ni , i = 1, . . . , r ïîïàäàíèÿ äàííûõ â
êàæäûé èíòåðâàë. Íàä êàæäûì âíóòðåííèì èíòåðâàëîì ðèñóåòñÿ ïðÿìîóãîëüíèê âûñîòû ni /n∆, òàê ÷òî ïëîùàäü ni /n êàæäîãî ïðÿìîóãîëüíèêà ñ
íîìåðîì i = 2, . . . , r−1 ñëóæèò ðåàëèçàöèåé ÷àñòîòíîé îöåíêè νi /n âåðîÿòíîñòè ïîïàäàíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X â ñîîòâåòñòâóþùèé
èíòåðâàë. Çäåñü νi ñòàòèñòèêà, êîòîðóþ ìîæíî çàïèñàòü ñ ïîìîùüþ èíäèêàòîðîâ ñîáûòèé Aij = {Xj ∈ (ai−1 , ai ]}, i = 1, . . . , r, a0 = −∞, ar =
177
Xn
+∞, j = 1, . . . , n, à èìåííî νi =
I(Aij ). Ïîëó÷åííàÿ òàêèì îáðàj=1
çîì ñëó÷àéíàÿ ñòóïåí÷àòàÿ ôóíêöèÿ, ïðèíèìàþùàÿ íóëåâûå çíà÷åíèÿ íà
êðàéíèõ èíòåðâàëàõ (−∞, a1 ], (ar−1 , +∞) è ðàâíàÿ νi /n∆ íà âíóòðåííèõ
èíòåðâàëàõ ñ íîìåðàìè i = 2, . . . , r − 1, íàçûâàåòñÿ ãèñòîãðàììíîé îöåíêîé fn ôóíêöèè ïëîòíîñòè f (x), x ∈ R ðàñïðåäåëåíèÿ X, à åå ðåàëèçàöèÿ
(νi çàìåíÿþòñÿ íà íàáëþäàåìûå ÷àñòîòû ni , i = 1, . . . , r) ãèñòîãðàììîé
âûáîðêè x(n) .
43
25
23
5
4
-2.5
-1.5
-0.5
0.5
1.5
2.5
 ìàòåìàòè÷åñêîé ñòàòèñòèêå ñóùåñòâóåò ðÿä òåîðåì, óñòàíàâëèâàþùèõ,
÷òî ïðè îïðåäåëåííûõ óñëîâèÿõ íà ïëîòíîñòü f, ãèñòîãðàììíàÿ îöåíêà
fn (x) → f (x) ïðè ëþáîì x ∈ R, åñëè n → ∞ è îäíîâðåìåííî r → ∞, à
P
∆ → 0 ñî ñêîðîñòüþ, çàâèñÿùåé îïðåäåëåííûì îáðàçîì îò n è r.
 ñëó÷àå ãèñòîãðàììíîé îöåíêè ôóíêöèè ïëîòíîñòè åñòåñòâåííî ñ÷èòàòü
âûáîðî÷íûì àíàëîãîì (îöåíêîé) ìîäû ðàñïðåäåëåíèÿ X ñåðåäèíó èíòåðâàëà ðàçáèåíèÿ, â êîòîðîì ãèñòîãðàììà ïðèíèìàåò íàèáîëüøåå çíà÷åíèå.
Çàìåòèì òàêæå, ÷òî âåêòîð ÷àñòîò (ν1 , . . . , νr ) èìååò ìóëüòèíîìèàëüíîå
ðàñïðåäåëåíèå M(r, n, p) ñ âåðîÿòíîñòÿìè èñõîäîâ pi = F (ai )−F (ai−1 ), i =
1, . . . , r, ÷òî ïîçâîëÿåò íàéòè ðàñïðåäåëåíèå îöåíêè fn (x) ïðè ëþáîì x ∈ R
è ïîñòðîèòü êðèòåðèé ñîãëàñèÿ âûáîðî÷íûõ äàííûõ ñ ãèïîòåçîé î âèäå ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû. Ýòî øèðîêî èñïîëüçóåìûé
íà ïðàêòèêå êðèòåðèé õè-êâàäðàò, îñíîâàííûé íà ñòàòèñòèêå (ñðàâíèòå ñ
êðèòåðèåì Êîëìîãîðîâà Dn )
2
X =
r
X
(νi − npi )2
npi
1
.
Àñèìïòîòè÷åñêîå ðàñïðåäåëåíèå ýòîé ñòàòèñòèêè ìû èçó÷èì â ïàðàãðàôå,
ïîñâÿùåííîì ñòàòèñòè÷åñêîé ïðîâåðêå ãèïîòåç.
178
Èòàê, ìû ðàññìîòðåëè îñíîâíûå âûáîðî÷íûå àíàëîãè ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû è åãî îñíîâíûõ õàðàêòåðèñòèê. Ìû âûñêàçàëè òàêæå ðÿä óòâåðæäåíèé î ðàñïðåäåëåíèè ýòèõ ñòàòèñòèê, ÷òî ïîçâîëèò íàì â ïîñëåäóþùåì âû÷èñëÿòü ïîñëåäñòâèÿ îò èõ èñïîëüçîâàíèÿ â
êà÷åñòâå ðåøàþùèõ ôóíêöèé. Äëÿ òîãî, ÷òîáû óÿñíèòü, íàñêîëüêî âàæíî
çíàòü õîòÿ áû ñðåäíåå çíà÷åíèå ñòàòèñòèêè, ïðåòåíäóþùåé íà ðîëü ðåøàþùåé ôóíêöèè, îáðàòèìñÿ ñíîâà ê ïðèìåðó 1.1 ïî àòòåñòàöèè ïàðòèè äèçåëüíîãî òîïëèâà, ãäå îáñóæäàëàñü ñîïóòñòâóþùàÿ ïðîáëåìà îöåíêè äèñïåðñèè
σ 2 íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X ∼ N (µ, σ 2 ).
Ïðåäëàãàëîñü îöåíèâàòü σ 2 ïî íàêîïëåííîìó â ëàáîðàòîðèè àðõèâó èñïûòàíèé àòòåñòóåìûõ ïàðòèé äèçåëüíîãî òîïëèâà, òî åñòü ïî äàííûì áîëü(n)
(n)
øîãî ÷èñëà N âûáîðîê X1 , . . . , XN ìàëîãî îáúåìà n. Êàæäàÿ i-àÿ âûáîðêà èçâëåêàåòñÿ èç íîðìàëüíîãî (µi , σ 2 ) ðàñïðåäåëåíèÿ, ïðè÷åì ñðåäíèå
µi ìîãóò áûòü ðàçëè÷íûìè äëÿ ðàçíûõ âûáîðîê, i = 1, . . . , N, íî äèñïåðñèÿ σ 2 ó âñåõ âûáîðîê îäíà è òà æå. Ïðåäëàãàåòñÿ ñëåäóþùàÿ îöåíêà σ 2 .
 êàæäîé âûáîðêå âû÷èñëÿåòñÿ âûáîðî÷íàÿ äèñïåðñèÿ Si2 , i = 1, . . . , N, è
XN
Si2 . Ðàñïðå1
äåëåíèå êàæäîé Si2 íå çàâèñèò îò µi , i = 1, . . . , N, ïîñêîëüêó âûáîðî÷íàÿ äèñïåðñèÿ èíâàðèàíòíà îòíîñèòåëüíî ñäâèãîâ Xk → Xk + a. Ñëåäîâàòåëüíî, ïðåäëàãàåìàÿ îöåíêà åñòü íîðìèðîâàííàÿ íà N ñóììà íåçàâèñèìûõ, îäèíàêîâî
Xn ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí êîïèé ñòàòèñòèêè
2
2
→ ES 2 ïðè
S = (1/n)
(Xk − X)2 , è â ñèëó çàêîíà áîëüøèõ ÷èñåë σ̂N
2
çàòåì áåðåòñÿ èõ àðèôìåòè÷åñêîå ñðåäíåå: σ̂N
= (1/N )
1
P
íåîãðàíè÷åííîì âîçðàñòàíèè îáúåìà N àðõèâíûõ äàííûõ. Âû÷èñëèì ýòî
ìàòåìàòè÷åñêîå îæèäàíèå:
Ã
ES 2 = E
n
1X
n
!
Xk2 − X
2
2
= EX 2 − EX = σ 2 + µ2 −
1
σ2
n−1 2
− µ2 =
σ ,
n
n
ïîñêîëüêó α2 = EX 2 = DX + E2 X, à X ∼ N (µ, σ 2 /n).
Òàêèì îáðàçîì, ïðåäëàãàåìàÿ îöåíêà îáëàäàåò çíà÷èòåëüíûì ñìåùåíèåì ïðè ìàëîì îáúåìå n èñïûòàíèé êàæäîé ïàðòèè äèçåëüíîãî òîïëèâà.
Íàïðèìåð, â ñëó÷àå n = 2 ìû çàíèæàåì äèñïåðñèþ â äâà ðàçà, ïîñêîëüêó
2
σ̂N
→ σ 2 /2. Åñòåñòâåííî, ýòîò äåôåêò ëåãêî óñòðàíèì äîñòàòî÷íî èñïîëüP
2
2
çîâàòü èñïðàâëåííóþ íà ñìåùåíèå îöåíêó σ̃N
= (n/(n − 1))σ̂N
.
179
Ëåêöèÿ 4
 çàâåðøåíèè ýòîãî ïàðàãðàôà ìû èçó÷èì åùå îäèí êëàññ çàìå÷àòåëüíûõ ñòàòèñòèê, èñïîëüçóÿ êîòîðûå ìîæíî ðåäóöèðîâàòü âûáîðî÷íûå äàííûå òîëüêî ê èõ çíà÷åíèÿì áåç ïîòåðè èíôîðìàöèè. Ê ñîæàëåíèþ, íå âñå
ñòàòèñòè÷åñêèå ñòðóêòóðû îáëàäàþò òàêèìè ñòàòèñòèêàìè, íî, ïî ñóùåñòâó,
òîëüêî â òåõ ñòðóêòóðàõ, ãäå èìåþòñÿ äîñòàòî÷íûå ñòàòèñòèêè, âîçìîæíî
ïîñòðîåíèå îïòèìàëüíîãî ñòàòèñòè÷åñêîãî ïðàâèëà, íà êîòîðîì äîñòèãàåòñÿ ìèíèìóì ðèñêà.
Èäåÿ, ñîñòîÿùàÿ â òîì, ÷òî â îïðåäåëåííûõ ñëó÷àÿõ äëÿ ïðèíÿòèÿ ðåøåíèÿ áåç óâåëè÷åíèÿ ðèñêà äîñòàòî÷íî çíàòü òîëüêî çíà÷åíèÿ íåêîòîðûõ
ñòàòèñòèê, à íå âñå âûáîðî÷íûå äàííûå, íå òðåáóåò ââåäåíèÿ ñïåöèàëüíûõ
ìåð èíôîðìàöèè, ñîäåðæàùåéñÿ â âûáîðî÷íûõ äàííûõ è ñòàòèñòèêàõ,
âñå ñòàíîâèòñÿ ÿñíûì ïðè ðàññìîòðåíèè ñëåäóþùåé ïðîñòåéøåé çàäà÷è, ñ
êîòîðîé ìû èìåëè äåëî â ñàìîì íà÷àëå êóðñà òåîðèè âåðîÿòíîñòåé.
Ïðåäïîëîæèì, ÷òî ìû õîòèì óçíàòü âåðîÿòíîñòü íàñëåäîâàíèÿ äîìèíàíòíîãî ïðèçíàêà â îïûòàõ Ìåíäåëÿ è ðàñïîëàãàåì ðåçóëüòàòàìè x1 , . . . , xn
ñêðåùèâàíèé n ïàð, ãäå, êàê îáû÷íî, êàæäîå xi åñòü èíäèêàòîð íàñëåäîâàíèÿ ïðèçíàêà, i = 1, . . . , n, à ñîâîêóïíîñòü âûáîðî÷íûõ äàííûõ ïðåäñòàâëÿåò ðåàëèçàöèþ ñëó÷àéíîé âûáîðêè X1 , . . . , Xn èç äâóõòî÷å÷íîãî ðàñïðåäåëåíèÿ ñ ôóíêöèåé ïëîòíîñòè f (x | θ) = P θ (X = x) = θ x (1−θ)1−x , îòëè÷íîé
îò íóëÿ òîëüêî â òî÷êàõ x = 0 è 1. ×àñòîòíàÿ îöåíêà θ̂n = T
/n âåðîÿòíîX
n
ñòè θ íàñëåäîâàíèÿ ïðèçíàêà îïðåäåëÿåòñÿ ñòàòèñòèêîé T =
Xk , âûáî-
Xn
1
ðî÷íîå çíà÷åíèå t =
xk êîòîðîé ñîîòâåòñòâóåò ÷èñëó ïîòîìêîâ â ýêñ1
ïåðèìåíòå, íàñëåäîâàâøèõ äîìèíàíòíûé ïðèçíàê. Åñòåñòâåííî, âîçíèêàåò
âîïðîñ, à íåëüçÿ ëè èçâëå÷ü äîïîëíèòåëüíóþ èíôîðìàöèþ î âåëè÷èíå ïàðàìåòðà θ èç íîìåðîâ k1 , . . . , kt âûáîðî÷íûõ äàííûõ, ïðèíÿâøèõ çíà÷åíèå 1?
Íåòðóäíî ïîíÿòü, ÷òî ýòî âîçìîæíî òîëüêî â òîì ñëó÷àå, åñëè ðàñïðåäåëåíèå âûáîðî÷íîãî âåêòîðà X (n) ïðè óñëîâèè, ÷òî ñòàòèñòèêà T ïðèíÿëà
ôèêñèðîâàííîå çíà÷åíèå t, çàâèñèò îò ïàðàìåòðà θ. Äåéñòâèòåëüíî, åñëè ìû áóäåì íàáëþäàòü ñëó÷àéíóþ âåëè÷èíó, êîòîðàÿ íå èìååò íèêàêîãî
îòíîøåíèÿ ê èíòåðåñóþùåìó íàñ ïàðàìåòðó, òî îòêóäà ýòîé èíôîðìàöèè
âçÿòüñÿ? Èòàê, íàéäåì óñëîâíîå ðàñïðåäåëåíèå X (n) îòíîñèòåëüíî T.
Èñïîëüçóÿ ôîðìóëó óñëîâíîé âåðîÿòíîñòè, ïîëó÷àåì, ÷òî
³
´
V Xn
³
´ P θ {X (n) = x(n) } {
Xk = t}
1
³Xn
´
.
P θ X (n) = x(n) | T = t =
Xk = t
Pθ
1
180
Åñëè çíà÷åíèÿ êîìïîíåíò âåêòîðà x(n) òàêîâû, ÷òî
X (n) = x(n) è
Xn
Xn
1
xk 6= t, òî ñîáûòèÿ
Xk = t, î÷åâèäíî, íåñîâìåñòíû, è ïîýòîìó â ýòîì ñëó÷àå
Xn
óñëîâíàÿ âåðîÿòíîñòü ðàâíà íóëþ (íå çàâèñèò îò θ). Åñëè æå
xk =
1
Xn
t, òî ñîáûòèå X (n) = x(n) âëå÷åò ñîáûòèå
Xk = t, è ôîðìóëà äëÿ
1
âû÷èñëåíèÿ óñëîâíîé âåðîÿòíîñòè óïðîùàåòñÿ:
¡ (n)
¢
³
´
(n)
P
X
=
x
θ
³Xn
´.
P θ X (n) = x(n) | T = t =
Pθ
Xk = t
1
1
Òàê êàê
³
´
(n)
(n)
Pθ X = x
= fn (X (n) | θ) = θ
Pθ
³Xn
1
Xn
Xn
1
xk
Xn
(1 − θ)
n−
1
xk
,
´
Xk = t = Cnt θ t (1 − θ)n−t ,
òî â ñëó÷àå
xk = t óñëîâíîå ðàñïðåäåëåíèå âûáîðî÷íîãî âåêòîðà X (n)
1
îòíîñèòåëüíî ñòàòèñòèêè T èìååò âèä
³
Pθ X
(n)
=x
(n)
´
1
|T = t = t,
Cn
è òàêæå íå çàâèñèò îò θ.
Èòàê, íàøè âûêëàäêè
Xn ïîêàçûâàþò, ÷òî ðàñïðåäåëåíèå âûáîðî÷íîãî âåêòîðà íà ïëîñêîñòè
Xk = t íå çàâèñèò îò θ, è ïîýòîìó ðàñïîëîæåíèå
1
çíà÷åíèé xk = 1 â ïîñëåäîâàòåëüíîñòè x1 , . . . , xn ïðè ôèêñèðîâàííîì êîëè÷åñòâå òàêèõ çíà÷åíèé íå íåñåò èíôîðìàöèè î ïàðàìåòðå θ.
Îïðåäåëåíèå 2.1. Ñòàòèñòèêà T = T (X (n) ) íàçûâàåòñÿ äîñòàòî÷íîé
äëÿ ñòàòèñòè÷åñêîé ñòðóêòóðû P n = {P θ,n , θ ∈ Θ}, åñëè óñëîâíîå ðàñïðåäåëåíèå âûáîðî÷íîãî âåêòîðà X (n) îòíîñèòåëüíî ñòàòèñòèêè T íå çàâèñèò
îò θ.
 îáùåé òåîðèè ñòàòèñòè÷åñêîãî âûâîäà â ðàìêàõ áîëåå îáùåãî îïðåäåëåíèÿ ñòàòèñòè÷åñêîãî ïðàâèëà óñòàíàâëèâàåòñÿ çàìå÷àòåëüíûé ôàêò:
åñëè ñòàòèñòè÷åñêàÿ ñòðóêòóðà îáëàäàåò äîñòàòî÷íîé ñòàòèñòèêîé
T, òî, êàêîâî áû íè áûëî ñòàòèñòè÷åñêîå ïðàâèëî δ = δ(X (n) ), âñåãäà
ñóùåñòâóåò ïðàâèëî δ ∗ = δ ∗ (T ), îñíîâàííîå òîëüêî íà T, ðèñê êîòîðîãî
ñîâïàäàåò ñ ðèñêîì ïðàâèëà δ. Òàêèì îáðàçîì, ïîñòðîåíèå îïòèìàëüíûõ
181
ñòàòèñòè÷åñêèõ ïðàâèë ñëåäóåò íà÷èíàòü ñ ïîèñêà äîñòàòî÷íûõ ñòàòèñòèê.
Ñëåäóþùàÿ òåîðåìà äàåò êðèòåðèé ñóùåñòâîâàíèÿ ó ñòàòèñòè÷åñêèõ ñòðóêòóð äîñòàòî÷íûõ ñòàòèñòèê è, îäíîâðåìåííî, óêàçûâàåò ïðîñòîé ñïîñîá èõ
íàõîæäåíèÿ.
Òåîðåìà 2.1. Äëÿ òîãî, ÷òîáû T = T (X (n) ) áûëà äîñòàòî÷íîé ñòàòè-
ñòèêîé äëÿ ñòàòèñòè÷åñêîé ñòðóêòóðû, îïðåäåëÿåìîé ôóíêöèåé ïëîòíîñòè
fn (x(n) | θ), íåîáõîäèìî è äîñòàòî÷íî,÷òîáû ýòà ôóíêöèÿ äîïóñêàëà ïðåäñòàâëåíèå
³
´
fn (x(n) | θ) = g θ T (x(n) ) h(x(n) ),
(1)
ãäå ôóíêöèÿ h íå çàâèñèò îò ïàðàìåòðà θ, à ôóíêöèÿ g çàâèñèò îò θ è
àðãóìåíòà x(n) òîëüêî ÷åðåç çíà÷åíèÿ T (x(n) ) ñòàòèñòèêè T = T (X (n) ),
Ä î ê à ç à ò å ë ü ñ ò â î òåîðåìû ìû ïðîâåäåì òîëüêî äëÿ äèñêðåòíîãî ðàñïðåäåëåíèÿ íàáëþäàåìîé ¡ñëó÷àéíîé âåëè÷èíû,
êîãäà ôóíêöèÿ ïëîòíîñòè
¢
(n)
(n)
(n)
âûáîðêè fn (x | θ) = P θ X = x
.  ñëó÷àå íåïðåðûâíîãî ðàñïðåäåëåíèÿ ñõåìà äîêàçàòåëüñòâà òà æå, íî ïðèäåòñÿ äåëàòü çàìåíó â n-êðàòíîì
èíòåãðàëå.
Äîñòàòî÷íîñòü. Ïóñòü âûïîëíÿåòñÿ ôàêòîðèçàöèîííîå ïðåäñòàâëåíèå (1);
òðåáóåòñÿ ïîêàçàòü, ÷òî óñëîâíîå ðàñïðåäåëåíèå X (n) îòíîñèòåëüíî T íå
çàâèñèò îò θ. Êàê è â òîëüêî ÷òî ðàññìîòðåííîì ïðèìåðå ñ äâóõòî÷å÷íûì
ðàñïðåäåëåíèåì, âîñïîëüçóåìñÿ ôîðìóëîé óñëîâíîé âåðîÿòíîñòè äëÿ âû÷èñëåíèÿ óñëîâíîé ïëîòíîñòè X (n) îòíîñèòåëüíî T :
³
´ P ¡{X (n) = x(n) } V{T (X (n) ) = t}¢
θ
P θ X (n) = x(n) | T (X (n) ) = t =
.
P θ (T (X (n) ) = t)
Ñîáûòèÿ, ñòîÿùèå â ÷èñëèòåëå, áóäóò íåñîâìåñòíûìè, åñëè T (x(n) ) 6= t,
è â ýòîì ñëó÷àå óñëîâíàÿ âåðîÿòíîñòü ðàâíà íóëþ (íå çàâèñèò îò θ). Åñëè
æå T (x(n) ) = t, òî ïåðâîå ïî ïîðÿäêó ñîáûòèå â ÷èñëèòåëå âëå÷åò âòîðîå, è
ïîýòîìó ôîðìóëà äëÿ âû÷èñëåíèÿ óñëîâíîé âåðîÿòíîñòè óïðîùàåòñÿ:
³
´ P ¡X (n) = x(n) ¢
θ
P θ X (n) = x(n) | T (X (n) ) = t =
.
P θ (T (X (n) ) = t)
Òàê êàê P θ (X (n) = x(n) ) = fn (x(n) | θ), òî èñïîëüçóÿ ïðåäñòàâëåíèå (1),
ïîëó÷àåì, ÷òî (íàïîìíèì, T (x(n) ) = t)
³
Pθ X
(n)
=x
(n)
| T (X
182
(n)
´
)=t =
g θ (T (x(n) ))h(x(n) )
X
=
g θ (T (y (n) ))h(y (n) )
y (n) : T (y (n) )=t
h(x(n) )
X
.
h(y (n) )
y (n) : T (y (n) )=t
Òàêèì îáðàçîì, óñëîâíîå ðàñïðåäåëåíèå íå çàâèñèò îò θ, è ïîýòîìó ñòàòèñòèêà T äîñòàòî÷íà äëÿ P n .
Íåîáõîäèìîñòü.¡ Ïóñòü T äîñòàòî÷íàÿ¢ ñòàòèñòèêà, òàê ÷òî óñëîâíîå
ðàñïðåäåëåíèå P θ X (n) = x(n) | T (X (n) ) = t = K(x(n) , t), ãäå ôóíêöèÿ K
íå çàâèñèò îò θ. Òðåáóåòñÿ ïîêàçàòü, ÷òî â ýòîì ñëó÷àå äëÿ ôóíêöèè ïëîòíîñòè âûáîðêè ñïðàâåäëèâî ïðåäñòàâëåíèå (1).
Èìååì
³
´
fn (x(n) | θ) = P θ X (n) = x(n) =
³
´
^
(n)
(n)
(n)
(n)
P θ {X = x } {T (X ) = T (x )} =
³
´
(n)
(n)
(n)
(n)
(n)
(n)
P θ (T (X ) = T (x )) · P θ X = x | T (X ) = T (x ) .
Ìû ïîëó÷èëè ïðåäñòàâëåíèå (1) ñ g θ (T (x(n) )) = P θ (T (X (n) ) = T (x(n) )) è
h(x(n) ) = K(x(n) , T (x(n) )). Òåîðåìà äîêàçàíà.
Ðàññìîòðèì íåñêîëüêî ïðèìåðîâ íà ïðèìåíåíèÿ ïîëó÷åííîãî êðèòåðèÿ
äîñòàòî÷íîñòè ê ñòàòèñòè÷åñêèì ñòðóêòóðàì, ñîîòâåòñòâóþùèì âåðîÿòíîñòíûì ìîäåëÿì èç íàøåãî êóðñà òåîðèè âåðîÿòíîñòåé. Íà÷íåì ñ äâóõòî÷å÷íîãî ðàñïðåäåëåíèÿ (âûáîð â ñõåìå Áåðíóëëè), ãäå ìû íåïîñðåäñòâåííûìè
âû÷èñëåíèÿìè óñëîâíîãî ðàñïðåäåëåíèÿ óáåäèëèñü â äîñòàòî÷íîñòè ñòàòèñòèêè, ðåàëèçóþùåé ÷èñëî óñïåøíûõ èñïûòàíèé, ïîñìîòðèì, êàê ýòî äåëàåòñÿ ñ ïîìîùüþ ïðåäñòàâëåíèÿ (1).
10 . Äâóõòî÷å÷íîå ðàñïðåäåëåíèå B(1, θ) èìååò ôóíêöèþ ïëîòíîñòè
f (x | θ) = θ x (1 − θ)1−x ,
îòëè÷íóþ îò íóëÿ òîëüêî â òî÷êàõ x = 0 è 1. Ïàðàìåòðè÷åñêîå ïðîñòðàíñòâî ýòîãî ðàñïðåäåëåíèÿ Θ = (0; 1), à ôóíêöèÿ ïëîòíîñòè ñëó÷àéíîé âûáîðêè
Xn
Xn
fn (x(n) | θ) = θ
1
xk
(1 − θ)
n−
1
xk
.
Ïðåäñòàâëåíèå (1) âûïîëíÿåòñÿ ñ h(x(n) ) ≡ 1 è T (x(n) ) =
òåëüíî, T =
Xn
1
Xk äîñòàòî÷íàÿ ñòàòèñòèêà.
183
Xn
1
xk . Ñëåäîâà-
20 . Ðàñïðåäåëåíèå Ïóàññîíà P(θ), äëÿ êîòîðîãî
f (x | θ) =
θ x e−θ
, x = 0, 1, . . . ,
x!
ôóíêöèÿ ïëîòíîñòè âûáîðêè
Xn
fn (x(n) | θ) = θ
1
xk
e−nθ /
Θ = R+ ,
Yn
1
xk !.
Ñëåäîâàòåëüíî, â ïðåäñòàâëåíèè (1)
(n)
h(x ) =
èT =
Xn
1
h Yn
1
xk !
i−1
,
Xk äîñòàòî÷íàÿ ñòàòèñòèêà.
30 . Ïîêàçàòåëüíîå ðàñïðåäåëåíèå E(θ) ñ
n xo
1
f (x | θ) = exp −
, x ≥ 0, Θ = R+ ,
θ
θ
è
)
(
n
X
1
1
fn (x(n) | θ) = n exp −
xk
θ
θ 1
Xn
Òàêæå îáëàäàåò äîñòàòî÷íîé ñòàòèñòèêîé T =
Xk .
1
40 . Ðàâíîìåðíîå ðàñïðåäåëåíèå U(a, b), ôóíêöèÿ ïëîòíîñòè êîòîðîãî
f (x | θ) =
I [ a; b ] (x)
b−a
îòëè÷íà îò íóëÿ è ïîñòîÿííà íà îòðåçêå [ a; b ], íà ÷òî óêàçûâàåò ñòîÿùàÿ â
÷èñëèòåëå èíäèêàòîðíàÿ ôóíêöèÿ îòðåçêà [ a; b ].  ýòîì ðàñïðåäåëåíèè θ =
(a, b) äâóìåðíûé ïàðàìåòð è ïàðàìåòðè÷åñêîå ïðîñòðàíñòâî Θ = {(a, b) :
(a, b) ∈ R2 , a < b}. Ñòàòèñòè÷åñêàÿ ñòðóêòóðà îïðåäåëÿåòñÿ ôóíêöèåé
ïëîòíîñòè
Yn
fn (x(n) | θ) =
1
I [ a; b ] (xk )
,
(b − a)n
è ïîñêîëüêó ïðîèçâåäåíèå èíäèêàòîðîâ, ñòîÿùåå â ÷èñëèòåëå ýòîé ôóíêöèè,
ïðèíèìàåò çíà÷åíèå 1 â ñëó÷àå
a ≤ min xk ≤ max xk ≤ b
1≤k≤n
1≤k≤n
184
è çíà÷åíèå 0 ïðè íàðóøåíèè ýòèõ íåðàâåíñòâ, òî âåêòîð T = ( X(1) , X(n) )
êðàéíèõ ÷ëåíîâ âàðèàöèîííîãî ðÿäà ÿâëÿåòñÿ äîñòàòî÷íîé ñòàòèñòèêîé.
50 . Íîðìàëüíîå ðàñïðåäåëåíèå N (µ, σ 2 ). Ýòî ðàñïðåäåëåíèå îáëàäàåò
äâóìåðíûì ïàðàìåòðîì θ = (µ, σ) ñ îáëàñòüþ çíà÷åíèé (ïàðàìåòðè÷åñêèì
ïðîñòðàíñòâîì) Θ = R × R+ . Ôóíêöèè ïëîòíîñòè íàáëþäàåìîé ñëó÷àéíîé
âåëè÷èíû X è ñëó÷àéíîé âûáîðêè X (n) îïðåäåëÿþòñÿ ñîîòâåòñòâåííî êàê
½
¾
(x − µ)2
1
exp −
f (x | θ) = √
2σ 2
2πσ
è
(
)
n
X
1
1
fn (x(n) | θ) =
exp
−
(xk − µ)2 =
2
n/2
n
2σ 1
(2π) σ
(
à n
!)
n
X
X
1
1
exp − 2
x2k − 2µ
xk + nµ2
.
n/2
n
2σ
(2π) σ
1
1
Ïîñëåäíåå âûðàæåíèå äëÿ ïëîòíîñòè
X (n) ïîêàçûâàåò,
÷òî äâóìåðíàÿ ñòàXn
Xn
2
òèñòèêà T = (T1 , T2 ) ñ T1 =
X k T2 =
Xk äîñòàòî÷íà äëÿ ñòàòè1
1
ñòè÷åñêîé ñòðóêòóðû íîðìàëüíîãî ðàñïðåäåëåíèÿ. Êðîìå òîãî, ïîñêîëüêó
2
T1 = nX è T2 = n(S 2 + X ), òî ôàêòîðèçàöèîííîå ðàâåíñòâî (1) óêàçûâàåò íà äîñòàòî÷íîñòü ñòàòèñòèê X è S 2 , êîòîðûå èìåþò êîíêðåòíóþ ñòàòèñòè÷åñêóþ èíòåðïðåòàöèþ è ïîýòîìó áîëåå óäîáíû äëÿ ïðàêòè÷åñêîãî
èñïîëüçîâàíèÿ. Ïîíÿòíî, ÷òî ýòî çàìå÷àíèå íîñèò îáùèé õàðàêòåð: ëþáûå
âçàèìíî îäíîçíà÷íûå ïðåîáðàçîâàíèÿ äîñòàòî÷íîé ñòàòèñòèêè íàñëåäóþò ñâîéñòâî äîñòàòî÷íîñòè.
Îòìåòèì òàêæå, ÷òî â ñëó÷àå èçâåñòíîãî (ôèêñèðîâàííîãî) σ ñòàòèñòè÷åñêàÿ ñòðóêòóðà èìååò ïàðàìåòðè÷åñêîå ïðîñòðàíñòâî, ñîâïàäàþùåå ñ îáëàñòüþ çíà÷åíèé ïàðàìåòðà µ, è äîñòàòî÷íîé ñòàòèñòèêîé áóäåò âûáîðî÷íîå ñðåäíåå X. Àíàëîãè÷íîå óòâåðæäåíèå èìååò ìåñòî äëÿ ñòàòèñòèêè S 2
ïðè ôèêñèðîâàííîì µ.
60 . Ãàììà-ðàñïðåäåëåíèå G(λ, a) èìååò ôóíêöèþ ïëîòíîñòè
n xo
1
λ−1
x exp −
, x > 0, θ = (a, λ), a > 0, λ > 0,
f (x | θ) = λ
a Γ(λ)
a
òàê ÷òî ôóíêöèÿ ïëîòíîñòè âûáîðî÷íîãî âåêòîðà
" n
#λ−1
(
)
n
Y
1
1X
f (x | θ) = nλ n
xk
exp −
xk .
a Γ (λ) 1
a 1
185
Òîæäåñòâî
(1) óêàçûâàåò,
÷òî äîñòàòî÷íîé ÿâëÿåòñÿ äâóìåðíàÿ ñòàòèñòèêà
³
´
Xn
Yn
Xk ,
Xk èëè áîëåå óäîáíàÿ â âû÷èñëèòåëüíîì îòíîøåíèè ñòà1
³X1n
´
Xn
òèñòèêà
Xk ,
ln Xk . Äëÿ ýòîãî ðàñïðåäåëåíèÿ ìîæíî ñäåëàòü
1
1
òî æå çàìå÷àíèå, ÷òî è äëÿ íîðìàëüíîãî: ïåðâàÿ êîìïîíåíòà äîñòàòî÷íîé
ñòàòèñòèêè îòâå÷àåò çà ìàñøòàáíûé ïàðàìåòð a, â òî âðåìÿ êàê âòîðàÿ
ñîîòâåòñòâóåò ïàðàìåòðó ôîðìû λ.
70 . Áèíîìèàëüíîå ðàñïðåäåëåíèå B(m, p). Ýòî äèñêðåòíîå ðàñïðåäåëåíèå, ñîñðåäîòî÷åííîå â òî÷êàõ x = 0, 1, . . . , m, ñ ôóíêöèåé ïëîòíîñòè
f (x | θ) = Cmx p x (1 − p)m−x ,
çàâèñÿùåé îò äâóìåðíîãî ïàðàìåòðà θ = (m, p), ïåðâàÿ êîìïîíåíòà m êîòîðîãî ìîæåò ïðèíèìàòü òîëüêî çíà÷åíèÿ èç ìíîæåñòâà N = {1, 2, . . .}, à
âòîðàÿ êîìïîíåíòà p ∈ (0; 1). Ôóíêöèÿ ïëîòíîñòè âûáîðî÷íîãî âåêòîðà
fn (x(n) | θ) =
n
Y
Xn
Cmxk · p
1
xk
Xn
(1 − p)
nm−
1
xk
.
k=1
Ïðèìåíåíèå êðèòåðèÿ (1) ïîêàçûâàåò, ÷òî äëÿ ñòàòèñòè÷åñêîé ñòðóêòóðû
ñ ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì Θ = N × (0; 1) äîñòàòî÷íîé ñòàòèñòè(n)
êîé ìîæåò áûòü òîëüêî âåñü âûáîðî÷íûé
Xn âåêòîð X , íî åñëè Θ = (0; 1)
(çíà÷åíèå ïàðàìåòðà m èçâåñòíî), òî
Xk äîñòàòî÷íàÿ ñòàòèñòèêà.
1
80 . Ðàñïðåäåëåíèå Êîøè C(a, b) èìååò ôóíêöèþ ïëîòíîñòè âûáîðî÷íîãî
âåêòîðà
Ã
µ
¶2 !−1
n
Y
xk − a
fn (x(n) | θ) = π −n b−n
1+
,
b
k=1
è â ñèëó êðèòåðèÿ (1) åãî ñòàòèñòè÷åñêàÿ ñòðóêòóðà îáëàäàåò òîëüêî òðèâèàëüíîé äîñòàòî÷íîé ñòàòèñòèêîé T = X (n) .
Ìû íå áóäåì âûïèñûâàòü ñòàòèñòè÷åñêèå ñòðóêòóðû ìíîãîìåðíûõ ðàñïðåäåëåíèé â ñèëó èõ ÷ðåçâû÷àéíîé ãðîìîçäêîñòè, íî íåòðóäíî óñòàíîâèòü ïî àíàëîãèè ñ ðàññìîòðåííûìè ïðèìåðàìè, ÷òî ó ñòðóêòóðû ìóëüòèíîìèàëüíîãî ðàñïðåäåëåíèÿ M(m, 1, p) ñ m ≥ 2 èñõîäàìè è âåêòîðîì
p = (p1 , . . . , pm ) âåðîÿòíîñòåé ñîîòâåòñòâóþùèõ èñõîäîâ äîñòàòî÷íûì áóäåò âåêòîð, ñîñòîÿùèé èç ÷àñòîò ýòèõ èñõîäîâ â ìóëüòèíîìèàëüíîé ñõåìå èñïûòàíèé, à ó ñòðóêòóðû ìíîãîìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ
186
Nm (µ, Λ) äîñòàòî÷íóþ ñòàòèñòèêó îáðàçóþò âåêòîð âûáîðî÷íûõ ñðåäíèõ
è âûáîðî÷íàÿ êîâàðèàöèîííàÿ ìàòðèöà.
Íà ýòîì çàâåðøàåòñÿ ââîäíàÿ ÷àñòü íàøåãî êóðñà ìàòåìàòè÷åñêîé ñòàòèñòèêè. Ìû ñäåëàëè ïîñòàíîâêó ïðîáëåìû ñòàòèñòè÷åñêîãî âûâîäà, ïðîâåëè
êëàññèôèêàöèþ îñíîâíûõ ñòàòèñòè÷åñêèõ ñòðóêòóð è òåïåðü ìû ãîòîâû ê
ðåøåíèþ êîíêðåòíûõ ñòàòèñòè÷åñêèõ ïðîáëåì ïî îöåíêå ïàðàìåòðîâ ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû è ïðîâåðêå ãèïîòåç, êàñàþùèõñÿ ñòðóêòóðû ïàðàìåòðè÷åñêîãî ïðîñòðàíñòâà ýòîãî ðàñïðåäåëåíèÿ.
187
3. Îöåíêà ïàðàìåòðîâ. Ìåòîä ìîìåíòîâ
Ëåêöèÿ 5
Ìû ïðèñòóïàåì ê ðåøåíèþ ñòàòèñòè÷åñêîé ïðîáëåìû îöåíêè íåèçâåñòíîãî çíà÷åíèÿ ïàðàìåòðà θ, èíäåêñèðóþùåãî ñåìåéñòâî P = {P θ , θ ∈ Θ}
âîçìîæíûõ ðàñïðåäåëåíèé íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X. Áóäóò
ðàññìàòðèâàòüñÿ òîëüêî êîíå÷íîìåðíûå ïàðàìåòðè÷åñêèå ïðîñòðàíñòâà Θ =
Rk , k ≥ 1. Èíôîðìàöèÿ î çíà÷åíèè θ ïîñòóïàåò ê íàì â âèäå âûáîðî÷íûõ
äàííûõ x(n) = (x1 , . . . , xn ) ðåçóëüòàòîâ íàáëþäåíèé n íåçàâèñèìûõ êîïèé X (n) = (X1 , . . . , Xn ) ñëó÷àéíîé âåëè÷èíû X. Íàïîìíèì, ñåìåéñòâî P
ìû íàçâàëè âåðîÿòíîñòíîé ìîäåëüþ, à ñëó÷àéíûé âåêòîð X (n) ñëó÷àéíîé
âûáîðêîé îáúåìà n.
 ýòîé ïðîáëåìå, î êîòîðîé ìû íåñêîëüêî ðàç óïîìèíàëè â ïðåäûäóùåì
ïàðàãðàôå, ïðîñòðàíñòâî ðåøåíèé D ñîâïàäàåò ñ ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì Θ, ðåøàþùàÿ ôóíêöèÿ δ = δ(X (n) ) ñòàòèñòèêà ñ îáëàñòüþ
çíà÷åíèé T = Θ íàçûâàåòñÿ îöåíêîé ïàðàìåòðà θ è îáû÷íî îáîçíà÷àåòñÿ
θn , θ̂n , θn∗ è òîìó ïîäîáíîå. Ôóíêöèè ïîòåðü L(θ, d) â ïðîáëåìå îöåíèâàíèÿ îáû÷íî âûáèðàþòñÿ â âèäå íåóáûâàþùåé ôóíêöèè ðàññòîÿíèÿ | d − θ |
(â ýâêëèäîâîé ìåòðèêå) ìåæäó çíà÷åíèåì îöåíêè d = θ̂n (x(n) ) è èñòèííûì
çíà÷åíèåì θ îöåíèâàåìîãî ïàðàìåòðà.
Îñíîâíàÿ çàäà÷à ñòàòèñòè÷åñêîé òåîðèè îöåíèâàíèÿ ñîñòîèò â ïîñòðîåíèè îöåíêè θn∗ = θn∗ (X (n) ), ìèíèìèçèðóþùåé ðàâíîìåðíî ïî θ ∈ Θ
ôóíêöèþ ðèñêà
R(θ; θ̂n ) = E θ L(θ, θ̂n (X (n) )).
Òàêèì îáðàçîì, êàêîâà áû íè áûëà ñòàòèñòè÷åñêàÿ îöåíêà θ̂n , äëÿ îöåíêè θn∗ ñ ðàâíîìåðíî ìèíèìàëüíûì ðèñêîì ïðè ëþáîì θ ∈ Θ ñïðàâåäëèâî
íåðàâåíñòâî R(θ; θn∗ ) ≤ R(θ; θ̂n ).
Ìû ðàññìîòðèì îäíî èç ðåøåíèé ýòîé çàäà÷è â ñëó÷àå îöåíêè ñêàëÿðíîãî ïàðàìåòðà (Θ = R) ïðè êâàäðàòè÷íîé ôóíêöèè ïîòåðü L(θ, d) = (d−θ)2 ,
íî ñíà÷àëà ïîçíàêîìèìñÿ ñ òðàäèöèîííî èñïîëüçóåìûìè â ñòàòèñòè÷åñêîé
ïðàêòèêå ìåòîäàìè îöåíêè ïàðàìåòðîâ è èçó÷èì ðàñïðåäåëåíèå ýòèõ îöåíîê ñ öåëüþ âû÷èñëåíèÿ èõ ôóíêöèè ðèñêà.
Êîíå÷íî, äàëåêî íå âñå èñïîëüçóåìûå íà ïðàêòèêå ìåòîäû ïðèâîäÿò ê
îïòèìàëüíûì îöåíêàì, èíîãäà áûâàåò òðóäíî íàéòè îöåíêó, îáëàäàþùóþ
õîòü êàêèìè-íèáóäü ïðèâëåêàòåëüíûìè ñâîéñòâàìè. Ïîíÿòíî, ÷òî ñ÷èòàòü
îöåíêîé ëþáîå èçìåðèìîå îòîáðàæåíèå âûáîðî÷íîãî ïðîñòðàíñòâà Xn â ïàðàìåòðè÷åñêîå ïðîñòðàíñòâî Θ íå ñîâñåì ðàçóìíî, è ïîýòîìó ìû ââåäåì
188
íåêîòîðûå óñëîâèÿ, êîòîðûì äîëæíà óäîâëåòâîðÿòü ñòàòèñòèêà θ̂n , ÷òîáû
ïðåòåíäîâàòü íà ðîëü îöåíêè. Ðàçðàáàòûâàÿ â äàëüíåéøåì ìåòîäû îöåíèâàíèÿ è ïðåäëàãàÿ êîíêðåòíûå îöåíêè, ìû âñåãäà áóäåì ïðîâåðÿòü âûïîëíèìîñòü ýòèõ óñëîâèé.
Îïðåäåëåíèå 3.1. Îöåíêà θ̂n ïàðàìåòðà θ íàçûâàåòñÿ ñîñòîÿòåëüíîé,
åñëè θ̂n (X (n) ) → θ ïðè ëþáîì θ ∈ Θ, êîãäà îáúåì âûáîðêè n → ∞. Îöåíêà
P
θ̂n íàçûâàåòñÿ íåñìåùåííîé â ñðåäíåì, åñëè E θ θ̂n (X (n) ) = θ, êàêîâî áû íè
áûëî çíà÷åíèå θ ∈ Θ.
Íàïîìíèì, ÷òî θ̂n (X (n) ) → θ îçíà÷àåò, ÷òî äëÿ ëþáîãî ε > 0
P
¯
³¯
´
¯
¯
(n)
lim P θ ¯ θ̂n (X ) − θ ¯ > ε = 0,
n→∞
èëè, ÷òî òî æå,
¯
³¯
´
¯
¯
(n)
lim P θ ¯ θ̂n (X ) − θ ¯ ≤ ε = 1.
n→∞
(1)
Çäåñü, êàê îáû÷íî, â ñëó÷àå âåêòîðíîãî ïàðàìåòðà θ çàïèñü | θ1 − θ2 | îçíà÷àåò ðàññòîÿíèå ìåæäó òî÷êàìè θ1 è θ2 ýâêëèäîâà ïðîñòðàíñòâà Θ.
 ïðåäûäóùåì
ïàðàãðàôå ìû ïîêàçàëè, ÷òî âûáîðî÷íûå ìîìåíòû ai =
Xn
i
(1/n)
Xj ÿâëÿþòñÿ ñîñòîÿòåëüíûìè îöåíêàìè ñîîòâåòñòâóþùèõ òåî1
ðåòè÷åñêèõ ìîìåíòîâ αi = E θ X i , êîòîðûå ÿâëÿþòñÿ ôóíêöèÿìè îöåíèâàåìîãî ïàðàìåòðà: αi = αi (θ), i = 1, 2, . . . . Ýòîò ðåçóëüòàò óêàçûâàåò
íàì äîâîëüíî ïðîñòîé ìåòîä ïîñòðîåíèÿ ñîñòîÿòåëüíûõ îöåíîê â ñëó÷àå
ñóùåñòâîâàíèÿ ó ðàñïðåäåëåíèÿ Pθ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X
ìîìåíòà ïîðÿäêà k, ãäå k ÷èñëî êîìïîíåíò θ1 , . . . , θk îöåíèâàåìîãî ïàðàìåòðè÷åñêîãî âåêòîðà θ.
Ïðèðàâíÿåì òåîðåòè÷åñêèå ìîìåíòû âûáîðî÷íûì è ðàçðåøèì ïîëó÷åííóþ òàêèì îáðàçîì ñèñòåìó óðàâíåíèé αi (θ1 , . . . , θk ) = ai , i = 1, . . . , k îòíîñèòåëüíî ïåðåìåííûõ θ1 , . . . , θk . Ëþáîå ðåøåíèå θ̂n (a) = (θ̂1n (a), . . . , θ̂kn (a)),
a = (a1 , . . . , an ), ýòîé ñèñòåìû íàçûâàåòñÿ îöåíêîé θ ïî ìåòîäó ìîìåíòîâ,
è ïðåæäå, ÷åì èññëåäîâàòü ñâîéñòâà òàêèõ îöåíîê, ðàññìîòðèì íåñêîëüêî
ïðèìåðîâ íà ïðèìåíåíèÿ ìåòîäà ìîìåíòîâ.
 êóðñå òåîðèè âåðîÿòíîñòåé, èçó÷àÿ íîâûå âåðîÿòíîñòíûå ìîäåëè, ìû
âñåãäà âû÷èñëÿëè èõ ìîìåíòíûå õàðàêòåðèñòèêè. Íàïðèìåð, ìû çíàåì,
÷òî ñðåäíèå çíà÷åíèÿ äâóõòî÷å÷íîãî ðàñïðåäåëåíèÿ B(1, θ), ðàñïðåäåëåíèÿ
Ïóàññîíà P(θ) è ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ E(θ) ðàâíû θ. Ñëåäîâàòåëüíî, âûáîðî÷íîå ñðåäíåå X åñòü îöåíêà ïî ìåòîäó ìîìåíòîâ ïàðàìåòðà θ
189
ëþáîãî èç ýòèõ ðàñïðåäåëåíèé. Ëåãêî âèäåòü, ÷òî ýòà îöåíêà ñîñòîÿòåëüíà
è íåñìåùåíà. Òî÷íî òàê æå ó íîðìàëüíîãî ðàñïðåäåëåíèÿ N (µ, σ 2 ) ïàðàìåòð µ îçíà÷àåò ñðåäíåå çíà÷åíèå, à σ 2 äèñïåðñèþ ýòîãî ðàñïðåäåëåíèÿ.
Ñëåäîâàòåëüíî, âûáîðî÷íîå ñðåäíåå X è âûáîðî÷íàÿ äèñïåðñèÿ S 2 åñòü
ñîñòîÿòåëüíûå îöåíêè ñîîòâåòñòâóþùèõ êîìïîíåíò µ è σ 2 ïàðàìåòðè÷åñêîãî âåêòîðà θ = (µ, σ 2 ). Èñïðàâëÿÿ ñìåùåíèå îöåíêè S 2 êîìïîíåíòû σ 2 ,
ïîëó÷àåì íåñìåùåííóþ îöåíêó θ. Çàìå÷àòåëüíî òî, ÷òî âñå îöåíêè ÿâëÿþòñÿ äîñòàòî÷íûìè ñòàòèñòèêàìè, è ýòî îáñòîÿòåëüñòâî, êàê áóäåò âèäíî
â äàëüíåéøåì, ïðåäîïðåäåëÿåò èõ îïòèìàëüíûå ñâîéñòâà. Ðàñïðåäåëåíèå
îöåíêè X ëåãêî ïîëó÷èòü, èñïîëüçóÿ òåîðåìû ñëîæåíèÿ äëÿ ðàñïðåäåëåíèé
B, P, E è N , ðàñïðåäåëåíèå æå S 2 ïðè âûáîðå èç íîðìàëüíîãî ðàñïðåäåëåíèÿ ìû íàéäåì íåñêîëüêî ïîçæå.
Ðàññìîòðèì òåïåðü ïðèìåðû, â êîòîðûõ ïðèõîäèòñÿ ðåøàòü ñèñòåìó
óðàâíåíèé, è íàéäåííûå îöåíêè ïî ìåòîäó ìîìåíòîâ íå ÿâëÿþòñÿ ôóíêöèÿìè äîñòàòî÷íûõ ñòàòèñòèê.
Ï ð è ì å ð 3. 1. Îöåíêà ïàðàìåòðîâ áèíîìèàëüíîãî ðàñïðåäåëåíèÿ B(m, p).
Ïðîáëåìà ñîñòîèò â îöåíêå îáåèõ êîìïîíåíò m è p äâóìåðíîãî ïàðàìåòðà
θ = (m, p). Èç êóðñà òåîðèè âåðîÿòíîñòåé íàì èçâåñòíî, ÷òî ñðåäíåå çíà÷åíèå áèíîìèàëüíîãî ðàñïðåäåëåíèÿ ðàâíî mp, à äèñïåðñèÿ mp(1−p). Ïðèðàâíèâàÿ ýòè òåîðåòè÷åñêèå ìîìåíòû èõ âûáîðî÷íûì àíàëîãàì, ïîëó÷àåì
ñèñòåìó äëÿ îïðåäåëåíèÿ îöåíîê ïî ìåòîäó ìîìåíòîâ: mp = X, mp(1−p) =
S 2 . Ðàçäåëèâ âòîðîå óðàâíåíèå íà ïåðâîå, íàõîäèì îöåíêó p̂n = (X −S 2 )/X
ïàðàìåòðà p, ïîñëå ÷åãî, îáðàùàÿñü ê ïåðâîìó óðàâíåíèþ, íàõîäèì îöåíêó
2
m̂n = X /(X − S 2 ) ïàðàìåòðà m. Ëåãêî ïîêàçàòü, ÷òî ýòè îöåíêè îáëàäàþò
ñâîéñòâîì ñîñòîÿòåëüíîñòè (îáùèé ìåòîä äîêàçàòåëüñòâà òàêèõ óòâåðæäåíèé ñìîòðèòå â ïðèâåäåííîé íèæå òåîðåìå 3.1), íî ïðè ìàëûõ n âåëèêà âåðîÿòíîñòü ïîëó÷èòü îòðèöàòåëüíûå çíà÷åíèÿ îöåíîê, îöåíêà ïàðàìåòðà m,
êàê ïðàâèëî, íå áóäåò öåëûì ÷èñëîì, íàêîíåö, ìîæíî ïîêàçàòü, ÷òî îöåíêà p∗n = X ïàðàìåòðà p áóäåò îáëàäàòü ìåíüøèì êâàäðàòè÷íûì ðèñêîì,
÷åì îöåíêà p̂n . Âñå ýòî, êîíå÷íî, ïå÷àëüíî, îäíàêî äðóãèå ìåòîäû, ïðèâîäÿùèå ê áîëåå òî÷íûì îöåíêàì, îáëàäàþò çíà÷èòåëüíûìè âû÷èñëèòåëüíûìè
òðóäíîñòÿìè.
Ï ð è ì å ð 3. 2. Îöåíêà ïàðàìåòðîâ ãàììà-ðàñïðåäåëåíèÿ G(λ, a). Ó ýòîãî äâóõïàðàìåòðè÷åñêîãî ðàñïðåäåëåíèÿ ñðåäíåå ðàâíî λa, à äèñïåðñèÿ
λa2 . Ðåøåíèå ñèñòåìû óðàâíåíèé λa = X, λa2 = S 2 äàåò îöåíêè ân =
2
S 2 /X, λ̂n = X /S 2 , êîòîðûå, êàê è â ïðåäûäóùåì ïðèìåðå, íå ÿâëÿþòñÿ
190
³Xn
Yn
´
Xk ,
Xk , è êàê ïîêàçûâàþò
ôóíêöèÿìè äîñòàòî÷íîé ñòàòèñòèêè
1
1
íå ñîâñåì ïðîñòûå âû÷èñëåíèÿ, èõ ðèñêè äàëåêè îò âîçìîæíîãî ìèíèìóìà. Òåì íå ìåíåå, î÷åâèäíàÿ âû÷èñëèòåëüíàÿ ïðîñòîòà îöåíîê ïàðàìåòðîâ
ãàììà-ðàñïðåäåëåíèÿ ïî ìåòîäó ìîìåíòîâ îáåñïå÷èâàåò èõ ïîïóëÿðíîñòü â
ïðàêòè÷åñêèõ ïðèìåíåíèÿõ.
Èçó÷èì òåïåðü àñèìïòîòè÷åñêèå ñâîéñòâà îöåíîê ïî ìåòîäó ìîìåíòîâ
óñòàíîâèì óñëîâèÿ èõ ñîñòîÿòåëüíîñòè è èññëåäóåì ïîâåäåíèå èõ ðàñïðåäåëåíèé ïðè áîëüøèõ îáúåìàõ âûáîðîê. Äëÿ ïðîñòîòû ìû îãðàíè÷èìñÿ
ñëó÷àåì îäíîìåðíîãî ïàðàìåòðà θ, îöåíêà êîòîðîãî îïðåäåëÿåòñÿ ðåøåíèåì óðàâíåíèÿ µ(θ) = E θ X = X, è ïðåäïîëîæèì, ÷òî ýòî óðàâíåíèå èìååò åäèíñòâåííîå ðåøåíèå θ̂n = h(X). Ïîíÿòíî, ÷òî h(·) = µ−1 (·), òàê ÷òî
h(µ(θ)) ≡ θ. Î âîçìîæíîñòè ðàñïðîñòðàíåíèÿ íàøèõ ðåçóëüòàòîâ íà ñëó÷àé
âåêòîðíîãî θ ìû ïîãîâîðèì îòäåëüíî.
Òåîðåìà 3.1. Åñëè íàáëþäàåìàÿ ñëó÷àéíàÿ âåëè÷èíà X èìååò êîíå÷íîå
ñðåäíåå çíà÷åíèå µ = µ(θ) è ôóíêöèÿ h(·) íåïðåðûâíà â îáëàñòè çíà÷åíèé
âûáîðî÷íîãî ñðåäíåãî X, òî θ̂n = h(X) ÿâëÿåòñÿ ñîñòîÿòåëüíîé îöåíêîé
ïàðàìåòðà θ ïî ìåòîäó ìîìåíòîâ.
Ä î ê à ç à ò å ë ü ñ ò â î.. Ìû âîñïîëüçóåìñÿ ôîðìóëîé (1) â îïðåäåëåíèè
ñîñòîÿòåëüíîñòè îöåíêè è ïîêàæåì, ÷òî äëÿ ëþáûõ ε > 0 è α > 0 ñóùåñòâóåò òàêîå N (ε, α), ÷òî äëÿ âñåõ n > N (ε, α) âåðîÿòíîñòü
¯
¡¯
¢
Pθ ¯ h(X) − θ ¯ ≤ ε > 1 − α.
(2)
Ïîñêîëüêó h(µ) = h(µ(θ)) = θ è X → µ, òî íàì äîñòàòî÷íî ïîêàçàòü,
P
÷òî ñâîéñòâî (èëè îïðåäåëåíèå) íåïðåðûâíîñòè ôóíêöèè: h(x) → h(µ) ïðè
x → µ, îñòàåòñÿ ñïðàâåäëèâûì ïðè çàìåíå îáû÷íîé ñõîäèìîñòè 00 → 00 íà
ñõîäèìîñòü ïî âåðîÿòíîñòè 00 → 00 , òî åñòü X → µ âëå÷åò h(X) → h(µ). Ýòî
P
P
P
ïî÷òè î÷åâèäíî, ïîñêîëüêó ñîáûòèå, ñîñòîÿùåå â ïîïàäàíèè â îêðåñòíîñòü
íóëÿ ñëó÷àéíîé âåëè÷èíû | X − µ |, âëå÷åò àíàëîãè÷íîå ñîáûòèå äëÿ ñëó÷àéíîé âåëè÷èíû | h(X)−h(µ) |, íî âñå æå ïðîâåäåì ñòðîãîå äîêàçàòåëüñòâî
íà ÿçûêå 00 ε − δ 00 .
Òàê êàê X → µ(θ), à h(·) íåïðåðûâíàÿ ôóíêöèÿ, òî íàéäóòñÿ òàêèå
P
δ = δ(ε, α) è N = N (ε, α), ÷òî
P ( | X − µ(θ) | < δ ) > 1 − α
(3)
äëÿ âñåõ n > N è ñîáûòèå | X − µ(θ) | < δ ïîâëå÷åò ñîáûòèå | h(X) −
191
h(µ(θ)) | = | h(X) − θ | ≤ ε. Â ñèëó ýòîãî íåðàâåíñòâî (2) ñòàíîâèòñÿ ñëåäñòâèåì íåðàâåíñòâà (3). Òåîðåìà äîêàçàíà.
Àíàëèç äîêàçàòåëüñòâà ïîêàçûâàåò, ÷òî òåîðåìà ñîñòîÿòåëüíîñòè îñòàåòñÿ ñïðàâåäëèâîé â ñëó÷àå âåêòîðíîãî ïàðàìåòðà θ, åñëè âîñïîëüçîâàòüñÿ
îïðåäåëåíèåì íåïðåðûâíîñòè âåêòîðíîé ôóíêöèè îò âåêòîðíîãî àðãóìåíòà,
ñâÿçàâ åãî ñ ðàññòîÿíèÿìè â ýâêëèäîâûõ ïðîñòðàíñòâàõ çíà÷åíèé ôóíêöèè
è åå àðãóìåíòà.
Îáðàòèìñÿ òåïåðü ê àñèìïòîòè÷åñêîìó àíàëèçó ðàñïðåäåëåíèÿ îöåíêè
θ̂n = h(X) ïðè n → ∞. Ïîíÿòíî, ÷òî â äàííîì ñëó÷àå óïîòðåáëåíèå òåðìèíà îöåíêà ïðèìåíèòåëüíî ê ôóíêöèè h(X) íè÷åãî îñîáåííî íå äîáàâëÿåò
ðå÷ü èäåò ïðîñòî îá àñèìïòîòè÷åñêîì ðàñïðåäåëåíèè ñòàòèñòèêè, èìåþùåé
âèä ôóíêöèè îò âûáîðî÷íîãî ñðåäíåãî.
Òåîðåìà 3.2. Åñëè X (n) ñëó÷àéíàÿ âûáîðêà èç ðàñïðåäåëåíèÿ ñ êî-
íå÷íûìè ñðåäíèì çíà÷åíèåì µ è äèñïåðñèåé σ 2 , à ôóíêöèÿ h(x) îáëàäàåò
îãðàíè÷åííîé âòîðîé ïðîèçâîäíîé h00 (x) â íåêîòîðîé îêðåñòíîñòè òî÷êè
x = µ, òî
¢
¢
¡√ ¡
n h(X) − h(µ) < x = Φ
lim P
n→∞
µ
¶
x
.
σ| h0 (µ) |
(4)
ãäå Φ(·) ôóíêöèÿ ðàñïðåäåëåíèÿ ñòàíäàðòíîãî íîðìàëüíîãî çàêîíà.
Ä î ê à ç à ò å ë ü ñ ò â î.. Ïîíÿòíî, ÷òî ìû äîëæíû âîñïîëüçîâàòüñÿ öåíòðàëüíîé
Xïðåäåëüíîé òåîðåìîé (14 êóðñà ÒÂ) ïðèìåíèòåëüíî ê ñòàòèñòèêå
X=
1
n
n
1
Xk :
³x´
¢
¢
¡√ ¡
n X −µ < x =Φ
.
(5)
lim P
n→∞
σ
Ñòàíäàðòíûé ïðèåì èñïîëüçîâàíèÿ ýòîé òåîðåìû ïðè àñèìïòîòè÷åñêîì
àíàëèçå ôóíêöèé îò ñóìì íåçàâèñèìûõ, îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí ñîñòîèò â ëèíåðèçàöèè òàêèõ ôóíêöèé ñ ïîìîùüþ ôîðìóëû Òåéëîðà.  íàøåì ñëó÷àå ìû ðàçëàãàåì ôóíêöèþ h(·) â îêðåñòíîñòè
òî÷êè X = µ, èñïîëüçóÿ òîëüêî äâà ÷ëåíà ðàçëîæåíèÿ:
¢
(X − µ)2 00 ¡
h(X) = h(µ) + (X − µ)h (µ) +
h µ + λ(X − µ) ,
2!
ãäå 0 ≤ λ ≤ 1.
Ïåðåïèøåì ýòî ðàçëîæåíèå â âèäå
√
¢ √
¢
√ ¡
n(X − µ)2 00 ¡
n h(X) − h(µ) = n(X − µ)h (µ) +
h µ + λ(X − µ) ,
2!
192
√ ¡
¢
ïðåäñòàâèâ òåì ñàìûì ñëó÷àéíóþ âåëè÷èíó n h(X) − h(µ) (ñì. ôîðìóëó (4)) â âèäå ñóììû äâóõ ñëó÷àéíûõ âåëè÷èí, ïåðâàÿ èç êîòîðûõ â ñèëó
ôîðìóëû (5) èìååò ïðåäåëüíîå íîðìàëüíîå ðàñïðåäåëåíèå, óêàçàííîå â ïðàâîé¡ ÷àñòè (4), à âòîðàÿ
ñõîäèòñÿ ïî âåðîÿòíîñòè ê íóëþ. Äåéñòâèòåëüíî,
¢
00
h µ + λ(X − µ) ïî óñëîâèþ òåîðåìû îãðàíè÷åíî ñ âåðîÿòíîñòüþ ñêîëü
óãîäíî áëèçêîé ê åäèíèöå, íà÷èíàÿ ñ íåêîòîðîãî n.  ñèëó íåðàâåíñòâà
×åáûøåâà (ïðåäëîæåíèå 6.2 êóðñà ÒÂ) äëÿ ëþáîãî ε > 0 âåðîÿòíîñòü
P
¡√
√
√
nDX
σ2
E n(X − µ)2
=
= √ → 0,
n(X − µ) > ε ≤
ε
ε
ε n
2
¢
è ïîýòîìó ñòîÿùèé ïåðåä h00 /2! ìíîæèòåëü, à ñ íèì è âñå âòîðîå ñëàãàåìîå, ñõîäÿòñÿ ïî âåðîÿòíîñòè ê íóëþ. Äîêàçàòåëüñòâî òåîðåìû çàâåðøàåòñÿ ññûëêîé íà ïðåäëîæåíèå 11.1 êóðñà ÒÂ: åñëè îäíà ïîñëåäîâàòåëüíîñòü
ñëó÷àéíûõ âåëè÷èí èìååò íåâûðîæäåííîå ïðåäåëüíîå ðàñïðåäåëåíèå F, à
âòîðàÿ ñõîäèòñÿ ïî âåðîÿòíîñòè ê íóëþ, òî ïðåäåëüíîå ðàñïðåäåëåíèå ñóììû ýòèõ ïîñëåäîâàòåëüíîñòåé ñîâïàäàåò ñ F.
Èòàê, åñëè h(X) îöåíêà θ̂n ïàðàìåòðà θ ïî ìåòîäó ìîìåíòîâ, òî ôîðìóëà (4) òåîðåìû 3.2 ïðèíèìàåò âèä
µ
´
´
³√ ³
lim P
n θ̂n − θ) < x = Φ
n→∞
¶
x
.
σ| h0 (µ) |
Ïðèâåäåì ïðèìåð íà èñïîëüçîâàíèå àïïðîêñèìàöèè ðàñïðåäåëåíèÿ ôóíêöèè îò âûáîðî÷íîãî ñðåäíåãî íà ïðàêòèêå.
Ï ð è ì å ð 3.3. Îöåíêà íàäåæíîñòè èçäåëèÿ ñ ïîêàçàòåëüíûì ðàñïðåäåëåíèåì äîëãîâå÷íîñòè. Ïðè âûïóñêå èçäåëèé îáû÷íî óêàçûâàåòñÿ èõ ãàðàíòèéíûé ñðîê ñëóæáû t0 ; îòêàç èçäåëèÿ äî èñòå÷åíèÿ ñðîêà t0 ÷ðåâàò äëÿ
ïîñòàâùèêà ðàñõîäàìè íà ðåìîíò èëè çàìåíó èçäåëèÿ. ×òîáû ïëàíèðîâàòü
ðàñõîäû íà òàêîãî ðîäà ðåêëàìàöèè ñî ñòîðîíû ïîòðåáèòåëÿ, ïîñòàâùèê
äîëæåí çíàòü íàäåæíîñòü âûïóñêàåìûõ èçäåëèé: H(t0 ) = P (X > t0 ). Âåëè÷èíà H(t0 ) óêàçûâàåò ñðåäíþþ äîëþ èçäåëèé, êîòîðûå íå îòêàæóò â
òå÷åíèè ãàðàíòèéíîãî ñðîêà ñëóæáû t0 . ×òîáû îöåíèòü H(t0 ) ïðîâîäÿòñÿ
èñïûòàíèÿ n èçäåëèé, è ïóñòü x1 , . . . , xn íàðàáîòêè íà îòêàç èñïûòóåìûõ
èçäåëèé, òðàêòóåìûå êàê ðåàëèçàöèè ñëó÷àéíîé âûáîðêè X (n) èç ðàñïðåäåëåíèÿ F ( · | θ), èçâåñòíîãî ñ òî÷íîñòüþ äî çíà÷åíèÿ ïàðàìåòðà θ. Íàêîíåö,
ïóñòü íàì èçâåñòíî, ÷òî äîëãîâå÷íîñòü èçäåëèé ïîä÷èíÿåòñÿ çàêîíó îòñóòñòâèÿ ïîñëåäåéñòâèÿ , â ñèëó ÷åãî F (x | θ) = 1−exp{−x/θ} ïîêàçàòåëüíîå
193
ðàñïðåäåëåíèå.  òàêîì ñëó÷àå ïðîáëåìà ñîñòîèò â îöåíêå ïàðàìåòðè÷åñêîé
ôóíêöèè h(θ) = exp{−t0 /θ}.
Òàê êàê θ = EX ñðåäíÿÿ íàðàáîòêà íà îòêàç, òî åñòåñòâåííî îöåíèòü
θ ïîñðåäñòâîì ñòàòèñòèêè X (ðàáîòàåò ìåòîä ìîìåíòîâ), à çà îöåíêó íàäåæíîñòè âçÿòü ñòàòèñòèêó h(X) = exp{−t0 /X}. Ïîñêîëüêó íàèáîëüøóþ,
ñ ýêîíîìè÷åñêîé òî÷êè çðåíèÿ, îïàñíîñòü ïðåäñòàâëÿåò çàâûøåíèå íàäåæíîñòè, òî íàñ â ïåðâóþ î÷åðåäü äîëæíà èíòåðåñîâàòü ÷àñòîòà ãðóáûõ ïðåâûøåíèé, íàïðèìåð, íà íåêîòîðóþ çàäàííóþ âåëè÷èíó ε. Åñëè ïîëîæèòü
√
∆ = ε n, òî âåðîÿòíîñòü, óêàçûâàþùàÿ
ïðåâûøåíèé,
çà¡√ ¡ ÷àñòîòó ãðóáûõ
¢
¢
ïèñûâàåòñÿ â âèäå R(θ; h(X)) = P
n h(X) − h(θ) > ∆ , ÷òî ïîçâîëÿåò íàì íåïîñðåäñòâåííî èñïîëüçîâàòü àïïðîêñèìàöèþ (4) ïðè èñïûòàíèÿõ
äîñòàòî÷íî áîëüøîãî ÷èñëà èçäåëèé (íàñêîëüêî áîëüøîãî, ýòî îòäåëüíûé
âîïðîñ, ðåøèòü êîòîðûé ìîæíî, íàïðèìåð, ìîäåëèðóÿ âûáîðêè èç ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ ñ ïîìîùüþ ìåòîäà Ìîíòå-Êàðëî).
Èìååì σ 2 = θ2 , h0 (θ) = t0 θ−2 exp{−t0 /θ}, è ôîðìóëà (4) äàåò íàì ñëåäóþùóþ àïïðîêñèìàöèþ äëÿ ðèñêà îöåíêè h(X) :
µ
∆θ
exp
R(θ; h(X)) ≈ 1 − Φ
t0
½ ¾¶
t0
.
θ
Íåòðóäíî ïîêàçàòü, ÷òî íàèáîëüøåå çíà÷åíèå ðèñêà äîñòèãàåòñÿ ïðè θ = t0
è ðàâíî Φ(∆ · e).
 òîì ñëó÷àå, êîãäà îöåíêà èìååò âèä ôóíêöèè îò äâóõ è áîëåå âûáîðî÷íûõ ìîìåíòîâ, ìåòîä àñèìïòîòè÷åñêîãî àíàëèçà åå ðàñïðåäåëåíèÿ òîò
æå. Íàïðèìåð, ïóñòü θ̂n = h(a1 , a2 ), è ôóíêöèÿ h óäîâëåòâîðÿåò óñëîâèÿì,
àíàëîãè÷íûì òðåáîâàíèÿì ê h â òåîðåìå 3.2. Èñïîëüçóÿ ôîðìóëó Òåéëîðà,
ïðåäñòàâèì h â îêðåñòíîñòè òî÷êè (α1 , α2 ) â ñëåäóþùåì âèäå:
h(a1 , a2 ) = h(α1 , α2 ) + (a1 − α1 )h01 (α1 , α2 )+
(a2 − α2 )h02 (α1 , α2 ) + Op (| a − α |2 ),
√
ãäå a = (a1 , a2 ), α = (α1 , α2 ). Ëåãêî ïðîâåðÿåòñÿ, ÷òî n| a − α |2 → 0, òàê
P
√
÷òî ñëó÷àéíàÿ âåëè÷èíà n (h(a1 , a2 ) − h(α1 , α2 )) àñèìïòîòè÷åñêè íîðìàëüíà ñ ïàðàìåòðàìè, êîòîðûå âûðàæàþòñÿ ÷åðåç ïåðâûå ÷åòûðå ìîìåíòà
íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X.
194
4. Îöåíêà ïàðàìåòðîâ. Ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ
Ëåêöèÿ 6
Ìû ïðèñòóïàåì ê èçó÷åíèþ áîëåå òî÷íîãî ìåòîäà îöåíêè íåèçâåñòíîãî
çíà÷åíèÿ ïàðàìåòðà. Îí ïðåâîñõîäèò ìåòîä ìîìåíòîâ è ïðè íàëè÷èè äîñòàòî÷íûõ ñòàòèñòèê äàåò îïòèìàëüíûå îöåíêè ñ òî÷êè çðåíèÿ êâàäðàòè÷íîãî ðèñêà. Áîëåå òîãî, ïðè âûïîëíåíèè îïðåäåëåííûõ óñëîâèé ðåãóëÿðíîñòè
ýòîò ìåòîä ïðèâîäèò ê àñèìïòîòè÷åñêè (n → ∞) îïòèìàëüíûì îöåíêàì
äëÿ øèðîêîãî êëàññà âåðîÿòíîñòíûõ ìîäåëåé è ïðàêòè÷åñêè ïðè ëþáûõ
ôóíêöèÿõ ïîòåðü.
Èäåÿ ìåòîäà ñîñòîèò â ìàòåìàòè÷åñêîé ôîðìàëèçàöèè ðàçóìíîãî ïîâåäåíèÿ ÷åëîâåêà â óñëîâèÿõ íåîïðåäåëåííîñòè. Ïðåäñòàâèì ñåáå ñèòóàöèþ,
÷òî ìû îæèäàåì ïîÿâëåíèÿ îäíîãî èç íåñêîëüêèõ ñîáûòèé, âåðîÿòíîñòè
êîòîðûõ íàì íåèçâåñòíû è íàñ èíòåðåñóþò íå ñòîëüêî çíà÷åíèÿ ýòèõ âåðîÿòíîñòåé, ñêîëüêî òî ñîáûòèå, êîòîðîå ïðîèñõîäèò íàèáîëåå ÷àñòî. Ñèòóàöèÿ îñëîæíÿåòñÿ òåì, ÷òî ìû ðàñïîëàãàåì âñåãî îäíèì èñïûòàíèåì, â
ðåçóëüòàòå êîòîðîãî ïðîèçîøëî íåêîòîðîå ñîáûòèå A. Êîíå÷íî, ìû ïðèìåì ðåøåíèå, ÷òî A îáëàäàåò íàèáîëüøåé âåðîÿòíîñòüþ, è âðÿä ëè ìîæíî
ïðåäëîæèòü íå÷òî áîëåå ðàçóìíîå, ÷åì òàêîå ïðàâèëî ïðèíÿòèÿ ðåøåíèÿ.
 ýòîì è ñîñòîèò ïðèíöèï ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ, êîòîðûé áóêâàëüíî ïðîíèçûâàåò âñþ òåîðèþ îïòèìàëüíîãî ñòàòèñòè÷åñêîãî âûâîäà.
Ïðèìåíåíèå ýòîãî ïðèíöèïà ê ïðîáëåìå îöåíêè ïàðàìåòðîâ ïðèâîäèò ê
ñëåäóþùåìó ñòàòèñòè÷åñêîìó ïðàâèëó: åñëè x(n) ðåçóëüòàò íàáëþäåíèÿ
ñëó÷àéíîé âûáîðêè X (n) , òî çà îöåíêó ïàðàìåòðà ñëåäóåò áðàòü òî åãî
çíà÷åíèå, ïðè êîòîðîì ðåçóëüòàò x(n) îáëàäàåò íàèáîëüøèì ïðàâäîïîäîáèåì.
Âû ñïðîñèòå, ÷òî òàêîå ïðàâäîïîäîáèå ðåçóëüòàòà x(n) ? Äàâàéòå ôîðìàëèçóåì ýòî ïîíÿòèå.
Åñëè íàáëþäàåòñÿ äèñêðåòíàÿ ñëó÷àéíàÿ âåëè÷èíà, òî åñòåñòâåííî íàçâàòü ïðàâäîïîäîáèåì ðåçóëüòàòà x(n) ïðè ôèêñèðîâàííîì çíà÷åíèè ïàðàìåòðà θ âåðîÿòíîñòü åãî íàáëþäåíèÿ â ñòàòèñòè÷åñêîì ýêñïåðèìåíòå. Íî â
äèñêðåòíîì ñëó÷àå ýòà âåðîÿòíîñòü ñîâïàäàåò ñî çíà÷åíèåì ôóíêöèè ïëîòíîñòè â òî÷êå x(n) : P θ (X (n) = x(n) ) = fn (x(n) | θ). Ñëåäîâàòåëüíî, îöåíêà
ïî ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ îïðåäåëÿåòñÿ òî÷êîé äîñòèæåíèÿ
ìàêñèìóìà ó ôóíêöèè ïëîòíîñòè ñëó÷àéíîé âûáîðêè, òî åñòü
θ̂n (X
(n)
³
) = arg max fn X
θ∈Θ
195
(n)
´
|θ .
(1)
Ðàññìîòðèì ñðàçó æå ïðîñòîé ïðèìåð. Ïóñòü X (n) âûáîðêà â ñõåìå
Áåðíóëëè, è ìû îöåíèâàåì âåðîÿòíîñòü θ óñïåøíîãî èñõîäà. Â ýòîé ìîäåëè
Xn
f (X (n) | θ) = θ
1
Xk
Xn
(1 − θ)
n−
1
Xk
.
Äèôôåðåíöèðóÿ ýòó ôóíêöèþ ïî θ è ïðèðàâíèâàÿ ïðîèçâîäíóþ
íóëþ, íàXn
õîäèì îöåíêó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ θ = (1/n)
Xk . Ýòî äàâ1
íî çíàêîìàÿ íàì îöåíêà âåðîÿòíîñòè óñïåõà â èñïûòàíèÿõ Áåðíóëëè, êîòîðóþ ìû ïîëó÷èëè ñ ïîìîùüþ ìîìåíòîâ è ïîñòîÿííî èñïîëüçîâàëè ïðè
èëëþñòðàöèè çàêîíà áîëüøèõ ÷èñåë.
Òåïåðü îïðåäåëèì ïðàâäîïîäîáèå â ñëó÷àå âûáîðà èç íåïðåðûâíîãî ðàñïðåäåëåíèÿ ñ ôóíêöèåé ïëîòíîñòè (ïî ìåðå Ëåáåãà) fn (x(n) | θ), x(n) ∈ Rn , θ ∈
Θ. Ïóñòü x(n) ñîâîêóïíîñòü âûáîðî÷íûõ äàííûõ, òî åñòü òî÷êà â n-ìåðíîì
âûáîðî÷íîì ïðîñòðàíñòâå Rn . Îêðóæèì ýòóY
òî÷êó ïðÿìîóãîëüíûì ïàðàën
ëåëåïèïåäîì ìàëîãî ðàçìåðà, ñêàæåì, Vε =
[ xk − ε/2; xk + ε/2]. Â ñèëó
1
òåîðåìû î ñðåäíåì äëÿ êðàòíîãî èíòåãðàëà âåðîÿòíîñòü
òîãî,
÷òî âûáîðî÷¡ (n)
¢
íûé âåêòîð ïîïàäåò â ýòîò ïàðàëëåëåïèïåä P X ∈ Vε ∼ fn (x(n) | θ) · εn ,
êîãäà ε → 0. Åñëè òðàêòîâàòü ýòó âåðîÿòíîñòü, êàê ïðàâäîïîäîáèå ðåçóëüòàòà x(n) , êîòîðîå, êîíå÷íî, çàâèñèò îò âûáîðà ìàëîãî ε, ìû âèäèì, ÷òî
ïðîáëåìà ìàêñèìèçàöèè ïðàâäîïîäîáèÿ ñâîäèòñÿ ê ïðîáëåìå îòûñêàíèÿ
òî÷êè äîñòèæåíèÿ ìàêñèìóìà ïî âñåì θ ∈ Θ ó ôóíêöèè ïëîòíîñòè fn .
Òàêèì îáðàçîì, è â ñëó÷àå íåïðåðûâíîãî ðàñïðåäåëåíèÿ ðàçóìíî íàçâàòü
ïðàâäîïîäîáèåì ðåçóëüòàòà x(n) ïðè ôèêñèðîâàííîì çíà÷åíèè ïàðàìåòðà
θ îïÿòü-òàêè âåëè÷èíó ôóíêöèè ïëîòíîñòè âûáîðêè, òî åñòü fn (x(n) | θ), è
îïðåäåëèòü îöåíêó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ òîé æå ôîðìóëîé (1).
Ðàññìîòðèì ïðèìåð íà ïîñòðîåíèå òàêîé îöåíêè â ñëó÷àå âûáîðà èç
íåïðåðûâíîãî ðàñïðåäåëåíèÿ. Ïóñòü íàáëþäàåòñÿ ñëó÷àéíàÿ âåëè÷èíà X ∼
N (µ, σ 2 ), òàê ÷òî ôóíêöèÿ ïëîòíîñòè âûáîðêè
fn (x
(n)
½
¾
1
1 Xn
2
| θ) =
exp − 2
(xk − µ) ,
1
2σ
(2π)n/2 σ n
ãäå θ = (µ, σ) äâóìåðíûé ïàðàìåòð, çíà÷åíèå êîòîðîãî íàì íåèçâåñòíî.
 ñîîòâåòñòâèè ñ ôîðìóëîé (1) íåîáõîäèìî îòûñêàòü òî÷êó äîñòèæåíèÿ
ìàêñèìóìà ôóíêöèè fn (X (n) | µ, θ) ïî ïåðåìåííûì µ ∈ R è σ ∈ R+ . Åñòåñòâåííî, ëîãàðèôì ýòîé ôóíêöèè èìååò òå æå òî÷êè ýêñòðåìóìà, ÷òî è
ñàìà ôóíêöèÿ, íî ëîãàðèôìèðîâàíèå óïðîùàåò âûêëàäêè, ïîýòîìó èùåì
196
ìàêñèìóì ôóíêöèè
L(θ | X
(n)
) = ln fn (X
(n)
n
1 Xn
| θ) = − ln 2π − n ln σ − 2
(Xk − µ)2 .
1
2
2σ
Ñîñòàâëÿåì óðàâíåíèÿ, îïðåäåëÿþùèå òî÷êè ýêñòðåìóìà:
∂L
1 Xn
= 2
(Xk − µ) = 0,
1
∂µ
2σ
∂L
n
1 Xn
=− + 3
(Xk − µ)2 = 0.
1
∂σ
σ σ
Èç ïåðâîãî óðàâíåíèÿ ñðàçó íàõîäèì îöåíêó ïàðàìåòðà µ : µ̂n = X. Ïîäñòàâëÿÿ X âìåñòî µ âî âòîðîå óðàâíåíèå, íàõîäèì îöåíêó σ : σ̂n = S
(âûáîðî÷íîå ñòàíäàðòíîå îòêëîíåíèå). Î÷åâèäíî, (X, S) òî÷êà ìàêñèìóìà. Òàêèì îáðàçîì, ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ïðèâîäèò ê òåì
æå îöåíêàì X è S 2 ïàðàìåòðîâ µ è σ 2 , ÷òî è ìåòîä ìîìåíòîâ.
Òåïåðü äàäèì ñòðîãîå îïðåäåëåíèå ïðàâäîïîäîáèÿ è ðàññìîòðèì åùå
íåñêîëüêî ïðèìåðîâ, â êîòîðûõ ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ äàåò îöåíêè, îòëè÷íûå îò ìåòîäà ìîìåíòîâ.
Îïðåäåëåíèå 4.1. Ñëó÷àéíàÿ ôóíêöèÿ
L(θ | X
(n)
)=
n
Y
f (Xi | θ)
i=1
íà ïàðàìåòðè÷åñêîì ïðîñòðàíñòâå Θ íàçûâàåòñÿ ôóíêöèåé ïðàâäîïîäîáèÿ,
à çíà÷åíèå åå ðåàëèçàöèè L(θ0 | x(n) ) ïðè ðåçóëüòàòå íàáëþäåíèÿ X (n) = x(n)
è ôèêñèðîâàííîì θ = θ0 ïðàâäîïîäîáèåì çíà÷åíèÿ θ0 ïðè ðåçóëüòàòå
x(n) . Ëþáàÿ òî÷êà θ̂n = θ̂n (X (n) ) (ñòàòèñòèêà) ïàðàìåòðè÷åñêîãî ïðîñòðàíñòâà Θ, äîñòàâëÿþùàÿ àáñîëþòíûé ìàêñèìóì ôóíêöèè ïðàâäîïîäîáèÿ, íàçûâàåòñÿ îöåíêîé ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ïàðàìåòðà θ.
Ïîñêîëüêó ôóíêöèÿ ïðàâäîïîäîáèÿ ïðåäñòàâëÿåò ñîáîé ïðîèçâåäåíèå
ôóíêöèé îò θ, òî ïðè îòûñêàíèè åå ìàêñèìóìà ìåòîäàìè äèôôåðåíöèàëüíîãî èñ÷èñëåíèÿ óäîáíåå èìåòü äåëî ñ ëîãàðèôìîì ýòîé ôóíêöèè. Åñòåñòâåííî, òî÷êè ýêñòðåìóìà ó ôóíêöèè ëîãàðèôìè÷åñêîãî ïðàâäîïîäîáèÿ
L(θ | X
(n)
)=
n
X
i=1
197
ln f (Xi | θ)
òå æå, ÷òî è ó ôóíêöèè L, íî åñëè ôóíêöèÿ L(· | x(n) ) èìååò íåïðåðûâíûå
÷àñòíûå ïðîèçâîäíûå ïî êîìïîíåíòàì θ1 , . . . , θk ïàðàìåòðè÷åñêîãî âåêòîðà
θ, òî ïðîùå äèôôåðåíöèðîâàòü L ÷åì L.  ýòîì ñëó÷àå ñèñòåìà óðàâíåíèé
∂L(θ | X (n) )
= 0, i = 1, . . . , k
∂θi
(2)
íàçûâàåòñÿ óðàâíåíèÿìè ïðàâäîïîäîáèÿ. Ýòî åùå îäíà ðàçíîâèäíîñòü òàê
íàçûâàåìûõ îöåíî÷íûõ óðàâíåíèé, â ïðåäûäóùåì ïàðàãðàôå ìû èìåëè
äåëî ñ óðàâíåíèÿìè ìåòîäà ìîìåíòîâ.
Ëþáîå ðåøåíèå ñèñòåìû óðàâíåíèé (2), äîñòàâëÿþùåå ìàêñèìóì ôóíêöèè L(· |X (n) ), ìîæåò ðàññìàòðèâàòüñÿ êàê îöåíêà θ ïî ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ. Ìû íå áóäåì èçó÷àòü ñëó÷àè, êîãäà ñèñòåìà (2) èìååò
íåñêîëüêî ðåøåíèé ñ âîçìîæíî îäèíàêîâûìè çíà÷åíèÿìè ôóíêöèè ïðàâäîïîäîáèÿ â ýòèõ òî÷êàõ, òàê ÷òî òðåáóþòñÿ äîïîëíèòåëüíûå àïðèîðíûå
çíàíèÿ îòíîñèòåëüíî âåðîÿòíîñòíîé ìîäåëè, ïîçâîëÿþùèå âûáðàòü îäíî
èç ýòèõ ðåøåíèé. Âî âñåõ ðàññìîòðåííûõ íèæå ïðèìåðàõ îöåíêà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ åäèíñòâåííà.
Ï ð è ì å ð 4. 1. Îöåíêà ïàðàìåòðà ïîëîæåíèÿ ðàâíîìåðíîãî ðàñïðåäåëåíèÿ U(0, θ). Ðàâíîìåðíîå íà îòðåçêå [ 0; θ ] ðàñïðåäåëåíèå èìååò ôóíêöèþ
ïëîòíîñòè f (x | θ) = θ−1 , åñëè 0 ≤ x ≤ θ, è f (x | θ) = 0 âíå ýòîãî îòðåçêà.
Ñëåäîâàòåëüíî, ôóíêöèÿ L(θ | X (n) ) îòëè÷íà îò íóëÿ è ðàâíà θ−n òîëüêî â
îáëàñòè θ ≥ X(n) = max1≤k≤n Xk . Åå ìàêñèìóì ïî θ äîñòèãàåòñÿ â ãðàíè÷íîé òî÷êå θ = X(n) , òàê ÷òî íàèáîëüøåå çíà÷åíèå X(n) âûáîðêè X (n) åñòü
îöåíêà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ïàðàìåòðà θ.
Ëåãêî âèäåòü, ÷òî îöåíêà θ ïî ìåòîäó ìîìåíòîâ ðàâíà 2X. Ýòà îöåíêà íà ïîðÿäîê õóæå îöåíêè ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ñ òî÷êè çðåíèÿ
³
´2
(n)
êâàäðàòè÷íîãî ðèñêà R(θ; θ̂n ) = E θ θ̂n (X ) − θ . Ïðîñòûå âû÷èñëåíèÿ
ñîîòâåòñòâóþùèõ ìàòåìàòè÷åñêèõ îæèäàíèé ïîêàçûâàþò, ÷òî R(θ; 2X) =
O(n−1 ), â òî âðåìÿ êàê R(θ; X(n) ) = O(n−2 ). Äàííûé ïðèìåð èíòåðåñåí
òåì, ÷òî çäåñü ôóíêöèÿ ïðàâäîïîäîáèÿ íå èìååò ãëàäêîãî ìàêñèìóìà, è
èìåííî ýòî îáñòîÿòåëüñòâî, êàê áóäåò âèäíî â äàëüíåéøåì, îáåñïå÷èâàåò
òàêîå ðàçëè÷íîå ïîâåäåíèå ðèñêà ðàññìàòðèâàåìûõ îöåíîê.
Ï ð è ì å ð 4. 2. Îöåíêà ïàðàìåòðîâ ãàììà-ðàñïðåäåëåíèÿ G(a, λ). Ó ýòîãî ðàñïðåäåëåíèÿ ôóíêöèÿ ïëîòíîñòè
n xo
1
λ−1
f (x | θ) = λ
x exp −
, x > 0, θ = (a, λ),
a Γ(λ)
a
198
îòëè÷íà îò íóëÿ òîëüêî íà ïîëîæèòåëüíîé ïîëóîñè, è ëîãàðèôìè÷åñêîå
ïðàâäîïîäîáèå
L(a, λ | X
(n)
) = −nλ ln a − n ln Γ(λ) + (λ − 1)
n
X
1
n
1X
ln Xk −
Xk .
a 1
Ñîñòàâëÿåì óðàâíåíèÿ ïðàâäîïîäîáèÿ:
n
∂L
nλ
1 X
=−
+ 2
Xk = 0,
∂a
a
a 1
n
X
∂L
= −n ln a − nψ(λ) +
ln Xk = 0,
∂λ
1
ãäå ψ(λ) = d ln Γ(λ)/dλ òàê íàçûâàåìàÿ ïñè-ôóêöèÿ Ýéëåðà. Èñêëþ÷àÿ
èç ïåðâîãî óðàâíåíèÿ ïàðàìåòð a è ïîäñòàâëÿÿ ïîëó÷åííûé ðåçóëüòàò âî
âòîðîå, ïîëó÷àåì òðàíñöåíäåíòíîå óðàâíåíèå
n
1X
ln λ − ψ(λ) = ln X −
ln Xk ,
n 1
êîòîðîå â ñèëó ñâîéñòâà ìîíîòîííîñòè ôóíêöèè ln λ − ψ(λ) èìååò åäèíñòâåííîå ðåøåíèå. Ïðè ÷èñëåííîì ðåøåíèè ýòîãî óðàâíåíèÿ ìîæåò îêàçàòüñÿ ïîëåçíîé àñèìïòîòè÷åñêàÿ (λ → ∞) ôîðìóëà
1
1
+
+O
ln λ − ψ(λ) =
2λ 12λ2
µ
1
λ4
¶
.
Ï ð è ì å ð 4. 3. Îöåíêà ïàðàìåòðîâ ñòðóêòóðèðîâàííîãî ñðåäíåãî ïðè
íîðìàëüíîì ðàñïðåäåëåíèè îòêëèêà. Äàííàÿ çàäà÷à âåñüìà ÷àñòî âîçíèêàåò ïðè êàëèáðîâêå øêàëû ïðèáîðà. Äâå ïåðåìåííûå x è y ñâÿçàíû ëèíåéíûì ñîîòíîøåíèåì y = a + bx, è äëÿ ãðàäóèðîâêè çíà÷åíèé y íà øêàëå
ïðèáîðà íåîáõîäèìî çíàòü çíà÷åíèÿ ïàðàìåòðîâ a è b ýòîé çàâèñèìîñòè.
Îäíàêî, äëÿ êàæäîãî ñòàíäàðòíîãî ôèêñèðîâàííîãî çíà÷åíèÿ x ïðèáîð çàìåðÿåò çíà÷åíèå y ñ îøèáêîé, òàê ÷òî çàìåðû ïðîèñõîäÿò â ðàìêàõ âåðîÿòíîñòíîé ìîäåëè Y = a + bx + ξ, ãäå îøèáêà èçìåðåíèÿ (ñëó÷àéíàÿ âåëè÷èíà) ξ èìååò íîðìàëüíîå ðàñïðåäåëåíèå ñ íóëåâûì ñðåäíèì è íåêîòîðîé
äèñïåðñèåé σ 2 , çíà÷åíèå êîòîðîé, êàê ïðàâèëî, òàêæå íå èçâåñòíî. Ñëó÷àéíàÿ âåëè÷èíà Y îáû÷íî íàçûâàåòñÿ îòêëèêîì íà çíà÷åíèå ðåãðåññîðà x; åå
ðàñïðåäåëåíèå ïðè ôèêñèðîâàííîì x î÷åâèäíî íîðìàëüíî (a + bx, σ 2 ).
199
Äëÿ îöåíêè a è b ïðîèçâîäèòñÿ n èçìåðåíèé îòêëèêà y1 , . . . , yn ïðè
íåêîòîðûõ ôèêñèðîâàííûõ çíà÷åíèÿõ x1 , . . . , xn ðåãðåññîðà x, îïòèìàëüíûé âûáîð êîòîðûõ, îáåñïå÷èâàþùèé íàèáîëüøóþ òî÷íîñòü è íàäåæíîñòü
êàëèáðîâêè, ñîñòàâëÿåò ñàìîñòîÿòåëüíóþ çàäà÷ó îñîáîé îáëàñòè ìàòåìàòè÷åñêîé ñòàòèñòèêè ïëàíèðîâàíèå ðåãðåññèîííûõ ýêñïåðèìåíòîâ. Ìû
áóäåì ïðåäïîëàãàòü, ÷òî çíà÷åíèÿ x1 , . . . , xn àïðèîðè ôèêñèðîâàíû.  òàêîì ñëó÷àå çíà÷åíèÿ y1 , . . . , yn ïðåäñòàâëÿþò ðåàëèçàöèè n íåçàâèñèìûõ
ñëó÷àéíûõ âåëè÷èí Y1 , . . . , Yn , è Yk ∼ N (a + bxk , σ 2 ), k = 1, . . . , n. Ñîâìåñòíàÿ ôóíêöèÿ ïëîòíîñòè Y1 , . . . , Yn ðàâíà
¾
½
Xn
1
1
fn (y (n) ) | a, b, σ) =
exp − 2
(yk − a − bxk )2 ) ,
n/2
n
1
2σ
(2π) σ
òàê ÷òî ëîãàðèôìè÷åñêàÿ ôóíêöèÿ ïðàâäîïîäîáèÿ, íåîáõîäèìàÿ äëÿ îöåíêè ïàðàìåòðîâ a, b è σ ìåòîäîì ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ èìååò âèä
n
L(a, b, σ | Y
(n)
n
1 X
) = − ln 2π − n ln σ − 2
(Yk − a − bxk )2 .
2
2σ 1
Âû÷èñëÿÿ ïðîèçâîäíûå ýòîé ôóíêöèè ïî ïåðåìåííûì a, b è σ, ïîëó÷àåì
óðàâíåíèÿ ïðàâäîïîäîáèÿ
n
X
(Yk − a − bxk ) = 0,
1
n
X
xk (Yk − a − bxk ) = 0,
1
2
nσ −
n
X
(Yk − a − bxk )2 = 0.
1
Êîíå÷íî, ýòî î÷åíü ïðîñòàÿ ñèñòåìà óðàâíåíèé, ðåøåíèå êîòîðîé íå ìîæåò
âûçûâàòü êàêèõ-ëèáî çàòðóäíåíèé, è ìû ñðàçó ïèøåì îöåíêè ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ
mx Y
ân = Y − 2 x,
sx
mx Y
b̂n = 2 ,
sx
´2
1 X³
Yk − ân − b̂n xk ,
σ̂ =
n 1
n
2
ãäå
n
n
1X
1X
x=
xk , Y =
Yk ,
n 1
n 1
n
n
1X
1X
2
sx =
(xk − x) , SY =
(Yk − Y )2 ,
n 1
n 1
200
n
mx Y
1X
=
(xk − x)(Yk − Y ).
n 1
Ëåãêî âèäåòü, ÷òî îöåíêè ïî ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ïàðàìåòðîâ a è b ñîâïàäàþò ñ èõ îöåíêàìè ïî ìåòîäó íàèìåíüøèõ êâàäðàòîâ.
 ýòîì ìåòîäå âûðàâíèâàíèÿ ýêñïåðèìåíòàëüíûõ äàííûõ
Xn îöåíêè èùóòñÿ
(Yk − a − bxk )2 ,
èç óñëîâèÿ ìèíèìèçàöèè ñóììû êâàäðàòîâ íåâÿçîê:
1
ïðè÷åì ïîä íåâÿçêîé ïîíèìàåòñÿ ðàçíîñòü ìåæäó îòêëèêîì Y è åãî òåîðåòè÷åñêèì ñðåäíèì çíà÷åíèåì a + bx.
Ï ð è ì å ð 4. 4. Îöåíêà ïàðàìåòðîâ äâóìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ: çàäà÷è ðåãðåññèè è ïðîãíîçà. Îöåíêà ïî ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ïÿòè ïàðàìåòðîâ µ1 , µ2 , σ12 , σ22 , ρ äâóìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ ñ ôóíêöèåé ïëîòíîñòè
f (x, y | θ) =
1
p
·
2πσ1 σ2 1 − ρ2
½
exp −
µ
¶¾
(x − µ1 )2
(x − µ1 )(y − µ2 ) (y − µ2 )2
1
− 2ρ
+
2(1 − ρ2 )
σ12
σ1 σ2
σ22
íå ïðåäñòàâëÿåò îñîáîé òåõíè÷åñêîé ñëîæíîñòè. Ýòè îöåíêè ñîâïàäàþò ñ
îöåíêàìè ïî ìåòîäó ìîìåíòîâ è, òàêèì îáðàçîì, ðàâíû âûáîðî÷íûì àíàëîãàì òåõ õàðàêòåðèñòèê äâóìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ, êîòîðûå
ñîîòâåòñòâóþò óêàçàííûì ïÿòè ïàðàìåòðàì:
2
2
2
µ̂1,n = X, µ̂2,n = Y , σ̂1,n
= SX
, σ̂2,n
= SY2 , ρ̂n = r.
Ôîðìóëû äëÿ âû÷èñëåíèÿ âûáîðî÷íûõ ñðåäíèõ X è Y , âûáîðî÷íûõ äèñïåðñèé S12 è S22 , à òàêæå âûáîðî÷íîãî êîýôôèöèåíòà êîððåëÿöèè r ïðèâåäåíû â 2.
Ïîëó÷åííûå îöåíêè ÷àñòî èñïîëüçóþòñÿ äëÿ îöåíêè ïàðàìåòðîâ ëèíåéíîãî ïðîãíîçà Y = a + bX çíà÷åíèé ñëó÷àéíîé âåëè÷èíû Y ïî ðåçóëüòàòàì
íàáëþäåíèé X.  ñëó÷àå íîðìàëüíîãî ðàñïðåäåëåíèÿ ëèíåéíûé ïðîãíîç
îáëàäàåò ñâîéñòâîì îïòèìàëüíîñòè ñ òî÷êè çðåíèÿ ìàëîñòè ñðåäíåé êâàäðàòè÷íîé îøèáêè è ñîâïàäàåò ñ êðèâîé ñðåäíåé êâàäðàòè÷íîé ðåãðåññèè
(ñì. ïðåäëîæåíèå 10.3 êóðñà ÒÂ)
y = µ2 + ρ
σ2
(x − µ1 ).
σ1
201
Îäíàêî ôîðìàëüíàÿ ïîäãîíêà ïðîãíîñòè÷åñêîé êðèâîé ñ ïîìîùüþ ïðÿìîé ëèíèè èñïîëüçóåòñÿ è âíå ðàìîê íîðìàëüíîé ìîäåëè, è â ýòîì ñëó÷àå
îöåíêè
S2
S2
X, b̂n = r
S1
S1
ñîâïàäàþò ñ îöåíêàìè ïî ìåòîäó íàèìåíüøèõ êâàäðàòîâ: ìèíèìèçèðóåòñÿ, êàê è â ïðèìåðå 4.3, ñóììà êâàäðàòîâ íåâÿçîê
ân = Y − r
n
X
(Yk − a − bXk )2 .
1
Õîòÿ îöåíêè â îáîèõ ïðèìåðàõ èìåþò îäèíàêîâûé âèä, íî ðåøàåìûå â
íèõ ñòàòèñòè÷åñêèå ïðîáëåìû âåñüìà ðàçëè÷íû: â ïðèìåðå 4.3 îöåíèâàëèñü
ïàðàìåòðû íåêîòîðîé ôóíêöèîíàëüíîé çàâèñèìîñòè ñ îøèáêàìè â íàáëþäåíèÿõ îòêëèêà, â òî âðåìÿ êàê â ïðèìåðå 4.4 ðåøàåòñÿ çàäà÷à âûÿâëåíèÿ
êîððåëÿöèîííîé ñâÿçè è èñïîëüçîâàíèÿ ýòîé ñâÿçè äëÿ ïðîãíîçà.
Ëåêöèÿ 7
Èññëåäóåì òåïåðü àñèìïòîòè÷åñêèå ñâîéñòâà îöåíîê ïî ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ.
Íà÷íåì ñ âûÿñíåíèÿ äîñòàòî÷íûõ óñëîâèé ñîñòîÿòåëüíîñòè ýòèõ îöåíîê.
Òàêèå îãðàíè÷åíèÿ íà âåðîÿòíîñòíóþ ìîäåëü îáû÷íî íàçûâàþòñÿ óñëîâèÿìè ðåãóëÿðíîñòè, è â äàííîì ñëó÷àå îíè èìåþò ñëåäóþùèé âèä.
(R1) Ïàðàìåòðè÷åñêîå ïðîñòðàíñòâî Θ åñòü îòêðûòûé èíòåðâàë íà ïðÿìîé
R.
(R2) Íîñèòåëü X ðàñïðåäåëåíèÿ P θ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X
íå çàâèñèò îò θ, òî åñòü âñå ìíîæåñòâà X = {x : f (x | θ) > 0} ìîæíî
ñ÷èòàòü îäèíàêîâûìè, êàêîâî áû íè áûëî θ ∈ Θ.
(R3) Ðàñïðåäåëåíèÿ P θ ðàçëè÷íû ïðè ðàçíûõ θ, òî åñòü ïðè ëþáûõ θ1 6=
θ2 , θ1 , θ2 ∈ Θ, èìååò ìåñòî òîæäåñòâî µ{x : x ∈ X, f (x | θ1 ) =
f (x | θ2 )} = 0, ãäå µ ìåðà, ïî êîòîðîé âû÷èñëÿåòñÿ ïëîòíîñòü f (x | θ)
ðàñïðåäåëåíèÿ P θ .
Äîêàçàòåëüñòâî ñîñòîÿòåëüíîñòè îöåíîê ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ,
êàê è îöåíîê ïî ìåòîäó ìîìåíòîâ, îïèðàåòñÿ íà çàêîí áîëüøèõ ÷èñåë, íî
202
ïðè ýòîì èñïîëüçóåòñÿ ñëåäóþùåå äîñòàòî÷íî ïðîñòîå, íî èãðàþùåå áîëüøóþ ðîëü â òåîðèè âåðîÿòíîñòåé, íåðàâåíñòâî.
Ëåììà 4.1. (íåðàâåíñòâî Éåíñåíà) Ïóñòü X ñëó÷àéíàÿ âåëè÷èíà ñ
êîíå÷íûì ìàòåìàòè÷åñêèì îæèäàíèåì. Åñëè ôóíêöèÿ g(·) äâàæäû äèôôåðåíöèðóåìà è âûïóêëà (g 00 > 0) íà íåêîòîðîì èíòåðâàëå, ñîäåðæàùåì
íîñèòåëü ðàñïðåäåëåíèÿ X, è ìàòåìàòè÷åñêîå îæèäàíèå E g(X) ñóùåñòâóåò, òî ñïðàâåäëèâî íåðàâåíñòâî E g(X) ≥ g(EX), ïðè÷åì çíàê ðàâåíñòâà
äîñòèãàåòñÿ òîãäà è òîëüêî òîãäà, êîãäà ðàñïðåäåëåíèå X ñîñðåäîòî÷åíî â
îäíîé òî÷êå (X = const.).
Ä î ê à ç à ò å ë ü ñ ò â î.. Òàê êàê ôóíêöèÿ g äâàæäû äèôôåðåíöèðóåìà, òî
ñïðàâåäëèâî ñëåäóþùåå ïðåäñòàâëåíèå Òåéëîðà â îêðåñòíîñòè òî÷êè µ =
EX :
g(X) = g(µ) + (X − µ)g 0 (µ) + (X − µ)2 g 00 (µ + λ(X − µ))/2, 0 < λ < 1.
Âû÷èñëÿÿ ìàòåìàòè÷åñêîå îæèäàíèå îò îáåèõ ÷àñòåé ýòîãî ðàâåíñòâà, ïîëó÷àåì
E g(X) = g(EX) + E(X − µ)2 g 00 (µ + λ(X − µ))/2 ≥ g(EX).
Çíàê ðàâåíñòâà âîçìîæåí òîëüêî â ñëó÷àå E(X −µ)2 g 00 (µ+λ(X −µ)) = 0.
Íî ïîñêîëüêó g 00 > 0, òî ïîñëåäíåå ðàâåíñòâî ñ íåîáõîäèìîñòüþ âëå÷åò
(X − µ)2 = 0, òî åñòü X = const.
Ïîêàæåì òåïåðü, ÷òî ñïðàâåäëèâà
Òåîðåìà 4.1 (ñîñòîÿòåëüíîñòü). Åñëè ôóíêöèÿ ëîãàðèôìè÷åñêîãî ïðàâ-
äîïîäîáèÿ
L(θ | X
(n)
)=
n
X
ln f (Xk | θ)
(3)
k=1
èìååò åäèíñòâåííûé ìàêñèìóì, òî ïðè âûïîëíåíèè óñëîâèé ðåãóëÿðíîñòè
(R1)(R3) òî÷êà θ̂n äîñòèæåíèÿ ìàêñèìóìà ýòîé ôóíêöèè (îöåíêà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ) ÿâëÿåòñÿ ñîñòîÿòåëüíîé îöåíêîé ïàðàìåòðà θ.
Ä î ê à ç à ò å ë ü ñ ò â î.. Ïîêàæåì,
³ ÷òî äëÿ ëþáîãî
´ ôèêñèðîâàííîãî θ0 ∈ Θ
è ëþáîãî ε > 0 âåðîÿòíîñòü Pθ0 | θ̂n − θ0 | < ε → 1.
Åñëè θ0 èñòèííîå çíà÷åíèå ïàðàìåòðà θ, òî â ñèëó óñëîâèÿ (R1) θ0
âíóòðåííÿÿ òî÷êà Θ. Òîãäà ñôîðìóëèðîâàííàÿ âûøå çàäà÷à ñîñòîèò â
äîêàçàòåëüñòâå ñëåäóþùåãî óòâåðæäåíèÿ: â íåêîòîðîé ε-îêðåñòíîñòè (θ0 −
203
ε; θ0 + ε) ôóíêöèÿ L( · | X (n) ) îáëàäàåò ëîêàëüíûì ìàêñèìóìîì ñ âåðîÿòíîñòüþ, ñòðåìÿùåéñÿ ê åäèíèöå ïðè n → ∞.
Íî åñëè ïðîèñõîäèò ñîáûòèå
n
o
(n)
(n)
An = L(θ0 | X ) > L(θ0 ± ε | X ) ,
òî âíóòðè ýòîé îêðåñòíîñòè èìååòñÿ òî÷êà
³ ìàêñèìóìà,´è íàì îñòàåòñÿ òîëüêî ïîêàçàòü, ÷òî P θ0 (An ) → 1, èáî P θ0 | θ̂n − θ0 | < ε ≥ P θ0 (An ).
Èñïîëüçóÿ óñëîâèå (R2) è âèä ôóíêöèè L (ñì. (3)), ïðåäñòàâèì íåðàâåíñòâî, îïðåäåëÿþùåå ñîáûòèå An , â âèäå
n
1 X f (Xk | θ0 ± ε)
ln
< 0.
n
f (Xk | θ0 )
k=1
 ñèëó çàêîíà áîëüøèõ ÷èñåë Õèí÷èíà ëåâàÿ ÷àñòü ýòîãî íåðàâåíñòâà
ñõîäèòñÿ ïî âåðîÿòíîñòè ê
E θ0 ln
f (Xk | θ0 ± ε)
,
f (Xk | θ0 )
(4)
è äëÿ äîêàçàòåëüñòâà óòâåðæäåíèÿ äîñòàòî÷íî ïîêàçàòü, ÷òî ýòî ìàòåìàòè÷åñêîå îæèäàíèå ñòðîãî ìåíüøå íóëÿ (êñòàòè, äîêàæèòå ñàìè, ÷òî ïðè
ñïðàâåäëèâîñòè óñëîâèé òåîðåìû ìàòåìàòè÷åñêîå îæèäàíèå (4) âñåãäà ñóùåñòâóåò, â ïðîòèâíîì ñëó÷àå çàêîí áîëüøèõ ÷èñåë Õèí÷èíà íå ïðèìåíèì).
Òàê êàê g(x) = − ln x âûïóêëàÿ ôóíêöèÿ, òî â ñèëó íåðàâåíñòâà Éåíñåíà
E θ0 ln
Z
ln
X
f (X | θ0 ± ε)
f (X | θ0 ± ε)
≤ ln E θ0
=
f (X | θ0 )
f (X | θ0 )
f (x | θ0 ± ε)
· f (x | θ0 )dµ(x) = ln 1 = 0,
f (x | θ0 )
ïðè÷åì ðàâåíñòâî íóëþ ïåðâîãî ÷ëåíà â ýòîé öåïî÷êå íåðàâåíñòâ âîçìîæíî
ëèøü â ñëó÷àå
f (X | θ0 ± ε)
= const.,
f (X | θ0 )
òî åñòü, ïîñêîëüêó èíòåãðàë îò ïëîòíîñòè ðàâåí 1, ëèøü â ñëó÷àå f (X | θ0 ±
ε) = f (X | θ0 ), ÷òî íåâîçìîæíî â ñèëó óñëîâèÿ (R3). Òàêèì îáðàçîì, ìàòåìàòè÷åñêîå îæèäàíèå (4) ñòðîãî ìåíüøå íóëÿ, è ñîñòîÿòåëüíîñòü îöåíêè
ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ äîêàçàíà.
204
Èçó÷èì òåïåðü àñèìïòîòè÷åñêîå ðàñïðåäåëåíèå îöåíêè ìàêñèìàëüíîãî
ïðàâäîïîäîáèÿ. Äëÿ ýòîãî íàì ïîòðåáóåòñÿ ââåñòè äîïîëíèòåëüíûå óñëîâèÿ
ðåãóëÿðíîñòè.
(R4) Äëÿ êàæäîé òî÷êè θ0 ïàðàìåòðè÷åñêîãî ïðîñòðàíñòâà Θ ñóùåñòâóåò
íåêîòîðàÿ åå îêðåñòíîñòü, â êîòîðîé ôóíêöèÿ ïëîòíîñòè f (x |θ) òðèæäû äèôôåðåíöèðóåìà ïî ïàðàìåòðó θ è
¯
¯
¯ ∂f (x | θ) ¯
¯
¯ ≤ H1 (x),
¯
¯
∂θ
¯ 2
¯
¯ ∂ f (x | θ) ¯
¯
¯ ≤ H2 (x),
¯
¯
2
∂θ
¯ 3
¯
¯ ∂ ln f (x | θ) ¯
¯
¯ ≤ H3 (x),
¯
¯
∂θ3
(5)
(6)
ïðè÷åì ôóíêöèè H1 È H2 èíòåãðèðóåìû ïî ìåðå µ íà íîñèòåëå X
ðàñïðåäåëåíèÿ X è Eθ H3 (X) < ∞ â íåêîòîðîé îêðåñòíîñòè êàæäîé
òî÷êè θ ïàðàìåòðè÷åñêîãî ïðîñòðàíñòâà Θ.
(R5) Ôóíêöèÿ
µ
I(θ) = E θ
∂ ln f (X | θ)
∂θ
Z µ
¶2
=
∂ ln f (x | θ)
∂θ
¶2
f (x | θ) dµ(x) > 0,
X
êàêîâî áû íè áûëî θ ∈ Θ.
Åñòåñòâåííî, ñòîëü ãðîìîçäêèå è, íà ïåðâûé âçãëÿä, ñòðàííûå óñëîâèÿ
òðåáóþò íåêîòîðîãî êîììåíòàðèÿ.
Óñëîâèå (R4) îçíà÷àåò, ÷òî ñîîòâåòñòâóþùèå ïðîèçâîäíûå ôóíêöèè ïëîòíîñòè ðàâíîìåðíî èíòåãðèðóåìû íà X, è ïîýòîìó ìîæíî âûíîñèòü ïðîèçâîäíóþ ïî θ çà çíàê èíòåãðàëà.
Óñëîâèå (R5) òðåáóåò ïîëîæèòåëüíîñòè î÷åíü âàæíîé, ñ òî÷êè çðåíèÿ ñîñòîÿòåëüíîñòè ñòàòèñòè÷åñêîãî âûâîäà, õàðàêòåðèñòèêè âåðîÿòíîñòíîé ìîäåëè: I(θ) íàçûâàåòñÿ èíôîðìàöèåé ïî Ôèøåðó â òî÷êå θ, ñîäåðæàùåéñÿ
â íàáëþäåíèè ñëó÷àéíîé âåëè÷èíû X. Åñëè I(θ) = 0, òî âîçíèêàþò íåïðåîäîëèìûå òðóäíîñòè ñ ïðèíÿòèåì êîððåêòíîãî ðåøåíèÿ, ñîîòâåòñòâóþùåãî
ýòîé ïàðàìåòðè÷åñêîé òî÷êå θ. Ïîíÿòíî, ÷òî àíàëîãè÷íûì îáðàçîì ìîæíî
205
îïðåäåëèòü è èíôîðìàöèþ ïî Ôèøåðó, ñîäåðæàùóþñÿ â ñëó÷àéíîé âûáîðêå X (n) :
µ
¶
2
∂ ln fn (X (n) | θ)
In (θ) = E θ
.
∂θ
Ïðèâåäåì íåñêîëüêî óòâåðæäåíèé, êàñàþùèõñÿ ñâîéñòâ èíôîðìàöèè ïî
Ôèøåðó.
Ëåììà 4.2. 10 . Ïðè âûïîëíåíèè óñëîâèÿ (R4) â ÷àñòè (6) äëÿ âû÷èñëå-
íèÿ èíôîðìàöèè ïî Ôèøåðó ìîæíî èñïîëüçîâàòü ôîðìóëó
∂ 2 ln f (X | θ)
I(θ) = − Eθ
.
∂θ2
20 . Ïðè âûïîëíåíèè óñëîâèÿ (R4) â ÷àñòè (5) èíôîðìàöèÿ ïî Ôèøåðó îáëàäàåò ñâîéñòâîì àääèòèâíîñòè In (θ) = nI(θ) èíôîðìàöèÿ, ñîäåðæàùàÿñÿ
â âûáîðêå, ðàâíà ñóììå èíôîðìàöèé, ñîäåðæàùèõñÿ â íàáëþäåíèè êàæäîé
åå êîìïîíåíòû.
Ä î ê à ç à ò å ë ü ñ ò â î.. 10 . Óñëîâèå (R4) â ÷àñòè (6) îáåñïå÷èâàåò âîçìîæíîñòü ñìåíû ïîðÿäêà äèôôåðåíöèðîâàíèÿ è èíòåãðèðîâàíèÿ ôóíêöèè
ïëîòíîñòè, ïîýòîìó
2
∂ ln f (X | θ)
= Eθ
∂θ2
Ã
µ
00
fθθ
(X
fθ0 (X
¶2 !
| θ)
| θ)
=
−
f (X | θ)
f (X | θ)
Z 00
Z
fθθ (x | θ)
d2
· f (x | θ)dµ(x) − I(θ) = 2 f (x | θ)dµ(x) − I(θ) = −I(θ).
f (x | θ)
dθ
Eθ
X
X
20 . Èñïîëüçóÿ íåçàâèñèìîñòü è îäèíàêîâóþ ðàñïðåäåëåííîñòü êîìïîíåíò
ñëó÷àéíîé âûáîðêè, ïîëó÷àåì, ÷òî
Xn
2
∂
ln f (Xk | θ)
1
=
In (θ) = Eθ
∂θ
Eθ
n µ
X
k=1
n
X
k=1
µ
Eθ
∂ ln f (Xk | θ)
∂θ
∂ ln f (Xk | θ)
∂θ
¶2
−
¶2
X
i6=j
−
X ∂ ln f (Xi | θ) ∂ ln f (Xj | θ)
=
·
∂θ
∂θ
i6=j
Eθ
∂ ln f (Xj | θ)
∂ ln f (Xi | θ)
· Eθ
= nI(θ),
∂θ
∂θ
206
ïîñêîëüêó, â ñèëó íåðàâåíñòâà (5) â óñëîâèè (R4), ìàòåìàòè÷åñêîå îæèäàíèå
∂ ln f (X | θ)
Eθ
=
∂θ
Z
fθ0 (x | θ)
d
· f (x | θ) dµ(x) =
f (x | θ)
dθ
X
Z
f (x | θ) dµ(x) = 0.
X
Òåïåðü ïðèñòóïèì ê âûâîäó àñèìïòîòè÷åñêîãî ðàñïðåäåëåíèÿ îöåíêè
ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ñêàëÿðíîãî ïàðàìåòðà θ.
Òåîðåìà 4.2 (àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü). Ïðè âûïîëíåíèè óñëî-
âèé (R1)(R5) è íàëè÷èè åäèíñòâåííîãî ëîêàëüíîãî ìàêñèìóìà ó ôóíêöèè
ïðàâäîïîäîáèÿ êîðåíü θ̂n = θ̂n (X (n) ) óðàâíåíèÿ ïðàâäîïîäîáèÿ
∂L(θ | X (n) )/∂θ = 0
àñèìïòîòè÷åñêè (n → ∞) íîðìàëåí ñî ñðåäíèì θ è äèñïåðñèåé (nI(θ))−1 ,
òî åñòü
³
´
p
lim P θ (θ̂n − θ) nI(θ) < x = Φ(x).
n→∞
Ä î ê à ç à ò å ë ü ñ ò â î.. Åñëè θ̂n îöåíêà ïî ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ (êîðåíü óðàâíåíèÿ ïðàâäîïîäîáèÿ), òî èìååò ìåñòî òîæäåñòâî
∂L(θ̂n | X (n) )/∂θ = 0. Èñïîëüçóÿ óñëîâèå (R4), ðàçëîæèì åãî ëåâóþ ÷àñòü
ïî ôîðìóëå Òåéëîðà â îêðåñòíîñòè èñòèííîãî çíà÷åíèÿ θ0 ïàðàìåòðà θ :
∂L(θ̂n | X (n) )/∂θ = L0 (θ0 | X (n) )+
(θ̂n − θ0 )L00 (θ0 | X (n) ) + (θ̂n − θ0 )2 L000 (θ1 | X (n) )/2 = 0,
ãäå ïðîèçâîäíûå îò ôóíêöèè ïðàâäîïîäîáèÿ L âû÷èñëÿþòñÿ ïî ïàðàìåòðó
θ, à θ1 = θ0 + λ(θ̂n − θ0 ), 0 < λ < 1.
√
Ðàçðåøèì ïîëó÷åííîå óðàâíåíèå îòíîñèòåëüíî âåëè÷èíû n(θ̂n − θ0 ),
êîòîðàÿ, ñîãëàñíî óòâåðæäåíèþ òåîðåìû, äîëæíà èìåòü â ïðåäåëå ïðè n →
∞ íîðìàëüíîå ðàñïðåäåëåíèå ñî ñðåäíèì 0 è äèñïåðñèåé [ I(θ0 ) ]−1 :
√
n(θ̂n − θ0 ) =
√
L0 (θ0 | X (n) )/ n
−L00 (θ0 | X (n) )/n − (θ̂n − θ0 )L000 (θ1 | X (n) )/2n
×èñëèòåëü ïðàâîé ÷àñòè ýòîãî ïðåäñòàâëåíèÿ
n
1 X ∂ ln f (Xk | θ)
1 0
(n)
√ L (θ0 | X ) = √
∂θ
n
n 1
207
.
(7)
√
åñòü íîðìèðîâàííàÿ íà n ñóììà íåçàâèñèìûõ, îäèíàêîâî ðàñïðåäåëåííûõ
ñëó÷àéíûõ âåëè÷èí ñ íóëåâûìè ñðåäíèìè è äèñïåðñèÿìè I(θ0 ) > 0 (ñì.
äîêàçàòåëüñòâî ïóíêòà 20 ëåììû 4.2). Òàêèì îáðàçîì, â ñèëó öåíòðàëüíîé
ïðåäåëüíîé òåîðåìû ÷èñëèòåëü ïðàâîé ÷àñòè (7) àñèìïòîòè÷åñêè íîðìàëåí
ñ ýòèìè ïàðàìåòðàìè, è äëÿ çàâåðøåíèÿ äîêàçàòåëüñòâà òåîðåìû äîñòàòî÷íî ïîêàçàòü, ÷òî çíàìåíàòåëü (7) ñõîäèòñÿ ïî âåðîÿòíîñòè ê ïîñòîÿííîé
I(θ0 ), è ñîñëàòüñÿ íà ïóíêò (2) ïðåäëîæåíèÿ 11.1 (òåîðåìà òèïà Ñëóöêîãî)
êóðñà ÒÂ.
 ñèëó çàêîíà áîëüøèõ ÷èñåë è óòâåðæäåíèÿ 10 ëåììû 4.2 ïåðâîå ñëàãàåìîå â çíàìåíàòåëå (7)
n
1
1 X ∂ 2 ln f (Xk | θ0 )
∂ 2 ln f (X | θ0 )
− L00 (θ0 | X (n) ) = −
→
−E
= I(θ0 ),
θ0
P
n
n 1
∂θ2
∂θ2
òàê ÷òî îñòàåòñÿ ïîêàçàòü, ÷òî è âòîðîå ñëàãàåìîå ñõîäèòñÿ ïî âåðîÿòíîñòè
ê íóëþ.
Òàê êàê ïðè âûïîëíåíèè óñëîâèé (R1)(R3) îöåíêà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ñîñòîÿòåëüíà, òî θ̂n − θ0 → 0. Ìíîæèòåëü ïðè ýòîé ðàçíîñòè
P
n
1 000
1 X ∂ 3 ln f (Xk | θ1 )
(n)
L (θ1 | X ) =
n
n 1
∂θ3
â ñèëó óñëîâèÿ (R4),
Xníà÷èíàÿ ñ íåêîòîðîãî n ïî àáñîëþòíîé âåëè÷èíå íå
ïðåâîñõîäèò (1/n)
H3 (Xk ) (ýòî òî n, ïðè êîòîðîì θ1 ïîïàäàåò â îêðåñò1
íîñòü òî÷êè θ0 ñ ëþáîé íàïåðåä çàäàííîé âåðîÿòíîñòüþ 1 − ε). Ïðèìåíÿÿ
ê ýòîé ñóììå çàêîí áîëüøèõ ÷èñåë, ïîëó÷àåì, ÷òî îíà ñõîäèòñÿ ïî âåðîÿòíîñòè ê
E θ0 H3 (X) < ∞,
è ïîýòîìó óêàçàííûé âûøå ñîìíîæèòåëü îãðàíè÷åí ñ âåðîÿòíîñòüþ åäèíèöà, à âñå âòîðîå ñëàãàåìîå â çíàìåíàòåëå ïðàâîé ÷àñòè (7) ñõîäèòñÿ ïî
âåðîÿòíîñòè ê íóëþ.
Äîêàçàííàÿ òåîðåìà, êàê áóäåò âèäíî èç îñíîâíîãî ðåçóëüòàòà ñëåäóþùåãî ïàðàãðàôà, óñòàíàâëèâàåò àñèìïòîòè÷åñêóþ îïòèìàëüíîñòü îöåíîê
ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ñ òî÷êè çðåíèÿ êâàäðàòè÷íîãî ðèñêà.
208
5. Ýôôåêòèâíîñòü îöåíîê
Ëåêöèÿ 8
Îáñóæäàÿ â íà÷àëå íàøåãî êóðñà îáùóþ ïðîáëåìó ñòàòèñòè÷åñêîãî âûâîäà, ìû ãîâîðèëè î ãëàâíîé çàäà÷å ìàòåìàòè÷åñêîé ñòàòèñòèêè ïîñòðîåíèè ðåøàþùèõ ïðàâèë δn = δn (X (n) ), ìèíèìèçèðóþùèõ ðàâíîìåðíî ïî
âñåì θ ∈ Θ ôóíêöèþ ðèñêà R(θ; δn ). Ê ñîæàëåíèþ, áåç äîïîëíèòåëüíûõ
îãðàíè÷åíèé íà êëàññ ðåøàþùèõ ôóíêöèé ýòà çàäà÷à íå ðàçðåøèìà. Äåéñòâèòåëüíî, ðàññìîòðèì ïðîáëåìó îöåíêè ïàðàìåòðà θ, â êîòîðîé ïðîñòðàíñòâî ðåøåíèé D ñîâïàäàåò ñ ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì Θ, à ðåøàþùàÿ ôóíêöèÿ δn = θ̂n îöåíêà θ. Âîçüìåì â êà÷åñòâå îöåíêè íåêîòîðóþ
ôèêñèðîâàííóþ òî÷êó θ0 ∈ Θ, òî åñòü ïðè ëþáîì ðåçóëüòàòå x(n) ñòàòèñòè÷åñêîãî ýêñïåðèìåíòà áóäåì ïðèíèìàòü îäíî è òî æå ðåøåíèå d = θ0 . Åñëè
ôóíêöèÿ ïîòåðü îáëàäàåò òåì åñòåñòâåííûì ñâîéñòâîì, ÷òî L(θ, θ) = 0, êàêîâî áû íè áûëî çíà÷åíèå θ ∈ Θ, òî ðèñê òàêîé îöåíêè R(θ; θ0 ) = L(θ, θ0 )
ïðè θ = θ0 ðàâåí íóëþ. Òàêèì îáðàçîì, åñëè ìû õîòèì ïîñòðîèòü îöåíêó ñ
ðàâíîìåðíî ìèíèìàëüíûì ðèñêîì â êëàññå âñåâîçìîæíûõ îöåíîê θ, òî ìû
äîëæíû íàéòè îöåíêó θn∗ ñ ôóíêöèåé ðèñêà R(θ, θn∗ ) ≡ 0, è ïîíÿòíî, ÷òî
òàêîé îöåíêè íå ñóùåñòâóåò. Ïîýòîìó ìû áóäåì âñåãäà ïðè ïîèñêå îïòèìàëüíûõ ðåøåíèé óêàçûâàòü êëàññ îöåíîê, â êîòîðûõ èùåòñÿ îïòèìàëüíîå
ðåøåíèå.
Îïðåäåëåíèå 5.1. Îöåíêà θn∗ = θn∗ (X (n) ) íàçûâàåòñÿ îïòèìàëüíîé èëè
îöåíêîé ñ ðàâíîìåðíî ìèíèìàëüíûì ðèñêîì â êëàññå K îöåíîê ïàðàìåòðà
θ, åñëè äëÿ ëþáîé îöåíêè θ̂n ∈ K è êàæäîãî θ ∈ Θ èìååò ìåñòî íåðàâåíñòâî
R(θ; θn∗ ) ≤ R(θ; θ̂n ).
Íèæå ïðåäëàãàåòñÿ ìåòîä íàõîæäåíèÿ îïòèìàëüíûõ îöåíîê ñêàëÿðíîãî
ïàðàìåòðà θ ïðè êâàäðàòè÷íîé ôóíêöèè ïîòåðü â êëàññå íåñìåùåííûõ îöåíîê: E θ θ̂n (X (n) ) = θ ïðè ëþáîì θ ∈ Θ ⊆ R, íî ïðè äîïîëíèòåëüíûõ îãðàíè÷åíèÿõ íà âåðîÿòíîñòíóþ ìîäåëü è ñîîòâåòñòâóþùåå ñåìåéñòâî ðàñïðåäåëåíèé îöåíêè. Ýòè îãðàíè÷åíèÿ àíàëîãè÷íû òåì óñëîâèÿì ðåãóëÿðíîñòè,
êîòîðûå ìû íàêëàäûâàëè íà âåðîÿòíîñòíóþ ìîäåëü ïðè èçó÷åíèè àñèìïòîòè÷åñêèõ ñâîéñòâ îöåíîê ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ. Ìû ïîêàæåì, ÷òî
êâàäðàòè÷íûé ðèñê ëþáîé íåñìåùåííîé îöåíêè, óäîâëåòâîðÿþùåé ýòèì
óñëîâèÿì, íå ìîæåò áûòü ìåíüøå [nI(θ)]−1 àñèìïòîòè÷åñêîé äèñïåðñèè
îöåíêè ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ (ñì. òåîðåìà 4.2). Ñëåäîâàòåëüíî,
ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ äîñòàâëÿåò àñèìïòîòè÷åñêîå ðåøåíèå
209
ïðîáëåìû îïòèìàëüíîé îöåíêè. Áîëåå òîãî, ìû ïîêàæåì, ÷òî ïðè íàëè÷èè
äîñòàòî÷íûõ ñòàòèñòèê ìåòîä ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ìîæåò ïðèâåñòè è ê òî÷íîìó ðåøåíèþ ïðîáëåìû ðàâíîìåðíîé ìèíèìèçàöèè ôóíêöèè
ðèñêà.
Ñôîðìóëèðóåì óñëîâèÿ ðåãóëÿðíîñòè, ïðè âûïîëíåíèè êîòîðûõ áóäåò
íàõîäèòüñÿ íèæíÿÿ (äîñòèæèìàÿ!) ãðàíèöà êâàäðàòè÷íîãî ðèñêà îöåíêè.
(B1) Íîñèòåëü X ðàñïðåäåëåíèÿ P θ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X íå
çàâèñèò îò θ ∈ Θ (óñëîâèå, ñîâïàäàþùåå ñ (R2) â 4).
(B2) Èíôîðìàöèÿ ïî Ôèøåðó I(θ) ñòðîãî ïîëîæèòåëüíà ïðè ëþáîì θ ∈ Θ
(óñëîâèå, ñîâïàäàþùåå ñ (R5) â 4).
(B3) Ðàâåíñòâî
Z
X
n
fn (x(n) | θ) dµn (x(n) ) = 1
ìîæíî äèôôåðåíöèðîâàòü ïî θ ïîä çíàêîì èíòåãðàëà, òî åñòü
Z
X
n
fn0 (x(n) | θ) dµn (x(n) ) = 0.
Ïî àíàëîãèè ñ (R4) â ÷àñòè (5) äëÿ ýòîãî äîñòàòî÷íî ïîòðåáîâàòü ñóùåñòâîâàíèå òàêîé èíòåãðèðóåìîé ïî ìåðå µ ôóíêöèè H(x), ÷òî â
íåêîòîðîé îêðåñòíîñòè ëþáîé òî÷êè θ ∈ Θ âûïîëíÿåòñÿ íåðàâåíñòâî
| ∂f (x | θ)/∂θ | ≤ H(x), x ∈ X .
(B4) Îöåíêà θ̂n = θ̂n (X (n) ) äîëæíà ïðèíàäëåæàòü êëàññó îöåíîê K0 , ñðåäíåå
çíà÷åíèå êîòîðûõ
Z
E θ θ̂n (X
(n)
)=
X
n
θ̂n (x(n) )fn (x(n) | θ) dµn (x(n) )
ìîæíî äèôôåðåíöèðîâàòü ïî θ ∈ Θ ïîä çíàêîì èíòåãðàëà.
Êîíå÷íî, óñëîâèå (B4) òðåáóåò êîììåíòàðèÿ.  âûñîêîé òåîðèè ñòàòèñòè÷åñêîãî âûâîäà ïðèâîäÿòñÿ äîñòàòî÷íûå óñëîâèÿ íà ñåìåéñòâî ðàñïðåäåëåíèé {Pθ , θ ∈ Θ} íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X, êîòîðûå îáåñïå÷èâàþò âûïîëíåíèå óñëîâèÿ (B4), íî ôîðìóëèðîâêà ýòèõ óñëîâèé è, â
îñîáåííîñòè, äîêàçàòåëüñòâî òîãî, ÷òî îíè âëåêóò (B4), íàñòîëüêî òåõíè÷åñêè è êîíöåïòóàëüíî ñëîæíû, ÷òî ìîãóò ñîñòàâèòü ïðåäìåò ñïåöèàëüíîãî
êóðñà. Îäíàêî âñå èçó÷àåìûå íàìè â êóðñå Ò âåðîÿòíîñòíûå ìîäåëè, çà
210
èñêëþ÷åíèåì ðàâíîìåðíîãî ðàñïðåäåëåíèÿ, óäîâëåòâîðÿþò ýòèì óñëîâèÿì,
è ïîýòîìó ëþáàÿ îöåíêà èõ ïàðàìåòðîâ ïðèíàäëåæèò êëàññó K0 .
Ïðåæäå, ÷åì ïîëó÷èòü îñíîâíîé òåõíè÷åñêèé ðåçóëüòàò ýòîãî ïàðàãðàôà, âñïîìíèì îäíî çàìå÷àòåëüíîå íåðàâåíñòâî èç êóðñà ìàòåìàòè÷åñêîãî
àíàëèçà. Ýòî íåðàâåíñòâî ÊîøèÁóíÿêîâñêîãî, êîòîðîå â ñëó÷àå èíòåãðàëîâ Ëåáåãà ïî âåðîÿòíîñòíîé ìåðå P íàçûâàåòñÿ íåðàâåíñòâîì Øâàðöà.
Ïóñòü Y ñëó÷àéíàÿ âåëè÷èíà ñ ðàñïðåäåëåíèåì P è g, h äâå èíòåãðèðóåìûå ñ êâàäðàòîì ïî ìåðå P ôóíêöèè íà îáëàñòè Y çíà÷åíèé Y. Äëÿ ýòèõ
2
ôóíêöèé èìååò ìåñòî íåðàâåíñòâî (E g(Y )h(Y )) ≤ E g 2 (Y ) · E h2 (Y ) èëè,
÷òî òî æå,
µZ
¶2
g(y)h(y) dP (y)
Y
Z
Z
g 2 (y)dP (y) ·
≤
Y
h2 (y)dP (y),
Y
ïðè÷åì çíàê ðàâåíñòâà äîñòèãàåòñÿ òîãäà è òîëüêî òîãäà, êîãäà ôóíêöèè
g è h ëèíåéíî çàâèñèìû: ñóùåñòâóþò òàêèå ïîñòîÿííûå a è b, ÷òî ag(y) +
bh(y) = 0 äëÿ ïî÷òè âñåõ y ∈ Y ïî ìåðå P.
Òåîðåìà 5.1. (íåðàâåíñòâî ÐàîÊðàìåðà) Ïðè âûïîëíåíèè óñëîâèé
(B1)(B4) äëÿ êâàäðàòè÷íîãî ðèñêà ëþáîé îöåíêè θ̂n ∈ K0 ñïðàâåäëèâî
íåðàâåíñòâî
´2
³
[ dγ(θ)/dθ ]2
(n)
(n)
E θ θ̂n (X ) − θ ≥ D θ θ̂n (X ) ≥
,
nI(θ)
(1)
ãäå γ(θ) = E θ θ̂n (X (n) ), ïðè÷åì çíàê ðàâåíñòâà ìåæäó ðèñêîì è äèñïåðñèåé
îöåíêè θ̂n äîñòèãàåòñÿ íà íåñìåùåííûõ îöåíêàõ: γ(θ) = θ, à çíàê ðàâåíñòâà âî âòîðîì íåðàâåíñòâå (1) èìååò ìåñòî òîãäà è òîëüêî òîãäà, êîãäà
ñóùåñòâóåò òàêàÿ ïàðàìåòðè÷åñêàÿ ôóíêöèÿ C(θ), θ ∈ Θ, ÷òî
θ̂n (X
(n)
∂L(θ | X (n) )
) − γ(θ) = C(θ)
∂θ
ïî÷òè íàâåðíîå ïî ìåðå Pθ .
Ä î ê à ç à ò å ë ü ñ ò â î.. Ïðîäèôôåðåíöèðóåì îáå ÷àñòè ðàâåíñòâ
Z
X
Z
X
n
n
fn (x(n) | θ) dµn (x(n) ) = 1,
θ̂n (x(n) )fn (x(n) | θ) dµn (x(n) ) = γ(θ)
211
(2)
ïî ïàðàìåòðó θ, çàíîñÿ ïðîèçâîäíûå â ëåâûõ ÷àñòÿõ ïîä çíàêè èíòåãðàëîâ,
÷òî ìîæíî ñäåëàòü áëàãîäàðÿ óñëîâèÿì (B3) è (B4). Ïîëó÷åííûé ðåçóëüòàò,
èñïîëüçóÿ óñëîâèå (B1), ïðåäñòàâèì â âèäå
Z
∂L(θ | x(n) )
fn (x(n) | θ) dµn (x(n) ) = 0,
n
∂θ
X
Z
∂L(θ | x(n) )
fn (x(n) | θ) dµn (x(n) ) = γ 0 (θ).
∂θ
X
Âû÷òåì èç âòîðîãî ðàâåíñòâà ïåðâîå, óìíîæèâ åãî ïðåäâàðèòåëüíî íà
γ(θ) :
Z ³
´ ∂L(θ | x(n) )
(n)
(n)
(n)
θ̂
(x
)
−
γ(θ)
f
(x
|
θ)
dµ
(x
)
=
γ
(θ).
n
n
n
∂θ
Xn
θ̂n (x(n) )
n
Ïðèìåíèì ê ëåâîé ÷àñòè ïîëó÷åííîãî ðàâåíñòâà íåðàâåíñòâî Øâàðöà, ïîëàãàÿ y = x(n) , Y = Xn , g(x(n) ) = θ̂n (x(n) ) − γ(θ), h(x(n) ) = ∂L(θ | x(n) )/∂θ,
dP (y) = fn (x(n) | θ)dµn (x(n) ).  ðåçóëüòàòå ïîëó÷èì íåðàâåíñòâî
Z
³
2
(γ0(θ)) ≤
Xn
´2
θ̂n (x ) − γ(θ) fn (x(n) | θ) dµn (x(n) )·
(n)
µ
¶2
∂L(θ | x(n) )
(n)
(n)
f
(x
|
θ)
dµ
(x
),
(3)
n
n
∂θ
Xn
â êîòîðîì çíàê ðàâåíñòâà äîñòèãàåòñÿ òîãäà è òîëüêî òîãäà, êîãäà âûïîëíÿåòñÿ ñîîòíîøåíèå (2).
Ìû ïîëó÷èëè íåðàâåíñòâà (1), ïîñêîëüêó ïåðâîå èç íèõ î÷åâèäíî (íà
äèñïåðñèè äîñòèãàåòñÿ ìèíèìóì âñåâîçìîæíûõ ñðåäíèõ êâàäðàòè÷íûõ óêëîíåíèé ñëó÷àéíîé âåëè÷èíû îò ïîñòîÿííîé). Âòîðîå íåðàâåíñòâî â (1) åñòü
ñëåäñòâèå íåðàâåíñòâà (3), èáî ïåðâûé èíòåãðàë â ïðàâîé ÷àñòè (3) ðàâåí
D θ θ̂n , à âòîðîé èíòåãðàë îïðåäåëÿåò ôèøåðîâñêóþ èíôîðìàöèþ In (θ),
ñîäåðæàùóþñÿ â âûáîðêå. Íàêîíåö, èç ïóíêòà 20 ëåììû 4.2 ñëåäóåò, ÷òî
In (θ) = nI(θ).
Z
Ñëåäñòâèå 5.1. Åñëè θ̂n ïðèíàäëåæèò ïîäêëàññó
K ⊆ K0 íåñìåùåííûõ
R(θ; θ̂n ) = D θ θ̂n ≥ [n I(θ)]−1 ,
(4)
îöåíîê êëàññà K0 , òî åå êâàäðàòè÷íûé ðèñê
ïðè÷åì çíàê ðàâåíñòâà òîãäà è òîëüêî òîãäà, êîãäà âûïîëíÿåòñÿ ðàâåíñòâî
(2) ñ γ(θ) = θ.
212
Ïîíÿòíî, ÷òî ýòî ñëåäñòâèå åñòü ÷àñòíûé ñëó÷àé äîêàçàííîé òåîðåìû.
Îíî óêàçûâàåò íåêîíñòðóêòèâíûé ïóòü ê ïîñòðîåíèþ íåñìåùåííûõ îöåíîê
ñ ðàâíîìåðíî ìèíèìàëüíûì ðèñêîì. Äîñòàòî÷íî âû÷èñëèòü ïðîèçâîäíóþ
â ïðàâîé ÷àñòè ðàâåíñòâà (2) è çàòåì ïîäáèðàòü ñòàòèñòèêó θ̂n = θ̂n (X (n) )
è ïàðàìåòðè÷åñêóþ ôóíêöèþ C(θ), äëÿ êîòîðûõ èìååò ìåñòî ðàâåíñòâî
θ̂n (X
(n)
∂L(θ | X (n) )
) − θ = C(θ)
.
∂θ
Îáû÷íî ýòî ìîæíî ñäåëàòü â ñëó÷àå ñòàòèñòè÷åñêèõ ñòðóêòóð, îáëàäàþùèõ äîñòàòî÷íûìè ñòàòèñòèêàìè, ãäå, â ñèëó òåîðåìû ôàêòîðèçàöèè (òåîðåìà 2.1 èç 2), ôóíêöèÿ ïðàâäîïîäîáèÿ L(θ | X (n) ) = g θ (T (X (n) ))h(X (n) ),
è ïîñëåäíåå ðàâåíñòâî èìååò âèä
θ̂n (X
(n)
∂ ln g θ (T (X (n) ))
) − θ = C(θ)
.
∂θ
(5)
Íàïðèìåð, äëÿ ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ ñ ôóíêöèåé ïëîòíîñòè
f (x | θ) = θ−1 exp{−x/θ}, x > 0, ôóíêöèÿ
ln g θ (X
(n)
) = −n ln θ − θ
−1
Xn
1
X,
åå ïðîèçâîäíàÿ
∂ ln g θ (T (X
(n)
))/∂θ = −n/θ +
Xn
1
X/θ2 ,
è ðàâåíñòâî (5) âûïîëíÿåòñÿ ïðè C(θ) = θ2 /n è θ̂n = X. Òàêèì îáðàçîì,
âûáîðî÷íîå ñðåäíåå X åñòü íåñìåùåííàÿ îöåíêà ñ ðàâíîìåðíî ìèíèìàëüíûì ðèñêîì äëÿ ïàðàìåòðà θ ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ. Íàïîìíèì,
÷òî X îöåíêà θ êàê ïî ìåòîäó ìîìåíòîâ, òàê è ïî ìåòîäó ìàêñèìàëüíîãî
ïðàâäîïîäîáèÿ.
Ëåãêî ïîíÿòü, ÷òî åñëè â (4) äîñòèãàåòñÿ çíàê ðàâåíñòâà, òî θ̂n îïòèìàëüíàÿ îöåíêà â êëàññå K, íî îáðàòíîå, âîîáùå ãîâîðÿ, ìîæåò è íå
âûïîëíÿòüñÿ ìû íå ðàñïîëàãàåì óòâåðæäåíèåì, ÷òî ëþáàÿ îïòèìàëüíàÿ
îöåíêà èìååò êâàäðàòè÷íûé ðèñê, ðàâíûé [n I(θ)]−1 . ×òîáû ïîä÷åðêíóòü
ýòî ðàçëè÷èå è óêàçàòü â äàëüíåéøåì áîëåå êîíñòðóêòèâíûé ìåòîä ïîñòðîåíèÿ îïòèìàëüíûõ îöåíîê, ââåäåì åùå îäíî îïðåäåëåíèå, ðàññìîòðåâ áîëåå
îáùóþ çàäà÷ó íåñìåùåííîé îöåíêè íåêîòîðîé ïàðàìåòðè÷åñêîé ôóíêöèè
γ(θ).
213
Îïðåäåëåíèå 5.2. Íåñìåùåííàÿ îöåíêà γ̂n = γ̂n (X (n) ) ïàðàìåòðè÷å-
ñêîé ôóíêöèè γ(θ) íàçûâàåòñÿ ýôôåêòèâíîé â êëàññå K 0 , åñëè åå êâàäðàòè÷íûé ðèñê
³
R(γ; γ̂n ) = E θ γ̂n (X
(n)
´2
) − γ(θ) = D θ γ̂n (X (n) ) = [ γ 0 (θ) ]2 /n I(θ),
òî åñòü (ñì. òåîðåìó 5.1 ñ θ̂n = γ̂n ) âûïîëíÿåòñÿ ðàâåíñòâî
∂L(θ | X (n) )
γ̂n (X ) − γ(θ) = C(θ)
.
(6)
∂θ
Îöåíêà γ̂n íàçûâàåòñÿ àñèìïòîòè÷åñêè ýôôåêòèâíîé â êëàññå K 0 , åñëè
E θ γ̂n (X (n) ) ∼ γ(θ) è D θ γ̂n (X (n) ) ∼ [ γ 0 (θ) ]2 /n I(θ), êîãäà n → ∞.
(n)
 ñèëó òåîðåìû 4.2 îöåíêà ïî ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ñêàëÿðíîãî ïàðàìåòðà θ (â äàííîì ñëó÷àå γ(θ) = θ) ÿâëÿåòñÿ àñèìïòîòè÷åñêè
ýôôåêòèâíîé îöåíêîé â êëàññå K 0 . Ïîêàæåì, ÷òî îíà äàåò ðåøåíèå ïðîáëåìû ïîñòðîåíèÿ ýôôåêòèâíîé îöåíêè â êëàññå K.
Ïóñòü θ̂n îöåíêà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ïàðàìåòðà θ. Îïðåäåëèì îöåíêó γ(θ̂n ) ïàðàìåòðè÷åñêîé ôóíêöèè γ(θ) ñ ïîìîùüþ ïîäñòàíîâêè
âìåñòî θ åå îöåíêè θ̂n .
Òåîðåìà 5.2. Åñëè γ(θ̂n ) åñòü íåñìåùåííàÿ îöåíêà ïàðàìåòðè÷åñêîé
ôóíêöèè γ(θ) è ýôôåêòèâíàÿ â êëàññå K 0 îöåíêà γn∗ ïàðàìåòðè÷åñêîé ôóíêöèè γ(θ) ñóùåñòâóåò, òî ïðè âûïîëíåíèè óñëîâèé ðåãóëÿðíîñòè (R1)(R5)
è (B3)(B4) ïî÷òè íàâåðíîå γn∗ (X (n) ) = γ(θ̂n (X (n) )).
Ä î ê à ç à ò å ë ü ñ ò â î.. Åñëè γn∗ ýôôåêòèâíàÿ îöåíêà γ(θ), òî îíà óäîâëåòâîðÿåò ðàâåíñòâó (6):
γn∗ (X (n) ) − γ(θ) = C(θ)∂L(θ | X (n) )/∂θ,
(7)
êàêîâî áû íè áûëî θ ∈ Θ. Íî åñëè θ̂n îöåíêà ïî ìåòîäó ìàêñèìàëüíîãî
ïðàâäîïîäîáèÿ, òî ∂L(θ̂n | X (n) )/∂θ = 0, òàê ÷òî ðàâåíñòâî (7) ïðè θ = θ̂n
ïðåâðàùàåòñÿ â ðàâåíñòâî γn∗ (X (n) ) − γ(θ̂n ) = 0 ïî÷òè íàâåðíîå ïî âåðîÿòíîñòè P θn .
Èç äîêàçàííîé òåîðåìû íåìåäëåííî âûòåêàåò, ÷òî âûáîðî÷íîå ñðåäíåå
X åñòü ýôôåêòèâíàÿ (ñëåäîâàòåëüíî, è îïòèìàëüíàÿ) íåñìåùåííàÿ îöåíêà
ïàðàìåòðà θ òàêèõ ðàñïðåäåëåíèé, êàê äâóõòî÷å÷íîå, áèíîìèàëüíîå ïðè
èçâåñòíîì m, Ïóàññîíà, ïîêàçàòåëüíîå; X åñòü òàêæå íåñìåùåííàÿ îöåíêà
ñ ðàâíîìåðíî ìèíèìàëüíûì êâàäðàòè÷íûì ðèñêîì ñðåäíåãî çíà÷åíèÿ µ
íîðìàëüíîãî (µ, σ 2 ) ðàñïðåäåëåíèÿ.
214
6. Äîâåðèòåëüíûå èíòåðâàëû
Ëåêöèÿ 9
Ìû ðàññìîòðåëè íåñêîëüêî ìåòîäîâ ïîñòðîåíèÿ òî÷å÷íûõ îöåíîê äëÿ
ïàðàìåòðîâ, çíà÷åíèÿ êîòîðûõ îïðåäåëÿþò ðàñïðåäåëåíèå íàáëþäàåìîé
ñëó÷àéíîé âåëè÷èíû. Áûë ïîëó÷åí ðÿä óòâåðæäåíèé î ðàñïðåäåëåíèè òàêèõ îöåíîê, ÷òî ïîçâîëÿåò ñóäèòü î íàäåæíîñòè îöåíêè ïðè çàäàííîé òî÷íîñòè, òî åñòü âû÷èñëÿòü âåðîÿòíîñòè ñîáûòèé âèäà | θ̂n (X (n) )−θ | ≤ ∆ ïðè
êàæäîì ôèêñèðîâàííîì çíà÷åíèè ïàðàìåòðà θ. Ïîñêîëüêó èìåííî çíà÷åíèå θ íàì íåèçâåñòíî, òî òàêîãî ðîäà âû÷èñëåíèÿ çà÷àñòóþ ëèøåíû ïðàêòè÷åñêîãî ñìûñëà ñëèøêîì âåëèê ðàçìàõ â íàäåæíîñòè îöåíêè θ̂n ïðè
ðàçëè÷íûõ θ, äàæå â ñëó÷àå, êîãäà ìû ðàñïîëàãàåì íåêîòîðîé àïðèîðíîé
èíôîðìàöèåé î âîçìîæíîé îáëàñòè çíà÷åíèé ýòîãî ïàðàìåòðà. Ïîýòîìó â
ðÿäå ïðàêòè÷åñêèõ ñèòóàöèé ïûòàþòñÿ ðåøàòü îáðàòíóþ çàäà÷ó: äëÿ ôèêñèðîâàííîé íàäåæíîñòè, ñêàæåì, 1 − α, ãäå α ìàëî, óêàçàòü íåêîòîðóþ
îáëàñòü çíà÷åíèé θ, çàâèñÿùóþ, åñòåñòâåííî, îò âûáîðêè X (n) , êîòîðàÿ ñ
âåðîÿòíîñòüþ, íå ìåíüøåé 1 − α, íàêðûâàåò èñòèííîå, íåèçâåñòíîå íàì
çíà÷åíèå θ, ïðè÷åì òàêîå íàäåæíîñòíîå óòâåðæäåíèå äîëæíî âûïîëíÿòüñÿ
ïðè ëþáûõ θ ∈ Θ.  òàêîì ñëó÷àå ïî ðàçìåðàì îáëàñòè, êîòîðûå îïðåäåëÿþòñÿ âûáîðî÷íûìè çíà÷åíèÿìè x(n) , ìîæíî ñóäèòü î òî÷íîñòè òàêîé
èíòåðâàëüíîé îöåíêè.
Îïðåäåëåíèå 6.1. Ïîäìíîæåñòâî ∆n = ∆n (X (n) ) ïàðàìåòðè÷åñêîãî
ïðîñòðàíñòâà Θ íàçûâàåòñÿ (1 − α)-äîâåðèòåëüíîé îáëàñòüþ, åñëè
³
P θ ∆n (X
(n)
´
) 3 θ ≥ 1 − α,
(1)
êàêîâî áû íè áûëî çíà÷åíèå θ ∈ Θ. Çàäàííîå (ôèêñèðîâàííîå) çíà÷åíèå
1 − α íàçûâàåòñÿ äîâåðèòåëüíûì óðîâíåì, à íàèìåíüøåå çíà÷åíèå ëåâîé
÷àñòè íåðàâåíñòâà (1) ïî âñåì θ ∈ Θ äîâåðèòåëüíûì
¡ êîýôôèöèåíòîì
¢.
(n)
(n)
 ñëó÷àå Θ ⊆ R äîâåðèòåëüíàÿ îáëàñòü âèäà ∆n = θ n (X ); θ n (X )
íàçûâàåòñÿ äîâåðèòåëüíûì èíòåðâàëîì, â êîòîðîì ðàçëè÷àþòñÿ íèæíèé
θ n è âåðõíèé θ n äîâåðèòåëüíûå ïðåäåëû. Äîâåðèòåëüíûå èíòåðâàëû âèäà
(θ n ; ∞) è (−∞; θn ) íàçûâàþòñÿ ñîîòâåòñòâåííî íèæíåé è âåðõíåé äîâåðèòåëüíûìè ãðàíèöàìè.
Åñòåñòâåííî, êîíôèãóðàöèÿ äîâåðèòåëüíîé îáëàñòè âûáèðàåòñÿ ñòàòèñòèêîì, ñîîáðàçóÿñü ñ åå ãåîìåòðè÷åñêîé íàãëÿäíîñòüþ è, ãëàâíîå, âîçìîæíîñòüþ ãàðàíòèðîâàòü äîâåðèòåëüíóþ âåðîÿòíîñòü.  ñëó÷àå ñêàëÿðíîãî
215
ïàðàìåòðà äîâåðèòåëüíàÿ îáëàñòü îáû÷íî âûáèðàåòñÿ â âèäå èíòåðâàëà,
ïðè÷åì â ðÿäå ñëó÷àåâ, íàïðèìåð, ïðè îöåíêå íàäåæíîñòè èëè âåðîÿòíîñòè íåæåëàòåëüíîãî ñîáûòèÿ, â âèäå îäíîñòîðîííåãî èíòåðâàëà.  ñëó÷àå
ìíîãîìåðíîãî ïàðàìåòðà îáû÷íî ñòðîÿòñÿ äîâåðèòåëüíûå ýëëèïñîèäû èëè
ïàðàëëåëåïèïåäû.
Ñëåäóåò îáðàòèòü îñîáîå âíèìàíèå íà ïðàâèëüíóþ ôîðìóëèðîâêó äîâåðèòåëüíîãî óòâåðæäåíèÿ, êîòîðàÿ ïîä÷åðêèâàåòñÿ â íåðàâåíñòâå (1) çàïèñüþ ∆n (X (n) ) 3 θ âìåñòî îáû÷íîãî θ ∈ ∆n (X (n) ). Ãîâîðèòü, ÷òî çíà÷åíèå
ïàðàìåòðà θ ñ âåðîÿòíîñòüþ, íå ìåíüøåé 1 − α, ïðèíàäëåæèò îáëàñòè ∆n ,
çíà÷èò ñîçíàòåëüíî ââîäèòü òðóäÿùèõñÿ íà íèâå ïðèêëàäíîé ñòàòèñòèêè â
çàáëóæäåíèå. Äåëî â òîì, ÷òî çíà÷åíèå ïàðàìåòðà θ â äàííîé âåðîÿòíîñòíîé ìîäåëè íå ÿâëÿåòñÿ ñëó÷àéíîé âåëè÷èíîé, ýòî ïîñòîÿííàÿ, ñâîéñòâåííàÿ èññëåäóåìîìó îáúåêòó, à ïîñòîÿííàÿ ïðèíàäëåæèò êàêîé-ëèáî îáëàñòè
òîëüêî ñ âåðîÿòíîñòüþ åäèíèöà èëè íîëü. Âñÿ ñëó÷àéíîñòü çàêëþ÷åíà â
ñàìîé äîâåðèòåëüíîé îáëàñòè ∆n (X (n) ), è ïîýòîìó ïðàâèëüíîå äîâåðèòåëüíîå óòâåðæäåíèå ãëàñèò: îáëàñòü ∆n (X (n) ) ñ âåðîÿòíîñòüþ, íå ìåíüøåé
1 − α, íàêðûâàåò èñòèííîå (íåèçâåñòíîå) çíà÷åíèå θ.
 ñàìîì íà÷àëå íàøåãî êóðñà ìàòåìàòè÷åñêîé ñòàòèñòèêè â ïðèìåðå 1.1
ñ îïðåäåëåíèåì ñîäåðæàíèÿ îáùåé ñåðû â äèçåëüíîì òîïëèâå ìû ñòðîèëè
äîâåðèòåëüíûé èíòåðâàë ôèêñèðîâàííîé øèðèíû äëÿ ñðåäíåãî çíà÷åíèÿ
íîðìàëüíîãî ðàñïðåäåëåíèÿ, êîãäà çàíèìàëèñü ïëàíèðîâàíèåì îáúåìà èñïûòàíèé, íåîáõîäèìîãî äëÿ äîñòèæåíèÿ çàäàííîé òî÷íîñòè è íàäåæíîñòè
îöåíêè. Ðàññìîòðèì åùå ðàç ýòîò ïðèìåð â ñâåòå ââåäåííûõ ïîíÿòèé èíòåðâàëüíîé îöåíêè ïàðàìåòðà.
10 . Äîâåðèòåëüíûé èíòåðâàë äëÿ ñðåäíåãî çíà÷åíèÿ íîðìàëüíîãî ðàñïðåäåëåíèÿ ïðè èçâåñòíîé äèñïåðñèè. Èòàê, â ïðèìåðå 1.1 ìû èìåëè äåëî ñ âûáîðêîé X (n) èç íîðìàëüíîãî (µ, σ 2 ) ðàñïðåäåëåíèÿ, ïðè÷åì çíà÷åíèå ïàðàìåòðà σ íàì áûëî èçâåñòíî, òàê ÷òî â êà÷åñòâå
íåèçâåñòíîãî ïàðàìåòðà
θ âûñòóïàëî µ.´Íàøà çàäà÷à
³ ñîñòîèò â ïîñòðîåíèè
´
³
(n)
(n)
òàêîãî èíòåðâàëà µ n (X ), µ n (X ) , ÷òî Pµ µ n ≤ µ ≤ µ n ≥ 1 − α,
ïðè ëþáîì çíà÷åíèè µ ∈ R.
Íàïîìíèì, ÷òî â ýòîì ïðèìåðå îöåíêîé µ ñëóæèëî âûáîðî÷íîå ñðåäíåå X íåñìåùåííàÿ îöåíêà µ ñ ìèíèìàëüíûì êâàäðàòè÷íûì ðèñêîì. Ýòà
ëèíåéíàÿ îöåíêà îáëàäàåò çàìå÷àòåëüíûì ñâîéñòâîì èíâàðèàíòíîñòè: ðàñïðåäåëåíèå ðàçíîñòè X − µ íå çàâèñèò îò µ, è ýòî îáñòîÿòåëüñòâî ïîäñêà-
216
çûâàåò íàì ïóòü ê ïîñòðîåíèþ äîâåðèòåëüíîãî èíòåðâàëà. Äåéñòâèòåëüíî,
µ
P
| X − µ |√
n ≤ λ
σ
¶
= 2Φ(λ) − 1,
è åñëè ïîëîæèòü λ ðàâíûì êîðíþ óðàâíåíèÿ 2Φ(λ) − 1 = 1 − α, òî åñòü âû√
√
áðàòü λ = λα = Φ−1 (1−α/2), òî èíòåðâàë (X−λα σ/ n, X+λα σ/ n) áóäåò
(1 − α)-äîâåðèòåëüíûì èíòåðâàëîì äëÿ ñðåäíåãî çíà÷åíèÿ µ íîðìàëüíîãî
(µ, σ 2 ) ðàñïðåäåëåíèÿ ïðè èçâåñòíîé äèñïåðñèè σ 2 .
 ýòîì ïðîñòåéøåì ïðèìåðå íà ïîñòðîåíèå äîâåðèòåëüíîãî èíòåðâàëà
êëþ÷åâûì ìîìåíòîì áûëî èñïîëüçîâàíèå èíâàðèàíòíîé ñëó÷àéíîé ôóíêöèè θ̂n − θ îò îöåíêè θ̂n = X è ïàðàìåòðà θ = µ.  ïðèíöèïå, èìåííî
íà ïîäîáíîì âûáîðå îïîðíîé ôóíêöèè H(θ̂n , θ) ñ ïîäõîäÿùåé îöåíêîé θ̂n
ïàðàìåòðà θ îñíîâàíû èñòîðè÷åñêè ïåðâûå ìåòîäû ïîñòðîåíèÿ äîâåðèòåëüíûõ èíòåðâàëîâ è ìíîæåñòâ. Îïîðíàÿ ôóíêöèÿ H( ·, · ) ïîäáèðàåòñÿ òàêèì
îáðàçîì, ÷òîáû îíà áûëà ìîíîòîííî âîçðàñòàþùåé
ôóíêöèåé
âòîðîãî àð³
´
(n)
ãóìåíòà θ, è ïðè ýòîì âåðîÿòíîñòü P θ H(θ̂n (X ), θ) ≤ λ äëÿ íåêîòîðûõ
çíà÷åíèé λ äîëæíà îñòàâàòüñÿ äîñòàòî÷íî âûñîêîé (áëèçêîé ê åäèíèöå), êàêîâî áû íè áûëî çíà÷åíèå θ ∈ Θ. Ìû ïðîèëëþñòðèðóåì ýòîò ìåòîä ïîñòðîåíèÿ äîâåðèòåëüíûõ èíòåðâàëîâ ñ ïîìîùüþ ïîäáîðà èíâàðèàíòíûõ îïîðíûõ
ôóíêöèé íà ïðèìåðå íîðìàëüíîãî (µ, σ 2 ) ðàñïðåäåëåíèÿ, ñòðîÿ äîâåðèòåëüíûå èíòåðâàëû äëÿ êàæäîãî èç ïàðàìåòðîâ ïðè èçâåñòíîì è íåèçâåñòíîì
çíà÷åíèÿõ äðóãîãî (ìåøàþùåãî ) ïàðàìåòðà.
20 . Âåðõíÿÿ äîâåðèòåëüíàÿ ãðàíèöà äëÿ äèñïåðñèè íîðìàëüíîãî ðàñïðåäåëåíèÿ ïðè èçâåñòíîì ñðåäíåì. Ïðè âûáîðå èç íîðìàëüíîãî (µ, σ 2 ) ðàñïðåäåëåíèÿ ñ èçâåñòíûì ñðåäíèì çíà÷åíèåì µ ìåòîä
Pn
ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ïðèâîäèò ê íåñìåùåííîé îöåíêå σ̂n2 = n−1 1
(Xk − µ)2 ïàðàìåòðà σ 2 . Èñïîëüçóÿ ðåçóëüòàòû ïðåäûäóùåãî ïàðàãðàôà,
íåòðóäíî ïîêàçàòü, ÷òî σ̂n2 åñòü íåñìåùåííàÿ îöåíêà ñ ðàâíîìåðíî ìèíèìàëüíûì ðèñêîì.
Ïîñêîëüêó, â ÷åì ìû íåîäíîêðàòíî óáåæäàëèñü, Yk = (Xk − µ)/σ ∼
N (0, 1), k = 1, . . . , n,X
òî åñòåñòâåííî ðàññìîòðåòü â êà÷åñòâå îïîðíîé ôóíên
2
2
−2
öèþ H(σ̂n , σ ) = σ
(Xk − µ)2 . Íàéäåì åå ðàñïðåäåëåíèå.
1
Ëåììà 6.1. Åñëè Y1 , . . . , Yn íåçàâèñèìû è îäèíàêîâî
ðàñïðåäåëåíû ïî
Pn 2
ñòàíäàðòíîìó íîðìàëüíîìó çàêîíó N (0, 1), òî
äåëåíèå G(n/2, 2).
217
1
Yk èìååò ãàììà-ðàñïðå-
Ä î ê à ç à ò å ë ü ñ ò â î.. Ïîêàæåì, ÷òî Y 2 , ãäå Y ∼ N (0, 1), èìååò ãàììàðàñïðåäåëåíèå G(1/2, 2), ïîñëå ÷åãî ïðîñòî âîñïîëüçóåìñÿ òåîðåìîé ñëîæåíèÿ äëÿ ãàììà-ðàñïðåäåëåíèÿ (ñì. ïðåäëîæåíèå 12.2, ïóíêò 50 êóðñà ÒÂ).
Ôóíêöèÿ ðàñïðåäåëåíèÿ Y 2 âû÷èñëÿåòñÿ ïî ôîðìóëå F (x) = P (Y 2 < x) =
√
√
√
√
√
P (− x < Y < x) = Φ( x) − Φ(− x) = 2Φ( x) − 1, òàê ÷òî åå ôóíêöèÿ
ïëîòíîñòè
¾
Z
d 2
t2
1
√
f (x) =
exp −
− 1 = 1/2
x1/2−1 e−x/2 ,
dx
2
2 Γ(1/2)
2π
√
x
½
−∞
√
ïîñêîëüêó Γ(1/2) = π. Ìû âèäèì, ÷òî ýòî ôóíêöèÿ ïëîòíîñòè ãàììàðàñïðåäåëåíèÿ G(1/2, 2) ñ ïàðàìåòðîì ôîðìû λ = 1/2 è ïàðàìåòðîì ìàñøòàáà a = 2, îòêóäà, êàê áûëî çàìå÷åíî âûøå, íåìåäëåííî ñëåäóåò óòâåðæäåíèå ëåììû.
Ãàììà-ðàñïðåäåëåíèå G(n/2, 2) î÷åíü ÷àñòî èñïîëüçóåòñÿ â ðàçëè÷íûõ
çàäà÷àõ ìàòåìàòè÷åñêîé ñòàòèñòèêè, è îíî ïîÿâèëîñü ðàíüøå, ÷åì ãàììàðàñïðåäåëåíèå G(λ, a) îáùåãî âèäà, ïîä íàçâàíèåì õè-êâàäðàò ðàñïðåäåëåíèå ñ n ñòåïåíÿìè ñâîáîäû. Ôóíêöèÿ ðàñïðåäåëåíèÿ õè-êâàäðàò îáû÷íî
îáîçíà÷àåòñÿ Kn (x), x > 0, à ÷òî êàñàåòñÿ òåðìèíà ñòåïåíè ñâîáîäû , òî
åãî ñìûñë ïðîÿñíèòñÿ ïî ìåðå äðóãèõ ïðèìåíåíèé õè-êâàäðàò ðàñïðåäåëåíèÿ.
Òåïåðü ìû ìîæåì ïåðåéòè ê íàøåé îñíîâíîé çàäà÷å ïîñòðîåíèþ äîâåðèòåëüíûõ ãðàíèö äëÿ σ 2 . Åñëè îáðàòèòüñÿ ê ïðàêòè÷åñêîé ñòîðîíå ýòîé
ïðîáëåìû (ñì. â ñâÿçè ñ ýòèì ïðèìåð 1.1), òî ëåãêî ïîíÿòü, ÷òî ñòàòèñòèêà äîëæíà èíòåðåñîâàòü òîëüêî âåðõíÿÿ (à íå äâóñòîðîííÿÿ) ãðàíèöà σ 2 ,
íà êîòîðóþ îí áóäåò îðèåíòèðîâàòüñÿ, ÷òîáû îáåçîïàñèòü ñåáÿ îò ãðóáûõ
îøèáîê ïðè ïëàíèðîâàíèè ñòàòèñòè÷åñêîãî ýêñïåðèìåíòà. Òàêèì îáðàçîì,
ìû äîëæíû ñôîðìóëèðîâàòü äîâåðèòåëüíîå óòâåðæäåíèå â ôîðìå σ 2 ≤ σ n2 .
Ïîíÿòíî, ÷òî íèæíÿÿ äîâåðèòåëüíàÿ ãðàíèöà è äâóñòîðîííèå ãðàíèöû (äîâåðèòåëüíûé èíòåðâàë), êîëü ñêîðî îíè êîìó-òî ïîòðåáóþòñÿ, ñòðîÿòñÿ àíàëîãè÷íûì îáðàçîì.
 ðàìêàõ òàêîé ôîðìóëèðîâêè çàäà÷è, ìû äîëæíû ðàññìîòðåòü ñîáûòèå
Aλ =
Xn
H(σ̂n2 , σ 2 ) =
1
(Xk − µ)2
σ2
≥ λ ,
âûáèðàÿ λ èç óñëîâèÿ Pµ,σ (Aλ ) = 1 − α. Êàê ìû òîëüêî ÷òî âûÿñíèëè, ýòà
218
âåðîÿòíîñòü íå çàâèñèò îò µ è σ, è â ñèëó ëåììû 6.1 ïîñòîÿííàÿ λ îïðåäåëÿåòñÿ êâàíòèëüþ õè-êâàäðàò ðàñïðåäåëåíèÿ ñ n ñòåïåíÿìè ñâîáîäû êîðíåì
óðàâíåíèÿ 1−Kn (λ) =X
1−α. Ñëåäîâàòåëüíî, âåðõíÿÿ (1−α)-äîâåðèòåëüíàÿ
n
(Xk − µ)2 /Kn−1 (α), ãäå, â ñîîòâåòñòâèè ñ íàøèìè
ãðàíèöà äëÿ σ 2 ðàâíà
1
ñòàíäàðòíûìè îáîçíà÷åíèÿìè, Kn−1 (α) åñòü α-êâàíòèëü õè-êâàäðàò ðàñïðåäåëåíèÿ ñ n ñòåïåíÿìè ñâîáîäû.
Èñïîëüçóåìûå â ðàññìîòðåííûõ ïðèìåðàõ ìåòîäû ïîäáîðà îïîðíûõ ôóíêöèé, îñíîâàííûå íà ïðèíöèïå èíâàðèàíòíîñòè ñòàòèñòèê (îöåíîê ïàðàìåòðîâ µ è σ 2 ) îòíîñèòåëüíî ëèíåéíûõ ïðåîáðàçîâàíèé, ïîçâîëÿþò àíàëîãè÷íûì îáðàçîì ïîäáèðàòü òàêèå ôóíêöèè è â ñëó÷àå íåèçâåñòíûõ çíà÷åíèé
ìåøàþùåãî ïàðàìåòðà. Òàê, åñëè ðàññìàòðèâàåòñÿ çàäà÷à ïîñòðîåíèÿ äîâåðèòåëüíûõ ãðàíèö
σ 2 ïðè íåèçâåñòíîì µ, òî åñòåñòâåííî îáðàòèòüñÿ
Xäëÿ
n
ê îöåíêå S 2 = n−1
(Xk −X)2 ïàðàìåòðà σ 2 , çàìå÷àÿ, ÷òî åå ðàñïðåäåëå1
íèå íå çàâèñèò îò µ, ïîñêîëüêó êàæäàÿ èç ðàçíîñòåé Xk − X èíâàðèàíòíà
îòíîñèòåëüíî ñäâèãà, êîãäà Xk çàìåíÿåòñÿ íà Xk − µ, k = 1, . . . , n. Åñëè
ðàçäåëèòü ýòè ðàçíîñòè íà σ, òî ìû ïîëó÷èì ñëó÷àéíûå âåëè÷èíû, ðàñïðåäåëåíèå êîòîðûõ íå çàâèñèò êàê îò µ, òàê è îò σ, è òàêèì îáðàçîì ìû
ïðèõîäèì ê èíâàðèàíòíîé îïîðíîé ôóíêöèè H(S 2 , σ 2 ) = S 2 /σ 2 . Äëÿ âûâîäà ðàñïðåäåëåíèÿ ýòîé ôóíêöèè ìîæíî îáðàòèòüñÿ ê íîðìàëüíûì (0, 1)
ñëó÷àéíûì âåëè÷èíàì Yk = (Xk X
− µ)/σ, k = 1, . . . , n, ïîñêîëüêó, â ÷åì
n
ëåãêî óáåäèòüñÿ, H(S 2 , σ 2 ) = n−1
(Yk − Y )2 .
1
Åñëè îáðàòèòüñÿ ê çàäà÷å äîâåðèòåëüíîé èíòåðâàëüíîé îöåíêè µ ïðè
íåèçâåñòíîì çíà÷åíèè σ, òî çäåñü èíâàðèàíòíóþ îïîðíóþ ôóíêöèþ ìîæíî
ïîñòðîèòü, êîìáèíèðóÿ åå èç îïîðíûõ ôóíêöèé çàäà÷ 10 è 20 . Êàê ìû âèäåëè ïðè ðåøåíèè ýòèõ çàäà÷, ðàñïðåäåëåíèÿ ñëó÷àéíûõ âåëè÷èí (X −µ)/σ è
S/σ íå çàâèñÿò îò µ è σ, è ïîýòîìó â êà÷åñòâå îïîðíîé ôóíêöèè ïðè èíòåðâàëüíîé îöåíêå µ ìîæíî èñïîëüçîâàòü îïîðíóþ ôóíêöèþ, îïðåäåëÿåìóþ
îòíîøåíèåì ýòèõ âåëè÷èí, òî åñòü ôóíêöèþ | X − µ |/S.
Îäíàêî äëÿ ïîñòðîåíèÿ äîâåðèòåëüíûõ èíòåðâàëîâ íà îñíîâå òàêèõ ôóíêöèé íàì íåîáõîäèìî íàéòè ñîâìåñòíîå ðàñïðåäåëåíèå ñòàòèñòèê X è S 2 .
Ìû ïîëó÷èì ýòî ðàñïðåäåëåíèå â ñëåäóþùåé ëåêöèè, ñôîðìóëèðîâàâ åãî
â âèäå óòâåðæäåíèÿ, èçâåñòíîãî â ìàòåìàòè÷åñêîé ñòàòèñòèêå êàê ëåììà
Ôèøåðà.
Ëåêöèÿ 10
Òåîðåìà 6.1.  ñëó÷àå âûáîðà èç íîðìàëüíîãî (µ, σ 2 ) ðàñïðåäåëåíèÿ
219
ñòàòèñòèêè X è S 2 íåçàâèñèìû, X ∼ N (µ, σ 2 /n), à nS 2 /σ 2 ∼ χ2n−1 (èìååò
õè-êâàäðàò ðàñïðåäåëåíèå ñ n − 1 ñòåïåíüþ ñâîáîäû).
Ä î ê à ç à ò å ë ü ñ ò â î.. Ïóñòü Y1 , . . . , Yn ñëó÷àéíàÿ âûáîðêà èç ñòàíäàðòíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ N (0, 1). Ïîêàæåì, ÷òî ñòàòèñòèêè
n
n
X
è SY =
(Yk − Y )2
k=1
k=1
1X
Y =
Yk
n
íåçàâèñèìû, Y ∼ N (0, 1/n), à SY ∼ χ2n−1 . Òîãäà óòâåðæäåíèå òåîðåìû
áóäåò ñëåäîâàòü èç òîãî ôàêòà, ÷òî σYk + µ èìåþò òî æå ðàñïðåäåëåíèå,
÷òî è Xk , k = 1, . . . , n, è, ñëåäîâàòåëüíî, ðàñïðåäåëåíèå X ñîâïàäàåò ñ
ðàñïðåäåëåíèåì σY + µ, à ðàñïðåäåëåíèå SY ñ ðàñïðåäåëåíèåì nS 2 /σ 2 .
Ââåäåì ñëó÷àéíûå âåëè÷èíû
Zk =
n
X
cki Yi , k = 1, . . . , n,
i=1
êîòîðûå îïðåäåëÿþòñÿ çàäàíèåì ìàòðèöû C = k cki k ëèíåéíûõ ïðåîáðàçîâàíèé ñëó÷àéíûõ âåëè÷èí Y1 , . . . , Yn . Ïóñòü ýëåìåíòû ïåðâîé ñòðîêè ýòîé
√
ìàòðèöû c11 = . . . = c1n = 1/ n, à îñòàëüíûå ýëåìåíòû ìàòðèöû C âûáåðåì òàê, ÷òîáû ïðîèçâåäåíèå C íà òðàíñïîíèðîâàííóþ ìàòðèöó C0 áûëî
åäèíè÷íîé ìàòðèöåé: CC0 = I. Êàê èçâåñòíî, òàêîé âûáîð C âîçìîæåí, è
ïîëó÷åííàÿ òàêèì îáðàçîì ìàòðèöà íàçûâàåòñÿ îðòîíîðìèðîâàííîé. Ñëó÷àéíûå âåëè÷èíû Z1 , . . . , Zn ðàñïðåäåëåíû â ñîîòâåòñòâèè ñ n-ìåðíûì íîðìàëüíûì çàêîíîì, äëÿ ñïåöèôèêàöèè êîòîðîãî äîñòàòî÷íî íàéòè âåêòîð
ñðåäíèõ çíà÷åíèé ýòèõ âåëè÷èí è ìàòðèöó èõ êîâàðèàöèé.
Ñðåäíèå çíà÷åíèÿ
mk = EZk = E
n
X
cki Yk =
i=1
n
X
cki EYk = 0, k = 1, . . . , n.
i=1
Äàëåå, ïîñêîëüêó ñðåäíèå çíà÷åíèÿ ðàâíû íóëþ, êîâàðèàöèè ýòèõ ñëó÷àéíûõ âåëè÷èí
cov(Zk , Zj ) = E(Zk − mk )(Zj − mj ) = EZk Zj = E
n
X
i=1
E
n
X
cki cji Yi2
+E
i=1
n
X
i6=l
220
cki cjl Yi Yl .
cki Yi ·
n
X
i=1
cji Yi =
Åñëè çàíåñòè ìàòåìàòè÷åñêèå îæèäàíèÿ ïîä çíàêè ñóìì è âñïîìíèòü, ÷òî
Y1 , . . . , Yn íåçàâèñèìû, EYi = 0, EYi2 = DYi = 1, à ïðè i 6= l ñðåäíèå
çíà÷åíèÿ EYi Yl = EYi EYl = 0, òî ïîëó÷èì, ÷òî
cov(Zk , Zj ) =
n
X
cki cji ,
k, j = 1, . . . , n.
i=1
Ïîñêîëüêó äëÿ îðòîíîðìèðîâàííîé ìàòðèöû ïîñëåäíÿÿ ñóììà ðàâíà íóëþ,
åñëè k 6= j, è ðàâíà åäèíèöå, åñëè k = j, òî ìû ïðèõîäèì ê çàêëþ÷åíèþ,
÷òî Z1 , . . . , Zn íåçàâèñèìû è îäèíàêîâî ðàñïðåäåëåíû ïî ñòàíäàðòíîìó íîðìàëüíîìó çàêîíó N (0, 1). Òàêèì îáðàçîì, îðòîíîðìèðîâàííûå ïðåîáðàçîâàíèÿ ñëó÷àéíûõ âåëè÷èí Y1 , . . . , Yn íå èçìåíèëè èõ ñîâìåñòíîå ðàñïðåäåëåíèå.
Òåïåðü ïðåäñòàâèì íàøè ñòàòèñòèêè Y è SY â òåðìèíàõ ñëó÷àéíûõ âåëè÷èí Z1 , . . . , Zn . Ïîñêîëüêó
Z1 =
n
X
i=1
n
1 X
c1i Yi = √
Yi ,
n i=1
√
òî Y = Z1 / n. Äàëåå, îðòîíîðìèðîâàííîå ëèíåéíîå ïðåîáðàçîâàíèå
Xñîõðàn
íÿåò ñóììó êâàäðàòîâ êîìïîíåíò ïðåîáðàçóåìîãî âåêòîðà, òî åñòü
Zk2 =
Xn
Yk2 .
1
âèä
1
Ñëåäîâàòåëüíî, ñòàòèñòèêà SY â íîâûõ ïåðåìåííûõ ïðèîáðåòàåò
n
n
n
SY
1X 2
1 X 2 Z12
1X 2
2
=
Y −Y =
Z −
=
Z .
n
n 1 k
n 1 k
n
n 2 k
√
Èòàê, ðàñïðåäåëåíèå Y ñîâïàäàåò ñ ðàñïðåäåëåíèåì Z1 / n, à ðàñïðåäåëåíèå SY ñ ðàñïðåäåëåíèåì ñóììû êâàäðàòîâ n − 1 íåçàâèñèìûõ â
ñîâîêóïíîñòè è íåçàâèñÿùèõ îò Z1 íîðìàëüíûõ (0, 1) ñëó÷àéíûõ âåëè÷èí.
Ñëåäîâàòåëüíî, Y è SY íåçàâèñèìû, Y ∼ N (0, 1/n), SY ∼ χ2n−1 (ñì. ëåììó
6.1), è ëåììà Ôèøåðà äîêàçàíà.
Óñòàíîâèâ ñîâìåñòíîå ðàñïðåäåëåíèå âûáîðî÷íîãî ñðåäíåãî è âûáîðî÷íîé äèñïåðñèè â ñëó÷àå âûáîðà èç íîðìàëüíîãî ðàñïðåäåëåíèÿ, ìû ìîæåì
ïðèñòóïèòü ê ïîñòðîåíèþ äîâåðèòåëüíûõ èíòåðâàëîâ äëÿ êàæäîãî èç ïàðàìåòðîâ µ è σ ïðè íåèçâåñòíîì çíà÷åíèè äðóãîãî ïàðàìåòðà.
30 . Âåðõíÿÿ äîâåðèòåëüíàÿ ãðàíèöà äëÿ äèñïåðñèè íîðìàëüíîãî ðàñïðåäåëåíèÿ ïðè íåèçâåñòíîì ñðåäíåì. Ýòà ãðàíèöà íà221
õîäèòñÿ íàèáîëåå ïðîñòî, ïîñêîëüêó ðàñïðåäåëåíèå îïîðíîé ôóíêöèè
2
nS
=
σ2
Xn
1
(Xk − X)2
σ2
=
n
X
k=1
Ã
n
1 X Xi − µ
Xk − µ
−
σ
n
i=1
!2
σ
n
X
=
(Yk − Y )2
1
(2)
åñòü õè-êâàäðàò ðàñïðåäåëåíèå ñ n − 1 ñòåïåíüþ ñâîáîäû (ñì. òåîðåìó 6.1).
Ñëåäîâàòåëüíî, âåðõíÿÿ (1−α)-äîâåðèòåëüíàÿ ãðàíèöà îïðåäåëÿåòñÿ êâàíòèëüþ λα = K −1 (α) õè-êâàäðàò ðàñïðåäåëåíèÿ êîðíåì óðàâíåíèÿ
P (nS 2 /σ 2 ≥ λ) = 1 − Kn−1 (λ) = 1 − α,
−1
è äîâåðèòåëüíîå óòâåðæäåíèå σ 2 ≤ σ n2 = nS 2 /Kn−1
(α) âûïîëíÿåòñÿ ñ çàäàííîé âåðîÿòíîñòüþ 1 − α.
40 . Äîâåðèòåëüíûé èíòåðâàë äëÿ ñðåäíåãî çíà÷åíèÿ íîðìàëüíîãî ðàñïðåäåëåíèÿ ïðè íåèçâåñòíîé äèñïåðñèè.  ýòîé
çàäà÷å ìû èìååì äåëî ñ äâóñòîðîííèìè äîâåðèòåëüíûìè ãðàíèöàìè (äîâåðèòåëüíûì èíòåðâàëîì), è â ñîîòâåòñòâèè ñ âûáîðîì îïîðíîé ôóíêöèè
| X −µ |/S, î êîòîðîé ìû ãîâîðèëè ïåðåä äîêàçàòåëüñòâîì òåîðåìû 6.1, íàì
ïîòðåáóåòñÿ çíàíèå âåðîÿòíîñòè ñîáûòèÿ âèäà | X − µ |/S ≤ λ.
 íà÷àëå XIX âåêà àíãëèéñêèé ìàòåìàòèê Â.Ãîññåò, ïèñàâøèé ïîä ïñåâäîíèìîì Ñòüþäåíò
(Student), íàøåë ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû
√ p 2
Tν = ξ ν/ χν , ãäå ξ ∼ N (0, 1), à χ2ν ñëó÷àéíàÿ âåëè÷èíà, íå çàâèñÿùàÿ îò ξ è ðàñïðåäåëåííàÿ ïî çàêîíó õè-êâàäðàò ñ ν ñòåïåíÿìè ñâîáîäû.
Åñòåñòâåííî, åãî èññëåäîâàíèÿ áûëè ñâÿçàíû ñ ïðîáëåìàìè ñòàòèñòè÷åñêîãî âûâîäà î ñðåäíåì çíà÷åíèè µ íîðìàëüíîãî ðàñïðåäåëåíèÿ ïðè íåèçâåñòíîé äèñïåðñèè, è Ñòüþäåíò èñêàë ðàñïðåäåëåíèå îïîðíîé ôóíêöèè (ñì. (2))
â ñâÿçè ñ ïåðåõîäîì â çàïèñè îïîðíîé ôóíêöèè â òåðìèíàõ Xk ê Yk )
Xn
1
√
Yk √
X − µ√
n
1
q
n − 1 = Xn
n − 1,
H=
S
2
(Yk − Y )
1
Xk − µ
∼ N (0, 1), k = 1, . . . , n,
σ
êîòîðàÿ
√ îòëè÷àåòñÿ îò âûáðàííîé íàìè îïîðíîé ôóíêöèè òîëüêî ìíîæèòåëåì n − 1, è ïîýòîìó òàêæå ìîæåò áûòü èñïîëüçîâàíà â ïîñòðîåíèè äîâåðèòåëüíîãî èíòåðâàëà äëÿ µ ïðè íåèçâåñòíîì σ. Òî, ÷òî ðàñïðåäåëåíèÿ Tn−1
è H ñîâïàäàþò, ñëåäóåò èç òåîðåìû 6.1: ñëó÷àéíàÿ âåëè÷èíà â çíàìåíàòåëå
Yk =
222
Xn
Xn
√
ξ =
Yk / n ∼ N (0, 1) íå çàâèñèò îò
(Yk − Y )2 ∼ χ2n−1 , ðàçäåëèâ
1
1
êîòîðóþ íà çíà÷åíèå ñòåïåíè ñâîáîäû n − 1, ïîëó÷àåì ν1 χ2ν ñ ν = n − 1.
Íàéäåì ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû Tν , êîòîðîå íàçûâàåòñÿ ðàñïðåäåëåíèåì Ñòüþäåíòà ñ ν ñòåïåíÿìè ñâîáîäû èëè
t-ðàñïðåäåëåíèåì. Ñîâìåñòíàÿ ôóíêöèÿ ïëîòíîñòè íåçàâèñèìûõ ñëó÷àéíûõ
âåëè÷èí ξ è η = χ2ν ðàâíà
½ 2¾
n yo
1
x
1
ν/2−1
f (x, y) = √ exp −
y
exp −
,
2 2ν/2 Γ(ν/2)
2
2π
òàê ÷òî ôóíêöèÿ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû Tν
p
ν/η < t) =
√
t y/ν
∞
Z
Z
Z
f (x, y) dx dy = dy
f (x, y) dx.
Sν (t) = P (ξ
Z
√
√
x ν< yt
−∞
Äèôôåðåíöèðóÿ ýòî âûðàæåíèå ïî t, íàõîäèì ôóíêöèþ ïëîòíîñòè ðàñïðåäåëåíèÿ Ñòüþäåíòà
sν (t) =
Z∞ p
p
y/νf (t y/ν, y) dy =
√
Z∞
1
πν2(ν+1)/2 Γ(ν/2)
y
ν+1
2 −1
µ
¶¾
½
t2
y
exp −
1+
dt =
2
ν
¡ ν+1 ¢ µ
¶ ν+1
2 − 2
Γ
1
t
¡ ν2 ¢ 1 +
=√
.
ν
πν Γ 2
Âèä ïîëó÷åííîé ôóíêöèè ïëîòíîñòè ãîâîðèò î òîì, ÷òî ðàñïðåäåëåíèå
Ñòüþäåíòà ìîæíî òðàêòîâàòü êàê îáîáùåíèå ñòàíäàðòíîãî (a = 0, b = 1)
ðàñïðåäåëåíèÿ Êîøè C(a, b), êîòîðîå ïîëó÷àåòñÿ èç ðàñïðåäåëåíèÿ Ñòüþäåíòà ïðè ÷èñëå ñòåïåíåé ñâîáîäû ν = 1. Ýòî ñèììåòðè÷íîå ðàñïðåäåëåíèå,
è ïîýòîìó Sν (−t) = 1 − Sν (t), ÷òî ïîçâîëÿåò íàì äîâîëüíî ïðîñòî ïîñòðîèòü äîâåðèòåëüíûé èíòåðâàë äëÿ µ ñ ïîìîùüþ êâàíòèëè ðàñïðåäåëåíèÿ
Sn−1 (·) :
P (| Tn−1 | ≤ t) = Sn−1 (t) − Sn−1 (−t) = 2Sn−1 (t) − 1 = 1 − α,
223
îòêóäà tα = S−1
n−1 (1 − α/2), è (1√− α)-äîâåðèòåëüíûé èíòåðâàë äëÿ µ îïðåäåëÿåòñÿ ïðåäåëàìè X ± Stα / n − 1.
Èòàê, ìû ïîñòðîèëè äîâåðèòåëüíûå ïðåäåëû äëÿ ïàðàìåòðîâ µ è σ 2 íîðìàëüíîãî ðàñïðåäåëåíèÿ. Òàáëèöû íîðìàëüíîãî, õè-êâàäðàò è ñòüþäåíòñêîãî ðàñïðåäåëåíèé, à òàêæå êâàíòèëåé ýòèõ ðàñïðåäåëåíèé, íåîáõîäèìûå äëÿ ÷èñëåííîé ðåàëèçàöèè äîâåðèòåëüíûõ îöåíîê, ñìîòðèòå â êíèãå
Áîëüøåâ Ë.Í., Ñìèðíîâ Í.Â. Òàáëèöû ìàòåìàòè÷åñêîé ñòàòèñòèêè, Ì.: Íàóêà, 1983, êîòîðàÿ â äàëüíåéøåì áóäåò öèòèðîâàòüñÿ êàê ÒÌÑ. Åùå ðàç
îòìåòèì, ÷òî âîçìîæíîñòü äîâåðèòåëüíîé îöåíêè ýòèõ ïàðàìåòðîâ îïðåäåëÿëàñü, â îñíîâíîì, èíâàðèàíòíîñòüþ ñåìåéñòâà íîðìàëüíûõ ðàñïðåäåëåíèé îòíîñèòåëüíî ëèíåéíîé ãðóïïû ïðåîáðàçîâàíèé. Òî÷íî òàê æå ìû
ìîæåì ïîñòðîèòü äîâåðèòåëüíûå ïðåäåëû äëÿ ïàðàìåòðà θ ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ èëè äëÿ ïàðàìåòðà ìàñøòàáà ãàììà ðàñïðåäåëåíèÿ ïðè
èçâåñòíîì ïàðàìåòðå ôîðìû; ìû âåðíåìñÿ ê ýòèì çàäà÷àì ïîçäíåå ïðè îáñóæäåíèè ïðîáëåìû îïòèìèçàöèè äîâåðèòåëüíîé îöåíêè. ×òî æå êàñàåòñÿ
äðóãèõ ðàñïðåäåëåíèé, òî çäåñü ïðîáëåìà îñëîæíÿåòñÿ îòñóòñòâèåì èíâàðèàíòíûõ îïîðíûõ ôóíêöèé è íåâîçìîæíîñòüþ ïîëó÷èòü ðàñïðåäåëåíèå
îöåíîê ïàðàìåòðà, äëÿ êîòîðîãî ñòðîÿòñÿ äîâåðèòåëüíûå ïðåäåëû, â ÿâíîì
âèäå. Òåì íå ìåíåå ñóùåñòâóåò äîñòàòî÷íî îáùèé ïîäõîä ê äàííîé ïðîáëåìå, îñíîâàííûé íà àñèìïòîòè÷åñêîé íîðìàëüíîñòè ðàñïðåäåëåíèÿ îöåíîê
ïî ìåòîäó ìîìåíòîâ èëè ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ.
Ïóñòü θ̂n = θ̂n (X (n) ) àñèìïòîòè÷åñêè íîðìàëüíàÿ ñî ñðåäíèì θ è äèñïåðñèåé σ 2 (θ)/n îöåíêà ïàðàìåòðà θ (íàïðèìåð, ïðè îïðåäåëåííûõ óñëîâèÿõ ðåãóëÿðíîñòè (ñì. òåîðåìó 4.2) îöåíêà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ
àñèìïòîòè÷åñêè íîðìàëüíà ñî ñðåäíèì θ è äèñïåðñèåé [ nI(θ) ]−1 ). Òîãäà
ïðè n → ∞ âåðîÿòíîñòü
Ã
Pθ
| θ̂n − θ | √
n ≤ λα
σ(θ)
!
−→ 1 − α,
ïðè ëþáîì θ ∈ Θ, åñëè λα = Φ−1 (1−α/2), è ìû ïîëó÷àåì àñèìïòîòè÷åñêè
(1 − α)-äîâåðèòåëüíîå ìíîæåñòâî
(
∆n (X
(n)
)=
| θ̂n − θ | √
θ:
n ≤ λα
σ(θ)
)
\
Θ.
Åñëè ∆n åñòü èíòåðâàë íà ïðÿìîé R, òî ìû ðåøèëè çàäà÷ó èíòåðâàëüíîé îöåíêè ïàðàìåòðà θ. Åñëè æå ýòî íåêîòîðîå âû÷óðíîå è íåïðèãîäíîå
224
ê óïîòðåáëåíèþ ïîäìíîæåñòâî R, òî ìîæíî ïîéòè íà äàëüíåéøèå óïðîùåíèÿ àñèìïòîòè÷åñêîãî óòâåðæäåíèÿ, çàìåíèâ â îïðåäåëåíèè ∆n ïàðàìåòðè÷åñêóþ ôóíêöèþ σ(θ) íà åå îöåíêó σ(θ̂n ). Äîñòàòî÷íî ïîòðåáîâàòü
íåïðåðûâíîñòü ôóíêöèè σ(θ), θ ∈ Θ, ÷òîáû, ññûëàÿñü íà òåîðåìó Ñëóöêîãî (ïðåäëîæåíèå 11.1 êóðñà ÒÂ ñ ξn ∝ σ(θ̂n ) → σ(θ)), óòâåðæäàòü, ÷òî ïðè
P
n→∞
Ã
Pθ
θ̂n −
λα σ(θ̂n )
λα σ(θ̂n )
√
≤ θ ≤ θ̂n + √
n
n
!
−→ 1 − α.
Ïðîèëëþñòðèðóåì ðàáîòó ýòîãî ìåòîäà íà äâóõ ïîëåçíûõ â ïðàêòè÷åñêîì îòíîøåíèè ïðèìåðàõ.
50 . Àñèìïòîòè÷åñêè äîâåðèòåëüíûé èíòåðâàë äëÿ âåðîÿòíîñòè óñïåõà â èñïûòàíèÿõ Áåðíóëëè.  ñõåìå èñïûòàíèé Áåðíóëëè âûáîðå èç ðàñïðåäåëåíèÿ áèíàðíîé ñëó÷àéíîé âåëè÷èíû X, ïðèíèìàþùåé çíà÷åíèå 1 (óñïåõ ) ñ âåðîÿòíîñòüþ p è çíà÷åíèå 0 (íåóäà÷à )
ñ âåðîÿòíîñòüþ 1 − p, îïòèìàëüíîé
íåñìåùåííîé îöåíêîé p ÿâëÿåòñÿ âûXn
áîðî÷íîå ñðåäíåå X = n−1
Xk èëè, ÷òî òî æå, îòíîñèòåëüíàÿ ÷àñòîòà
1
óñïåøíûõ èñõîäîâ â n èñïûòàíèÿõ. Ñòàòèñòèêà nX èìååò áèíîìèàëüíîå
ðàñïðåäåëåíèå B(n, p), è ýòî ïîçâîëÿåò íàñ÷èòàòü òàáëèöû äîâåðèòåëüíûõ
ïðåäåëîâ äëÿ p ïðè ðàçëè÷íûõ çíà÷åíèÿõ äîâåðèòåëüíîãî óðîâíÿ 1 − α,
îáúåìà âûáîðêè n è ÷èñëà óñïåøíûõ èñõîäîâ nx (ñì., íàïðèìåð, ÒÌÑ).
×òî æå äàåò àñèìïòîòè÷åñêèé ïîäõîä ê ïîñòðîåíèþ äîâåðèòåëüíûõ èíòåðâàëîâ?
Âûáîðî÷íîå ñðåäíåå àñèìïòîòè÷åñêè íîðìàëüíî ñî ñðåäíèì p è äèñïåðñèåé p(1 − p)/n. Ñëåäîâàòåëüíî, (1 − α)
n
o -äîâåðèòåëüíàÿ îáëàñòü ∆n =
p
p : 0 ≤ p ≤ 1, | X − p | ≤ λα p(1 − p)/n . Ðàçðåøàÿ íåðàâåíñòâà â ôèãóðíûõ ñêîáêàõ îòíîñèòåëüíî p, ïîëó÷àåì äîâåðèòåëüíûé èíòåðâàë
s
λ2α
n
λ2α
X(1 − X)
±
λ
+
X
+
,
α
n + λ2α
2n
n
4n2
êîòîðûé ïðè áîëüøèõ îáúåìàõ
q èñïûòàíèé n ìàëî îòëè÷àåòñÿ îò äîâåðè-
X(1 − X)/n, ïîëó÷åííîãî çàìåíîé σ 2 (p) =
p(1 − p) íà åå îöåíêó X(1 − X) :
òåëüíîãî èíòåðâàëà X ± λα
225
60 . Àñèìïòîòè÷åñêè äîâåðèòåëüíûé èíòåðâàë äëÿ ïàðàìåòðà èíòåíñèâíîñòè ðàñïðåäåëåíèÿ Ïóàññîíà. Ðàñïðåäåëåíèå Ïóàññîíà P(θ) ñ ôóíêöèåé ïëîòíîñòè (ïî ñ÷èòàþùåé ìåðå) f (x | θ) = Pθ (X =
x) = θx eθ /x!, x = 0, 1, 2, . . . , èíäåêñèðóåòñÿ ïîëîæèòåëüíûì ïàðàìåòðîì θ,
îïòèìàëüíàÿ íåñìåùåííàÿ îöåíêà êîòîðîãî ïî âûáîðêå X (n) îáúåìà n, êàê
è â ïðåäûäóùåì ïðèìåðå, îïðåäåëÿåòñÿ âûáîðî÷íûì ñðåäíèì X. Äëÿ ðàñïðåäåëåíèÿ Ïóàññîíà òàêæå ñïðàâåäëèâà òåîðåìà ñëîæåíèÿ: nX ∼ P(nθ),
è íà îñíîâå ýòîãî ìîæíî ïîñòðîèòü òî÷íûå äîâåðèòåëüíûå ïðåäåëû äëÿ θ,
òàáëèöà êîòîðûõ èìååòñÿ â óïîìÿíóòîì ñáîðíèêå ÒÌÑ. Íî îöåíêà X àñèìïòîòè÷åñêè íîðìàëüíà (θ, θ/n), ÷òî ïîçâîëÿåò îïðåäåëèòü àñèìïòîòè÷åñêè
p
äîâåðèòåëüíóþ îáëàñòü ∆n = {θ : θ > 0, | X − θ | ≤ λα θ/n}. Ðåøåíèå íåðàâåíñòâ â ôèãóðíûõ ñêîáêàõ îòíîñèòåëüíî θ äàåò àñèìïòîòè÷åñêè
äîâåðèòåëüíûé èíòåðâàë
s
2
X
λ
λ2
X + α ± λα
+ α2 .
2n
n
4n
Íàêîíåö, çàìåíÿÿ σ 2 (θ) = θ åå îöåíêîé X, ïîëó÷àåì òàêæå àñèìïòîòè÷åñêè äîâåðèòåëüíûé,
q íî, êàê ïîêàçûâàþò ÷èñëîâûå ðàñ÷åòû, ìåíåå òî÷íûé
èíòåðâàë X ± λα
X/n .
Íà ýòîì ìû çàêàí÷èâàåì èçëîæåíèå ïðîñòåéøèõ ìåòîäîâ ïîñòðîåíèÿ äîâåðèòåëüíûõ è àñèìïòîòè÷åñêè äîâåðèòåëüíûõ èíòåðâàëîâ íà îñíîâå ïîäáîðà îïîðíûõ ôóíêöèé. Î ïðîáëåìå îïòèìàëüíîãî èíòåðâàëüíîãî îöåíèâàíèÿ ìû ïîãîâîðèì ïîçäíåå, èçó÷èâ òåîðèþ îïòèìàëüíîé ïðîâåðêè ãèïîòåç
âûñêàçûâàíèé î âîçìîæíûõ çíà÷åíèÿõ ïàðàìåòðà θ. Îñòàâøèåñÿ ëåêöèè
áóäóò ïîñâÿùåíû èìåííî ýòîé òåîðèè.
226
7. Ñòàòèñòè÷åñêàÿ ïðîâåðêà ãèïîòåç (êðèòåðèè çíà÷èìîñòè)
Ëåêöèÿ 11
 ïðèëîæåíèÿõ ìàòåìàòè÷åñêîé ñòàòèñòèêè ñóùåñòâóåò îáøèðíûé êëàññ
çàäà÷, â êîòîðûõ òðåáóåòñÿ ïðîâåðèòü èñòèííîñòü íåêîòîðîãî âûñêàçûâàíèÿ îòíîñèòåëüíî èññëåäóåìîãî îáúåêòà èëè âûáðàòü îäíî èç àëüòåðíàòèâíûõ ðåøåíèé, êîòîðîå îïðåäåëèò äàëüíåéøåå ïîâåäåíèå ñòàòèñòèêà ïî
îòíîøåíèþ ê ýòîìó îáúåêòó. Íàïðèìåð, ïðè àòòåñòàöèè ïàðòèè äèçåëüíîãî
òîïëèâà ïî îáùåìó ñîäåðæàíèþ ñåðû ìû äîëæíû íå òîëüêî äàòü òî÷å÷íóþ
îöåíêó äàííîé õàðàêòåðèñòèêè òîïëèâà, íî è ïðèíÿòü ðåøåíèå î êà÷åñòâå
âûïóñêàåìîãî ïðîäóêòà, êîòîðîå ïîâëå÷åò çà ñîáîé îäíî èç ñëåäóþùèõ äåéñòâèé èëè îòîñëàòü òîïëèâî ïîòðåáèòåëþ, èëè ïðîèçâåñòè äîïîëíèòåëüíóþ î÷èñòêó òîïëèâà îò âðåäíûõ ïðèìåñåé. Òî÷íî òàê æå â ïðèìåðå 1.2 ìû
ñòðîèëè ñòàòèñòè÷åñêîå ïðàâèëî, ïîçâîëÿþùåå ïðèíÿòü îäíî èç äâóõ ðåøåíèé îòíîñèòåëüíî íîâîãî ëå÷åáíîãî ïðåïàðàòà èëè ïðèçíàòü åãî ýôôåêòèâíûì è âíåäðèòü â ëå÷åáíóþ ïðàêòèêó, èëè çàïðåòèòü åãî äàëüíåéøåå
èñïîëüçîâàíèå.  èññëåäîâàíèÿõ, ïîäîáíûõ îïûòàì Ìåíäåëÿ, ÷àñòî íàäî
ïðîâåðèòü ãèïîòåçó îòíîñèòåëüíî ïðåäïîëàãàåìîãî çíà÷åíèÿ âåðîÿòíîñòè
íàñëåäîâàíèÿ äîìèíàíòíîãî ïðèçíàêà. Ñåëåêöèîíåð, ðàáîòàþùèé íàä ïîëó÷åíèåì íîâîãî âèäà ïøåíèöû, äîëæåí ïîäêðåïèòü ñâîå çàêëþ÷åíèå î
ïðåâîñõîäñòâå íîâîãî âèäà íàä òåì, êîòîðûé óæå èñïîëüçóåòñÿ â ñåëüñêîõîçÿéñòâåííîé ïðàêòèêå, ñ ïîìîùüþ ñîïîñòàâëåíèÿ äàííûõ îá óðîæàéíîñòè ýòèõ âèäîâ. È òàê äàëåå, è òîìó ïîäîáíîå, âû ñàìè ìîæåòå ïðèâåñòè
ïðèìåðû òàêèõ çàäà÷ ïî âûáîðó îäíîãî èç ðÿäà àëüòåðíàòèâíûõ ðåøåíèé.
 íàøåì êóðñå ìàòåìàòè÷åñêîé ñòàòèñòèêè ìû ðàññìîòðèì çàäà÷è, ñâÿçàííûå òîëüêî ñ âûáîðîì îäíîãî èç äâóõ ðåøåíèé. Ïóñòü ìû âûñêàçûâàåì
íåêîòîðîå ñóæäåíèå (èëè ïðåäïðèíèìàåì äåéñòâèå) îá èññëåäóåìîì îáúåêòå, è ïóñòü d0 ðåøåíèå îá èñòèííîñòè ýòîãî ñóæäåíèÿ, â òî âðåìÿ êàê
d1 ðåøåíèå î åãî ëîæíîñòè. Òàêèì îáðàçîì, ïðîñòðàíñòâî ðåøåíèé D â
äàííîé ñòàòèñòè÷åñêîé ïðîáëåìå ñîñòîèò èç òî÷åê: D = {d0 , d1 }.
Äëÿ âûáîðà îäíîãî èç ðåøåíèé ìû íàáëþäàåì ñëó÷àéíóþ âûáîðêó X (n)
èç íåêîòîðîãî ðàñïðåäåëåíèÿ P θ , çíà÷åíèå ïàðàìåòðà θ êîòîðîãî íàì íåèçâåñòíî. Ïóñòü Θ îáëàñòü âîçìîæíûõ çíà÷åíèé θ, êîòîðóþ ìû íàçâàëè
ïàðàìåòðè÷åñêèì ïðîñòðàíñòâîì.  ñîîòâåòñòâèè ñ ïðèíÿòîé íàìè â 1
èäåîëîãèåé ñòàòèñòè÷åñêîãî âûâîäà ìû ñîïîñòàâëÿåì êàæäîìó ðåøåíèþ
d ∈ D îïðåäåëåííîå ïîäìíîæåñòâî Θd ïðîñòðàíñòâà Θ, òî åñòü èíòåðïðåòèðóåì êàæäîå ðåøåíèå â òåðìèíàõ âûñêàçûâàíèé îá èñòèííîì çíà÷åíèè
227
ïàðàìåòðà θ.  íàøåé ñòàòèñòè÷åñêîé ïðîáëåìå âûáîðà îäíîãî èç äâóõ ðåøåíèé ïîëîæèì Θi = Θdi , i = 0, 1, è ââåäåì ðÿä ïîíÿòèé è îïðåäåëåíèé,
èñïîëüçóåìûõ ïðè ðåøåíèè ýòîé ïðîáëåìû.
Óòâåðæäåíèå H0 : θ ∈ Θ0 íàçûâàåòñÿ íóëåâîé ãèïîòåçîé, à óòâåðæäåíèå H1 : θ ∈ Θ1 àëüòåðíàòèâíîé ãèïîòåçîé èëè (êîðîòêî) àëüòåðíàòèâîé. Ãèïîòåçà Hi íàçûâàåòñÿ ïðîñòîé, åñëè ñîîòâåòñòâóþùåå Θi ñîñòîèò
èç îäíîé òî÷êè ïàðàìåòðè÷åñêîãî ïðîñòðàíñòâà Θ; â ïðîòèâíîì ñëó÷àå Hi
íàçûâàåòñÿ ñëîæíîé ãèïîòåçîé; i = 0, 1. Òàê, â ïðèìåðå 1.2 ñ èñïûòàíèåì íîâîãî ëå÷åáíîãî ïðåïàðàòà ïàðàìåòð θ îçíà÷àë âåðîÿòíîñòü óñïåøíîãî
ëå÷åíèÿ êàæäîãî ïàöèåíòà, è íóëåâàÿ ãèïîòåçà H0 : θ = 1/2 î íåéòðàëüíîñòè ïðåïàðàòà åñòü ïðîñòàÿ ãèïîòåçà, â òî âðåìÿ êàê àëüòåðíàòèâíàÿ
ãèïîòåçà H1 : θ > 1/2 îá åãî ýôôåêòèâíîñòè ñëîæíàÿ ãèïîòåçà.
Ïðàâèëî, ïî êîòîðîìó ïðèíèìàåòñÿ èëè îòâåðãàåòñÿ íóëåâàÿ ãèïîòåçà
H0 , íàçûâàåòñÿ êðèòåðèåì. Èíîãäà äîáàâëÿåòñÿ êðèòåðèé ñîãëàñèÿ (ñ
íóëåâîé ãèïîòåçîé), îñîáåííî, êîãäà àëüòåðíàòèâà H1 îïðåäåëåíà íå ñîâñåì
÷åòêî è ïîä H1 ïîäðàçóìåâàåòñÿ âñå îñòàëüíîå .  ñëó÷àå ïîëíîãî ðàâíîïðàâèÿ ãèïîòåç ãîâîðÿò î êðèòåðèè ðàçëè÷åíèÿ ãèïîòåç. Êðèòåðèé îïðåäåëÿåòñÿ çàäàíèåì îñîáîãî ïîäìíîæåñòâà S âûáîðî÷íîãî ïðîñòðàíñòâà Xn ,
êîòîðîå íàçûâàåòñÿ êðèòè÷åñêîé îáëàñòüþ: åñëè âûáîðî÷íûå äàííûå x(n)
ïîïàäàþò â ýòó îáëàñòü, òî íóëåâàÿ ãèïîòåçà H0 îòêëîíÿåòñÿ è ïðèíèìàåòñÿ
àëüòåðíàòèâíîå ðåøåíèå ñïðàâåäëèâà H1 . Îáëàñòü A = S c = Xn \ S íàçûâàåòñÿ îáëàñòüþ ïðèíÿòèÿ íóëåâîé ãèïîòåçû. Íàì áóäåò óäîáíî ïðîâîäèòü ñïåöèôèêàöèþ êðèòè÷åñêîé îáëàñòè â âèäå åå èíäèêàòîðíîé ôóíêöèè
ϕ = ϕ(X (n) ), êîòîðàÿ íàçûâàåòñÿ êðèòè÷åñêîé ôóíêöèåé èëè, ïîñêîëüêó
îíà îïðåäåëÿåò ñòàòèñòè÷åñêîå ïðàâèëî ïðîâåðêè ãèïîòåçû, ïðîñòî êðèòåðèåì. Èòàê, ôóíêöèÿ ϕ(X (n) ) åñòü áèíàðíàÿ ñëó÷àéíàÿ âåëè÷èíà, ïðèíèìàþùàÿ çíà÷åíèå 1, åñëè ïðîèçîøëî ñîáûòèå X (n) ∈ S, è çíà÷åíèå 0, åñëè
ïðîèçîøëî ïðîòèâîïîëîæíîå ñîáûòèå X (n) ∈ A. Ïîíÿòíî, ÷òî ìàòåìàòè÷åñêîå îæèäàíèå Eϕ(X (n) ) îçíà÷àåò âåðîÿòíîñòü îòêëîíåíèÿ ãèïîòåçû H0 .
 ðàññìàòðèâàåìîé ñòàòèñòè÷åñêîé ïðîáëåìå âåëè÷èíà ðèñêà, ñâÿçàííàÿ
ñ îòêëîíåíèåì âåðíîé ãèïîòåçû, îáû÷íî ñîîòíîñèòñÿ ñ ôóíêöèåé ïîòåðü òèïà 1 0: ïîòåðè ñ÷èòàþòñÿ ðàâíûìè 1, åñëè ïðèíÿòà ãèïîòåçà Hi , à â äåéñòâèòåëüíîñòè θ ∈ Θ1−i , i = 0, 1; åñëè æå ïðèíÿòà Hi è θ ∈ Θi , i = 0, 1, òî
ïîòåðè ïîëàãàþòñÿ ðàâíûìè íóëþ. Ëåãêî âèäåòü, ÷òî âåëè÷èíà ðèñêà ïðè
ëþáîì çíà÷åíèè ïàðàìåòðà θ ìîæåò áûòü îïðåäåëåíà ñ ïîìîùüþ ôóíêöèè
m(θ) = Eθ ϕ(X (n) ) = Pθ (X (n) ∈ S), êîòîðàÿ íàçûâàåòñÿ ôóíêöèåé ìîùíîñòè êðèòåðèÿ ϕ. Ýòà ôóíêöèÿ óêàçûâàåò, êàê ÷àñòî ìû îòêëîíÿåì íóëåâóþ
228
ãèïîòåçó, êîãäà θ èñòèííîå çíà÷åíèå ïàðàìåòðà, è õîðîøèì ñëåäóåò ñ÷èòàòü òîò êðèòåðèé, ó êîòîðîãî ôóíêöèÿ m(θ) ïðèíèìàåò áëèçêèå ê íóëþ
çíà÷åíèÿ â îáëàñòè Θ0 è áëèçêèå ê åäèíèöå â îáëàñòè Θ1 .  ñâÿçè ñ
ýòèì ââîäÿòñÿ äâå êîìïîíåíòû ôóíêöèè ðèñêà: α(θ) = m(θ) ïðè θ ∈ Θ0
è β(θ) = 1 − m(θ) ïðè θ ∈ Θ1 . Ôóíêöèÿ α(θ), θ ∈ Θ0 íàçûâàåòñÿ âåðîÿòíîñòüþ îøèáêè ïåðâîãî ðîäà îíà óêàçûâàåò îòíîñèòåëüíóþ ÷àñòîòó
îòêëîíåíèÿ ãèïîòåçû H0 , êîãäà îíà â äåéñòâèòåëüíîñòè âåðíà (θ ∈ Θ0 ).
Ôóíêöèÿ β(θ), θ ∈ Θ1 íàçûâàåòñÿ âåðîÿòíîñòüþ îøèáêè âòîðîãî ðîäà
îíà óêàçûâàåò îòíîñèòåëüíóþ ÷àñòîòó ïðèíÿòèÿ ãèïîòåçû H0 , êîãäà îíà
ëîæíà (âåðíà àëüòåðíàòèâíàÿ ãèïîòåçà H1 : θ ∈ Θ1 ). Çàìåòèì, ÷òî ôóíêöèÿ ìîùíîñòè m(θ) â îáëàñòè Θ1 òðàêòóåòñÿ êàê âåðîÿòíîñòü îòêëîíåíèÿ
ãèïîòåçû H0 , êîãäà â äåéñòâèòåëüíîñòè âûáîð èäåò èç ðàñïðåäåëåíèÿ ñ
àëüòåðíàòèâíûì çíà÷åíèåì θ ∈ Θ1 , è ïîýòîìó ÷àñòü m(θ) ïðè θ ∈ Θ1 íàçûâàåòñÿ ìîùíîñòüþ êðèòåðèÿ ϕ.
Ëåãêî ïîíÿòü, ÷òî ïðè ôèêñèðîâàííîì îáúåìå íàáëþäåíèé n íåâîçìîæíî îäíîâðåìåííî ìèíèìèçèðîâàòü âåðîÿòíîñòè îáåèõ îøèáîê, äëÿ óìåíüøåíèÿ âåðîÿòíîñòè îøèáêè ïåðâîãî ðîäà α(θ) = Pθ (X (n) ∈ S), θ ∈ Θ0 ,
íåîáõîäèìî óìåíüøèòü êðèòè÷åñêóþ îáëàñòü S, ÷òî ïðèâåäåò ê óâåëè÷åíèþ îáëàñòè A ïðèíÿòèÿ íóëåâîé ãèïîòåçû è, ñëåäîâàòåëüíî, ê óâåëè÷åíèþ âåðîÿòíîñòè îøèáêè âòîðîãî ðîäà β(u) = Pu (X (n) ∈ A), u ∈ Θ1 . Çäåñü
âîçíèêàåò òàêàÿ æå ñèòóàöèÿ, ÷òî è â ïðîáëåìå ïîñòðîåíèÿ îöåíêè ïàðàìåòðà θ ñ ðàâíîìåðíî ìèíèìàëüíûì ðèñêîì, òàêèå îöåíêè ñóùåñòâóþò
òîëüêî â îïðåäåëåííîì êëàññå ñòàòèñòè÷åñêèõ ïðàâèë, íàïðèìåð, â êëàññå íåñìåùåííûõ îöåíîê. Îäíàêî, äàæå è ïîìèìî çàäà÷è ïðîâåðêè ãèïîòåç
ñ ìèíèìàëüíîé âåðîÿòíîñòüþ îøèáêè, è íàìíîãî ðàíüøå ñîçäàíèÿ îáùåé
òåîðèè íàèáîëåå ìîùíûõ êðèòåðèåâ â ñòàòèñòè÷åñêîé ïðàêòèêå ñëîæèëñÿ
ñëåäóþùèé ïîäõîä ê óïðàâëåíèþ ðèñêîì êðèòåðèÿ.
Ïðåäïîëîæèì, ÷òî îòêëîíåíèå ãèïîòåçû H0 , êîãäà îíà â äåéñòâèòåëüíîñòè âåðíà, ïðèâîäèò ê áîëåå òÿæêèì ïîñëåäñòâèÿì, ÷åì åå ïðèíÿòèå ïðè
ñïðàâåäëèâîñòè àëüòåðíàòèâû.  òàêîì ñëó÷àå ìû çàèíòåðåñîâàíû â ïåðâóþ î÷åðåäü êîíòðîëèðîâàòü âåðîÿòíîñòü îøèáêè ïåðâîãî ðîäà. Ñ ýòîé öåëüþ çàðàíåå ôèêñèðóåòñÿ (âûáèðàåòñÿ) íåêîòîðûé óðîâåíü α, âûøå êîòîðîãî âåðîÿòíîñòü îøèáêè ïåðâîãî ðîäà íå äîïóñòèìà, è êðèòè÷åñêàÿ îáëàñòü
S (êðèòåðèé ϕ) îïðåäåëÿåòñÿ òàêèì îáðàçîì, ÷òî α(θ) ≤ α, êàêîâî áû íè
áûëî θ ∈ Θ0 . Ýòî îãðàíè÷åíèå α íà âåðîÿòíîñòü îøèáêè ïåðâîãî ðîäà íàçûâàåòñÿ óðîâíåì çíà÷èìîñòè, à ñàì êðèòåðèé ϕ, äëÿ êîòîðîãî âûïîëíÿåòñÿ
ýòî îãðàíè÷åíèå, êðèòåðèåì óðîâíÿ α. Íàèáîëüøåå çíà÷åíèå âåðîÿòíîñòè
229
îøèáêè ïåðâîãî ðîäà
α = sup α(θ)
θ∈Θ0
íàçûâàåòñÿ ðàçìåðîì êðèòåðèÿ ϕ, è åñëè α = α, òî ãîâîðÿò î êðèòåðèè ϕ
ðàçìåðà α.
 ýòîì âûáîðå îãðàíè÷åíèÿ èìåííî íà âåðîÿòíîñòü îøèáêè ïåðâîãî, à íå
âòîðîãî ðîäà ïðîÿâëÿåòñÿ òèïè÷íàÿ àñèììåòðèÿ â ïðàêòè÷åñêîé öåííîñòè
ãèïîòåçû è àëüòåðíàòèâû. Íàïðèìåð, åñëè ïðîâåðÿåòñÿ ýôôåêòèâíîñòü íîâîãî ëåêàðñòâåííîãî ïðåïàðàòà, òî íóëåâîé ãèïîòåçå äîëæíî ñîîòâåòñòâîâàòü ðåøåíèå î åãî íåýôôåêòèâíîñòè, èáî, îòêëîíèâ ýòó ãèïîòåçó, êîãäà
îíà âåðíà, ìû âíåäðèì â ëå÷åáíóþ ïðàêòèêó áåñïîëåçíîå èëè âðåäíîå ëåêàðñòâî, ÷òî ïðèâåäåò ê áîëåå òÿæêèì ïîñëåäñòâèÿì, ÷åì îòêëîíåíèå â
äåéñòâèòåëüíîñòè ýôôåêòèâíîãî ïðåïàðàòà. Íî åñëè ìû èùåì çîëîòî, àíàëèçèðóÿ ñîñòàâ êåðíîâ ïðè áóðåíèè ïðåäïîëàãàåìîãî ìåñòîðîæäåíèÿ, òî
åñòåñòâåííî ïðèíÿòü çà íóëåâóþ ãèïîòåçó óòâåðæäåíèå î íàëè÷èè çîëîòà,
èáî îòêëîíèâ åå, êîãäà îíà âåðíà, ìû ïîòåðÿåì íàìíîãî áîëüøå, ÷åì ñòîèìîñòü íåñêîëüêèõ äîïîëíèòåëüíûõ àíàëèçîâ, óäîñòîâåðÿþùèõ, ÷òî çîëîòî
â ðàçáóðåííîé ìåñòíîñòè îòñóòñòâóåò.
Ñëåäóåò òàêæå îáðàòèòü îñîáîå âíèìàíèå íà îáùóþ ìåòîäîëîãèþ ïðîâåðêè ãèïîòåç, îòðàæàåìóþ â âûáîðå ìàëîãî çíà÷åíèÿ óðîâíÿ α. Åñëè íàøè
âûáîðî÷íûå äàííûå ïîïàäàþò â îáëàñòü S ñ èñêëþ÷èòåëüíî ìàëîé âåðîÿòíîñòüþ, òî åñòåñòâåííî ïðåäïîëîæèòü, ÷òî òî óòâåðæäåíèå, êîòîðîå ïðèâåëî ê ýòîìó ìàëîâåðîÿòíîìó ñîáûòèþ, íå ñîîòâåòñòâóåò èñòèíå è îòêëîíèòü
åãî. Ïîñòóïàÿ òàêèì îáðàçîì, ìû áóäåì òåðÿòü â äåéñòâèòåëüíîñòè âåðíóþ
ãèïîòåçó H0 êðàéíå ðåäêî íå áîëåå, ÷åì â 100α% ñëó÷àåâ.
Ïðîñòåéøèé ìåòîä ïîñòðîåíèÿ êðèòåðèåâ çíà÷èìîñòè ñîñòîèò â èñïîëüçîâàíèè ñîñòîÿòåëüíûõ îöåíîê òåñòèðóåìîãî ïàðàìåòðà θ. Ðàññìîòðèì ïðîñòåéøèé ñëó÷àé: θ ñêàëÿðíûé ïàðàìåòð, âåðîÿòíîñòíàÿ ìîäåëü íå ñîäåðæèò äðóãèõ (ìåøàþùèõ) ïàðàìåòðîâ è ïðîâåðÿåòñÿ ïðîñòàÿ ãèïîòåçà
H0 : θ = θ0 ïðè àëüòåðíàòèâå H1 : θ 6= θ0 , ãäå θ0 íåêîòîðîå, àïðèîðè
ôèêñèðîâàííîå çíà÷åíèå ïàðàìåòðà θ (íàïðèìåð, â îïûòàõ Ìåíäåëÿ ïðîâåðÿåòñÿ ãèïîòåçà: âåðîÿòíîñòü θ íàñëåäîâàíèÿ äîìèíàíòíîãî ïðèçíàêà ðàâíà
θ0 = 3/4). Åñëè θ̂n = θ̂n (X (n) ) ñîñòîÿòåëüíàÿ îöåíêà θ, äèñïåðñèÿ êîòîðîé
√
ñòðåìèòñÿ ê íóëþ ïðè n → ∞ êàê O(1/ n), òî åñòåñòâåííî îïðåäåëèòü êðè√
òè÷åñêóþ îáëàñòü ïîñðåäñòâîì íåðàâåíñòâà n| θ̂n (X (n) )−θ0 | > C. Âåðîÿò√
íîñòü îøèáêè ïåðâîãî ðîäà òàêîãî êðèòåðèÿ α(θ0 , C) = P θ0 ( n| θ̂n (X (n) ) −
θ0 | > C), è ïðèðàâíèâàÿ ýòó âåðîÿòíîñòü çàäàííîìó óðîâíþ çíà÷èìîñòè α,
230
íàõîäèì êðèòè÷åñêóþ êîíñòàíòó C = C(α) êàê êâàíòèëü ðàñïðåäåëåíèÿ
√
ñëó÷àéíîé âåëè÷èíû n| θ̂n (X (n) ) − θ0 |; òàêîé âûáîð C ïðèâîäèò ê êðèòåðèþ óðîâíÿ α. Åñëè θ (6= θ0 ) íåêîòîðîå àëüòåðíàòèâíîå çíà÷åíèå ïàðàìåò√
ðà, òî, â ñèëó ñîñòîÿòåëüíîñòè îöåíêè, n| θ̂n (X (n) )−θ0 | → ∞, è ïîýòîìó âå-
P
√
(n)
ðîÿòíîñòü îøèáêè âòîðîãî ðîäà β(θ) = Pθ ( n| θ̂n (X ) − θ0 | ≤ C(α)) → 0,
êîãäà n → ∞. Òàêèì îáðàçîì, ìû ïîëó÷àåì êðèòåðèé çàäàííîãî óðîâíÿ
α, îáëàäàþùèé ê òîìó æå ñâîéñòâîì ñîñòîÿòåëüíîñòè åãî âåðîÿòíîñòü
îøèáêè âòîðîãî ðîäà ñòðåìèòñÿ ê íóëþ ïðè íåîãðàíè÷åííîì âîçðàñòàíèè
îáúåìà âûáîðêè n.
Ñôîðìóëèðóåì òåïåðü îñíîâíóþ çàäà÷ó òåîðèè ñòàòèñòè÷åñêîé ïðîâåðêè ãèïîòåç: òðåáóåòñÿ íàéòè òàêîé êðèòåðèé ϕ óðîâíÿ α, êîòîðûé ðàâíîìåðíî ïî âñåì θ ∈ Θ1 ìàêñèìèçèðóåò ìîùíîñòü m(θ) èëè, ÷òî òî æå,
ðàâíîìåðíî ïî θ ∈ Θ1 ìèíèìèçèðóåò âåðîÿòíîñòü îøèáêè âòîðîãî ðîäà
β(θ). Ìû óêàæåì ìåòîä ïîñòðîåíèÿ òàêèõ ðàâíîìåðíî íàèáîëåå ìîùíûõ
êðèòåðèåâ çàäàííîãî óðîâíÿ α â ñëåäóþùåì ïàðàãðàôå, à ïîêà îáðàòèìñÿ
ê èëëþñòðàöèÿì ââåäåííûõ ïîíÿòèé è ïîñòðîåíèþ íàèáîëåå ÷àñòî èñïîëüçóåìûõ íà ïðàêòèêå êðèòåðèåâ, êàñàþùèõñÿ ïðîâåðêè ãèïîòåç î çíà÷åíèÿõ
ïàðàìåòðîâ íîðìàëüíîãî ðàñïðåäåëåíèÿ.
10 . Ïðîâåðêà ãèïîòåçû î âåëè÷èíå ñðåäíåãî çíà÷åíèÿ íîðìàëüíîãî ðàñïðåäåëåíèÿ ïðè èçâåñòíîé äèñïåðñèè. Ðàññìîòðèì
ñíà÷àëà íàèáîëåå ÷àñòî âñòðå÷àþùóþñÿ â ïðàêòè÷åñêèõ ïðèìåíåíèÿõ ìàòåìàòè÷åñêîé ñòàòèñòèêè çàäà÷ó ïðîâåðêè ñëîæíîé ãèïîòåçû H0 : µ ≤ µ0
ïðè ñëîæíîé àëüòåðíàòèâå H1 : µ > µ0 î ñðåäíåì çíà÷åíèè µ íîðìàëüíîãî
2
(µ, σ 2 ) ðàñïðåäåëåíèÿ
Xn ïðè èçâåñòíîì çíà÷åíèè äèñïåðñèè σ . Âûáîðî÷íîå
ñðåäíåå X = n−1
Xk åñòü îïòèìàëüíàÿ îöåíêà íåèçâåñòíîãî çíà÷åíèÿ
1
µ, è ïîýòîìó, â ñîîòâåòñòâèè ñ òîëüêî ÷òî ïðåäëîæåííûì ìåòîäîì ïîñòðîåíèÿ ñîñòîÿòåëüíûõ êðèòåðèåâ, ðàññìîòðèì êðèòåðèé, îòâåðãàþùèé íóëå√
âóþ ãèïîòåçó H0 , êîãäà n(X − µ0 ) > C, èëè, ÷òî òî æå, X > C, ïîñêîëüêó
çíà÷åíèÿ µ0 è n ôèêñèðîâàíû è èçâåñòíû. Ïîñòîÿííàÿ C äîëæíà âûáèðàòüñÿ ïî çàäàííîìó óðîâíþ çíà÷èìîñòè α, îãðàíè÷èâàþùåìó ìàêñèìàëüíîå
çíà÷åíèå âåðîÿòíîñòè îøèáêè ïåðâîãî ðîäà.
Òàê êàê ïðè âûáîðå èç íîðìàëüíîãî (µ, σ 2 ) ðàñïðåäåëåíèÿ ñòàòèñòèêà
X ∼ N (µ, σ 2 /n), òî ôóíêöèÿ ìîùíîñòè ýòîãî êðèòåðèÿ
µ
¶
µ
¶
C − µ√
µ − C√
m(µ) = Pµ (X > C) = 1 − Φ
n =Φ
n .
σ
σ
231
Ëåãêî âèäåòü, ÷òî m(µ) ñòðîãî âîçðàñòàåò ñ ðîñòîì µ, òàê ÷òî ðàçìåð
êðèòåðèÿ
µ
¶
C − µ0 √
n .
µ≤µ0
σ
Ïðèðàâíèâàÿ ðàçìåð êðèòåðèÿ óðîâíþ çíà÷èìîñòè α, íàõîäèì êðèòè÷åñêîå
√
çíà÷åíèå C(α) = µ0 + Φ−1 (1 − α)σ/ n.
Âåðîÿòíîñòü îøèáêè âòîðîãî ðîäà íàøåãî êðèòåðèÿ ðàçìåðà α
µ
¶
C(α) − µ √
β(µ) = Pµ (X ≤ C(α)) = Φ
n =
σ
¶
µ
µ0 − µ √
−1
Φ
n + Φ (1 − α) , µ > µ0 ,
(1)
σ
óáûâàåò ñ ðîñòîì µ ïî ìåðå åå îòõîäà îò ãðàíè÷íîãî çíà÷åíèÿ µ0 . Íàèáîëüøåå çíà÷åíèå β(µ) äîñòèãàåòñÿ â òî÷êå µ = µ0 è ðàâíî 1 − α. Ýòî
çíà÷åíèå íå çàâèñèò îò ðàçìåðà âûáîðêè n, è ïîýòîìó òðåáóþòñÿ äîïîëíèòåëüíûå ñîîáðàæåíèÿ ïðè ïëàíèðîâàíèè îáúåìà íàáëþäåíèé. Îáû÷íî èñïîëüçóåòñÿ ìåòîä ââåäåíèÿ òàê íàçûâàåìîé çîíû áåçðàçëè÷èÿ èíòåðâàëà
(µ0 , µ1 ), êîòîðûé âûáèðàåòñÿ èç òåõ ñîîáðàæåíèé, ÷òî ïðè èñòèííîì çíà÷åíèè µ ∈ (µ0 , µ1 ) ïðèíÿòèå íóëåâîé ãèïîòåçû H0 íå ïðèâîäèò ê ñëèøêîì
òÿæåëûì ïîñëåäñòâèÿì. Îäíàêî ïðè èñòèííîì µ ≥ µ1 âåðîÿòíîñòü ïðèíÿòèÿ H0 äîëæíà áûòü ïîä êîíòðîëåì è íå ïðåâîñõîäèòü íåêîòîðîãî ïðåäïèñàííîãî çíà÷åíèÿ β. Ýòî îáñòîÿòåëüñòâî ïîçâîëÿåò ñïëàíèðîâàòü îáúåì
âûáîðêè n, îïðåäåëèâ åãî èç íåðàâåíñòâà β(µ1 ) ≤ β. Èñïîëüçóÿ ôîðìóëó
(1) äëÿ β(µ), íàõîäèì, ÷òî îáúåì âûáîðêè n = n(α, β, µ0 , µ1 ), íåîáõîäèìûé
äëÿ ðàçëè÷åíèÿ ãèïîòåç µ ≤ µ0 è µ ≥ µ1 ñ çàäàííûìè îãðàíè÷åíèÿìè α
è β íà âåðîÿòíîñòè îøèáîê ïåðâîãî è âòîðîãî ðîäà, ðàâåí íàèìåíüøåìó
öåëîìó n, óäîâëåòâîðÿþùåìó íåðàâåíñòâó
£ −1
¤2
Φ (1 − α) + Φ−1 (1 − β)
n≥
σ2.
2
(µ1 − µ0 )
α = max m(µ) = m(µ0 ) = 1 − Φ
Àíàëîãè÷íûì ìåòîäîì ñòðîèòñÿ êðèòåðèé äëÿ ïðîâåðêè ïðîñòîé ãèïîòåçû H0 : µ = µ0 ïðè ñëîæíîé àëüòåðíàòèâå H1 : µ 6= µ0 .  ýòîé çàäà÷å åñòåñòâåííî îïðåäåëèòü êðèòè÷åñêóþ îáëàñòü ïîñðåäñòâîì íåðàâåíñòâà
| X − µ0 | > C. Ôóíêöèÿ ìîùíîñòè òàêîãî êðèòåðèÿ
¶
µ
¶¸
−C + µ0 − µ √
C + µ0 − µ √
n −Φ
n
m(µ) = 1 − Φ
σ
σ
·
µ
232
ñòðîãî óáûâàåò ïðè µ < µ0 , âîçðàñòàåò ïðè µ > µ0 è ïðè µ = µ0 ðàâíà
âåðîÿòíîñòè îøèáêè ïåðâîãî ðîäà. Òàêèì îáðàçîì, êðèòè÷åñêàÿ êîíñòàíòà
C = C(α) îïðåäåëÿåòñÿ ïî çàäàííîìó óðîâíþ çíà÷èìîñòè α èç óðàâíåíèÿ
¶
µ
¶¸
·
µ
¶¸
−C √
C√
C√
m(µ0 ) = 1 − Φ
n −Φ
n
=2 1−Φ
n
= 1 − α,
σ
σ
σ
√
îòêóäà C(α) = Φ−1 (1 − α/2)σ/ n.
·
µ
Ëåêöèÿ 12
20 . Ïðîâåðêà ãèïîòåçû î âåëè÷èíå äèñïåðñèè íîðìàëüíîãî
ðàñïðåäåëåíèÿ ïðè íåèçâåñòíîì ñðåäíåì çíà÷åíèè. Ýòî òèïè÷íàÿ çàäà÷à êîíòðîëÿ çà âåëè÷èíîé ñëó÷àéíîé îøèáêè â ïàðàëëåëüíûõ íàáëþäåíèÿõ íåêîòîðîé õàðàêòåðèñòèêè èññëåäóåìîãî îáúåêòà. Òàê êàê ïðåâûøåíèå õàðàêòåðèñòèêè ñëó÷àéíîé ïîãðåøíîñòè σ íàä íåêîòîðûì íîìèíàëîì σ0 â ñëó÷àå, êîãäà ìû óòâåðæäàåì σ ≤ σ0 , âëå÷åò áîëåå ñåðüåçíûå
ïîñëåäñòâèÿ, ÷åì íåîïðàâäàííûå ïðåòåíçèè ê ñëèøêîì áîëüøîìó ðàçáðîñó
â äàííûõ, òî ñëåäóåò ïðèíÿòü çà íóëåâóþ ãèïîòåçó σ > σ0 . Ïðîâåðêà ýòîé
ãèïîòåçû ïðîâîäèòñÿ ïðè åñòåñòâåííîé àëüòåðíàòèâå H1 : σ ≤ σ0 , ïðè÷åì ìû íå çíàåì çíà÷åíèÿ ìåøàþùåãî ïàðàìåòðà µ ñðåäíåãî çíà÷åíèÿ
íîðìàëüíîãî ðàñïðåäåëåíèÿ, èç êîòîðîãî ïðîèçâîäèòñÿX
âûáîð.
n
2
−1
Êàê íàì èçâåñòíî, âûáîðî÷íàÿ äèñïåðñèÿ S = n
(Xk − X)2 åñòü
1
ñîñòîÿòåëüíàÿ îöåíêà σ 2 , åå ðàñïðåäåëåíèå íå çàâèñèò îò µ, à ñëó÷àéíàÿ
âåëè÷èíà nS 2 /σ 2 èìååò õè-êâàäðàò ðàñïðåäåëåíèå ñ n−1 ñòåïåíüþ ñâîáîäû.
Òàêèì îáðàçîì, ðàçóìíî ðàññìîòðåòü êðèòåðèé ñ êðèòè÷åñêîé îáëàñòüþ
nS 2 < C. Ôóíêöèÿ ìîùíîñòè òàêîãî êðèòåðèÿ
µ 2
¶
µ ¶
C
C
nS
≤
=
K
m(σ) = Pµ,σ
n−1
σ2
σ2
σ2
ìîíîòîííî óáûâàåò ñ ðîñòîì σ, ïîýòîìó íàèáîëüøåå çíà÷åíèå âåðîÿòíîñòè
îøèáêè ïåðâîãî ðîäà äîñòèãàåòñÿ ïðè σ = σ0 , è êðèòè÷åñêîå çíà÷åíèå
C(α)
¡ −2
¢
êðèòåðèÿ òðåáóåìîãî ðàçìåðà α îïðåäåëÿåòñÿ èç óðàâíåíèÿ Kn−1 Cσ0 =
−1
α. Èòàê, C(α) = σ02 Kn−1
(α); âåðîÿòíîñòü îøèáêè âòîðîãî ðîäà
¡
¢
β(σ) = Pµ,σ nS 2 > C(α) = 1 − Kn−1
µ
¶
σ02 −1
K (α) , σ ≤ σ0 ,
σ 2 n−1
ìîíîòîííî óáûâàåò ïî ìåðå îòõîäà èñòèííîãî çíà÷åíèÿ σ îò íîìèíàëà σ0 .
233
30 . Ïðîâåðêà ãèïîòåçû î âåëè÷èíå ñðåäíåãî çíà÷åíèÿ íîðìàëüíîãî ðàñïðåäåëåíèÿ ïðè íåèçâåñòíîé äèñïåðñèè (îäíîâûáîðî÷íûé êðèòåðèé Ñòüþäåíòà). Âû, íàâåðíîå, îáðàòèëè âíèìà-
íèå, ÷òî ïðè ïîñòðîåíèè êðèòåðèåâ çíà÷èìîñòè ìû ïî ñóùåñòâó èñïîëüçóåì ìåòîäû ïîñòðîåíèÿ äîâåðèòåëüíûõ ìíîæåñòâ? Ýòî, äåéñòâèòåëüíî, òàê
ìåæäó çàäà÷àìè äîâåðèòåëüíîé îöåíêè è ïðîâåðêè ãèïîòåç ñóùåñòâóåò
ìíîãî îáùåãî, è, ðåøèâ îäíó çàäà÷ó, ìû ñðàçó æå ïîëó÷àåì ðåøåíèå äðóãîé.  êîíöå ýòîãî ïàðàãðàôà ìû ôîðìàëèçóåì ýòîò ïàðàëëåëèçì, à ïîêà
áóäåì èñïîëüçîâàòü åãî íà èíòóèòèâíîì óðîâíå: ïðåäëàãàåòñÿ èñïîëüçîâàòü
äëÿ ïðîâåðêè ãèïîòåç î ñðåäíåì çíà÷åíèè íîðìàëüíîãî ðàñïðåäåëåíèÿ ñòàòèñòèêó Ñòüþäåíòà.
Ðàññìîòðèì ñíà÷àëà çàäà÷ó ïðîâåðêè ñëîæíîé ãèïîòåçû H0 : µ ≤ µ0
ïðè ñëîæíîé àëüòåðíàòèâå H1 : µ > µ0 . Òàê êàê âûáîðî÷íîå ñðåäíåå X
åñòü ñîñòîÿòåëüíàÿ îöåíêà çíà÷åíèÿ µ, òî ñòàòèñòèêà Ñòüþäåíòà
T =
X − µ0 √
n−1
S
îïîñðåäñòâåííî, ÷åðåç âûáîðî÷íûå äàííûå, õàðàêòåðèçóåò óäàëåííîñòü èñòèííîãî ñðåäíåãî çíà÷åíèÿ µ îò ãðàíèöû µ0 , ðàçäåëÿþùåé ãèïîòåçó è àëòåðíàòèâó. Ïîýòîìó ïðåäëàãàåòñÿ îòâåðãàòü íóëåâóþ ãèïîòåçó µ ≤ µ0 , åñëè T > C, âûáèðàÿ C, êàê îáû÷íî, ïî çàäàííîìó óðîâíþ çíà÷èìîñòè α.
Äëÿ ðåøåíèÿ ïîñëåäíåé çàäà÷è íåîáõîäèìî èññëåäîâàòü ïîâåäåíèå ôóíêöèè ìîùíîñòè m(µ; σ) = Pµ,σ (T > C) êðèòåðèÿ T > C. Åñëè ìû ïîêàæåì, ÷òî m(µ; σ) åñòü ìîíîòîííî âîçðàñòàþùàÿ ôóíêöèÿ àðãóìåíòà µ
ïðè ëþáîì ôèêñèðîâàííîì çíà÷åíèè àðãóìåíòà σ, òî íàèáîëüøåå çíà÷åíèå
âåðîÿòíîñòè îøèáêè ïåðâîãî ðîäà α(µ; σ) = m(µ : σ), µ ≤ µ0 ïðè êàæäîì ôèêñèðîâàííîì σ áóäåò äîñòèãàòüñÿ â òî÷êå µ = µ0 . Ñëåäîâàòåëüíî,
ðàçìåð êðèòåðèÿ â òàêîì ñëó÷àå áóäåò ðàâåí (ñì. ïóíêò 40 ïðåäûäóùåãî
ïàðàãðàôà) α = m(µ0 ; σ) = Pµ0 ,σ (T > C) = 1 − Sn−1 (C), ãäå Sν (·) ôóíêöèÿ ðàñïðåäåëåíèÿ Ñòüþäåíòà ñ ν ñòåïåíÿìè ñâîáîäû. Òàêèì îáðàçîì, ìû
ïîëó÷èì ñâîáîäíûé îò íåèçâåñòíîãî çíà÷åíèÿ σ êðèòåðèé T > C(α) òðå−1
áóåìîãî ðàçìåðà α ñ êðèòè÷åñêîé êîíñòàíòîé C(α) = Sn−1
(1 − α). Ýòî
è åñòü òî ñòàòèñòè÷åñêîå ïðàâèëî, êîòîðîå îáû÷íî íàçûâàåòñÿ êðèòåðèåì
Ñòüþäåíòà èëè t-êðèòåðèåì.
Ïîêàæåì òåïåðü, ÷òî âåðîÿòíîñòü (ôóíêöèÿ ìîùíîñòè) Pµ,σ (T > C)
ìîíîòîííî âîçðàñòàåò ñ ðîñòîì µ ïðè ëþáûõ ôèêñèðîâàííûõ çíà÷åíèÿõ σ
234
è C. Ñ ýòîé öåëüþ ïðåäñòàâèì ñòàòèñòèêó T â ñëåäóþùåì âèäå:
T =
X − µ√
µ − µ0 σ √
n−1+
·
n − 1.
S
σ
S
Åñëè µ ñðåäíåå çíà÷åíèå íîðìàëüíîãî ðàñïðåäåëåíèÿ, èç êîòîðîãî ïðîèñõîäèò âûáîð, òî ïåðâîå ñëàãàåìîå â ýòîì ïðåäñòàâëåíèè åñòü ñòüþäåíòîâñêàÿ ñëó÷àéíàÿ âåëè÷èíà ñ n − 1 ñòåïåíüþ ñâîáîäû. Âòîðîå
√ ñëàãàåìîå åñòü
ïðîèçâåäåíèå ïàðàìåòðè÷åñêîé ôóíêöèè ∆(µ) = (µ − µ0 ) n − 1/σ íà ïîëîæèòåëüíóþ ñëó÷àéíóþ âåëè÷èíó σ/S, ðàñïðåäåëåíèå êîòîðîé íå çàâèñèò
îò µ è σ. Ïðè ôèêñèðîâàííîì σ ôóíêöèÿ ∆(µ) âîçðàñòàåò ñ ðîñòîì µ è ïðè
ýòîì âñå âòîðîå ñëàãàåìîå âîçðàñòàåò, ÷òî âëå÷åò óâåëè÷åíèå âåðîÿòíîñòè
ñîáûòèÿ ïåðåñêîêà ñòàòèñòèêîé T ïîðîãà C, òî åñòü âåðîÿòíîñòè ñîáûòèÿ
T > C.
Èòàê, ìû ïîñòðîèëè êðèòåðèé ïðîâåðêè îäíîñòîðîííåé ãèïîòåçû µ ≤ µ0
ïðè îäíîñòîðîííåé àëüòåðíàòèâå µ > µ0 . Ôóíêöèÿ ìîùíîñòè ýòîãî êðèòåðèÿ çàâèñèò
îò µ è σ òîëüêî ÷åðåç ïàðàìåòðè÷åñêóþ ôóíêöèþ ∆ =
√
(µ−µ0 ) n − 1/σ, êîòîðàÿ íàçûâàåòñÿ
√ïàðàìåòðîì íåöåíòðàëüíîñòè. Ðàñïðåäåëåíèå ñòàòèñòèêè T = (X − µ0 ) n − 1/S ïðè ïðîèçâîëüíûõ µ è σ, ÷åðåç êîòîðîå âûðàæàåòñÿ ôóíêöèÿ ìîùíîñòè êðèòåðèÿ Ñòüþäåíòà, íàçûâàåòñÿ íåöåíòðàëüíûì ðàñïðåäåëåíèåì Ñòüþäåíòà ñ n − 1 ñòåïåíüþ ñâîáîäû;
òàáëèöû ýòîãî ðàñïðåäåëåíèÿ, çàâèñÿùåãî îò ïàðàìåòðà íåöåíòðàëüíîñòè
∆, ìîæíî íàéòè â ÒÌÑ.
Ïîíÿòíî, ÷òî ïîñòðîåíèå êðèòåðèÿ ïðîâåðêè ïðîñòîé ãèïîòåçû µ = µ0
ïðè äâóñòîðîííåé (ñëîæíîé) àëüòåðíàòèâå µ 6= µ0 íå âûçûâàåò ïðèíöèïèàëüíûõ çàòðóäíåíèé. Ýòî êðèòåðèé ñ êðèòè÷åñêîé îáëàñòüþ | T | > C, ãäå
−1
êðèòè÷åñêàÿ êîíñòàíòà C = C(α) = Sn−1
(1 − α/2).
40 . Ñðàâíåíèå ñðåäíèõ çíà÷åíèé äâóõ íîðìàëüíûõ ðàñïðåäåëåíèé ñ îáùåé íåèçâåñòíîé äèñïåðñèåé (äâóõâûáîðî÷íûé
êðèòåðèé Ñòüþäåíòà). Ïóñòü
X è Y íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, ïðè÷åì X ∼ N (µ1 , σ ), à Y ∼ N (µ2 , σ 2 ), òàê ÷òî DX = DY. Ïî
äâóì íåçàâèñèìûì âûáîðêàì X (n) = (X1 , . . . , Xn ) è Y (m) = (Y1 , . . . , Ym )
(âîçìîæíî, ðàçíîãî îáúåìà) òðåáóåòñÿ ïðîâåðèòü ãèïîòåçó îäíîðîäíîñòè
H0 : µ1 = µ2 ïðè àëüòåðíàòèâå H1 : µ1 > µ2 . Òèïè÷íûé ïðèìåð òàêîé
çàäà÷è âûÿâëåíèå ýôôåêòà íîâîãî ìåòîäà ëå÷åíèÿ íà ãðóïïå èç n ïàöèåíòîâ ïîñðåäñòâîì ñðàâíåíèÿ ñ êîíòðîëüíîé ãðóïïîé èç m ïàöèåíòîâ,
ëå÷åíèå êîòîðûõ ïðîâîäèòñÿ ïî ñòàðîé ìåòîäèêå.
Ýòà çàäà÷à ÿâëÿåòñÿ äëÿ íàñ íåñêîëüêî íîâîé, ïîñêîëüêó äî ñèõ ïîð ìû
2
235
èìåëè äåëî òîëüêî ñ îäíîé âûáîðêîé. Òåì íå ìåíåå, îíà ñâîäèòñÿ ê òîé, ÷òî
ìû òîëüêî ÷òî ðàññìîòðåëè â 30 , ñ ïîìîùüþ ñëåäóþùèõ ïîñòðîåíèé.
Ðàññìîòðèì ñíà÷àëà ðàçíîñòü âûáîðî÷íûõ ñðåäíèõ X − Y . Ýòà ñòàòèñòèêà èìååò íîðìàëüíîå ðàñïðåäåëåíèå ñî ñðåäíèì E(X − Y ) = µ1 − µ2 è
äèñïåðñèåé D(X − Y ) = DX + DY = σ 2 (n−1 + m−1 ). Ñëåäîâàòåëüíî, ïðè
ñïðàâåäëèâîñòè íóëåâîé ãèïîòåçû µ1 = µ2 ñëó÷àéíàÿ âåëè÷èíà
X −Y
ξ=
σ
r
nm
n+m
èìååò ñòàíäàðòíîå íîðìàëüíîå ðàñïðåäåëåíèå N (0, 1). Äàëåå, íîðìèðî2
âàííûå âûáîðî÷íûå äèñïåðñèè nSX
/σ 2 è mSY2 /σ 2 íåçàâèñèìû è ðàñïðåäåëåíû ïî çàêîíó õè-êâàäðàò ñ n − 1 è m − 1 ñòåïåíÿìè ñâîáîäû ñîîòâåòñòâåííî. Òàê êàê äëÿ õè-êâàäðàò ðàñïðåäåëåíèÿ, êàê ÷àñòíîãî ñëó÷àÿ
ãàììà-ðàñïðåäåëåíèÿ,
èìååò
¡ 2
¢ 2 ìåñòî òåîðåìà ñëîæåíèÿ, òî ñëó÷àéíàÿ âåëè2
÷èíà η = nSX + mSY /σ èìååò õè-êâàäðàò ðàñïðåäåëåíèå ñ n + m − 2
ñòåïåíÿìè ñâîáîäû. Òàêèì îáðàçîì, ìû ïðèõîäèì ê äâóõâûáîðî÷íîé ñòàòèñòèêå Ñòüþäåíòà
Tn,m = p
ξ
X −Y
=p 2
η/(n + m − 2)
nSX + mSY2
r
nm(n + m − 2)
,
n+m
ðàñïðåäåëåíèå êîòîðîé ïðè ñïðàâåäëèâîñòè íóëåâîé ãèïîòåçû åñòü ðàñïðåäåëåíèå Ñòüþäåíòà ñ n + m − 2 ñòåïåíÿìè ñâîáîäû.
Êàê è â ñëó÷àå îäíîâûáîðî÷íîãî êðèòåðèÿ Ñòüþäåíòà â 30 íåòðóäíî
ïîêàçàòü, ÷òî ïðè ëþáûõ ôèêñèðîâàííûõ C è σ ôóíêöèÿ ìîùíîñòè äâóõâûáîðî÷íîãî êðèòåðèÿ Ñòüþäåíòà Tn,m > C åñòü ìîíîòîííî
âîçðàñòàþùàÿ
√
ôóíêöèÿ ïàðàìåòðà íåöåíòðàëüíîñòè ∆ = (µ1 − µ2 ) n + m − 2/σ, òàê ÷òî
êðèòè÷åñêàÿ êîíñòàíòà C îïðåäåëÿåòñÿ ïî çàäàííîìó óðîâíþ çíà÷èìîñòè
èç óðàâíåíèÿ P (Tn,m > C) = 1 − Sn+m−2 (C) = α è ðàâíà êâàíòèëè ðàñïðå−1
äåëåíèÿ Ñòüþäåíòà: C(α) = Sn+m−2
(1 − α). Ïîíÿòíî, ÷òî ïðè àëüòåðíàòèâå
−1
H1 : µ1 6= µ2 êðèòè÷åñêàÿ êîíñòàíòà C(α) = Sn+m−2
(1 − α/2).
Ïðè èñïîëüçîâàíèè ýòîãî êðèòåðèÿ ñëåäóåò îáðàòèòü îñîáîå âíèìàíèå
íà ïðåäïîëîæåíèå î ðàâåíñòâå äèñïåðñèé íàáëþäàåìûõ ñëó÷àéíûõ âåëè2
÷èí: σX
= σY2 . Çàäà÷à ñðàâíåíèÿ ñðåäíèõ äâóõ íîðìàëüíûõ ðàñïðåäåëåíèé
ñ íåðàâíûìè äèñïåðñèÿìè è ñ ãàðàíòèðîâàííûì îãðàíè÷åíèåì α íà âåðîÿòíîñòü îøèáêè ïåðâîãî ðîäà íàçûâàåòñÿ ïðîáëåìîé ÁåðåíñàÔèøåðà.
Èçâåñòíî ëèøü àñèìïòîòè÷åñêîå ðåøåíèå ýòîé ïðîáëåìû ïðè áîëüøèõ n è
m.
236
50 . Ñðàâíåíèå äèñïåðñèé äâóõ íîðìàëüíûõ ðàñïðåäåëåíèé
ïðè íåèçâåñòíûõ ñðåäíèõ (êðèòåðèé Ôèøåðà). Íåçàâèñèìûå âûáîðêè X (n) è Y (m) áåðóòñÿ èç ñîîòâåòñòâóþùèõ íîðìàëüíûõ ðàñïðåäåëåíèé
N (µ1 , σ12 ) è N (µ2 , σ22 ), îòíîñèòåëüíî ïàðàìåòðîâ êîòîðîãî ïðîâåðÿåòñÿ ãèïîòåçà σ12 = σ22 ïðè àëüòåðíàòèâå σ12 > σ22 ñ ìåøàþùèìè ïàðàìåòðàìè µ1 è
µ2 .
 ýòîé çàäà÷å åñòåñòâåííî ðàññìîòðåòü êðèòåðèé, îñíîâàííûé íà ñòàòè2
ñòèêå F = nSX
/mSY2 , êîòîðàÿ ðàñïðåäåëåíà êàê
χ2n−1 σ12
· .
χ2m−1 σ22
Ôóíêöèÿ ìîùíîñòè êðèòåðèÿ F > C (êîòîðûé íàçûâàåòñÿ êðèòåðèåì Ôèøåðà èëè F -êðèòåðèåì)
µ
σ12
m
σ22
µ
¶
= Pµ1 ,µ2 ,σ1 ,σ2 (F > C) = P
χ2n−1
σ22
> C· 2
χ2m−1
σ1
¶
åñòü ìîíîòîííî âîçðàñòàþùàÿ ôóíêöèÿ îòíîøåíèÿ äèñïåðñèé σ12 /σ22 . Äëÿ
åå âû÷èñëåíèÿ íåîáõîäèìî çíàòü ðàñïðåäåëåíèå îòíîøåíèÿ äâóõ íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí, ðàñïðåäåëåííûõ ïî çàêîíó õè-êâàäðàò ñ n − 1
è m − 1 ñòåïåíÿìè ñâîáîäû. Ýòî òàê íàçûâàåìîå ðàñïðåäåëåíèå Ôèøåðà
Fn−1,m−1 , ïëîòíîñòü êîòîðîãî
¡
¢
n−1
Γ n+m−2
x 2 −1
2
fn−1,m−1 (x) = ¡ n−1 ¢ ¡ m−1 ¢ ·
n+m−2 , x > 0,
Γ 2 Γ 2
(x + 1) 2
âû÷èñëÿåòñÿ ñòîëü æå ïðîñòî, êàê ýòî ìû äåëàëè ïðè âûâîäå ðàñïðåäåëåíèÿ
Ñòüþäåíòà. Òàáëèöû ðàñïðåäåëåíèÿ Ôèøåðà ìîæíî íàéòè â ÒÌÑ. Êðèòè÷åñêàÿ êîíñòàíòà C êðèòåðèÿ Ôèøåðà çàäàííîãî ðàçìåðà α îïðåäåëÿåòñÿ
−1
êàê êâàíòèëü ýòîãî ðàñïðåäåëåíèÿ: C(α) = Fn−1,m−1
(1 − α).
Ìû çàâåðøèì èëëþñòðàöèþ ìåòîäîâ ïîñòðîåíèÿ êðèòåðèåâ ñ ïîìîùüþ
ñîñòîÿòåëüíûõ îöåíîê òåñòèðóåìîãî ïàðàìåòðà ïðèìåðîì, â êîòîðîì íå âñåãäà ðàçìåð êðèòåðèÿ ñîâïàäàåò ñ çàäàííûì óðîâíåì çíà÷èìîñòè.
60 . Ïðîâåðêà ãèïîòåçû î âåðîÿòíîñòè óñïåõà â èñïûòàíèÿõ
Áåðíóëëè. Ðàññìîòðèì çàäà÷ó ïðîâåðêè ãèïîòåçû p = p0 ïðîòèâ àëüòåðíàòèâû p < p0 î âåðîÿòíîñòè p óñïåøíîãî èñõîäà â èñïûòàíèÿõ Áåðíóëëè. Ïðèìåð òàêîé çàäà÷è ïðîâåðêà ãèïîòåçû î âåðîÿòíîñòè íàñëåäîâàíèÿ
äîìèíàíòíîãî ïðèçíàêà â îïûòàõ Ìåíäåëÿ, êîãäà àëüòåðíàòèâíàÿ ìîäåëü
237
ïðåäïèñûâàåò ýòîé âåðîÿòíîñòè ìåíüøåå çíà÷åíèå. Ïðåäëàãàåìûé íèæå ìåòîä ðåøåíèÿ ïîçâîëÿåò ñòðîèòü êðèòåðèè ïðîâåðêè òàêîé ãèïîòåçû ïðè àëüòåðíàòèâàõ p > p0 èëè p 6= p0 ïîñðåäñòâîì ïðîñòîé çàìåíû íåðàâåíñòâà,
îïðåäåëÿþùåãî êðèòè÷åñêóþ îáëàñòü, íà îáðàòíîå èëè äâóñòîðîííåå.
Èòàê, åñëè ìû ðàñïîëàãàåì âûáîðêîé X (n) èç äâóõòî÷å÷íîãî ðàñïðåäåëåíèÿ B(1, p), òî îòíîñèòåëüíàÿ ÷àñòîòà óñïåøíûõ èñïûòàíèé (âûáîðî÷íîå
ñðåäíåå) X ÿâëÿåòñÿ íåñìåùåííîé îöåíêîé p ñ ìèíèìàëüíîé äèñïåðñèåé. Â
ñîîòâåòñòâèè ñ ïðåäëîæåííîé âûøå èäåîëîãèåé ïðîâåðêè ãèïîòåç ñ ïîìîùüþ îöåíîê òåñòèðóåìîãî ïàðàìåòðà ìû äîëæíû îòâåðãàòü ãèïîòåçóX
p = p0
n
â ïîëüçó p < p0 , åñëè X − p0 < C. Ïîñêîëüêó ñòàòèñòèêà T = nX =
Xk
1
èìååò áèíîìèàëüíîå ðàñïðåäåëåíèå B(n, p), à çíà÷åíèå p0 çàäàíî, òî äëÿ
âû÷èñëåíèÿ ôóíêöèè ìîùíîñòè óäîáíåå çàïèñàòü êðèòè÷åñêóþ îáëàñòü â
âèäå T < C. Íî ñòàòèñòèêà T ïðèíèìàåò òîëüêî öåëî÷èñëåííûå çíà÷åíèÿ
0, 1, . . . , n, ïîýòîìó áåññìûñëåííî ðàññìàòðèâàòü äðîáíûå çíà÷åíèÿ êðèòè÷åñêèõ êîíñòàíò. Òàêèì îáðàçîì, ìû ïðèõîäèì ê íàèáîëåå óäîáíîé ôîðìå
çàïèñè êðèòè÷åñêîé îáëàñòè â âèäå T < C, ãäå C ïðèíèìàåò çíà÷åíèÿ
1, 2, . . . , n
Ôóíêöèÿ ìîùíîñòè òàêîãî êðèòåðèÿ
m(p) = Pp (T < C) =
C−1
X
pk (1 − p)n−k ,
k=0
è ïîñêîëüêó ïðîâåðÿåòñÿ ïðîñòàÿ ãèïîòåçà, òî êðèòè÷åñêàÿ êîíñòàíòà C
äîëæíà îïðåäåëÿòüñÿ ïî çàäàííîìó óðîâíþ çíà÷èìîñòè α èç íåðàâåíñòâà
m(p0 ) =
C−1
X
p0k (1 − p0 ) n−k ≤ α.
(2)
k=0
Î÷åâèäíî, ÷òî ÷åì áîëüøå C, òåì áîëüøå ìîùíîñòü êðèòåðèÿ, è ïîýòîìó C(α) ñëåäóåò âûáèðàòü êàê íàèáîëüøåå öåëîå ÷èñëî, óäîâëåòâîðÿþùåå
íåðàâåíñòâó (2). Ðàçìåð êðèòåðèÿ ñ òàêèì C(α) íå îáÿçàòåëüíî ðàâåí α,
òàê ÷òî ìû ìîæåì ïîëó÷èòü êðèòåðèé óðîâíÿ α, íî íå ðàçìåðà α (â ïðåäûäóùèõ ïðèìåðàõ ñ òåñòîâûìè ñòàòèñòèêàìè, èìåþùèìè ðàñïðåäåëåíèå
íåïðåðûâíîãî òèïà, ìû èìåëè êðèòåðèè ðàçìåðà α). Áîëåå òîãî, åñëè p0
íàñòîëüêî ìàëî, ÷òî (1 − p0 )n > α, òî íå ñóùåñòâóåò òàêèõ C, ïðè êîòîðûõ
èìååò ìåñòî íåðàâåíñòâî (2).  òàêîì ñëó÷àå ìû äîëæíû ïðèíèìàòü íóëåâóþ ãèïîòåçó ïðè ëþáîì ðåçóëüòàòå ñòàòèñòè÷åñêîãî ýêñïåðèìåíòà, îáåñïå÷èâàÿ òåì ñàìûì íóëåâîé ðàçìåð òàêîãî êðèòåðèÿ óðîâíÿ α00 .
238
Ïðè áîëüøèõ îáúåìàõ âûáîðêè n ìîæíî èñïîëüçîâàòü íîðìàëüíûå àïïðîêñèìàöèè áèíîìèàëüíîãî ðàñïðåäåëåíèÿ, ïîëó÷àÿ òàêèì îáðàçîì êðèòåðèé, ðàçìåð êîòîðîãî àñèìïòîòè÷åñêè (n → ∞) ðàâåí α. Ñòàòèñòèêà T
àñèìïòîòè÷åñêè íîðìàëüíà ñî ñðåäíèì np è äèñïåðñèåé np(1 − p), ïîýòîìó
íåðàâåíñòâî (2) äëÿ îïðåäåëåíèÿ êðèòè÷åñêîé êîíñòàíòû èìååò àñèìïòîòè÷åñêèé àíàëîã
Ã
!
C − np0
p
≤ α,
np0 (1 − p0 )
p
îòêóäà C(α) ≈ np0 − Φ−1 (1 − α)/ np0 (1 − p0 ). Ëåãêî ïîíÿòü, ÷òî òàêîé
ìåòîä ïîñòðîåíèÿ êðèòåðèåâ àñèìïòîòè÷åñêîãî óðîâíÿ α ïðèìåíèì äëÿ ëþáîé êðèòè÷åñêîé îáëàñòè, â çàäàíèè êîòîðîé èñïîëüçóåòñÿ àñèìïòîòè÷åñêè
íîðìàëüíàÿ îöåíêà òåñòèðóåìîãî ïàðàìåòðà (ñì. ïîÿñíåíèÿ â ïðåäûäóùåì
ïàðàãðàôå ïåðåä ïóíêòîì 50 ).
Ýòîò ïðèìåð ïîêàçûâàåò, ÷òî â ñëó÷àå äèñêðåòíûõ ðàñïðåäåëåíèé çàäà÷à
ïîñòðîåíèÿ ðàâíîìåðíî íàèáîëåå ìîùíûõ êðèòåðèåâ çíà÷èòåëüíî óñëîæíÿåòñÿ, ïîñêîëüêó îäèí èç äâóõ êðèòåðèåâ îäíîãî è òîãî æå óðîâíÿ α ìîæåò
èìåòü áîëüøóþ ìîùíîñòü òîëüêî ïîòîìó, ÷òî îí èìååò áîëüøèé ðàçìåð.
Ìû ñòîëêíåìñÿ ñ ýòîé ïðîáëåìîé â ñëåäóþùåì ïàðàãðàôå, íî ñëåäóåò çàìåòèòü, ÷òî ñîâðåìåííàÿ òåîðèÿ íàèáîëåå ìîùíûõ êðèòåðèåâ îáõîäèò ýòîò
íåïðèÿòíûé ìîìåíò çà ñ÷åò ðàñøèðåíèÿ ïîíÿòèÿ ñòàòèñòè÷åñêîãî ïðàâèëà, ââîäÿ òàê íàçûâàåìûå ðàíäîìèçèðîâàííûå êðèòåðèè. Ê ñîæàëåíèþ, ÿ
íå ðàñïîëàãàþ âðåìåíåì ïîçíàêîìèòü âàñ ñ ýòèì çàìå÷àòåëüíûì îáúåêòîì
òåîðèè ñòàòèñòè÷åñêîãî âûâîäà.
Ìû çàêîí÷èì ýòîò ïàðàãðàô, êàê è áûëî îáåùàíî, ôîðìóëèðîâêîé ïðèíöèïà äâîéñòâåííîñòè ìåæäó çàäà÷àìè ïðîâåðêè ãèïîòåç è äîâåðèòåëüíîãî îöåíèâàíèÿ. Ïóñòü A(θ0 ) ⊂ Xn îáëàñòü ïðèíÿòèÿ íåêîòîðîãî êðèòåðèÿ
óðîâíÿ α, òåñòèðóþùåãî ãèïîòåçó H0 : θ = θ0 , è ïóñòü A(θ0 ) îïðåäåëåíà
ïðè ëþáîì θ0 ∈ Θ. Äëÿ êàæäîãî ðåçóëüòàòà x(n) íàáëþäåíèÿ ñëó÷àéíîé âûáîðêè X (n) ââåäåì ïîäìíîæåñòâî ∆(x(n) ) ïàðàìåòðè÷åñêîãî ïðîñòðàíñòâà
Θ, ïîëîæèâ ∆(x(n) ) = {θ : x(n) ∈ A(θ)}. Òîãäà ∆(X (n)¡) åñòü (1 − ¢α)äîâåðèòåëüíîå
ìíîæåñòâî
äëÿ ïàðàìåòðà θ, ïîñêîëüêó Pθ ∆(X (n) ) 3 θ =
¡ (n)
¢
Pθ X ∈ A(θ) ≥ 1 − α.
Íàïðèìåð, êðèòåðèé Ñòüþäåíòà ïðîâåðêè ãèïîòåçû µ = µ0 î ñðåäíåì
çíà÷åíèè íîðìàëüíîãî (µ, σ 2 ) ðàñïðåäåëåíèÿ ñ íåèçâåñòíîé äèñïåðñèåé σ 2
Φ
239
èìååò îáëàñòü ïðèíÿòèÿ (ñì. ï. 30 äàííîãî ïàðàãðàôà)
½
A(µ0 ) =
X
(n)
¾
| X − µ0 | √
−1
:
n − 1 ≤ Sn−1 (1 − α/2) .
S
Ïîäñòàâèì â ýòî íåðàâåíñòâî âìåñòî ôèêñèðîâàííîãî µ0 ïàðàìåòð µ è ðàçðåøèì íåðàâåíñòâî îòíîñèòåëüíî µ.  ðåçóëüòàòå ïîëó÷èì äîâåðèòåëüíîå
óòâåðæäåíèå (ñì. ï. 40 ïðåäûäóùåãî ïàðàãðàôà)
√
√
X − Stα / n − 1 ≤ µ ≤ X + Stα / n − 1,
−1
(1 − α/2).
â êîòîðîì tα = Sn−1
Âû ñàìè ìîæåòå ñîïîñòàâèòü äîâåðèòåëüíûå èíòåðâàëû, ïîñòðîåííûå
â 6, ñ êðèòåðèÿìè èç 7. Ïðè ýòîì ñîïîñòàâëåíèè ìîæíî âûâåñòè ïîëåçíîå ïðàâèëî, êàñàþùååñÿ äîâåðèòåëüíîé îöåíêè ñêàëÿðíîãî ïàðàìåòðà θ.
Åñëè èìååòñÿ ñîñòîÿòåëüíûé êðèòåðèé ïðîâåðêè ãèïîòåçû θ = θ0 ïðè äâóñòîðîííåé àëüòåðíàòèâå θ 6= θ0 , òî åãî îáëàñòè ïðèíÿòèÿ ñîîòâåòñòâóåò
äâóñòîðîííèé äîâåðèòåëüíûé èíòåðâàë. Åñëè æå àëüòåðíàòèâíàÿ ãèïîòåçà
íîñèò îäíîñòîðîííèé õàðàêòåð, òî ïðè àëüòåðíàòèâå θ < θ0 ìû ïîëó÷àåì
âåðõíþþ äîâåðèòåëüíóþ ãðàíèöó, à ïðè θ > θ0 íèæíþþ.
Åñòåñòâåííî, ïðèíöèï äâîéñòâåííîñòè ïðèìåíèì è ê äîâåðèòåëüíûì èíòåðâàëàì, êàê ñòàòèñòè÷åñêèì ïðàâèëàì ïðîâåðêè ãèïîòåç: ãèïîòåçà θ ∈ Θ0
îòâåðãàåòñÿ òîãäà è òîëüêî òîãäà, êîãäà (1−α)-äîâåðèòåëüíàÿ îáëàñòü ïðèíàäëåæèò ïîäìíîæåñòâó Θ1 , è òàêîå ñòàòèñòè÷åñêîå ïðàâèëî (êðèòåðèé)
ãàðàíòèðóåò çàäàííîå îãðàíè÷åíèå α íà âåðîÿòíîñòü îøèáêè ïåðâîãî ðîäà.
240
8. Ðàâíîìåðíî íàèáîëåå ìîùíûå êðèòåðèè
Ëåêöèÿ 13
Ìåòîä ïîñòðîåíèÿ êðèòåðèåâ çàäàííîãî óðîâíÿ α, êîòîðûé ðàâíîìåðíî
ïî âñåì àëüòåðíàòèâíûì çíà÷åíèÿì ïàðàìåòðà θ ìàêñèìèçèðóåò ìîùíîñòü
êðèòåðèÿ, ñóùåñòâåííî îïèðàåòñÿ íà ñëåäóþùåå, ïî÷òè î÷åâèäíîå óòâåðæäåíèå, êîòîðîå â òåîðèè ïðîâåðêè ãèïîòåç îáû÷íî íàçûâàåòñÿ ëåììîé
ÍåéìàíàÏèðñîíà.
Ðàññìîòðèì âåðîÿòíîñòíóþ ìîäåëü, ñîñòîÿùóþ âñåãî èç äâóõ ðàñïðåäåëåíèé P0 è P1 , ñ îáùèì íîñèòåëåì X è ôóíêöèÿìè ïëîòíîñòè f0 (x) è
f1 (x), x ∈ X. Ïî âûáîðêå X (n) ïðîâåðÿåòñÿ ïðîñòàÿ ãèïîòåçà H0 : âûáîðêà
âçÿòà èç ðàñïðåäåëåíèÿ P0 ïðè ïðîñòîé àëüòåðíàòèâå H1 : âûáîðêå ñîîòâåòñòâóåò ðàñïðåäåëåíèå P1 . Îïðåäåëèì êðèòè÷åñêóþ ôóíêöèþ ϕ∗ (X (n) ) êàê
èíäèêàòîðíóþ ôóíêöèþ êðèòè÷åñêîé îáëàñòè
L(X
(n)
)=
n
Y
f1 (Xk )
k=1
f0 (Xk )
> C.
Ñòàòèñòèêà L íàçûâàåòñÿ ñòàòèñòèêîé îòíîøåíèÿ ïðàâäîïîäîáèÿ, à êðèòåðèé ϕ∗ êðèòåðèåì îòíîøåíèÿ ïðàâäîïîäîáèÿ èëè êðèòåðèåì Íåéìàíà
Ïèðñîíà. Êðèòåðèé ϕ∗ îòâåðãàåò
Y n íóëåâóþ ãèïîòåçó, åñëè ïðàâäîïîäîáèå
àëüòåðíàòèâû f1,n (X (n) ) =
f1 (Xk ) â C ðàç ïðåâîñõîäèò ïðàâäîïîäî1
(n)
Yn
áèå íóëåâîé ãèïîòåçû f0,n (X ) =
ñëåäóþùèì çàìå÷àòåëüíûì ñâîéñòâîì.
1
f0 (Xk ). Ýòîò êðèòåðèé îáëàäàåò
Òåîðåìà 8.1.Êðèòåðèé îòíîøåíèÿ ïðàâäîïîäîáèÿ ϕ∗ ÿâëÿåòñÿ íàèáî-
ëåå ìîùíûì êðèòåðèåì â êëàññå âñåõ êðèòåðèåâ ïðîâåðêè ïðîñòîé ãèïîòåçû ïðè ïðîñòîé àëüòåðíàòèâå, ðàçìåð êîòîðûõ íå ïðåâîñõîäèò ðàçìåðà
êðèòåðèÿ ϕ∗ . Åñëè êðèòåðèé ϕ∗ èìååò ðàçìåð α, òî îí îáëàäàåò íàèáîëüøåé
ìîùíîñòüþ â êëàññå âñåõ êðèòåðèåâ óðîâíÿ α.
Ä î ê à ç à ò å ë ü ñ ò â î.. Ïóñòü ϕ = ϕ(X (n) ) ëþáîé äðóãîé êðèòåðèé, ðàçìåð êîòîðîãî
E 0 ϕ(X (n) ) ≤ E 0 ϕ∗ (X (n) ).
(1)
Òðåáóåòñÿ ïîêàçàòü, ÷òî òîãäà êðèòåðèé ϕ∗ èìååò áîëüøóþ ìîùíîñòü, ÷åì
êðèòåðèé ϕ, òî åñòü E 1 ϕ∗ (X (n) ) ≥ E 1 ϕ(X (n) ).
241
Ðàññìîòðèì èíòåãðàë
Z h
∗
(n)
(n)
ih
ϕ (x ) − ϕ(x )
(n)
(n)
i
f1,n (x ) − Cf0,n (x ) dµn (x(n) ) =
Xn
h
i
E 1 ϕ∗ (X (n) ) − E 1 ϕ(X (n) ) − C E 0 ϕ∗ (X (n) ) − E 0 ϕ(X (n) ) .
Äîñòàòî÷íî ïîêàçàòü, ÷òî ýòîò èíòåãðàë íåîòðèöàòåëåí, è òîãäà ïåðâîå
óòâåðæäåíèå òåîðåìû áóäåò ñëåäîâàòü èç íåðàâåíñòâà:
∗
E 1 ϕ (X
(n)
) − E 1 ϕ(X
(n)
h
∗
(n)
∗
(n)
) − C E 0 ϕ (X
) − E 0 ϕ(X
(n)
i
)
≥ 0
êîòîðîå âëå÷åò (ñì. (1))
∗
E 1 ϕ (X
(n)
) − E 1 ϕ(X
(n)
h
) ≥ C E 0 ϕ (X
) − E 0 ϕ(X
(n)
i
)
≥ 0.
Ïîêàæåì, ÷òî ôóíêöèè ϕ∗ (x(n) ) − ϕ(x(n) ) è f1,n (x(n) ) − Cf0,n (x(n) ), ïðîèçâåäåíèå êîòîðûõ èíòåãðèðóåòñÿ, îäíîâðåìåííî ïîëîæèòåëüíû èëè îòðèöàòåëüíû ïðè ëþáûõ x(n) ∈ Xn . Äåéñòâèòåëüíî, åñëè ϕ∗ (x(n) ) −ϕ(x(n) ) > 0, òî
ýòî âëå÷åò ϕ∗ (x(n) ) = 1, ïîñêîëüêó êðèòè÷åñêàÿ ôóíêöèÿ ðàâíà åäèíèöå,
åñëè îíà íå ðàâíà íóëþ. Íî, ïî îïðåäåëåíèþ êðèòåðèÿ îòíîøåíèÿ ïðàâäîïîäîáèÿ, ðàâåíñòâî ϕ∗ (x(n) ) = 1 âîçìîæíî ëèøü â ñëó÷àå f1,n (x(n) ) −
Cf0,n (x(n) ) > 0. Òî÷íî òàêæå óñòàíàâëèâàåòñÿ, ÷òî íåðàâåíñòâî ϕ∗ (x(n) ) −
ϕ(x(n) ) < 0 âëå÷åò f1,n (x(n) ) − Cf0,n (x(n) ) < 0.
Èòàê, êðèòåðèé ϕ∗ íàèáîëåå ìîùåí â êëàññå âñåõ êðèòåðèåâ, ðàçìåð êîòîðûõ íå ïðåâîñõîäèò ðàçìåðà ϕ∗ . Åñëè æå E 0 ϕ∗ (X (n) ) = α, òî ýòî óòâåðæäåíèå, î÷åâèäíî, âëå÷åò åãî íàèáîëüøóþ ìîùíîñòü â êëàññå âñåõ êðèòåðèåâ
óðîâíÿ α.
Ïðèìåíåíèå ýòîé òåîðåìû ê ïîñòðîåíèþ ðàâíîìåðíî íàèáîëåå ìîùíûõ
êðèòåðèåâ ìû ïðîèëëþñòðèðóåì íà îäíîì ÷àñòíîì ïðèìåðå, èç êîòîðîãî
áóäåò âèäåí îáùèé ïîäõîä ê äàííîé çàäà÷å.
Ï ð è ì å ð 8.1. Ïðîâåðêà íàäåæíîñòè ïðè ïîêàçàòåëüíîì ðàñïðåäåëåíèè
äîëãîâå÷íîñòè.  ïðèìåðå 3.3 ìû ðàññìàòðèâàëè ïðîáëåìó îöåíêè íàäåæíîñòè èçäåëèÿ ñ ïîêàçàòåëüíûì ðàñïðåäåëåíèåì äîëãîâå÷íîñòè. Íàïîìíèì,
ñëó÷àéíàÿ âåëè÷èíà X, ðåàëèçàöèÿ x êîòîðîé ñîîòâåòñòâóåò ïðîìåæóòêó
âðåìåíè îò íà÷àëà ðàáîòû äî ìîìåíòà îòêàçà íåêîòîðîãî èçäåëèÿ, íàçûâàåòñÿ äîëãîâå÷íîñòüþ, è ïî ôóíêöèè ðàñïðåäåëåíèÿ F (x), x ≥ 0 ñëó÷àéíîé
242
âåëè÷èíû X ìîæíî ðàññ÷èòàòü íàäåæíîñòü H(t) èçäåëèé, ñîîòâåòñòâóþùóþ ãàðàíòèéíîìó âðåìåíè t : H(t) = P (X ≥ t) = 1 − F (t).
Ïóñòü äîëãîâå÷íîñòü X ðàñïðåäåëåíà ïî ïîêàçàòåëüíîìó çàêîíó ñ ôóíêöèåé ðàñïðåäåëåíèÿ F (x | θ) = 1 − exp{−x/θ}, çíà÷åíèå ïàðàìåòðà θ êîòîðîé íå èçâåñòíî. Ìû äîëæíû óäîñòîâåðèòüñÿ, ÷òî íàäåæíîñòü âûïóñêàåìûõ èçäåëèé äîñòàòî÷íî âûñîêà: H(t) ≥ P0 , ãäå P0 íàèìåíüøàÿ äîïóñòèìàÿ äîëÿ èçäåëèé, êîòîðûå äîëæíû ïðîñëóæèòü ãàðàíòèéíûé ñðîê t.
Ýòî òèïè÷íàÿ çàäà÷à ïðîâåðêè ãèïîòåç, ðåøåíèå êîòîðîé íà÷èíàåòñÿ ñ
îïðåäåëåíèÿ íóëåâîé ãèïîòåçû H0 . Ïðè ýòîì ñëåäóåò ïîìíèòü, ÷òî â ñòàòèñòè÷åñêîì êðèòåðèè êîíòðîëèðóåòñÿ âåðîÿòíîñòü îòêëîíåíèÿ H0 , êîãäà
îíà â äåéñòâèòåëüíîñòè âåðíà.  íàøåé êîíêðåòíîé ïðîáëåìå ñïåöèôèêàöèÿ íóëåâîé ãèïîòåçû âî ìíîãîì çàâèñèò îò òîãî, ÷òî ïîâëå÷åò çà ñîáîé
îòêàç èçäåëèÿ. Åñëè ìû âûïóñêàåì áûòîâûå ïðèáîðû, òî îòêàç èçäåëèÿ
äî ãàðàíòèéíîãî ñêðîêà t ïîâëå÷åò èçäåðæêè íà ðåìîíò, êîòîðûå ìîãóò
áûòü íåçíà÷èòåëüíûìè ïî ñðàâíåíèþ ñî ñòîèìîñòüþ èçäåëèÿ.  òàêîì ñëó÷àå åñòåñòâåííî âûáðàòü â êà÷åñòâå íóëåâîé ãèïîòåçû óòâåðæäåíèå î íàäåæíîñòè èçäåëèé îòêëîíèâ ýòó ãèïîòåçó, êîãäà îíà âåðíà, ìû ïîòåðÿåì
äîðîãîñòîÿùóþ ïðîäóêöèþ, ðåìîíò êîòîðîé íàì îáîøåëñÿ áû çíà÷èòåëüíî äåøåâëå, ÷åì åå óíè÷òîæåíèå èëè ïðîäàæà ïî áðîñîâîé öåíå. Åñëè æå
îòêàç èçäåëèÿ ïðèâîäèò ê êàòàñòðîôè÷åñêèì ïîñëåäñòâèÿì, íàïðèìåð, ê
ãèáåëè ëþäåé, òî çäåñü ðàññóæäàòü íå÷åãî, è çà íóëåâóþ ãèïîòåçó ñëåäóåò áðàòü óòâåðæäåíèå î íåíàäåæíîñòè . Îòêëîíèâ òàêóþ ãèïîòåçó, êîãäà îíà â äåéñòâèòåëüíîñòè âåðíà, ìû ñòîëêíåìñÿ ñ íåïðèåìëåìî áîëüøîé
äîëåé îòêàçîâ äî èñòå÷åíèÿ ãàðàíòèéíîãî ñðîêà, è ïîýòîìó ðèñê îò ïðèíÿòèÿ ïëîõèõ èçäåëèé äîëæåí áûòü êîíòðîëèðóåì. Îñòàíîâèìñÿ íà ýòîì
âàðèàíòå è ïðèñòóïèì ê ïîñòðîåíèþ ðàâíîìåðíî íàèáîëåå ìîùíîãî êðèòåðèÿ ïðîâåðêè ãèïîòåçû íåíàäåæíîñòè H0 : H(t) < P0 ïðè àëüòåðíàòèâå
H1 : H(t) ≥ P0 , êîãäà H(t) = exp{−t/θ}.
 òåðìèíàõ çíà÷åíèé ïàðàìåòðà θ íóëåâàÿ ãèïîòåçà ïðèíèìàåò âèä H0 :
θ < θ0 = −t/ ln α. Çàôèêñèðóåì íåêîòîðîå àëüòåðíàòèâíîå çíà÷åíèå θ1 >
θ0 , è ðàññìîòðèì çàäà÷ó ïðîâåðêè ïðîñòîé ãèïîòåçû H00 : θ = θ0 ïðè
ïðîñòîé àëüòåðíàòèâå H10 : θ = θ1 . Íàèáîëåå ìîùíûé êðèòåðèé ïðîâåðêè
ïðîñòîé ãèïîòåçû ïðè ïðîñòîé àëüòåðíàòèâå èìååò êðèòè÷åñêóþ îáëàñòü
âèäà (ñì. òåîðåìó 8.1)
L(X (n) ) =
n
Y
f1 (Xk )
k=1
θ0
= exp
f0 (Xk ) θ1
½µ
243
1
1
−
θ0 θ1
¶X
n
1
¾
Xk
> C,
ãäå êðèòè÷åñêàÿ êîíñòàíòà
îïðåäåëÿåòñÿ
ïî çàäàííîìó óðîâíþ çíà÷è¡ C (n)
¢
ìîñòè α èç óñëîâèÿ P θ0 L(X ) > C ≤ α. Ïîñêîëüêó ñòàòèñòèêà Tn =
Xn
Xk èìååò ãàììà-ðàñïðåäåëåíèå G(n, θ0 ), òî äëÿ îïðåäåëåíèÿ C â ïîñëåäíåì íåðàâåíñòâå ñëåäóåò ïîëîæèòü çíàê ðàâåíñòâà. Êðîìå ýòîãî, ñòàòèñòèêà îòíîøåíèÿ ïðàâäîïîäîáèÿ L(X (n) ) åñòü ìîíîòîííàÿ ôóíêöèÿ ñòàòèñòèêè Tn , ïîýòîìó êðèòè÷åñêóþ îáëàñòü L(X (n) ) > C ìîæíî çàïèñàòü â
ýêâèâàëåíòíîé ôîðìå Tn > C è íàõîäèòü íîâîå C èç ðàâåíñòâà P θ0 (Tn >
C) = 1 − Gn (C/θ0 ) = α (ñîáñòâåííî ãîâîðÿ, íàì âñå ðàâíî, êàêîå C îïðåäåëÿòü, íî íà ïðàêòèêå, âíå ñîìíåíèÿ, óäîáíåå èìåòü äåëî ñ êðèòè÷åñêîé
îáëàñòüþ Tn > C ).
−1
Èòàê, C(α) = θ0 · G−1
n (1 − α), ãäå Gn (·) êâàíòèëü ñòàíäàðòíîãî ãàììàðàñïðåäåëåíèÿ G(n, 1), è êðèòåðèé ϕ∗ (X (n) ) = I{Tn >C(α)} (X (n) ) çàäàííîãî
ðàçìåðà α ÿâëÿåòñÿ íàèáîëåå ìîùíûì â êëàññå âñåõ êðèòåðèåâ óðîâíÿ α,
ïðîâåðÿþùèõ ãèïîòåçó H00 ïðè àëüòåðíàòèâå H10 . Ýòî îçíà÷àåò, ÷òî äëÿ
ëþáîãî äðóãîãî êðèòåðèÿ ϕ ñ E θ0 ϕ(X (n) ) ≤ α âûïîëíÿåòñÿ íåðàâåíñòâî
1
E θ1 ϕ(X (n) ) ≤ E θ1 ϕ∗ (X (n) ).
(2)
Íî êðèòåðèé ϕ∗ íå çàâèñèò îò âûáîðà àëüòåðíàòèâíîãî çíà÷åíèÿ θ1 ïàðàìåòðà θ êðèòè÷åñêàÿ êîíñòàíòà C(α) = θ0 · G−1
n (1 − α)! Ñëåäîâàòåëüíî, íåðàâåíñòâî (2) ñïðàâåäëèâî ïðè ëþáûõ θ1 > θ0 , è ìû ïðèõîäèì ê
çàêëþ÷åíèþ, ÷òî êðèòåðèé ϕ∗ åñòü ðàâíîìåðíî íàèáîëåå ìîùíûé êðèòåðèé â êëàññå âñåõ êðèòåðèåâ óðîâíÿ α, ïðîâåðÿþùèõ ïðîñòóþ ãèïîòåçó
H00 : θ = θ0 ïðè ñëîæíîé àëüòåðíàòèâå H1 : θ > θ0 .
Äàëåå, ôóíêöèÿ ìîùíîñòè êðèòåðèÿ ϕ∗ , êàê êðèòåðèÿ ðàçëè÷åíèÿ èñõîäíûõ ñëîæíûõ ãèïîòåç H0 : θ < θ0 è H1 : θ ≥ θ0 , ðàâíà m(θ) =
E θ ϕ∗ (X (n) ) = P θ (Tn > C(α)) = 1 − Gn (G−1
n (1 − α)θ0 /θ), θ > 0. Ýòî
âîçðàñòàþùàÿ ôóíêöèÿ θ, ïîýòîìó ìàêñèìóì âåðîÿòíîñòè
îøèáêè
ïåðâî¡ −1
¢
ãî ðîäà (ðàçìåð êðèòåðèÿ) ðàâåí m(θ0 ) = 1 − Gn Gn (1 − α) = α. Òàêèì îáðàçîì, êðèòåðèé ϕ∗ åñòü êðèòåðèé ðàçìåðà α ïðîâåðêè ãèïîòåçû
H0 ïðè àëüòåðíàòèâå H1 , îáëàäàþùèé ðàâíîìåðíî íàèáîëüøåé ìîùíîñòüþ â êëàññå âñåõ êðèòåðèåâ ϕ ñ îãðàíè÷åíèåì E θ0 ϕ(X (n) ) = α. Íî â òàêîì ñëó÷àå îí áóäåò ðàâíîìåðíî íàèáîëåå ìîùíûì è â áîëåå óçêîì êëàññå
êðèòåðèåâ óðîâíÿ α, òî åñòü êðèòåðèåâ ϕ, óäîâëåòâîðÿþùèõ îãðàíè÷åíèþ
E θ ϕ(X (n) ) ≤ α ïðè ëþáîì θ < θ0 .
Áîëåå òîãî, íåòðóäíî óáåäèòüñÿ, ÷òî êðèòåðèé ϕ∗ îáëàäàåò ìèíèìàëüíîé âåðîÿòíîñòüþ îøèáêè ïåðâîãî ðîäà α(θ) = m(θ), θ ≤ θ0 â êëàññå âñåõ
244
êðèòåðèåâ óðîâíÿ α. Äëÿ ýòîãî äîñòàòî÷íî ïîìåíÿòü ìåñòàìè íóëåâóþ ãèïîòåçó è àëüòåðíàòèâó è âûáðàòü óðîâåíü çíà÷èìîñòè, ðàâíûé 1 − α.
 ýòîì ïðèìåðå ïîñòðîåíèå ðàâíîìåðíî íàèáîëåå ìîùíîãî êðèòåðèÿ
ñòàëî âîçìîæíûì áëàãîäàðÿ îñîáîìó ñâîéñòâó ñòàòèñòè÷åñêîé ñòðóêòóðû
ïîêàçàòåëüíîãî ðàñïðåäåëåíèÿ: ñòàòèñòèêà L(X (n) ) îòíîøåíèÿ
ïðàâäîXn
ïîäîáèÿ åñòü ìîíîòîííàÿ ôóíêöèÿ ñòàòèñòèêè Tn =
Xk . Ýòî
1
÷àñòíûé ñëó÷àé ñòàòèñòè÷åñêèõ ñòðóêòóð, îáëàäàþùèõ äîñòàòî÷íîé ñòàòèñòèêîé T, èáî â ñèëó òåîðåìû ôàêòîðèçàöèè ó òàêèõ ñòðóêòóð L(X (n) ) =
gθ1 (T )/gθ0 (T ) çàâèñèò îò X (n) òîëüêî ÷åðåç çíà÷åíèÿ T (X (n) ). Äîïîëíèòåëüíîå ñâîéñòâî ìîíîòîííîñòè îòíîøåíèÿ ïðàâäîïîäîáèÿ îòíîñèòåëüíî T îáåñïå÷èâàåò ñóùåñòâîâàíèå è âîçìîæíîñòü êîíñòðóêòèâíîãî ïîñòðîåíèÿ ðàâíîìåðíî íàèáîëåå ìîùíîãî êðèòåðèÿ, ïðè÷åì êðèòè÷åñêàÿ îáëàñòü òàêîãî
êðèòåðèÿ
îáÿçàòåëüíî èìååò âèä T > C èëè T < C. Íàïðèìåð, êðèòåðèé
Xn
Xk > C ïðè ñîîòâåòñòâóþùåì âûáîðå C ïî çàäàííîìó óðîâíþ çíà÷è1
ìîñòè α áóäåò ðàâíîìåðíî íàèáîëåå ìîùíûì êðèòåðèåì â êëàññå âñåõ êðèòåðèåâ óðîâíÿ α ïðîâåðêè ãèïîòåçû θ < θ0 ïðè àëüòåðíàòèâå θ ≥ θ0 , êîãäà
θ åñòü ñðåäíåå çíà÷åíèå íîðìàëüíîãî ðàñïðåäåëåíèÿ (äèñïåðñèÿ ïðåäïîëàãàåòñÿ èçâåñòíîé) èëè ïàðàìåòð ìàñøòàáà ãàììà-ðàñïðåäåëåíèÿ (ïàðàìåòð
ôîðìû èçâåñòåí). Íî åñëè θ ïàðàìåòð òàêèõ ðàñïðåäåëåíèé,X
êàê äâóõòîn
÷å÷íîå èëè Ïóàññîíà, òî êðèòåðèé ϕ∗ ñ êðèòè÷åñêîé îáëàñòüþ
Xk > C
1
îáëàäàåò ðàâíîìåðíî íàèáîëüøåé ìîùíîñòüþ òîëüêî â êëàññå òåõ êðèòåðèåâ, ðàçìåð êîòîðûõ íå áîëüøå ðàçìåðà ϕ∗ .
Äðóãèå êðèòåðèè, êîòîðûå ìû ðàññìàòðèâàëè â ïðåäûäóùåì ïàðàãðàôå, òàêæå îáëàäàþò ñâîéñòâîì ðàâíîìåðíîé íàèáîëüøåé ìîùíîñòè, è ïðè
äîêàçàòåëüñòâå ýòîãî òàêæå èñïîëüçóåòñÿ ëåììà ÍåéìàíàÏèðñîíà, íî ìåòîäèêà äîêàçàòåëüñòâà ñîâåðøåííî äðóãàÿ è òðåáóåò ðàçðàáîòêè ìåòîäîâ
ïîñòðîåíèÿ êðèòåðèåâ, îáëàäàþùèõ ñâîéñòâîì èíâàðèàíòíîñòè íåçàâèñèìîñòè îò ìåøàþùèõ ïàðàìåòðîâ. Íî ýòî óæå ñîâñåì äðóãàÿ îáëàñòü òåîðèè ïðîâåðêè ãèïîòåç, ïîãîâîðèòü î êîòîðîé ó íàñ íå õâàòàåò âðåìåíè. ß
ëó÷øå ðàññêàæó âàì î íåêîòîðûõ äîïîëíèòåëüíûõ óõèùðåíèÿõ â ïðàêòè÷åñêèõ ïðèìåíåíèÿõ ñòàòèñòè÷åñêèõ êðèòåðèåâ, êîòîðûå ïîçâîëÿþò ñ áîëüøåé ñòåïåíüþ íàãëÿäíîñòè îöåíèòü ñòåïåíü ñîãëàñèÿ ïðîâåðÿåìîé ãèïîòåçû
ñ âûáîðî÷íûìè äàííûìè.
Âñå ðàññìàòðèâàåìûå íàìè êðèòåðèè çàäàííîãî óðîâíÿ α îáëàäàþò òåì
ñâîéñòâîì, ÷òî èõ êðèòè÷åñêèå îáëàñòè ìîæíî çàïèñàòü â âèäå T (X (n) ) >
C(α), ãäå T íåêîòîðàÿ ñòàòèñòèêà, õàðàêòåðèçóþùàÿ ðàñõîæäåíèå âû245
áîðî÷íûõ äàííûõ ñ ïðåäïîëàãàåìûìè çíà÷åíèÿìè ïàðàìåòðà. Óâåëè÷åíèå
óðîâíÿ çíà÷èìîñòè α ïðèâîäèò ê óìåíüøåíèþ C(α), è ìû ïîëó÷àåì ñèñòåìó âëîæåííûõ äðóã â äðóãà êðèòè÷åñêèõ îáëàñòåé. Ýòî çàìå÷àòåëüíîå
ñâîéñòâî íàøèõ êðèòåðèåâ ïîçâîëÿåò íåñêîëüêî èçìåíèòü ìåòîäîëîãèþ èõ
ïðàêòè÷åñêîãî èñïîëüçîâàíèÿ. Äî ñèõ ïîð ìû ôèêñèðîâàëè óðîâåíü çíà÷èìîñòè α, íàõîäèëè ïî íåìó êðèòè÷åñêóþ êîíñòàíòó C(α) è ñðàâíèâàëè åå
ñ âûáîðî÷íûì çíà÷åíèåì t = T (x(n) ) ñòàòèñòèêè T = T (X (n) ). Ïîñòóïèì
òåïåðü ñëåäóþùèì îáðàçîì. Ïîëó÷èâ âûáîðî÷íûå äàííûå x(n) , âû÷èñëèì
çíà÷åíèå t = T (x(n) )¡ è ðàññìîòðèì
êðèòåðèé T (X (n) ) > t. Ðàçìåð òàêîãî
¢
êðèòåðèÿ αêð. = P0 T (X (n) ) > t íàçûâàåòñÿ êðèòè÷åñêèì óðîâíåì çíà÷èìîñòè, êîòîðûé òðàêòóåòñÿ êàê âåðîÿòíîñòü ïîëó÷èòü ñòîëü æå áîëüøèå
ðàñõîæäåíèÿ ìåæäó âûáîðî÷íûìè äàííûìè è íóëåâîé ãèïîòåçîé, êàê è äëÿ
âûáîðî÷íûõ äàííûõ x(n) .
Åñòåñòâåííî, ìû ïî-ïðåæíåìó ìîæåì ðàáîòàòü ñ çàäàííûì óðîâíåì çíà÷èìîñòè α, îòêëîíÿÿ íóëåâóþ ãèïîòåçó, åñëè αêð. < α, è ïðèíèìàÿ åå
â ïðîòèâíîì ñëó÷àå. Êñòàòè, ïðèíèìàÿ ãèïîòåçó, íå ñëåäóåò óòâåðæäàòü,
÷òî îíà âåðíà. Íà ýòîò ñ÷åò ñóùåñòâóåò áîëåå äåëèêàòíîå âûðàæåíèå: âûáîðî÷íûå äàííûå ñîãëàñóþòñÿ ñ âûäâèíóòîé ãèïîòåçîé, èáî, êàê ãîâîðèë
îäèí èç ñîçäàòåëåé ìàòåìàòè÷åñêîé ñòàòèñòèêè ñýð Ä.Ôèøåð, ãèïîòåçû íå
ïðîâåðÿþòñÿ, à ðàçâå ëèøü îòâåðãàþòñÿ . Òàê âîò, â ñâåòå ýòîãî âûñêàçûâàíèÿ áîëåå ðàçóìíî ïðîñòî ñîîáùàòü ïîëó÷åííûé êðèòè÷åñêèé óðîâåíü
çíà÷èìîñòè, ñîïðîâîæäàÿ åãî ñëåäóþùèì êîììåíòàðèåì, êîòîðûé ìîæíî
ñ÷èòàòü ìåæäóíàðîäíûì ñòàòèñòè÷åñêèì ñòàíäàðòîì. Åñëè αêð. ≤ 0.01,
òî ãîâîðÿò, ÷òî ðàñõîæäåíèå ìåæäó ãèïîòåçîé è âûáîðî÷íûìè äàííûìè
âûñîêî çíà÷èìî, åñëè 0.01 < αêð. ≤ 0.05, òî ïðîñòî çíà÷èìî, åñëè æå
0.05 < αêð. ≤ 0.10 ïî÷òè çíà÷èìî, è â ñëó÷àå αêð. > 0.10 íå çíà÷èìî.
Çàìåòèì òàêæå, ÷òî â íåêîòîðûõ ïðèìåíåíèÿõ êðèòåðèåâ çíà÷èìîñòè (îñîáåííî, â ìåäèöèíå) αêð. íàçûâàþò äîñòîâåðíîñòüþ. Ñóùåñòâóþò è äðóãèå,
ñîâåðøåííî ôàíòàñòè÷åñêèå íàçâàíèÿ αêð. , êîòîðûå ÿ íå áóäó çäåñü ïðèâîäèòü â ñèëó èõ êðàéíå íåïðèëè÷íîãî çâó÷àíèÿ.
Ïîãîâîðèì òåïåðü îá îïòèìàëüíûõ ñâîéñòâàõ äîâåðèòåëüíûõ ãðàíèö,
ñîîòâåòñòâóþùèõ ðàâíîìåðíî íàèáîëåå ìîùíûì êðèòåðèÿì. Ðàññìîòðèì
òîëüêî ñëó÷àé âåðõíåé äîâåðèòåëüíîé ãðàíèöû θn = θn (X (n) ).
Îïðåäåëåíèå 8.1 Âåðõíÿÿ (1−α)-äîâåðèòåëüíàÿ ãðàíèöà θn íàçûâàåò-
ñÿ ðàâíîìåðíî íàèáîëåå òî÷íîé, åñëè îíà ðàâíîìåðíî ïî âñåì θ è θ0 , óäîâëåòâîðÿþùèì íåðàâåíñòâó θ0 > θ, ìèíèìèçèðóåò âåðîÿòíîñòü P θ (θn (X (n) ) ≥
θ0 ).
246
Òàêèì îáðàçîì, â ñëó÷àå ðàâíîìåðíî íàèáîëåå òî÷íîé ãðàíèöû θn èíòåðâàë (−∞; θn ] ñ çàäàííîé âåðîÿòíîñòüþ 1 − α íàêðûâàåò èñòèííîå çíà÷åíèå
ïàðàìåòðà θ, íî îí ñ ìèíèìàëüíîé âåðîÿòíîñòüþ íàêðûâàåò ëþáûå çíà÷åíèÿ θ, ëåæàùèå ïðàâåå èñòèííîãî.
Åñëè ìû ïðîâåðÿåì ãèïîòåçó H : θ = θ0 ïðè àëüòåðíàòèâå K(θ0 ) :
θ < θ0 , è îáëàñòü ïðèíÿòèÿ A(θ0 ) ðàâíîìåðíî íàèáîëåå ìîùíîãî êðèòåðèÿ ðàçìåðà α îáëàäàåò òåì ñâîéñòâîì, ÷òî ïîäìíîæåñòâî ∆n (x(n) ) =
{θ : x(n) ∈ A(θ)} ïàðàìåòðè÷åñêîãî ïðîñòðàíñòâà Θ ⊆ R åñòü èíòåðâàë
(−∞ : θn (x(n) ) ], òî θn (X (n) ) åñòü ðàâíîìåðíî íàèáîëåå òî÷íàÿ âåðõíÿÿ
(1 − α)-äîâåðèòåëüíàÿ ãðàíèöà. Âñå îáúÿñíÿåòñÿ äîâîëüíî ïðîñòî: âåðîÿòíîñòü P θ (θn (X (n) ) ≥ θ 0 ) = P θ (X (n) ∈ A(θ 0 )) åñòü âåðîÿòíîñòü îøèáêè
âòîðîãî ðîäà ó êðèòåðèÿ ïðîâåðêè ãèïîòåçû H : θ = θ 0 ïðè àëüòåðíàòèâå
K(θ 0 ) : θ < θ 0 . Ðàâíîìåðíî íàèáîëåå ìîùíûé êðèòåðèé åñòåñòâåííî îáëàäàåò ðàâíîìåðíî ìèíèìàëüíîé âåðîÿòíîñòüþ îøèáêè âòîðîãî ðîäà. Âñå
ïîñòðîåííûå íàìè â 6 äîâåðèòåëüíûå ãðàíèöû îáëàäàþò îïòèìàëüíûìè
ñâîéñòâàìè ñ òî÷êè çðåíèÿ ìàëîé âåðîÿòíîñòè íàêðûòèÿ òåõ çíà÷åíèé ïàðàìåòðà, êîòîðûå íå ñîîòâåòñòâóþò èñòèíå.
247
9. Ïðîâåðêà ìîäåëüíûõ ïðåäïîëîæåíèé.
Êðèòåðèè ñîãëàñèÿ
Ëåêöèÿ 14
Ðàññìîòðåííûå íàìè ìåòîäû ïîñòðîåíèÿ îïòèìàëüíûõ ðåøàþùèõ ôóíêöèé â ïðîáëåìàõ îöåíêè ïàðàìåòðîâ è ïðîâåðêè ïàðàìåòðè÷åñêèõ ãèïîòåç
ñóùåñòâåííî îïèðàëèñü íà òàêèå îñîáûå ñâîéñòâà âåðîÿòíîñòíûõ ìîäåëåé,
êàê ñóùåñòâîâàíèå äîñòàòî÷íûõ ñòàòèñòèê, ìîíîòîííîñòü îòíîøåíèÿ ïðàâäîïîäîáèÿ îòíîñèòåëüíî íåêîòîðîé ñòàòèñòèêè, íåçàâèñèìîñòü âûáîðîê è
ïðî÷åå. Îöåíèòü æå ïîñëåäñòâèÿ îò èñïîëüçîâàíèÿ êîíêðåòíûõ ðåøàþùèõ
ôóíêöèé (íàéòè ôóíêöèþ ðèñêà ñòàòèñòè÷åñêîãî ïðàâèëà) âîîáùå íå ïðåäñòàâëÿåòñÿ âîçìîæíûì áåç çíàíèÿ âåðîÿòíîñòíîé ìîäåëè. Îòñþäà âîçíèêàåò íåîáõîäèìîñòü ðàçðàáîòêè îáùèõ ìåòîäîâ òåñòèðîâàíèÿ (ïðîâåðêè)
ïðåäëàãàåìîé âåðîÿòíîñòíîé ìîäåëè P = {Pθ , θ ∈ Θ} ïî äàííûì ñëó÷àéíîé âûáîðêè, èëè íåñêîëüêèõ âûáîðîê, êîòîðûå ïðåäïîëîæèòåëüíî èçâëåêàþòñÿ èç íåêîòîðûõ ðàñïðåäåëåíèé ñåìåéñòâà P. Çíà÷èìûå ðàñõîæäåíèÿ
ìåæäó ìîäåëüíûìè è ýìïèðè÷åñêèìè ðàñïðåäåëåíèÿìè âûíóæäàþò ñòàòèñòèêà ïåðåñìîòðåòü ïîñûëêè, ïîëîæåííûå â îñíîâó ïîñòðîåíèÿ âåðîÿòíîñòíîé ìîäåëè, è òåì ñàìûì èçáåæàòü áîëüøèõ ïîòåðü îò èñïîëüçîâàíèÿ
çàâåäîìî ïëîõèõ ðåøàþùèõ ïðàâèë (òî÷íåå ïðàâèë, êîòîðûå îïòèìàëüíû
íå äëÿ òîé ìîäåëè).
Ïîíÿòíî, ÷òî ðå÷ü èäåò î ïðîâåðêå ñòàòèñòè÷åñêèõ ãèïîòåç áåç îñîáîé
ñïåöèôèêàöèè àëüòåðíàòèâ ê íóëåâîé ãèïîòåçå. Ñòàòèñòè÷åñêèå ïðàâèëà
ïðîâåðêè ìîäåëüíûõ ïðåäïîëîæåíèé îáû÷íî íàçûâàþòñÿ êðèòåðèÿìè ñîãëàñèÿ, è â ìàòåìàòè÷åñêîé ñòàòèñòèêå ñëîæèëñÿ íåêîòîðûé òðàäèöèîííûé íàáîð òàêèõ êðèòåðèåâ, îáëàäàþùèõ áîëüøîé óíèâåðñàëüíîñòüþ. Ýòî
êðèòåðèè, ñ ïîìîùüþ êîòîðûõ ìîæíî ïðîâåðÿòü íå òîëüêî ïðèíàäëåæíîñòü ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû ê îïðåäåëåííîìó
ñåìåéñòâó, íî è òåñòèðîâàòü íåêîòîðûå áîëåå ãðóáûå ÷åðòû ìîäåëè, êàê
òî íåçàâèñèìîñòü êîìïîíåíò íàáëþäàåìîãî ñëó÷àéíîãî âåêòîðà (âåêòîðíîé
ñëó÷àéíîé âåëè÷èíû), âîçìîæíîñòü îáúåäèíåíèÿ íåñêîëüêèõ âûáîðîê â îäíó (ïðîâåðêà ãèïîòåçû îäíîðîäíîñòè âûáîðîê) è ìíîæåñòâî äðóãèõ ïðåäïîëîæåíèé, êàñàþùèõñÿ ñòðóêòóðû âûáîðî÷íûõ äàííûõ. Ìû ïîçíàêîìèìñÿ
â ýòîì ïàðàãðàôå ñ íàáîðîì óíèâåðñàëüíûõ ñòàòèñòè÷åñêèõ ïðîöåäóð, îáúåäèíÿåìûõ îáùèì íàçâàíèåì êðèòåðèè õè-êâàäðàò. Îá îäíîì èç íèõ ìû
óæå óïîìèíàëè â 2 â ñâÿçè ñ ïîñòðîåíèåì ãèñòîãðàììû âûáîðêè; ýòî
248
10 . Êðèòåðèé ñîãëàñèÿ õè-êâàäðàò. Ðåøàåòñÿ ñòàòèñòè÷åñêàÿ ïðîáëåìà ïðîâåðêè ãèïîòåçû î âèäå ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû X (âîçìîæíî, âåêòîðíîé). Íà÷íåì ñ ïðîñòåéøåãî ñëó÷àÿ, êîãäà ïîñòðîåíèå âåðîÿòíîñòíîé ìîäåëè ïðèâåëî ê ïîëíîé ñïåöèôèêàöèè ðàñïðåäåëåíèÿ, òî åñòü ïðîáëåìà ñîñòîèò â ïðîâåðêå ïðîñòîé ãèïîòåçû H : ðàñïðåäåëåíèå X íà èçìåðèìîì ïðîñòðàíñòâå (X, A) åå çíà÷åíèé åñòü P (A), A ∈ A.
Ïîñòðîåíèå êðèòåðèÿ ñîãëàñèÿ âûáîðî÷íûõ äàííûõ c ðàñïðåäåëåíèåì P
íà÷èíàåòñÿ ñ ðàçáèåíèÿ ïðîñòðàíñòâà X íà r ≥ 2 ÷àñòåé A1 , . . . , Ar ; X =
X
r
Ai . Ðåêîìåíäàöèè ïî âûáîðó ÷èñëà r è ñïîñîáó ðàçáèåíèÿ íîñÿò äî1
âîëüíî ðàñïëûâ÷àòûé õàðàêòåð, è åñëè íå óòî÷íÿòü âîçìîæíûå àëüòåðíàòèâû ê P, òî, êàê âû ñàìè ïîíèìàåòå, òàêèõ ðåêîìåíäàöèé íå ìîæåò áûòü â
ïðèíöèïå. Ãëàâíîå, ðàçáèåíèå íå äîëæíî îïðåäåëÿòüñÿ âûáîðî÷íûìè çíà÷åíèÿìè, íàäî ñòðåìèòñÿ ê îáëàñòÿì îäèíàêîâîé êîíôèãóðàöèè è ðàçìåðà,
íå ñëåäóåò äåëàòü ñëèøêîì ïîäðîáíîå ðàçáèåíèå. Íàïðèìåð, åñëè X = R
(íàáëþäàåòñÿ äåéñòâèòåëüíàÿ ñëó÷àéíàÿ âåëè÷èíà), òî ïðÿìàÿ R ðàçáèâàåòñÿ íà r èíòåðâàëîâ âèäà (−∞, a], (a, a + ∆], (a + ∆, a + 2∆], . . . , (a +
(r − 3)∆, a + (r − 2)∆], (a + (r − 2)∆, +∞), òàê ÷òî äëèíà âíóòðåííèõ
èíòåðâàëîâ ïîñòîÿííà è ðàâíà ∆. Êîíå÷íî âûáîð r çàâèñèò îò îáúåìà âûáîðêè n, íî äàæå ïðè èñêëþ÷èòåëüíî áîëüøèõ n íå äåëàåòñÿ áîëåå 15-20
ðàçáèåíèé; ýòîãî âïîëíå äîñòàòî÷íî, ÷òîáû â ãèñòîãðàììå îòðàçèòü âñþ
ñïåöèôèêó ôîðìû òåñòèðóåìîãî ðàñïðåäåëåíèÿ.
Ïîñëå ðàçáèåíèÿ X ïðîâîäèòñÿ ñîðòèðîâêà âûáîðî÷íûõ äàííûõ
Xr ïî îáëàñòÿì ðàçáèåíèé è ïîäñ÷èòûâàþòñÿ êîëè÷åñòâà ν1 , . . . , νr ,
νi = n,
1
äàííûõ, ïîïàâøèõ â ñîîòâåòñòâóþùèå îáëàñòè A1 , . . . Ar . Âû÷èñëÿþòñÿ òåîðåòè÷åñêèå âåðîÿòíîñòè pi = P (Ai ), i = 1, . . . , r ïîïàäàíèÿ âûáîðî÷íûõ
äàííûõ â ýòè îáëàñòè è âû÷èñëÿåòñÿ çíà÷åíèå x2 òåñòîâîé ñòàòèñòèêè
2
X =
r
X
(νi − npi )2
npi
i=1
.
Ãèïîòåçà H îòâåðãàåòñÿ, åñëè x2 > C, ãäå êðèòè÷åñêàÿ êîíñòàíòà C âûáèðàåòñÿ ïî çàäàííîìó óðîâíþ çíà÷èìîñòè α êàê íàèìåíüøåå ÷èñëî, óäîâëåòâîðÿþùåå íåðàâåíñòâó P (X 2 > C) ≤ α. Åñòåñòâåííî, íà ïðàêòèêå èñïîëüçóþò êðèòè÷åñêèé óðîâåíü çíà÷èìîñòè αêð. = P (X 2 > x2 ), ñîïðîâîæäàÿ
åãî êîììåíòàðèÿìè òèïà òåõ, êîòîðûå áûëè ïðèâåäåíû â ïðåäûäóùåì ïàðàãðàôå ïîñëå ââåäåíèÿ ïîíÿòèÿ êðèòè÷åñêîãî óðîâíÿ çíà÷èìîñòè. Îäíàêî
òî÷íîå ðàñïðåäåëåíèå ñòàòèñòèêè X 2 íàéòè â ÿâíîì âèäå íå ïðåäñòàâëÿåòñÿ
249
âîçìîæíûì; ïðåäåëüíîå ðàñïðåäåëåíèå X 2 ïðè n → ∞ óñòàíîâèë Ê.Ïèðñîí
â ñàìîì íà÷àëå ÕÕ âåêà.
Òåîðåìà 9.1. Åñëè ÷èñëî ðàçáèåíèé r ≥ 2 ôèêñèðîâàíî, à îáúåì âû-
áîðêè n → ∞, òî ðàñïðåäåëåíèå X 2 ñõîäèòñÿ ê ðàñïðåäåëåíèþ õè-êâàäðàò
ñ r − 1 ñòåïåíüþ ñâîáîäû.
Ä î ê à ç à ò å ë ü ñ ò â î.. Î÷åâèäíî, äëÿ âûâîäà ïðåäåëüíîãî ðàñïðåäåëåíèÿ X 2 ñëåäóåò â ïåðâóþ
Xnî÷åðåäü îáðàòèòüñÿ ê ñîâìåñòíîìó ðàñïðåäåëåíèþ ÷àñòîò ν1 , . . . , νr ,
νi = n. Ýòî ìóëüòèíîìèàëüíîå ðàñïðåäåëåíèå
1
M(r, n, p), (ñì. 9 êóðñà ÒÂ) ñ ôóíêöèåé ïëîòíîñòè
n!
p1x1 · · · prxr ,
x1 ! · · · xr !
Xn
ñîñðåäîòî÷åííîå íà öåëî÷èñëåííîé ðåøåòêå
xi = n. Òåîðåìà 9.1 èç
1
êóðñà Ò óòâåðæäàåò, ÷òî ñîâìåñòíîå ðàñïðåäåëåíèå ïåðâûõ r − 1 ÷àñòîò
ν1 , . . . , νr−1 àïïðîêñèìèðóåòñÿ r − 1-ìåðíûì íîðìàëüíûì ðàñïðåäåëåíèåì.
Åñòåñòâåííî, ïðåäåëüíîå ðàñïðåäåëåíèå âñåãî âåêòîðà ÷àñòîò ν1 , . . . , νr ïðè
ñîîòâåòñòâóþùåé íîðìèðîâêå íà èõX
ñðåäíèå çíà÷åíèÿ è ñòàíäàðòíûå îòn
êëîíåíèÿ áóäåò âûðîæäåííûì, èáî
νi = n. Âûðîæäåííûå ðàñïðåäåëå1
íèÿ ëó÷øå âñåãî èññëåäîâàòü ñ ïîìîùüþ õàðàêòåðèñòè÷åñêèõ ôóíêöèé, èáî
òàêèå ðàñïðåäåëåíèÿ ìîæíî çàïèñàòü â ÿâíîì âèäå, òîëüêî ïåðåõîäÿ ê ñèñòåìå êîîðäèíàò íà òîé ãèïåðïîâåðõíîñòè, ãäå ñîñðåäîòî÷åíî òàêîå ðàñïðåäåëåíèå, è ýòî ÷ðåçâû÷àéíî óñëîæíÿåò òåõíèêó àñèìïòîòè÷åñêîãî àíàëèçà
ðàñïðåäåëåíèé. Èòàê, íàéäåì ñîâìåñòíóþ õàðàêòåðèñòè÷åñêóþ ôóíêöèþ
ν1 , . . . , ν r .
Âñïîìíèì ñõåìó ìóëüòèíîìèàëüíûõ èñïûòàíèé. Ìû íàáëþäàåì âûáîðêó Y1 , . . . , Yn èç ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà Y = (X1 , . . . , Xr ), âñå
êîìïîíåíòû êîòîðîãî, çà èñêëþ÷åíèåì îäíîé (ñêàæåì, Xj ), ìîãóò ïðèíèìàòü òîëüêî íóëåâûå çíà÷åíèÿ, â òî âðåìÿ êàê Xj = 1. Êàæäàÿ êîìïîíåíòà Yi âûáîðêè Y (n) = (Y1 , . . . , Yn ) åñòü íåçàâèñèìàÿ êîïèÿ Y, òàê ÷òî
Yi = (X1i , . . . , Xri ) è Xji êîïèÿ (â ñìûñëå îäèíàêîâîñòè ðàñïðåäåëåíèÿ)
Xj , j = 1, . . . , r, i = 1, . . . , n.  òàêèõ îáîçíà÷åíèÿõ
f (x1 , . . . , xr ) = P (ν1 = x1 , . . . , νr = xr ) =
νj =
n
X
Xji , j = 1, . . . , r.
i=1
Åñëè ìû íàéäåì õàðàêòåðèñòè÷åñêóþ ôóíêöèþ ϕ Y (t), t = (t1 , . . . , tr ),
íàáëþäàåìîãî âåêòîðà Y, òî õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ϕν (t) âåêòîðà
250
÷àñòîò ν = (ν1 , . . . , νr ) áóäåò âû÷èñëÿòüñÿ ïî ôîðìóëå ϕν (t) = ϕnY (t), èáî
õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ñóììû íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ðàâíà ïðîèçâåäåíèþ õàðàêòåðèñòè÷åñêèõ ôóíêöèé ñëàãàåìûõ (ïóíêò 30 òåîðåìû
Xr12.1 êóðñà ÒÂ). Íî õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ âåêòîðà Y (íàïîìíèì,
Xj = 1)
(
1
ϕ Y (t) = E exp i
r
X
)
tj Xj
=
r
X
1
è ïîýòîìó
ϕν (t) =
pj ei tj ,
1
à r
X
!n
pj ei tj
.
1
Òåïåðü ïåðåéäåì ê àñèìïòîòè÷åñêîìó àíàëèçó õàðàêòåðèñòè÷åñêîé ôóíêöèè âåêòîðà X íîðìèðîâàííûõ ÷àñòîò
νj − npj
, j = 1, . . . , r,
Xj = √
npj
ñóììà êâàäðàòîâ êîìïîíåíò êîòîðîãî ñîñòàâëÿåò òåñòîâóþ ñòàòèñòèêó X 2
(èçâèíèòå, ÷òî èñïîëüçóþ áóêâó X â íîâîì ñìûñëå, íî íå õî÷åòñÿ ââîäèòü
äëÿ îáîçíà÷åíèÿ ñëó÷àéíûõ âåëè÷èí íîâûå ñèìâîëû). Õàðàêòåðèñòè÷åñêàÿ
ôóíêöèÿ ñëó÷àéíîãî âåêòîðà, êîìïîíåíòû êîòîðîãî ïîäâåðãíóòû ëèíåéíîìó ïðåîáðàçîâàíèþ, âû÷èñëÿåòñÿ ïî ôîðìóëå, àíàëîãè÷íîé ïóíêòó 20 òåîðåìû 12.1:
(
r
X
√
ϕX (t) = exp −i
tj npj
)Ã
r
X
½
pj exp
1
1
i tj
√
npj
¾!n
.
Ðàçëîæèì ëîãàðèôì ýòîé ôóíêöèè â ðÿä Ìàêëîðåíà ïî ñòåïåíÿì t1 , . . . ,
tr , êàê ýòî äåëàëîñü ïðè äîêàçàòåëüñòâå öåíòðàëüíîé ïðåäåëüíîé òåîðåìû:
r
√ X
√
ln ϕX (t) = −i n
tj pj +
1
"
r
r
i X √
1 X 2
n ln 1 + √
tj pj −
tj + O(n−3/2 )
2n 1
n 1
à r
!2
r
1X 2 1 X √
tj +
tj pj + O(n−1/2 ).
=−
2 1
2
1
251
#
=
Òàêèì îáðàçîì, õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ïðåäåëüíîãî ðàñïðåäåëåíèÿ âåêòîðà X íîðìèðîâàííûõ ÷àñòîò åñòü
à r
!2
r
1 X
X √
2
t j pj
lim ϕX (t) = exp −
tj −
.
n→∞
2
1
1
Ýòî õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ r-ìåðíîãî íîðìàëüíîãî ðàñïðåäåëåíèÿ
ñ íóëåâûìè ñðåäíèìè è ìàòðèöåé êîâàðèàöèé Λ = I−pp0 , ãäå I åäèíè÷íàÿ
√
√
ìàòðèöà, à p = ( p1 , . . . , pr ) âåêòîð ñòîëáåö.
Ðàññìîòðèì êâàäðàòè÷íóþ ôîðìó
Q(t) =
r
X
Ã
t2j −
r
X
√
tj pj
1
!2
,
1
êîýôôèöèåíòû êîòîðîé îïðåäåëÿþò êîâàðèàöèè êîìïîíåíò âåêòîðà Z =
(Z1 , . . . , Zr ), ðàñïðåäåëåííîãî ïî íîðìàëüíîìó çàêîíó. Åñëè ïðîèçâåñòè îðòîãîíàëüíîå ïðåîáðàçîâàíèå A âåêòîðà t, ïîëàãàÿ u = At è ôèêñèðóÿ
ïîñëåäíþþ ñòðîêó ìàòðèöû X
A òàêèì îáðàçîì, ÷òîáû â íîâîì âåêòîðå u =
r √
(u1 , . . . , ur ) êîìïîíåíòà ur =
tj pj , òî ìû ïîëó÷èì êâàäðàòè÷íóþ ôîð1
ìó (âñïîìíèòå àíàëîãè÷íûå îðòîãîíàëüíûå ïðåîáðàçîâàíèÿ íîðìàëüíîãî
âåêòîðà ïðè âûâîäå ðàñïðåäåëåíèÿ âûáîðî÷íîé äèñïåðñèè â ëåììå Ôèøåðà)
Q(t) =
r
X
1
Ã
t2j
−
r
X
√
tj pj
!2
=
1
r
X
u2j
−
u2r
=
r−1
X
u2j .
1
1
Òàêèì îáðàçîì, ñóùåñòâóåò îðòîãîíàëüíîå ïðåîáðàçîâàíèå Y = BZ âåêòîðà Z, ïîñëå êîòîðîãî Y1 , . . . , Yr−1 íåçàâèñèìû è îäèíàêîâî íîðìàëüíî ðàñïðåäåëåíû ñî ñðåäíèìè, ðàâíûìè íóëþ, è åäèíè÷íûìè äèñïåðñèÿìè, à Yr
èìååò íóëåâîå ñðåäíåå è íóëåâóþ äèñïåðñèþ, òî åñòü Yr = 0 ïî÷òè íàâåðíîå.
Âñå ýòî, êîíå÷íî, ñëåäñòâèå âûðîæäåííîñòè íîðìàëüíîãî
Xr √ ðàñïðåäåëåíèÿ
âåêòîðà Z îíî ñîñðåäîòî÷åíî íà ãèïåðïëîñêîñòè
Zj pj = 0.
1
Xr
Èçó÷èì òåïåðü ïðåäåëüíîå ðàñïðåäåëåíèå ñòàòèñòèêè X =
Xj2 . Ïî1
ñêîëüêó ïðåäåëüíîå ðàñïðåäåëåíèå âåêòîðà X ñîâïàäàåò ñ ðàñïðåäåëåíèåì
2
âåêòîðà Z, òî ïðåäåëüíîå ðàñïðåäåëåíèå
Xr ñòàòèñòèêè X îïðåäåëÿåòñÿ ðàñïðåäåëåíèåì êâàäðàòè÷íîé ôîðìû
Zj2 . Êàê èçâåñòíî, îðòîãîíàëüíûå
2
1
ïðåîáðàçîâàíèÿ íå ìåíÿþò ñóììû êâàäðàòîâ, ïîýòîìó
252
Xr
1
Zj2 =
Xr
1
Yj2 =
Xr−1
Yj2 . Ñëåäîâàòåëüíî, ïðåäåëüíîå ðàñïðåäåëåíèå ñòàòèñòèêè X 2 åñòü
1
ðàñïðåäåëåíèå ñóììû êâàäðàòîâ r − 1 íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí,
èìåþùèõ îáùåå ñòàíäàðòíîå íîðìàëüíîå ðàñïðåäåëåíèå. Ïî îïðåäåëåíèþ
ýòî õè-êâàäðàò ðàñïðåäåëåíèå ñ r − 1 ñòåïåíÿìè ñâîáîäû. Òåîðåìà Ïèðñîíà äîêàçàíà.
Ëåêöèÿ 15
Ðàññìîòðèì òåïåðü áîëåå ñëîæíóþ ñòàòèñòè÷åñêóþ ïðîáëåìó, â êîòîðîé ïðîâåðÿåòñÿ ãèïîòåçà î ïðèíàäëåæíîñòè ðàñïðåäåëåíèÿ P íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû íåêîòîðîìó ïàðàìåòðè÷åñêîìó ñåìåéñòâó P =
{P θ , θ ∈ Θ ⊆ Rs }, èíäåêñèðîâàííîìó s-ìåðíûì ïàðàìåòðîì θ = (θ1 , . . . , θs ).
 òàêîì ñëó÷àå
2
X (θ) =
r
X
(νi − npi (θ))2
npi (θ)
i=1
íå ìîæåò íàçûâàòüñÿ ñòàòèñòèêîé è åå íåëüçÿ èñïîëüçîâàòü äëÿ ïðîâåðêè
ñëîæíîé ãèïîòåçû H : P ∈ P. Åñòåñòâåííî âîñïîëüçîâàòüñÿ êàêîé-ëèáî
îöåíêîé θ̂n = θ̂n (X (n) ) ïàðàìåòðà θ è ðàññìîòðåòü òåñòîâóþ ñòàòèñòèêó
2
2
X̂ = X (θ̂n ) =
r
X
(νi − npi (θ̂n ))2
i=1
npi (θ̂n )
.
Ïîíÿòíî, ÷òî ðàñïðåäåëåíèå ñòàòèñòèêè X̂ 2 ìîæåò çàâèñåòü îò ìåòîäà
îöåíêè ïàðàìåòðà θ. Îäíàêî, åñëè îïðåäåëèòü îöåíêó θ̂n èç óñëîâèÿ ìèíèìóìà ñëó÷àéíîé ôóíêöèè X 2 (θ), òî, êàê ïîêàçàë Ôèøåð, ïðè îïðåäåëåííûõ
óñëîâèÿõ ðåãóëÿðíîñòè, êîòîðûì óäîâëåòâîðÿþò âñå ðàññìîòðåííûå íàìè
â êóðñå ÒÂ âåðîÿòíîñòíûå ìîäåëè, ïðåäåëüíîå ðàñïðåäåëåíèå ñòàòèñòèêè
X̂ 2 åñòü õè-êâàäðàò ðàñïðåäåëåíèå ñ r − s − 1 ñòåïåíÿìè ñâîáîäû. Åñëè
æå θ̂n îöåíêà θ ïî ìåòîäó ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ, òî ïðåäåëüíîå
ðàñïðåäåëåíèå X̂ 2 , òàêæå ïðè óñëîâèÿõ ðåãóëÿðíîñòè òèïà òåõ, ÷òî îáåñïå÷èâàëè àñèìïòîòè÷åñêóþ íîðìàëüíîñòü θ̂n , èìååò ôóíêöèþ ðàñïðåäåëåíèÿ
K(x), äëÿ êîòîðîé ñïðàâåäëèâà äâóñòîðîííÿÿ îöåíêà
Kr−1 (x) ≤ K(x) ≤ Kr−s−1 (x),
ïðè ëþáîì x > 0.
Äîêàçàòåëüñòâî ýòèõ óòâåðæäåíèé äîñòàòî÷íî ãðîìîçäêî è ìû íå áóäåì èì çàíèìàòüñÿ èç-çà íåäîñòàòêà âðåìåíè. Èäåéíàÿ ñòîðîíà ïðîáëåìû
253
íàì ÿñíà, è êîëü ñêîðî íàì ñîîáùèëè ðàñïðåäåëåíèå òåñòîâîé ñòàòèñòèêè,
òî ìû ìîæåì èñïîëüçîâàòü åãî äëÿ ðàñ÷åòà êðèòè÷åñêîãî óðîâíÿ çíà÷èìîñòè.  ñëó÷àå îöåíêè ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ, êîãäà ìû ðàñïîëàãàåì
äâóñòîðîííåé îöåíêîé αêð. , ðåêîìåíäóåòñÿ
ïðè îòêëîíåíèè
ãèïîòåçû îðè¡
¢
åíòèðîâàòüñÿ íà αêð. = 1 − Kr−1 (x2 )¡ > 1 − Kr−s−1¢(x2 ) , à â ñëó÷àå åå
ïðèíÿòèÿ íà αêð. = 1 − Kr−s−1 (x2 ) < 1 − Kr−1 (x2 ) , ÷òîáû óìåíüøèòü
ðèñê îò ïðèíÿòèÿ íåïðàâèëüíîãî ðåøåíèÿ.
Êðèòåðèé õè-êâàäðàò ÿâëÿåòñÿ íàèáîëåå óíèâåðñàëüíûì ñòàòèñòè÷åñêèì
ìåòîäîì òåñòèðîâàíèÿ âåðîÿòíîñòíîé ìîäåëè, ïîñêîëüêó ïðåäåëüíîå ðàñïðåäåëåíèå ñòàòèñòèêè íå çàâèñèò îò ðàñïðåäåëåíèÿ íàáëþäàåìîé ñëó÷àéíîé âåëè÷èíû äàæå â òîì ñëó÷àå, êîãäà ýòî ðàñïðåäåëåíèå çàâèñèò îò ïà√
ðàìåòðîâ, çíà÷åíèå êîòîðûõ íåèçâåñòíî. Êðèòåðèé Êîëìîãîðîâà nDn =
√
n sup x | Fn (x) − F (x) | > C, î êîòîðîì ãîâîðèëîñü â íà÷àëå 2, ìîæíî
èñïîëüçîâàòü òîëüêî äëÿ ïðîâåðêè ïðîñòîé ãèïîòåçû F (·) = F 0 (·) î âèäå
ôóíêöèè ðàñïðåäåëåíèÿ. Åñëè F 0 (x | θ) çàâèñèò
θ è â ñòà³ îò ïàðàìåòðà
´
√
nDn âìåñòî F (x) ïîäñòàâëÿåòñÿ F 0 x | θ̂n (X (n) ) , òî ðàñïðåäå√
ëåíèå ìîäèôèöèðîâàííîé òàêèì îáðàçîì ñòàòèñòèêè nDn çàâèñèò êàê îò
âèäà ôóíêöèè F 0 , òàê è îò ïàðàìåòðà θ. Ñóùåñòâóåò, ïðàâäà, íåñêîëüêî ñëó÷àåâ îñîáîé ñâÿçè ìåæäó x è θ â çàïèñè ôóíêöèè F 0 , ïðè íàëè÷èè êîòîðîé
ðàñïðåäåëåíèå òåñòîâîé ñòàòèñòèêè íå çàâèñèò îò θ. Ýòî, íàïðèìåð, òàêèå
ôóíêöèè ðàñïðåäåëåíèÿ ñ ïàðàìåòðàìè ìàñøòàáà è ñäâèãà, êàê íîðìàëüíîå è ïîêàçàòåëüíîå. Äëÿ òåñòèðîâàíèÿ òàêèõ ðàñïðåäåëåíèé ñîñòàâëÿþòñÿ
ñïåöèàëüíûå òàáëèöû êðèòè÷åñêèõ êîíñòàíò è êðèòè÷åñêèõ óðîâíåé çíà÷èìîñòè. Ñëåäóåò çàìåòèòü, ÷òî ïðÿìîå èñïîëüçîâàíèå êðèòåðèÿ Êîëìîãîðîâà
ñ îöåíêàìè íåèçâåñòíûõ çíà÷åíèé ïàðàìåòðîâ ÿâëÿåòñÿ íàèáîëåå ðàñïðîñòðàíåííîé îøèáêîé â ïðàêòè÷åñêèõ ïðèëîæåíèÿõ ìåòîäîâ òåñòèðîâàíèÿ
âåðîÿòíîñòíûõ ìîäåëåé.
Îáðàòèìñÿ òåïåðü ê ïðîâåðêå ãèïîòåç, êàñàþùèõñÿ íå ñòîëüêî âèäà ðàñïðåäåëåíèÿ íàáëþäàåìûõ ñëó÷àéíûõ âåëè÷èí, ñêîëüêî èõ îñîáûõ ñâîéñòâ,
íàëè÷èå êîòîðûõ ïîçâîëÿåò çíà÷èòåëüíî óïðîñòèòü âåðîÿòíîñòíóþ ìîäåëü
è äîáèòüñÿ åå áîëåå ÷åòêîé ñïåöèôèêàöèè.
òèñòèêó
20 . Êðèòåðèé íåçàâèñèìîñòè õè-êâàäðàò (òàáëèöû ñîïðÿæåííîñòè ïðèçíàêîâ). Ñëåäóþùàÿ çàäà÷à âûÿâëåíèÿ çàâèñèìîñòè ìåæäó îïðåäåëåííûìè ïðèçíàêàìè íàáëþäàåìûõ îáúåêòîâ ÷àñòî âîçíèêàåò â
ïðàêòè÷åñêèõ ïðèëîæåíèÿõ ìàòåìàòè÷åñêîé ñòàòèñòèêè. Ïðåäïîëîæèì, ÷òî
ìû ñëó÷àéíî âûáðàëè n îñîáåé èç íåêîòîðîé ýòíè÷åñêîé ïîïóëÿöèè, è õî254
òèì âûÿñíèòü, ñóùåñòâóåò ëè çàâèñèìîñòü ìåæäó öâåòîì âîëîñ è öâåòîì
ãëàç. Ìû ðàçëè÷àåì s ≥ 2 óðîâíåé ïåðâîãî ïðèçíàêà (íàïðèìåð, áëîíäèí,
áðþíåò, øàòåí è ðûæèé) è r ≥ 2 óðîâíåé âòîðîãî (íàïðèìåð, êàðèå, ñåðûå,
ãîëóáûå è çåëåíûå). Âñå n îñîáåé ðàçáèâàþòñÿ íà sr ãðóïï â ñîîòâåòñòâèè
ñ íàëè÷èåì òåõ èëè èíûõ óðîâíåé êàæäîãî ïðèçíàêà, è ñîñòàâëÿåòñÿ ñëåäóþùàÿ òàáëèöà ÷àñòîò îñîáåé â êàæäîé ãðóïïå.
Ïðèçíàêè
1
2
..
.
r
Ñóììà
1
ν 11
ν 21
..
.
ν r1
ν·1
2
ν 12
ν 22
..
.
ν r2
ν·2
···
···
···
..
.
···
···
s Ñóììà
ν 1s
ν1·
ν 2s
ν2·
..
..
.
.
ν rs
νr·
ν·s
n
Òàêèå òàáëèöû, â êîòîðûõ ñóììû
νi· =
s
X
ν ij ,
ν·j =
j=1
r
X
ν ij ,
i=1
íàçûâàþòñÿ òàáëèöàìè ñîïðÿæåííîñòè ïðèçíàêîâ. Òðåáóåòñÿ ïðîâåðèòü
íóëåâóþ ãèïîòåçó î òîì, ÷òî ïåðåìåííûå ïðèçíàêè, ïî êîòîðûì ïîñòðîåíà
òàáëèöà, íåçàâèñèìû. Ïîñòðîèì âåðîÿòíîñòíóþ ìîäåëü, ñîîòâåòñòâóþùóþ
òàêîãî ðîäà òàáëè÷íûì äàííûì è ñîñòàâèì ñòàòèñòèêó X 2 äëÿ ïðîâåðêè
ãèïîòåçû íåçàâèñèìîñòè.
Ïóñòü p ij âåðîÿòíîñòü òîãî, ÷òî ñëó÷àéíî îòîáðàííàÿ îñîáü èìååò i-ûé
óðîâåíü ïî ïåðâîìó ïðèçíàêó è j -ûé ïî âòîðîìó, i = 1, . . . , r, j = 1, . . . , s.
Ãèïîòåçà íåçàâèñèìîñòè îçíà÷àåò, ÷òî p ij = p i · p · j , ãäå
pi· =
s
X
p ij ,
p·j =
j=1
r
X
p ij
i=1
ïðè ëþáûõ i = 1, . . . , r è j = 1, . . . , s. Äëÿ ïðîâåðêè ãèïîòåçû íåçàâèñèìîñòè ïðåäëàãàåòñÿ èñïîëüçîâàòü òåñòîâóþ ñòàòèñòèêó
2
X =
X (ν ij − n p i · p · j )2
i,j
n pi· p·j
,
(1)
â êîòîðîé ñóììèðîâàíèå ðàñïðîñòðàíÿåòñÿ íà âñå rs ãðóïï òàáëèöû ñîïðÿæåííîñòè ïðèçíàêîâ. Ïîíÿòíî, ÷òî X 2 ÿâëÿåòñÿ òåñòîâîé ñòàòèñòèêîé
255
òîëüêî â ñëó÷àå èçâåñòíûõ çíà÷åíèé r + s − 2 ïàðàìåòðîâ p i · è p · j , i =
P
P
1, . . . , r, j = 1, . . . , s (íàïîìíèì, r1 p i · = s1 p · j = 1, òàê ÷òî ñ ïîìîùüþ
ýòèõ ñîîòíîøåíèé äâà èç r + s ïàðàìåòðîâ, íàïðèìåð, p r · è p · s , ìîæíî
âûðàçèòü ÷åðåç îñòàëüíûå r + s − 2 ïàðàìåòðîâ).  ýòîì ñëó÷àå X 2 èìååò
â ïðåäåëå (n → ∞) õè-êâàäðàò ðàñïðåäåëåíèå ñ rs − 1 ñòåïåíÿìè ñâîáîäû.
Êîíå÷íî, âñÿ ïðîáëåìà ñîñòîèò â òîì, ÷òî ýòè ïàðàìåòðû íåèçâåñòíû.
Îêàçûâàåòñÿ, îöåíêè ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ
ν·j
νi·
, p̂ · j =
, i = 1, . . . , r, j = 1, . . . , s,
n
n
ýòèõ ïàðàìåòðîâ àñèìïòîòè÷åñêè ýêâèâàëåíòíû îöåíêàì ïî ìåòîäó ìèíèìóìà ñòàòèñòèêè X 2 , è ïîýòîìó ïîäñòàíîâêà â ïðàâóþ ÷àñòü (1) ýòèõ îöåíîê
ïðèâîäèò ê ñòàòèñòèêå
Ã
!
X ν 2ij
X (ν ij − ν i · ν · j /n)2
=n
−1 ,
X̂ 2 = n
ν
ν
ν
ν
i
·
·
j
i
·
·
j
i,j
i,j
p̂ i · =
ïðåäåëüíîå ðàñïðåäåëåíèå êîòîðîé åñòü õè-êâàäðàò ñ rs − (r + s − 2) − 1 =
(r − 1)(s − 1) ñòåïåíÿìè ñâîáîäû.
Åñòåñòâåííî, ñòàòèñòèêó X̂ 2 ìîæíî èñïîëüçîâàòü äëÿ ïðîâåðêè íåçàâèñèìîñòè êîìïîíåíò äâóìåðíîãî âåêòîðà (X, Y ), è ïðè ýòîì òàáëèöà ñîïðÿæåííîñòè ïðåäñòàâëÿåò ÷àñòîòíûå äàííûå äëÿ ïîñòðîåíèÿ ãèñòîãðàììû
äâóìåðíîé âûáîðêè (X1 , Y1 ), . . . , (Xn Yn ). Ñîîòâåòñòâóþùèì îáðàçîì íîðìèðîâàííàÿ ñòàòèñòèêà X 2 ìîæåò ñëóæèòü ìåðîé çàâèñèìîñòè ïðèçíàêîâ
(èëè êîìïîíåíò X è Y ñëó÷àéíîãî âåêòîðà).
30 . Êðèòåðèé îäíîðîäíîñòè õè-êâàäðàò. Àíàëèçèðóþòñÿ äàííûå s ≥ 2 íåçàâèñèìûõ ìóëüòèíîìèàëüíûõ ñõåì èñïûòàíèé ñ îäèíàêîâûì ÷èñëîì r ≥ 2 âîçìîæíûõ èñõîäîâ è ñîîòâåòñòâóþùèìè îáúåìàìè
n1 , . . . , ns íàáëþäåíèé â êàæäîé ñõåìå. Ïðîâåðÿåòñÿ ãèïîòåçà îäíîðîäíîñòè: âñå ñõåìû
Xr èñïûòàíèé èìåþò îäèíàêîâûé âåêòîð âåðîÿòíîñòåé p =
(p1 , . . . , pr ),
pi = 1, ïîÿâëåíèÿ ñîîòâåòñòâóþùèõ èñõîäîâ, ïðè÷åì çíà1
÷åíèÿ êîìïîíåíò âåêòîðà p íå èçâåñòíû. Îáîçíà÷àÿ ν ij ÷àñòîòó ïîÿâëåíèÿ
i-ãî èñõîäà â j -îì èñïûòàíèè, ïðåäñòàâèì äàííûå íàáëþäåíèé â âèäå òàáëèöû, àíàëîãè÷íîé òàáëèöå ñîïðÿæåííîñòè ïðèçíàêîâ
256
èñõ. \ ñõåì.
1
ν 11
ν 21
..
ν .r1
n1
1
2
..
r.
Ñóììà
2
ν 12
ν 22
..
ν .r2
n2
···
···
···
..
· ·. ·
···
s Ñóììà
ν 1s
ν1·
ν 2s
ν2·
..
..
ν .rs
ν.r ·
ns
n
Ñîñòàâèì ñíà÷àëà ñòàòèñòèêó õè-êâàäðàò äëÿ ñëó÷àÿ èçâåñòíîãî âåêòîðà
âåðîÿòíîñòåé p:
2
X =
s X
r
X
(ν ij − n j p i )2
j=1 i=1
Âíóòðåííÿÿ ñóììà
Xj2
=
nj pi
.
r
X
(ν ij − n j p i )2
nj pi
i=1
ïðåäñòàâëÿåò ñòàòèñòèêó õè-êâàäðàò äëÿ j -îé ñõåìû ìóëüòèíîìèàëüíûõ
èñïûòàíèé, è ïîýòîìó èìååò â ïðåäåëå (nj → ∞) õè-êâàäðàò ðàñïðåäåëåíèå ñ r − 1 ñòåïåíÿìè ñâîáîäû. Ñòàòèñòèêà X 2 åñòü ñóììà s íåçàâèñèìûõ
ñòàòèñòèê, êàæäàÿ èç êîòîðûõ èìååò ïðåäåëüíîå õè-êâàäðàò ðàñïðåäåëåíèå, òàê ÷òî, â ñèëó òåîðåìû ñëîæåíèÿ, ïðåäåëüíîå ðàñïðåäåëåíèå X 2 åñòü
õè-êâàäðàò ðàñïðåäåëåíèå ñ (r − 1)s ñòåïåíÿìè ñâîáîäû.
 ñëó÷àå íåèçâåñòíûõ çíà÷åíèé âåðîÿòíîñòåé èñõîäîâ, êîòîðûå ïðè ñïðàâåäëèâîñòè íóëåâîé ãèïîòåçû îäèíàêîâû äëÿ âñåõ ñõåì èñïûòàíèé, èñïîëüçóåì èõ îöåíêè p̂ i = ν i · /n, i = 1, . . . , r, (âñåãî îöåíèâàåòñÿ r − 1 ïàðàìåòð).
Ïîäñòàíîâêà ýòèõ îöåíîê â X 2 äàåò ñòàòèñòèêó
X̂ 2 = n
X (ν ij − n j ν i · /n)2
i,j
nj νi·
Ã
!
X ν 2ij
=n
−1 ,
n
ν
j
i
·
i,j
ïðåäåëüíîå ðàñïðåäåëåíèå êîòîðîé åñòü õè-êâàäðàò ñ (r − 1)s − (r − 1) =
(r − 1)(s − 1) ñòåïåíÿìè ñâîáîäû. Çàìå÷àòåëåí òîò ôàêò, ÷òî ìû ïîëó÷èëè
òåñòîâóþ ñòàòèñòèêó òàêîãî æå âèäà è ñ òåì æå ïðåäåëüíûì ðàñïðåäåëåíèåì, ÷òî è ïðè ïðîâåðêå ãèïîòåçû íåçàâèñèìîñòè ïðèçíàêîâ.
Åñòåñòâåííî, ïîñòðîåííûé êðèòåðèé ìîæíî èñïîëüçîâàòü äëÿ ïðîâåðêè ãèïîòåçû îäíîðîäíîñòè ðàñïðåäåëåíèé, èç êîòîðûõ èçâëåêàþòñÿ s ≥ 2
âûáîðîê. Âûáîðî÷íûå äàííûå ïðè ýòîì ïîäâåðãàþòñÿ ãðóïïèðîâêå â ñîîòâåòñòâèè ñ îäèíàêîâûì äëÿ âñåõ âûáîðîê ðàçáèåíèåì ïðîñòðàíñòâà X íà
r ≥ 2 îáëàñòåé.
257
ËÈÒÅÐÀÒÓÐÀ
1. Áîëüøåâ Ë.Í., Ñìèðíîâ Í.Â. Òàáëèöû ìàòåìàòè÷åñêîé ñòàòèñòèêè.
Ì.: Íàóêà,1983.
2. Áîðîâêîâ À.À. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. Ì.: Íàóêà, 1984.
3. Áîðîâêîâ À.À. Òåîðèÿ âåðîÿòíîñòåé. Ì.: Íàóêà, 1986.
4. Êîçëîâ Ì.Â., Ïðîõîðîâ À.Â. Ââåäåíèå â ìàòåìàòè÷åñêóþ ñòàòèñòèêó.
Ì.: Èçä-âî ÌÃÓ, 1987.
5. Êðàìåð Ã. Ìàòåìàòè÷åñêèå ìåòîäû ñòàòèñòèêè. Ì.: Ìèð, 1975.
6. ×èñòÿêîâ Â.Ï. Êóðñ òåîðèè âåðîÿòíîñòåé. Ì.: Íàóêà, 1982.
7. Øèðÿåâ À.Í. Âåðîÿòíîñòü. Ì.: Íàóêà, 1980.
258