Теория вероятностей

ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ Î. Å. Ùåðáàêîâà 1 2 Î. Å. Ùåðáàêîâà Ñîäåðæàíèå 1. Èñòîðèÿ ñòàíîâëåíèÿ òåîðèè âåðîÿòíîñòåé 1.1. Ïðåäûñòîðèÿ 1.2. Ïåðûé ïåðèîä (XVII âåê - íà÷àëî XVIII âåêà) 1.3. Âòîðîé ïåðèîä (XVIII âåê - íà÷àëî XIX âåêà) 1.4. Òðåòèé ïåðèîä (âòîðàÿ ïîëîâèíà XIX âåêà) 1.5. ×åòâåðòûé ïåðèîä (íà÷àëî XX âåêà) 2. Äëÿ ÷åãî íóæíî èçó÷àòü òåîðèþ âåðîÿòíîñòåé 3. Àêñèîìàòè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè 3.1. Àêñèîìû âåðîÿòíîñòè 3.2. Ñâîéñòâà âåðîÿòíîñòè 4. Êëàññè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè 4.1. Âçãëÿä íà êëàññè÷åñêóþ âåðîÿòíîñòü ÷åðåç ïðèçìó àêñèîìàòè÷åñêîãî îïðåäåëåíèÿ 4.2. Ýëåìåíòû êîìáèíàòîðèêè 5. Ãåîìåòðè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè 5.1. Îïðåäåëåíèå 5.2. Ïàðàäîêñ Áåðòðàíà 5.3. Çàäà÷à Áþôôîíà 6. Óñëîâíàÿ âåðîÿòíîñòü. Ôîðìóëà ïîëíîé âåðîÿòíîñòè. Ôîðìóëà Áàéåñà. Íåçàâèñèìîñòü ñîáûòèé 6.1. Îïðåäåëåíèå óñëîâíîé âåðîÿòíîñòè 6.2. Ôîðìóëà ïîëíîé âåðîÿòíîñòè 6.3. Ôîðìóëà Áàéåñà 7. Íåçàâèñèìîñòü ñîáûòèé 7.1. Îïðåäåëåíèå 7.2. Îïðåäåëåíèå ðàçëè÷íûõ âèäîâ íåçàâèñèìîñòè äëÿ ìíîæåñòâà ñîáûòèé 7.3. Óðíîâàÿ ñõåìà Ëàïëàñà 8. Ñëó÷àéíûå ýëåìåíòû è èõ ðàñïðåäåëåíèå 9. Ïîíÿòèå ñëó÷àéíîé âåëè÷èíû 10. Ïîñëåäîâàòåëüíîñòè íåçàâèñèìûõ èñïûòàíèé Áåðíóëëè 10.1. Îïðåäåëåíèå íåçàâèñèìûõ èñïûòàíèé 10.2. Ôîðìóëà Áåðíóëëè 10.3. Î íàèáîëåå âåðîÿòíîì ÷èñëå óñïåõîâ 10.4. Ëîêàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà 10.5. Èíòåãðàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà 10.6. Çàêîí áîëüøèõ ÷èñåë Áåðíóëëè 10.7. Òåîðåìà Ïóàññîíà 11. Ôóíêöèÿ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû 11.1. Îïðåäåëåíèå ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû 11.2. Ñâîéñòâà ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû 12. Ðàçëè÷íûå âèäû ñëó÷àéíûõ âåëè÷èí 12.1. Äèñêðåòíûå ðàñïðåäåëåíèÿ 12.2. Aáñîëþòíî íåïðåðûâíûå ðàñïðåäåëåíèÿ 12.3. Ñèíãóëÿðíûå ðàñïðåäåëåíèÿ 13. Ñëó÷àéíûå âåêòîðû è èõ ðàñïðåäåëåíèÿ â Rn 4 4 4 6 6 7 8 9 9 9 13 13 13 15 15 15 17 19 19 19 20 21 21 21 22 24 25 26 26 26 28 28 28 29 29 31 31 31 33 33 35 38 41 ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 3 14. Íåçàâèñèìîñòü ñëó÷àéíûõ âåëè÷èí 43 15. Èíòåãðàë Ëåáåãà, Ëåáåãà-Ñòèëòüåñà, Ðèìàíà-Ñòèòüåñà. Ìàòåìàòè÷åñêîå îæèäàíèå. Ïîíÿòèå ñâåðòêè. 44 15.1. Èíòåãðàë Ëåáåãà, Ëåáåãà-Ñòèëòüåñà 44 15.2. Èíòåãðàë Ðèìàíà-Ñòèëòüåñà 45 15.3. Ïîíÿòèå ñâåðòêè 46 15.4. Ñâîéñòâà ìàòåìàòè÷åñêîãî îæèäàíèÿ 47 15.5. Íåðàâåíñòâà, ñâÿçàííûå ñ ìàòåìàòè÷åñêèì îæèäàíèåì 48 16. Äèñïåðñèÿ. Êîâàðèàöèÿ. Êîððåëÿöèÿ. 51 16.1. Äèñïåðñèÿ 51 16.2. Êîâàðèàöèÿ. Êîâàðèöèîííàÿ ìàòðèöà 51 16.3. Êîððåëÿöèÿ 52 17. Ðàçëè÷íûå âèäû ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí 53 17.1. Êðèòåðèé ñõîäèìîñòè ïî÷òè íàâåðíîå 54 17.2. Ñðàâíèòåëüíûé àíàëèç ðàçëè÷íûõ âèäîâ ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí 56 18. Çàêîí áîëüøèõ ÷èñåë. Óñèëåííûé çàêîí áîëüøèõ ÷èñåë 58 18.1. Çàêîí áîëüøèõ ÷èñåë. 58 18.2. Óñèëåííûé çàêîí áîëüøèõ ÷èñåë. 60 19. Õàðàêòåðèñòè÷åñêèå ôóíêöèè 62 19.1. Ñâîéñòâà õàðàêòåðèñòè÷åñêîé ôóíêöèè ñëó÷àéíîé âåëè÷èíû 62 19.2. Ïðèìåðû õàðàêòåðèñòè÷åñêèõ ôóíêöèé 63 19.3. Ôîðìóëà îáðàùåíèÿ 64 20. Ñõîäèìîñòü ðÿäîâ èç ñëó÷àéíûõ âåëè÷èí 67 21. Ìåòîä õàðàêòåðèñòè÷åñêèõ ôóíêöèé. Öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà (ÖÏÒ) 68 22. Ïîíÿòèå âûáîðêè, ñòàòèñòèêè. Âûáîðî÷íàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ, âûáîðî÷íûå ìîìåíòû. Òåîðåìà Ãëèâåíêî-Êàíòåëëè 71 23. Òèïû ñòàòèñòèê: íåñìåùåííîñòü, ñîñòîÿòåëüíîñòü, íîðìàëüíîñòü. Òåîðåìà î âûáîðî÷íîì ñðåäíåì è âûáîðî÷íîé äåñïåðñèè 73 24. Ïîðÿäêîâûå ñòàòèñòèêè èëè Âàðèàöèîííûé ðÿä 75 25. Âûáîðêà èç íîðìàëüíîãî ðàñïðåäåëåíèÿ. χ2 ðàñïðåäåëåíèå è ðàñïðåäåëåíèå Ñòüþäåíòà. Ëåììà Ôèøåðà 77 26. Ñïèñîê âîïðîñîâ ïî "Òåîðèè Âåðîÿòíîñòåé" 80 27. Ñïèñîê ëèòåðàòóðû 82 4 Î. Å. Ùåðáàêîâà 1. Èñòîðèÿ ñòàíîâëåíèÿ òåîðèè âåðîÿòíîñòåé 1.1. Ïðåäûñòîðèÿ. Èñòîðèÿ òåîðèè âåðîÿòíîñòåé, à òî÷íåå ïîíÿòèé ñëó÷àéíîñòè è øàíñîâ, óõîäèò â ãëóáü âåêîâ. Ïîíÿòèå âåðîÿòíîñòè ðîæäàåòñÿ èç àçàðòíûõ èãð. Ñàìî ñëîâî "àçàðò"ïðîèñõîäèò îò àðàáñêîãî "àëü çàðä" - èãðàëüíàÿ êîñòü. Àðõåîëîãè÷åñêèå ñâåäåíèÿ ãîâîðÿò î òîì, ÷òî òàêèå êîñòè èñïîëüçîâàëèñü âî âðåìåíà Ïåðâîé Äèíàñòèè â Åãèïòå (3 500 ã.äî í.ý.), çàòåì â Äðåâíåé Ãðåöèè è Ðèìå. Ïî ëåãåíäå èãðó â êîñòè ïðåäëîæèë Ïàëàìåäåé äëÿ ðàçâëå÷åíèÿ ãðå÷åñêèõ ñîëäàò, ñêó÷àþùèõ â îæèäàíèè áèòâû ïðè Òðîå. Ðèìñêèå èìïåðàòîðû Àâãóñò (63 ã. äî í.ý. - 14 ã. í.ý.) è Êëàâäèé (10 ã. äî í.ý. - 54 ã. í.ý.) áûëè ñòðàñòíûìè èãðîêàìè â êîñòè. Ïàðàëëåëüíî ïîíÿòèå ñëó÷àéíîñòè êðèñòàëëèçðóåòñÿ â ñòðàõîâàíèè è êîììåðöèè â ñâÿçè ñ ïîÿâëåíèåì òàáëèö ñìåðòíîñòè (ðèìñêèé þðèñò Þëïèàí (220 ã. äî í.ý.)).  ýïîõó ðàñöâåòà ãîðîäîâ -ðåñïóáëèê (Ðèì, Âåíåöèÿ, Ãåíóÿ, Ïèçà, Ôëîðåíöèÿ) ïîÿâëÿåòñÿ íåîáõîäèìîñòü â ïðîñòåéøåé ñòàòèñòèêå. Ïåðâûé òî÷íî äàòèðóåìûé êîíòðàêò ïî ñòðàõîâàíèþ æèçíè çàêëþ÷åí â Ãåíóå â 1347 ãîäó. Ïåðâûé ìàòåìàòè÷åñêèé àíàëèç èãðû â êîñòè ïðåäïðèíÿë Äæ. Êàðäàíî (15011576) â "Êíèãå îá àçàðòíûõ èãðàõ", â êîòîðîé ãîâîðèëîñü î òîì, ÷òî ÷èñëî áëàãîïðèÿòíûõ êîìáèíàöèé ê ÷èñëó âîçìîæíûõ íàõîäÿòñÿ â ñîãëàñèè ñ èãðîâîé ïðàêòèêîé. Êíèãà áûëà èçäàíà òîëüêî ÷åðåç 100 ëåò ïîñëå åå íàïèñàíèÿ. Çàäà÷åé, ïîñòàâëåííîé â ýòîé êíèãå Êàðäàíî, çàíÿëñÿ ïîçæå Ãàëèëåé. Ñ ïåðâîãî âçãëÿäà îíà âûãëÿäèò êàê ïàðàäîêñ: Ïàðàäîêñ 1.1. "ïî÷åìó ”9” âûïàäàåò ÷àùå, êîãäà áðîñàþò äâå êîñòè, à ”10”, êîãäà áðîñàò òðè?" Îáúÿñíåíèå ïàðàäîêñà: 9 = 3+6 = 6+3 = 4+5 = 5+4, 10 = 4+6 = 6+4 = 5+5, - òàêèì îáðàçîì âåðîÿòíîñòü âûïàäåíèÿ ïðè áðîñàíèÿõ äâóõ êîñòåé ”9” - 4/36, à ”10” - 3/36.  ñëó÷àå æå òðåõ êîñòåé ”9” ìîæíî âûáðîñèòü 25 ñïîñîáàìè, à ”10” - 26. Íåñìîòðÿ íà ïðîñòîòó çàäà÷è åå îøèáî÷íî ðåøàëè è Ëåéáíèö, è Äàëàìáåð, îíè çàáûâàëè ó÷èòûâàòü ïîðÿäîê âûïàäåíèÿ êîñòåé. 1.2. Ïåðûé ïåðèîä (XVII âåê - íà÷àëî XVIII âåêà). Ëàïëàñ ñâÿçûâàåò ðîæäåíèå òåîðèè âåðîÿòíîñòåé ñ ïåðåïèñêîé (1654 ã.) ìåæäó Áëåçîì Ïàñêàëåì è Ïüåðîì Ôåðìà, ñâÿçàííîé ñ çàäà÷åé êàâàëåðà äå Ìåðå: Ïàðàäîêñ 1.2. ïðè ÷åòûðåõ áðîñàíèÿõ îäíîé èãðàëüíîé êîñòè âåðîÿòíîñòü âûïàäåíèÿ õîòÿ áû îäíîé ”1” áîëüøå 1/2, à ïðè 24 áðîñàíèÿõ äâóõ êîñòåé âåðîÿòíîñòü âûïàäåíèÿ äâóõ ”1” îäíîâðåìåííî ìåíüøå 1/2. Îáúÿñíåíèå ïàðàäîêñà: 1 5 1 − ( )k > , k ≥ 4 6 2 ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 5 35 k 1 ) > , k ≥ 25 36 2 Ýòî êàçàëîñü ïðîòèâîðå÷èò "ïðàâèëó ïðîïîðöèîíàëüíîñòè êðèòè÷åñêèõ çíà÷åíèé". Àáðàõàì äå Ìóàâð â êíèãå "Äîêòðèíà øàíñîâ"(1718) ïîêàçàë, ÷òî "ïðàâèëî ïðîïîðöèîíàëüíîñòè êðèòè÷åñêèõ çíà÷åíèé" íåäàëåêî îò èñòèíû, íî ñïðàâåäëèâî ëèøü àñèìïòîòè÷åñêè ïðè ìàëûõ çíà÷åíèÿõ âåðîÿòíîñòè p ∈ (0, 1) 1−( (1 − p)x = 1 2 Êðèòè÷åñêîå çíà÷åíèå k = [x] + 1, x=− ln 2 p2 = ln 2/(p + + . . .) ln(1 − p) 2  1657 ãîäó â êíèãå Õðèñòèàíà Ãþéãåíñà "Î ðàñ÷åòàõ â àçàðòíûõ èãðàõ" ïðåäñòàâëåí ïåðâûé ñèñòåìàòè÷åñêèé òåêñò ïî "èñ÷èñëåíèþ âåðîÿòíîñòåé", â ÷àñòíîñòè, òàì äàþòñÿ ïðàâèëà ñëîæåíèÿ è óìíîæåíèÿ âåðîÿòíîñòåé, ñîäåðæèòñÿ äèñêóññèÿ îòíîñèòåëüíî ïîíÿòèÿ ìàòåìàòè÷åñêîãî îæèäàíèÿ. Öåíòðàëüíîé ôèãóðîé ýòîãî ïåðèîäà ñ÷èòàåòñÿ ßêîâ Áåðíóëëè, êîòîðûé äàë îïðåäåëåíèå êëàññè÷åñêîé âåðîÿòíîñòè êàê îòíîøåíèÿ ÷èñëà áëàãîïðèÿòíûõ ê ÷èñëó âñåõ ìûñëèìûõ èñõîäîâ. Ãëàâíûì åãî ðåçóëüòàòîâ ÿâèëñÿ çàêîí áîëüøèõ ÷èñåë, äàííûé â åãî êíèãå "Èñêóññòâî ïðåäïîëîæåíèé"(1713 ã.), ëåæàùèé â îñíîâå âñåõ ïðèìåíèé òåîðèè âåðîÿòíîñòè.  åãî òðóäàõ ïîÿâëÿþòñÿ íîâûå "íåôèíèòíûå èäåè", ñâÿçàííûå ñ ïðåäåëüíûìè ÷àñòîòàìè ïðè ïîâòîðíûõ èñïûòàíèÿõ. ∑n k=1 Xk → p ïî âåðîÿòíîñòè, ãäå p = EXk . n Äàíèèë Áåðíóëëè (1667-1727) âíåñ âêëàä â ðàçðåøåíèå "Ïåòåðáóðãñêîãî ïàðàäîêñà" Ïàðàäîêñ 1.3. Èãðà ñîñòîèò â ñëåäóþùåì: èãðîê áðîñàåò ìîíåòó, èãðà çà- êàí÷èâàåòñÿ íà r-òîì øàãå, êîãäà âûïàäàåò ðåøêà, òîãäà áàíê âûïëà÷èâàåò ñóììó 2r . Âîïðîñ: Êàêèì äîëæåí áûòü ïåðâîíà÷àëüíûé âçíîñ, ÷òîáû èãðà áûëà áåçîáèäíà äëÿ áàíêà? Ñóòü ïàðàäîêñà: ïîëó÷àåòñÿ, ÷òî ìàòåìàòè÷åñêîå îæèäàíèå âûèãðûøà áåñêîíå÷íî. 2 22 2r EX = + 2 + . . . + r + . . . → ∞. 2 2 2 Ðàçðåøèòü ïàðàäîêñ ìîæíî ëèáî ñäåëàâ ïðåäïîëîæåíèå îá îãðàíè÷åííîñòè ðåñóðñîâ áàíêà ëèáî èçìåíèâ êðèòåðèé áåçîáèäíîñòè. Åñëè ïðåäïîëîæèòü (êàê Áþôôîí è Êðàìåð), ÷òî ðåñóðñû áàíêà îãðàíè÷åíû ìèëëèîíîì, òî ïîëó÷èì ñëåäóþùåå EX = 19 ∑ 2r r=1 2r + 106 ∞ ∑ 1 ≈ 21. 2r r=20 6 Î. Å. Ùåðáàêîâà Ôåëëåð òàê ïðåäëîæèë îïðåäåëÿòü èãðó áåçîáèäíîé: ïóñòü ñóììàðíûé âûèãðûø Nr , ñóììàðíûé âçíîñ Rr , òîãäà P (| Nr − 1| < ε) → 1, r → ∞. Rr Îí äîêàçàë, ÷òî èãðà ñòàíîâèòñÿ áåçîáèäíîé ïðè âûïîëíåíèè ñîîòíîøåíèÿ Rr = r log2 r. 1.3. Âòîðîé ïåðèîä (XVIII âåê - íà÷àëî XIX âåêà). Ýòîò ïåðèîä ñâÿçàí ñ òàêèìè èìåíàìè, êàê Ïüåð-Ðåìîí Ìîíìîð, Àáðàõàì äå Ìóàâð, Òîìàñ Áàéåñ, Ïüåð Ñèìîí äå Ëàïëàñ, Êàðë Ôðèäðèõ Ãàóññ, Ñèìîí Äåíèñ Ïóàññîí. Ìóàâð â êíèãàõ "Äîêòðèíà øàíñîâ"(1718) è "Àíàëèòè÷åñêèå ìåòîäû, èëè Àíàëèòè÷åñêàÿ ñìåñü"(1730) îïðåäåëÿåò ïîíÿòèÿ íåçàâèñèìûõ ñîáûòèé, ìàòåìàòè÷åñêîãî îæèäàíèÿ è óñëîâíîé âåðîÿòíîñòè. Êðîìå òîãî, îáíàðóæèë óíèâåðñàëüíóþ çàêîíîìåðíîñòü â ïîâåäåíèè îòêëîíåíèé îò ñðåäíåãî â èñïûòàíèÿõ Áåðíóëëè, íàçâàííóþ êàê "Öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà". Ãàóññ è Ëàïëàñó ïðèíàäëåæèò èäåÿ ââåäåíèÿ íîðìàëüíîãî çàêîíà â òåîðèè îøèáîê.  ýòîò ïåðèîä ïîÿâëÿåòñÿ "íåêëàññè÷åñêàÿ âåðîÿòíîñòü" (íîðìàëüíàÿ, ïóàññîíîâñêàÿ), õîòÿ îíà ðàññìàòðèâàëàñü íè êàê ðàñïðåäåëåíèå âåðîÿòíîñòåé, à êàê àïïðîêñèìàöèÿ.  òîì ÷èñëå, óïîìÿíåì Íüþòîíà (1665 ã.), êîòîðûé ââåë â ðàññìîòðåíèå ãåîìåòðè÷åñêèå âåðîÿòíîñòè. Ê òàêèì íåêëàññè÷åñêèì âåðîÿòíîñòÿì òàêæå îòíîñèòñÿ çàäà÷à î "èãëå Áþôôîíà" è âîçíèêíîâåíèå íåðàâíûõ âåðîÿòíîñòåé â ôîðìóëå Áàéåñà (1763 ã.) 1.4. Òðåòèé ïåðèîä (âòîðàÿ ïîëîâèíà XIX âåêà). Òðåòèé ïåðèîä ñâÿçàí ñ Ïåòåðáóðãñêîé øêîëîé è òàêèìè åå ïðåäñòàâèòåëÿìè êàê Ë.Ï.×åáûøåâ, À.À.Ìàðêîâ, À.Ì.Ëÿïóíîâ. ×åáûøåâ îáîáùèë òåîðåìó Ìóàâðà -Ëàïëàñà íà ñóììû íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ñ ïîìîùüþ ìåòîäà ìîìåíòîâ, ïîçæå óñîâåðøåíñòâîâàííûé Ìàðêîâûì. Òàêæå îáîáùèë çàêîí áîëüøèõ ÷èñåë, èñïîëüçóÿ "íåðàâåíñòâà ×åáûøåâàÌàðêîâà". Ëÿïóíîâ ìåòîäîì õàðàêòåðèñòè÷åñêèõ ôóíêöèé äîêàçàë òåîðåìó Ìóàâðà Ëàïëàñà äëÿ ñóìì ñëó÷àéíûõ âåëè÷èí, èìåþùèõ ìîìåíòû ïîðÿäêà 2 + δ , δ > 0. Ìàðêîâ ââåë â ðàññìîòðåíèå ñõåìû çàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ñî ñâîéñòâîì îòñóòñòâèÿ ïîñëåäñòâèÿ, òåïåðü íàçûâàåìûõ "ìàðêîâñêèìè öåïÿìè".  ýòîò ïåðèîä íà÷èíàåò ïðîñëåæèâàòüñÿ ñâÿçü ìåæäó ÷èñòîé ìàòåìàòèêîé è òåîðèåé âåðîÿòíîñòåé. Ñâÿçü ñ òåîðèåé ÷èñåë ìîæíî óâèäåòü â ðàáîòàõ Ïóàíêàðå (1896) è Ãþëüäåíà (1890). Ïóàíêàðå ïîñòàâèë âîïðîñ î òîì ñ êàêîé âåðîÿòíîñòüþ ñëó÷àéíî âûáðàííàÿ òî÷êà ω ∈ [0, 1] áóäåò ðàöèîíàëüíûì ÷èñëîì. Ãóëüäåí ðàññìàòðèâàë âîïðîñ î òîì, êàê ñåáÿ âåäóò öåëûå ÷èñëà â ðàçëîæåíèè â íåïðåðûâíóþ äðîáü ñëó÷àéíîãî ÷èñëà ω ∈ (0, 1], w = (a1 , a2 , . . .). Åãî ïðåäïîëîæåíèåì áûëî P (an (ω) = k) ≍ 1/k 2 , ÷òî îêàçàëîñü óæå ïîçäíåå àñèìïòîòè÷åñêè âåðíî 1 + 1/k P (an (ω) = k) → (log 2)−1 log 1 . 1 + k+1 ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 7 Âåðîÿòíîñòíûå ìîäåëè ñòàëè èñïîëüçîâàòüñÿ â êëàññè÷åñêîé ñòàòèñòè÷åñêîé ôèçèêå (ðàñïðåäåëåíèå Ìàêñâåëëà äëÿ ìîëåêóëÿðíûõ ñêîðîñòåé, ðàñêðûòèå ôåíîìåíà áðîóíîâñêîãî äâèæåíèÿ (1827) Áðîóí, Ýéíøòåéí, Ñìîëóõîâñêèé). Ïîñòðîåíèå òåîðèè ìíîæåñòâ è òåîðèè ìåðû Áîðåëåì è Ëåáåãîì ïîçâîëèëè â äàëüíåéøåì îáðåñòè òåîðèåé âåðîÿòíîñòåé àêñèîìàòè÷åñêóþ ñòðîéíîñòü. 1.5. ×åòâåðòûé ïåðèîä (íà÷àëî XX âåêà).  1900 ãîäó íà 2-ì ìàòåìàòè÷åñêîì êîíãðåññå â Ïàðèæå â ÷èñëå äåñÿòè îòêðûòûõ ïðîáëåì ìàòåìàòèêè Ä. Ãèëüáåðò ïîñòàâèë âîïðîñ îá àêñèîìàòèçàöèè òåîðèè âåðîÿòíîñòåé. Ýòó ïðîáëåìó ïûòàëèñü ðåøèòü Ëàåììåëü, Ôèíåòòè, Ìèçåñ, Áåðøòåéí è äðóãèå.  1904 Ëàåììåëü ñäåëàë ïîïûòêó ïîñòðîåíèÿ àêñèîìàòå÷åñêîé òåîðèè, èñïîëüçóÿ äëÿ îïèñàíèÿ ìíîæåñòâà èñõîäîâ òåîðèþ ìíîæåñòâ, íî ïîíÿòèå âåðîÿòíîñòè îñòàâàëîñü íà èíòóèòèâíîì óðîâíå. Äðóãîé àâòîð, Ó. Áðîããè, â ñâîåé äèññåðòàöèè ïîä ðóêîâîäñòâîì Ãèëüáåðòà â 1907 ãîäó äëÿ îïðåäåëåíèÿ âåðîÿòíîñòè îáðàòèëñÿ ê òåîðèè ìåðû Áîðåëÿ, Ëåáåãà, íî ñ èñïîëüçîâàíèåì èñêóññòâåííûõ ïðåäåëüíûõ ïðîöåäóð. Ñèñòåìà àêñèîì Ñ.Í. Áåðøòåéíà (1917) áûëà îñíîâàíà íà êà÷åñòâåííîì ñðàâíåíèè ñîáûòèé ïî ñòåïåíè èõ ïðàâäîïîäîáèÿ.  1919 Ð. Ìèçåñ ïðåäëîæèë ÷àñòîòíûé (ýìïèðè÷åñêèé èëè ñòàòèñòè÷åñêèé) ïîäõîä ê îáîñîâàíèþ òåîðèè âåðîÿòíîñòåé.  îñíîâå åãî ìåòîäà ëåæèò ðàññìîòðåíèå "êîëëåêòèâîâ" - áåñêîíå÷íûõ óïîðÿäî÷åííûõ ïîñëåäîâàòåëüíîñòåé, îáëàäàþùèõ ñâîéñòâîì "ñëó÷àéíîñòè" èõ îáðàçîâàíèÿ. Ïîëíîå ðåøåíèå ýòîé çàäà÷è îñóùåñòâèë Êîëìîãîðîâ (1933) íà áàçå òåîðèè ìíîæåñòâ è òåîðèè ìåðû. Îñíîâíîé òåîðåìîé àêñèîìàòè÷åñêîãî ïîñòðîåíèÿ Êîëìîãîðîâà áûëî óòâåðæäåíèå î ñóùåñòâîâàíèè ïðîöåññîâ ñ çàäàííûìè êîíå÷íîìåðíûìè ðàñïðåäåëåíèÿìè. 8 Î. Å. Ùåðáàêîâà 2. Äëÿ ÷åãî íóæíî èçó÷àòü òåîðèþ âåðîÿòíîñòåé (1) Ðàçâèòèå ìûøëåíèÿ ñòóäåíòîâ. Ïîìîãàåò ïîíÿòü, êàê ïðèìåíÿòü ïðèåìû ëîãè÷åñêîãî ìûøëåíèÿ â òåõ ñëó÷àÿõ, êîãäà èìååì äåëî ñ íåîïðåäåëåííîñòüþ. Óìàëÿåò ìàãè÷åñêèé ðåàëèçì. Ðàçâèâàåò òîëåðàíòíîñòü. Ðàçâèâàåò ñìåëîñòü, ïîñêîëüêó ó÷èò âîñïðèíèìàòü íåóäà÷ó âñåãî ëèøü êàê ñëó÷àéíîñòü è äâèãàòüñÿ äàëüøå ê íàìå÷åííîé öåëè. (2) Âûâîäû òåîðèè âåðîÿòíîñòåé íàõîäÿò ïðèìåíåíèå â îáûäåííîé æèçíè, íàóêå è òåõíèêå.  ïîâñåäíåâíîñòè ïðè ïîñòîÿííîì ñòîëêíîâåíèè ñî ñëó÷àéíîñòüþ ó÷èò äåéñòâîâàòü ðàöèîíàëüíî ñ ó÷åòîì ðèñêà ïðèíÿòèÿ îòäåëüíûõ ðåøåíèé. (3) Âàæíîå çíà÷åíèå äëÿ ìàòåìàòè÷åñêîãî îáðàçîâàíèÿ. Ïîìàãàåò ïîíÿòü âçàèìîñâÿçü äåéñòâèòåëüíîñòè ñ ìàòåìàòè÷åñêèìè ìîäåëÿìè. Äåìîíñòðèðóåò âåëèêîëåïíûé ìàòåìàòè÷åñêèé àïïàðàò ïî ðàáîòå ñî ñëîæíûìè, íåëèíåéíûìè ñëó÷àéíûìè ïðîöåññàìè. ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 9 3. Àêñèîìàòè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè Îïðåäåëåíèå 3.1. U - àëãåáðà ìíîæåñòâ, åñëè ∅ ∈ U è äëÿ ëþáûõ A, B ∈ U A ∩ B ∈ U, A ∪ B ∈ U, A \ B ∈ U. C ïîìîùüþ ìåòîäà ìàòåìàòè÷åñêîé èíäóêöèè ìîæíî ïîëó÷èòü îáîáùåíèå íà êîíå÷íîå ÷èñëî n n ∩ ∪ A1 , . . . , An ∈ U, Ak ∈ U, Ak ∈ U, k=1 k=1 à òàêæå äîêàçàòü ïðàâèëà äå Ìîðãàíà: n ∩ n ∪ Ak = k=1 Ak , k=1 n ∪ Ak = k=1 n ∩ Ak . k=1 Îïðåäåëåíèå 3.2. A - σ -àëãåáðà ìíîæåñòâ, åñëè A - àëãåáðà è äëÿ ëþáûõ A1 , A2 , . . . ∈ A ∞ ∩ Ak ∈ A, k=1 ∞ ∪ Ak ∈ A. k=1 3.1. Àêñèîìû âåðîÿòíîñòè. Âåðîÿòíîñòíîå ïðîñòðàíñòâî - ýòî òðîéêà îáúåêòîâ (Ω, F, P ), äëÿ êîòîðûõ ñïðàâåäëèâû ñëåäóþùèå àêñèîìû. À1: Ω - ìíîæåñòâî ýëåìåíòàðíûõ èñõîäîâ. À2: F  σ -àëãåáðà ñîáûòèé, ïîñòðîåííàÿ íà ìíîæåñòâå ýëåìåíòàðíûõ èñõî- äîâ Ω ∈ F . À3: P : F → [0, 1], P (Ω) = 1 - ôóíêöèÿ ìíîæåñòâ. À4: Àääèòèâíîñòü P( n ∪ Ak ) = k=1 n ∑ P (Ak ), åñëè Ai Aj = ∅ ïðè i ̸= j. k=1 À5: Ñ÷åòíàÿ àääèòèâíîñòü P( ∞ ∪ Ak ) = k=1 ∞ ∑ P (Ak ), åñëè Ai Aj = ∅ ïðè i ̸= j. k=1 3.2. Ñâîéñòâà âåðîÿòíîñòè. Â1: Î âåðîÿòíîñòè îáðàòíîãî ñîáûòèÿ P (A) = 1 − P (A) Äîêàçàòåëüñòâî. A ∪ A = Ω, A ∩ A = ∅ Ïî àêñèîìå À4-àääèòèâíîñòè ïîëó÷àåì P (A ∪ A) = P (A) + P (A) = P (Ω) = 1.  10 Î. Å. Ùåðáàêîâà Â2: Ïîëóàääèòèâíîñòü P( ∞ ∪ k=1 Ak ) ≤ ∞ ∑ P (Ak ). k=1 Â3: Ôîðìóëà äëÿ ñóììû ïðîèçâîëüíûõ ñîáûòèé P( n ∪ k=1 Ak ) = n ∑ k=1 P (Ak ) − ∑ k p(n + 1). Åñëè p(n + 1) ∈ Z, òî ñóùåñòâóåò åäèíñòâåííàÿ òî÷êà ìàêñèìóìà k ⋆ = p(n + 1), åñëè p(n + 1) ( Z, òî íàèáîëüøåå çíà÷åíèå âåðîÿòíîñòè äîñòèãàåòñÿ äâàæäû k1⋆ = p(n + 1) − 1, k2⋆ = p(n + 1). 10.4. Ëîêàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà. Òåîðåìà. Ïóñòü A1 , A2 , . . . íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè ñ âåðîÿòíîñòüþ óñïåõà p. Îáîçíà÷èì k − np xnk = √ . npq Òîãäà ðàâíîìåðíî ïî âñåì k òàêèì, ÷òî |xnk | = O(n 6 −δ ) ïðè íåêîòîðîì ïîëîæèòåëüíîì δ > 0, áóäåì èìåòü 1 x2 nk P (µn = k) ∼ n→∞ e− 2 √ . 2πnpq 10.5. Èíòåãðàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà. Òåîðåìà. Ïóñòü A1 , A2 , . . . íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè ñ âåðîÿòíîñòüþ óñïåõà p. Òîãäà áóäåì èìåòü µn − np 1 sup |P (a ≤ √ ≤ b) − √ npq 2π −∞≤a≤b≤∞ ∫ a b e− x2 2 dx| → 0. n→∞ ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 29 ∫x t2 Åñëè îáîçíà÷èòü çà Φ(x) = √12π −∞ e− 2 dt - ôóíêöèþ íîðìàëüíîãî çàêîíà, òî ìîæíî ñêàçàòü, ÷òî âåðîÿòíîñòü öåíòðèðîâàííîãî è íîðìèðîâàííîãî ÷èñëà óñïåõîâ ðàâíîìåðíî àïïðîêñèìèðóåòñÿ íîðìàëüíûì çàêîíîì. 10.6. Çàêîí áîëüøèõ ÷èñåë Áåðíóëëè. Îïðåäåëåíèå 10.1. Ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí {ξn }∞ n=1 ñõîäèòñÿ ê ñëó÷àéíîé âåëè÷èíå ξ0 ïî âåðîÿòíîñòè ξn → ξ0 ïî âåðîÿòíîñòè, n→∞ åñëè äëÿ ëþáîãî ε > 0 âûïîëíåíî P (ω : |ξn − ξ0 | > ε) → 0. n→∞ Òåîðåìà. Ïóñòü A1 , A2 , . . . íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè ñ âåðîÿòíîñòüþ óñïåõà p. Òîãäà µn → p ïî âåðîÿòíîñòè. n n→∞ Äîêàçàòåëüñòâî. µn − p| > ε) → 0 ⇔ n→∞ n µn P (ω : | − p| ≤ ε) → 1 ⇔ n→∞ n √ µn − pn n |≤ε ) → 1⇔ P (ω : | √ npq pq n→∞ ïî èíòåãðàëüíîé òåîðåìå Ìóàâðà-Ëàïëàñà n ∫ ε√ pq t2 1 √ e− 2 dt → 1. √ n→∞ n 2π −ε pq P (ω : |  10.7. Òåîðåìà Ïóàññîíà. Òåîðåìà. Ïóñòü A11 A21 , A22 ... ... ... An1 , An2 , . . . Ann ñ âåðîÿòíîñòüþ óñïåõà p1 ñ âåðîÿòíîñòüþ óñïåõà p2 ñ âåðîÿòíîñòüþ óñïåõà pn ïîñëåäîâàòåëüíîñòü ñåðèé íåçàâèñèìûõ èñïûòàíèé Áåðíóëëè. Òîãäà λkn −λn e , ãäå λn = npn . P (µn = k) ∼ n→∞ k! 30 Î. Å. Ùåðáàêîâà Äîêàçàòåëüñòâî. Äëÿ íà÷àëà ïðîâåäåì ïðåäâàðèòåëüíûå ïðåîáðàçîâàíèÿ P (µn = k) = Cnk pkn (1 − pn )n−k = λn n−k n(n − 1) . . . (n − k + 1) λn k ( ) (1 − ) = k! n n (1 − n1 ) . . . (1 − k−1 λn n−k n ) (λn )k (1 − ) . k! n Îáîçíà÷èì ∆n = |P (µn = k) − Çàìåòèì, ÷òî λkn −λn e | k! (1 − n1 ) . . . (1 − k−1 λn n−k λkn −λn n ) (λn )k (1 − ) − e |= k! n k! λkn 1 k−1 λn n−k |(1 − ) . . . (1 − )(1 − ) − e−λn | k! n n n Äëÿ äàëüíåéøèõ äåéñòâèé âîñïîëüçóåìñÿ ôàêòàìè èç ìàòåìàòè÷åñêîãî àíàëèçà: (1) 1 − λ ≤ e−λ ; (2) (1 − nλ )n → e−λ äëÿ |λ| < A; ∆n = | n→∞ (3) äëÿ ëþáîãî íàòóðàëüíîãî k : λk e−λ → 0 λ→∞ Ïóñòü k ôèêñèðîâàíî. Âûáåðåì ïðîèçâîëüíîå ε > 0, òîãäà ìîæíî âûáðàòü A íàñòîëüêî áîëüøèì, ÷òî ïðè λ > A áûëî λk −λ/2 e < ε/2. k! Ðàññìîòðèì òå n, äëÿ êîòîðûõ λn > A: Íå óìàëÿÿ îáùíîñòè, ìîæåì âçÿòü k < n/2, à çíà÷èò n − k > n/2. Òîãäà λkn 1 k−1 λn n/2 λkn −λn (1 − ) . . . (1 − )(1 − ) + e ≤ k! n n n k! λkn −λn /2 λkn −λn e + e < ε/2 + ε/2 = ε. k! k! Ðàññìîòðèì òå n, äëÿ êîòîðûõ λn < A: Çàìåòèì, ÷òî ∆n ≤ (1 − n1 ) . . . (1 − (1 − k−1 n ) λn k n ) → 1, n → ∞. Òîãäà ∆n = Òàêèì îáðàçîì, λkn (1 − n1 ) . . . (1 − | k! (1 − λnn )k k−1 n ) (1 − λn n ) − e−λn | < ε. n ∆n → 0. n→∞  ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 31 11. Ôóíêöèÿ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû 11.1. Îïðåäåëåíèå ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû. Îïðåäåëåíèå 11.1. Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà. Ôóíêöèåé ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû ξ íàçîâåì Fξ Fξ (x) = P (ω : ξ(ω) < x) = Pξ ((−∞, x)). 11.2. Ñâîéñòâà ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû. (1) Fξ (a) − Fξ (b) = P (ω : b ≤ ξ(ω) < a) Äîêàçàòåëüñòâî. Fξ (a) = P (ξ < a) = P ({ω : ξ(ω) < b} ∪ {ω : b ≤ ξ(ω) < a}) = Fξ (b) + P (b ≤ ξ < a).  (2) Fξ ìîíîòîííî íå óáûâàåò. Äîêàçàòåëüñòâî. Ïóñòü b ≤ a, òîãäà Fξ (a) − Fξ (b) = P (ω : b ≤ ξ(ω) < a) ≥ 0.  (3) Ôóíêöèÿ ðàñïðåäåëåíèÿ íå èìååò ðàçðûâîâ âòîðîãî ðîäà. Âñå ðàçðûâû ÿâëÿþòñÿ ñêà÷êàìè è èõ íå áîëåå, ÷åì ñ÷åòíîå ÷èñëî. (4) Ôóíêöèÿ ðàñïðåäåëåíèÿ íåïðåðûâíà ñëåâà. Äîêàçàòåëüñòâî. Ïóñòü xn ↑ x, òîãäà äîêàæåì, ÷òî Fξ (xn ) → Fξ (x). Ðàññìîòðèì ñîáûòèÿ An = {ω : ξ(ω) < xn }, A = {ω : ξ(ω) ∪∞< x}, An ⊂ An+1 - âîçðàñòàþùàÿ ïîñëåäîâàòåëüíîñòü ìíîæåñòâ è A = n=1 An . Òîãäà ïî íåïðåðûâíîñòè âåðîÿòíîñòè ïîëó÷èì Fξ (xn ) = P (An ) → P (A) = Fξ (x). xn ↑x  (5) ∃ lim Fξ (x) = 1; x→∞ ∃ lim Fξ (x) = 0. x→−∞ Äîêàçàòåëüñòâî. Ïóñòü xn ↑ ∞, yn ↓ −∞. Ðàññìîòðèì ñîáûòèÿ An = {ω : ξ(ω) < xn }, Bn = {ω : ξ(ω) < yn }, An ⊂ An+1 - âîçðàñòàþùàÿ ïîñëåäîâàòåëüíîñòü ìíîæåñòâ, Bn ⊃ Bn+1 - óáûâàþùàÿ ïîñëåäîâàòåëüíîñòü ìíîæåñòâ è ∞ ∞ ∪ ∩ {ω : ξ(ω) ∈ R} = Ω = An , ∅ = Bn . n=1 n=1 Òîãäà ïî íåïðåðûâíîñòè âåðîÿòíîñòè ïîëó÷èì Fξ (xn ) = P (An ) → P (Ω) = Pξ (R) = 1. xn ↑∞ 32 Î. Å. Ùåðáàêîâà Fξ (yn ) = P (Bn ) → xn ↓−∞ P (∅) = 0.  Òåîðåìà. Ôóíêöèè ðàñïðåäåëåíèÿ Fξ è ðàñïðåäåëåíèå Pξ ñëó÷àéíîé âåëè÷èíû âçàèìíî îïðåäåëÿþò äðóã äðóãà. Äîêàçàòåëüñòâî. ⇒: Fξ (x) = Pξ ((−∞, x)). ⇐: Ïîñêîëüêó ìåðà íà Áîðåëåâñêîé σ -àëãåáðå îïðåäåëÿåòñÿ íà ïîëóîòêðûòûõ ìíîæåñòâàõ, äîñòàòî÷íî çàäàòü Pξ ([a, b)) = F (b) − F (a).  Òåîðåìà. Ñîâîêóïíîñòü âñåõ ìîíîòîííûõ íåïðåðûâíûõ ñëåâà ôóíêöèé ñ òàêè- ìè çíà÷åíèÿìè íà áåñêîíå÷íîñòè lim Fξ (x) = 1; x→∞ lim Fξ (x) = 0 x→−∞ ñîâïàäàåò ñ ñîâîêóïíîñòüþ âñåõ ôóíêöèé ðàñïðåäåëåíèÿ. Äîêàçàòåëüñòâî. ⇒: Ñëåäóåò èç ñâîéñòâ ôóíêöèé ðàñïðåäåëåíèÿ. ⇐: Äëÿ êàæäîé F ïîñòðîèì âåðîÿòíîñòíîå ïðîñòðàíñòâî (Ω, F, P ), ÷òîáû P (ω : ξω < x) = F (x). Ïóñòü Ω = [0, 1], ðàññìîòðèì ñëó÷àéíóþ âåëè÷èíó η , èìåþùóþ ðàâíîìåðíîå ðàñïðåäåëåíèå íà [0, 1], òî åñòü   0, x ≤ 0; x, x ∈ (0, 1]; Fη (x) =  1, x > 1. Îïðåäåëèì îáîáùåííóþ îáðàòíóþ ôóíêöèþ F ⋆ (y) = sup{x : F (x) = y}. Ðàññìîòðèì ñëó÷àéíóþ âåëè÷èíó ξ(ω) = F ⋆ (η(ω)). Òîãäà P (ω : ξ(ω) < x) = P (ω : F ⋆ (η(ω)) < x) = P (ω : η(ω) < F (x)) = Fη (F (x)) = F (x).  ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 33 12. Ðàçëè÷íûå âèäû ñëó÷àéíûõ âåëè÷èí Ñëó÷àéíûå âåëè÷èíû ìîæíî ðàçäåëèòü íà äâà òèïà äèñêðåòíûå è íåïðåðûâíûå (åñëè íåïðåðûâíà ôóíêöèÿ ðàñïðåäåëåíèÿ), à íåïðåðûâíûå íà àáñîëþòíî íåïðåðûâíûå (åñëè ñóùåñòâóåò ïëîòíîñòü) è ñèíãóëÿðíûå. 12.1. Äèñêðåòíûå ðàñïðåäåëåíèÿ. Îïðåäåëåíèå 12.1. Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà. ξ èìååò äèñêðåòíîå ðàñïðåäåëåíèå, åñëè ñóùåñòâóåò íå áîëåå ÷åì ñ÷åòíîå ìíîæåñòâî çíà÷åíèé A ⊂ R, êîòîðîå ïðèíèìàåòñÿ ñ âåðîÿòíîñòüþ 1 P (ω : ξ(ω) ∈ A) = 1. Ðàñïðåäåëåíèå äèñêðåòíîé ñëó÷àéíîé âåëè÷èíû íàçîâåì íàáîð ÷èñåë pk = P (ω : ξ(ω) = ak ), A = {ak }k∈N . Äðóãèìè ñëîâàìè, ìîæíî ñêàçàòü òàê ∑ ⊕ Ak , Ak = {ω : ξ(ω) = ak }, ak IAk (ω), Ω = ξ(ω) = k∈N k∈N ãäå IAk (ω) - õàðàêòåðåñòè÷åñêàÿ ôóíêöèÿ ìíîæåñòâà, ðàâíà 1 íà ìíîæåñòâå è 0 âíå åãî. Åñëè ñóììà êîíå÷íà, òî òàêèå ñëó÷àéíûå âåëè÷èíû íàçûâàþòñÿ ïðîñòûìè. Çàìåòèì, ÷òî äëÿ ëþáîãî B ∈ B áóäåò âûïîëíåíî ∑ Pξ (B) = P (ω : ξ(ω) ∈ B) = pk . k:ak ∈B Ôóíêöèÿ ðàñïðåäåëåíèÿ äëÿ äèñêðåòíîé ñëó÷àéíîé âåëè÷èíû âûðàæàåòñÿ òàê: ∑ Fξ (x) = P (ω : ξ(ω) < x) = pk . k:ak q(x)}, òîãäà ∫ ∫ Pξ (A) = p(x)dx = q(x)dx. A A Ñëåäîâàòåëüíî, ∫ 0 = (p(x) − q(x))dx ⇒ p(x) = q(x) ïî÷òè âñþäó. A  Ïðèìåð 12.5. Ðàâíîìåðíîå ðàñïðåäåëåíèå ξ ∈ U ([a, b]). { pξ (x) = 1 b−a ; x ∈ [a, b]; x * [a, b]. 0. Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 12.5   0; Fξ (x) =  x−a b−a ; 1. x < a; x ∈ [a, b]; x > b. Ãðàôèê ôóíêöèè ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 12.5 Ïðèìåð 12.6. Íîðìàëüíîå ðàñïðåäåëåíèå ξ ∈ N (a, σ). 1 (x − a)2 √ exp(− ), a ∈ R, σ > 0. 2σ 2 σ 2π Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 12.6 pξ (x) = ∫ t 1 (x − a)2 √ exp(− ). 2σ 2 σ 2π −∞ Ãðàôèê ôóíêöèè ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 12.6 Fξ (t) = ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 37 38 Î. Å. Ùåðáàêîâà Ïðèìåð 12.7. Ýêñïîíåíöèàëüíîå ðàñïðåäåëåíèå ξ ∈ E(λ). { 0, x < 0; λe−λx , x ≥ 0. Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 12.7 pξ (x) = { ∫t Fξ (t) = λe−λx dx = 1 − e−λx , x > 0, . 0, x < 0. 12.3. Ñèíãóëÿðíûå ðàñïðåäåëåíèÿ. Îïðåäåëåíèå 12.3. Òî÷êàìè ðîñòà ôóíêöèè F íàçûâàþòñÿ òî÷êè x : F (x + ε) − F (x − ε) > 0 äëÿ ëþáîãî ε > 0. Îïðåäåëåíèå 12.4. Ðàñïðåäåëåíèå, êîòîðîå èìååò íåïðåðûâíóþ ôóíêöèþ ðàñ- ïðåäåëåíèÿ, íî ìíîæåñòâî òî÷åê ðîñòà êîòîðîé èìååò íóëåâóþ ìåðó Ëåáåãà, íàçûâàòñÿ ñèíãóëÿðíûì. ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 39 Ïðèìåð 12.8. Ëåñòíèöà Êàíòîðà. Ïîñòðîèì êàíòîðîâó ëåñòíèöó ñ ïîìîùüþ ïîñëåäîâàòåëüíîãî ïîñòðîåíèÿ ôóíêöèé {Fn }n∈N   1/2, x ∈ [1/3, 2/3]; 0, x = 0; F1 =  1, x = 1.  îñòàëüíûõ òî÷êàõ äîîïðåäåëÿåì ñ ïîìîùüþ ëèíåéíîé èíòåðïîëÿöèè.  1/2, x ∈ [1/3, 2/3];      1/4, x ∈ [1/9, 2/9]; 3/4, x ∈ [7/9, 4/9]; F1 =   0, x = 0;    1, x = 1.  îñòàëüíûõ òî÷êàõ äîîïðåäåëÿåì ñ ïîìîùüþ ëèíåéíîé èíòåðïîëÿöèè. Fn (x) → F (x), n → ∞, x ∈ [0, 1]. 40 Î. Å. Ùåðáàêîâà F (x) - êàíòîðîâà ëåñòíèöà - íåóáûâàþùàÿ íåïðåðûâíàÿ ôóíêöèÿ, òî÷êè ðîñòà êîòîðîé îáðàçóþò ìíîæåñòâî N ëåáåãîâîé ìåðû 0. Äåéñòâèòåëüíî, ñóììàðíàÿ äëèíà îòðåçêîâ ïîñòîÿíñòâà ðàâíà 1: 1/3 + 2/9 + 4/27 + . . . = ∞ 1∑ 2 n ( ) = 1. 3 n=0 3 Òàêèì îáðàçîì, λ(N ) = 0, íî ñ äðóãîé ñòîðîíû, åñëè µ - ìåðà, ïîðîæäåííàÿ ñëó÷àéíîé âåëè÷èíîé, ñîîòâåòñòâóþùåé êàíòîðîâîé ôóíêöèè ðàñïðåäåëåíèÿ, òî µ(N ) = 1.  ýòîì ñëó÷àå ãîâîðÿò, ÷òî ìåðà µ ñèíãóëÿðíà îòíîñèòåëüíî ëåáåãîâñêîé ìåðû λ. Ëþáàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ ìîæåò áûòü ïðåäñòàâëåíà â ñëåäóþùåì âèäå: F (x) = αF1 (x) + βF2 (x) + γF3 (x), α, β, γ ≥ 0, α + β + γ = 1, ãäå F1 (x) - äèñêðåòíàÿ, F2 (x) - àáñîëþòíî íåïðåðûâíàÿ è F3 (x) - ñèíãóëÿðíàÿ. ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 41 13. Ñëó÷àéíûå âåêòîðû è èõ ðàñïðåäåëåíèÿ â Rn Ïóñòü ó íàñ åñòü âåðîÿòíîñòíîå ïðîñòðàíñòâî (Ω, F, P ), ðàññìîòðèì ñëó÷àéíûé âåêòîð - óïîðÿäî÷åííûé íàáîð ñëó÷àéíûõ âåëè÷èí − → ξ (ω) = (ξ1 (ω), . . . , ξn (ω), n ∈ N). → − Èíûìè ñëîâàìè, ξ : Ω → Rn èçìåðèìàÿ îòíîñèòåëüíî Áîðåëåâñêîé σ -àëãåáðû Bn ôóíêöèÿ. Ðàñïðåäåëåíèå ñëó÷àéíîãî âåêòîðà áóäåò âûãëÿäåòü òàê − → − (A) = P (ω : ξ (ω) ∈ A), A ∈ Bn , P→ ξ ôóíêöèåé ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà íàçîâåì − (x1 , . . . , xn ) = P→ − ((−∞, x1 ), . . . , (−∞, x1 )) = P→ − ((−∞, x)); F→ ξ ξ ξ x = (x1 , . . . , xn ), (−∞, x) = (−∞, x1 ) × . . . × (−∞, xn ). Ñâîéñòâà ôóíêöèè ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà − âîçðàñòàåò ïî âñåì àðãóìåíòàì xi , i = 1, . . . , n. Ñâîéñòâî 13.1. F→ ξ − (∞, . . . , ∞) = 1 Ñâîéñòâî 13.2. F→ ξ − (x1 , . . . , xn ) = 0, åñëè Ñâîéñòâî 13.3. F→ ξ min xi = −∞. i=1,...,n Ñâîéñòâî 13.4. Ïóñòü J = [a, b) = [a1 , b1 ) × . . . × [an , bn ), òîãäà − → − (J) = P ( ξ ∈ J) = P→ ξ ∑ − (b1 , . . . , ai , . . . , bn )+ − (b1 , . . . , bn ) − F→ F→ ξ ξ + ∑ 1≤i≤n − (b1 , . . . , ai , . . . , . . . , aj , . . . , . . . , bn )− F→ ξ 1≤i≤j≤n − (a1 , . . . , an ) − . . . + (−1)n F→ ξ → − − → Îïðåäåëåíèå 13.1. Ïóñòü ξ - ñëó÷àéíûé âåêòîð. ξ èìååò äèñêðåòíîå ðàñïðåäåëåíèå, åñëè ñóùåñòâóåò íå áîëåå ÷åì ñ÷åòíîå ìíîæåñòâî çíà÷åíèé A ⊂ Rn , êîòîðîå îí ïðèíèìàåò ñ âåðîÿòíîñòüþ 1 − → P (ω : ξ (ω) ∈ A) = 1. Ðàñïðåäåëåíèå äèñêðåòíîãî ñëó÷àéíîãî âåêòîðà íàçîâåì íàáîð ÷èñåë pk,l = P (ω : ξ(ω)l = ak,l ), A = {ak,l }k∈N , l ∈ {1, . . . , n}. → − − → Îïðåäåëåíèå 13.2. Ïóñòü ξ - ñëó÷àéíûé âåêòîð. ξ èìååò àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëåíèå, åñëè ñóùåñòâóåò èçìåðèìàÿ ôóíêöèÿ p, òàêàÿ ÷òî ∫ − (A) = P→ p(x)dx, A ∈ Bn , ξ A dPξ , ãäå λn - ëåáåãîâñêàÿ ìåðà â Rn ). (ýòî îçíà÷àåò, ÷òî p(x) = dλn − → p - íàçîâåì ïëîòíîñòüþ ðàñïðåäåëåíèÿ ñëó÷àéíîãî âåêòîðà ξ . 42 Î. Å. Ùåðáàêîâà − → Òåîðåìà. Ðàñïðåäåëåíèå ëþáîãî ïîäâåêòîðà ξ − → äåëÿåòñÿ âåêòîðîì ξ d = (ξi1 , . . . , ξid ) ïîëíîñòüþ îïðå- Çàìå÷àíèå 13.1. Îáðàòíîå íå âåðíî: ñëó÷àéíûé âåêòîð íå îïðåäåëÿåòñÿ çàäàíèåì ðàñïðåäåëåíèé âñåõ åãî ïîäâåêòîðîâ. Òåîðåìà. Ïóñòü ñëó÷àéíûé âåêòîð èìååò àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëå- íèå, òîãäà âñå åãî ïîäâåêòîðà áóäóò èìåòü àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëåíèå. − → Äîêàçàòåëüñòâî. Ðàññìîòðèì ðàñïðåäåëåíèå ïîäâåêòîðà ξ d = (ξi1 , . . . , ξid ) Ïóñòü A ∈ Bn , òîãäà P (ω : (ξi1 (ω), . . . , ξid (ω) ∈ A) = P (ω : (ξi1 (ω), . . . , ξid (ω)) ∈ A, (ξid+1 (ω), . . . , ξin (ω)) ∈ Rn−d ) = ∫ ∫ ∫ p(x)dx = [ . . .]p(x)dx1 . . . dxn = A×Rn−d A Rn−d ∫ pξi1 ,...,ξid (xi1 , . . . , xid )dxi1 . . . dxid A  ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 43 14. Íåçàâèñèìîñòü ñëó÷àéíûõ âåëè÷èí Îïðåäåëåíèå 14.1. Ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn ñî çíà÷åíèÿìè â èçìåðè- ìûõ ïðîñòðàíñòâàõ (X1 , A1 ), . . . , (Xn , An ) A1 ∈ A1 , . . . , An ∈ An íàçûâàþòñÿ íåçàâèñèìûìè, åñëè âûïîëíåíî n ∏ P (ξ1 ∈ A1 , . . . , ξn ∈ An ) = P (ξk ∈ Ak ). k=1 Äàäèì åùå íåñêîëüêî ðàâíîñèëüíûõ îïðåäåëåíèé. − → Îïðåäåëåíèå 14.2. Ðàññìîòðèì ñëó÷àéíûé âåêòîð ξ = (ξ1 , . . . , ξn ) ñî çíà÷å- íèÿìè â èçìåðèìîì ïðîñòðàíñòâå (X1 ×. . .×Xn , A1 ×. . .×An ) A1 ∈ A1 , . . . , An ∈ An . • Ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn íàçûâàþòñÿ íåçàâèñèìûìè, åñëè âûïîëíåíî n ∏ − (A1 × . . . × An ) = P→ Pξk (Ak ). ξ k=1 − • Ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn íàçûâàþòñÿ íåçàâèñèìûìè, åñëè ìåðà P→ ξ ðàâíà äåêàðòîâó ïðîèçâåäåíèþ ìåð n ⊗ − = P→ Pξk . ξ k=1 • Ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn íàçûâàþòñÿ íåçàâèñèìûìè, åñëè âûïîëíåíî n ∏ − (x1 , . . . , xn ) = F→ Fξk (x). ξ k=1 Òåîðåìà. Åñëè ñëó÷àéíûå âåëè÷èíû íåçàâèñèìû è èìåþò àáñîëþòíî íåïðåðûâ- íîå ðàñïðåäåëåíèå, òî (1) − (x1 , . . . , xn ) = p→ ξ n ∏ k=1 pξk (x). − → È îáðàòíî, åñëè ñëó÷àéíûé âåêòîð ξ = (ξ1 , . . . , ξn ) èìååò àáñîëþòíî íåïðåðûâíîå ðàñïðåäåëåíèå è âûïîëíåíî ðàâåíñòâî 1, òî ñëó÷àéíûå âåëè÷èíû ξ1 , . . . , ξn íåçàâèñèìû. 44 Î. Å. Ùåðáàêîâà 15. Èíòåãðàë Ëåáåãà, Ëåáåãà-Ñòèëòüåñà, Ðèìàíà-Ñòèòüåñà. Ìàòåìàòè÷åñêîå îæèäàíèå. Ïîíÿòèå ñâåðòêè. Ñóùåñòâóþò ïî êðàéíåé ìåðå äâà ïîäõîäà ê îïðåäåëåíèþ èíòåãðàëà Ñòèëòüåñà: R-S: Ðèìàíà-Ñòèëòüåñà ñòðîèòñÿ íà îñíîâå áëèçîñòè òî÷åê íà îñè, êîíå÷åí äëÿ íå ñëèøêîì ðàçðûâíûõ ôóíêöèé. L-S: Ëåáåãà-Ñòèëòüåñà íà îñíîâå ãðóïïèðîâêè çíà÷åíèé èíòåãðèðóåìûõ ôóíêöèé, ñõîäèòñÿ äëÿ áîëåå øèðîêîãî êëàññà ôóíêöèé. 15.1. Èíòåãðàë Ëåáåãà, Ëåáåãà-Ñòèëòüåñà. Îïðåäåëåíèå 15.1 (L). Ïóñòü ξ - íåîòðèöàòåëüíàÿ ñëó÷àéíàÿ âåëè÷èíà. Ïîñòðîèì ïîñëåäîâàòåëüíîñòü ïðîñòûõ íåîòðèöàòåëüíûõ {ξn }n∈N ñëó÷àéíûõ âåëè÷èí ln ∑ ξn (ω) = xk IAk (ω) k=1 è îïðåäåëèì äëÿ íèõ ìàòåìàòè÷åñêîå îæèäàíèå êàê Eξn = ln ∑ xk P (Ak ) k=1 è ïðåäïîëîæèì, ÷òî ξn (ω) ↑ ξ(ω), n → ∞ äëÿ êàæäîãî ω ∈ Ω. Òîãäà ìàòåìàòè÷åñêèì îæèäàíèåì íåîòðèöàòåëüíîé ñëó÷àéíîé âåëè÷èíû èëè èíòåãðàëîì Ëåáåãà íàçîâåì âåëè÷èíó Eξ = lim Eξn . n→∞ Äëÿ òîãî, ÷òîáû îïðåäåëåíèå áûëî êîððåêòíî íåîáõîäèìî ïîêàçàòü, ÷òî çíà÷åíèå ïðåäåëà íå çàâèñèò îò âûáîðà àïïðîêñèìèðóþùåé ïîñëåäîâàòåëüíîñòè. Çàìåòèì, ÷òî äëÿ íåîòðèöàòåëüíîé ñëó÷àéíîé âåëè÷èíû áóäåò ñïðàâåäëèâî ñëåäóþùåå ïðåäñòàâëåíèå Eξ = sup Es, s∈S:s<ξ ãäå S = {s} - ìíîæåñòâî ïðîñòûõ íåîòðèöàòåëüíûõ ñëó÷àéíûõ âåëè÷èí. Îïðåäåëåíèå 15.2 (L). Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà, îáîçíà÷èì ξ + = max(0, ξ), ξ − = − min(0, ξ). Ìàòåìàòè÷åñêîå îæèäàíèå ñëó÷àéíîé âåëè÷èíû ξ èëè èíòåãðàë Ëåáåãà îò ôóíêöèè ïî âåðîÿòíîñòíîé ìåðå ñóùåñòâóåò, åñëè ïî êðàéíåé ìåðå îäíà èç âåëè÷èí Eξ + èëè Eξ − êîíå÷íà: min(Eξ + , Eξ − ) < ∞ è ïîëàãàþò Eξ = Eξ + − Eξ − . Ìàòåìàòè÷åñêîå îæèäàíèå êîíå÷íî, åñëè E|ξ| < ∞. ∫ (L) ξ(ω)dP (ω) = Eξ. Ω ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 45 Îïðåäåëåíèå 15.3 (L-S). Ðàññìîòðèì âåðîÿòíîñòíîå ïðîñòðàíñòâî (Ω, F ) = (R, B(R)). Ïóñòü G - îáîáùåííàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ (íåóáûâàþùàÿ, íåïðåðûâíàÿ ñëåâà ôóíêöèÿ ñî çíà÷åíèÿìè â (−∞, ∞)). Òîãäà åé ñîîòâåòñòâóåò íåêîòîðàÿ ìåðà Ëåáåãà µ. Èòåãðàëîì Ëåáåãà-Ñòèëòüåñà íàçûâàþò ∫ ∫ ξ(x)dµ(x) (L − S) ξ(x)dG(x) = R R 15.2. Èíòåãðàë Ðèìàíà-Ñòèëòüåñà. Îïðåäåëåíèå 15.4 (R-S). Ïóñòü G - îáîáùåííàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ (íåóáûâàþùàÿ, íåïðåðûâíàÿ ñëåâà ôóíêöèÿ ñî çíà÷åíèÿìè â (−∞, ∞)). Ïóñòü g - îãðàíè÷åííàÿ ôóíêöèÿ, îáðàùàþùàÿñÿ â íóëü âíå îòðåçêà [a, b]. Ðàññìîòðèì ðàçáèåíèå îòðåçêà P = {x0 , . . . , xn }, a = x0 < . . . < xn = b è ñîñòàâèì âåðõíèå n ∑ ∑ = g i (G(xi ) − G(xi−1 )), g i = sup g(y) P è íèæíèå ñóììû ∑ P xi−1 0 P (ξ ≥ ε) ≤ Eξ ε Äîêàçàòåëüñòâî. Eξ ≥ EξI{ξ≥ε} ≥ εEI{ξ≥ε} = εP (ξ ≥ ε)  Íåðàâåíñòâî Ìàðêîâà: Ïóñòü ξ - íåîòðèöàòåëüíàÿ ñëó÷àéíàÿ âåëè÷èíà, g : R+ → R+ - íå óáûâàþùàÿ ôóíêöèÿ, òîãäà äëÿ ëþáîãî ε > 0 P (ξ ≥ ε) ≤ Eg(ξ) g(ε) Äîêàçàòåëüñòâî. Eg(ξ) ≥ Eg(ξ)I{g(ξ)≥g(ε)} ≥ g(ε)EI{ξ≥ε} = g(ε)P (ξ ≥ ε)   êà÷åñòâå g(x) ìîæíî áðàòü x2 , exp x è äðóãèå.  ÷àñòíîñòè, ïîëó÷èì íåðàâåíñòâà P (|ξ − Eξ| ≥ ε) ≤ D(ξ) E exp(ξ) , P (ξ ≥ ε) ≤ ε2 exp(ε) Íåðàâåíñòâî Éåíñåíà: Ïóñòü ξ - ñëó÷àéíàÿ âåëè÷èíà, E|ξ| < ∞, g - âû- ïóêëàÿ âíèç èçìåðèìàÿ ôóíêöèÿ, òîãäà Eg(ξ) ≥ g(Eξ) ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 49 Äîêàçàòåëüñòâî. Èç âûïóêëîñòè âíèç ñëåäóåò, ÷òî äëÿ âñÿêîãî x0 ñóùåñòâóåò λ(x0 ), òàêîå ÷òî äëÿ âñåõ x âûïîëíÿåòñÿ íåðàâåñòâî g(x) − g(x0 ) ≥ λ(x0 )(x − x0 ) Ïîëîæèì x0 = Eξ , x = ξ . Ðàññìîòðèì òåïåðü ìàòåìàòè÷åñêîå îæèäàíèå g(ξ) − g(Eξ) ≥ λ(Eξ)(ξ − Eξ) Eg(ξ) − g(Eξ) ≥ λ(Eξ)E(ξ − Eξ) = 0  Íåðàâåíñòâî Êîøè-Áóíÿêîâñêîãî: Ïóñòü Eξ 2 < ∞, Eξ 2 < ∞, òîãäà E|ξη| ≤ (Eξ 2 Eξ 2 )1/2 Äîêàçàòåëüñòâî. Ïðåäïîëîæèì, ÷òî Eξ 2 > 0, Eη 2 > 0, èíà÷å åñëè Eξ 2 > 0, òî ξ = 0 ï.í. è Eξη = 0 è íåðàâåíñòâî ïðåâðàùàåòñÿ â òðèâèàëüíîå ðàâåíñòâî. Ïóñòü ξ η ξe = √ , ηe = √ 2 Eξ Eη 2 Âîñïîëüçóåìñÿ íåðàâåíñòâîì a2 + b2 ≤ 2|ab|, êîòîðîå âåðíî äëÿ ëþáûõ âåùåñòâåííûõ a, b. eη |; ξe2 + ηe2 ≤ 2|ξe eη )| = √ E|ξη| 2 = E ξe2 + E ηe2 ≤ 2E|(ξe Eξ 2 Eη 2  Íåðàâåíñòâî Ëÿïóíîâà: Åñëè 0 < s < t, òî (Eξ s )1/s ≤ (Eξ t )1/t Äîêàçàòåëüñòâî. Ïîëîæèì r = t/s, ðàññìîòðèì âûïóêëóþ âíèç ôóíêöèþ g(x) = xr , (r > 1). Ïðèìåíèì íåðàâåíñòâî Éåíñåíà E(ξ t ) = E((ξ s )r ) ≥ ((Eξ s )1/s )r = (Eξ s )t/s  Íåðàâåíñòâî üëüäåðà: Ïóñòü E|ξ|s < ∞, E|ξ|t < ∞, 1/s + 1/t = 1, 1 < s < ∞, 1 < t < ∞, òîãäà E|ξη| ≤ (Eξ s )1/s (Eξ t )1/t Äîêàçàòåëüñòâî. Àíàëîãè÷íî äîêàçàòåëüñòâó íåðàâåíñòâà Êîøè-Áóíÿêîâñêîãî, êîòîðîå ÿâëÿåòñÿ ÷àñòíûì ñëó÷àåì äîêàçûâàåìîãî íåðàâåíñòâà, ïðåäïîëîæèì, ÷òî E|ξ| > 0, E|η| > 0, èíà÷å íåðàâåíñòâî ïðåâðàùàåòñÿ â òðèâèàëüíîå ðàâåíñòâî. Ïóñòü |ξ| |η| √ s , ηe = 1/t √ ξe = 1/s Eξ Eη t 50 Î. Å. Ùåðáàêîâà Âîñïîëüçóåìñÿ íåðàâåíñòâîì xa y b ≤ ax + by , êîòîðîå âåðíî äëÿ ëþáûõ ïîëîæèòåëüíûõ x, y, a, b, a + b = 1. Ýòî íåðàâåíñòâî âûòåêàåò èç ñâîéñòâ âûïóêëîñòè ââåðõ ëîãàðèôìè÷åñêîé ôóíêöèè: a ln x + b ln y ≤ ln(ax + by). es Ïîëîæèì x = ξ , y = ηet , a = 1/s, b = 1/t. Òîãäà eη ≤ 1 ξes + 1 ηet ; ξe s t 1 1 s t eη ) ≤ E ξe + E ηe = 1/s + 1/t = 1. E(ξe s t ×òî è äîêàçûâàåò òðåáóåìîå íåðàâåíñòâî.  Íåðàâåíñòâî Ìèíêîâñêîãî: Ïóñòü 1 ≤ p < ∞, E|ξ|p < ∞, E|η|p < ∞, òîãäà (E|ξ + η|p )1/p ≤ (E|ξ|p )1/p + (E|η|p )1/p ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 51 16. Äèñïåðñèÿ. Êîâàðèàöèÿ. Êîððåëÿöèÿ. 16.1. Äèñïåðñèÿ. Îïðåäåëåíèå 16.1. Dξ = E(ξ − Eξ)2 = Eξ 2 − (Eξ)2 Âòîðîé öåíòðàëüíûé ìîìåíò íàçûâàåòñÿ äèñïåðñèåé. Êâàäðàòè÷íîå îòêëîíå√ íèå σ(ξ) = Dξ ïîêàçûâàåò ðàçìàõ ñëó÷àéíîé âåëè÷èíû, âåëè÷èíó ôëóêòóàöèè. Ñâîéñòâà äèñïåðñèè (1) Dξ = 0 ⇔ {∃ c ∈ R : P (ξ = c) = 1}, (ξ = c ï.í. ) (2) D(ξ + c) = Dξ, D(cξ) = c2 Dξ, c ∈ R (3) Åñëè ξ , η - íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, òî D(ξ + η) = Dξ + Dη 16.2. Êîâàðèàöèÿ. Êîâàðèöèîííàÿ ìàòðèöà. Îïðåäåëåíèå 16.2. cov(ξ, η) = E[(ξ − Eξ)(η − Eη)] = Eξη − EξEη. Âòîðîé ñìåøàííûé öåíðàëüíûé ìîìåíò íàçûâàåòñÿ êîâàðèàöèåé. − → Ðàññìîòðèì ñëó÷àéíûé âåêòîð ξ = (ξ1 , . . . , ξn ). Åãî êîâàðèàöèîííîé ìàòðèöåé íàçûâàåòñÿ ìàòðèöà R = (Ri,j )i=1,...,n;j=1,...,n , Ri,j = cov(ξi , ξj ). Òåîðåìà. Ñëåäóþùèå óòâåðæäåíèÿ ðàâíîñèëüíû: → − (1) R - êîâàðèàöèîííàÿ ìàòðèöà ñëó÷àéíîãî âåêòîðà ξ = (ξ1 , . . . , ξn ) (2) ñóùåñòâóåò ìàòðèöà A = (Ai,j )i=1,...,n;j=1,...,n : R = AAt . (3) R - ñèììåòðè÷íà è íåîòðèöàòåëüíî îïðåäåëåíà. Äîêàçàòåëüñòâî. 1 ⇒ 3: Íåîòðèöàòåëüíî îïðåäåëåííîñòü ìàòðèöû R ñëåäóåò èç íåðàâåíñòâ n ∑ ∑ ∑ Rij λi λj = cov(ξi , ξj )λi λj = E( (ξi − Eξi )λi )2 ≥ 0 ij ij i=1 3 ⇒ 2 ⇒ 1: Èç íåîòðèöàòåëüíî îïðåäåëåííîñòè ìàòðèöû R ñëåäóåò, ÷òî ñóùåñòâóåò îðòîãîíàëüíàÿ ìàòðèöà Q (QQt = E ), òàêàÿ ÷òî R = QDQt , D = E(d1 , . . . , dn )t , di ≥ 0, i = 1, . . . , n. √ √ Ïîëîæèì ìàòðèöó B : D = B 2 , B = E( d1 , . . . , dn )t , òîãäà âîçüìåì â êà÷åñòâå A = QB è ïîëó÷èì R = AAt . 52 Î. Å. Ùåðáàêîâà − → Òåïåðü ïîñòðîèì ñëó÷àéíûé âåêòîð ξ èìåþùèé êîâàðèàöèîííóþ ìàò− ðèöó R. Ïóñòü → η = (η1 , . . . , ηn ), ηi ∈ N (0, 1) ñëó÷àéíûé âåêòîð, ñîñòîÿùèé → − èç íåçàâèñèìûõ íîðìàëüíûõ ñëó÷àéíûõ âåëè÷èí, à â êà÷åñòâå ξ âîçüìåì − → − → → − ξ = (ξ1 , . . . , ξn ), ξ = A η t . Çàìåòèì, ÷òî Ñëåäîâàòåëüíî, → − E− η→ η t = E. − →− → → → η− η t At = AEAt = R. E ξ ξ t = A−  16.3. Êîððåëÿöèÿ. Îïðåäåëåíèå 16.3. Êîýôôèöèåíòîì êîððåëÿöèè íàçûâàåòñÿ cov(ξ, η) r(ξ, η) = √ DξDη Ñâîéñòâî 16.1. Åñëè ξ, η - íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, òî r(ξ, η) = 0. Äîêàçàòåëüñòâî. Èç íåçàâèñèìîñòè ξ, η ñëåäóåò, ÷òî Eξη = EξEη, cov(ξ, η) = Eξη − EξEη = 0, r(ξ, η) = 0.  Çàìå÷àíèå 16.1. Çàìåòèì, ÷òî îáðàòíîå íå âåðíî. Ïðèâåäåì ïðèìåð. Ïðèìåð 16.1. ∫ Eη = 1 Ω = [0, 1], P = λ, ξ(ω) = sin(πω), η = cos(πω), ∫ 1 1 sin(2πω)dω = 0, r(ξ, η) = 0. cos(πω)dω = 0, Eξη = 2 0 Òåîðåìà. Äîêàçàòåëüñòâî. |r(ξ, η)| = 1 ⇔ ξ, η − ëèíåéíî çàâèñèìû. ⇒: Îáîçíà÷èì ξ − Eξ η − Eη ξe = √ , ηe = √ . D(ξ) D(η) Ïóñòü r(ξ, η) = 1. Ðàññìîòðèì eη = 2 − 2 = 0 D(ξe − ηe) = E((ξe − ηe))2 − (E(ξe − ηe))2 = Dξe + De η − 2E ξe Òàêèì îáðàçîì, ξe − ηe = c , çíà÷èò ξ, η -ëèíåéíî çàâèñèìû. Åñëè r(ξ, η) = −1, òî àíàëîãè÷íî äîêàçûâàåì D(ξe + ηe) = 0 ⇐: Ïóñòü ξ = aη + b, òîãäà r(ξ, η) = r(aη + b, η) = cov(aη + b, η) aEη 2 + bEη − (aEη + b)Eη = = sign(a). |a|Dη |a|Dη  53 ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 17. Ðàçëè÷íûå âèäû ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí 1. Ñõîäèìîñòü ï.í. (ïî÷òè íàâåðíîå)èëè ñ âåðîÿòíîñòüþ 1: Îïðåäåëåíèå 17.1. {ξn → ξ ï.í.} ⇔ {P (ω : ξn (ω) → ξ(ω)) = 1}. n→∞ n→∞ 2. Ñõîäèìîñòü ïî âåðîÿòíîñòè: Îïðåäåëåíèå 17.2. P {ξn → ξ, n → ∞} ⇔ {∀ε > 0 P (ω : |ξn (ω) − ξ(ω)| ≥ ε) → 0}. n→∞ 3. Ñõîäèìîñòü ïî ðàñïðåäåëåíèþ: Îïðåäåëåíèå 17.3. d {ξn → ξ, n → ∞} ⇔ { äëÿ âñÿêîé òî÷êè x ∈ R − òî÷êè íåïðåðûâíîñòè ôóíêöèè ðàñïðåäåëåíèÿ Fξ Fξn (x) → n→∞ Fξ (x)} ⇔ { äëÿ âñÿêîé íåïðåðûâíîé è îãðàíè÷åííîé ôóíêöèè f Ef (ξn ) → Ef (ξ)}. n→∞ 4. Ñõîäèìîñòü â ñðåäíåì ïîðÿäêà p ≥ 1 : Îïðåäåëåíèå 17.4. Lp {ξn → ξ, n → ∞} ⇔ {E|ξn (ω) − ξ(ω)|p → 0}. n→∞ 54 Î. Å. Ùåðáàêîâà 17.1. Êðèòåðèé ñõîäèìîñòè ïî÷òè íàâåðíîå. Òåîðåìà. ξn → ξ ï.í. ⇔ {∀ε > 0 P (ω : sup |ξk (ω) − ξ(ω)| ≥ ε) → 0}. n→∞ n→∞ k≥n Äîêàçàòåëüñòâî. Ðàñïèøåì ïîäðîáíî íà ÿçûêå ε − δ ñîáûòèå ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí {ω : ξn (ω) → ξ(ω)} = {ω : ∀ε > 0∃N : ∀n ≥ N ⇒ |ξn (ω) − ξ(ω)| < ε} n→∞ Ðàññìîòðèì îáðàòíîå ñîáûòèå {ω : ξn (ω) 9 ξ(ω)} = {ω : ∃ε > 0∀n : ∃k ≥ n ⇒ |ξk (ω) − ξ(ω)| ≥ ε} = n→∞ = ∞ ∪ ∪ ∩ {ω : |ξk (ω) − ξ(ω)| ≥ ε} ε>0 n=1 k≥n ∩∞ ∪ Îáîçíà÷èì Aεk = {ω : |ξk (ω) − ξ(ω)| ≥ ε}, Aε = n=1 k≥n Aεk = lim sup Aεk . Òîãäà ñîáûòèå îòñóòñòâèÿ ñõîäèìîñòè ìîæíî ïåðåïèñàòü òàê: ∪ {ω : ξn (ω) 9 ξ(ω)} = Aε . n→∞ ε>0 Íàïèøåì öåïî÷êó ðàâíîñèëüíûõ óòâåðæäåíèé {P (ω : ξn (ω) 9 ξ(ω)) = 0} ⇔ {P ( n→∞ {P ( ∞ ∪ A1/m ) = 0} Aε ) = 0} ⇔ ε>0 ⇔ P (A)≥0,∀A∈F m=1 ∪ {P (Aε ) = 0, ∀ε > 0} ⇔ {P ( {P (A1/m ) = 0, ∀m ∈ N} ⇔ ∪ k≥n Aεk ) → 0, ∀ε > 0} ⇔ n→∞ {P (ω : sup |ξk (ω) − ξ(ω)| ≥ ε) → 0, ∀ε > 0} n→∞ k≥n  Ñëåäñòâèå 1. { ∞ ∑ P (|ξk − ξ| ≥ ε) < ∞} ⇒ {ξn → ξ ï.í.} n→∞ k=1 Äîêàçàòåëüñòâî. Âîçüìåì ïðîèçâîëüíîå ε > 0. ∪ ∑ P (sup |ξk − ξ| ≥ ε) = P ( {|ξk − ξ| ≥ ε}) ≤ P (|ξk − ξ| ≥ ε) → 0 k≥n k≥n k≥n Ïî êðèòåðèþ ñõîäèìîñòè ïî÷òè íàâåðíîå ïîëó÷èì òðåáóåìîå. n→∞  Ïóñòü äàíà {An }n∈N ïîñëåäîâàòåëüíîñòü ñîáûòèé. ∩ ∩∞ ∞ ∪ Ðàñìîòðèì òàêîå ñîáûòèå {á.÷.An } = lim sup An = n=1 k≥n Ak = n=1 Bn - áóäåò ïðîèñõîäèòü áåñêîíå÷íîå ÷èñëî ðàç. Çàìåòèì, ÷òî òàêîå ñîáûòèå îïðåäå∪ ëåíî êîððåêòíî, ïîñêîëüêó Bn = k≥n Ak îáðàçóþò óáûâàþùóþ ïîñëåäîâàòåëüíîñòü ìíîæåñòâ, à èõ ïðåäåë - áåñêîíå÷íîå ïåðåñå÷åíèå. Ëåììà 17.1. (Áîðåëÿ-Êàíòåëëè) ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 55 (1) ∞ ∑ P (An ) < ∞ ⇒ P (á.÷.An ) = 0 n=1 (2) Åñëè ñîáûòèÿ An íåçàâèñèìû, òî ∞ ∑ P (An ) = ∞ ⇒ P (á.÷.An ) = 1 n=1 Äîêàçàòåëüñòâî. (1) Äîïóñòèì, ÷òî ðÿä èç âåðîÿòíîñòåé ñõîäèòñÿ. ∞ ∑ P (An ) < ∞. n=1 P (á.÷.An ) = P ( ∞ ∩ Bn ) ≤ P (Bn ) = P ( n=1 ∪ Ak ) k≥n Ïî ñâîéñòâó ïîëóàääèòèâíîñòè âåðîÿòíîñòè ïîëó÷èì ∪ ∑ P( Ak ) ≤ P (Ak ) k≥n k≥n ∑ P (Ak ) → 0, n → ∞ êàê îñòàòîê ñõîäÿùåãîñÿ ðÿäà. (2) Ïðåäïîëîæèì òåïåðü, ÷òî ðÿä èç âåðîÿòíîñòåé ðàñõîäèòñÿ, à ñîáûòèÿ An íåçàâèñèìû. Ðàññìîòðèì îáðàòíîå ñîáûòèå k≥n D = {á.÷.An } = ∞ ∩ ∪ Ak = n=1 k≥n ∞ ∪ Bn n=1 Èç íåçàâèñèìîñòè ñàìèõ ñîáûòèé, à ñëåäîâàòåëüíî èç íåçàâèñèìîñòè îáðàòíûõ, ∏ ∏ ∩ P (Ak ) = (1 − P (Ak ) Ak ) = P( k≥n k≥n k≥n Èñïîëüçóÿ ñâîéñòâî ëîãàðèôìè÷åñêîé ôóíêöèè ln(1 − x) ≤ −x, x ∈ (0, 1], ïîëó÷èì ∏ ∑ ∑ ∩ ln (1 − P (Ak ) = ln(1 − P (Ak ) ≤ − P (Ak ) = −∞; P ( Ak ) = 0, ∀n ∈ N. k≥n k≥n k≥n k≥n Ïîñêîëüêó ïîñëåäîâàòåëüíîñòü ñîáûòèé {Bn } áóäåò âîçðàñòàþùåé, òî ïî íåïðåðûâíîñòè âåðîÿòíîñòíîé ìåðû ïðåäåë áóäåò ðàâåí ñ÷åòíîîé ñóììå ñîáûòèé P (D) = P ( ∞ ∪ n=1 Bn ) = lim P ( n→∞ ∩ Ak ) = 0 ⇒ P (á.÷.An ) = 1. k≥n  56 Î. Å. Ùåðáàêîâà 17.2. Ñðàâíèòåëüíûé àíàëèç ðàçëè÷íûõ âèäîâ ñõîäèìîñòè ñëó÷àéíûõ âåëè÷èí. P (1) {ξn → ξ ï.í.} ⇒ {ξn → ξ, n → ∞} Òåîðåìà. n→∞ Lp P (2) {ξn → ξ, n → ∞} ⇒ {ξn → ξ, n → ∞} P d (3) {ξn → ξ, n → ∞} ⇒ {ξn → ξ, n → ∞} Äîêàçàòåëüñòâî. (1) Ïî êðèòåðèþ ñõîäèìîñòè ïî÷òè íàâåðíîå èìååì {ξn → ξ ï.í.} ⇔ {∀ε > 0 P (ω : sup |ξk (ω) − ξ(ω)| ≥ ε) → 0}. n→∞ k≥n n→∞ Ñ äðóãîé ñòîðîíû, ìû ìîæåì íàïèñàòü íåðàâåíñòâî 0 ← P (ω : sup |ξk (ω) − ξ(ω)| ≥ ε) ≥ P (ω : |ξn (ω) − ξ(ω)| ≥ ε) n→∞ k≥n Òàêèì îáðàçîì, ïîëó÷àåì ñõîäèìîñòü ïî âåðîÿòíîñòè. (2) Äëÿ äîêàçàòåëüñòâà äîñòàòî÷íî âîñïîëüçîâàòüñÿ íåðàâåíñòâîì Ìàðêîâà ñ ôóíêöèåé g(x) = |x|p . Âîçüìåì ïðîèçâîëüíîå ε > 0. P (|ξn (ω) − ξ(ω)| ≥ ε) ≤ E|ξn − ξ|p → 0 n→∞ εp (3) Ïóñòü òî÷êà x - òî÷êà íåïðåðûâíîñòè ôóíêöèè ðàñïðåäåëåíèÿ Fξ . Âîçüìåì ïðîèçâîëüíîå ε > 0. Èç íåïðåðûâíîñòè ôóíêöèè ðàñïðåäåëåíèÿ è ñõîäèìîñòè ïî âåðîÿòíîñòè äëÿ ëþáîãî ε > 0 ñóùåñòâóþò δ > 0, N ∈ N, òàêèå ÷òî |Fξ (x + δ) − Fξ (x)| < ε, äëÿ âñÿêèõ íàòóðàëüíûõ n ≥ N P (|ξn − ξ| > δ) < ε. Ðàññìîòðèì |Fξn (x) − Fξ (x)| = |P (ξn < x) − P (ξ < x)| = |P (ξn < x, |ξn − ξ| ≤ δ) + P (ξn < x, |ξn − ξ| > δ) − P (ξ < x)| ≤ |P (ξ ≤ δ + x) + P (|ξn − ξ| > δ) − Fξ (x)| = |Fξ (x + δ) + P (|ξn − ξ| > δ) − Fξ (x)| < 2ε Ñëåäîâàòåëüíî, Fξn (x) → Fξ (x) n→∞  Ïðèâåäåì ïðèìåðû, ïîêàçûâàþùèå, ÷òî äðóãèå ëîãè÷åñêèé ñâÿçêè íåâîçìîæíû. Ïðèìåð 17.1. P,Lp {ξn → ξ ï.í.} : {ξn → ξ, n → ∞} n→∞ Ω = [0, 1], F = B[0, 1], P = λ - ìåðà Ëåáåãà, Ain = [ i−1 i , ], ξni (ω) = IAin (ω) n n ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ ξ11 ξ21 ξ22 ... ξn1 ξn2 . . . ξnn Ïîñëåäîâàòåëüíîñòü ξnn ñõîäèòñÿ â ñðåäíåì, ïî âåðîÿòíîñòè ê íóëþ 1 E|ξnn |p = → 0, n n→∞ íî íå ñõîäèòñÿ íè â îäíîé òî÷êå ω ∈ [0, 1]. Ïðèìåð 17.2. Lp {ξn → ξ ï.í.} ; {ξn → ξ, n → ∞} n→∞ { n e , 0 ≤ ω ≤ 1/n; ξn (ω) = 0, ω > 1/n. P {ξn 9 0} = 1/n → 0; n→∞ epn E|ξn |p = → ∞. n Ïðèìåð 17.3. Lp {ξn → ξ ï.í.} : {ξn → ξ, n → ∞} n→∞ Ïóñòü ξn ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ èñïûòàíèé Áåðíóëëè è P (ξn = 1) = pn , P (ξn = 0) = 1 − pn . Òîãäà P {ξn → ξ, n → ∞} ⇔ pn → 0; Lp {ξn → ξ, n → ∞} ⇔ pn → 0; {ξn → ξ ï.í.} ⇔ n→∞ ∞ ∑ pn < ∞. n=1 Òàêèì îáðàçîì, ïðè pn = 1/n ñõîäèìîñòè ïî÷òè íàâåðíîå íå áóäåò. 57 58 Î. Å. Ùåðáàêîâà 18. Çàêîí áîëüøèõ ÷èñåë. Óñèëåííûé çàêîí áîëüøèõ ÷èñåë 18.1. Çàêîí áîëüøèõ ÷èñåë. Îïðåäåëåíèå 18.1. Ïîñëåäîâàòåëüíîñòü {ξn }n∈N ñëó÷àéíûõ âåëè÷èí ñ êîíå÷- íûì ìàòåìàòè÷åñêèì îæèäàíèåì Eξn = an óäîâëåòâîðÿåò çàêîíó áîëüøèõ ÷èñåë, åñëè ∑n i=1 (ξi − ai ) P → 0, n → ∞. n Òåîðåìà (Ìàðêîâà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí òàêàÿ, ÷òî ∑n D( i=1 ξi ) → 0. n→∞ n2 Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò çàêîíó áîëüøèõ ÷èñåë. Äîêàçàòåëüñòâî. Ïóñòü ε > 0. Ïî íåðàâåíñòâó Ìàðêîâà ñ ôóíêöèåé g(x) = x2 ïîëó÷èì ∑n ∑n ∑n ∑n i=1 (ξi −Eξi ) 2 i=1 ξi ) ) E( D( |ξ − Eξ | D( i=1 ξi ) i i n n i=1 P( ≥ ε) ≤ = = → 0. n→∞ n ε2 ε2 ε2 n2  Òåîðåìà (×åáûø¼âà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí òàêàÿ, ÷òî äèñïåðñèè ðàâíîìåðíî îãðàíè÷åíû Dξi < c. Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò çàêîíó áîëüøèõ ÷èñåë. Äîêàçàòåëüñòâî. Ïðèìåíèì òåîðåìó Ìàðêîâà è ïîëó÷èì ∑n ∑n D( i=1 ξi ) c i=1 D(ξi ) = ≤ → 0. 2 2 íåçàâèñèìîñòü n n n n→∞  Òåîðåìà (Áåðøòåéíà, î ñëàáîçàâèñìûõ íà áåñêîí÷íîñòè ñëó÷àéíûõ âåëè÷èíàõ). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí òàêàÿ, ÷òî òàêàÿ, ÷òî äèñïåðñèè ðàâíîìåðíî îãðàíè÷åíû Dξi < c. Ïðåäïîëîæèì, ÷òî ñóùåñòâóåò ôóíêöèÿ r(n) → 0, òàêàÿ ÷òî n→∞ cov(ξi , ξj ) ≤ r(|i − j|). Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò çàêîíó áîëüøèõ ÷èñåë. 59 ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ Äîêàçàòåëüñòâî. Ïðèìåíèì òåîðåìó Ìàðêîâà è ïîëó÷èì ∑n n n n D( i=1 ξi ) 1 ∑ ∑ 1 ∑ cov(ξ , ξ ) = cov(ξi , ξj ) ≤ = i j n2 n2 i,j=1 n2 k=−n j−i=k n n n n ∑ 1 ∑ ∑ 1 ∑ r(|i − j|) = 2 r(|k|) 1= n2 n k=−n j−i=k k=−n j−i=k n−1 1 2∑ r(k). (2nr(0) + 2(n − 1)r(1) + . . . + 2(n − k)r(k) + . . . + 2r(n − 1)) ≤ n2 n k=0 Çàìåòèì, ÷òî ({r(n) → 0} ⇔ {∀ε > 0 ∃N ∈ N : ∀m ≥ N ⇒ |r(m)| < ε}; n→∞ {r(n) → 0} ⇒ {∃M > 0 : |r(k)| < M, ∀k ∈ N}). n→∞ Òàêèì îáðàçîì, ìîæåì ïðîäîëæèòü îöåíêó n−1 2∑ 2 r(k) ≤ (M N + ε(n − 1 − N )) → 0. n→∞ n n k=0  Òåîðåìà (Õèí÷èíà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí è Eξi = a. Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò çàêîíó áîëüøèõ ÷èñåë. Äîêàçàòåëüñòâî ýòîé òåîðåìû ïðèâåäåì â ïàðàãðàôå î õàðàêòåðåñòè÷åñêèõ ôóíêöèÿõ. Òåîðåìà (Áåðøòåéíà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí. Òîãäà äëÿ òîãî, ÷òîáû ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿëà çàêîíó áîëüøèõ ÷èñåë íåîáõîäèìî è äîñòàòî÷íî, ÷òîáû ∑n ( i=1 ( ξ−Eξ ))2 E( ∑n nξ−Eξ 2 ) → 0. 1 + ( i=1 ( n )) n→∞ . 60 Î. Å. Ùåðáàêîâà 18.2. Óñèëåííûé çàêîí áîëüøèõ ÷èñåë. Îïðåäåëåíèå 18.2. Ïîñëåäîâàòåëüíîñòü {ξn }n∈N ñëó÷àéíûõ âåëè÷èí ñ êîíå÷- íûì ìàòåìàòè÷åñêèì îæèäàíèåì Eξn = an óäîâëåòâîðÿåò óñèëåííîìó çàêîíó áîëüøèõ ÷èñåë, åñëè ∑n i=1 (ξi − ai ) → 0, n → ∞. ï.í. n Òåîðåìà (Êàíòåëëè). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí è ∃M > 0 : E(ξi − Eξi )4 ≤ M < ∞. Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò óñèëåííîìó çàêîíó áîëüøèõ ÷èñåë. Äîêàçàòåëüñòâî. Íå óìàëÿÿ îáùíîñòè, ïîëîæèì Eξi = 0. Äîêàæåì äëÿ íà÷àëà, ÷òî n ∑ 4 Eξi ≤ M ⇒ E( ξi )4 ≤ cM n2 . i=1 n n ∑ ∑ ∑ ∑ E(ξi2 ξj ξk )+ E(ξi2 ξj2 ) + E( ξi )4 = E(ξi4 ) + i=1 i=1 + E(ξi ξk ξj ξm ) i̸=j̸=k̸=m = n ∑ E(ξi )4 + i=1 ∑ = íåçàâèñèìîñòü ∑ E(ξi )2 E(ξj )2 + i̸=j + i̸=j̸=k i̸=j ∑ i̸=j̸=k ∑ Eξi Eξk Eξj Eξm i̸=j̸=k̸=m n ∑ i=1 E(ξi )4 + ∑ i̸=j E(ξi )2 E(ξj )2 E(ξi )2 Eξj Eξk + ≤ íåð. Ëÿïóíîâà n ∑ i=1 = Eξi =0 E(ξi )4 + n n ∑ (E(ξi )4 )1/2 ≤ i=1 ≤ M n (1 + 1/n) 2 Âîñïîëüçóåìñÿ ñëåäñòâèåì èç êðèòåðèÿ ñõîäèìîñòè ïî÷òè íàâåðíîå è íåðàâåíñòâîì Ìàðêîâà ñ ôóíêöèåé g(x) = x4 . ∑n ∞ ∞ n ∞ ∑ ∑ ∑ ∑ E( i=1 ξi )4 cM n2 ≤ < ∞. P (| ξi | ≥ nε) ≤ 4 (εn) (εn)4 n=1 n=1 n=1 i=1  ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 61 Ïðèâåäåì åùå äâå òåîðåìû Êîëìîãîðîâà îá óñèëåííîì çàêîíå áîëüøèõ ÷èñåë áåç äîêàçàòåëüñòâà. ∑ n Îáîçíà÷èì Sn = i=1 ξi . Òåîðåìà (Êîëìîãîðîâà äëÿ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí è E|ξi | < ∞. Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò óñèëåííîìó çàêîíó áîëüøèõ ÷èñåë Sn → m, n → ∞, ãäå m = Eξi . n ï.í. Òåîðåìà (Êîëìîãîðîâà äëÿ íåîäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí è ïóñòü {bn }n∈N ïîñëåäîâàòíåëüíîñòü, òàêàÿ ÷òî bn > 0, bn ↗ ∞. Òîãäà âåðíû ñëåäóþùèå èìïëèêàöèè ∞ ∑ Sn − ESn Dξn <∞ ⇒ → 0; ï.í. b2n bn â ÷àñòíîñòè, n=1 ∞ ∑ Sn − ESn Dξn <∞ ⇒ → 0 2 ï.í. n n n=1  òî åñòü ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò óñèëåííîìó çàêîíó áîëüøèõ ÷èñåë. 62 Î. Å. Ùåðáàêîâà 19. Õàðàêòåðèñòè÷åñêèå ôóíêöèè Ðàññìîòðèì êîìïëåêñíîçíà÷íûå ñëó÷àéíûå âåëè÷èíû ζ = ξ + iη , ïî îïðåäåëåíèþ ïîëîæèì Eζ = Eξ + iEη . Áóäåì ðàññìàòðèâàòü ãèëüáåðòîâî ïðîñòðàíñòâî êîìïëåêñíîçíà÷íûõ ñëó÷àéíûõ âåëè÷èí ñ |ζ|2 = ξ 2 + η 2 , E|ζ|2 < ∞ ñî ñêàëÿðíûì ïðîèçâåäåíèåì (ζ1 , ζ2 ) = Eζ1 ζ2 . − → Îïðåäåëåíèå 19.1. Ïóñòü ξ = (ξ1 , . . . , ξn ) ñëó÷àéíûé âåêòîð − → ξ : (Ω, F, P ) → (Rn , B(Rn )), åãî õàðàêòåðèñòè÷åñêîé ôóíêöèåé áóäåì íàçûâàòü → − − (t) = Eei(t, ξ ) , t ∈ Rn . φ→ ξ  ÷àñòíîñòè, õàðàêòåðèñòè÷åñêîé ôóíêöèåé ñëó÷àéíîé âåëè÷èíû ξ : (Ω, F, P ) → (R, B(R)) íàçîâåì φξ (t) = Eeitξ , t ∈ R. 19.1. Ñâîéñòâà õàðàêòåðèñòè÷åñêîé ôóíêöèè ñëó÷àéíîé âåëè÷èíû. (1) Åñëè η = aξ + b, òî φη (t) = Eeit(aξ+b) = eitb φξ (at). ∑n (2) Åñëè ξ1 , .∏ . . , ξn - íåçàâèñèìûå ñëó÷àéíûå âåëè÷èíû, Sn = i=1 ξi , òî n φSn (t) = i=1 φξi (t). φSn (t) = E exp(it( n ∑ ξi )) = i=1 n ∏ Eeitξi (t) = i=1 n ∏ φξi (t). i=1 Òåîðåìà. Ïóñòü ñëó÷àéíàÿ âåëè÷èíà ξ ñ ôóíêöèåé ðàñïðåäåëåíèÿ Fξ è õàðàêòåðåñòè÷åñêîé ôóíêöèåé φ(t) = Eeitξ . Òîãäà èìåþò ìåñòî ñëåäóþùèå ñâîéñòâà (1) |φ(t)| ≤ φ(0) = 1, ∀t ∈ R; (2) φ(t) ðàâíîìåðíî íåïðåðûâíà ïî t ∈ R; (3) φ(t) = φ(−t) (4) φ(t) - âåùåñòâåííîçíà÷íàÿ ∫ôóíêöèÿ ∫òîãäà è òîëüêî òîãäà, êîãäà ðàñïðåäåëåíèå Fξ ñèììåòðè÷íî ( B dFξ = −B dFξ , B ∈ B(R), −B = {−x, x ∈ B}); (5) Åñëè äëÿ íåêîòîðîãî n ≥ 1 E|ξ|r < ∞, òî ïðè âñåõ r ≤ n ñóùåñòâóþò ïðîèçâîäíûå φ(r) (t) ∫ φ(r) (t) = (ix)r eitx dFξ (x), R r Eξ = φ(t) = n ∑ (it)r r=0 r! Eξ r + φ(r) (0) , ir (it)n εn (t), |εn (t)| ≤ 3E|ξ|n , εn (t) → 0; t→0 n! (6) Åñëè ñóùåñòâóåò è êîíå÷íà φ(2n) (0), òî Eξ 2n < ∞; 63 ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ (7) Åñëè äëÿ âñåõ n ≥ 1 E|ξ|n < ∞ è lim sup (E|ξ|n )1/n = 1/T < ∞, n òî ïðè âñåõ |t| < T φ(t) = ∞ ∑ (it)n n Eξ . n! n=0 19.2. Ïðèìåðû õàðàêòåðèñòè÷åñêèõ ôóíêöèé. (1) Ðàñïðåäåëåíèå Áåðíóëëè ξ ∈ B(p), φξ (t) = peit + q (2) Áèíîìèàëüíîå ðàñïðåäåëåíèå ξ ∈ Bn (p), ξ = n ∑ ξk , ξk ∈ B(p), φξ (t) = (peit + q)n k=1 (3) Ðàñïðåäåëåíèå Ïóàññîíà ∞ ∑ it λn e−λ+int ξ ∈ π(λ), φξ (t) = = e−λ(1−e ) n! n=1 (4) Ðàâíîìåðíîå ðàñïðåäåëåíèå ∫ b ξ ∈ U[a,b] , φξ (t) = a eitx eitb − eita dx = b−a it(b − a) Ðàâíîìåðíîå ñèììåòðè÷íîå ðàñïðåäåëåíèå ∫ a itx eita − e−ita sin(ta) e ξ ∈ U[−a,a] , φξ (t) = dx = = 2a 2ita ta −a (5) Ýêñïîíåíöèàëüíîå ðàñïðåäåëåíèå ∫ ∞ ξ ∈ E(λ), φξ (t) = λex(it−λ) dx = λ it − λ (6) Íîðìàëüíîå ðàñïðåäåëåíèå ξ0 ∈ N (0, 1) 1 φξ0 (t) = √ 2π ∫ ∞ e−t /2 dx = √ 2π 2 e−x −∞ ξ ∈ N (a, σ 2 ), ξ0 = 2 /2+itx ∫ ∞ e− (x−it)2 2 dx = e−t −∞ 2 ξ−a , ξ = σξ0 + a, φξ (t) = eita−(tσ) /2 . σ 2 /2 64 Î. Å. Ùåðáàêîâà 19.3. Ôîðìóëà îáðàùåíèÿ. Òåîðåìà (Ôîðìóëà îáðàùåíèÿ). Ïóñòü ñëó÷àéíàÿ âåëè÷èíà ξ ñ ôóíêöèåé ðàñ- ïðåäåëåíèÿ F è õàðàêòåðåñòè÷åñêîé ôóíêöèåé φ(t) = Eeitξ . Òîãäà â êàæäûõ äâóõ òî÷êàõ a, b, (a < b), ãäå ôóíêöèÿ ðàñïðåäåëåíèÿ F íåïðåðûâíà, ïîëó÷èì ∫ c −ita 1 e − e−itb φ(t)dt. (2) F (b) − F (a) = lim c→∞ 2π −c it Åñëè ∫ ∞ −∞ |φ(t)|dt < ∞, òî ñóùåñòâîâåò ïëîòíîñòü f ðàñïðåäåëåíèÿ è áóäåì èìåòü òàêóþ ôîðìóëó ∫ 1 f (x) = 2π (3) ∞ e−itx φ(t)dt. −∞ Çàìå÷àíèå 19.1. Çàìåòèì, ÷òî ôîðìóëà 3 åñòü ïðåîáðàçîâàíèå Ôóðüå îò ôóíêöèè ∫ ∞ φ(t) = eitx f (x)dx. −∞ Ïðèìåíÿÿ òåîðåìó Ôóáèíè, ïîëó÷èì ∫ b ∫ b∫ ∞ 1 F (b) − F (a) = f (x)dx = [ e−itx φ(t)dt]dx = 2π a −∞ a ∫ ∞ ∫ b ∫ ∞ −ita 1 1 e − e−itb [ e−itx dx]φ(t)dt = φ(t)dt. 2π −∞ a 2π −∞ it Äîêàçàòåëüñòâî. Ðàññìîòðèì ôóíêöèþ ∫ c −ita 1 e − e−itb Φc = φ(t)dt 2π −c it Áóäåì èìåòü 1 = 2π 1 Φc = 2π ∫ ∞∫ c −∞ ∫ c −c −ita e−ita − e−itb it ∫ ∞ ∫ ∞ − e−itb itx e dtdF (x) = ψc (x)dF (x), it −c −∞ ∫ c −ita 1 e − e−itb itx ψc = e dt. 2π −c it e Âîñïîëüçîâàëèñü òåîðåìîé Ôóáèíè, ïîñêîëüêó | eitx f (x)dxdt = −∞ ∫ b e−ita − e−itb e−ita − e−itb itx e |=| |=| e−itx dx| ≤ b − a it it a ∫ ∞∫ c (b − a)dtdF (x) ≤ 2c(b − a) < ∞ −∞ −c ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ Çàìåòèì, ÷òî 65 ∫ c sin t(x − a) − sin t(x − b) 1 dt = 2π −c t ∫ c(x−a) ∫ c(x−b) 1 sin t 1 sin t = dt − dt 2π −c(x−a) t 2π −c(x−b) t ψc = Ôóíêöèÿ ∫ t sin x dx → π, t ↑ ∞, s ↓ −∞. x s Òîãäà  x < a ∨ x > b;  0, 1/2, x = a ∨ x = b; ψc (t) → ψ(t), c → ∞, ψ(t) =  1, a < x < b. Ïóñòü µ ìåðà íà (R, B(R)), òàêàÿ ÷òî µ[a, b) = F (b) − F (a). Òàêèì îáðàçîì, ïðè c → ∞ ïîëó÷àåì ∫ ∞ ∫ ∞ 1 1 Φc = ψc (x)dF (x) → ψ(t)dF (t) = µ(a, b) + µ{a} + µ{b} = c→∞ 2 2 −∞ −∞ 1 = F (b) − F (a + 0) + (F (a + 0) − F (a) + F (b + 0) − F (b)) = 2 F (b + 0) − F (b) F (a + 0) − F (a) − = F (b) − F (a). = íåïðåðûâíîñòü 2 2 g(t, s) = ×òî è äîêàçûâàåò ôîðìóëó 2. Äîêàæåì âòîðîóþ ÷àñòü òåîðåìû, èñïîëüçóÿ òåîðåìó î ìàæîðàíòíîé ñõîäèìîñòè è òåîðåìó Ôóáèíè, ∫ b ∫ b∫ ∞ 1 f (x)dx = [ e−itx φ(t)dt]dx = 2π a a −∞ ∫ ∞ ∫ b ∫ c ∫ b 1 1 [ e−itx dx]φ(t)dt = lim [ e−itx dx]φ(t)dt = c→∞ 2π −c a 2π −∞ a ∫ c −ita 1 e − e−itb = lim φ(t)dt = F (b) − F (a). c→∞ 2π −c it  Èç òåîðåìû î ôîðìóëå îáðàùåíèÿ âûòåêàåò òåîðåìà åäèíñòâåííîñòè. Òåîðåìà (Åäèíñòâåííîñòè). Ïóñòü ôóíêöèè ðàñïðåäåëåíèÿ F è G èìåþò îäíó õàðàêòåðåñòè÷åñêóþ ôóíêöèþ ∫ ∞ ∫ ∞ itx φ(t) = e dF (x) = eitx dG(x), ∀t ∈ R. −∞ −∞ Òîãäà F (t) = G(t), ∀t ∈ R. Òåîðåìà. Êîìïîíåíòû ñëó÷àéíîãî âåêòîðà íåçàâèñèìû ⇔ õàðàêòåðèñòè÷å- ñêàÿ ôóíêöèÿ âåêòîðà ïðåäñòàâëÿåòñÿ ïðîèçâåäåíèåì õàðàêòåðèñòè÷åñêèõ ôóíêöèé åãî êîìïàíåíò. Îá îñîáåííîñòÿõ ñåìåéñòâà õàðàêòåðèñòè÷åñêèõ ôóíêöèé ãîâîðÿò ñëåäóþùèå òåîðåìû. 66 Î. Å. Ùåðáàêîâà Òåîðåìà (Áîõíåðà-Õèí÷èíà). Ïóñòü ôóíêöèÿ φ(t) íåïðåðûâíà ïðè âñåõ t ∈ R è φ(0) = 1 Òîãäà φ(t) - õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ⇔ φ(t) - íåîòðèöàòåëüíî îïðåäåëåííàÿ, òî åñòü äëÿ ëþáûõ âåùåñòâåííûõ t1 , . . . , t1 è ëþáûõ êîìïëåêñíûõ λ1 , . . . , λ1 , n ≥ 1 áûëî áû âûïîëíåíî n ∑ φ(ti − tj )λi λj ≥ 0. i,j=1 Òåîðåìà (Ìàðöèíêåâè÷à). Åñëè õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ èìååò âèä φ(t) = exp{P(t)}, ãäå P(t) ìíîãî÷ëåí, òî ñòåïåíü ìíîãî÷ëåíà íå ìîæåò áûòü áîëüøå äâóõ deg P(t) ≤ 2. Òåîðåìà (Ïîéÿ). Ïóñòü ôóíêöèÿ φ(t) íåïðåðûâíà ïðè âñåõ t ∈ R, ÷åòíà, âûïóê- ëà âíèç φ(t) ≥ 0, φ(t) → 0, t → ∞ è φ(0) = 1. Òîãäà φ(t) - õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ. 67 ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 20. Ñõîäèìîñòü ðÿäîâ èç ñëó÷àéíûõ âåëè÷èí Îïðåäåëåíèå 20.1. Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí, çàäàííûõ íà âåðîÿòíîñòíîì ïðîñòðàíñòâå (Ω, F, P ), Fn - σ -àëãåáðà, ïîðîæäåííàÿ ñëó÷àéíûìè âåëè÷èíàìè ξn , ξn+1 , . . .. Òîãäà σ -àëãåáðà F = ∩∞ n=1 Fn íàçûâàåòñÿ îñòàòî÷íîé σ -àëãåáðîé îòíîñèòåëüíî {ξn }n∈N ïîñëåäîâàòåëüíîñòè íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí, à ëþáîå ñîáûòèå èç ýòîé σ -àëãåáðû - îñòàòî÷íûì ñîáûòèåì. Òåîðåìà (çàêîí "0"èëè "1"Êîëìîãîðîâà). Ëþáîå îñòàòî÷íîå ñîáûòèå èìååò âåðîÿòíîñòü 0 èëè 1. ∑∞  ÷àñòíîñòè, èç ýòîãî çàêîíà ñëåäóåò, ÷òî ðÿä n=1 ξn èç íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí ëèáî ñ âåðîÿòíîñòüþ 1 ñõîäèòñÿ ëèáî ðàñõîäèòñÿ. ∑∞ Òåîðåìà ("î äâóõ ðÿäàõ"). Äëÿ ñõîäèìîñòè ñ âåðîÿòíîñòüþ 1 ðÿäà n=1 ξn èç íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí äîñòàòî÷íî ñõîäèìîñòè äâóõ ðÿäîâ ∞ ∞ ∑ ∑ Eξn , Dξn . n=1 n=1 Åñëè äîïîëíèòåëüíî ïîòðåáîâàòü, ÷òîáû supn P (|ξn | > c) äëÿ íåêîòîðîãî c > 0, òî ýòè óñëîâèÿ ñòàíóò íåîáõîäèìûìè. Ïóñòü c > 0, ξ - ñëó÷àéíàÿ âåëè÷èíà, îáîçíà÷èì { ξ, åñëè |ξ| ≤ c : ξc = 0, åñëè |ξ| > c. Òåîðåìà ("î òðåõ ðÿäàõ"). Äëÿ ñõîäèìîñòè ñ âåðîÿòíîñòüþ 1 ðÿäà ∑∞ n=1 ξn èç íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí íåîõîäèìî, ÷òîáû ñõîäèäèëèü òðè ðÿäà äëÿ ëþáîãî c > 0 ∞ ∞ ∞ ∑ ∑ ∑ Eξnc , Dξnc , P (|ξn | ≥ c), n=1 n=1 è äîñòàòî÷íî äëÿ íåêîòîðîãî c > 0. n=1 68 Î. Å. Ùåðáàêîâà 21. Ìåòîä õàðàêòåðèñòè÷åñêèõ ôóíêöèé. Öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà (ÖÏÒ) Òåîðåìà (Õèí÷èíà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí è Eξi = a. Òîãäà ïîñëåäîâàòåëüíîñòü ñëó÷àéíûõ âåëè÷èí óäîâëåòâîðÿåò çàêîíó áîëüøèõ ÷èñåë. Äîêàçàòåëüñòâî. Èç êîíå÷íîñòè ïåðâîãî ìîìåíòà ñëåäóåò ðàçëîæåíèå õàðàêòåðèñòè÷åñêîé ôóíêöèè φξi (t) = φ(t) = 1 + ita + o(t), t → 0. Èñïîëüçóÿ íåçàâèñèìîñòü, ïîëó÷èì t t ita φ n1 ∑ni=1 ξi (t) = (φ( ))n = (1 + + o( ))n → eita . n→∞ n n n ita Çàìåòèì, ÷òî e - õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ ξ : P (ξ = a) = 1. { 0, x ≤ a; Fξ = 1, x > a. ∑n d Ñëåäîâàòåëüíî, ìû äîêàçàëè, ÷òî åñòü ñëàáàÿ ñõîäèìîñòü n1 i=1 ξi → ξ . Äîêàæåì òåïåðü, ÷òî åñòü è ñõîäèìîñòü ïî âåðîÿòíîñòè. Ïóñòü ε > 0, òîãäà 1∑ ξi − a| < ε) = n i=1 n P (| = F n1 ∑ni=1 ξi (a + ε) − F n1 ∑ni=1 ξi (a − ε) → Fξ (a + ε) − Fξ (a − ε) = 1 n→∞ Ïîñêîëüêó ó ôóíêöèè ðàñïðåäåëåíèÿ ξ åäèíñòâåííàÿ òî÷êà ðàçðûâà a, òî òî÷êè a + ε, a − ε áóäóò òî÷êàìè íåïðåðûâíîñòè, à â íèõ áóäåò ñõîäèìîñòü ïî ðàñïðåäåëåíèþ.  Òåîðåìà (ÖÏÒ äëÿ í.î.ð.ñ.â.). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ îäèíàêîâî ðàñïðåäåëåííûõ ñëó÷àéíûõ âåëè÷èí è Eξi = a, Dξi = σ 2 < ∞. Òîãäà ñïðàâåäëèâà öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà ∑n i=1 (ξi − a) d √ → ξ ∈ N (0, 1), σ n äðóãèìè ñëîâàìè, P( ∑n − a) 1 √ < x) → √ σ n 2π i=1 (ξi ∫ x e−t 2 /2 dt = Φ(x). −∞ Äîêàçàòåëüñòâî. Èç êîíå÷íîñòè äèñïåðñèè ñëåäóåò ðàçëîæåíèå õàðàêòåðèñòè÷åñêîé ôóíêöèè φξi −a (t) = φ(t) = 1 − σ 2 t2 + o(t2 ), t → 0. ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 69 Èñïîëüçóÿ íåçàâèñèìîñòü, ïîëó÷èì φ σ 1 √ ∑n n (t) i=1 (ξi −a) 2 t t2 t2 = (φ( √ ))n = (1 − + o( ))n → e−t /2 . n→∞ n n σ n Çàìåòèì, ÷òî e−t /2 - õàðàêòåðèñòè÷åñêàÿ ôóíêöèÿ íîðìàëüíîãî çàêîíà. ∑n (ξi −a) d i=1√ Ñëåäîâàòåëüíî, ìû äîêàçàëè, ÷òî åñòü ñëàáàÿ ñõîäèìîñòü → ξ ∈ σ n N (0, 1).  2 Èíòåãðàëüíóþ òåîðåìó Ìóàâðà-Ëàïëàñà ìîæíî ðàññìàòðèâàòü êàê ñëåäñòâèå èç òåîðåìû 21. Òåîðåìà (Ëèíäåáåðãà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí è Eξi = ai , Dξi = σi2 < ∞, Dn2 = n ∑ σi2 . i=1 Ïðåäïîëîæèì, ÷òî äëÿ ëþáîãî ε > 0 äðîáü Ëèíäåáåðãà n ∫ 1 ∑ (x − ai )2 dFi (x) → 0. n→∞ Dn2 i=1 |x−ai |>εDn Òîãäà ñïðàâåäëèâà öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà ∑ Sn − ESn d √ → ξ ∈ N (0, 1), Sn = ξi , DSn i=1 n äðóãèìè ñëîâàìè, P( ∑n − ai ) i=1 (ξi Dn 1 < x) → √ 2π ∫ x e−t 2 /2 dt = Φ(x). −∞ ðèâåäåì åùå îäíó òåîðåìó, êîòîðàÿ ÿâëÿåòñÿ ñëåäñòâèåì òåîðåìû Ëèíäåáåðãà. Ñëåäñòâèå 2 (Òåîðåìà Ëÿïóíîâà). Ïóñòü {ξn }n∈N ïîñëåäîâàòåëüíîñòü íåçà- âèñèìûõ ñëó÷àéíûõ âåëè÷èí è Eξi = ai , Dξi = σi2 < ∞, Dn2 = n ∑ σi2 . i=1 Ïðåäïîëîæèì, ÷òî ñóùåñòâóåò δ > 0, òàêîå ÷òî äðîáü Ëÿïóíîâà 1 n ∑ Dn2+δ i=1 E|ξi − ai |2+δ → 0. n→∞ Òîãäà ñïðàâåäëèâà öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà ∑ Sn − ESn d √ → ξ ∈ N (0, 1), Sn = ξi . DSn i=1 n 70 Î. Å. Ùåðáàêîâà Äîêàçàòåëüñòâî. Ïóñòü ε > 0, òîãäà ∫ ∞ |x − ai |2+δ dFi (x) ≥ E|ξi − ai |2+δ = −∞ ∫ ∫ 2+δ ≥ |x − ai | dFi (x) ≥ εδ Dnδ |x − ai |2 dFi (x) |x−ai |>εDn Ñëåäîâàòåëüíî, n ∫ 1 ∑ Dn2 i=1 |x−ai |>εDn |x−ai |>εDn (x − ai )2 dFi (x) ≤ n ∑ 1 E|ξi − ai |2+δ → 0. n→∞ εδ Dn2+δ i=1  ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 71 22. Ïîíÿòèå âûáîðêè, ñòàòèñòèêè. Âûáîðî÷íàÿ ôóíêöèÿ ðàñïðåäåëåíèÿ, âûáîðî÷íûå ìîìåíòû. Òåîðåìà Ãëèâåíêî-Êàíòåëëè Âûáîðêîé îáúåìà n íàçûâàåòñÿ ìíîæåñòâî çíà÷åíèé ñëó÷àéíîãî âåêòîðà , çàäàííîãî íà âåðîÿòíîñòíîì ïðîñòðàíñòâå (ξ1 , . . . , ξn ) : (X n , F n , Pθn ) - äåêàðòîâîì ïðîèçâåäåíèè ïðîñòðàíñòâ (X , F, Pθ ) ñ ôóíêöèåé ðàñïðåäåëåíèÿ Fθ , ãäå θ ∈ Θ íåèçâåñòíûé ïàðàìåòð ðàñïðåäåëåíèÿ. Ñòàòèñòèêîé T íàçûâàþò ëþáóé ñëó÷àéíóþ âåëè÷èíó çàäàííóþ íà X n , T : X n → Rk . Ðàññìîòðèì ñëåäóùóþ ñòàòèñòèêó äëÿ âûáîðêè (x1 , . . . , xn ) c ôóíêöèåé ðàñïðåäåëåíèÿ F , íàçûâàåìóþ âûáîðî÷íîé ôóíêöèåé ðàñïðåäåëåíèÿ, êîòîðóþ ìîæíî çàäàòü òàê: ∑n I{xi n(ω) ⇒ |Fn (tl ) − F (tl | ≤ . k Òàêèì îáðàçîì, 2 P ( sup |Fn (t) − F (t)| ≤ −→ 0) = 1; k k→∞ −∞ ϵ) = P (| 2 i=1 (xi − σ2 ) ∑n P (| 2 n 2 i=1 (xi − σ2 ) n − x2 | > ϵ) ≤ | > ϵ/2) + P (|x2 | > ϵ/2) = p1 + p2 , p1 −→ 0, p2 = P (|x2 | > ϵ/2) ≤ 2σ 2 2E(x2 ) = → 0. ϵ nϵ (3) Ëåììà 23.1. ξn −→ ξ, ηn −→ 0 ⇒ ξn + ηn −→ ξ d P d Äîêàçàòåëüñòâî. Ðàññìîòðèì ðàçíîñòü ñîîòâåòñòâóþùèõ õàðàêòåðèñòè÷åñêèõ ôóíêöèé |fξn +ηn (t) − fξ (t)| = |fξn +ηn (t) − fξn (t)| + |fξn (t) − fξ (t)| −→ 0; n→∞ |fξn +ηn (t) − fξn (t)| ≤ E|eitξn (eitηn − 1)| −→ 0, |eitξn (eitηn − 1)| ≤ 2. n→∞  Añèìïòîòè÷åñêóþ íîðìàëüíîñòü: ∑n ∑n √ 2 (xi − x)2 − σ 2 ) (x2 − σ 2 ) √ 2 n(sn − σ 2 ) = i=1 √ = i=1 √i − nx = ξn + ηn −→ N (0, Dσ 2 ) d n n Ïî Ö.Ï.Ò. äëÿ í.î.ð.ñ.â ïîëó÷èì ∑n (x2 − σ 2 ) √ i ξn = i=1 −→ N (0, 1). d nDσ 2 √ ∑ √ 2 n i,j Exi xj √ 2 σ2 E( nx ) √ = = → 0. ηn −→ 0 : P ( nx > ϵ) ≤ P ϵ n2 ϵ nϵ  ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 75 24. Ïîðÿäêîâûå ñòàòèñòèêè èëè Âàðèàöèîííûé ðÿä Ïóñòü äàíà âûáîðêà (x1 , . . . , xn ), óïîðÿäî÷èì åå ïî âîçðàñòàíèþ: x(1) = min{x1 , . . . , xn }, x(2) = min({x1 , . . . , xn } \ {x(1) }), ∗∗∗ x(k) = min({x1 , . . . , xn } \ {x(1) , . . . , x(k−1) }), ∗∗∗ x(n) = max{x1 , . . . , xn }. Òîãäà (x(1) , . . . , x(n) ) íàçîâåì âàðèàöèîííûì ðÿäîì èëè ïîðÿäêîâûìè ñòàòèñòèêàìè. Ðàíãîì ïîðÿäêîâîé ñòàòèñòèêè íàçîâåì íîìåð ÷ëåíà âàðèàöèîííîãî ðÿäà â ïåðâîíà÷àëüíîé âûáîðêå: Ri = k, åñëè x(i) = xk . Ñðåäíèìè ÷ëåíàìè âàðèàöèîííîãî ðÿäà íàçîâåì x(k) : nk → p ∈ (0, 1), êðàéíèìè - x(k) : nk → 0 ∨ 1. Íàéäåì ôóíêöèþ ðàñïðåäåëåíèÿ è ïëîòíîñòü k -òîé ïîðÿäêîâîé ñòàòèñêèêè Fx(k) (t) = P (x(k) < t) = P (ïî êðàéíå ìåðå k èç xi < t) = P( n ∑ I(xi 0 n 2 2 Γ( n2 ) n Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 25 Ãðàôèê ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 25 Ðàñïðåäåëåíèåì Ñòüþäåíòà ñ n ñòåïåíÿìè ñâîáîäû íàçîâåì ðàñïðåäåëåíèå ñîîòâåòñòâóþùåå ξ0 ξ0 =√ tn = √ ∑ n χ2n 1 2 i=1 ξi n n Ïëîòíîñòü è ôóíêöèÿ ðàñïðåäåëåíèÿ äëÿ ðàñïðåäåëåíèÿ Ñòüþäåíòà ñ n ñòåïåíÿìè ñâîáîäû áóäóò òàêèìè: 2 t − 2 Γ( n+1 2 )(1 + n ) √ sn (t) = , πnΓ( n2 ) 2 n+1 ∫ t n+1 Γ( 2 )(1 + xn )− 2 2 √ dx, t > 0 Sn (t) = P (χn < t) = πnΓ( n2 ) n+1 78 Î. Å. Ùåðáàêîâà Ãðàôèê ïëîòíîñòè ìîæíî óâèäåòü íà ðèñóíêå 25 Ãðàôèê ðàñïðåäåëåíèÿ ìîæíî óâèäåòü íà ðèñóíêå 25 Ëåììà 25.1 (Ôèøåðà). Ïóñòü ó íàñ åñòü âûáîðêà x1 , . . . , xn , xi ∈ N (a, σ 2 ) èç íîðìàëüíîãî çàêîíà. Òîãäà √ (1) n x−a σ ∈ N (0, 1); (2) x, s2n - íåçàâèñèìû; 2 n ∈ χ2n−1 ; (3) ns √σ2 (4) n − 1 x−a sn ∈ tn−1 . Äîêàçàòåëüñòâî. (1) ∑n √ ∑n √ x−a (xi − a) n i=1 (xi − a) n = = i=1 √ ∈ N (0, 1) σ σ n σ n Ïî Ö.Ï.Ò. ∑n (2) x, s2n = i=2 ξi2 - íåçàâèñèìû; d ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 79 (3) Ïóñòü Exn = a = 0. ∑n ∑n 2 2 √ ns2n n n 2 i=1 xi i=1 xi = ( − x ) = ( ) − ( nx)2 = 2 2 2 σ σ n σ n ∑n n n n 2 ∑ ∑ ∑ x x i 2 2 2 i=1 i √ − ( ) = ξ − ξ = ξi2 ∈ χ2n−1 i 1 d d σ2 n i=1 i=1 i=2 Ëåììà 25.2. Ïóñòü âåêòîð X ∈ N (O, I) íîðìàëüíî ðàñïðåäåëåí è ìàòðèöà C îðòàãîíàëüíà (C · C T = I ), è Y = CX . Òîãäà Y ∈ N (O, I) e = (e x1 , . . . , x en ), x ei = xσi . Ïóñòü X √ e = (y1 , . . . , yn )t , y1 = √1 ∑n x Y = CX ne x i=1 ei = n e îäèíàêîâîå ðàñïðåäåëåíèå. √ Òîãäà X, Y √èìåþòx−a √ = √ ξ20 ∈ tn−1 . (4) n − 1 x−a = n sn 2 σ nsn (n−1)σ 2 d χ n−1 n−1  80 Î. Å. Ùåðáàêîâà 26. Ñïèñîê âîïðîñîâ ïî "Òåîðèè Âåðîÿòíîñòåé" (1) Èñòîðèÿ ðàçâèòèÿ Òåîðèè Âåðîÿòíîñòåé. (2) Àêñèîìàòè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè, ïîíÿòèå σ -àëãåáðû, ñâîéñòâà âåðîÿòíîñòè. Òåîðåìà î ðàâíîñèëüíîñòè ñ÷åòíîé àääèòèâíîñòè è íåïðåðûâíîñòè âåðîÿòíîñòè êàê ìåðû. (3) Êëàññè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè, ïðèìåðû âåðîÿòíîñòíûõ ïðîñòðàíñòâ. Ðàçëè÷íûå ìîäåëè ðàçìåùåíèé. (4) Ãåîìåòðè÷åñêîå îïðåäåëåíèå âåðîÿòíîñòè. Ïðèìåðû: • çàäà÷à Áþôôîíà, • ïàðàäîêñ Áåðòðàíà. (5) Íåçàâèñèìîñòü ñîáûòèé, óñëîâíàÿ âåðîÿòíîñòü, ôîðìóëà ïîëíîé âåðîÿòíîñòè, ôîðìóëà Áàéåñà. Ðàçëè÷íûå âèäû íåçàâèñèìîñòè ñîáûòèé, ïðèìåðû. Óðíîâàÿ ñõåìà Ëàïëàñà. (6) Îïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû, ïîíÿòèå èçìåðèìîé ôóíêöèè. Ðàñïðåäåëåíèå ñëó÷àéíîé âåëè÷èíû. (7) Íåçàâèñèìûå èñïûòàíèÿ Áåðíóëëè, òåîðåìà Áåðíóëëè. (8) Ëîêàëüíàÿ è èíòåãðàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà, ëåììà î íàèáîëåå âåðîÿòíîì ÷èñëå óñïåõîâ. (9) Òåîðåìà Ïóàññîíà î ñõåìå ñåðèé. (10) Ôóíêöèÿ ðàñïðåäåëåíèÿ ñëó÷àéíîé âåëè÷èíû, îïðåäåëåíèå, ñâîéñòâà. (11) Íåïðåðûâíûå è äèñêðåòíûå ñëó÷àéíûå âåëè÷èíû, îïðåäåëåíèÿ, ïðèìåðû. (12) Òåîðåìà î ïîñòðîåíèè ñëó÷àéíîé âåëè÷èíû ïî çàäàííîé ôóíêöèè ðàñïðåäåëåíèÿ. (13) Ðàñïðåäåëåíèå ñëó÷àéíîãî âåêòîðà â n-ìåðíîì âåùåñòâåííîì ïðîñòðàñòâå, îïðåäåëåíèå, ñâîéñòâà. Íåçàâèñèìîñòü ñëó÷àéíûõ âåëè÷èí. (14) Ïîíÿòèå èíòåãðàëà Ñòèëòüåñà. Ôóíêöèÿ îò ñëó÷àéíûõ âåëè÷èí. Ïîíÿòèå ñâåðòêè. (15) Îïðåäåëåíèå è ñâîéñòâà ìàòåìàòè÷åñêîãî îæèäàíèÿ. Ïðèìåðû âû÷èñëåíèÿ äëÿ äèñêðåòíûõ è íåïðåðûâíûõ ñëó÷àéíûõ âåëè÷èí. (16) Îïðåäåëåíèå è ñâîéñòâà äèñïåðñèè. Ïðèìåðû âû÷èñëåíèÿ äëÿ äèñêðåòíûõ è íåïðåðûâíûõ ñëó÷àéíûõ âåëè÷èí. (17) Ìîìåíòû ñëó÷àéíûõ âåëè÷èí. Íåðàâåíñòâà, ñâÿçàííûå ñ ìîìåíòàìè. Êîâàðèàöèÿ è êîýôôèöèåíò êîððåëÿöèè. Ñâÿçü êîððåëÿöèè è íåçàâèñèìîñòè, ïðèìåð. (18) Ðàçëè÷íûå âèäû ñõîäèìîñòè. Ëîãè÷åñêèå ñâÿçè ìåæäó îïðåäåëåíèÿìè, äîêàçàòåëüñòâî èìïëèêàöèé. Ëåììà Áîðåëÿ-Êàíòåëëè. (19) Çàêîí áîëüøèõ ÷èñåë è óñèëåííûé çàêîí áîëüøèõ ÷èñåë. Íåðàâåíñòâî ×åáûøåâà è Ìàðêîâà. ÇÁ× äëÿ ñóìì íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí. ÇÁ× äëÿ ñëàáîçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí. Òåîðåìû Õèí÷èíà è Êîëìîãîðîâà. (20) Õàðàêòåðèñòè÷åñêèå ôóíêöèè. Îïðåäåëåíèå, ñâîéñòâà, Òåîðåìà î ôîðìóëå îáðàùåíèÿ. Òåîðåìà åäèíñòâåííîñòè. Òåîðåìû î õàðàêòåðèñòè÷åñêèõ ôóêöèÿõ. (21) Ñõîäèìîñòü ðÿäîâ èç ñëó÷àéíûõ âåëè÷èí (22) Öåíòðàëüíàÿ ïðåäåëüíàÿ òåîðåìà, òåîðåìû Ëèíäåáåðãà, Ëÿïóíîâà, Ëåâè. Èíòåãðàëüíàÿ òåîðåìà Ìóàâðà-Ëàïëàñà êàê ñëåäñòâèå ÖÏÒ. ÊÓÐÑ ËÅÊÖÈÉ ÏÎ ÒÅÎÐÈÈ ÂÅÐÎßÒÍÎÑÒÅÉ 81 (23) Ïîíÿòèå âûáîðêè, ñòàòèñòèêè. Îñíîâíûå õàðàêòåðèñòèêè ñòàòèñòèê (íåñìåùåííîñòü, ñîñòîÿòåëüíîñòü, àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü). (24) Òåîðåìà Ãëèâåíêî-Êàíòåëëè. (25) Âûáîðî÷íîå ñðåäíåå, âûáîðî÷íàÿ äèñïåðñèÿ. Òåîðåìà î ñâîéñòâàõ ýòèõ ñòàòèñòèê. (26) Ïîðÿäêîâûå ñòàòèñòèêè, îïðåäåëåíèå, ñâîéñòâà, ïðèìåð ïîðÿäêîâûõ ñòàòèñòèê äëÿ ðàâíîìåðíîãî ðàñïðåäåëåíèÿ. (27) Ñâîéñòâà âûáîðêè èç íîðìàëüíîãî çàêîíà, ëåììà Ôèøåðà. Îïðåäåëåíèå ðàñïðåäåëåíèÿ è ðàñïðåäåëåíèÿ Ñòüþäåíòà. 82 Î. Å. Ùåðáàêîâà 27. Ñïèñîê ëèòåðàòóðû (1) Áîðîâêîâ À.À. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. Îöåíêà ïàðàìåòðîâ. Ïðîâåðêà ãèïîòåç. 1984.Ì., "Íàóêà". (2) Áîðîâêîâ À.À. Ìàòåìàòè÷åñêàÿ ñòàòèñòèêà. 2007. Ìîñêâà. Ôèçìàòëèò. (3) Ãèõìàí È.È., Ñêîðîõîä À.Â. Ââåäåíèå â òåîðèþ ñëó÷àéíûõ ïðîöåññîâ. 1977. Ìîñêâà. "Íàóêà". (4) Ãíåäåíêî Á.Â. Êóðñ òåîðèè âåðîÿòíîñòåé. 2001. Ìîñêâà. Èçäàòåëüñòâî "ÓÐÑÑ" (5) Êîëìîãîðîâ À.Í. Îñíîâíûå ïîíÿòèÿ òåîðèè âåðîÿòíîñòåé. 1998. Ìîñêâà. Èçäàòåëüñòâî "Ôàçèñ" (6) Êðàìåð Ã. Ìàòåìàòè÷åñêèå ìåòîäû ñòàòèñòèêè. 1975. Ì., "Ìèð". (7) Ïðîõîðîâ À.Â., Óøàêîâ Â.Ã., Óøàêîâ Í.Ã. Çàäà÷è ïî òåîðèè âåðîÿòíîñòåé. Îñíîâíûå ïîíÿòèÿ. Ïðåäåëüíûå òåîðåìû. Ñëó÷àéíûå ïðîöåññû. Ó÷åáíîå ïîñîáèå. 2009. Ìîñêâà. Èçäàòåëüñòâî "ÊÄÓ" (8) Ñåêåé Ã. Ïàðàäîêñû â òåîðèè âåðîÿòíîñòåé è ìàòåìàòè÷åñêîé ñòàòèñòèêå. 1990. Èçäàòåëüñòâî "Ìèð" (9) Òèõîìèðîâ Ñ.Ð. Ðàñ÷åòíûå çàäàíèÿ ïî òåîðèè âåðîÿòíîñòåé. 1999. ÑàíêòÏåòåðáóðã. "Íåñòîð". (10) Ôåëëåð Â. Ââåäåíèå â òåîðèþ âåðîÿòíîñòåé è åå ïðèëîæåíèÿ. 1984. Ì., "Ìèð". 1,2 òîì (11) Øèðÿåâ À.Í. Âåðîÿòíîñòü. 1,2 òîì, 2004, Ìîñêâà, Èçäàòåëüñòâî ÌÖÍÌÎ ÈÏÌÌ, ÑàíêòÏåòåðáóðãñêèé Ïîëèòåõíè÷åñêèé Óíèâåðñèòåò Ïåòðà Âåëèêîãî, Ïîëèòåõíè÷åñêàÿ óë. 29, 195251, ÑàíêòÏåòåðáóðã, Ðîññèÿ E-mail address : gale.inferno@gmail.com