ВЕРОЯ́ТНОСТЕЙ ТЕО́РИЯ

ВЕРОЯ́ТНОСТЕЙ ТЕО́РИЯ, раз­дел ма­те­ма­ти­ки, изу­чаю­щий ма­те­ма­тич. мо­де­ли слу­чай­ных яв­ле­ний. В. т. яв­ля­ет­ся ос­но­вой мн. ма­те­ма­тич. дис­ци­п­лин, напр. ма­те­ма­ти­че­ской ста­ти­сти­ки, тео­рии мас­со­во­го об­слу­жи­ва­ния, теории на­дёж­но­сти, фи­нан­со­вой и ак­ту­ар­ной ма­те­ма­ти­ки.

Экспериментальные основы теории вероятностей

Воз­мож­ность изу­че­ния слу­чай­ных со­бы­тий ос­но­ва­на на том, что мас­со­вые слу­чай­ные яв­ле­ния в не­из­мен­ных ус­ло­ви­ях об­ла­да­ют за­ко­но­мер­но­стью, на­зы­вае­мой ста­ти­стич. ус­той­чи­во­стью час­тот, ко­то­рая за­клю­ча­ет­ся в сле­дую­щем. Пусть слу­чай­ное со­бы­тие $A$ мо­жет про­изой­ти или не про­изой­ти при осу­ще­ст­в­ле­нии не­ко­то­ро­го ком­плек­са ус­ло­вий $S$. Ес­ли ус­ло­вия $S$ реа­ли­зу­ют­ся $N$ раз, то го­во­рят, что про­из­ве­де­но $N$ ис­пы­та­ний. От­но­ше­ние $N(A)/N$, где $N(A)$ – чис­ло по­яв­ле­ний со­бы­тия $A$ при $N$ ис­пы­та­ни­ях, на­зы­ва­ет­ся от­но­си­тель­ной час­то­той со­бы­тия $A$. С рос­том $N$ от­но­си­тель­ная час­то­та $N(A)/N$ ко­леб­лет­ся око­ло не­ко­то­ро­го чис­ла, на­зы­вае­мо­го ве­ро­ят­но­стью со­бы­тия $A$ и обыч­но обо­зна­чае­мо­го $\mathsf P(A)$. Так, при боль­шом чис­ле бро­са­ний мо­не­ты орёл по­яв­ля­ет­ся при­мер­но в по­ло­ви­не слу­ча­ев, по­это­му ве­ро­ят­ность по­яв­ле­ния ор­ла мож­но счи­тать рав­ной $^1/_2$. Ста­ти­сти­ка ро­ж­де­ний по­ка­зы­ва­ет, что маль­чи­ков ро­ж­да­ет­ся боль­ше, чем де­во­чек, при­чём на­блю­дае­мая до­ля ро­ж­де­ний маль­чи­ков рав­на 0,51–0,52; по­это­му ве­ро­ят­ность ро­ж­де­ния маль­чи­ка не­сколь­ко боль­ше $^1/_2$. См. так­же Ве­ро­ят­ность.

Основные понятия теории вероятностей

Ис­хо­дя из дан­ных со­бы­тий $A_1,..., A_r$, мож­но оп­ре­де­лить их объ­е­ди­не­ние и пе­ре­се­че­ние. Объ­е­ди­не­ни­ем со­бы­тий $A_1,..., A_r$ на­зы­ва­ют со­бы­тие $B$, ко­то­рое про­ис­хо­дит то­гда и толь­ко то­гда, ко­гда в дан­ном ис­пы­та­нии на­сту­па­ет хо­тя бы од­но из со­бы­тий $A_1,..., A_r$. Пе­ре­се­че­ни­ем (или про­из­ве­де­ни­ем, или сов­ме­ще­ни­ем) со­бы­тий $A_1,..., A_r$ на­зы­ва­ет­ся со­бы­тие $C$, ко­то­рое про­ис­хо­дит то­гда и толь­ко то­гда, ко­гда в дан­ном ис­пы­та­нии на­сту­па­ют все со­бы­тия $A_1,..., A_r$. Для ка­ж­до­го со­бы­тия $A$ вво­дит­ся про­ти­во­по­лож­ное со­бы­тие $\overline{A}$, ко­то­рое про­ис­хо­дит то­гда и толь­ко то­гда, ко­гда $A$ не про­ис­хо­дит.

Для объ­е­ди­не­ния $B$ со­бы­тий $A_1,..., A_r$ обыч­но ис­поль­зу­ют­ся обо­зна­че­ния$$B=A_1 \cup A_2 \cup ... \cup A_r =\bigcup\nolimits_{i=1}^{r}A_i,$$а для пе­ре­се­че­ния –$$C=A_1 \cap A_2 \cap ... \cap A_r =\bigcap\nolimits_{i=1}^{r}A_i.$$Ино­гда пи­шут $C=A_1…A_r$.

В т. н. ур­но­вой схе­ме пред­по­ла­га­ет­ся, что в ур­не со­дер­жат­ся ша­ры, ко­то­рые обо­зна­ча­ют­ся эле­мен­та­ми $ω$ не­ко­то­ро­го ко­неч­но­го мно­же­ст­ва $Ω$. Из ур­ны слу­чай­ным об­ра­зом из­вле­ка­ет­ся один шар $ω$. Ес­ли $ω∈A$, где $A$ – под­мно­же­ст­во $Ω$, то го­во­рят, что про­изош­ло со­бы­тие $A$. Всё мно­же­ст­во $Ω$ на­зы­ва­ет­ся дос­то­вер­ным со­бы­ти­ем, т. к. все­гда $ω∈Ω$, а пус­тое мно­же­ст­во $∅$ – не­воз­мож­ным со­бы­ти­ем, т. к. все­гда $ω∉∅$.

В В. т. ве­ро­ят­ность $\mathsf {P}$ вво­дит­ся ак­сио­ма­ти­че­ски. Пред­по­ла­га­ет­ся, что со­бы­тия $A$ об­ра­зу­ют класс под­мно­жеств не­ко­то­ро­го про­стран­ст­ва эле­мен­тар­ных ис­хо­дов (эле­мен­тар­ных со­бы­тий) $Ω=\{ω\}$, этот класс $𝒜$  под­мно­жеств яв­ля­ет­ся $σ$-ал­геб­рой, т. е. $𝒜$  со­дер­жит не­воз­мож­ное $∅$ и дос­то­вер­ное $Ω$ со­бы­тия, а так­же замк­нут от­но­си­тель­но об­ра­зо­ва­ния раз­но­стей двух со­бы­тий и объ­е­ди­не­ния и пе­ре­се­че­ния со­бы­тий в ко­неч­ном или счёт­ном чис­ле. Ве­ро­ят­ность $\mathsf {P}$ оп­ре­де­ле­на на всех мно­же­ст­вах $A∈𝒜$ и удов­ле­тво­ря­ет сле­дую­щим ак­сио­мам:

А1. $\mathsf P(A)⩾ 0$ (не­от­ри­ца­тель­ность),

А2. $\mathsf{P}(\Omega)= 1$ (нор­ми­ро­ван­ность),

А3. $\mathsf{P}\left ( \bigcup_{i=1}^{\infty }A_i \right )=\sum_{i=1}^{\infty }\mathsf{P}(A_i)$, ес­ли $A_i\cap A_j= ∅$ при $i\neq j$ (счёт­ная ад­ди­тив­ность). 

Трой­ка ($Ω, 𝒜, \mathbf{P}$), в ко­то­рой $\mathbf{P}$ удов­ле­тво­ря­ет ак­сио­мам А1, А2, А3, на­зы­ва­ет­ся ве­ро­ят­но­ст­ным про­стран­ст­вом.

Эта ак­сио­ма­ти­ка бы­ла пред­ло­же­на в 1933 А. Н. Кол­мо­го­ро­вым и яв­ля­ет­ся наи­бо­лее рас­про­стра­нён­ной ло­гич. ос­но­вой по­строе­ния В. т. Свой­ст­вам не­от­ри­ца­тель­но­сти, нор­ми­ро­ван­но­сти и ко­неч­ной ад­ди­тив­но­сти удов­ле­тво­ря­ют от­но­сит. час­то­ты $N(A)/N$ ре­аль­ных слу­чай­ных со­бы­тий, по­это­му ес­те­ст­вен­но бы­ло по­тре­бо­вать, что­бы этим же свой­ст­вам удов­ле­тво­ря­ли и ве­ро­ят­но­сти $\mathbf{P}(A)$, к ко­то­рым близ­ки от­но­си­тель­ные час­то­ты. Тре­бо­ва­ние счёт­ной ад­ди­тив­но­сти ве­ро­ят­но­сти $\mathbf{P}$ не­об­хо­ди­мо для соз­да­ния пол­но­цен­ной ма­те­ма­тич. тео­рии. При по­строе­нии ве­ро­ят­но­ст­ных про­странств ве­ро­ят­ность $\mathbf{P}$ мо­жет за­да­вать­ся раз­ны­ми спо­со­ба­ми. Напр., ес­ли $Ω$ – ко­неч­ное мно­же­ст­во, ве­ро­ят­но­ст­ное про­стран­ст­во на­зы­ва­ет­ся ко­неч­ным, и в этом слу­чае ве­ро­ят­ность $\mathbf{P}$ мож­но за­дать с по­мо­щью ве­ро­ят­но­стей $p(ω)$ эле­мен­тар­ных ис­хо­дов $ω∈Ω$, эти ве­ро­ят­но­сти удов­ле­тво­ря­ют ус­ло­ви­ям

$$p(\omega )⩾ 0,\: \omega \in \Omega ,\:\sum\nolimits_{\omega =\Omega }p(\omega )=1,$$а зна­че­ние ве­ро­ят­но­сти $\mathsf{P}(A)$ со­бы­тия $A$ за­да­ёт­ся фор­му­лой$$\mathsf{P}(A)=\sum\nolimits_{\omega =A }p(\omega ).\qquad (1)$$Час­то эле­мен­тар­ные ис­хо­ды $ω∈A$ на­зы­ва­ют­ся ис­хо­да­ми, бла­го­при­ят­ст­вую­щи­ми со­бы­тию $A$.

В том слу­чае, ко­гда есть ос­но­ва­ния счи­тать эле­мен­тар­ные ис­хо­ды рав­но­воз­мож­ны­ми, все $p(\omega )$ счи­та­ют рав­ны­ми друг дру­гу и по­лу­ча­ют в ка­че­ст­ве ча­ст­но­го слу­чая (1) т. н. клас­сич. оп­ре­де­ле­ние ве­ро­ят­но­сти$$\mathsf{P}(A)=∣A∣/∣Ω∣,$$где $|A|$ – чис­ло эле­мен­тов мно­же­ст­ва $A$, т. е. ве­ро­ят­ность со­бы­тия $A$ рав­на от­но­ше­нию чис­ла ис­хо­дов, бла­го­при­ят­ст­вую­щих со­бы­тию $A$, к об­ще­му чис­лу эле­мен­тар­ных ис­хо­дов. Этот под­ход ши­ро­ко ис­поль­зу­ет­ся в ве­ро­ят­но­ст­ной ком­би­на­то­ри­ке и во­про­сах за­щи­ты ин­фор­ма­ции.

Дру­гой важ­ный слу­чай, ко­гда ве­ро­ят­ность $\mathsf{P}$ за­да­ёт­ся ис­хо­дя из обоб­ще­ния по­ня­тия рав­но­воз­мож­но­сти, мо­жет быть опи­сан сле­дую­щим об­ра­зом. Пусть $Ω$ – не­ко­то­рое ог­ра­ни­чен­ное мно­же­ст­во евк­ли­до­ва про­стран­ст­ва, имею­щее объ­ём $V(Ω)$ (со­от­вет­ст­вен­но дли­ну или пло­щадь в од­но­мер­ном и дву­мер­ном слу­ча­ях). Пусть $ω$ – слу­чай­но взя­тая в $Ω$ точ­ка; по­ла­гая, что ве­ро­ят­ность по­пасть точ­ке $ω$ в мно­же­ст­во $A⊂Ω$ про­пор­цио­наль­на его объ­ё­му $V(A)$, по­лу­ча­ют т. н. гео­мет­рич. оп­ре­де­ле­ние ве­ро­ят­но­сти$$\mathsf{P}(A)=V(A)/V(Ω).$$Это оп­ре­де­ле­ние ис­поль­зу­ет­ся в ин­те­граль­ной гео­мет­рии.

Ве­ро­ят­ность $\mathsf{P}$, удов­ле­тво­ряю­щая ак­сио­мам А1 – А3, яв­ля­ет­ся нор­ми­ро­ван­ной ме­рой на $σ$-ал­геб­ре $𝒜$ под­мно­жеств $Ω$ (см. Ме­ра мно­же­ст­ва). Та­ким об­ра­зом, В. т. мо­жет с фор­маль­ной точ­ки зре­ния рас­смат­ри­вать­ся как часть тео­рии ме­ры. Од­на­ко осн. про­бле­мы В. т. и тео­рии ме­ры раз­лич­ны, что во мно­гом свя­за­но со спе­ци­фи­че­ским для В. т. по­ня­ти­ем не­за­ви­си­мо­сти.

Ус­лов­ную ве­ро­ят­ность $\mathsf{P}(A∣B)$ со­бы­тия $A$ при ус­ло­вии $B$ оп­ре­де­ля­ют фор­му­лой$$\mathsf{P}(A∣B)=\mathsf{P}(A∩B)/\mathsf{P}(B),\qquad (2)$$ес­ли ве­ро­ят­ность $\mathsf{P}(B)$ не рав­на ну­лю. Со­бы­тие $A$ на­зы­ва­ет­ся не­за­ви­си­мым (сто­хас­ти­че­ски не­за­ви­си­мым) от со­бы­тия $B$, ес­ли$$\mathsf{P}(A∣B)=\mathsf{P}(A).\qquad (3)$$Ус­ло­вие (3) мож­но за­пи­сать в сим­мет­рич­ной фор­ме:$$\mathsf{P}(A\cap B)= \mathsf{P}(A)\mathsf{P}(B)\qquad (4)$$

В бо­лее об­щем слу­чае $σ$-ал­геб­ры со­бы­тий $𝒜_1, ..., 𝒜_r⊂𝒜$  на­зы­ва­ют­ся не­за­виси­мы­ми, ес­ли для лю­бых $A_i∈𝒜_i, i=1,…,r$, спра­вед­ли­во ра­вен­ст­во$$\mathsf{P}(A_1\cap ... \cap A_r)= \mathsf{P}(A_1)\mathsf{P}(A_2)...\mathsf{P}(A_r).$$Со­бы­тия из раз­лич­ных не­за­ви­си­мых $σ$-ал­гебр на­зы­ва­ют­ся не­за­ви­си­мы­ми.

По­ня­тие не­за­ви­си­мо­сти и ус­лов­ные ве­ро­ят­но­сти ока­зы­ва­ют­ся осо­бен­но по­лез­ны­ми при рас­смот­ре­нии со­став­ных ис­пы­та­ний. В про­стых слу­ча­ях ис­пы­та­ние – это осу­ще­ст­в­ле­ние не­ко­то­рых ус­ло­вий, при ко­то­рых про­ис­хо­дит од­но и толь­ко од­но из со­бы­тий $\{A_i\}$, на­зы­вае­мых ис­хо­да­ми ис­пы­та­ния. В ве­ро­ят­но­ст­ном про­стран­ст­ве $(Ω, 𝒜, \mathbf{P})$ ис­пы­та­нию со­от­вет­ст­ву­ет раз­бие­ние ,где $A_i$ по­пар­но не­со­вмес­ти­мы (не­со­вме­ст­ны), т. е. $A_i∩A_j=∅$ при $i≠j$. Го­во­рят, что ис­пы­та­ние $T$ со­став­ле­но из ис­пы­та­ний $T_1, T_2, ..., T_{n–1}, T_n$, ес­ли каж­дый ис­ход ис­пы­та­ния $T$ есть со­в­ме­ще­ние не­ко­то­рых ис­хо­дов $A_i, B_j, ..., U_k, V_l$ со­ответ­ст­вую­щих ис­пы­та­ний $T_1,T_2, ..., T_{n–1},T_n$. Из тех или иных со­об­ра­же­ний час­то бы­ва­ют из­вест­ны ве­ро­ят­но­сти$$\mathsf{P}(A_i),\mathsf{P}(B_j\mid A_i),...,\mathsf{P}(V_l\mid A_i\cap B_j \cap ... \cap U_k).\qquad (5)$$

По ве­ро­ят­но­стям (5) с по­мо­щью (2) мо­гут быть оп­ре­де­ле­ны ве­ро­ят­но­сти $\mathsf{P}(E)$ для лю­бо­го со­бы­тия ви­да $E=A_i \cap B_j \cap ... \cap U_k \cap V_l.$

Наи­бо­лее зна­чи­тель­ны­ми с прак­тич. точ­ки зре­ния пред­став­ля­ют­ся два ти­па со­став­ных ис­пы­та­ний, в пер­вом из ко­то­рых ис­пы­та­ния $T_1, T_2, ..., T_n$ не­за­ви­си­мы, т. е. ве­ро­ят­но­сти (5) рав­ны без­ус­лов­ным ве­ро­ят­но­стям $\mathsf{P}(A_i),\mathsf{P}(B_j), ..., \mathsf{P}(V_l)$, а во вто­ром на ве­ро­ят­но­сти ис­хо­дов к.-л. ис­пы­та­ния влия­ют ре­зуль­та­ты лишь не­по­сред­ст­вен­но пред­ше­ст­вую­ще­го ис­пы­та­ния, т. е. ве­ро­ят­но­сти (5) рав­ны со­от­вет­ст­вен­но $\mathsf{P}(A_i),\mathsf{P}(B_j\mid A_i), ..., \mathsf{P}(V_l\mid U_k)$. В этом слу­чае го­во­рят об ис­пы­та­ни­ях, свя­зан­ных в Мар­ко­ва цепь; ве­ро­ят­но­сти всех со­бы­тий, свя­зан­ных с со­став­ным ис­пы­та­ни­ем, оп­ре­де­ля­ют­ся здесь на­чаль­ны­ми ве­ро­ят­но­стя­ми $\mathsf{P}(A_i)$ и т. н. пе­ре­ход­ны­ми ве­ро­ят­но­стя­ми $\mathsf{P}(B_j\mid A_i), ..., \mathsf{P}(V_l\mid U_k)$.

Ис­хо­дам ис­пы­та­ний мо­гут со­от­вет­ст­во­вать к.-л. чи­сло­вые зна­че­ния, в этом слу­чае го­во­рят о слу­чай­ных ве­ли­чи­нах. Ес­ли за­да­но ве­ро­ят­но­ст­ное про­стран­ст­во $(Ω, 𝒜, \mathsf{P})$, то слу­чай­ная ве­ли­чи­на $X$ – это функ­ция $X(ω)$ от эле­мен­тар­но­го ис­хо­да $ω$, для ко­то­рой оп­ре­де­ле­на функ­ция рас­пре­де­ле­ния$$F_X(x)=\mathsf{P}\{X < x\}, -\infty < x< \infty .$$

Важ­ный класс рас­пре­де­ле­ний со­став­ля­ют аб­со­лют­но не­пре­рыв­ные рас­пре­де­ле­ния, для ко­то­рых су­ще­ст­ву­ют т. н. плот­но­сти ве­ро­ят­но­сти $p_X(x)$, для этих рас­пре­де­ле­ний $$F_X(x)=\int_{-\infty }^{x}p_x(u)du.$$

Дру­гой класс рас­пре­де­ле­ний – дис­крет­ные рас­пре­де­ле­ния; они за­да­ют­ся ко­неч­ным или счёт­ным чис­лом то­чек $x_k$ дей­ст­ви­тель­ной пря­мой $\mathbf{R}$ и ве­ро­ят­но­стя­ми $\mathsf{P}\{X=x_k\}$ так, что для лю­бо­го $B⊆\mathbf{R}$$$\mathsf{P}_X(B)=\mathsf{P}\{X\subseteq B\}=\sum\nolimits_{x_k\in B}\mathsf{P}\{X=x_k\}.$$

При­ме­ра­ми аб­со­лют­но не­пре­рыв­ных рас­пре­де­ле­ний мо­гут слу­жить нор­маль­ное рас­пре­де­ле­ние, за­да­вае­мое плот­но­стью

$$p_X(x)=\frac{1}{\sqrt{2\pi }\sigma }e^{-(x-a)^2/(2\sigma ^2)},\qquad (6)$$

где $a$ и $σ$ – па­ра­мет­ры нор­маль­но­го рас­пре­де­ле­ния, $a∈\mathbf{R}$, $σ>0$, а так­же по­ка­за­тель­ное рас­пре­де­ле­ние, за­да­вае­мое плот­но­стью$$p_X(x)=\lambda e^{-\lambda x}, \:x\geqslant 0; \:p_X(x)=0,\:x< 0,$$
где $λ$ – па­ра­метр по­ка­за­тель­но­го рас­пре­де­ле­ния, $λ>0$.

При­ме­ром дис­крет­но­го рас­пре­де­ле­ния слу­жит би­но­ми­аль­ное рас­пре­де­ле­ние, за­да­вае­мое ве­ро­ят­но­стя­ми $$\mathsf{P}\{X=k\}=C_{n}^{k}p^k(1-p)^{n-k}, k=0,1,...,n,\qquad (7)$$где $X$ – чис­ло ус­пе­хов в $n$ ис­пы­та­ни­ях в Бер­нул­ли схе­ме, $p$ – ве­ро­ят­ность ус­пе­ха, $0\leqslant p\leqslant 1$.

Час­то вме­сто рас­пре­де­ле­ния ве­ро­ят­но­стей слу­чай­ной ве­ли­чи­ны мож­но ог­ра­ни­чить­ся ис­поль­зо­ва­ни­ем не­боль­шо­го ко­ли­че­ст­ва чи­сло­вых ха­рак­те­ри­стик рас­пре­де­ле­ния. Из них наи­бо­лее упо­тре­би­тель­ны ма­те­ма­ти­че­ское ожи­да­ние и дис­пер­сия.

При од­но­вре­мен­ном изу­че­нии не­сколь­ких слу­чай­ных ве­ли­чин вво­дит­ся со­вме­ст­ное рас­пре­де­ле­ние, ко­то­рое для слу­чай­ных ве­ли­чин $Х_1, ..., Х_n$ за­да­ёт­ся функ­ци­ей со­вме­ст­но­го рас­пре­де­ле­ния$$F_{X_1,...,X_n}(x_1,...,x_n)=\mathbf{P}\{X_1< x_1,...,X_n< x_n\},$$где $-∞ < x_1, ..., x_n < ∞$. Слу­чай­ные ве­ли­чи­ны $Х_1, ..., Х_n$ на­зы­ва­ют­ся не­за­ви­си­мы­ми, ес­ли$$F_{X_1,...,X_n}(x_1,...,x_n)=F_{X_1}(x_1)...F_{X_n}(x_n)$$для лю­бых $x_1, …, x_n, -∞ < x_1, …, x_n < ∞$ .

Предельные теоремы

С по­мо­щью совме­ст­но­го рас­пре­де­ле­ния слу­чай­ных ве­ли­чин мож­но вы­чис­лить ве­ро­ят­ность лю­бо­го со­бы­тия, оп­ре­де­ляе­мо­го эти­ми ве­ли­чи­на­ми, напр. со­бы­тия $a < X_1+ …+X_n < b$. Вы­чис­ле­ние точ­ных ве­ро­ят­но­стей та­ких со­бы­тий, как пра­ви­ло, свя­за­но со зна­чит. труд­но­стя­ми, по­это­му обыч­но ис­поль­зу­ют­ся т. н. пре­дель­ные тео­ре­мы, ко­то­рые по­зво­ля­ют по­лу­чать при­бли­жён­ные зна­че­ния та­ких ве­ро­ят­но­стей (с оцен­кой точ­но­сти при­бли­же­ния).

Од­ним из при­ме­ров при­ме­не­ния пре­дель­ных тео­рем в В. т. мо­жет слу­жить за­ме­на зна­че­ния ве­ро­ят­но­сти (7), труд­но вы­чис­ляе­мой при боль­ших $n$, при­бли­жён­ным зна­че­ни­ем$$\frac{1}{\sqrt{2\pi np(1-p)}}e^{-x^2/2},$$где $x=(k-np)/\sqrt{np(1-p)}$.

При фор­маль­ном из­ло­же­нии В. т. пре­дель­ные тео­ре­мы по­яв­ля­ют­ся в ви­де сво­его ро­да над­строй­ки над её эле­мен­тар­ны­ми раз­де­ла­ми, в ко­то­рых все за­да­чи име­ют ко­неч­ный, чис­то ариф­ме­тич. ха­рак­тер. Од­на­ко пре­дель­ны­ми тео­ре­ма­ми рас­кры­ва­ет­ся по­зна­ва­тель­ная цен­ность В. т. Так, Бер­нул­ли тео­ре­ма по­ка­зы­ва­ет, что при не­за­ви­си­мых ис­пы­та­ни­ях час­то­та по­яв­ле­ния к.-л. со­бы­тия, как пра­ви­ло, ма­ло от­кло­ня­ет­ся от его ве­ро­ят­но­сти, а тео­ре­ма Му­ав­ра – Ла­п­ла­са ука­зы­ва­ет ве­ро­ят­но­сти тех или иных от­кло­не­ний. Смысл та­ких ха­рак­те­ри­стик слу­чай­ной ве­ли­чи­ны, как её ма­те­ма­тич. ожи­да­ние и дис­пер­сия, про­яв­ля­ет­ся в боль­ших чи­сел за­ко­не и цен­траль­ной пре­дель­ной тео­ре­ме.

Пусть $X_1, X_2, ...$ – не­за­ви­си­мые слу­чай­ные ве­ли­чи­ны, имею­щие од­но и то же рас­пре­де­ле­ние ве­ро­ят­но­стей с ма­те­ма­тич. ожи­да­ни­ем $\mathsf{E}X_k=a$ и дис­пер­си­ей $\mathsf{D}X_k=σ^2$, и $S_n=(X_1+…+X_n)/n$ – сред­нее ариф­ме­ти­че­ское пер­вых $n$ ве­ли­чин этой по­сле­до­ва­тель­но­сти.

В со­от­вет­ст­вии с за­ко­ном боль­ших чи­сел, ка­ко­во бы ни бы­ло чис­ло $ε > 0$, ве­ро­ят­ность не­ра­вен­ст­ва $\mid Sn-a\mid \leqslant \varepsilon$ при $n→∞$ име­ет пре­де­лом 1 и, та­ким об­ра­зом, $S_n$, как пра­ви­ло, ма­ло от­ли­ча­ет­ся от $a$ (это – ана­лог ус­той­чи­во­сти час­тот). Цен­траль­ная пре­дель­ная тео­ре­ма уточ­ня­ет этот ре­зуль­тат, по­ка­зы­вая, что от­кло­не­ния $S_n$ от $a$ при­бли­жён­но под­чи­не­ны нор­маль­но­му рас­пре­де­ле­нию со сред­ним 0 и дис­пер­си­ей $σ^2/n$. Т. о., для вы­чис­ле­ния (в пер­вом при­бли­же­нии) ве­ро­ят­но­стей тех или иных от­кло­не­ний $S_n$ от $a$ при боль­ших $n$ нет на­доб­но­сти знать во всех де­та­лях рас­пре­де­ле­ние ве­ли­чин $X_n$; дос­та­точ­но знать лишь их дис­пер­сию. Для оцен­ки точ­но­сти это­го при­бли­же­ния не­об­хо­ди­мо при­вле­кать мо­мен­ты по­ряд­ка, боль­ше­го 2. Ис­поль­зо­ва­ние та­ких мо­мен­тов по­зво­ля­ет так­же стро­ить бо­лее точ­ные при­бли­же­ния.

Эти ут­вер­жде­ния мо­гут быть с над­ле­жа­щи­ми из­ме­не­ния­ми рас­про­стра­не­ны на раз­лич­но рас­пре­де­лён­ные сла­гае­мые (см. Ля­пу­но­ва тео­ре­ма) и на слу­чай­ные век­то­ры (из ко­неч­но­мер­ных и не­ко­то­рых бес­ко­неч­но­мер­ных про­странств). Ус­ло­вия не­за­ви­си­мо­сти мо­гут быть за­ме­не­ны ус­ло­вия­ми сла­бой (в том или ином смыс­ле) за­ви­си­мо­сти слу­чай­ных ве­ли­чин $X_1, X_2, ....$

В 1920-х гг. бы­ло об­на­ру­же­но, что да­же в схе­ме по­сле­до­ва­тель­но­сти оди­на­ко­во рас­пре­де­лён­ных и не­за­ви­си­мых слу­чай­ных ве­ли­чин по­яв­ля­ют­ся пре­дель­ные рас­пре­де­ле­ния, от­лич­ные от нор­маль­но­го.

Случайные процессы

Ме­ха­низм воз­ник­но­ве­ния боль­шин­ст­ва пре­дель­ных за­ко­но­мер­но­стей мо­жет быть по­нят лишь в свя­зи с тео­ри­ей слу­чай­ных про­цес­сов. В ря­де фи­зич. и хи­мич. ис­сле­до­ва­ний в сер. 20 в. воз­ник­ла по­треб­ность на­ряду с од­но­мер­ны­ми и мно­го­мер­ны­ми слу­чай­ны­ми ве­ли­чи­на­ми рас­смат­ри­вать слу­чай­ные про­цес­сы. В В. т. слу­чай­ный про­цесс рас­смат­ри­ва­ют как па­ра­мет­рич. се­мей­ст­во слу­чай­ных ве­ли­чин $X_t$. При­ме­ром слу­чай­но­го про­цес­са мо­жет слу­жить про­цесс $X_t$, где $X_t$ – ко­ор­ди­на­та в мо­мент $t$ час­ти­цы, со­вер­шаю­щей бро­унов­ское дви­же­ние. Обыч­но в при­ло­же­ни­ях па­ра­метр $t$ яв­ля­ет­ся вре­ме­нем, но этим па­ра­мет­ром мо­жет быть, напр., про­из­воль­ная не­за­ви­си­мая пе­ре­мен­ная, и то­гда го­во­рят о слу­чай­ной функ­ции (ес­ли $t$ – точ­ка про­стран­ст­ва, то го­во­рят о слу­чай­ном по­ле). В том слу­чае, ко­гда па­ра­метр $t$ про­бе­га­ет це­ло­чис­лен­ные зна­че­ния, слу­чай­ная функ­ция на­зы­ва­ет­ся слу­чай­ной по­сле­до­ва­тель­но­стью (или вре­мен­ны́м ря­дом). По­доб­но то­му как слу­чай­ная ве­ли­чи­на ха­рак­те­ри­зу­ет­ся за­ко­ном рас­пре­де­ле­ния, слу­чай­ный про­цесс мо­жет быть ха­рак­те­ри­зо­ван т. н. ко­неч­но­мер­ны­ми рас­пре­де­ле­ния­ми – со­во­куп­но­стью со­вме­ст­ных за­ко­нов рас­пре­де­ле­ния , где $t_1, ..., t_n$ – все­воз­мож­ные мо­мен­ты вре­ме­ни, $n=1, 2, … $. В тео­рии слу­чай­ных про­цес­сов наи­бо­лее изу­че­ны мар­ков­ские про­цес­сы, ста­цио­нар­ные слу­чай­ные про­цес­сы, вет­вя­щие­ся про­цес­сы, а так­же мар­тин­га­лы. Ин­тен­сив­но раз­ви­ва­ет­ся тео­рия слу­чай­ных про­цес­сов, про­ис­хо­дя­щих в слу­чай­ной сре­де.

Ис­то­ри­че­ски пер­вы­ми изу­ча­лись мар­ков­ские про­цес­сы. Слу­чай­ный про­цесс $X_t$ на­зы­ва­ет­ся мар­ков­ским, ес­ли для лю­бых мо­мен­тов вре­ме­ни $t_0$ и $t_1, t_0 < t_1$ ус­лов­ное рас­пре­де­ле­ние ве­ро­ят­но­стей при ус­ло­вии, что за­да­ны все зна­че­ния $X_t$ при $t⩽t_0$, за­ви­сит толь­ко от (в си­лу это­го мар­ков­ские слу­чай­ные про­цес­сы ино­гда на­зы­ва­ют­ся про­цес­са­ми без по­сле­дей­ст­вия). Мар­ков­ские про­цес­сы яв­ля­ют­ся ес­те­ст­вен­ным обоб­ще­ни­ем де­тер­ми­ни­ро­ван­ных про­цес­сов, рас­смат­ри­вае­мых в клас­сич. фи­зи­ке. В де­тер­ми­ни­ро­ван­ных про­цес­сах со­стоя­ние сис­те­мы в мо­мент $t_0$ од­но­знач­но оп­ре­де­ля­ет ход про­цес­са в бу­ду­щем; в мар­ков­ских про­цес­сах со­стоя­ние сис­те­мы в мо­мент вре­ме­ни $t_0$ од­но­знач­но оп­ре­де­ля­ет рас­пре­де­ле­ние ве­ро­ят­но­стей про­цес­са при $t > t_0$, при­чём ни­ка­кие све­де­ния о по­ве­де­нии про­цес­са до мо­мен­та вре­ме­ни $t_0$ не из­ме­ня­ют это рас­пре­де­ле­ние. По­доб­но то­му как изу­че­ние не­пре­рыв­ных де­тер­ми­ни­ро­ван­ных про­цес­сов сво­дит­ся к диф­фе­рен­ци­аль­ным урав­не­ни­ям от­но­си­тель­но функ­ций, опи­сы­ваю­щих со­стоя­ние сис­те­мы, изу­че­ние не­пре­рыв­ных мар­ков­ских про­цес­сов сво­дит­ся к диф­фе­рен­ци­аль­ным или ин­тег­ро­диф­фе­рен­ци­аль­ным урав­не­ни­ям от­но­си­тель­но рас­пре­де­ле­ний ве­ро­ят­но­стей про­цес­са.

Дру­гим круп­ным раз­де­лом в тео­рии слу­чай­ных про­цес­сов яв­ля­ет­ся тео­рия ста­цио­нар­ных слу­чай­ных про­цес­сов. Ста­цио­нар­ность про­цес­са, т. е. не­из­мен­ность во вре­ме­ни его ве­ро­ят­но­ст­ных ха­рак­те­ри­стик, на­ла­га­ет силь­ное ог­ра­ни­че­ние на про­цесс и по­зво­ля­ет из од­но­го это­го до­пу­ще­ния из­влечь ряд важ­ных след­ст­вий. Для б. ч. тео­рии дос­та­точ­но пред­по­ло­же­ния о ста­цио­нар­но­сти в ши­ро­ком смыс­ле, т. е. тре­бо­ва­ния не­за­ви­си­мо­сти от $t$ ма­те­ма­тич. ожи­да­ний $\mathsf{E}X_t$ и $\mathsf{E}X_{t+τ}$ для всех $τ$.

Тео­рия слу­чай­ных про­цес­сов тес­но свя­за­на с клас­сич. про­бле­ма­ти­кой пре­дель­ных тео­рем для сумм слу­чай­ных ве­ли­чин. Те за­ко­ны рас­пре­де­ле­ния, ко­то­рые вы­сту­па­ют при изу­че­нии сумм слу­чай­ных ве­ли­чин как пре­дель­ные, в тео­рии слу­чай­ных про­цес­сов яв­ля­ют­ся точ­ны­ми за­ко­на­ми рас­пре­де­ле­ния со­от­вет­ст­вую­щих ха­рак­те­ри­стик. Этот факт по­зво­ля­ет до­ка­зы­вать мно­гие пре­дель­ные тео­ре­мы с по­мо­щью со­от­вет­ст­вую­щих слу­чай­ных про­цес­сов.

Исторический очерк

Пер­вые ра­бо­ты по В. т., при­над­ле­жа­щие Б. Пас­ка­лю, П. Фер­ма и Х. Гюй­ген­су, поя­ви­лись в сер. 17 в. и бы­ли свя­за­ны с под­счё­том разл. ве­ро­ят­но­стей в азарт­ных иг­рах. Пер­вый стро­го до­ка­зан­ный ре­зуль­тат В. т. при­над­ле­жит Я. Бер­нул­ли, ус­та­но­вив­ше­му за­кон боль­ших чи­сел для схе­мы не­за­ви­си­мых ис­пы­та­ний с дву­мя ис­хо­да­ми (опубл. в 1713).

Вто­рой пе­ри­од ис­то­рии В. т. (18 – 1-я пол. 19 вв.) свя­зан с име­на­ми А. де Му­ав­ра, П. Ла­п­ла­са, К. Га­ус­са и С. Пу­ас­со­на. В этот пе­ри­од В. т. на­хо­дит ряд ак­ту­аль­ных при­ме­не­ний в ес­те­ст­во­зна­нии и тех­ни­ке, гл. обр. в тео­рии оши­бок, раз­вив­шей­ся в свя­зи с по­треб­но­стя­ми гео­де­зии и ас­тро­но­мии, и в тео­рии стрель­бы. К это­му пе­рио­ду от­но­сят­ся до­ка­за­тель­ст­во пер­во­го ва­ри­ан­та цен­траль­ной пре­дель­ной тео­ре­мы (А. де Му­авр, 1733, П. Ла­п­лас, 1812) и Пу­ас­со­на тео­ре­мы. А. Ле­жан­дром (1806) и К. Га­ус­сом (1808) был раз­ра­бо­тан ме­тод наи­мень­ших квад­ра­тов. В 18 в. ряд тру­дов по В. т. был на­пи­сан ра­бо­тав­ши­ми в Рос­сии Л. Эй­ле­ром, Н. Бер­нул­ли и Д. Бер­нул­ли; поя­ви­лись ра­бо­ты М. В. Ост­ро­град­ско­го по во­про­сам В. т., свя­зан­ным с ма­те­ма­тич. ста­ти­сти­кой, и В. Я. Бу­ня­ков­ско­го по при­ме­не­ни­ям В. т. к стра­хо­во­му де­лу, ста­ти­сти­ке и де­мо­гра­фии.

Тре­тий пе­ри­од ис­то­рии В. т. (2-я пол. 19 в.) свя­зан в осн. с име­на­ми П. Л. Че­бы­ше­ва и его уче­ни­ков А. М. Ля­пу­но­ва и А. А. Мар­ко­ва. Они по­ста­ви­ли ряд об­щих за­дач, ре­ше­ние ко­то­рых при­ве­ло к обоб­ще­нию тео­рем Бер­нул­ли и Му­ав­ра – Ла­п­ла­са. Че­бы­шев до­ка­зал (1867) за­кон боль­ших чи­сел при весь­ма об­щих пред­по­ло­же­ни­ях. Он же впер­вые сфор­му­ли­ро­вал цен­траль­ную пре­дель­ную тео­ре­му для сумм не­за­ви­си­мых слу­чай­ных ве­ли­чин и ука­зал один из ме­то­дов её до­ка­за­тель­ст­ва (1887). Дру­гим ме­то­дом до­ка­за­тель­ст­во этой тео­ре­мы в ус­ло­ви­ях, близ­ких к окон­ча­тель­ным, по­лу­чил А. М. Ля­пу­нов (1901). А. А. Мар­ков впер­вые рас­смот­рел (1907) один слу­чай за­ви­си­мых ис­пы­та­ний, ко­то­рый впо­след­ст­вии по­лу­чил на­зва­ние це­пей Мар­ко­ва. Со 2-й пол. 19 в. ис­сле­до­ва­ния по В. т. в Рос­сии за­ни­ма­ют ве­ду­щее ме­сто в ми­ре. В Зап. Ев­ро­пе во 2-й пол. 19 в. по­лу­чи­ли боль­шое раз­ви­тие ра­бо­ты по ма­те­ма­тич. ста­ти­сти­ке (А. Кет­ле, Ф. Галь­тон) и ста­ти­стич. фи­зи­ке (Л. Больц­ман), ко­то­рые на­ря­ду с ос­нов­ны­ми тео­ре­тич. ра­бо­та­ми П. Л. Че­бы­ше­ва, А. М. Ля­пу­но­ва и А. А. Мар­ко­ва соз­да­ли ос­но­ву для су­ще­ст­вен­но­го рас­ши­ре­ния про­бле­ма­ти­ки В. т. в совр. пе­ри­од её раз­ви­тия.

Чет­вёр­тый (со­вре­мен­ный) пе­ри­од ис­то­рии В. т., на­чав­ший­ся в 20 в., ха­рак­те­ри­зу­ет­ся су­ще­ст­вен­ным рас­ши­ре­ни­ем кру­га её при­ме­не­ний, соз­да­ни­ем не­сколь­ких сис­тем стро­го­го ма­те­ма­тич. обос­но­ва­ния В. т., по­яв­ле­ни­ем но­вых мощ­ных ме­то­дов, тре­бую­щих при­ме­не­ния, по­ми­мо клас­сич. ана­ли­за, средств тео­рии мно­жеств, тео­рии функ­ций дей­ст­ви­тель­но­го пе­ре­мен­но­го и функ­цио­наль­но­го ана­ли­за; в области В. т. пло­до­твор­но ра­бо­та­ли во Фран­ции – Э. Бо­рель, П. Ле­ви, М. Фре­ше, в Гер­ма­нии – Р. Ми­зес, в США – Н. Ви­нер, У. Фел­лер, Дж. Дуб, в Шве­ции – Г. Кра­мер; отеч. нау­ка про­дол­жа­ла за­ни­мать зна­чи­тель­ное, а в ря­де на­прав­ле­ний и ве­ду­щее по­ло­же­ние. В на­шей стра­не но­вый пе­ри­од раз­ви­тия В. т. от­кры­ва­ет­ся дея­тель­но­стью С. Н. Берн­штей­на, обоб­щив­ше­го клас­сич. пре­дель­ные тео­ре­мы П. Л. Че­бы­ше­ва, А. М. Ля­пу­но­ва и А. А. Мар­ко­ва и ука­зав­ше­го на ряд при­ме­не­ний В. т. в ес­те­ст­во­зна­нии. А. Я. Хин­чин и А. Н. Кол­мо­го­ров ус­пеш­но при­ме­ня­ли ме­то­ды тео­рии функ­ций дей­ст­ви­тель­но­го пе­ре­мен­но­го к В. т. В 1930-х гг. ими и Е. Е. Слуц­ким бы­ли за­ло­же­ны ос­но­вы тео­рии слу­чай­ных про­цес­сов. В. И. Ро­ма­нов­ский, Н. В. Смир­нов, Ю. В. Лин­ник и Л. Н. Боль­шев вне­сли боль­шой вклад в раз­ви­тие ма­те­ма­тич. ста­ти­сти­ки, при­ме­няя ме­то­ды В. т. к ста­ти­стич. за­да­чам.