Условная вероятность

Усло́вная вероя́тность — вероятность наступления события $A$ при условии, что событие $B$ произошло. Вероятность события $A$ , вычисленную в предположении, что о результате эксперимента уже что-то известно (событие $B$ произошло), мы будем обозначать через $P(A|B)$ . Например, вероятность того, что у какого-то человека будет кашель в произвольный день, $5\%$ . Но если мы знаем или предполагаем, что у человека простуда, тогда у него гораздо больше шансов начать кашлять. Таким образом, условная вероятность кашля у любого человека при условии, что он простужен, выше $75\%$ .

Очевидный частный случай: $P(A|A)=1=100\%$ неплохо иллюстрируется шуткой «Интернет-опрос показал, что 100 % респондентов пользуются интернетом».

Условная вероятность является одним из наиболее фундаментальных и одним из наиболее важных понятий теории вероятностей.

Если $P(A|B)=P(A)$ , то события $A$ и $B$ называются независимыми, то есть знание об одном из них не влияет на вероятность другого. Кроме того, в общем случае $P(A|B)\neq P(B|A)$ . Например, если у вас лихорадка денге (событие $B$ ), то вероятность получить положительный результат теста на лихорадку (событие $A$ ) $90\%$ , то есть $P(A|B)=90\%$ . И, наоборот, если вы получили положительный результат теста на лихорадку денге, вероятность того, что она у вас есть всего $15\%$ . В этом случае произошло событие $B$ (наличие лихорадки денге) при условии события $A$ (тест положительный), то есть $P(B|A)=15\%$ . При ошибочном приравнивании двух вероятностей возникают различные заблуждения, такие как ошибка базового процента. Для точного подсчета условной вероятности используют теорему Байеса.

Определение

В соответствии с событием

Определение Колмогорова

Пусть два события $A$ и $B$ принадлежат $\sigma$ - полю вероятностного пространства и $P(B)>0$ . Условная вероятность $A$ при условии $B$ равняется частному от деления вероятности событий $A$ и $B$ на вероятность $B$ :

P(A|B)={\frac {P(A\cap B)}{P(B)}}

Обратите внимание на то, что это определение, а не теоретический результат. Мы просто обозначаем величину ${\displaystyle {\frac {P(A\cap B)}{P(B)}}}$ как $P(A|B)$ и называем её условной вероятностью $A$ при условии $B$ .

Условная вероятность как аксиома вероятности

Некоторые авторы, такие как де Финетти, предпочитают вводить условную вероятность как аксиому вероятности:

P(A\cap B)=P(A|B)P(B)

.

Условная вероятность как вероятность условного события

Условную вероятность можно обозначить как вероятность условного события $A_{B}$ . Предполагается, что испытание, лежащее в основе событий $A$ и $B$ , повторяется. Тогда условная вероятность равна

{\displaystyle P(A_{B})={\frac {P(A\cap B)}{P(B)}}},

что соответствует определению условной вероятности Колмогорова. Заметим, что уравнение ${\displaystyle P(A_{B})=P(A\cap B)/P(B)}$ является теоретическим результатом, а не определением. Определение через условные события можно понять в терминах аксиом Колмогорова и, особенно близко к колмогоровской интерпретации вероятности, в терминах экспериментальных данных. Например, условные события могут повторяться, что приводит к обобщенному понятию условного события ${\displaystyle A_{B(n)}}.$ Их можно записать как последовательность независимых и одинаково распределенных случайных величин ${\displaystyle (A_{B(n)})_{n\geq 1}},$ откуда следует усиленный закон больших чисел для условной вероятности:

{\displaystyle P({\underset {n\longrightarrow \infty }{\lim }}{\overline {A_{B}^{n}}}=P(A|B))=100\%}.

Теоретико-множественное определение

Если $P(B)=0$ , то, согласно определению, условная вероятность $P(A|B)$ не задана. Однако её можно определить относительно σ-алгебры таких событий (например, возникающих из непрерывной случайной величины).

Например, если $X$ и $Y$ - невырожденные и совместно непрерывные случайные величины с плотностью распределения $f_{X,Y}(x,y)$ и $B$ имеет положительную меру, то

{\displaystyle P(X\in A\mid Y\in B)={\frac {\int _{y\in B}\int _{x\in A}f_{X,Y}(x,y)\,dx\,dy}{\int _{y\in B}\int _{x\in \mathbb {R} }f_{X,Y}(x,y)\,dx\,dy}}.}

Случай, когда мера $B$ равна нулю, проблематичен. Если $B=\{y_{0}\}$ , то условную вероятность можно попытаться записать в виде

{\displaystyle P(X\in A\mid Y=y_{0})={\frac {\int _{x\in A}f_{X,Y}(x,y_{0})\,dx}{\int _{x\in \mathbb {R} }f_{X,Y}(x,y_{0})\,dx}},}

однако этот подход приводит к парадоксу Бореля — Колмогорова. Общий случай нулевой меры еще более проблематичен, потому что предел, при всех $\delta y_{i}$ стремящихся к нулю,

{\displaystyle P(X\in A\mid Y\in \cup _{i}[y_{i},y_{i}+\delta y_{i}])\approxeq {\frac {\sum _{i}\int _{x\in A}f_{X,Y}(x,y_{i})\,dx\,\delta y_{i}}{\sum _{i}\int _{x\in \mathbb {R} }f_{X,Y}(x,y_{i})\,dx\,\delta y_{i}}},}

зависит от их отношения, когда они стремятся к нулю.

Корректно условную вероятность в общем виде можно задать как условное математическое ожидание от индикаторной функции. При этом, поскольку условное математическое ожидание задано с точностью до почти всюду, условную вероятность от события, имеющего вероятность ноль, можно доопределить произвольным образом. Ситуация меняется, если событие зависит от некоторого параметра. В этом случае, хотя вероятность каждого значения параметра может оказаться ноль, а значит и условная вероятность при каждом таком параметре формально не задана, можно определить зависящую от параметра условную вероятность так, чтобы она была корректна определена почти всюду.

В соответствии со случайной величиной

Пусть $X$ — случайная величина, а $A$ — событие. Условная вероятность $A$ при условии $X$ обозначается как случайная величина $P(A|X)$ , которая принимает значение

P(A\mid X=x)

всякий раз, когда

X=x.

Это можно записать более формально

P(A|X)(\omega )=P(A\mid X=X(\omega )).

Теперь условная вероятность $P(A|X)$ уже является функцией от $X$ : например, если функция $g$ определяется как

{\displaystyle g(x)=P(A\mid X=x),}

тогда

{\displaystyle P(A|X)=g\circ X.}

В частности, $P(A|X)$ задано только почти всюду. В общем случае, $P(A|X)$ корректно ввести через условное математическое ожидание: условное математическое ожидание функции $g$ относительно случайной величины $X$ . В случае дискретной случайной величины $X$ корректно воспользоваться теоретико-множественным определением, поскольку события $X=x$ имеют ненулевую вероятность.

Частичная условная вероятность

Частичная условная вероятность ${\displaystyle P(A|B_{1}\equiv b_{1}\cdots B_{m}\equiv b_{m})}$ события $A$ при условии событий $B_{i}$ , произошедших с вероятностью $b_{i}$ не равна $100\%.$

Частичная условная вероятность имеет смысл, если условия проверятся в серии из $n$ повторений эксперимента. Такая $n$ — ограниченная частичная условная вероятность может быть определена как условное математическое ожидание появления события $A$ в серии из $n$ проверок, которые соответствуют всем вероятностным спецификациям ${\displaystyle B_{i}\equiv b_{i}}$ , то есть:

{\displaystyle P^{n}(A|B_{1}\equiv b_{1}\cdots B_{m}\equiv b_{m})=E({\overline {A^{n}}}|{\overline {B_{1}^{n}}}=b_{1}\cdots {\overline {B_{m}^{n}}}=b_{m})}

Исходя из этого, частичную условную вероятность можно записать как

{\displaystyle P(A|B_{1}\equiv b_{1}\cdots B_{m}\equiv b_{m})={\underset {n\longrightarrow \infty }{lim}}P^{n}(A|B_{1}\equiv b_{1}\cdots B_{m}\equiv b_{m})}

, где

b_{i},n\in \mathbb {N}

Примеры

Предположим, что кто-то бросает две честные шестигранные кости, и мы должны предсказать результат.

Пусть $D_{1}$ - значение, выпавшее на первой кости.

Пусть $D_{2}$ — значение, выпавшее на второй кости.

Какова вероятность того, что $D_{1}=2$ ?

В таблице 1 показано вероятностное пространство из $36$ случаев.

Также общее количество исходов равно числу размещений c повторениями ${\bar {A_{6}^{2}}}=6^{2}=36.$

Ясно, что $D_{1}=2$ ровно в $6$ случаях из $36$ ; таким образом, $P(D_{1}=2)=6/36=1/6.$

Таблица 1
+		$D_{2}$
+		1	2	3	4	5	6
$D_{1}$	1	2	3	4	5	6	7
	2	3	4	5	6	7	8
	3	4	5	6	7	8	9
	4	5	6	7	8	9	10
	5	6	7	8	9	10	11
	6	7	8	9	10	11	12

Какова вероятность того, что $D_{1}+D_{2}\leq 5$ ?

В таблице 2 показано, что $D_{1}+D_{2}\leq 5$ ровно для $10$ из тех же $36$ результатов, таким образом, $P(D_{1}+D_{2}\leq 5)=10/36.$

Таблица 2
+		$D_{2}$
+		1	2	3	4	5	6
$D_{1}$	1	2	3	4	5	6	7
	2	3	4	5	6	7	8
	3	4	5	6	7	8	9
	4	5	6	7	8	9	10
	5	6	7	8	9	10	11
	6	7	8	9	10	11	12

Какова вероятность того, что $D_{1}=2$ при условии, что $D_{1}+D_{2}\leq 5$ ?

В таблице 3 показано, что $D_{1}=2$ при условии, что $D_{1}+D_{2}\leq 5$ ровно для $3$ из $10$ результатов .

Таким образом, условная вероятность $P(D_{1}=2|D_{1}+D_{2}\leq 5)=3/10=0,3.$ Это видно из определения, введенного нами ранее:

$\displaystyle P(A|B)={\tfrac {P(A\cap B)}{P(B)}}={\tfrac {3/36}{10/36}}={\tfrac {3}{10}}$

здесь $P(A\cap B)$ — вероятность совместного появления двух зависимых событий, которая вычисляется как

отношение числа благоприятных исходов $1*3$ (количество размещений двух костей с $D_{2}\leq 3$ и $D_{1}=2$ ) к числу всех возможных исходов $36$ .

Таблица 3
+		$D_{2}$
+		1	2	3	4	5	6
$D_{1}$	1	2	3	4	5	6	7
	2	3	4	5	6	7	8
	3	4	5	6	7	8	9
	4	5	6	7	8	9	10
	5	6	7	8	9	10	11
	6	7	8	9	10	11	12

Независимость событий

События $A$ и $B$ называются независимыми, если

${\displaystyle P(A\cap B)=P(A)P(B).}$

Если $P(B)\neq 0$ , то

${\displaystyle P(A|B)=P(A).}$

Аналогично, если $P(A)\neq 0$ , то

${\displaystyle P(B|A)=P(B).}$

Независимые события против взаимоисключающих событий

Как говорилось ранее, независимость событий означает, что

${\displaystyle P(A|B)=P(A)\quad {\text{и}}\quad P(B|A)=P(B)}$

при условии, что вероятность условия не равна нулю. Однако если события взаимоисключающие, то

${\displaystyle P(A|B)=0,\quad P(B|A)=0,\quad {\text{и}}\quad P(A\cap B)=0.}$

Фактически, взаимоисключающие события не могут быть независимыми, поскольку знание о том, что одно из событий произошло, говорит о том, что другое не произошло.

Заблуждения

Вероятность события А при условии B равна вероятности события B при условии А

В общем случае нельзя считать, что $P(A|B)\approx P(B|A).$ Связь между ${\displaystyle P(A|B)}$ и ${\displaystyle P(B|A)}$ задается формулой Байеса:

${\displaystyle {\begin{aligned}P(B|A)&={\frac {P(A|B)P(B)}{P(A)}}\Leftrightarrow {\frac {P(B|A)}{P(A|B)}}={\frac {P(B)}{P(A)}}\end{aligned}}}$

То есть $P(A|B)\approx P(B|A),$ только если ${\frac {P(B)}{P(A)}}\approx 1,$ что равносильно $P(A)\approx P(B).$

Предельная вероятность равна условной вероятности

В общем случае нельзя считать, что $P(A)\approx P(A|B).$ Эти вероятности связаны формулой полной вероятности:

$P(A)=\sum _{n}P(A\cap B_{n})=\sum _{n}P(A|B_{n})P(B_{n}),$

где события $B_{n}$ образуют счетное разбиение $\Omega$ .

Это заблуждение может возникнуть в результате смещения выбора. Например, в контексте медицинского утверждения, $S_{C}$ является событием, которое происходит вследствие хронической болезни $S$ при обстоятельстве (острое состояние) $C$ . Пусть $H$ - событие, когда человек обращается за медицинской помощью. Предположим, что в большинстве случаев $C$ не вызывает $S$ , поэтому $P(S_{C})$ является низкой. Предположим также, что медицинское вмешательство требуется только, если $S$ произошло из-за $C$ . Исходя из опыта пациентов, врач может ошибочно заключить, что $P(S_{C})$ высока. Фактической вероятностью, наблюдаемой врачом, является $P(S_{C}|H)$ .

Формальное определение

Формально ${\displaystyle P(A|B)}$ можно задать как новую вероятность на том же вероятностном пространстве, потребовав, чтобы вероятность событий, содержащихся целиком в $B$ , изменилась в одно и то же число раз, а события, целиком содержащиеся в не $B$ , имеют вероятность $0$ .

Пусть $\Omega$ - пространство элементарных исходов $\{\omega \}$ . Предположим, что произошло событие $B\subseteq \Omega$ . Новое значение вероятности будет присвоено $\{\omega \}$ . Новое распределение для некоторого постоянного коэффициента $\alpha$ равно:

${\begin{aligned}&{\text{1. }}\omega \in B:P(\omega |B)=\alpha P(\omega )\\&{\text{2. }}\omega \notin B:P(\omega |B)=0\\&{\text{3. }}\sum _{\omega \in \Omega }{P(\omega |B)}=1.\end{aligned}}$

Подставляем 1 и 2 в 3, чтобы выразить α:

${\displaystyle {\begin{aligned}1&=\sum _{\omega \in \Omega }{P(\omega |B)}=\sum _{\omega \in B}{P(\omega |B)}+{\cancelto {0}{\sum _{\omega \notin B}P(\omega |B)}}=\alpha \sum _{\omega \in B}{P(\omega )}=\alpha \cdot P(B)\Rightarrow \alpha ={\frac {1}{P(B)}}\end{aligned}}}$

Таким образом, новое распределение равно

${\begin{aligned}{\text{1. }}\omega \in B&:P(\omega |B)={\frac {P(\omega )}{P(B)}}\\{\text{2. }}\omega \notin B&:P(\omega |B)=0\end{aligned}}$

Теперь для события $A$ :

${\begin{aligned}P(A|B)&=\sum _{\omega \in A\cap B}{P(\omega |B)}+{\cancelto {0}{\sum _{\omega \in A\cap B^{c}}P(\omega |B)}}=\sum _{\omega \in A\cap B}{\frac {P(\omega )}{P(B)}}={\frac {P(A\cap B)}{P(B)}}\end{aligned}}$

См. также

Вероятность
Независимость
Условное математическое ожидание
Формула полной вероятности
Теорема Байеса
Парадокс Монти Холла
Задача о двух конвертах