Курс лекций по теории вероятностей

быть вычислена по формуле:

Пример 17. Вернемся к примеру 15. Изделие выбирается наудачу из всей

произведенной продукции. Рассмотрим три гипотезы: Нi = {изделие изготовлено

i-м заводом }, i = 1, 2, 3. Вероятности этих событий даны: P(Н1) = 0,25,

P(Н2) = 0,35, P(Н3) = 0,4 . Пусть A = {изделие оказалось бракованным }.

Даны также условные вероятности P(A\Н1) = 0,05, P(A\Н2) = 0,03, P(A\Н3) =

0,04

Пример 18. Два стрелка подбрасывают монетку и выбирают, кто из них

стреляет по мишени (одной пулей). Первый стрелок попадает по мишени с

вероятностью 1, второй стрелок — с вероятностью 0,00001. Можно сделать два

предположения об эксперименте:

Н1 = {стреляет 1-й стрелок}

Н2 = { стреляет 2-й стрелок } .

Априорные (a’priori —«до опыта») вероятности этих гипотез одинаковы:

P(Н1) = P(Н1) = 1/2.

Рассмотрим событие A = {пуля попала в мишень}. Известно, что

P(A\Н1) = 1, P(A\Н2) = 0,00001

Поэтому вероятность пуле попасть в мишень P(A) = 1/2*1 + 1/2*0,00001.

. Предположим, что событие A произошло. Какова теперь апостериорная

(a’posteriori — «после опыта») вероятность каждой из гипотез Нi? Очевидно,

что первая из этих гипотез много вероятнее второй (а именно, в 100000 раз).

Действительно,

Раздел 5. Схема Бернулли

5.1 Распределение числа успехов в n испытаниях

Определение 19. Схемой Бернулли называется последовательность

независимых испытаний, в каждом из которых возможны лишь два исхода —

«успех» и «неудача», при этом «успех» в одном испытании происходит с

вероятность р ( [0,1], «неудача» — с вероятностью q = 1 - p.

Теорема 10 (Формула Бернулли).

Обозначим через vn число успехов в n испытаниях схемы Бернулли. Тогда

для любого k = 0, 1, …n

Доказательство. Событие A ={ vn = k} означает, что в n испытаниях схемы

Бернулли произошло ровно k успехов. Рассмотрим один из благоприятствующих

событию A элементарных исходов:

Здесь буквами «у» и «н» обозначены, соответственно, успешный и

неудачный результаты испытаний. Поскольку испытания независимы, вероятность

такого элементарного исхода (первые k испытаний завершились успехом,

остальные неудачей) равна pk(1 - p)n-k.

Другие благоприятствующие событию A элементарные исходы отличаются от

рассмотренного выше лишь расположением k успехов на n местах. Есть

ровно[pic] способов расположить k успехов на n местах. Поэтому событие A

состоит из [pic] элементарных исходов, вероятность каждого из которых равна

pk(1 - p)n-k.

Определение 20. Набор чисел

называется биноминальным распределением вероятностей и обозначается

Вnp или B(n,p).

Теорема 11 Пусть m1, m2 целые числа, 0 ( m1 ( m ( m2 ( n Обозначим

через Рn(m1,m2) вероятность того, что событие А наступило не менее m1 и не

более m2 раз в n испытаниях. Тогда

[pic]

5.2 Наиболее вероятное число успехов

По формуле Бернулли, событие «произошло 0 успехов в n испытаниях» имеет

вероятность qn , 1 успех — вероятность n p qn и т.д. Какое же число успехов

наиболее вероятно? Иначе говоря, при каком k достигается максимум P(vn=k)?

Чтобы выяснить это, сравним отношение P(vn=k)и P(vn=k-1)с единицей.

Видим, что

(a) Р(vn = k) > Р(vn = k-1) при np + p – k > 0, то есть при k < np + p;

(b) Р(vn = k) < Р(vn = k-1 )при np + p – k < 0, то есть при k > np + p;

(c) Р(vn = k) = Р(vn = k-1 при np + p – k = 0, что возможно лишь если

np + p — целое число.

Рассмотрим два случая: np + p –целое число и np + p – дробное число. В

первом случае пусть k0 = np + p. Из полученных выше неравенств, сразу

следует, что

Во втором случае пусть k0 = [np + p] (целая часть числа np + p, то есть

наибольшее целое число, не превосходящее np + p). Из неравенств (a), (b)

следует, что

Действительно, неравенство Р(vn = k0) > Р(vn = k0+1), например, следует

из (b), примененного для

k = k0+1 > np + p.

Видим, что в зависимости от того, является число 1 > np + p целым или

нет, имеется либо два равновероятных «наиболее вероятных» числа успехов k0

= np + p и k0 –1 > np + p - 1,либо одно «наиболее вероятное» число успехов

k0 = [np + p].

Сформулируем уже доказанное утверждение в виде теоремы.

Теорема 12. В n испытаниях схемы Бернулли с вероятностью успеха p

наиболее вероятным числом успехов является

a) единственное число k0 = [np + p], если число np + p не целое;

б) два числа k0 = np + p и k0 -1= np + p -1, если число np + p целое.

Пример 19. Если p = q = 1/2, то при четном числе испытаний n число np +

p = n/2 + 1 /2— не целое, так что наиболее вероятным является единственное

число успехов [n/2 + 1 /2] = n/2. Что совершенно понятно, так как есть

нечетное число возможностей — получить 0, 1, …n успехов, причем вероятности

получить k и n-k успехов одинаковы.

При нечетном же числе испытаний n число np + p = n/2 + 1 /2 — целое,

так что наиболее вероятными (и одинаково вероятными) являются два числа

успехов n/2 + 1 /2 и n/2 - 1 /2.

5.3 Номер первого успешного испытания

Рассмотрим схему Бернулли с вероятностью успеха p в одном испытании.

Испытания проводятся до появления первого успеха. Введем величину ? ,

равную номеру первого успешного испытания.

Теорема 13. Вероятность того, что первый успех произойдет в испытании с

номером k, равна

P(? = k) = p qk-1.

Доказательство. Действительно,

Определение 21. Набор чисел {p qk-1 } называется геометрическим

распределением вероятностей и обозначается Gp или G(p).

Геометрическое распределение вероятностей обладает интересным

свойством, которое можно назвать свойством «нестарения». Пусть величина ?

обозначает, скажем, время безотказной работы (измеряемое целым числом

часов) некоторого устройства. Предположим, что для величины ? вероятность

принять любое свое значение k в точности равна pqk-1. Справедливо следующее

утверждение.

Теорема 14. Пусть P(? = k) = p qk-1. Тогда для произвольных n, k ( 0

P(? > n+k\ ? > n) = P(? > k)

Данному равенству можно придать следующее звучание: если известно, что

устройство проработало без отказов n часов, то вероятность ему работать еще

не менее k часов точно такая же, как вероятность проработать не менее k

часов для нового устройства.

Можно прочесть эту формулу и так: вероятность работающему устройству

проработать еще сколько-то часов не зависит от того момента, когда мы

начали отсчет времени, или от того, сколько уже работает устройство.

Доказательство. По определению условной вероятности,

(4)

Последнее равенство следует из того, что событие {? > n+k} влечет

событие {? > n}, так что пересечение этих событий есть {? > n+k}. Найдем

для произвольного m ( 0 вероятность P(? > m).

Можно также заметить, что событие {? > m} означает, что в схеме

Бернулли первые m испытаний завершились «неудачами», а это событие имеет

вероятность как раз qm.

Возвращаясь к (4), получим

5.4 Приближение гипергеометрического распределения биномиальным

Рассмотрим урну, содержащую N шаров, из которых K шаров — белые, а

оставшиеся N-K шаров — черные. Из урны наудачу (без возвращения) выбираются

n шаров. Вероятность PN,K(n, k) того, что будет выбрано ровно k белых и n-

k черных шаров, находится по формуле (см. определение 8

гипергеометрического распределения вероятностей):

Если число шаров в урне очень велико, то извлечение одного, двух, трех

шаров почти не меняет пропорцию белых и черных шаров в урне, так что

вероятности PN,K(n, k) не очень отличаются от вероятностей в процедуре

выбора с возвращением

P(получить ровно k белых шаров при выборе n шаров с возвращением) =

Сформулируем нашу первую предельную теорему.

Теорема 15. Если N > ? и K > ? так, что K/N > p ( (0, 1) то для любых

фиксированных n, 0 ?. Если при

этом p = pn> 0,то, очевидно, вероятность получить любое конечное число

успехов при растущем числе испытаний стремится к нулю. Необходимо чтобы

вероятность успеха p = pn> 0 одновременно с ростом числа испытаний. Но от

испытания к испытанию вероятность успеха меняться не может (см. определение

схемы Бернулли).

Поэтому рассмотрим «схему серий»: есть

одно испытание ? с вероятностью успеха p1

два испытания ? , ? с вероятностью успеха p2

…

n испытаний ? , … , ? с вероятностью успеха pn

…

Вероятность успеха меняется не внутри одной серии испытаний, а от серии

к серии, когда меняется общее число испытаний. Обозначим через vn число

успехов в n-той серии испытаний.

Теорема 17 (Теорема Пуассона).

Пусть n > ? , pn> 0 так, что n pn> ? > 0. Тогда для любого k ? 0

вероятность получить k успехов в n испытаниях схемы Бернулли с вероятностью

успеха pn стремится к величине

[pic]

(5)

[pic]для n > ? , pn> 0 так, что n pn> ?

Определение 22. Пусть ? > 0— некоторая постоянная. Набор чисел [pic]

называется распределением Пуассона с параметром ?.

Пользуясь теоремой 17, можно приближенно посчитать вероятность получить

не менее десяти успехов в 1000 испытаний схемы Бернулли с вероятностью

успеха 0.003, с вычисления которой мы начали. Поскольку n = 1000 «велико»,

а pn = 0.003 «мало», то, взяв ? = n pn = 3 , можно написать приближенное

равенство

[pic](6)

Осталось решить, а достаточно ли n=103 «велико», а pn = 0.003 «мало»,

чтобы заменить точную вероятность P(vn = k) на приближенное значение

[pic]

Для этого нужно уметь оценивать разницу между этими двумя

вероятностями.

Теорема 18 (Теорема Пуассона с оценкой погрешности).

Пусть A ( {0, 1, …, n} — произвольное множество целых неотрицательных

чисел, vn — число успехов в n испытаниях схемы Бернулли с вероятностью

успеха p, ? = n p. Тогда

[pic]

Таким образом, теорема 18 предоставляет нам возможность самим решать,

достаточно ли n «велико», а p «мало», руководствуясь полученной величиной

погрешности.

Какова же погрешность в формуле (6)?

[pic]

Погрешность не более 0,009 (при вероятности около 0,001). Во всяком

случае, можно утверждать, что искомая вероятность никак не больше, чем

0,01=0,001+0,009.

Рассмотрим еще одну формулу приближенного вычисления pn (m) когда n

велико. В отличии от предыдущего результата число успехов m в этом случае

тоже растет с ростом n, а вероятность успеха постоянна.

Локальная теорема Муавра – Лапласа

Пусть [pic].Предположим, что [pic]и величины [pic]являются

ограниченными. Тогда

[pic]

В частности, если [pic], то

[pic]

Доказательство:

В силу ограниченности величин [pic] разность [pic]вместе с n и m

Воспользуемся формулой Стирлинга

[pic]

[pic]

В силу определения [pic]

[pic]

Раздел 6. Случайные величины и их распределения

6.1 Случайные величины

Мы уже видели, что для очень многих экспериментов нет никаких различий

в подсчете вероятностей событий, тогда как элементарные исходы в этих

экспериментах очень различаются. Но нас и должны интересовать именно

вероятности событий, а не структура пространства элементарных исходов.

Поэтому пора во всех таких «похожих» экспериментах вместо самых разных

элементарных исходов использовать, например, числа. То есть ввести

соответствие (иначе говоря, отображение) между элементарными исходами и

вещественными числами (с ними удобно работать).

Пусть имеется случайный эксперимент и задано вероятностное пространство

(?, ?,Р).

Определение 23. Функция ?: ? >R называется случайной величиной, если

для любого х ( R множество { ? < x} = {?: ?(?) < x} является событием, то

есть принадлежит ?-алгебре событий ?.

Замечание 10. Можно смело считать, что любое множество элементарных

исходов есть событие, и, следовательно, случайная величина есть

произвольная функция из ? в R. Никаких неприятностей на практике это обычно

не влечет.

Определение 24. Будем говорить, что функция ?: ? >R является ?

-измеримой, если {?: ?(?) < x} принадлежит ? для любого х ( R.

Итак, случайная величина есть ? - измеримая функция, ставящая в

соответствие каждому элементарному исходу ? ( ? число ?(?) ( R.

Пример 21. Подбрасываем 1 раз кубик. Пусть ? = {1, 2, 3, 4, 5, 6} , и

две функции из ? в заданы так: ?(?)= ? , ?(?)= ?2.

Если ? есть множество всех подмножеств ?, то ? и ? являются случайными

величинами, поскольку любое множество элементарных исходов принадлежит ?, в

том числе и {?: ?(?) < x} или {?: ? (?) < x} . Можно записать

соответствие между значениями случайных величин ? и ? вероятностями

принимать эти значения в виде «таблицы распределения вероятностей» или,

коротко, «таблицы распределения»:

|? |1 |2 |3 |4 |5 |6 |

|Р |1/6|1/6|1/6|1/6|1/6|1/6|

|? |1 |4 |9 |16 |25 |36 |

|Р |1/6|1/6|1/6|1/6|1/6|1/6|

Здесь 1/6 = Р(?=1)=…= Р(?=6) = Р(? =1)= …= Р(? =36)

Пусть ? -алгебра событий ? состоит всего из четырех множеств:

? = { ? ,(, {1,3,5},{2,4,6} }

то есть событием является, кроме достоверного и невозможного событий,

выпадение четного (соответственно, нечетного) числа очков. Убедимся, что

при такой «бедной» ? -алгебре ни ?, ни ? не являются случайными величинами,

так как эти функции не ? - измеримы. Возьмем (например) x = 3,967. Видим,

что

{? ( ?: ?(?) < 3,967}= {1, 2, 3}( ? и {? ( ?: ? (?) < 3,967}= {1}( ?

Теперь попробуем понять, зачем нужна ? - измеримость и почему

требуется, чтобы {?: ?(?) < x} являлось событием.

Если задана случайная величина ?, нам может потребоваться вычислить

вероятности типа

P(? = 5) = P{?: ?(?) = 5},

P (? ( [-3,7]),

P(? ( 3,2),

P(? > 0)

(и вообще самые разные вероятности попадания в различные множества на

прямой). Это возможно только если множества, стоящие под знаком

вероятности, являются событиями (напомню, что вероятность есть функция из ?

- алгебры событий в [0,1]).

Но если потребовать, чтобы Ax = {?: ?(?) < x} было событием при любом

x, то мы из свойств ? - алгебры сразу получим, что

и [pic]— событие, и [pic]— событие,

и [pic]— событие,

и {?: ?(?) = x}= Bx \ Ax — событие,

(7)

и т.д., и т.п. (операции пересечения, объединения, дополнения событий

не выводят из класса событий).

Можно потребовать в определении 23 чего-нибудь другого. Например, чтобы

событием было попадание в любой интервал: (?: ?(?) ( [a, b]) для любых a <

b.

Или чтобы {?: ?(?) ( x} было событием для любого x. Любое такое

определение эквивалентно исходному.

Опишем различные типы распределений случайных величин. Под

распределением случайной величины мы будем понимать соответствие

«значение случайной величины ? вероятность принимать это

значение»,

либо (чаще)

«множество на прямой ? вероятность случайной величине попасть в

это множество».

6.2 Дискретные распределения

Определение 25. Говорят, что случайная величина ? имеет дискретное

распределение, если существует конечный или счетный набор чисел {a1, a2, …}

такой, что:

а) pi = P{ ? = ai} > 0 для всех i;

б)[pic].

То есть случайная величина ? имеет дискретное распределение, если она

принимает не более чем счетное число значений.

Определение 26. Если случайная величина ? имеет дискретное

распределение, назовем таблицей распределения соответствие ai ? pi, которое

чаще всего рисуют так:

|? |а1 |а2 |а3 |… |

|Р |р1 |р2 |р3 |… |

6.3 Примеры дискретных распределений

Вырожденное распределение.

Говорят, что случайная величина ? имеет вырожденное распределение с

параметром а, и пишут ? ( Ia если ? принимает единственное значение а с

вероятностью 1, то есть P(? = a) = 1. Таблица распределения ? имеет вид

|? |а |

|Р |1 |

Распределение Бернулли.

Говорят, что случайная величина ? имеет распределение Бернулли с

параметром р, и пишут ? ( Вр, если ? принимает значения 1 и 0 с

вероятностями р и 1 - р, соответственно. Случайная величина ? с таким

распределением равна числу успехов в одном испытании схемы Бернулли с

вероятностью успеха (0 успехов или 1 успех). Таблица распределения ? имеет

вид

|? |0 |1 |

|Р |(1-p)|р |

Биномиальное распределение.

Говорят, что случайная величина ? имеет биномиальное распределение с

параметрами n и p, где 0 ( p (, n и пишут ? ( Вn,р, если ? принимает

значения 0, 1, …,n с вероятностями P(? = k) = Cnk pk (1-p)n-k . Случайная

величина ? с таким распределением имеет смысл числа успехов в n испытаниях

схемы Бернулли с вероятностью успеха р .

Таблица распределения ? имеет вид

|? |0 |1 |… |k |… |n |

|Р |(1-p)|n |… |Cnk pk |… |Pn |

| |n |p(1-p)n-1 | |(1-p)n-k | | |

Геометрическое распределение.

Говорят, что случайная величина ? имеет геометрическое распределение с

параметром р, где 0 ( p (, n, и пишут ? ( Gр, если ? принимает значения 1,

2, 3, …с вероятностями P(? = k) = p (1-p)k-1. Случайная величина ? с таким

распределением имеет смысл номера первого успешного испытания в схеме

Бернулли с вероятностью успеха р .

Таблица распределения ? имеет вид

|? |1 |2 |… |k |… |

|Р |p |Р (1 – р) |… |p (1-p)k-1|… |

Распределение Пуассона.

Говорят, что случайная величина ? имеет распределение Пуассона с

параметром ?, где ? > 0 , и ? ( П ?, если ? принимает значения 0, 1, 2 … с

вероятностями

[pic]

Таблица распределения ? имеет вид

|? |1 |2 |… |k |… |

|Р |е- ? |? е- ? |… |(?k /k!)е-|… |

| | | | |? | |

Гипергеометрическое распределение.

Говорят, что случайная величина ? имеет гипергеометрическое

распределение с параметрами n, N и K, K ( N, n ( N если ? принимает целые

значения от max (0, N - K – n ) до min (K ,n ) с вероятностями

[pic]

. Случайная величина ? с таким распределением имеет смысл числа белых

шаров среди n шаров выбранных наудачу и без возвращения из урны, содержащей

К белых шаров и N-K не белых.

Заметьте, что со всеми этими распределениями мы уже хорошо знакомы.

Но распределения случайных величин далеко не исчерпываются дискретными

распределениями. Так, например, если точка бросается наудачу на отрезок

[0,1], то можно задать случайную величину, равную координате этой точки. Но

число значений этой случайной величины несчетно, так что ее распределение

дискретным не является. Да и вероятность этой случайной величине принять

каждое из своих возможных значений (попасть в точку) равна нулю. Так что не

только таблица распределения не существует, но и соответствие «значение

величины ( вероятность его принять» ничего не говорит о распределении

случайной величины.

Какими же характеристиками еще можно описать распределение?

Раздел 7. Функция распределения

Заметим, что на том же отрезке [0, 1] вероятности попадания в множества

положительной меры совсем не нулевые. И термин «наудачу» мы когда-то

описывали как раз в терминах вероятностей попадания в множество. Может

быть, разумно описать распределение случайной величины, задав для любого

множества, вероятность принять значения из этого множества? Это

действительно полное описание распределения, но уж очень трудно с ней

работать — слишком много множеств на прямой.

Нельзя ли обойтись заданием вероятностей попадания в какой-нибудь

меньший набор множеств на прямой? Оказывается, что можно ограничиться

только вероятностями попадания в интервалы (-(, х) для всех х ( R, с

Страницы: 1, 2, 3, 4, 5