Курс лекций по теории вероятностей

помощью которых можно будет определить и вероятность попасть в любое другое

множество.

Замечание 11. Можно с таким же успехом ограничиться набором

вероятностей попадания в интервалы (-(, х], или в (х ,(), или в [х ,(), или

в (х1 ,x2). Впрочем, последних уже слишком много.

Определение 27.Функцией распределения случайной величины ? называется

функция F?(x) : R ( [0, 1], при каждом x ( R равная F?(x) = P(? < x) =

P{?: ?(?) < x}

Пример 22. Случайная величина ? имеет вырожденное распределение Ic.

Тогда

[pic]

Пример 23. Случайная величина ? имеет распределение Бернулли Вр. Тогда

[pic]

Пример 24. Будем говорить, что случайная величина ? имеет равномерное

распределение на отрезке [a, b] и писать ? ( Ua,b (“ uniform”), если ? —

координата точки, брошенной наудачу на отрезок [a, b] числовой прямой. Это

распределение можно задать и с помощью функции распределения:

[pic]

7.1 Свойства функции распределения

Теорема 19.

Функция распределения F?(x) обладает следующими свойствами:

F1) Функция распределения F?(x) не убывает: если х1 < x2 то F?(x1)<

F?(x2);

F2) Существуют пределы

[pic] и [pic]

F3) Функция распределения F?(x) непрерывна слева:

[pic]

Теорема 20. Если функция F: R ( [0, 1] удовлетворяет свойствам

(F1)–(F3), то F есть функция распределения некоторой случайной величины ?,

то есть найдется вероятностное пространство (?, ?, Р) и случайная величина

? на этом пространстве, что F(х) = F?(x).

Прочие полезные свойства функций распределения

F4) В любой точке х0 разница F?(х0+0) - F?(х0) равна P(? = х0):

Следствие 3. Если функция распределения F?(x) непрерывна в точке х0, то

P(? = х0) = 0

F5) Для любой случайной величины ? имеет место равенство P(а ( ? < b) =

F?(a) - F?(b).

Если же функция распределения F?(x) непрерывна (для любого x, или

только в точках a и b), то

P(а ( ? < b) = P(а < ? < b) = P(а ( ? ( b) = P(а < ? ( b) =

F?(a) - F?(b)

Функция распределения дискретного распределения

Мы уже видели, как выглядят функции распределения некоторых дискретных

распределений. Из свойств (F4), (F5) следует

Свойство 4. Случайная величина ? имеет дискретное распределение тогда и

только тогда, когда функция распределения F? — ступенчатая функция. При

этом возможные значения ? — точки ai скачков F?, и

pi = P(? = ai ) = F? (ai + 0) - F? (ai )— величины скачков.

В следующей главе мы рассмотрим случайные величины, функции

распределения которых не удовлетворяют свойству 4 хотя бы потому, что они

вовсе не имеют разрывов. Более того, мы выделим класс функций

распределения, которые «восстанавливаются по своей производной» с помощью

интегрирования (так называемые абсолютно непрерывные функции).

Раздел 8. Абсолютно непрерывные распределения

Определение 28.Случайная величина ? имеет называемые абсолютно

непрерывное распределение, если существует неотрицательная функция f?(x)

такая, что для любого х ( R функция распределения F?(x) представима в виде

[pic]

При этом функция f?(x) называется плотностью распределения случайной

величины ?.

Теорема 21.Плотность распределения обладает свойствами:

(f1) f?(x)( 0 для любого x;

(f2) [pic]

Эти два свойства полностью характеризуют класс плотностей:

Лемма 2. Если функция f обладает свойствами (f1) и (f2), то существует

вероятностное пространство и случайная величина ? на нем, для которой f

является плотностью распределения.

Доказательство. Пусть ? есть область, заключенная между осью абсцисс и

графиком функции f (« подграфик» функции f). Площадь области ? равна 1 по

свойству (f2). И пусть случайная величина ? есть абсцисса точки, наудачу

брошенной в эту область.

Тогда (вспомнить геометрическую вероятность) для любого х ( R

[pic]

то есть f является плотностью распределения случайной величины ?

Свойства плотностей

(f3) Если случайная величина ? имеет абсолютно непрерывное

распределение, то ее функция распределения всюду непрерывна.

Следствие 4. Если случайная величина ? имеет абсолютно непрерывное

распределение, то P(? = х) = 0 для любого х ( R.

(f4) Если случайная величина ? имеет абсолютно непрерывное

распределение, то ее функция распределения дифференцируема почти всюду, и

[pic]

для почти всех х.

Замечание 12. Термин для «почти всех» означает «для всех, кроме

(возможно) х из некоторого множества нулевой меры (длины)». Заметьте, что

стоящую под интегралом функцию можно изменить в одной точке (или на

множестве нулевой длины), и интеграл (« площадь подграфика») от этого не

изменится.

(f5) Если случайная величина ? имеет абсолютно непрерывное

распределение, то

[pic]

Доказательство. Действительно,

[pic]

Остальные равенства вытекают из следствия 5.

8.1 Примеры абсолютно непрерывных распределений

Равномерное.

Это распределение нам уже знакомо. Говорят, что ? имеет равномерное

распределение на отрезке [a, b], и пишут ? ( Ua,b если

[pic]

Заметьте, что в точках a и b функция распределения недифференцируема, и

плотность можно задать как угодно.

Показательное.

Говорят, что ? имеет показательное распределение с параметром ?, ? > 0

и ? ( Е?, если

[pic]

Показательное распределение является единственным абсолютно непрерывным

распределением, для которого выполнено свойство «не старения» (и в этом

смысле оно является непрерывным аналогом дискретного геометрического

распределения).

Теорема 21. Свойство «Не старения». Пусть ? ( Е?. Тогда для любых х, у

> 0

[pic]

Нормальное.

Говорят, что ? имеет нормальное распределение с параметрами а и ?2 ,

где а ( R, ? > 0, и пишут ? ( если ? имеет следующую плотность

распределения:

[pic]для любого x ( R

Убедимся, что f?(x)действительно является плотностью распределения. Так

как f?(x) > 0 для всех x ( R, то свойство (f1) выполнено. Проверим

выполнение (f2). Используем табличный интеграл (интеграл Пуассона)

[pic]

Нормальное (иначе называемое гауссовским по имени Карла Гаусса

распределение играет исключительно важную роль в теории вероятностей,

поэтому мы очень подробно изучим все свойства этого распределения.

8.2 Свойства нормального распределения

Нормальное распределение задается, как мы видим, с помощью плотности

распределения. Связано это с тем, что нельзя выписать первообразную от

функции[pic] иначе как в виде интеграла, поэтому функцию распределения

этого закона можно записать лишь в таком виде:

[pic]

Мы часто будем использовать обозначение для функции распределения

нормального распределения с параметрами а и ?2.

Стандартное нормальное распределение

Нормальное распределение при [pic] а = 0 и ?= 1 называется стандартным

нормальным распределением. Плотность стандартного нормального распределения

имеет вид

[pic]для любого x ( R

а функция распределения

[pic]

табулирована (то есть ее значения вычислены при многих х) почти во всех

математических справочниках. Установим связь между

[pic]

Свойство 5. Для любого x ( R справедливо соотношение

[pic]

То же самое на языке случайных величин можно сформулировать так:

Следствие 5. Если [pic] то

Следствие 6. Если [pic] то

[pic]

Как мы видим, вычисление любых вероятностей для нормально

распределенной случайной величины сводится к вычислению функции

распределения Ф0,1. Ее свойства

Свойство 6. Ф0,1(0) = 0,5

Свойство 7. Ф0,1(-х) = 1 - Ф0,1(х)

Свойство 8. Если ? ( N0,1, то

[pic]

Свойство 9 (« Правило трех сигм»).

Если [pic]то[pic]

Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что

почти вся масса нормального распределения сосредоточена в границах [a - 3?,

a - 3?] всегда полезно.

Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что

почти вся масса нормального распределения сосредоточена в границах [a-3?,

a+3?], всегда полезно.

Раздел 9. Случайные вектора и их распределения

Определение 29. Если случайные величины [pic] заданы на одном

вероятностном пространстве, то вектор ([pic]) мы будем называть случайным

вектором.

Определение 30. Функция [pic] называется функцией распределения

случайного вектора ([pic]) или функцией совместного распределения случайных

величин [pic].

9.1 Свойства функции совместного распределения

Для простоты обозначений все дальнейшие рассуждения и формулировки

приводятся в случае n = 2 для случайного вектора ([pic])

F0) [pic]

F1) [pic] не убывает по каждой координате вектора (x1 x2).

F2) Для любого i = 1, 2, существуют

[pic]

[pic]

При этом

[pic]

F3) Функция [pic] по каждой координате вектора (x1 x2) непрерывна

слева.

Только теперь этих свойств оказывается недостаточно для описания класса

функций совместного распределения. Иначе говоря, выполнение этих свойств

для некоторой функции F: R2 ( R вовсе не гарантирует, что эта функция

является функцией распределения некоторого случайного вектора.

Пример 25. Функция

[pic][pic]

a) удовлетворяет всем свойствам (F0)-(F3);

б) не является функцией распределения никакого вектора (?1, ?2.) хотя

бы потому, что, найдись такой вектор, найдется и прямоугольник [a1 b1] x

[a2 b2], вероятность попасть в который (вычисленная с помощью этой «функции

распределения») отрицательна:

P(a1 ( ?1< b1 , a2 ( ?2 2 это утверждение, как и свойство (F2), выглядит

существенно иначе!

Теорема 22. Если случайные величины ?1, ?2 имеют абсолютно

непрерывное совместное распределение с плотностью f (x1, x2), то ?1, и ?2 в

отдельности также имеют абсолютно непрерывное распределение с плотностями:

[pic]

9.3 Независимость случайных величин

Определение 33. Случайные величины ?1, ?2, … , ?n независимы, если для

любого набора множеств В1 ( R, … Вn ( R имеет место равенство:

[pic]

Это определение можно сформулировать в терминах функций распределения:

Определение 34. Случайные величины ?1, ?2, … , ?n независимы, если для

любых х1, х2, … , хn имеет место равенство:

[pic]

Определение 35. Случайные величины ?1, ?2, … , ?n с дискретным

распределением независимы, если для любых а1, а2, … , аn имеет место

равенство:

[pic]

Для случайных величин с абсолютно непрерывным совместным распределением

определение независимости можно сформулировать так:

Определение 36. Случайные величины ?1, ?2, … , ?n с абсолютно

непрерывным совместным распределением независимы, если плотность

совместного распределения равна произведению плотностей случайных ?1, ?2, …

, ?n, то есть для любых х1, х2, … , хn имеет место равенство:

[pic]

Раздел 10. Преобразования случайных величин

10.1 Преобразование одной случайной величины

Мы будем рассматривать только преобразования случайных величин с

абсолютно непрерывными распределениями. Пусть с. в. ? имеет функцию

распределения F?(x) и плотность распределения f?(x). Построим с помощью

функции g: R ( R случайную величину ?= g(?). Требуется найти функцию

распределения и, если существует, плотность распределения ?.

Замечание 15. Плотность распределения случайной величины ?= g(?)

существует далеко не при любых функциях g. Так, если функция g кусочно-

постоянна, то с. в. ? имеет дискретное распределение, и плотность ее

распределения не существует.

Плотность распределения g(?) заведомо существует, если, например,

функция g(?) монотонна («строго монотонна»). Вспомним, что означает «найти

плотность распределения ?, если она существует».

По определению, если мы представим (для любого х) функцию распределения

? в виде [pic] где подинтегральная функция h(y) неотрицательна, то

плотность распределения с.в. ? существует и в точности равна

подинтегральной функции f?(x) = h(x) .

Так что доказывать существование плотности распределения и находить ее

мы будем одновременно, находя нужное интегральное представление для функции

распределения.

Теорема 23. Пусть ? имеет функцию распределения F?(x) и плотность

распределения f?(x) , и постоянная a отлична от нуля. Тогда случайная

величина ? = a ? + b имеет плотность распределения

[pic]

Для произвольной монотонной функции g (то есть либо монотонно

возрастающей функции, либо монотонно убывающей функции справедливо

аналогичное теореме 23 утверждение).

Теорема 24. Пусть ? имеет функцию распределения F?(x) и плотность

распределения f?(x), и функция g: R ( R монотонна. Тогда случайная величина

?= g(?) имеет плотность распределения

[pic]

Здесь g -1— функция, обратная к g, и

[pic]— производная функции g -1.

Следствие 7. Если ? ( N0,1, то ? = ??+а ( [pic]

Следствие 8. Если ? ( [pic], то ? = (? –а)/ ? ( N0,1.

Следствие 9. Если ? ( Е?, то ? = ??( Е1

10.2 Функции от двух случайных величин

Пусть ?1 ?2 — случайные величины с плотностью совместного распределения

[pic], и задана функция g : R2 ( R. Требуется найти функцию (а если

существует, то и плотность) распределения случайной величины ? = g(?1 ,

?2).

Пользуясь тем, что вероятность случайному вектору попасть в область

можно вычислить как объем под графиком плотности распределения вектора над

этой областью, сформулируем утверждение.

Теорема 25. Пусть х( R, и область Dx ( R2 состоит из точек (x1 x2 )

таких, что g (x1 x2 ) < x. Тогда случайная величина ? = g(?1 , ?2). имеет

функцию распределения

[pic]

Всюду далее в этой главе предполагается, что случайные величины ?1 и ?2

независимы, то есть [pic]

Следствие 10 (Формула свертки). Если с. в. ?1 и ?2 независимы и имеют

абсолютно непрерывное распределение с плотностями f ?1 (x1) и f ?2 (x2).,

то плотность распределения суммы ?1 + ?2 равна «свертке» плотностей f ?1

(x1) и f ?2 (x2)

[pic] (9)

Следствие 10 не только предлагает формулу для вычисления плотности

распределения суммы, но и утверждает (заметьте!), что сумма двух

независимых случайных величин с абсолютно непрерывными распределениями

также имеет абсолютно непрерывное распределение.

Если даже одна из двух независимых случайных величин имеет дискретное,

а вторая – абсолютно непрерывное распределение, то их сумма тоже имеет

абсолютно непрерывное распределение, как показывает следующее упражнение.

Упражнение. Пусть с. в. ? имеет таблицу распределения P(? = аi) = pi,

с. в. ? имеет плотность распределения f?(x), и эти величины независимы.

Доказать, что ? +? имеет плотность распределения

[pic][pic]

10.3 Примеры использования формулы свертки

Пример 26. Пусть независимые случайные величины ? и ? имеют стандартное

нормальное распределение. Докажем, что их сумма имеет нормальное

распределение с параметрами 0 и 2.

Доказательство. По формуле свертки, плотность суммы равна

[pic]

Выделим полный квадрат по u в показателе экспоненты:

[pic]

Тогда

[pic]

Последнее равенство верно поскольку под интегралом стоит плотность

нормального распределения с параметрами 0 и [pic], так что интеграл по всей

прямой равен 1. Итак, мы получили, что плотность суммы есть плотность

нормального распределения с параметрами 0 и 2.

Если сумма двух независимых случайных величин из одного и того же

распределения (возможно, с разными параметрами) имеет такое же

распределение, говорят, что это распределение устойчиво относительно

суммирования.

В следующих утверждениях, перечислены практически все устойчивые

распределения.

Лемма 3. Пусть случайные величины ? ( П? и ?( П? независимы. Тогда ?+ ?

( П?+?

Лемма 4. Пусть случайные величины ? ( Bn,p и ? ( Bm,p независимы. Тогда

?+ ? ( Bm+n,p

Лемма 5. Пусть случайные величины [pic] и [pic] независимы. Тогда [pic]

Показательное распределение не устойчиво по суммированию, однако его

можно считать частным случаем гамма-распределения, которое уже в некотором

смысле устойчиво относительно суммирования.

Определение 37. Случайная величина ? имеет гамма-распределение Г?,? с

параметрами ? > 0, ? > 0, если она имеет плотность распределения

[pic]

где постоянная c вычисляется из условия

[pic]

Заметим, что показательное распределение Е? есть гамма-распределение

Г?,1.

Лемма 6. Пусть независимые случайные величины ?1, … , ?n имеют

показательное распределение Е? = Г?,1 Тогда ?1 +…+?n ( Г?,n

«Случайных величин без мат. ожидания не

бывает, так как, если у нас есть случайная

величина мы всегда в праве от нее что-нибудь

ожидать.»

Из студенческой контрольной работы.

Раздел 11. Числовые характеристики случайных величин

11.1 Математическое ожидание случайной величины

Определение 38. Математическим ожиданием E? (средним значением, первым

моментом) случайной величины ? с дискретным распределением, задаваемым

таблицей P(? = аi) = pi, называется число

[pic] если указанный ряд абсолютно сходится.

Если же

[pic], то говорят, что математическое ожидание не существует.

Определение 39. Математическим ожиданием E? случайной величины ? с

абсолютно непрерывным распределением с плотностью распределения f?(x),

называется число

[pic] если указанный интеграл абсолютно сходится.

Если же

[pic], то говорят, что математическое ожидание не существует.

Математическое ожидание имеет простой физический смысл: если на прямой

разместить единичную массу, поместив в точку аi массу pi (для дискретного

распределения), или «размазав» ее с плотностью f?(x) (для абсолютно

непрерывного распределения), то точка E? есть координата «центра тяжести»

прямой.

Пример 26. Пусть случайная величина ? равна числу очков, выпадающих при

одном подбрасывании кубика. Тогда

[pic]

[pic][pic]

в среднем при подбрасывании кубика выпадает 3.5 очка

Пример 27. Пусть случайная величина ? — координата точки, брошенной

наудачу на отрезок [a,b]. Тогда

[pic][pic]

центр тяжести равномерного распределения на отрезке есть середина

отрезка.

11.2 Свойства математического ожидания

Во всех свойствах предполагается, что рассматриваемые математические

ожидания существуют.

E0. Математическое ожидание случайной величины есть ЧИСЛО!

E1. Для произвольной функции функция g : R ( R

[pic]

Доказательство. Мы докажем это свойство (как и почти все дальнейшие)

только для дискретного распределения. Пусть g(?) принимает значения с1 с2 …

с вероятностями

[pic]

Тогда

[pic]

E2 Математическое ожидание const равно этой const Eс = с.

E3. const можно вынести за знак математического ожидания: E(с ?) = с

E?.

Доказательство. Следует из свойства E1 при g(?) = с ? .

E4. Математическое ожидание суммы любых случайных величин ? и ? равно

сумме их математических ожиданий.

E (? + ? ) = E (? )+ E (?)

Доказательство. Для величин с дискретным распределением: пусть xk и yn

— значения ? и ?, соответственно.

[pic]

E5.Если ? ( 0 п.н. (« почти наверное», т.е. с вероятностью 1: P(? ( 0 )

= 1), то E ? ( 0;

Если ? ( 0 п.н., и при этом E? = 0, то ? = 0 п.н., то есть P(? = 0) =

1.

Следствие 11.

Если ? ( ? п.н., то E ? ( E? .

Страницы: 1, 2, 3, 4, 5