Некоторые конструкции элементарной теории вероятностей

МИНИСТЕРСТВО ОБРАЗОВАНИЯ РОССИЙСКОЙ ФЕДЕРАЦИИ УРАЛЬСКИЙ ГОСУДАРСТВЕННЫЙ ТЕХНИЧЕСКИЙ УНИВЕРСИТЕТ

Радиотехнический факультет

Кафедра теоретических основ радиотехники Секция “Современная математика в инженерном образовании”

Ченцов А.Г. НЕКОТОРЫЕ КОНСТРУКЦИИ ЭЛЕМЕНТАРНОЙ ТЕОРИИ ВЕРОЯТНОСТЕЙ

Екатеринбург – 2005

Содержание 1 Простейшая вероятностная модель

5

2 Математическое ожидание.

16

3 Ковариация и дисперсия

19

4 Независимость и некоррелированность

25

5 Неравенство Чебышева

33

6 Закон больших чисел, 1

36

7 Закон больших чисел, 2.

38

3

Введение Целью настоящего пособия является изложение некоторых простейших понятий элементарной теории вероятностей в форме, которая без больших осложнений позволила бы затем изучать аналогичные понятия общей теории вероятностей; речь, стало быть, идет о построении упрощенной модели фрагментов упомянутой общей теории. Мы не претендуем здесь на какую-либо полноту; тем не менее, в условиях конечных вероятностных пространств, рассмотрением которых мы здесь ограничиваемся, этот подход позволяет ориентировать читателя на изучение важных, в идейном отношении, понятий очень простыми средствами. Их эффективность может быть дополнительно “усилена” применением элементов комбинаторики, если вести речь о конкретных решениях вероятностных задач. Мы не будем, однако, в этой работе акцентировать внимание на этой стороне дела, преследуя здесь несколько иную цель. Эта цель, как уже отмечалось, состоит в последовательном приближении к положениям колмогоровской теории вероятностей. Итак, для рассматриваемого в данном пособии случая конечного вероятностного пространства (ВП) мы интерпретируем любые множества исходов гипотетического эксперимента как события. Сопоставляя каждому событию вероятность его осуществления, мы получаем вероятность как функцию множеств (такой взгляд на вероятность является общепринятым). Вместе с тем, в нашем “упрощенном” случае для многих целей достаточно оперировать вероятностями исходов, получая функцию точки (исхода); эту функцию именуем элементарной вероятностью. Связь двух вышеупомянутых понятий очевидна: значение вероятности события получается суммированием значений элементарной вероятности для исходов, благоприятствующих наступлению данного события. Напротив, если мы располагаем вероятностью как функцией множеств, то значение элементарной вероятности легко получается сопоставлением точке пространства элементарных событий, т.е. исходу, значения вероятности на одноэлементном множестве, порождаемом упомянутым исходом. Эта двойственность используется, в частности, при рассмотрении математического ожидания случайной величины; последняя определяется здесь как произвольная функция на множестве всех возможных исходов. Имея конечное ВП и случайную величину, определенную на данном ВП, мы можем конструировать математическое ожидание двояко. Первый вариант созвучен римановой конструкции интеграла: рассматриваем сумму 4

значений случайной величины с весами, определяемыми в виде значений элементарной вероятности. Второй вариант допускает аналогию с интегралом Лебега: мы суммируем точки множества значений случайной величины с весами в виде вероятностей событий, состоящих в осуществлении упомянутых значений. Поэтому требуемые свойства математического ожидания можно рассматривать с двух точек зрения, выбирая из этих представлений наиболее удобное. Это используется, в частности, при рассмотрении пары независимых случайных величин, для которых устанавливается свойство некоррелированности. Понятие независимости (событий, классов или семейств событий, случайных величин) является одним из центральных в современной теории вероятностей. В пособии оно рассматривается с должной систематичностью, отмечается различие понятий независимости и некоррелированности двух случайных величин. В заключительной части пособия рассматриваются вопросы, связанные с законом больших чисел; мы ограничиваемся рассмотрением этого закона в форме Чебышева, уделяя основное внимание смысловой стороне. Значение этого фундаментального закона трудно переоценить. Среди практических применений данного закона отметим сейчас только методы МонтеКарло, имея, в частности, в виду проблему вычисления площадей, объемов и т.п.; данный метод широко используется, например, в современной физике. В вопросах, связанных с построением ВП, мы следуем (по сути дела) аксиоматическому подходу, считая, что вероятность (как функция множеств или в виде элементарной вероятности) задана. В Добавлении кратко обсуждается понятие относительной частоты в схеме с повторением эксперимента и его связь с вероятностью; главное в этой части состоит в том, что вероятности событий по своему смыслу являются пределами соответствующих относительных частот. Более подробное знакомство с этой проблематикой читатель может получить при ознакомлении со специальной литературой; соответствующие ссылки даны в Добавлении.

1.

Простейшая вероятностная модель

Мы полагаем сейчас заданным непустое конечное множество Ω, точки которого именуем исходами или элементарными событиями (ЭС). Термин “исход” предполагает, что мы имеем дело с некоторым гипотетическим экс5

периментом; осуществление в ходе его проведения ЭС ω ∈ Ω непредсказуемо (по крайней мере для нас). Само Ω именуем пространством элементарных событий (ПЭС). Событием именуем сейчас всякое подмножество Ω, т.е. всякое множество, элементами которого являются исходы. В частности, событиями являются все множество Ω и пустое множество ∅, именуемые достоверным и невозможным (событиями) соответственно. Сопоставим теперь каждому исходу ω ∈ Ω неотрицательное вещественное число pω . Будем предполагать, что набор (pω )ω∈Ω :

Ω −→ [0, ∞[

обладает следующим свойством нормированности X pω = 1 .

(1.1)

(1.2)

ω∈Ω

Разумеется, из (1.1), (1.2) следует, что 0 ≤ pω ≤ 1 ∀ω ∈ Ω . Для краткости будем именовать числа pω со свойствами (1.1), (1.2) элементарными вероятностями (соответствующих исходов), или кратко ЭВ. Посредством ЭВ определяется способ измерения любых подмножеств Ω. Рассмотрим этот способ, полагая, что P(Ω) есть семейство всех подмножеств Ω. Замечание 1.1. Если множество Ω одноэлементно, т.е. Ω = { ω0 }, где ω0 — некоторый объект, то P(Ω) = {∅; Ω} — двухэлементное множество (неупорядоченная пара). Если Ω = {0; 1} (Ω само является неупорядоченной парой чисел 0 и 1; такую модель можно принять в опыте с подбрасыванием монеты), то P(Ω) = {∅; {0}; {1}; Ω}. Мы предлагаем читателю рассмотреть другие примеры; так, например, в опыте с подбрасыванием игральной кости имеет смысл полагать, что Ω = 1, 6, т.е. Ω есть множество всех натуральных чисел k таких, что 1 ≤ k ≤ 6. 2 В дальнейшем термин семейство означает, что речь идет о множестве, все элементы которого сами являются множествами. Условимся обозначать, для каждого конечного множества A, через | A | мощность A, т.е. количество элементов A; при этом, конечно, | ∅ | = 0. Заметим, кстати, что предположение о конечности Ω часто записывают в виде | Ω | < ∞. Итак, мы определяем вариант измерения каждого множества из P(Ω), связанный с набором (1.1), (1.2). Иными словами, введем функцию P : P(Ω) −→ [0, 1 ] , 6

(1.3)

4

4

согласованную с (1.1). Именно, P (∅) = 0 (здесь и ниже = — равенство по определению), а на семействе 4

P 0 (Ω) = P(Ω) \ { ∅ } (всех непустых подмножеств Ω) значения функции P определяем следующим образом (см. [1, c.23]) 4 X P (A) = pω ∀A ∈ P 0 (Ω) . (1.4) ω∈A

Тогда, в частности, P (Ω) = 1; это непосредственно следует из (1.2) и (1.4). Итак, функция (1.3) (а это — функция множеств) построена; она обладает свойствами P (∅) = 0 и P (Ω) = 1. Но наиболее важным следует признать свойство аддитивности: ∀A ∈ P(Ω) ∀B ∈ P(Ω) ( A ∩ B = ∅ ) =⇒ ( P (A ∪ B) = P (A) + P (B)) .

(1.5)

Проверим свойство (1.5), фиксируя A ∈ P(Ω) и B ∈ P(Ω). Тогда (1.5) очевидно в условиях, когда A = ∅ или B = ∅; это следует из определения P . Рассмотрим случай A ∈ P 0 (Ω) и B ∈ P 0 (Ω). Разумеется, в этом случае A ∪ B ∈ P 0 (Ω). Тогда (1.5) следует из определения и простейших свойств конечных сумм, поскольку X X X P (A) = pω , P (B) = pω , P (A ∪ B) = pω . ω∈A

ω∈B

ω∈A∪B

Итак, (1.5) установлено во всех возможных случаях, что характеризует (1.3) как аддитивную функцию множеств. Отметим некоторые простые свойства, вытекающие из (1.5). Прежде всего по индукции получаем из 4

(1.5), что для всяких n ∈ N , где (здесь и ниже) N = {1; 2; . . .} — натуральный ряд, и набора (Ai )i∈1,n : 1, n −→ P(Ω) такого, что As ∩Ar = ∅ при s ∈ 1, n, r ∈ 1, n, s 6= r, имеет место равенство P

n [



Ai =

i=1

n X

P (Ai ) .

i=1

Данное свойство именуем конечной аддитивностью функции P (1.3). 7

Отметим также, что для любых A0 ∈ P(Ω) и B0 ∈ P(Ω) P (A0 ∪ B0 ) + P (A0 ∩ B0 ) = P (A0 ) + P (B0 ) . В самом деле, в силу (1.5) имеем A0 ∪ B0 = A0 ∪ (B0 \ A0 ) и при этом согласно (1.5) P (A0 ∪ B0 ) = P (A0 ) + P (B0 \ A0 ) ; кроме того, B0 = (A0 ∩ B0 ) ∪ (B0 \ A0 ) и, снова с учетом (1.5), имеем равенство P (B0 ) = P (A0 ∩ B0 ) + P (B0 \ A0 ) . Из двух последних равенств вытекает, что P (A0 ∪ B0 ) = P (A0 ) + P (B0 ) − P (A0 ∩ B0 ) ; этим требуемое свойство доказано. Мы отметим два важных и, до некоторой степени, полярных частных случая. Пример 1. Пусть кортеж (1.1) определяется условием 4

pω =

1 |Ω|

∀ω ∈ Ω ;

(1.6)

разумеется, здесь | Ω | — количество элементов Ω. Соотношение (1.6) определяет равномерное распределение (классическую схему). Правило (1.4) определяет функцию P следующим образом P (A) =

|A| |Ω|

∀A ∈ P(Ω) .

(1.7)

Данная версия широко используется в задачах элементарной теории вероятностей (ЭТВ); см. в этой связи, например, [1, c.24]. В основе определений, связанных с (1.6), (1.7), лежит принцип симметрии, естественный во многих практических задачах (случаи подбрасывания “правильных” монеты, игральной кости и т.д.) Пример 2. Пусть ω0 ∈ Ω и 4

4

(pω = 0 ∀ω ∈ Ω \ {ω0 }) & (pω0 = 1) .

(1.8)

Кортеж (1.1), удовлетворяющий (1.8) будем называть кронекеровским и обозначать через δω0 ; последнее обозначение называем символом Кронекера. Стало быть, δω0 обозначает (см. (1.1)) правило ω 7−→ pω : Ω −→ [0, 1] , 8

удовлетворяющее (1.8). Конечно же, δω0 : Ω −→ [0, 1] и при этом (δω0 (ω) = 0 ∀ω ∈ Ω \ {ω0 }) & (δω0 (ω0 ) = 1 ) .

(1.9)

Разумеется, в случае (1.8), (1.9) мы также имеем факт выполнения условий (1.1), (1.2), хотя, с точки зрения описания случайности, данный вариант набора (1.1), (1.2) неинтересен. Что касается функции P (1.3), то в нашем случае имеем для A ∈ P(Ω), что P (A) = 1 при ω0 ∈ A и P (A) = 0, если ω0 ∈ / A. Эти свойства легко извлекаются из (1.4). 2 Два только что рассмотренных примера показывают, что следует иметь в виду возможность использования весьма различных наборов (1.1), (1.2). Соответственно, и функция множеств P , т.е. вероятность как функция множеств (ФМ), также может реализоваться по разному (см. (1.4)). Отметим, что в нашем построении первичной была ЭВ, рассматриваемая как функция исхода, а вероятность P как ФМ (см. (1.3)), была построена посредством ЭВ. Можно, конечно, допустить и другую последовательность в построении модели, когда первичным будет задание функции (1.3). Итак, пусть P (1.3) есть заданная ФМ, для которой P (∅) = 0, P (Ω) = 1 и при всяком выборе A ∈ P(Ω) и B ∈ P(Ω) истинна импликация (1.5). Каждую такую ФМ именуем вероятностью на P(Ω), но сейчас будем фиксировать P с вышеупомянутыми свойствами. Определяем по известной ФМ P кортеж (1.1) следующим правилом 4

pω = P ({ω}) ∀ω ∈ Ω .

(1.10)

Здесь мы учитываем неотрицательность значений P . Свойство (1.2) вытекает из (1.10). В самом деле, свойство (1.5), справедливое по предположению, позволяет установить по индукции, что вообще при всяком выборе 4 (натурального) числа n ∈ N , где N = {1; 2; . . .} (здесь и ниже), и набора множеств (Ai )i∈1,n : 1, n −→ P(Ω) , 4

где 1, n = {i ∈ N | i ≤ n}, имеет место: n n  [  X  Ai = (Ak ∩ Al = ∅ ∀k ∈ 1, n ∀l ∈ 1, n \ {k} ) =⇒ P P (Ai ) . i=1

i=1

(1.11) Последнее свойство (см. (1.11)) называют конечной аддитивностью P : если имеется набор попарно несовместных событий, то вероятность того, что 9

произойдет хотя бы одно из упомянутых событий, есть сумма вероятностей этих событий. Теперь уже для доказательства (1.2) достаточно применить (1.11) в условиях, когда n = | Ω | и, для выбранной наперед взаимно однозначной функции (ωi )i∈1,n : 1, n −→ Ω , 4

отображающей 1, n на Ω, при предположении о том, что Ai = {ωi } ∀i ∈ 1, n. В этих условиях (см.(1.10)) X

pω =

n X

p ωi

(1.12)

i=1

ω∈Ω

по самому определению неупорядоченной конечной суммы в левой части (1.12). Для таких множеств A1 , A2 , . . . , An имеем, конечно, свойство: Ω есть объединение всех этих множеств, которые являются попарно непересекающимися. С учетом этих построений на основе (1.10) мы получаем ЭВ; см. (1.1) и (1.2). Стало быть, располагая вероятностью P как ФМ, мы можем ввести ЭВ всех исходов. Триплет (Ω, P(Ω), P ), где P — вероятность на P(Ω), условимся именовать конечным вероятностным пространством (ВП); это определение используем в рамках наших простейших задач, соответствующих случаю | Ω | < ∞. Мы не интересуемся при этом происхождением вероятности P (1.3): нам неважно, построена ли она с помощью ЭВ по рецепту (1.4) или мы сумели каким-то образом воспроизвести функцию P непосредственно. Случайной величиной (СВ), отвечающей нашему конечному ВП, называем всякую функцию, отображающую Ω в вещественную прямую R. Стало быть, в нашем случае (конечного ВП) СВ есть конечный набор числовых значений; можно говорить и о векторе, размерность которого совпадает с | Ω |. Однако, если иметь в виду аналогии с общим случаем (бесконечного, вообще говоря) ВП, то термин “функция” в определении СВ представляется все же более уместным и мы будем его придерживаться. Пример 1.1. Пусть наш гипотетический эксперимент состоит в том, что бросают две игральные кости K1 и K2 и определяют затем сумму чисел, выпадающих на их верхних гранях. Эти два числа обозначим через ω1 и ω2 , а их пару ω = (ω1 , ω2 ) будем именовать исходом. Разумеется, у нас возможен любой вариант ω = (ω1 , ω2 ), где ω1 ∈ 1, 6 и ω2 ∈ 1, 6. Общее количество таких исходов равно 36. Множество Ω всех ЭС удобно представлять здесь в виде декартова произведения [2] двух экземпляров множества 1, 6, 10

т.е. Ω = 1, 6 × 1, 6 = {(ω1 , ω2 ) : ω1 ∈ 1, 6, ω2 ∈ 1, 6} . Введем теперь функцию f : Ω −→ R, полагая 4

f (ω) = ω1 + ω2 ∀ω ∈ Ω . Значениями f являются натуральные числа от 2 до 12; иными словами, образ Ω при действии f есть промежуток 2, 12. Эта функция f является на самом деле СВ, отвечающей нашей версии пространства элементарных событий Ω при оснащении последнего вероятностью. Указанную вероятность определяют здесь обычно в виде равномерного распределения (см. (1.7)). Здесь следует иметь в виду, что | Ω | = 36, а тогда P (A) =

|A| 36

∀A ∈ P(Ω) .

(1.13)

2 Возвращаясь к общему случаю, отметим, что множество RΩ = {Ω −→ R} всех СВ есть линейное пространство с операциями сложения и умножения на скаляр, определяемыми поточечно; аналогичным образом (т.е. поточечно) определяется произведение двух любых СВ. Уточним (и дополним) эти определения. Если α ∈ R и f ∈ RΩ (т.е. f есть СВ), то αf ∈ RΩ , т.е. функция αf : Ω −→ R (иногда используем обозначение α · f ), определяется правилом: 4

(αf ) (ω) = α f (ω) ∀ω ∈ Ω . Если f ∈ RΩ и g ∈ RΩ (т.е. даны две СВ: f и g), то СВ f + g ∈ RΩ , т.е. функция f + g : Ω −→ R , 4

определяется правилом: (f +g) (ω) = f (ω)+g(ω) ∀ω ∈ Ω. Итак, определены линейные операции в множестве RΩ всех СВ (на Ω). Обычно используют дополнительные соглашения: если f ∈ RΩ , то полагают 4

−f = (−1) · f , 11

(1.14)

точка использована для указания о том, что выполняется умножение скаляра −1 на функцию f ; в (1.14) имеем функцию, обратную к f по сложению. Наряду с (1.14), используется соглашение для упрощенной записи операции разности: если f ∈ RΩ и g ∈ RΩ , то 4

f − g = f + (−g) ∈ RΩ . Условимся обозначать через OΩ и IΩ функции, тождественно равные на Ω нулю и единице соответственно: OΩ (ω) ≡ 0, IΩ (ω) ≡ 1. Операции сложения и умножения на скаляр будем комбинировать: если α ∈ R, β ∈ R, f ∈ RΩ и g ∈ RΩ , то 4

αf + βg = (αf ) + (βg) ∈ RΩ ;

(1.15)

здесь мы полагаем в первом выражении, что сложение разделяет сильнее, что позднее и поясняется введением скобок. Разумеется, в (1.15) мы имеем функцию ω 7−→ αf (ω) + βg(ω) : Ω −→ R . Функцию в (1.15), являющуюся СВ, называют линейной комбинацией СВ f и g; если α ≥ 0, β ≥ 0 и α + β = 1, то говорят о выпуклой комбинации f и g. Разумеется, по индукции можно определить линейные (и выпуклые) комбинации любого конечного набора СВ: если n∈N, то функция

n P

(αi )i∈1,n : 1, n −→ R ,

(fi )i∈1,n : 1, n −→ RΩ ,

(1.16)

αi fi : Ω −→ R определяется правилом

i=1 n X



4

αi fi (ω) =

i=1

n X

αi fi (ω) ∀ω ∈ Ω .

i=1 4

В (1.16) для набора α = (αi )i∈1,n используем далее традиционную запись α ∈ Rn , полагая, что Rn есть n-мерное арифметическое пространство. Если f ∈ RΩ и g ∈ RΩ , то f g ∈ RΩ определяется как функция, для которой 4 (f g) (ω) = f (ω) g(ω) ∀ω ∈ Ω . В связи с подобной записью произведения скаляра на функцию отметим, что эти два подобных, по форме записи, действия различаются достаточно просто: число (скаляр) не является в наших построениях функцией; следует лишь обращать внимание на объекты, обрабатываемые соответствующей 12

операцией. Можно, разумеется, истолковать αf , где α ∈ R и f ∈ RΩ , и как функцию uv, где u ∈ RΩ и v ∈ RΩ имеют вид u = α IΩ ,

v=f.

Среди всех СВ будем выделять индикаторы событий: если A ∈ P(Ω), т.е. A — событие, то условимся в этом и следующем разделах, что χA : Ω −→ R

(1.17)

есть такая функция, что 4

4

(χA (ω) = 1 ∀ω ∈ A) & (χA (˜ ω ) = 0 ∀˜ ω ∈ Ω \ A) .

(1.18)

Замечание 1.2. Отметим, что в тех случаях, когда множество Ω не является фиксированным и можно рассматривать A и как подмножество Ω1 , и как подмножество Ω2 , будем использовать для (1.17), (1.18) усложненное обозначение χA [Ω], где Ω — требуемый вариант пространства ЭС. Сейчас, однако, недоразумения исключены и мы сохраняем более простую символику (1.17), (1.18). 2 Ясно, что OΩ = χ∅ и IΩ = χΩ . Каждая СВ f ∈ RΩ является в нашем случае линейной комбинацией индикаторов (1.17), (1.18). Иными словами, для данной СВ f можно указать число n ∈ N , набор вещественных чисел (αi )i∈1,n ∈ Rn (т.е. вектор размерности n ) и набор (Ai )i∈1,n : 1, n −→ P(Ω)

(1.19)

подмножеств Ω, для которых имеет место равенство f=

n X

αi χAi ,

(1.20)

i=1

причем Ai1 ∩ Ai2 = ∅, если i1 ∈ 1, n, i2 ∈ 1, n, i1 6= i2 , и, кроме того, выполнено равенство n [ Ω= Ai . i=1

В этом случае будем говорить, что (Ai )i∈1,n есть разбиение Ω порядка n. Вероятно, самый простой (но не всегда лучший) способ реализации (1.20) осуществляется следующим образом: при n = |Ω | следует подобрать взаимно однозначное отображение 1, n на Ω, т.е. биекцию (ωi )i∈1,n : 1, n −→ Ω , 13

4

и определить Aj = {ωj } при j ∈ 1, n (здесь и ниже мы используем традиционное обозначение {x} для одноэлементного множества, содержащего 4

объект x); кроме того, полагаем αk = f (ωk ) ∀k ∈ 1, n. В результате получаем (1.20). Более интересны, однако, обычно другие варианты представления (1.20). Пример 1.2. Вернемся к эксперименту, связанному с бросанием двух игральных костей, т.е. к примеру 1.1. Рассмотрим СВ, которая была введена в примере 1.1; итак, Ω = 1, 6 × 1, 6 , |Ω| = 36, f (ω) = ω1 + ω2 при ω ∈ Ω. Напомним, что в качестве значения f может реализоваться любое число из “промежутка” 2, 12; других возможностей у нас нет. Полагаем в этой связи n = 11 и определяем множества Ai по правилу 4

Ai = {ω ∈ Ω | f (ω) = i + 1} ∀i ∈ 1, 11 . Требуемые свойства набора множеств (Ai )i∈1,11 : 1, 11 −→ P(Ω) очевидны (эти множества попарно не пересекаются и в объединении составляют Ω ); перечислим эти множества: A1 = {(1, 1)}, A2 = {(1, 2); (2, 1)}, A3 = {(1, 3); (2, 2); (3, 1)}, A4 = {(1, 4); (2, 3); (3, 2); (4, 1)}, A5 = {(1, 5); (2, 4); (3, 3); (4, 2); (5, 1)}, A6 = {(1, 6); (2, 5); (3, 4); (4, 3); (5, 2); (6, 1)}, A7 = {(2, 6); (3, 5); (4, 4); (5, 3); (6, 2)}, A8 = {(3, 6); (4, 5); (5, 4); (6, 3)}, A9 = {(4, 6); (5, 5); (6, 4)}, A10 = {(5, 6); (6, 5)}, A11 = {(6, 6)} . Мы определили требуемые множества простым перечислением их элементов – векторов ω ∈ Ω. Наконец, полагаем, что 4

αi = i + 1 ∀i ∈ 1, 11 . Мы снова получаем (1.20), но уже не в виде суммы 36 слагаемых (функций), а всего лишь в виде суммы 11 слагаемых такого рода. 2 Заметим, что в общей теории вероятностей представление (1.20) реализуется для т.н. ступенчатых СВ; последние используются в аппроксимативных конструкциях. В нашем, достаточно простом случае, применение (1.20) (с несущественными преобразованиями) позволяет выработать 14

взгляд на операцию определения математического ожидания СВ, применимый (на вышеупомянутом аппроксимативном уровне) в общем случае, включая случай бесконечных и даже бесконечномерных пространств СВ. Сейчас мы отметим одну возможность, которая была реализована в примере 1.2. Поскольку каждая СВ — функция, для нее можно ввести операции взятия образа и прообраза: если f ∈ RΩ , то 1) для каждого множества A ∈ P(Ω), т.е. для каждого события, имеем образ A при действии f , т.е. 4

f 1 (A) = {f (ω) : ω ∈ Ω} ⊂ R ;

(1.21)

2) для каждого множества B, B ⊂ R, 4

f −1 (B) = {ω ∈ Ω | f (ω) ∈ B}

(1.22)

есть прообраз множества B при действии f . Хорошо известно, что операция, определяемая в (1.22), сохраняет все основные теоретико-множественные операции (объединение, пересечение, дополнение и т.д.). В (1.21) некоторые операции не сохраняются; например, образ пересечения двух множеств (т.е. образ произведения двух событий) не всегда равен пересечению соответствующих образов. Множество f 1 (A) (1.21) всякий раз конечно; в частности, таковым является множество f 1 (Ω). Точки этого множества, где f ∈ RΩ , можно занумеровать без повторений, используя взаимно однозначное отображение 4 множества 1, |f 1 (Ω) | на f 1 (Ω). Пусть, для краткости, n = |f 1 (Ω)| (мощность конечного числового множества f 1 (Ω) ), n ∈ N ; тогда для некоторого взаимно однозначного отображения (ξi )i∈1,n : 1, n −→ f 1 (Ω) имеем равенство (1.23) f 1 (Ω) = {ξi : i ∈ 1, n} . В этом случае (1.20) удобно реализовать в следующем виде: n = n , (αi )i∈1,n = (ξi )i∈1,n , Ai = f −1 ({ξi }) ∀i ∈ 1, n .

(1.24)

Эти соотношения подводят нас объективно к представлению в виде неупорядоченной конечной суммы функций: X f= ξ χf −1 ({ξ}) ; (1.25) ξ∈f 1 (Ω)

разумеется, равенство (1.25) следует понимать поточечно, т.е. X f (ω) = ξ χf −1 ({ξ}) (ω) ∀ω ∈ Ω . ξ∈f 1 (Ω)

15

2.

Математическое ожидание.

В настоящем разделе основное внимание уделяется начальным сведениям об операции математического ожидания. Сравниваются два подхода, один из которых использует конструкцию на основе ЭВ, а второй оперирует с вероятностью как функцией множества; ВП ( Ω, P(Ω), P )

(2.1)

соответствует разделу 1; в частности, Ω — конечное множество, Ω 6= ∅ . С вероятностью P , понимаемой как функция (1.3) со свойствами, отмеченными в разделе 1 (см., в частности, (1.5)), связывается набор (pω )ω∈Ω (1.1) ЭВ; свойство (1.2) предполагается, конечно, выполненным. Связь P (1.3) и (pω )ω∈Ω (1.1) обеспечивается любым из двух соотношений: (1.4) или (1.10). Кроме того, мы располагаем пространством RΩ всевозможных СВ (на Ω). Введем теперь операцию математического ожидания (МО) простейшим способом, используя только ЭВ (1.1): отображение (точнее функционал) M : RΩ −→ R определяем посредством следующего соглашения 4 X M(f ) = f (ω) pω ∀f ∈ RΩ .

(2.2)

(2.3)

ω∈Ω

В (2.2), (2.3) мы исходим из “механических” аналогий: с точками ω ∈ Ω связаны веса pω ; значения СВ суммируются с указанными весами. Результат называем МО данной СВ; ясно, что этот результат имеет смысл момента. Мы и называем его моментом первого порядка. Следующие простые свойства извлекаем из (2.3) непосредственно: 1) если СВ f ∈ RΩ такова, что f (ω) ≥ 0 при ω ∈ Ω, то МО f неотрицательно, т.е. M(f ) ≥ 0; 2) если две СВ f ∈ RΩ и g ∈ RΩ таковы, что f (ω) ≤ g(ω) при ω ∈ Ω, то M(f ) ≤ M(g); 3) функционал (2.2) линеен, т.е. (M(αf ) = α M(f ) ∀α ∈ R ∀f ∈ RΩ ) & & (M(f + g) = M(f ) + M(g) ∀f ∈ RΩ ∀g ∈ RΩ ) ; 4) если f ∈ RΩ , g ∈ RΩ и, кроме того, g(ω) = | f (ω) | при ω ∈ Ω, то | M(f ) | ≤ M(g) . 16

Свойства 1) – 4) извлекаются из хорошо известных свойств конечных сумм. Из свойства 3) имеем очевидные следствия: (M(−f ) = −M(f ) ∀f ∈ RΩ ) & & (M(f − g) = M(f ) − M(g) ∀f ∈ RΩ ∀g ∈ RΩ ) ; если k ∈ N , (αi )i∈1,k ∈ Rk и (fi )i∈1,k : 1, k −→ RΩ , то справедливо следующее равенство M

k X



αi fi =

i=1

k X

αi M(fi ) .

(2.4)

i=1

Предложение 2.1. Если L ∈ P(Ω), то M(χL ) = P (L). Доказательство вытекает из (1.4) в случае L 6= ∅. Если же L = ∅, то χL = χ∅ = OΩ и M(χL ) = 0 в силу (2.3), P (∅) = 0 (см. раздел 1). Из (2.4) и предложения 2.1 мы получаем полезное следствие: пусть f ∈ RΩ есть заданная СВ, n ∈ N , (αi )i∈1,n ∈ Rn , (Ai )i∈1,n есть кортеж (1.19) и при этом выполняется (1.20); тогда M(f ) =

n X

αi P (Ai ) .

(2.5)

i=1

Представление (2.5) является наиболее полезным в условиях, когда (Ai )i∈1,n есть разбиение Ω; см. замечание после (1.20). В этой связи обратимся к (1.25), применяя, однако, сначала представление СВ в виде упорядоченной конечной суммы произведений скаляров на индикаторы множеств. В этом случае мы придем к представлению МО СВ в виде (2.5). Сейчас мы напомним конкретизацию представления (1.20), определяемую в (1.24); СВ f ∈ RΩ полагаем заданной. Напомним, что (1.24) было введено в связи с представлением (1.23) (конечного) множества – образа f 1 (Ω) при n = | f 1 (Ω) | ∈ N и взаимно однозначном отображении (ξi )i∈1,n “отрезка” 1, n натурального ряда N на f 1 (Ω). Итак, мы просто занумеровали без повторений все точки множества f 1 (Ω), получая в итоге равенство (1.23). Тогда Ai = f −1 ({ξi }) = {ω ∈ Ω | f (ω) = ξi } ∀i ∈ 1, n .

17

(2.6)

Поскольку ξi 6= ξj при i ∈ 1, n, j ∈ 1, n, i 6= j, то множества (2.6) составляют разбиение Ω. Применяя (2.5) в условиях (1.24), мы получаем равенство M(f ) =

n X

ξi P (f −1 ({ξi })) .

(2.7)

i=1

Теперь уместно перейти и к неупорядоченному суммированию: из (2.7) мы имеем (см. (1.23), (1.24)), что X ξ P (f −1 ({ξ })) . (2.8) M(f ) = ξ∈f 1 (Ω)

Собственно говоря, сумма в правой части (2.8) так и определяется как это было сделано в (2.7): мы имеем непустое конечное множество f 1 (Ω), для которого n = | f 1 (Ω) | и отображение ξ 7−→ ξ P (f −1 ({ξ})) : f 1 (Ω) −→ R ; суммирование всех значений этого отображения (а именно такая операция у нас была проделана в (2.8)) осуществляется посредством произвольной (биективной, см. [3, c.319]) нумерации всех точек f 1 (Ω) без повторений с последующим “обычным” суммированием; см. (2.7). Итак, справедливо следующее Предложение 2.2. Если f ∈ RΩ , т.е. f есть СВ (на Ω), то X ξ P (f −1 ({ξ})) . (2.9) M(f ) = ξ∈f 1 (Ω)

Сравним теперь (2.3) и (2.9). В (2.3) мы, по существу, имеем своеобразный (дискретный) аналог интеграла Римана, в то время как в (2.9) используется схема, подобная схеме построения интеграла Лебега [4, 5]. Пример 2.1. Вернемся к опыту с подбрасыванием двух игральных костей. При определении СВ f действуем в согласии с примером 1.1; f (ω) = ω1 + ω2 при ω = (ω1 , ω2 ) ∈ Ω, где Ω = 1, 6 × 1, 6. В этом случае f 1 (Ω) = 2, 12. В примере 1.2 построено разбиение множества Ω в сумму одиннадцати подмножеств. Эти построения используются ниже. Число в правой части (2.9) определим из (2.7), где n = 11 и ξi = i + 1 ∀i ∈ 1, 11 .

(2.10)

В этих условиях применяем (2.6). Вероятность P определяем по классической схеме (см. (1.13)). Тогда, действуя в согласии с (2.6), (2.10), мы 18

получаем P (A1 ) =

1 1 1 1 , P (A2 ) = , P (A3 ) = , P (A4 ) = , 36 18 12 9

5 1 5 1 , P (A6 ) = , P (A7 ) = , P (A8 ) = , 36 6 36 9 1 1 1 P (A9 ) = , P (A10 ) = , P (A11 ) = . 12 18 36 В итоге для определения МО мы имеем из (2.6), (2.7), (2.10) равенство M(f ) = 7. Данное вычисление проведите самостоятельно с использованием (2.7). 2 Заметим, что в силу (2.3) и предложения 2.2 мы имеем два эквивалентных представления МО СВ; именно, ∀f ∈ RΩ X X M(f ) = f (ω) pω = ξ P (f −1 ({ξ})) . (2.11) P (A5 ) =

ξ∈f 1 (Ω)

ω∈Ω

Однако, в более общих построениях ТВ (когда Ω может быть бесконечным множеством и даже подмножеством бесконечномерного пространства) первое представление (см. (2.3)) уже не играет какой-либо существенной роли, да и не является, вообще говоря, корректным. Второе же представление в (2.11) (см предложение 2.2), напротив, оказывается существенным и в этих, более общих, условиях. Мы рассмотрим некоторые его применения в рамках построений ЭТВ. В следующем разделе рассмотрим некоторые вопросы, связанные с представлениями моментов второго порядка в терминах МО. Будем при этом учитывать определение произведения СВ раздела 1.

3.

Ковариация и дисперсия

Ковариация двух СВ является характеристикой их (линейной) зависимости. Зануление ковариации не означает, однако, что соответствующие СВ независимы. В настоящем и следующем разделах мы коснемся указанных вопросов. Как и в разделе 2 фиксируем ВП (2.1); набор ЭВ (1.1) предполагается согласованным с P . Если f ∈ RΩ и g ∈ RΩ , т.е. f и g — две СВ (на Ω), то полагаем 4

cov(f, g) = M(f g) − M(f ) M(g) ; 19

(3.1)

число M(f g) в (3.1) есть МО произведения СВ f и g. Мы называем (3.1) ковариацией произведения СВ f и g. Если f и g совпадают, то (3.1) называем дисперсией f . Итак, для любой СВ f ∈ RΩ 4

D(f ) = cov(f, f ) = M(f 2 ) − (M(f ))2 ,

(3.2)

4

где (здесь и ниже) f 2 = f ·f есть произведение двух экземпляров f ; разумеется f 2 (ω) = (f (ω))2 ∀ω ∈ Ω. В литературе (см., например, [1]) ковариация (3.1) и дисперсия (3.2) определяются зачастую несколько иначе (по форме): используется следующая операция центрирования, при которой СВ f ∈ RΩ сопоставляется другая СВ f¯ ∈ RΩ , определяемая как правило ω 7−→ f (ω) − M(f ) : Ω −→ R .

(3.3)

С формальной точки зрения (см. определения линейных операций в разделе 1) f¯ = f − M(f ) IΩ ∀f ∈ RΩ . (3.4) Соотношение (3.4) часто записывается упрощенно: правая часть заменяется [1] выражением f − M(f ). Мы, однако, будем использовать (3.4). Саму СВ (3.4) будем именовать центрированной версией исходной СВ. Хорошо известно [1, 6] следующее Предложение 3.1. Если f ∈ RΩ и g ∈ RΩ , то cov(f, g) = M(f¯ · g¯). Доказательство. Будем использовать свойство линейности МО (см. раздел 2). Для этого заметим, что в силу (3.4) f¯ · g¯ = f g − M(f )g − M(g)f + M(f ) M(g) IΩ2 =

(3.5)

= f g − M(f )g − M(g)f + M(f ) M(g) IΩ . При доказательстве (3.5) используем то, что наши операции над СВ фактически “повторяют” аналогичные операции над числами. Мы учитываем, что f IΩ = f, gIΩ = g, IΩ2 = IΩ · IΩ = IΩ . Разумеется, в (3.5) мы имеем СВ, к которой можно применять операцию МО: M(f¯ · g¯) = M(f g) − M(f ) M(g) − M(g) M(f ) + M(f ) M(g) P (Ω) = = M(f g) − M(f ) M(g) = cov(f, g) . 2 20

Как следствие, из предложения 3.1 получаем ∀f ∈ RΩ D(f ) = M(f¯2 ) .

(3.6)

Если f ∈ RΩ , то среднеквадратическим отклонением f называется неотриp цательное число D(f ). Если f ∈ RΩ и g ∈ RΩ (две заданные СВ), причем D(f ) > 0, D(g) > 0, то коэффициентом корреляции СВ f и g называется число cov(f, g) p . D(f ) D(g)

4

(3.7)

ρ(f, g) = p

Содержательный смысл (3.7) связан с соображениями нормирования ковариации, которые, в свою очередь, мотивированы следующим утверждением. Предложение 3.2. Если f ∈ RΩ и g ∈ RΩ то p p |cov(f, g)| ≤ D(f ) D(g) . 4 4 Доказательство. Для удобства обозначений полагаем u = f¯ и v = g¯. Тогда в силу предложения 3.1 имеем равенство

cov(f, g) = M(uv) .

(3.8)

Далее, из (3.6) получаем равенства D(f ) = M(u2 ) и D(g) = M(v 2 ), где u2 = u · u и v 2 = v · v (произведение функций определено поточечно). Итак, в силу (3.8) наша задача сводится к обоснованию неравенства p p |M(u v)| ≤ M(u2 ) M(v 2 ) . (3.9) Отметим, что в силу (2.3) имеет место X M(u v) = u(ω) v(ω) pω ,

(3.10)

ω∈Ω

M(u2 ) =

X

(u(ω))2 pω ,

M(v 2 ) =

ω∈Ω

X ω∈Ω

Если M(u2 ) = 0, то имеем ∀ω ∈ Ω (u(ω) = 0) ∨ (pω = 0) . 21

(v(ω))2 pω .

Если же M(v 2 ) = 0, то непременно ∀ω ∈ Ω (v(ω) = 0) ∨ (pω = 0) . Как следствие, из (3.10) получаем, что ((M(u2 ) = 0) ∨ (M(v 2 ) = 0)) =⇒ (M(u v) = 0) . Стало быть, (3.9) выполнено, если M(u2 ) = 0 или M(v 2 ) = 0. Осталось рассмотреть случай (M(u2 ) 6= 0) & (M(v 2 ) 6= 0) .

(3.11)

При условии (3.11) для обоснования требуемой оценки для модуля ковариации будем использовать известное неравенство Коши-Буняковского [4]. Мы, однако, в методических целях воспроизведем и обоснование нужной версии данного неравенства. Полагаем, что 4

wλ = u + λ v ∀λ ∈ R .

(3.12)

Из (3.12) следует, что при λ ∈ R значения CB wλ имеют вид wλ (ω) = u(ω) + λ v(ω) ∀ω ∈ Ω . Тогда, wλ2 = wλ · wλ есть, всякий раз, неотрицательная СВ, а потому M(wλ2 ) ≥ 0 ∀λ ∈ R .

(3.13)

Имеем при λ ∈ R “формулу полного квадрата” wλ2 = (u + λ v) · (u + λ v) = u2 + λ vu + λ uv + λ2 v 2 = = u2 + 2λ uv + λ2 v 2 . Поэтому (см. (3.13)) имеем неравенства M(u2 ) + 2λ M(u v) + λ2 M(v 2 ) ≥ 0 ∀λ ∈ R .

(3.14)

Нам потребуются √ 2 следующие два варианта λ: M(u ) 1) λ = √ 2 , M(v ) √ 2 M(u ) 2) λ = − √ 2 . M(v )

Упомянутые случаи 1), 2) рассмотрим отдельно. Пусть сначала имеет место случай 22

1). В этом случае из (3.14) следует неравенство p M(u2 ) 2 M(u2 ) + 2 p M(u v) ≥ 0 . M(v 2 ) Из этого неравенства мы получаем следующую оценку p p −M(u v) ≤ M(u2 ) M(v 2 ) .

(3.15)

Рассмотрим теперь случай 2). Тогда из (3.14) вытекает неравенство p M(u2 ) 2 M(u v) ≥ 0 . 2 M(u ) − 2 p M(v 2 ) Как следствие, получаем оценку M(u v) ≤

p

M(u2 )

p M(v 2 ) .

(3.16)

Из (3.15), (3.16) имеем (3.9) и при условии (3.11). Стало быть, (3.9) установлено во всех возможных случаях, чем и завершается (см. (3.8)) доказательство в целом. 2 Следствие 3.1. Пусть f ∈ RΩ и g ∈ RΩ — две произвольные СВ, для которых D(f ) > 0 и D(g) > 0. Тогда |ρ(f, g)| ≤ 1. Доказательство получается непосредственной комбинацией (3.7) и предложения 3.2. Если f ∈ RΩ и g ∈ RΩ обладают свойством cov(f, g) = 0, то CB f, g называются некоррелированными. Подчеркнем, что некоррелированность не следует путать со свойством независимости, которое обсуждается далее. Вместе с тем само по себе свойство некоррелированности приводит к полезным следствиям. Так, например, интересно рассмотреть влияние этого свойства на дисперсию суммы CB f ∈ RΩ и g ∈ RΩ : D(f + g) = M((f¯ + g¯)2 ) = M(f¯2 + 2 f¯g¯ + g¯ 2 ) = = D(f ) + 2 M(f¯g¯) + D(g) = D(f ) + 2 cov(f, g) + D(g) (см. (3.6)); если f и g — некоррелированные СВ, то D(f + g) = D(f ) + D(g) . Данное свойство легко распространяется на произвольные конечные суммы попарно некоррелированных СВ: если n ∈ N , (fi )i∈1,n : 1, n −→ RΩ , 23

(3.17)

то истинна импликация (cov(fi , fj ) = 0 ∀i ∈ 1, n ∀j ∈ 1, n \ {i} ) =⇒

(3.18)

n n X X =⇒ (D( fi ) = D(fi )) . i=1

i=1

Если α ∈ R и f ∈ RΩ , то справедливо D(α f ) = M(α2 f 2 ) − (M(α f ))2 = α2 M(f 2 ) − (α M(f ))2 =

(3.19)

= α2 (M(f 2 ) − (M(f ))2 ) = α2 D(f ) . Выражения (3.18), (3.19) позволяют очень просто определять дисперсию линейной комбинации попарно некоррелированных СВ. Для этого отметим сначала, что при всяком выборе α ∈ R, β ∈ R, f ∈ RΩ и g ∈ RΩ cov(α f, β g) = M((α f ) · (β g)) − M(α f ) M(β g) =

(3.20)

= (αβ) M(f g) − (αβ) · M(f ) · M(g) = (αβ) · cov(f, g) ; стало быть, если cov(f, g) = 0, то и cov(α f, β g) = 0. Теперь, используя (3.18) и (3.20), мы можем сформулировать требуемое свойство: если n ∈ N , (αi )i∈1,n ∈ Rn , (fi )i∈1,n соответствует (3.17), то (cov(fi , fj ) = 0 ∀i ∈ 1, n ∀j ∈ 1, n \ {i} ) =⇒

(3.21)

n n X X =⇒ (D( αi fi ) = αi2 D(fi )) . i=1

i=1 4

В самом деле, пусть истинна посылка (3.21). Тогда введем gi = αi fi ∀i ∈ 1, n. Тогда из (3.20) имеем, при i ∈ 1, n и j ∈ 1, n \ {i}, что cov(gi , gj ) = (αi αj ) · cov(fi , fj ) = 0 . Тогда, согласно (3.18), имеем равенство n n n X X X D( αi fi ) = D( gi ) = D(gi ) . i=1

i=1

(3.22)

i=1

Учтем теперь (3.19): при i ∈ 1, n выполняется равенство D(gi ) = D(αi fi ) = = αi2 D(fi ) . Из (3.22) получаем, стало быть, равенство n n X X D( αi fi ) = αi2 D(fi ) . i=1

i=1

24

Итак, (3.21) установлено. В этом и в предшествующих рассуждениях мы использовали общие свойства МО. Мы адресуем заинтересованного читателя к первой главе [1], где приведен целый ряд конструкций, связанных с операцией МО (см., в частности, [1, c.49,50]. Сейчас, располагая следствиями свойства некоррелированности СВ, уместно коснуться важного понятия независимости событий, семейств (классов) событий и СВ.

4.

Независимость и некоррелированность

Следуем соглашениям раздела 2 в отношении ВП (2.1) и ЭВ (1.1). Мы называем события A ∈ P(Ω) и B ∈ P(Ω) независимыми, если P (A ∩ B) = P (A) P (B) .

(4.1)

На основе (4.1) вводятся понятия независимости семейств (классов) событий и, затем, независимости СВ. Отметим, что в целом ряде случаев в терминах независимости одних событий удается устанавливать независимость других, что может быть весьма полезным при решении конкретных задач. Мы следуем [6, гл.2]. Предложение 4.1. Если A ∈ P(Ω) и B ∈ P(Ω) — независимые события, то Ω \ A и B — также независимые события. Замечание 4.1. В терминах (4.1) доказываемое утверждение имеет вид импликации: ∀A ∈ P(Ω) ∀B ∈ P(Ω) (P (A ∩ B) = P (A) P (B)) =⇒ (P ((Ω \ A) ∩ B) = P (Ω \ A) P (B)) . (4.2) 2 Доказательство предложения 4.1. Пусть A и B — независимые события, т.е. выполняется (4.1). Рассмотрим Ω \ A и B; (Ω \ A) ∩ B = B \ A = B \ (A ∩ B); при этом, конечно, имеют место равенства B = (A ∩ B) ∪ (B \ (A ∩ B)), (A ∩ B) ∩ (B \ (A ∩ B)) = ∅ . С учетом (1.5) имеем теперь равенство P (B) = P (A ∩ B) + P (B \ (A ∩ B)) . Иными словами, имеем с учетом (4.3) равенство P ((Ω \ A) ∩ B) = P (B) − P (A ∩ B) . 25

(4.3)

В силу (4.1) мы располагаем теперь представлением P ((Ω \ A) ∩ B) = (1 − P (A)) P (B) .

(4.4)

Однако, 1 = P (Ω) = P (A) + P (Ω \ A) в силу (1.5); учитывая это свойство в (4.4) мы получаем P ((Ω \ A) ∩ B) = P (Ω \ A) P (B) . Итак, импликация (4.2) установлена, ч.т.д. 2 Предложение 4.2. Пусть A ∈ P(Ω), n ∈ N и (Bi )i∈1,n : 1, n −→ P(Ω). Пусть, кроме того, Bi ∩ Bj = ∅ при любых i ∈ 1, n и j ∈ 1, n, для которых i 6= j. Пусть, наконец, при всяком i ∈ 1, n события A и Bi независимы, n S т.е. P (A ∩ Bi ) = P (A) P (Bi ). Тогда события A и Bi независимы, т.е. i=1



P A∩

n [

Bi



= P (A) P

i=1

n [



Bi .

i=1

Доказательство. Напомним, прежде всего, что из свойства (1.5) рассуждением по индукции получается свойство конечной аддитивности вероятности P : если m ∈ N и (Vi )i∈1,m : 1, m −→ P(Ω) таковы, что Vs ∩ Vr = ∅ при любых s ∈ 1, m и r ∈ 1, m, для которых s 6= r, то непременно m m  X [ P (Vi ). (4.5) P Vi = i=1

i=1

Заметим теперь, что для рассматриваемых в нашем предложении событий A∩

n [



Bi =

i=1

n [

(A ∩ Bi ).

(4.6)

i=1

При этом из свойств кортежа (Bi )i∈1,n вытекает, что при i ∈ 1, n, j ∈ 1, n, i 6= j, (A ∩ Bi ) ∩ (A ∩ Bj ) ⊂ Bi ∩ Bj = ∅ , т.е. A ∩ Bi и A ∩ Bj — суть непересекающиеся множества. Тогда (см. (4.5), (4.6)) n n n  [  X X Bi = P (A ∩ Bi ) = P (A) P (Bi ) = P A∩ i=1

i=1

i=1

26

n n [  X = P (A) · ( P (Bi )) = P (A) P Bi .

2

i=1

i=1

Заметим, что условие дизъюнктности множеств B1 , . . . , Bn в предложении 4.2 существенно; см. [6, c.36]. Отметим одно известное свойство: если A ∈ P(Ω), B ∈ P(Ω), C ∈ P(Ω) и при этом P (A∩B) = P (A) P (B), P (A∩C) = P (A) P (C), P (B ∩C) = P (B)∩P (C) (т.е. события A, B и C попарно независимы), то возможно все же, что P (A ∩ B ∩ C) 6= P (A) P (B) P (C). Отметим в этой связи известный пример Бернштейна (см. [6, c.37]) и рассмотрим также следующий простейший Пример. Пусть эксперимент состоит в подбрасывании двух правильных монет с “исходами” 0 (решка) и 1 (орел) каждая. Исходами эксперимента являются пары: (0, 0), (0, 1), (1, 0), (1, 1). Стало быть, Ω — четырехэлементное множество и, действуя по классической схеме, мы определяем все 4 ЭВ в (1.1) совпадающими и равными 14 . Пусть A = {(0, 0); (1, 0)} (событие: 4

на второй монете выпадает 0, т.е. решка), B = {(0, 0); (0, 1)} (событие: на 4

первой монете выпадает решка), C = {(0, 0); (1, 1)} (событие: выпадают грани равного достоинства). Тогда 1 P (A) = P (B) = P (C) = , 2 откуда, как следствие, имеем равенство 1 P (A) P (B) P (C) = . 8 Далее, A ∩ B ∩ C = {(0, 0)} (элементарное событие ω = (0, 0) определяет A ∩ B ∩ C), но при этом 1 P (A ∩ B ∩ C) = . 4 Тем самым, установлено, что P (A ∩ B ∩ C) 6= P (A) P (B) P (C). 2 27

В связи с данным примером отметим важное понятие “независимости в совокупности” [6, c.37]. Уместно, однако, вернуться сейчас и к предложению 4.2, где было оговорено условие дизъюнкности. Покажем его существенность для случая n = 2, возвращаясь к последнему примеру с подбрасыванием двух монет. Итак, пусть теперь A = {(0, 0); (1, 1)}, B1 = {(0, 0); (1, 0)}, B2 = {(0, 0); (0, 1)}. Тогда A ∩ B1 = {(0, 0)}, A ∩ B2 = {(0, 0)}, 1 P (A) = P (B1 ) = P (B2 ) = , 2 1 P (A ∩ B1 ) = = P (A) P (B1 ), 4 1 P (A ∩ B2 ) = = P (A) P (B2 ); 4 стало быть события A, B1 независимы; события A, B2 также независимы. Рассмотрим событие 3 B1 ∪ B2 = {(0, 0); (1, 0); (0, 1)} = Ω \ {(1, 1)}, P (B1 ∪ B2 ) = . 4 Как следствие, мы получаем равенство 3 P (A) P (B1 ∪ B2 ) = . 8 С другой стороны, для события A ∩ (B1 ∪ B2 ) имеем представление 1 A ∩ (B1 ∪ B2 ) = {(0, 0)}; P (A ∩ (B1 ∪ B2 )) = . 4 В итоге получаем свойство зависимости A и B1 ∪ B2 : P (A ∩ (B1 ∪ B2 )) 6= P (A) P (B1 ∪ B2 ). Полезно сравнить этот вывод с предложением 4.2. Пусть A и B — два семейства событий. Это означает, что A и B — множества, для которых A ⊂ P(Ω),

B ⊂ P(Ω).

Иными словами, A — семейство подмножеств Ω и B — семейство подмножеств Ω. Данные два семейства (класса) называем независимыми [6, c.61], если P (A ∩ B) = P (A) P (B) ∀A ∈ A ∀B ∈ B. (4.7) 28

В данном определении мы говорим, стало быть, о “групповой” независимости. Для наших целей весьма важным является понятие независимости СВ и его связь с определением на основе (4.7). Рассмотрим соответствующее определение, следуя [1, c.46]. Пусть f ∈ RΩ и g ∈ RΩ (даны две СВ); назовем СВ f и g независимыми, если ∀x ∈ R ∀y ∈ R P ({ω ∈ Ω | (f (ω) = x) & (g(ω) = y)}) = = P ({ω ∈ Ω | f (ω) = x}) P ({ω ∈ Ω | g(ω) = y}).

(4.8)

Предложение 4.3. Если f ∈ RΩ и g ∈ RΩ , то СВ f, g независимы т. и т.т., когда P (f −1 ({ξ}) ∩ g −1 ({η})) = (4.9) = P (f −1 ({ξ})) P (g −1 ({η})) ∀ξ ∈ f 1 (Ω) ∀η ∈ g 1 (Ω). Замечание 4.1. При f ∈ RΩ , g ∈ RΩ , x ∈ R и y ∈ R (4.8) эквивалентно равенству P (f −1 ({x}) ∩ g −1 ({y})) = P (f −1 ({x})) P (g −1 ({y})). Наше предложение означает, стало быть, только возможность рассматривать в определении на основе (4.8) меньшее число скаляров x и y. 2 Доказательство предложения 4.3. В силу определения на основе (4.8) мы имеем справедливость (4.9), если f и g — независимые СВ. Пусть, напротив, f и g обладают свойством (4.9). Пусть x ∈ R и y ∈ R. Если x ∈ f 1 (Ω) и y ∈ g 1 (Ω), то, согласно (4.9), P (f −1 ({x}) ∩ g −1 ({y})) = P (f −1 ({x})) P (g −1 ({y})).

(4.10)

Осталось рассмотреть случай, когда (x ∈ / f 1 (Ω)) ∨ (y ∈ / g 1 (Ω)). Тогда (f −1 ({x}) = ∅) ∨ (g −1 ({y}) = ∅).

(4.11)

Поэтому выражение в правой части (4.10) обращается в нуль, т.к. P (∅) = 0. Но в нашем случае в силу (4.11) имеем также свойство f −1 ({x}) ∩ g −1 ({y}) = ∅. Стало быть, и выражение в левой части (4.10) есть число 0. Итак, (4.10) верно во всех случаях. 2 29

Предложение 4.4. Пусть f ∈ RΩ и g ∈ RΩ — независимые СВ (см. (4.8), (4.9), предложение 4.3). Тогда СВ f и g некоррелированы, т.е. cov(f, g) = 0. Доказательство. Рассмотрим cov(f, g), следуя (3.1): cov(f, g) = M(f g) − M(f ) M(g). Рассмотрим M(f g) . Мы имеем несколько эквивалентных представлений МО. Выберем из них то, которое в наилучшей степени обслуживается предложением 4.3. С этой целью воспользуемся соотношением (1.25): X X η χ −1 . (4.12) ξ χ −1 , g = f= f

g

({ξ})

({η})

η∈g 1 (Ω)

ξ∈f 1 (Ω)

Из (4.12) вытекает, что справедливо равенство X X fg = ( ξ χ −1 ) · ( η χ −1 f

({ξ})

g

ξ∈f 1 (Ω)

).

(4.13)

({η})

η∈g 1 (Ω)

Дальнейшее обоснование на основе (4.13) можно сделать совсем кратким, но, в целях наглядности, мы несколько изменим сам способ нашего рассуждения, обращаясь к представлению на основе (1.20), (1.23), (1.24). Именно, мы занумеруем без повторений каждое из конечных множеств f 1 (Ω), g 1 (Ω). Итак, пусть m ∈ N , а (αi )i∈1,m : 1, m −→ f 1 (Ω)

(4.14)

есть взаимно однозначное отображение, для которого f 1 (Ω) = {αi : i ∈ 1, m}. Тогда f=

m X

αi χ

i=1

f −1 ({αi })

.

(4.15)

Точно так же подберем n ∈ N и взаимно однозначное отображение (βj )j∈1,n : 1, n −→ g 1 (Ω),

(4.16)

для которого g 1 (Ω) = {βj : j ∈ 1, n}. По аналогии с (4.15) имеем g=

n X

βj χ −1 g

j=1

30

({βj })

.

(4.17)

Отметим, что взаимно однозначные отображения (4.14) и (4.16), реализующие образы f 1 (Ω) и g 1 (Ω), часто называют биекциями 1, m на f 1 (Ω) и 1, n на g 1 (Ω) соответственно. Для представления f g (4.13) воспользуемся (4.15), (4.17). m X n X fg= αi βj χ −1 χ −1 = (4.18) f

i=1 j=1

=

m X n X

αi βj χ

i=1 j=1

({αi })

g

({βj })

f −1 ({αi })∩g −1 ({βj })

.

Мы использовали в (4.18) замечательное свойство индикаторов (1.17), (1.18): если A ∈ P(Ω) и B ∈ P(Ω), то χA∩B = χA χB ; проверьте данное равенство самостоятельно. Теперь применяем к (4.18) многократно упоминаемое свойство линейности операции МО (см. (2.4)): M(f g) =

n m X X

αi βj M(χ

i=1 j=1

=

n m X X

f −1 ({αi })∩g −1 ({βj })

)=

(4.19)

αi βj P (f −1 ({αi }) ∩ g −1 ({βj })).

i=1 j=1

Учтем теперь, что αi ∈ f 1 (Ω) и βj ∈ g 1 (Ω) для всевозможных комбинаций i ∈ 1, m и j ∈ 1, n. Поскольку f и g — независимые СВ, то (см. (4.9)) в (4.19) имеем M(f g) =

m X n X

αi βj P (f −1 ({αi }))P (g −1 ({βj })) =

i=1 j=1 m X

αi P (f

−1

n   X −1 ({αi })) · βj P (g ({βj })) .

i=1

j=1

Но из предложения 2.1, (2.4), (4.15) и (4.17) вытекают равенства M(f ) =

m X

αi P (f −1 ({αi })) ,

i=1

M(g) =

n X

βj P (g −1 ({βj })).

j=1

31

(4.20)

Стало быть, имеем из (4.20) равенство M(f g) = M(f ) M(g). С учетом (3.1) cov(f, g) = 0. 2 Отметим, что возможна, однако, ситуация, когда СВ f и g некоррелированы, но зависимы. Обратимся к [1, c.53], чтобы рассмотреть следующий Пример. Пусть Ω = {0; π2 ; π} (трехэлементное множество), СВ f : Ω −→ R,

g : Ω −→ R

определяются следующими правилами: при ω ∈ Ω 4

4

f (ω) = sin ω,

g(ω) = cos ω.

Будем предполагать, что P соответствует равномерному распределению; мы ограничиваемся сейчас “перечислением” ЭВ (см. (1.1), (1.2)): pω ≡ 13 . Что касается вероятности P , то (см. (1.7)) |A| ∀A ∈ P(Ω). 3 Покажем, что СВ f, g некоррелированы. Сначала найдем МО; P (A) =

1 π 1 (sin 0 + sin + sin π) = , 3 2 3 1 π 1 M(g) = (cos 0 + cos + cos π) = (1 + 0 − 1) = 0. 3 2 3 Тогда M(f ) M(g) = 0. При этом ∀ω ∈ Ω M(f ) =

f g = sin ω cos ω = 0. В итоге M(f g) = 0 и, как следствие, cov(f, g) = 0; см. (3.1). Итак, f, g — некоррелированные СВ. Проверим, что они являются зависимыми СВ. Для этого заметим, что π π π 1 P (f −1 ({1}) ∩ g −1 ({0})) = P ({ } ∩ { }) = P ({ }) = pω |ω= π2 = . (4.21) 2 2 2 3 Вместе с тем, имеют место равенства 1 , 3 1 P (g −1 ({ 0 })) = pω |ω= π2 = . 3 В итоге, мы получаем равенство P (f −1 ({ 1 })) = pω |ω= π2 =

P (f −1 ({ 1 })) P (g −1 ({ 0 })) = 32

1 . 9

С учетом (4.21) мы имеем свойство P (f −1 ({ 1 }) ∩ g −1 ({ 0 })) 6= P (f −1 ({ 1 })) P (g −1 ({ 0 })). Стало быть, СВ f и g являются в нашем случае зависимыми (хотя и некоррелированными). Здесь следует отметить, что эти СВ зависимы не только стохастически, но и функционально: (f (ω))2 + (g(ω))2 ≡ 1. Поэтому (в нашем случае множества Ω) имеем p f (ω) = 1 − (g(ω))2 ∀ω ∈ Ω . Напомним, что данный пример рассматривался в [1, c.53]. Мы привели здесь его более подробное изложение. 2 В связи с понятием независимости СВ полезно отметить, что, как видно из предложения 4.3, это понятие можно рассматривать, как вариант независимости семейств. Действительно, пусть f ∈ RΩ и g ∈ RΩ , 4

F = {f −1 ({ξ}) : ξ ∈ f 1 (Ω)} , 4

G = {g −1 ({η}) : η ∈ g 1 (Ω)} ; тогда в силу предложения 4.3 СВ f, g независимы т. и т.т., когда (см. (4.7)) независимы семейства F и G.

5.

Неравенство Чебышева

Мы рассмотрим сейчас некоторые полезные оценки для вероятности характерных событий; упомянутое в заголовке неравенство — одно из них; оно широко используется, в частности, при обосновании закона больших чисел (ЗБЧ). Сохраняем все предположения относительно (конечного) ВП (2.1), используемого в дальнейшем. Предложение 5.1. Если f : Ω −→ [0, ∞[ (т.е. f есть неотрицательная СВ) и ε ∈ ]0, ∞[ , то M(f ) . ε Доказательство (см. [1, c.58]). Рассмотрим два события, соответствующие множествам P ({ω ∈ Ω | ε ≤ f (ω)}) ≤

4

A = {ω ∈ Ω | ε ≤ f (ω)} ∈ P(Ω) , 33

4

B = {ω ∈ Ω | f (ω) < ε} ∈ P(Ω) . Тогда A ∪ B = Ω, A ∩ B = ∅. Тогда B = Ω \ A. Два последних соотношения приводят к выводу (см. (1.17), (1.18)) IΩ = χA + χB . Тогда f = f IΩ = f χA +f χB . При этом 0 ≤ (f χB )(ω) ∀ω ∈ Ω. Как следствие f χA (ω) ≤ f (ω) ∀ω ∈ Ω .

(5.1)

Из свойств МО (см. раздел 2) и (5.1) следует, что M(f χA ) ≤ M(f ) .

(5.2)

С другой стороны, по определению множества A мы имеем, что ε ≤ (f χA )(ω) = f (ω)χA (ω) = f (ω) ∀ω ∈ A .

(5.3)

В дополнение к (5.3) заметим, что (f χA )(ω) = f (ω)χA (ω) = 0 ∀ω ∈ B .

(5.4)

Заметим, что (εχA )(ω) = 0 при ω ∈ B. Из (5.3), (5.4) имеем по свойствам A, B следующее положение: (εχA )(ω) ≤ (f χA )(ω) ∀ω ∈ Ω . Тогда M(εχA ) ≤ M(f χA ). С учетом (5.2) получаем неравенство M(εχA ) ≤ M(f ) .

(5.5)

Но в силу (2.4) и предложения 2.1 M(εχA ) = ε P (A). Поэтому в силу (5.5) ε P (A) ≤ M(f ), т.е. M(f ) . P (A) ≤ ε 2 Установленное неравенство называют обычно неравенством Чебышева, хотя в ряде случаев таким образом именуют неравенство, получаемое в приводимом ниже следствии. Следствие 5.1. Если f ∈ RΩ и ε ∈ ]0, ∞[ , то P ({ω ∈ Ω | ε ≤ |f (ω) − M(f )|}) ≤ 34

D(f ) . ε2

Доказательство. Пусть f ∈ RΩ и ε ∈ ]0, ∞[ фиксированы. Введем неотрицательную СВ u по правилу ω 7−→ |f (ω) − M(f )| :

Ω −→ [0, ∞[ .

Итак, u(ω) = |f (ω) − M(f )| при ω ∈ Ω. Легко видеть, что {ω ∈ Ω | ε ≤ u(ω)} = {ω ∈ Ω | ε2 ≤ v(ω)} ,

(5.6)

4

где v = u2 = u · u. При этом v(ω) = (u(ω))2 ∀ω ∈ Ω. Поскольку ε2 ∈ ]0, ∞[ , то в силу предложения 5.1 и (5.6) P ({ω ∈ Ω | ε ≤ |f (ω) − M(f )|}) = P ({ω ∈ Ω | ε ≤ u(ω)}) = = P ({ω ∈ Ω | ε2 ≤ v(ω)}) ≤

(5.7)

M(v) . ε2

4 Отметим, что для w = f¯ (w — центрированная версия f ; см. (3.4)) имеем u(ω) = |w(ω)| ∀ω ∈ Ω. Тогда v = w2 = w · w и потому

M(v) = M(w2 ) = M(f¯2 ) = D(f )

(5.8)

в силу (3.6). Из (5.7) и (5.8) имеем требуемое неравенство P ({ω ∈ Ω | ε ≤ |f (ω) − M(f )|}) ≤

D(f ) . ε2

2 Мы отсылаем читателя к [1, ч.1] за более подробными сведениями о неравенствах, подобных неравенству Чебышева. Применение последнего для доказательства ЗБЧ будет рассмотрено ниже. Заметим здесь же, что данное неравенство является на самом деле следствием более общего положения [1, c.209], применяемого уже в задачах общей ТВ. Мы по понятным причинам ограничиваемся данными утверждениями: предложением 5.1 и следствием 5.1. В связи с применениями к ЗБЧ отметим также [6, c.97,98]. Подробное обсуждение более общих, в сравнении с [1, c.57] и [6, c.97,98], вариантов ЗБЧ имеется, наряду с [1, 6], и в других многочисленных источниках по ТВ.

35

6.

Закон больших чисел, 1

В настоящем разделе, фиксируя конечное ВП (2.1), мы будем рассматривать конечные суммы попарно некоррелированных СВ (разумеется, можно, с учетом предложения 4.4, говорить о независимых попарно СВ). Мы не пытаемся здесь получить сразу выводы содержательного характера, а придерживаемся, по сути дела, формальных конструкций, согласующихся с предыдущими построениями. Содержательное наполнение этих конструкций мы намереваемся осуществить позднее. Итак, пусть n ∈ N и задан набор (fi )i∈1,n : 1, n −→ RΩ

(6.1)

СВ (на Ω), относительно которого предполагаются выполненными следующие три условия: 1) M(fi ) = M(fj ) ∀i ∈ 1, n ∀j ∈ 1, n; 2) D(fi ) = D(fj ) ∀i ∈ 1, n ∀j ∈ 1, n; 3) cov(fi , fj ) = 0 ∀i ∈ 1, n ∀j ∈ 1, n \ {i}. Нас будет интересовать СВ Sn ∈ RΩ , для которой n 1 X Sn = fi . n i=1 4

(6.2)

Иными словами, у нас имеет место n 1 X Sn (ω) = fi (ω) ∀ω ∈ Ω . n i=1

(6.3)

Мы, стало быть, рассматриваем среднее арифметическое fi (ω), i ∈ 1, n, при каждом исходе ω ∈ Ω. Используя 1) и 2), введем единые, для всех СВ из набора (6.1) МО и дисперсию: 4

4

a = M(f1 ),

D = D(f1 ) .

(6.4)

Разумеется, из 1), 2) и (6.4) следует, что справедливы равенства (M(fi ) = a ∀i ∈ 1, n) & (D(fi ) = D ∀i ∈ 1, n) .

(6.5)

Поскольку в (6.2), (6.3) также заложена некоторая идея усреднения “одинаковых” в смысле 1), 2) СВ, логично рассмотреть вопрос о близости значений 36

Sn (ω) СВ (6.2) к a . Для этого мы напомним свойства МО и дисперсии (см. разделы 2, 3). Именно, в силу (2.4) и (6.5) n 1 X M(Sn ) = M(fi ) = a . n i=1

(6.6)

Итак, в смысле МО мы имеем требуемое свойство. Возникает, однако, вопрос о вероятности тех или иных отклонений Sn (ω) от величины (6.6). Для оценки упомянутой вероятности используем следствие 5.1: если ε ∈ ]0, ∞[ , то D(Sn ) P ({ω ∈ Ω | ε ≤ |Sn (ω) − a|}) ≤ . (6.7) ε2 Определим D(Sn ), используя (3.18), (3.19). Согласно (3.19) и (6.2) n X 1 D(Sn ) = 2 D( fi ) . n i=1

(6.8)

Из (3.18) и свойства 3) имеем, однако, равенство (см. (6.4)) n n X X fi ) = D( D(fi ) = n D . i=1

(6.9)

i=1

В итоге, из (6.8), (6.9) мы получаем равенство D(Sn ) = D n , а тогда в силу (6.7) D P ({ω ∈ Ω | ε ≤ |Sn (ω) − a|}) ≤ 2 ∀ε ∈ ]0, ∞[ . (6.10) nε Соотношение (6.10) позволяет уже сделать некоторые качественные выводы; самое главное, что при ε > 0 значение вероятности в левой части (6.10) становится “малым” при “больших” n . Правда, при малых значениях числа ε число n надо делать очень большим (см. в этой связи [1, c.62]). Следует, однако, отметить, что оценка, полученная на основе неравенства Чебышева, достаточно груба; см. [1, c.62,63]. Мы не будем заниматься сейчас упомянутой проблемой вычислений; сосредоточимся на вопросах качественного характера для ЗБЧ Я.Бернулли. В этой связи следует задаться, в частности, вопросом о выполнимости 3). Дело в том, что условия 1), 2) наводят на мысль о том, что все СВ f1 , . . . , fn совпадают, т.е. f1 = . . . = fn = f . Но тогда cov(fi , fj ) = D(f ) и, как правило, условие 3) будет нарушено. Поэтому нам важно ориентироваться на “одинаково распределенные”, но все же различные СВ, чтобы иметь надежду на реализацию 3). В то же время наиболее важная конкретная проблема 37

связана как будто с одинаковостью f1 , . . . , fn ; тогда (6.2), (6.3) выступает в роли конкретного способа отыскания МО интересующей нас СВ. Совместить упомянутые противоречивые, на первый взгляд, условия удается на основе реализации идеи повторяющихся испытаний, что требует, однако, с большим вниманием отнестись к вопросу о выборе ПЭС.

7.

Закон больших чисел, 2.

Условимся сейчас о некоторых посылках содержательного характера. Мы рассмотрим сначала для простоты конечную последовательность действий, каждое их которых имеет только два исхода (здесь мы используем последний термин неформально). Можно считать, что мы n раз подбрасываем монету; здесь и ниже n ∈ N . Поднимая ее всякий раз, мы самым произвольным образом варьируем ее положение в руке перед очередным бросанием с тем, чтобы исключить какое-либо влияние результата предыдущего бросания на результат последующего. Нас, грубо говоря, интересует случайность в одиночном подбрасывании монеты. Но для ее познания нужен инструмент более мощный; этот инструмент у нас составляет схема с n бросаниями. Если в множестве исходов интересующего нас опыта только два элемента, 0 и 1, то в множестве исходов опыта, направленного на изучение первоначального достаточно простого опыта, уже 2n элементов. Имеет смысл ввести два конечных ВП, связывая их разумным образом на основе идеи независимости повторений простого опыта. Эту схему мы воспроизведем сейчас в общем случае, полагая заданным непустое конечное множество Γ и функцию f : Γ −→ R .

(7.1)

Будем полагать также, что задана ЭВ (ˆ pγ )γ∈Γ : Γ −→ [0, 1 ],

X

pˆγ = 1 .

γ∈Γ

С этой ЭВ вероятностью мы связываем функцию Pˆ : P(Γ) −→ [0, 1 ] , где P(Γ) — семейство всех подмножеств Γ, действующую по правилам: 4 1) Pˆ (∅) = 0; 2) для P 0 (Γ) = P(Γ) \ {∅} (семейство всех непустых подмно38

жеств Γ) полагаем 4 Pˆ (A) =

X

pˆγ

∀A ∈ P 0 (Γ) .

γ∈A

Мы построили вариант конечного ВП (2.1), отвечающий случаю Ω = Γ, P = Pˆ . Данное ВП (Γ, P(Γ), Pˆ ) (7.2) рассматриваем как основное; тогда f (7.2) есть СВ на Γ. В согласии с конкретизацией (Ω, P(Ω), P ) = (Γ, P(Γ), Pˆ ) , (7.3) ˆ рассматриваемой сейчас, используем для операции МО обозначение M; итак, при условии, что RΓ = { Γ −→ R } , ˆ стало быть, мы используем замену M −→ M; X ˆ M(f ) = f (γ) pˆγ ,

(7.4)

γ∈Γ

поскольку (в (7.4)) имеем детализацию (2.3), отвечающую случаю (7.3). Подчеркнем, что при использовании (7.2) – (7.4) речь идет об объекте исследования. Именно, мы, привлекая построения предыдущего раздела (см. (6.10)), стремимся к определению величины (7.4), которую в этой свяˆ: зи условимся обозначать через a 4 ˆ ). ˆ = M(f a

(7.5)

Теперь мы рассмотрим средство исследования, обозначая, при n ∈ N , через 4 Γ = Γn множество всех наборов (кортежей) (γi )i∈1,n : 1, n −→ Γ .

(7.6)

Итак, у нас Γ = { 1, n −→ Γ }. Разумеется, Γ — непустое конечное множество. Оно также может рассматриваться в качестве ПЭС для другого, однако, эксперимента, который состоит в реализации набора γ = (γi )i∈1,n ∈ Γ ;

(7.7)

здесь γ1 ∈ Γ, . . . , γn ∈ Γ. Имеем RΓ = {Γ −→ R}. Введем набор функций (fi )i∈1,n : 1, n −→ RΓ 39

по следующему правилу: если i ∈ 1, n и γ есть набор (7.7), то 4

fi (γ) = f (γi ) .

(7.8)

Итак, если k ∈ 1, n, то функция fk : Γ −→ R у нас такова, что при любом выборе γ ∈ Γ для определения fk (γ) ∈ R следует найти k-ю компоненту γk ∈ Γ и положить fk (γ) = f (γk ). Тем самым, мы воспроизвели как будто n экземпляров f : таковыми следует считать f1 , . . . , fn . Теперь на семействе P(Γ) всех подмножеств Γ следует задать вероятность как функцию множеств. Можно, однако, сделать это, задавая ЭВ: (n) если γ ∈ Γ имеет вид (7.7), то полагаем, что число qγ есть произведение всех чисел pˆγi , i ∈ 1, n. Для обозначения этой операции условимся n N использовать символ : i=1

n O

4 qγ(n) =

pˆγi .

(7.9)

i=1 (n)

Из (7.9) легко следует, что qγ ≥ 0 ∀γ ∈ Γ. Кроме того, с учетом определения Γ имеем, как легко проверить, свойство  X n X (n) qγ = pˆλ = 1 . (7.10) λ∈Γ γ∈Γ Первое равенство в (7.10) проверяется по индукции (при n = 1 оно очевидно; пусть оно верно для n = m ∈ N при условии, что Γ = Γm , т.е.  X m X (m) qγ = pˆλ , γ∈Γm

λ∈Γ

и мы рассматриваем случай Γ = Γm+1 , для которого X  X  X XX (m+1) (m) (m) qγ = qu pˆv = qu · pˆv = u∈Γm v∈Γ

γ∈Γm+1

=

X λ∈Γ

u∈Γm

v∈Γ

m  X   X m+1 pˆλ · pˆv = pˆλ , v∈Γ

λ∈Γ

чем и обосновывается шаг индукции). Разумеется, в (7.10) мы используем хорошо известное свойство: если A и B — непустые конечные множества, (fa )a∈A : A −→ R ,

(gb )b∈B : B −→ R , 40

то справедлива следующая цепочка равенств X  X  X XX gb . fa gb = fa · fa gb = (a,b)∈A×B

a∈A

a∈A b∈B

b∈B

(n)

Из (7.10) вытекает, что (qγ )γ∈Γ есть ЭВ на Γ. Итак, мы построили новое конечное ВП (Γ, P(Γ), Q(n) ) , где P(Γ) — семейство всех подмножеств Γ, а Q(n) : P(Γ) −→ [0, 1] 4

определяется следующими правилами: 1) Q(n) (∅) = 0; 2) для P 0 (Γ) = P(Γ) \ {∅} полагаем 4 X (n) Q(n) (A) = qγ ∀A ∈ P 0 (Γ) . γ∈A

Разумеется, Q(n) — вероятность на P(Γ). Итак, в данной версии у нас (Ω, P(Ω), P ) = (Γ, P(Γ), Q(n) ) .

(7.11)

Отметим одно простое свойство: если i ∈ 1, n и B — непустое подмножество Γ, то (7.12) Q(n) ({(γj )j∈1,n ∈ Γ | γi ∈ B}) = Pˆ (B) . Замечание 7.1. В силу (7.9) и определения Q(n) получаем, что число в левой части (7.12) есть произведение n  X O j=1



pˆh ,

(7.13)

h∈Bj

где Bj = Γ при j ∈ 1, n \ {i} и Bi = B. Рассуждение в этой части вполне аналогично обоснованию (7.10). С учетом свойств pˆγ , γ ∈ Γ, получаем для (7.13) совпадение с Pˆ (B). 2 Заметим, что при B = ∅ мы имеем {(γj )j∈1,n ∈ Γ | γi ∈ B} = ∅, а тогда равенство (7.12) следует из определений Pˆ и Q(n) . Итак, у нас (7.12) справедливо при выборе любого числа i ∈ 1, n и множества B, B ⊂ Γ. Заметим, что Pˆ выступает у нас в качестве т.н. маргинального распределения для Q(n) . Используя это свойство, рассмотрим вопрос о нахождении МО f1 , . . . , fn . Для этого будем использовать второе представление в (2.11). 41

Пусть t ∈ 1, n . Мы рассматриваем ft1 (Γ) = {ft (γ) : γ ∈ Γ} = {f (γt ) : (γi )i∈1,n ∈ Γ} =

(7.14)

= {f (u) : u ∈ Γ} = f 1 (Γ) ; здесь мы учли (7.8) и определение Γ. Далее, для ξ ∈ f 1 (Γ) мы имеем ft−1 ({ξ}) = {γ ∈ Γ | ft (γ) = ξ} = = {(γi )i∈1,n ∈ Γ | f (γt ) = ξ} = {(γi )i∈1,n ∈ Γ | γt ∈ f −1 ({ξ})} , где f −1 ({ξ}) — подмножество Γ. Тогда с учетом (7.12) получаем, что Q(n) (ft−1 ({ξ})) = Pˆ (f −1 ({ξ})) . Итак, мы установили, что Q(n) (fi−1 ({x})) = Pˆ (f −1 ({x})) ∀i ∈ 1, n ∀x ∈ f 1 (Γ) .

(7.15)

Из (2.11), (7.14), (7.15) мы получаем, что для операции МО в случае ВП (7.11), обозначаемой здесь через M , имеет место 4 X M (fk ) = x Q(n) (fk−1 ({x})) = (7.16) x∈fk1 (Γ) X ˆ )=a ˆ ∀k ∈ 1, n ; = x Pˆ (f −1 ({x})) = M(f x∈f 1 (Γ)

мы учли (2.11), (7.4), (7.5). Итак, все СВ f1 , . . . , fn имеют у нас одно и то же МО. Мы установили свойство 1) раздела 6. Возвращаясь к (7.11), отметим еще одно свойство, подобное в идейном отношении (7.12). Именно, если i ∈ 1, n , j ∈ 1, n \ {i}, а B (1) и B (2) — непустые подмножества Γ, то Q(n) ({(γt )t∈1,n ∈ Γ | (γi ∈ B (1) ) & (γj ∈ B (2) )}) = Pˆ (B (1) ) Pˆ (B (2) ) . (7.17) Замечание 7.2. Мы, как и в замечании 7.1, используем (7.9) и определение Q(n) ; см. 2) в свете предположения о непустоте B1 , B2 . Далее, свойство (7.17) имеет смысл только при n ≥ 2, т.к. в противном случае выбор i, j со свойством i 6= j невозможен. Итак, можно полагать, что n ≥ 2. В этом случае, согласно (7.9) и представлению Q(n) в случае 2), мы получаем, что число в правой части (7.17) есть произведение n  X O i=1

h∈Bk

42

 pˆh ,

(7.18)

где Bk = Γ при k ∈ 1, n \ {i; j}, Bi = B (1) и Bj = B (2) . Из (7.18) имеем по свойствам pˆγ , γ ∈ Γ, следующие равенства X pˆh = 1 ∀k ∈ 1, n \ {i; j} , h∈Bk

X

pˆh =

X

h∈Bi

h∈B (1)

X

X

h∈Bj

pˆh =

pˆh = Pˆ (B (1) ) , pˆh = Pˆ (B (2) ) .

h∈B (2)

Стало быть, (7.18) есть число в правой части (7.17), ч.т.д. 2 Отметим, что если в (7.17) B (1) = ∅ или B (2) = ∅, то равенство также сохраняется, следует только учитывать представление 1) для Pˆ и Q(n) . Итак, (7.17) справедливо при выборе любых чисел i ∈ 1, n, j ∈ 1, n \ {i}, а также любых множеств B (1) , B (1) ⊂ Γ, и B (2) , B (2) ⊂ Γ. Покажем теперь, что при любых i ∈ 1, n и j ∈ 1, n \ {i} СВ fi и fj независимы. Воспользуемся предложением 4.3, фиксируя ξ ∈ fi1 (Γ) и η ∈ fj1 (Γ) (в силу (7.8) это означает, что ξ ∈ f 1 (Γ) и η ∈ f 1 (Γ)). Тогда fi−1 ({ξ}) = {(γk )k∈1,n ∈ Γ | fi ((γk )k∈1,n ) = ξ} =

(7.19)

{(γk )k∈1,n ∈ Γ | f (γi ) = ξ} = {(γk )k∈1,n ∈ Γ | γi ∈ f −1 ({ξ})} , fj−1 ({η}) = {(γk )k∈1,n ∈ Γ | fj ((γk )k∈1,n ) = η} =

(7.20)

= {(γk )k∈1,n ∈ Γ | f (γj ) = η} = {(γk )k∈1,n ∈ Γ | γj ∈ f −1 ({η})} . Тогда с учетом (7.17) (в расширенной редакции, допускающей случай (B (1) = ∅) ∨ (B (2) = ∅) имеем из (7.19), (7.20) Q(n) (fi−1 ({ξ}) ∩ fj−1 ({η})) = Q(n) ({(γk )k∈1,n ∈ Γ |

(7.21)

(γi ∈ f −1 ({ξ})) & (γj ∈ f −1 ({η}))}) = Pˆ (f −1 ({ξ})) Pˆ (f −1 ({η})) . Учтем теперь (7.12) (в расширенной редакции, когда возможен случай B = ∅). Именно, в силу (7.12), (7.19) Q(n) (fi−1 ({ξ})) = Q(n) ({(γk )k∈1,n ∈ Γ | γi ∈ f −1 ({ξ})}) = Pˆ (f −1 ({ξ})) . (7.22) Далее, из (7.12) и (7.20) получаем, что справедливо равенство Q(n) (fj−1 ({η})) = Q(n) ({(γk )k∈1,n ∈ Γ | γj ∈ f −1 ({η})}) = Pˆ (f −1 ({η})) . (7.23) 43

Из (7.21) – (7.23) получаем следующее равенство Q(n) (fi−1 ({ξ}) ∩ fj−1 ({η})) = Q(n) (fi−1 ({ξ})) Q(n) (fj−1 ({η})) .

(7.24)

Поскольку выбор ξ и η был произвольным, установлено (см. предложение 4.3) свойство независимости СВ fi и fj . Стало быть, в силу предложения 4.4 fi и fj некоррелированы. Поскольку выбор i, j, i 6= j, был произвольным, установлено, что при условии (7.11) cov(fi , fj ) = 0 ∀i ∈ 1, n ∀j ∈ 1, n \ {i} .

(7.25)

В (7.25) мы получили реализацию свойства 3) раздела 6. У нас “осталось” свойство 2) раздела 6. Напомним в этой связи, что с учетом (3.2), (7.16) ˆ2 ∀t ∈ 1, n . D(ft ) = M (ft2 ) − a

(7.26)

В силу (7.26) для доказательства того, что D(fi ) = D(fj ) при всех i и j, достаточно установить положение: M (fk2 ) = M (fl2 ) ∀k ∈ 1, n ∀l ∈ 1, n .

(7.27)

В этой связи мы снова будем использовать (7.12), имея в виду, что f12 = f1 · f1 , . . . , fn2 = fn · fn — суть СВ на Γ. Мы их сейчас переобозначим для удобства выкладок: 4

ϕt = ft2 = ft · ft ∀t ∈ 1, n .

(7.28)

С учетом (7.8) и (7.28) мы имеем для t ∈ 1, n и ЭС γ, определяемом посредством (7.7), равенство ϕt (γ) = (ft (γ))2 = (f (γt ))2 .

(7.29)

4

Введем теперь СВ ϕ = f 2 на Γ; ϕ(h) = (f (h))2 при h ∈ Γ. Тогда из (7.29) вытекает, что ϕt ((γi )i∈1,n ) = ϕ(γt ) ∀t ∈ 1, n ∀(γi )i∈1,n ∈ Γ .

(7.30)

Дальнейшее рассуждение по обоснованию (7.27) ничем не отличается от проверки (7.16). Тем не менее, мы воспроизводим его, фиксируя r ∈ 1, n. Тогда в силу (7.30) имеем подобно (7.14) ϕ1r (Γ) = {ϕr (γ) : γ ∈ Γ} = {ϕ(γr ) : (γi )i∈1,n ∈ Γ} = 44

= {ϕ(u) : u ∈ Γ} = ϕ1 (Γ) ; см. (7.6). Если при этом ξ ∈ ϕ1 (Γ), то ϕ−1 r ({ξ}) = {γ ∈ Γ | ϕr (γ) = ξ} = {(γi )i∈1,n ∈ Γ | ϕ(γr ) = ξ} = = {(γi )i∈1,n ∈ Γ | γr ∈ ϕ−1 ({ξ})} , где ϕ−1 ({ξ}) — подмножество Γ. Тогда с учетом (7.12) (в расширенной версии) имеем Q(n) (ϕr−1 ({ξ})) = Q(n) ({γj )j∈1,n ∈ Γ | γr ∈ ϕ−1 ({ξ})}) = Pˆ (ϕ−1 ({ξ})) . Поскольку r и ξ выбирались произвольно, мы получили, что при всяком t ∈ 1, n верно ϕ1t (Γ) = ϕ1 (Γ) и 1 ˆ −1 Q(n) (ϕ−1 t ({y})) = P (ϕ ({y}) ∀y ∈ ϕ (Γ) .

(7.31)

Теперь рассмотрим (2.11), (7.31) в естественной комбинации: при t ∈ 1, n X X ˆ y Q(n) (ϕ−1 M (ϕt ) = ({y})) = y Pˆ (ϕ−1 ({y})) = M(ϕ) . (7.32) t y∈ϕ1 (Γ) y∈ϕ1t (Γ) С учетом (7.28), (7.32) мы получаем, что ˆ M (ft2 ) = M(ϕ) ∀t ∈ 1, n .

(7.33)

Из (7.33) вытекает (7.27), что с учетом (7.25) реализует свойство 2) раздела 6. Полезно отметить тот факт, что в силу определения ϕ, (7.26) и ˆ 2) − a ˆ2 ∀t ∈ 1, n . D(ft ) = M(f С учетом (3.2) мы получили, что дисперсия каждой из СВ f1 , . . . , fn совпадает с дисперсией f . Аналогичное суждение в отношении МО следует из (7.16): каждая из вышеупомянутых СВ f1 , . . . , fn имеет МО, равное МО f . Разумеется, здесь следует иметь в виду, что f есть СВ на Γ, а f1 , . . . , fn — суть СВ на Γ. Итак, для ВП (7.11) мы реализовали требования 1) – 3) раздела 6. Тем самым, построена модель для изучения СВ f на исходном ВП (7.2). Само это изучение сводится к эксперименту по определению значения СВ (6.3), относительно которой мы будем иметь утверждение (6.10) о “вероятной” близости вышеупомянутого значения к интересующему нас МО. На содержательном уровне наша модель сводится, как мы видели в настоящем разделе, к проведению серии независимых испытаний (экспериментов) по реализации значений исходной СВ f . Так, например, можно 45

говорить о бросаниях монеты, между которыми произвольным образом меняется всякий раз “стартовое” положение с тем, чтобы исключить влияние предыдущего бросания. В связи с этим примером отметим тот важный частный случай, когда для общего случая ВП (7.2) СВ f (7.1) отождествляется с индикатором некоторого события (т.е. с индикатором подмножества Γ); см. в этой связи (1.17) и (1.18) при условии (7.3). В этом случае МО f есть (см. предложение 2.1) вероятность вышеупомянутого фиксированного события (см. (7.5)). Мы предлагаем читателю внимательно проделать выкладки для данного частного случая f , обращая при этом внимание на структуру СВ (6.2), (6.3) для данного частного случая.

Добавление. Частота и вероятность. В предыдущих разделах рассматривалась (по существу) аксиоматическая теория, реализуемая для конечного ВП. Последнее было в наших построениях первичным и, по этой причине, не определимым. В то же время, в основе прикладных задач, обслуживаемых теорией вероятностей, заложены некоторые закономерности, которые проявляются в практической деятельности. Упомянутые закономерности касаются массовых событий. В какой-то мере мы коснулись подобных вопросов в разделе 7, когда для определения МО интересующей нас СВ была организована серия повторений ˆ (7.5) требуемого эксперимента с той целью, чтобы определить МО a = a приближенно посредством наблюдения Sn (ω), где ω ∈ Γ. Разумеется, в этом случае используется соглашение (7.11), в котором заложена идея многократных испытаний. Сейчас мы попытаемся на содержательном уровне рассмотреть вопрос, связанный с обоснованностью в использовании такого рода вероятностных моделей, обращаясь к явлениям массового характера. Будем следовать соглашениям раздела 1 в отношении множества Ω, предполагая многократным повторение эксперимента по реализации исхода ω ∈ Ω (в [6, c.13] отмечается, например, что в XVIII веке Бюффон выполнил 4040 подбрасываний монеты и в этой серии герб выпадал 2048 раз; Пирсон осуществил 24000 бросаний монеты, из которых герб выпадал 12012 раз). Итак, мы коснемся сейчас весьма деликатного вопроса о характеризации тех явлений, которые может исследовать теория вероятностей. Пусть проведена длинная серия однотипных экспериментов, в результате чего появилась выборка элементов множества Ω: имеем N ∈ N , N  1,

46

и кортеж (ωt )t∈1,N : 1, N −→ Ω . Можно говорить о протоколе (ω1 , . . . , ωN ) длины N . Пусть A ∈ P(Ω), т.е. A — подмножество Ω. Тогда {t ∈ 1, N | ωt ∈ A} есть конечное множество, мощность которого не превосходит N . Число |{t ∈ 1, N | ωt ∈ A}| N (напомним, что для всякого конечного множества B число |B| ∈ N есть мощность B; см. раздел 1). Ясно, что νN (A) ∈ [0, 1] . При этом νN (∅) = 0 и νN (Ω) = 1 . Кроме того, если A1 ∈ P(Ω) и A2 ∈ P(Ω) обладают свойством A1 ∩ A2 = ∅, то 4

νN (A) =

{t ∈ 1, N | ωt ∈ A1 } ∩ {t ∈ 1, N | ωt ∈ A2 } = ∅ и, как следствие, реализуется равенство {t ∈ 1, N | ωt ∈ A1 ∪ A2 } = {t ∈ 1, N | ωt ∈ A1 }

G

{t ∈ 1, N | ωt ∈ A2 } ,

где в правой части используется дизъюнктное объединение. Как следствие, |{t ∈ 1, N | ωt ∈ A1 ∪ A2 }| = |{t ∈ 1, N | ωt ∈ A1 }| + |{t ∈ 1, N | ωt ∈ A2 }| , В итоге, для вышеупомянутых (дизъюнктных) множеств A1 и A2 мы получаем равенство νN (A1 ∪ A2 ) = νN (A1 ) + νN (A2 ) . Поскольку выбор A1 и A2 был произвольным, мы получили функцию νN : P(Ω) −→ [0, 1] , удовлетворяющую всем условиям на вероятность P раздела 1. Данная функция νN вполне доступна для экспериментального определения; она может рассматриваться как вероятность, зависящая, однако, от N ∈ N . Чтобы эту “ненужную” зависимость исключить, хотелось бы взять вместо νN предел при N −→ ∞ ; ТВ как раз и оперирует с такими экспериментами, для которых упомянутая стабилизация частот наступает. Можно полагать, что в своих построениях мы идеализируем (см. [7, c.11]) свойства частот, ориентируясь на “долговстречающиеся” проявления в исходах эксперимента. Разумеется, наши рассуждения об эмпирических основах вероятностных закономерностей нельзя признать строгими; они определяют всего лишь некую отправную точку и не более того. Мы адресуем читателя к [7, гл.1] за более подробными пояснениями. 47

Список литературы 1. Ширяев А.Н. Вероятность/ А.Н.Ширяев. М.: Наука, 1980. – 575 c. 2. Куратовский К. Теория множеств/K.Куратовский, A.Мостовский. М.: Мир, 1970. 416 c. 3. Александрян Р.А. Общая топология/ Р.А.Александрян, Э.А. Мирзаханян. М.: Высшая школа,1979. — 336с. 4. Колмогоров А.Н. Элементы теории функций и функционального анализа/A.H.Колмогоров, C.B.Фомин. М.: Наука, 1976. 543 c. 5. Неве Ж. Математические основы теории вероятностей/ Ж. Неве. М.: Мир, 1969. 309 с. 6. Боровков А.А. Теория вероятностей/ А.А.Боровков. М.: Наука, 1976. 352 с. 7. Уиттл П. Вероятность/ Питер Уиттл. М.: Наука, 1982. 287 с.

48