Практикум по теории случайных процессов (сокращенный вариант): Учебное пособие

ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ МОСКОВСКИЙ АВИАЦИОННЫЙ ИНСТИТУТ (государственный технический университет)

А. Р. Панков,

К. В. Семенихин

ПРАКТИКУМ ПО ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ (Сокращенный вариант)

Учебное пособие

Москва 2008

СОДЕРЖАНИЕ

ПРЕДИСЛОВИЕ

Предисловие . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Список основных сокращений и обозначений . . . . . . . . . . . . . .

3 4

З а н я т и е 1. Вероятностные распределения случайных процессов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

6

З а н я т и е 2. Моментные характеристики случайных процессов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

9

З а н я т и е 3. Непрерывность и дифференцируемость случайных функций . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

13

З а н я т и е 4. Интегрирование случайных функций . . . . .

16

З а н я т и е 5. Процессы с ортогональными приращениями

19

З а н я т и е 6. Винеровский процесс

23

. . . . . . . . . . . . . . .

З а н я т и е 7. Элементы стохастического дифференциального исчисления Ито . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

26

З а н я т и е 8. Стационарные случайные процессы . . . . . .

29

З а н я т и е 9. Линейные преобразования стационарных процессов . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

33

З а н я т и е 10. Потоки событий. Пуассоновский процесс . .

37

З а н я т и е 11. Марковские процессы

. . . . . . . . . . . . . .

41

. . . . . . . . . . . . . . . . . . .

44

З а н я т и е 12. Цепи Маркова

З а н я т и е 13. Дискретные марковские функции

. . . . . .

48

Список литературы . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

51

Данное учебное пособие предназначено для методического обеспечения практических занятий и самостоятельной работы студентов в рамках курса «теория случайных процессов», изучаемого на факультете прикладной математики и физики МАИ в объеме 32 часов лекций и 32 часов практических занятий. Пособие состоит из тринадцати разделов (занятий). Первое занятие является вводным и посвящено основным понятиям теории случайных процессов (вероятностные распределения и способы их описания). Следующие три занятия составляют основу корреляционного анализа случайных функций (моментные характеристики, свойства процессов в среднем квадратичном). Разделы с пятого по седьмой предназначены для изучения основ теории стохастических дифференциальных уравнений и связанных с ними понятий (белый шум, процессы с ортогональными приращениями, винеровский процесс, стохастический интеграл и дифференциал Ито). Следующие два занятия посвящены стационарным случайным последовательностям и функциям (моментные и спектральные характеристики, стационарные линейные преобразования). В десятом занятии рассмотрены потоки событий и пуассоновский процесс. Последние три раздела целиком посвящены марковским процессам (модели марковских последовательностей и функций, цепи Маркова, элементы теории массового обслуживания). Каждый раздел содержит формулировки примеров, изучаемых в течение занятия, и перечень задач для самостоятельного решения с ответами и указаниями. При подготовке материала пособия авторы пользовались следующими источниками: [1–6, 9–11, 13–18] (теория вероятностей и случайные процессы), [8, 12] (функциональный анализ).

СПИСОК ОСНОВНЫХ СОКРАЩЕНИЙ И ОБОЗНАЧЕНИЙ

СПИСОК ОСНОВНЫХ СОКРАЩЕНИЙ И ОБОЗНАЧЕНИЙ a := b означает «обозначим b через a» или «положим a, равным b» и т.п.; R, Rn и Rm×n — множество вещественных чисел, пространство n-мерных векторов-столбцов и семейство матриц размера m × n; Z — множество целых чисел; C — множество комплексных чисел; z — число, сопряженное с z ∈ C; Re z — вещественная часть комплексного числа z ∈ C; col[x1 , . . . , xn ] — вектор-столбец, составленный из элементов x1 , . . . , xn ; A∗ и A−1 — транспонированная и обратная матрицы; trA — след матрицы A; I и O — единичная и нулевая матрицы; o(x) — «o -малое», т. е. функция от x, такая, что o(x)/x → 0 при x → 0; IB — индикаторная функция множества B; B(E) — борелевская σ-алгебра множества E ⊆ Rn ; δa (B) — мера Дирака, сосредоточенная в точке a; δ(x) — дельта-функция Дирака; L2 (T ) (или L2 (T, µ)) — лебегово пространство функций, квадратично интегрируемых на T относительно лебеговой меры (или меры µ); (Ω, F , P) — вероятностное пространство; M, D и cov — математическое ожидание, дисперсия и ковариация; P{. . . | . . .} и M{. . . | . . .} — условная вероятность и условное математическое ожидание; I{. . .} — индикатор случайного события {. . .}; Bi(N, p) — биномиальное распределение с параметрами N и p; Π(λ) — распределение Пуассона с параметром λ; E(λ) — экспоненциальное распределение с параметром λ; λ C(λ) — распределение Коши с функцией плотности f (x) = ; π(x2 + λ2 ) R(a, b) — равномерное распределение на интервале (a, b); N (m, D) — гауссовское (нормальное) распределение со средним m и дисперсией (ковариационной матрицей) D; 1

Φ(x) = √

2π

Zx

e−u

2

/2

du — функция Лапласа;

−∞

FX (x) — функция распределения случайной величины X; pX (x) и fX (x) — плотность распределения случайной величины X;

5

T — временн´ ая область случайного процесса (см. занятие 1); E — фазовое пространство (множество состояний) случайного процесса; ξ(t) — сечение случайного процесса ξ в момент t; ξω — траектория случайного процесса ξ, соответствующая исходу ω ∈ Ω; Pξ (t1 , . . . , tn ) — n-мерное распределение случайного процесса ξ; Fξ (x1 , . . . , xn ; t1 , . . . , tn ) — n-мерная функция распределения случайного процесса ξ; p ξ(x1 , . . . , xn ; t1 , . . . , tn ) — n-мерная плотность распределения случайного процесса ξ; Ψξ (z1 , . . . , zn ; t1 , . . . , tn ) — n-мерная характеристическая функция случайного процесса ξ; m ξ(t) и Dξ (t) — математическое ожидание и дисперсионная функция случайного процесса ξ (см. занятие 2); Rξ (t, s) и Γξ (t, s) — ковариационная функция и функция вторых моментов случайного процесса ξ; L2 (Ω) — лебегово пространство случайных величин с конечным вторым моментом (см. занятие 3); с.к. — в среднем квадратичном; с.к. Xn −−−→ X и X = l.i.m. Xn — сходимость в среднем квадратичном; n→∞ (P-п.н.) — почти наверное (с вероятностью 1); w(t) — винеровский процесс (см. занятие 6); Λ — спектральная область стационарного процесса (см. занятие 8); rξ(τ ) — ковариационная функция стационарного процесса ξ; Sξ (B), sξ (λ) и Zξ (B) — спектральная мера, спектральная плотность и ортогональная стохастическая мера стационарного процесса ξ; H(λ) — частотная характеристика стационарного линейного преобразования (см. занятие 9); P(s, x, t, B) и p(s, x, t, y) — переходная вероятность и переходная плотность марковского процесса (см. занятие 11); P(x, t, B) и p(x, t, y) — переходная вероятность и переходная плотность однородного марковского процесса; px,y , px,y (n) и px,y (t) — вероятность перехода дискретного однородного марковского процесса из состояния x в состояние y за один шаг, за n шагов, за время t (см. занятия 12 и 13); P и P(t) — переходная матрица (за один шаг, за время t) дискретного однородного марковского процесса; πx (t) и π(t) — вероятность состояния x и распределение вероятностей состояний дискретного марковского процесса в момент t; λx,y — интенсивность перехода дискретной однородной марковской функции из состояния x в состояние y; λx — интенсивность выхода дискретной однородной марковской функции из состояния x; Λ — матрица интенсивностей переходов.

ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ

7

ЗАНЯТИЕ 1 ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ

П р и м е р 1.1. Пусть случайный процесс задан соотношением ξ(t) = ϕ(t)U,

t ∈ [0, 1],

где U — случайная величина с известной функцией распределения FU (x), а ϕ(t) — положительная детерминированная функция. Найти семейство функций распределения процесса ξ. Имеет ли его n-мерная функция распределения плотность? П р и м е р 1.2. Пусть X и V — независимые случайные величины, распределенные по закону N (0, 1). Для случайной функции ξ(t) = X + t V , t > 0: а) описать ее траектории и сечения; б) найти семейство конечномерных распределений; в) вычислить вероятность события A = {ω: траектория ξω не пересекает ось абсцисс}. П р и м е р 1.3 (Процесс с одним скачком). Случайный процесс η задан на [0, ∞) следующим образом: ηω (t) = 1, если t < τ (ω), и ηω (t) = 0 в противном случае, где τ ∼ E(1). Требуется: а) описать траектории и сечения данного процесса; б) определить его одномерное и двумерное распределения; в) выразить P{η(t) = 1 | η(s) = 1} при t > s через вероятности, найденные в предыдущем пункте. П р и м е р 1.4. Дана функция распределения F (x), x ∈ R. Пользуясь теоремой Колмогорова, доказать существование случайной последовательности {ξ(n), n = 1, 2, . . .} с независимыми одинаково распределенными сечениями, такими что P{ξ(n) 6 x} = F (x)

для любых n и x. Описать семейство конечномерных распределений случайной последовательности {ξ(n)} с помощью k-мерных функций распределения и характеристических функций. П р и м е р 1.5 (Симметричное случайное блуждание). Положение частицы в моменты времени tn := n · ∆t, n = 0, 1, 2, . . ., является случайным и определяется значениями одной из координат xm := m · ∆x, m ∈ Z. Известно, что если xm — координата положения частицы в момент времени tn , то в следующий момент tn+1 частица окажется в одном из равновероятных положений: xm+1 или xm−1 , причем выбор из двух возможностей происходит независимо от положения частицы в предыдущие моменты времени. Считая, что x0 — координата начального положения частицы, описать ее движение с помощью дискретного случайного процесса ξ := {ξ(t), t ∈ T } с дискретным временем T := {tn : n > 0}. Найти одномерное распределение процесса ξ. Указать интервал (−a, a), в котором с вероятностью 0,95 содержится средняя скорость движения υ := (ξ(t) − ξ(s))/(t − s) частицы на промежутке [s, t], где s, t ∈ T , а число N := (t − s)/∆t достаточно велико. Насколько изменится искомый интервал, если временн´ой промежуток увеличить в сто раз?

Задачи для самостоятельного решения 1. Найти семейство функций распределения процесса ξ(t) = t X, t > 0, если X ∼ R(0, 1). Вычислить вероятность P того, что траектория процесса пересечет отрезки [1, 3] и [1, 4] в моменты времени t = 3 и t = 5, соответственно.
 О т в е т. Fξ (x1 , . . . , xn ; t1 , . . . , tn ) = F min x1/t1 , . . . , xn/tn , где F (x) = x при x ∈ [0, 1], F (x) = 0 для x < 0 и F (x) = 1, если x > 1; P = 7/15 ≈ 0,4667. 2. Пусть в примере 1.2 X и V имеют плотности распределения p X (x) и p V (v). Найти двумерную плотность распределения процесса ξ(t). Показать, что распределения порядка k > 3 плотности не имеют. У к а з а н и е. Воспользоваться формулой преобразования плотности при невырожденном преобразовании случайного вектора. Показать, что совместное распределение величин {ξ(t1 ), . . . , ξ(tk )} при

8

ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ

[З. 1

k > 3 сосредоточено на некотором линейном подпространстве размер    ности 2. x2 − x1 1 x − x1 pX О т в е т. p ξ(x1 , x2 ; t1 , t2 ) = p V x1 − 2 t2 − t 1 t2 − t1 t2 − t1 для моментов t2 > t1 . 3. Пусть ξ(t) = Xt2 + Y t, t > 0, где X, Y — независимые случайные величины с распределением N (0, 1). Найти вероятности событий: A = {ω : ξω — неубывающая функция}; B = {ω : inf ξω (t) < 0}.

ЗАНЯТИЕ 2 МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ

t>0

У к а з а н и е. A = {X > 0, Y > 0}; B = {X > 0, Y < 0}∪{X < 0}. О т в е т. P{A} = 1/4; P{B} = 3/4.

4. Определить характеристические функции для одномерного и двумерного распределений случайного процесса, рассмотренного в примере 1.5. t/∆t О т в е т. Ψξ (z; t) = (cos(z · ∆x)) при t ∈ T и Ψξ (z1 , z2 ; t, s) =

s/∆t (t−s)/∆t = (cos(z1 · ∆x)) · cos (z1 + z2 ) · ∆x при t > s из T . 5. Случайная функция η задана на [0, ∞) следующим образом:  0, ηω (t) = 1,  2,

t < σ(ω), 0 6 t − σ(ω) < τ (ω), t > σ(ω) + τ (ω),

где σ, τ — случайные величины, независимые и распределенные по экспоненциальному закону с параметром λ > 0. Описать одномерное распределение процесса η. О т в е т. π0 (t) = e−λt , π1 (t) = λte−λt , π2 (t) = 1 − (1 + λt)e−λt , где πx (t) := P{η(t) = x}.

П р и м е р 2.1 (Вырожденный случайный процесс). Предположим, что ξ(t) := ϕ0 (t) +

k X j=1

ϕj (t)Xj , t ∈ T , где ϕj (t) — заданные скалярные

детерминированные функции, а Xj — некоррелированные случайные величины с нулевым средним и единичной дисперсией. Найти mξ (t), Dξ (t), Rξ (t, s), Γξ (t, s). П р и м е р 2.2. Допустим, что напряжение в электросети представляет собой гауссовский случайный процесс {U (t), t > 0} со средним m U (t) ≡ U0 и ковариационной функцией R U (t, s) = (∆U )2 cos(λ(t − s)), где U0 := 220 В, ∆U := 10 В, λ := 2π · 50 с−1 . По данным измерений напряжение в начальный момент составило 212 В. Что можно сказать о значении U (t) при t = 0,01; 0,1; 10 с? П р и м е р 2.3. Последовательность V := {Vn } некоррелированных случайных величин c нулевым средним и конечной дисперсией DVn 6= 0 называют дискретным белым шумом. Если к тому же DVn = 1 при любом n, то V — стандартный белый шум. Рассмотрим процесс авторегрессии первого порядка, т. е. случайную последовательность {X(n), n = 0, 1, 2, . . . }, удовлетворяющую следующему рекуррентному уравнению: X(n) = αX(n − 1) + β Vn + γ,

n = 1, 2, . . . ,

(2.1)

где α, β, γ — известные вещественные коэффициенты, {Vn } — стандартный дискретный белый шум, некоррелированный с X(0). Найти рекуррентные уравнения, которым удовлетворяют функции математического ожидания и дисперсии процесса X.

10

[З. 2

МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ

П р и м е р 2.4. Найти mZ (t), DZ (t) и RZ (t, s), если {Z(t), t ∈ R} — комплексная случайная функция, определенная соотношением Z(t) = = A eitV , где A ∼ N (0, 1) и V ∼ C(1) — независимые величины. П р и м е р 2.5. Гауссовская случайная функция {w(t), t > 0} с mw ≡ 0 и Rw (t, s) = min(t, s), называется процессом броуновского движения. Определить распределение приращений процесса броуновского движения. П р и м е р 2.6. Являются ли C(t, s) = ch(t + s) и K(t, s) = ch(t − s) (где ch τ := (eτ + e−τ )/2) ковариационными функциями некоторых случайных процессов, определенных на всей числовой прямой?

Задачи для самостоятельного решения 1. Доказать, что дискретный белый шум с положительной дисперсией не может быть вырожденным процессом. У к а з а н и е. Для белого шума и вырожденного процесса сравнить ранги ковариационных матриц n-мерного закона распределения (при достаточно большом n). 2. В условиях задачи 2.3: а) определить явное представление процесса X через последовательность {Vn }; б) найти mX (n), DX (n) и RX (n, m), пользуясь результатом п. а); в) при каких значениях коэффициента α существуют конечные пределы µ := lim mX (n), n→∞

∆ := lim DX (n), n→∞

ρ(k) := lim RX (n + k, n) n→∞

и не зависят от начальных значений mX (0), DX (0)? У к а з а н и е. Воспользоваться формулой xn = an x0 +

n X

дающей решение разностного уравнения xn = a xn−1 + yn . k=1 n

О т в е т. a) X(n) = α X(0) +

n X

α

n−k

(β Vk + γ);

k=1

б) mX (n) =

( αn mX (0) + γ (1 − αn )/(1 − α) при mX (0) + γ n

при

α 6= 1,

α = 1,

an−k yk ,

МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ

DX (n) =

( α2n DX (0) + β 2 (1 − α2n )/(1 − α2 ) при DX (0) + β 2 n

при

11

α2 6= 1,

α2 = 1,

RX (n, m) = α|n−m| DX (min(n, m)), где 00 := 1; в) α ∈ (−1, 1),

µ=

γ , 1−α

∆=

β2 , 1 − α2

ρ(k) = αk ∆.

3. Пусть ξ — симметричное случайное блуждание, введенное в примере 1.5. Определить mξ (n), Dξ (n) и Rξ (n, m). Найденный ответ сравнить с результатами, полученными в примере 2.3 и упражнении 2. О т в е т. mξ ≡ 0, Dξ (n) = (∆x)2 n, Rξ (n, m) = (∆x)2 min(n, m). 4. Найти среднее и функцию вторых моментов процесса с одним скачком (см. пример 1.3). О т в е т. mη (t) = e−t , Γη (t, s) = e− max(t,s) . 5. Определить ковариационную функцию процесса из примера 1.2. О т в е т. Rξ (t, s) = 1 + t s. 6. Определим броуновский мост, как случайную функцию {B(t), t ∈ [0, 1]}, такую что B(t) = w(t) − t w(1), где w(t) — процесс броуновского движения. Найти дисперсию и ковариационную функцию процесса B(t). При каких различных t, s из интервала (0, 1) сечения B(t), B(s): а) независимы; б) линейно зависимы? О т в е т. DB (t) = (1 − t)t; RB (t, s) = min(t, s) − t s; ни при каких. 7. Какие из ниже перечисленных функций являются ковариационными функциями некоторых случайных процессов:  з) cos(t − s), 1, n = m, а) и) exp{i(t + s)}; 0, n 6= m;  к) exp{i(t − s)}, 1, n = m, m ± 1, б) при t, s ∈ R; 0 иначе, л) max (t, s); при n, m ∈ Z; м) 1 − max (t, s), в) exp{t + s}; при t, s ∈ [0, 1]; г) exp{|t + s|}; д) 1 + (ts)2 ; е) 1 − (ts)2 ; ж) cos(t + s);

О т в е т. а), в), д), з), к), м), н), о).

н) exp{min(t, s)}; о) (1 + t s) exp{−|t − s|}, при t, s > 0?

12

[З. 2

МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ

ЗАНЯТИЕ 3 8. Пусть p-мерный случайный процесс {X(n), n = 0, 1, . . . } задан уравнением авторегрессии 1-го порядка X(n) = αX(n − 1) + β Vn + γ, n > 1, где {Vn } — q-мерный стандартный дискретный белый шум, т. е. M{Vn } = 0,

cov{Vn , Vn } = I,

cov{Vn , Vm } = O,

n 6= m,

причем cov{Vn , X(0)} = O, I и O обозначают единичную и нулевую матрицы, соответственно, а матрицы α ∈ Rp×p , β ∈ Rp×q и вектор γ ∈ Rp — детерминированные. Найти уравнения, которым удовлетворяют функции mX (n) := M{X(n)} и DX (n) := cov{X(n), X(n)}. Доказать, что если все собственные значения λ матрицы α удовлетворяют условию |λ| < 1, то существуют пределы µ := lim mX (n) и

НЕПРЕРЫВНОСТЬ И ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ ФУНКЦИЙ

n→∞

∆ := lim DX (n), причем µ, ∆ суть единственные решения уравнений n→∞ µ = αµ + γ и ∆ = α∆α∗ + ββ ∗ . О т в е т. mX (n) = α mX (n − 1) + γ, DX (n) = αDX (n − 1)α∗ + ββ ∗.

П р и м е р 3.1. Предположим, что ξ(t) — вырожденный случайный процесс, определенный на промежутке T действительной оси, т. е. ξ(t) := ϕ1 (t)X1 + . . . + ϕk (t)Xk , где ϕj (t) — некоторые детерминированные функции, а Xj — вещественные случайные величины. При каких условиях на ϕj (t) и Xj случайная функция ξ(t) будет: а) непрерывной; б) дифференцируемой; в) с.к.-непрерывной; г) с.к.˙ дифференцируемой? Найти производную ξ ′ (t) и с.к.-производную ξ(t) в том случае, если они существует. П р и м е р 3.2. Случайная функция ξ(t) определена на T := [0, 1] следующим образом: ( V1 , если t < ρ, ξ(t) = V2 , если t > ρ, где ρ, V1 и V2 — независимые в совокупности случайные величины, такие что ρ ∼ R(0, 1), Vi ∼ N (0, 1). Доказать, что функция ξ(t) с.к.-непрерывна на T , хотя почти все ее реализации разрывны. Существует ли непрерывная модификация? П р и м е р 3.3. Доказать, что процесс дробного броуновского движения, т. е. гауссовский случайный процесс {X(t), t > 0} с нулевым
1 средним и ковариационной функцией RX (t, s) = tγ + sγ − |t − s|γ , 2 где γ ∈ (0, 2), стохастически эквивалентен некоторой непрерывной случайной функции. П р и м е р 3.4. При каких значениях параметров α, β (таких что 0 < α 6 β) центрированный случайный процесс {X(t), t ∈ R} с кова-

14

НЕПРЕРЫВНОСТЬ И ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ ФУНКЦИЙ

[З. 3

риационной функцией RX (t, s) = (1 + α|t − s|)e−β|t−s| дифференцируем в среднем квадратичном? Определить дисперсию и ковариационную функцию с.к.-производной (в том случае, когда она существует). П р и м е р 3.5. Гауссовский случайный процесс {X(t), t > 0} имеет математическое ожидание mX (t) = b (1 − e−a t )/a и ковариационную функцию RX (t, s) = b2 (e−a (t+s) − e−a t − e−a s + 1)/(9a2 ), где a, b > 0. ˙ Вычислить P{X(t) + a X(t) > 0}. Существует ли A := l.i.m. X(t)?

НЕПРЕРЫВНОСТЬ И ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ ФУНКЦИЙ

У к а з а н и е. Определение процесса броуновского движения совпадает с условиями примера 3.3 для случая γ = 1. 7. Пусть центрированный гауссовский процесс {ξ(t), t ∈ R} имеет 2 ковариационную функцию Rξ (t, s) = e−α(t−s) , где α > 0. Для средне˙ квадратичной производной ξ(t) найти дисперсию и ковариационную функцию, а также взаимную ковариационную функцию Rξξ˙ (t, s). О т в е т. Rξξ˙ (t, s) =

t→+∞

Если с.к.-предел существует, то каково распределение величины A?

Задачи для самостоятельного решения 1. При каких a, b ∈ R (b 6= 0) для случайного процесса {G(t), t > 0} с математическим ожиданием mG(t) = ea t и ковариационной функци 2 ей RG(t, s) = ea(t+s) eb min(t,s) − 1 определен с.к.-предел l.i.m. G(t)? t→+∞

О т в е т. С.к.-предел существует, если и только если 2a < −b2 . 2. Пусть гауссовская случайная функция {X(t), t > 0} имеет −t − min(t,s) m ). Требуется вычислить X (t) = 1 − 2 и RX (t, s) = 2(1 − 2 P l.i.m. X(t) > 1 , если а) t0 = 0; б) t0 = 1; в) t0 = +∞. t→t0

О т в е т. а) 0; б) 1 − Φ(1/2) ≈ 0,3085; в) 0,5. 3. Пусть случайная функция ξ(t) с.к.-непрерывна на конечном промежутке T = [a, b]. Доказать, что найдется такое конечное C, что M|ξ(t)|2 6 C для любого t ∈ T . 4. Допустим, что процесс ξ(t), рассмотренный в примере 3.4, является гауссовским. Доказать, что при любых значениях параметров α > 0 и β > 0 существует непрерывная версия процесса ξ(t). У к а з а н и е. Получить оценку D{ξ(t) − ξ(s)} 6 2(α + β)|t − s| и воспользоваться теоремой Колмогорова о существовании непрерывной модификации. 5. Проверить, что случайная функция, описанная в примере 3.3, не обладает с.к.-производной. 6. Доказать, что процесс броуновского движения w (см. пример 2.5) обладает непрерывной модификацией.

15

=

∂Rξ (t, s) = 2α(t − s) exp{−α(t − s)2 }, Rξ˙ (t, s) = ∂s

∂ 2 Rξ (t, s) = 2α(1 − 2α(t − s)2 ) exp{−α(t − s)2 }, Dξ˙ (t) = Rξ˙ (t, t) = 2α. ∂t∂s

8. В условиях предыдущей задачи вычислить следующие вероят  √ √ ˙ ˙ ности: а) P |ξ(t)| > 2 α ; б) P (ξ(t)/ α − ξ(t))2 < 12 . √ О т в е т. а) 2(1 − Φ( 2)) ≈ 0,1573; б) 2Φ(2) − 1 ≈ 0,9545. 9. Пусть X(t) — процесс из примера 3.4 при α = β. При каких t и s ˙ сечения X(t), X(s): а) некоррелированы; б) наиболее коррелированы? О т в е т. При а) t = s; б) |t − s| = 1/β. 10. Пусть A ∼ N (0, 1), V ∼ C(1) — независимые величины. Является ли случайная функция Z(t) := A ei tV , t ∈ R: а) дифференцируемой; б) с.к.-дифференцируемой? У к а з а н и е. См. пример 2.4. О т в е т. а) да; б) нет. 11. Будет ли случайная функция η(t) := min(t, ρ) при t ∈ [0, 1]: а) дифференцируемой; б) с.к.-дифференцируемой, если ρ ∼ R(0, 1)? Zt Zs

У к а з а н и е. Рассмотреть Γη (t, s) = {1 − max(v, u)} dv du. 00 О т в е т. а) нет; б) да. 12. Доказать, что если с.к.-производная процесса {X(t), t > t0 } эквивалентна непрерывной случайной функции, то существует модификация процесса X(t) с дифференцируемыми траекториями. Zt

eω (t) := Xω (t0 ) + Yω (τ )dτ — искомая модификация, У к а з а н и е. X t0

˙ где Y — непрерывная версия с.к.-производной X. 13. Доказать, что если процесс ξ(t) из задачи 7 гауссовский, то он эквивалентен некоторой дифференцируемой случайной функции.

ИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ФУНКЦИЙ

17

ЗАНЯТИЕ 4 ИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ФУНКЦИЙ

П р и м е р 4.4. Скорость поступления информации через удаленное соединение к конечному пользователю описывается случайным процессом V (t) с математическим ожиданием mV = 105 бит/c и ковариационной функцией RV (t, s) = σV2 max(1 − |t − s|/δ, 0), где σV = 0,5 mV , δ = 1 мин. Найти математическое ожидание и дисперсию количества информации J, полученной на промежутке [0, T ], T > δ. Оценить сверху вероятность того, что объем поступивших данных окажется в два раза меньше своего среднего значения, если а) T = 5 мин; б) T = 1 ч.

П р и м е р 4.1. Случайная функция ξ(t) задана формулой ξ(t) = U1 sin νt + U2 cos νt,

t > 0,

где U1 , U2 — независимые гауссовские случайные величины с нулевым средним и дисперсией D > 0, а ν — положительная константа. Найти явный вид с.к.-интеграла Zt

η(t) = ξ(τ ) dτ,

вычислить его математическое ожидание mη (t) и дисперсию Dη (t), а также определить одномерный закон распределения. П р и м е р 4.2. Рассмотрим интеграл в среднем квадратичном от процесса броуновского движения {w(τ ), τ > 0}: ξ(t) = w(τ ) dτ,

t > 0.

0

Требуется определить ковариационную функцию Rξ (t, s) и дисперсию Dξ (t) процесса ξ(t). П р и м е р 4.3. Случайная функция {η(t), t > 0} удовлетворяет уравнению η(t) ˙ + α η(t) = ξ,

(4.1)

где η(t) ˙ — с.к.-производная, α — вещественное число, ξ — случайная величина, такая что Dξ > 0 и cov{η(0), ξ} = 0. Найти решение уравнения (4.1). При каких значениях коэффициента α существует l.i.m. η(t)? t→+∞

1. Пусть ξ(t) = 1/τ 2 при t 6 τ и ξ(t) = 0 при t > τ , где t ∈ [0, 1], а τ — случайная величина, равномерно распределенная на отрезке Z1

t > 0,

0

Zt

Задачи для самостоятельного решения

[0, 1]. Будет ли существовать интеграл X := ξ(t) dt: а) потраекторно; 0 б) в среднем квадратичном? У к а з а н и е. Использовать MX 2 = ∞. О т в е т. а) да; б) нет. 2. Определить одномерный закон распределения случайной функции {η(t), t > 0}, удовлетворяющей уравнению η(t) ˙ = α η(t) + ξ при начальном условии η(0) = ν, если известно, что постоянная α отлична от нуля, а величины ξ и ν образуют гауссовский вектор с Mξ = mξ , Mν = mν , Dξ = Dξ , Dν = Dν , cov{ξ, ν} = ρ. m О т в е т. η(t) ∼ N (mη (t), Dη (t)), где mη (t) = eαt mν + ξ (eαt − 1), α
D 2ρ 2αt 2 Dη (t) = e2αt Dν + 2ξ (eαt − 1) + e − eαt . α

α

3. Считая процесс V (t), рассмотренный в примере 4.4, гауссовским, вычислить вероятность P{J < MJ/2}. О т в е т. а) Φ(−2,315) ≈ 0,01031; б) Φ(−7,768) ≈ 0. ˙ = 0} = 1 при каждом t ∈ [a, b], то су4. Доказать, что если P{ξ(t) ществует число c ∈ R, такое что ξ(t) = c (P-п.н.) при каждом t ∈ [a, b]. 5. Пусть η(t) =

Zt

0

ξ(τ ) dτ , где {ξ(τ ), τ > 0} — случайная функция,

2 А. Р. Панков и К. В. Семенихин

18

[З. 4

ИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ФУНКЦИЙ

ЗАНЯТИЕ 5 такая что mξ (t) = e−t , Γξ (t, s) = e− max(t,s) . Найти среднее и функцию вторых моментов случайного процесса η(t) (ср. с задачей 11 из предыдущего занятия). О т в е т. mη (t) = 1 − e−t , Γη (t, s) = 2 − (2 + u)e−u − u e−v , где обозначено u := min(t, s), v := max(t, s). Zt 1 6. Найти с.к.-предел случайной функции ξ(t) = 2t

ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ

ξ(u) du при

−t

t → +∞, если {ξ(u), u ∈ R} — процесс с постоянным средним a и ковариационной функцией Rξ (v, u) = b2 cos(v − u). У к а з а н и е. Проверить: mξ (t) = a и Dξ (t) → 0 при t → +∞. О т в е т. l.i.m. ξ(t) = a. t→+∞

П р и м е р 5.1. Доказать, что процесс броуновского движения {w(t), t > 0} является процессом с ортогональными и независимыми приращениями, а его формальная производная — гауссовский стандартный белый шум на [0, ∞). П р и м е р 5.2. Доказать следующий аналог закона больших чисел: если {V (t), t > 0} — белый шум с ограниченной интенсивностью, то Zt

1 с.к. V (τ ) dτ −−−→ 0 t

при

0

t → +∞,

иначе говоря, для белого шума «среднее по времени» совпадает со «средним по пространству», т. е. с его математическим ожиданием. П р и м е р 5.3. Случайная функция {ξ(t), t > 0} удовлетворяет уравнению ˙ = a ξ(t) + b V (t), ξ(t)

ξ(0) = ν,

(5.1)

где a, b — постоянные коэффициенты, V (t) — стандартный белый шум, некоррелированный с начальным условием ν, имеющим среднее mν и дисперсию Dν . Найти а) решение данного уравнения; б) вычислить mξ (t) и Dξ (t) с помощью метода моментов; в) рассмотреть поведение этих характеристик при t → +∞ в зависимости от коэффициентов. П р и м е р 5.4. В условиях примера 5.3 найти характеристическую функцию Ψξ (z; t), если a 6= 0, V (t) — гауссовский белый шум, а начальное значение ν равномерно распределено на [−c, c], где c > 0.

20

[З. 5

ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ

П р и м е р 5.5. Случайная функция ξ(t) удовлетворяет линейному стохастическому дифференциальному уравнению второго порядка ¨ + 2α ω(ξ(t) ˙ − δ) + ω 2 ξ(t) = gV (t), ξ(t)

(5.2)

где V (t) — стандартный белый шум, а α, δ, ω и g — постоянные. Найти предельные значения mξ , σξ математического ожидания и среднеквадратичного отклонения, если α ω > 0.

Rξ (t, s) = Dν + b2 min(t, s), a = 0; lim Rξ (t, t − τ ) = t→+∞

b2 −|aτ | e , a < 0. 2|a|

5. При каких коэффициентах a(t) и b(t) процесс ξ(t), удовлетворяющий линейному стохастическому дифференциальному уравнению ˙ = a(t)ξ(t) + b(t)V (t) со стационарным белым шумом V (t), являетξ(t) ся с.к.-дифференцируемым? У к а з а н и е. См. указание к предыдущей задаче. О т в е т. Только при b(t) = 0 почти всюду. 6. Пусть {Vk } — независимые величины с MVk = 0 и DVk = σk2 , где X 2 σk < ∞; {tk } — возрастающая числовая последовательность. Треk

Задачи для самостоятельного решения

21

ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ

буется: а) доказать, что η(t) :=

Vk — центрированный процесс

X k : tk 6t

с независимыми приращениями; б) найти его дисперсию; в) указать 1. Доказать, что если для центрированной случайной функции {ξ(t), t > 0}, такой что ξ(0) = 0, выполнено одно из условий: а) D{ξ(t) − ξ(s)} = Dξ (t)−Dξ (s) (t > s) или б) Rξ (t, s) = Dξ (min(t, s)), то ξ(t) — процесс с ортогональными приращениями. 2. Обосновать следующие утверждения: а) если {V (t), t > 0} — Zt

белый шум интенсивности λ(t), то ξ(t) = V (s) ds — процесс с ортого0

нальными приращениями и дисперсией Dξ (t) =

Zt

λ(s) ds; б) если же

0

V (t) — гауссовский стандартный белый, то ξ(t) — процесс броуновского движения (ср. с примером 5.1). Zt 3. Рассматривая

стохастический

интеграл

b(τ )dξ(τ ),

η(t) :=

t0

t > t0 , как случайный процесс, найти его ковариационную функцию. Доказать, что η(t) — процесс с ортогональными приращениями. О т в е т. Rη (t, s) =

min(t,s) Z t0

|b(τ )|2 dτ .

+∞ Z

ϕ(t) dη(t).

−∞

О т в е т. Dη (t) =

X k : tk 6t

σk2 ; J =

X

ϕ(tk )Vk , причем ряд сходится

k

в с.к.-смысле для любой функции ϕ(t), такой что

X k

|ϕ(tk )|2 σk2 < ∞.

¨ ˙ 7. При каких коэффициентах уравнение 2-го порядка ξ(t)+α 1 ξ(t)+ +α0 ξ(t) = β1 V˙ (t)+β0 V (t) асимптотически устойчиво? При найденных коэффициентах найти предельные значения mξ , Dξ математического ожидания и дисперсии, если V (t) — стандартный белый шум. ˙ У к а з а н и е. Записать уравнение в виде X(t) = aX(t) + bV (t), где # # " " β1 0 1 2 . , b= X(t) ∈ R , X1 (t) = ξ(t), a = β0 − α1 β1 −α0 −α1 О т в е т. При положительных α1 и α0 ; mξ = 0, Dξ = Zt

Zt

0

0

β02 + α0 β12 . 2α0 α1

8. Пусть X := f (τ ) dξ(τ ), Y := g(τ ) ξ(τ ) dτ , где ξ(τ ) — процесс

4. Найти ковариационную функцию Rξ (t, s) процесса из примера 5.3. В случае a < 0 исследовать поведение Rξ (t, t − τ ) при t → +∞. У к а з а н и е. Записать ξ(t) через интеграл с белым шумом.   b2 a|t−s| b2 О т в е т. Rξ (t, s) = при a 6= 0 и e + ea(t+s) Dν + −2a

способ вычисления стохастического интеграла J :=

2a

с ортогональными приращениями и Dξ (τ ) = τ , τ > 0, а f (τ ), g(τ ) — непрерывные неслучайные функции. Найти DX, DY и cov{X, Y }. У к а з а н и е. Записать Y как стохастический интеграл с помощью формулы интегрирования по частям.

22

ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ

О т в е т. DX = Zt

Zt 0

|f (τ )|2 dτ , DY = Zt

Zt 0

[З. 5

ЗАНЯТИЕ 6 |G(t, τ )|2 dτ и cov{X, Y } =

= f (τ )G(t, τ ) dτ , где G(t, τ ) := g(s) ds. τ

0

ВИНЕРОВСКИЙ ПРОЦЕСС

Zt

9. В условиях задачи 8 записать f (t)ξ(t) + g(τ ) ξ(τ ) dτ в виде стохастического интеграла.

0

Zt

Zt

0

τ

О т в е т. H(t, τ ) dξ(τ ), где H(t, τ ) := f (t) + g(s) ds. 10. Определить одномерное распределение случайной функции Zt

η(t) := sin t w(t) − cos τ w(τ )dτ , t > 0, если w(t) — процесс броунов0 ского движения.   sin 2t t . О т в е т. N 0, −

2

4

11. Найти ковариационную функцию RX (t, s) случайного процесса Zt

X(t) := 2t ξ(t) − ξ(τ )dτ , t > 0, если ξ(τ ) — процесс с ортогональными 0

приращениями, такой что Dξ (τ ) = 6τ . О т в е т. RX (t, s) = 9a2 b + 5a3 , где a := min(t, s), b := max(t, s). 12. Пусть гильбертов процесс {X(t), t > 0} удовлетворяет уравне˙ нию X(t) + αX(t) = βV (t) с постоянными коэффициентами α > 0 и β и нулевым начальным условием, где V (t) — стандартный белый шум и W (t) — соответствующий процесс с ортогональными приращениями. Требуется: а) найти κ(τ ) := lim cov{X(t), W (t − τ )}, если τ > 0; t→+∞

б) доказать, что процессы {X(s), s 6 t}, {V (u), u > t} некоррелированы; в) проверить cov{X(t), W (u)} = cov{X(t), W (t)} при u > t. О т в е т. κ(τ ) = e−ατ/α. 13. Доказать, что если процесс B := {B(t), t ∈ [0, 1]} удовлетво˙ ряет уравнению B(t) = −B(t)/(1 − t) + w(t) ˙ на (0, 1) с броуновским движением w(t) и краевыми условиями B(0) = B(1) = 0, то B — броуновский мост (см. упражнение 6 из занятия 2). Zt У к а з а н и е. Получить представление B(t) = рить гауссовость процесса B, найти RB (t, s).

0

1−t dw(τ ), прове1−τ

П р и м е р 6.1. Построить наилучшую в среднем квадратичном оценку w(t) ˆ сечения w(t) стандартного винеровского процесса по двум наблюдениям w(s) и w(u), где 0 < s < t < u. Определить среднеквадратичную погрешность ∆(t) := M(w(t) ˆ − w(t))2 . П р и м е р 6.2. Определить распределение момента τx первого достижения уровня x > 0 траекторией винеровского процесса. Выяснить, любой ли уровень x будет преодолен. Если да, то сколько в среднем придется ожидать наступления этого события? П р и м е р 6.3. Пусть {ek (t)}∞ k=1 — ортонормированный базис гильбертова пространства L2 [0, 1] вещественных функций, квадратичноинтегрируемых на отрезке [0, 1], а {Vk } — последовательность независимых случайных величин, распределенных по закону N (0, σ 2 ). Доказать, что случайная функция ξ(t) :=

∞ X k=1

Zt

Vk ek (τ ) dτ, 0

t ∈ [0, 1],

(6.1)

эквивалентна на [0, 1] винеровскому процессу, причем ряд в (6.1) сходится в среднем квадратичном. П р и м е р 6.4. Доказать, что процесс Орнштейна—Уленбека, определяемый выражением X(t) := e−α t w(e2 α t ) при t > 0 (где w(t) — винеровский процесс, а α — положительная константа), удовлетворяет линейному стохастическому дифференциальному уравнению: ˙ X(t) + α X(t) = V (t),

t > 0,

(6.2)

с гауссовским белым шумом V (t). Какова интенсивность этого белого шума? Как связаны процессы V (t) и w(t)?

24

ВИНЕРОВСКИЙ ПРОЦЕСС

[З. 6

Задачи для самостоятельного решения  1. Для случайной величины Y := (w(t) − w(s))2 (t − s) найти функцию распределения, если t > s > 0, а w(τ ) — винеровский процесс. Что более вероятно: √ Y < MY или Y > MY ? О т в е т. F Y (y) = 2Φ( y/σ) − 1, y > 0; P{Y < MY } ≈ 0,6826. 2. Для стандартного винеровского процесса {w(τ ), τ > 0} при фиксированных моментах 0 < s < t < u построить с.к.-оптимальные оценки а) w(s) ˆ по {w(t), w(u)} (задача экстраполяции); б) w(u) ˆ по {w(s), w(t)} (задача прогнозирования). Определить среднеквадратичные погрешности ∆(τ ) := M(w(τ ˆ ) − w(τ ))2 . У к а з а н и е. См. решение примера 6.1. О т в е т. а) w(s) ˆ = s w(t)/t, ∆(s) = (t − s)s/t; б) w(u) ˆ = w(t), ∆(u) = u − t. 3. Определить одномерное распределение случайной функции w(t) = max w(τ ), t > 0, где w(τ ) — стандартный винеровский процесс. τ ∈[0,t]

У к а з а н и е. Учесть P{w(t) > x} = P{τx 6 t} и использовать решение примера 6.2. p √ 2 О т в е т. F w(x; t) = 2Φ(x/ t) − 1, p w(x; t) = 2/(πt) · e−x /(2t) . 4. Доказать, что величины |w(t)| и w(t) одинаково распределены. 5. Установить следующее свойство самоподобия винеровского процесса w(t): для всякого c > 0 случайная функция X(t) := w(c t), t > 0, является винеровским процессом. У к а з а н и е. Использовать определение винеровского процесса. 6. Пусть {w(t), t > 0} — процесс броуновского движения (см. пример 2.5). Показать, что случайная функция X(t) := t w(1/t), t > 0, X(0) := 0, также является процессом броуновского движения. У к а з а н и е. Проверить гауссовость и вычислить ковариационную функцию. 7. Скорость U (t) частицы массы m в жидкой среде вязкости β определяется гауссовской случайной функцией, удовлетворяющей уравнению Ланжевена: mU˙ (t) = −β U (t) + w(t), ˙ где w(t) — процесс броуновского движения. Доказать сходимость по распределению функции U (t) к N (0, DU ) при t → +∞. Определить диапазон изменения значений U (t), p возможных p с
вероятностью 0,997, при больших t. О т в е т. −3/ 2βm, 3/ 2βm .

ВИНЕРОВСКИЙ ПРОЦЕСС

25

8. Курс некоторой ценной бумаги описывается случайной функцией X(t) := ew(t) где w(t) — винеровский процесс, X(kh) — цена по истечении k-го дня торгов, h — длительность торговой сессии. Требуется найти вероятность того, что: а) в течение недели курс акции по крайней мере дважды упадет по результатам дневных торгов; б) хотя бы раз за неделю курс вдвое превысит стартовую котировку, если с вероятностью 0,01 в течение дня курс опускается до половины от цены открытия. У к а з а н и е. а) события {X(kh) < X((k − 1)h)}, k = 1, . . . , 7, являются независимыми и равновероятными; б) P{τx 6 7h} — вероятность искомого события, а P{τx 6 h} — известная вероятность, где x = ln 2 (см. также пример 6.2). О т в е т. а) 15/16; б) ≈ 0,3303.

ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО

ЗАНЯТИЕ 7

27

Задачи для самостоятельного решения

ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО

Zt

1. Найти mη (t), Dη (t) и Rη (t, s) для процесса η(t) := w2 (τ ) dw(τ ). 0

П р и м е р 7.1. Найти стохастический интеграл Ито для стандартного винеровского процесса w(s).

Zt

w(s)dw(s)

0

П р и м е р 7.2. Динамика курса ξ(t) ценной бумаги описывается уравнением Самуэльсона: dξ(t) = ξ(t)(a dt + σ dw(t)),

t > 0,

ξ(0) = 1,

(7.1)

a и σ — неслучайные коэффициенты (σ > 0). Доказать, что решение {ξ(t), t > 0} действительно существует. Определить математическое ожидание p mξ (t), дисперсию Dξ (t), а также коэффициент вариации vξ (t) := Dξ (t)/mξ (t), считая, что w(t) — стандартный винеровский процесс.

Всюду далее будем считать, что w(t) — стандартный винеровский процесс, если не оговорено противное.

П р и м е р 7.3. Доказать, что процесс ξ(t) = exp{α t + β w(t)}, t > 0, называемый экономическим броуновским движением, удовлетворяет уравнению Самуэльсона (7.1). Выразить α и β через коэффициенты этого уравнения. П р и м е р 7.4. Вывести формулу стохастического дифференциала d(X1 (t)X2 (t)) произведения двух функций X1 (t), X2 (t), имеющих стохастический дифференциал: а) относительно одного и тоже винеровского процесса; б) относительно независимых винеровских процессов.

О т в е т. mη ≡ 0, Dη (t) = t3 , Rη (t, s) = Dη (min(t, s)). 2. Пусть η(t) — случайный процесс, определенный в задаче 1. Вы числить: а) M{w(t)η(t)}; б) M w2 (t)η(t) . У к а з а н и е. Пользуясь результатом примера 7.4, записать случайные функции w(t)η(t) и w2 (t)η(t) через стохастический интеграл Ито и с.к.-интеграл. О т в е т. а) t2/2; б) 0. 3. Найти решение стохастического дифференциального уравнения 1 dξ(t) = ξ(t) dt + ξ(t) dw(t), ξ(0) = 1. 2

О т в е т. ξ(t) = ew(t) . 4. Показать, что случайная функция E(t) = exp{w(t) − t/2}, называемая стохастической экспонентой, является мартингалом. Найти ее математическое ожидание. Zt У к а з а н и е. Записать E(t) в виде E(t) = 1 + E(s)dw(s). 0 О т в е т. mE ≡ 1. 5. Двумерный случайный процесс X(t) := col[cos w(t), sin w(t)] называется броуновским движением на единичной окружности. Найти стохастическое дифференциальное уравнение, которому удовлетворя  ет X(t). 1 0 −1 — О т в е т. dX(t) = − X(t)dt + U X(t)dw(t), где U = 1 0 2 ◦ матрица поворота на угол 90 . 6. Доказать существование и единственность решения векторного линейного стохастического дифференциального уравнения: dX(t) =
= a(t)X(t) + u(t) dt + b(t)dw(t), X(0) = 0, где a(t), u(t), b(t) — неслучайные кусочно-непрерывные функции. 7. С помощью формулы Ито для решения векторного линейного стохастического дифференциального уравнения вывести уравнения метода моментов. 8. Найти стохастическое дифференциальное уравнение, которому удовлетворяет случайная функция η(t) = sin ξ(t), если ξ(t) — решение

28

ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО

[З. 7

ЗАНЯТИЕ 8 следующего уравнения: dξ(t) = cos ξ(t)dt + cos ξ(t)dw(t). О т в е т. dη(t) = (1 − η 2 (t))(1 − η(t)/2) dt + (1 − η 2 (t)) dw(t). 9. Пусть процесс X(t) допускает стохастический дифференциал с коэффициентом диффузии β(t). Выразить стохастический интеграл

СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

Zt

Y (t) := X(s)dX(s) через сечения X(t), X(0) и функцию β(t). Срав0

нить полученное выражение с найденным в примере 7.1. У к а з а н и е. Воспользоваться результатом примера 7.4. o n Zt 1 2 2 (X (t) − X (0)) − β 2 (s)ds . О т в е т. Y (t) = 2

0

10. Доказать, что нелинейное стохастическое дифференциальное dw(t)

уравнение dξ(t) = − arctg ξ(t) dt + , ξ(0) = 0, имеет решение и 1 + ξ 2 (t) притом единственное. 11. Пусть w1 (t), w2 (t) — независимые винеровские процессы. СуZ1

ществует ли J := w1 (t)dw2 (t), как стохастический интеграл Ито? 0 Z1
О т в е т. Да, так как J = f (t)dw(t), где f (t) := 0 w1 (t) ∈ R1×2 0

является с.к.-непрерывной функцией, неупреждающей относительно двумерного винеровского процесса w(t) := col[w1 (t), w2 (t)]. −1  Zt , где ξ(t) — решение уравне12. Пусть ν(t) := ξ(t) 1 + ξ(τ )dτ 0

ния Самуэльсона (см. пример 7.2). Найти стохастическое дифференциальное уравнение, которому удовлетворяет процесс ν(t). О т в е т. dν(t) = ν(t)[(a − ν(t))dt + σ dw(t)]. 13. Пусть w(t) := col[w1 (t), . . . , wn (t)] — стандартный n-мерный винеровский процесс. Найти стохастический дифференциал квадрата его евклидовой нормы |w(t)|2 := w12 (t) + . . . + wn2 (t). О т в е т. d|w(t)|2 = 2(w(t))∗ dw(t) + ndt = 2

n X

k=1

wk (t)dwk (t) + ndt.

Далее рассматриваются комплексные случайные процессы {ξ(t), t ∈ T }, определенные на временн´ой области T = Z или T = R.

П р и м е р 8.1. Центрированный стационарный случайный процесс {V (t), t ∈ T } с ненулевой постоянной спектральной плотностью называется стационарным белым шумом. Найти ковариационную функцию стационарного белого шума {V (t), t ∈ T } в случаях дискретного и непрерывного времени. Проверить, что данное определение согласовано с определениями белого шума, данными ранее в терминах временн´ой области (см. занятия 2 и 5). П р и м е р 8.2 (Почти периодический процесс). Определим почти периодический процесс {ξ(t), t ∈ T } как линейную комбинацию «гармонических сигналов» ξ(t) :=

N X k=1

Wk eitλk ,

t ∈ T,

(8.1)

где «амплитуды» {Wk } суть центрированные некоррелированные случайные величины с дисперсиями DWk = Ak > 0, а «частоты» {λk } — фиксированные точки соответствующей спектральной области Λ. Доказать, что ξ(t) — стационарный процесс. Найти ковариационную функцию rξ (τ ), спектральную меру Sξ (dλ) и ортогональную стохастическую меру Zξ (dλ). П р и м е р 8.3. Рассмотрим «гармонический сигнал» U (n) := α einθ , n ∈ Z, случайной «амплитуды» α ∼ N (0, 1) и независящей от нее случайной «частоты» θ ∼ R(−π, π). Доказать, что U (n) — стационарная последовательность. Найти ее ковариационную функцию rU (τ ), спектральную плотность sU (λ) и ортогональную стохастическую меру ZU (dλ).

30

[З. 8

СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

П р и м е р 8.4. Ковариационная функция стационарной случайной функции {ξ(t), t ∈ R} имеет вид rξ (t) = D e−α|t| , где D > 0, α > 0. Показать, что ξ(t) имеет спектральную плотность, и вычислить ее. П р и м е р 8.5. Пусть w1 (t) и w2 (t) — независимые стандартные винеровские процессы. Определим случайную функцию {W (t), t ∈ R} по правилу: ( w1 (t), t > 0, W (t) := w2 (−t), t 6 0. Доказать, что процесс ξ(t) := W (t + h) − W (t), t ∈ R, является стационарным (h — положительная константа). Найти его дисперсию и ковариационную функцию.

Задачи для самостоятельного решения 1. Пусть Uk , Vk — действительные некоррелированные X случайные величины, такие что MUk = MVk = 0, DUk = DVk = σk2 , σk2 < ∞. Доказать, что процесс ξ(t) :=

∞ X

k

(Uk cos λk t + Vk sin λk t), t ∈ T , будет

k=1

стационарным ({λk } — точки соответствующей спектральной области). Найти ортогональную стохастическую меру Zξ (dλ), спектральную меру Sξ (dλ) и ковариационную функцию rξ (t). У к а з а н и е. Получить представление ξ(t) =

∞ X

iλk t

Wk e

, где

k=−∞

λ−k := −λk , Wk := (Uk − iVk )/2, W−k := W k при k > 1, W0 := 0, причем {Wk } — некоррелированные величины. О т в е т. Sξ =

∞ X

k=1

σk2

∞ X δ +δ δ −δ δλk + δ−λk Uk λk −λk + Vk λk −λk , Zξ = 2 2 2i ∞ k=1

(δa — мера Дирака, сосредоточенная в точке a), rξ (t) =

X

σk2 cos λk t.

k=1

2. Пусть θ, η — независимые случайные величины, такие что θ равномерно распределена на (−π, π), а η имеет характеристическую функцию ψ(z) и четную плотность вероятности f (x), равную нулю

31

СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

√ вне (−π, π). Показать, что последовательность ξ(n) := cos(nη + θ) 2 является стационарной. Найти mξ , Dξ , rξ (n) и sξ (λ). О т в е т. mξ = 0, Dξ = 1, rξ (n) = ψ(n), sξ (λ) = f (λ). sin an

3. Пусть ρ(n) = при n 6= 0 и rξ (0) = a/π, где 0 < a < π. Докаπn зать, что ρ(n) есть ковариационная функция некоторой стационарной последовательности ξ. Найти ее спектральную плотность sξ (λ). О т в е т. sξ (λ) равна 1/(2π) на отрезке [−a, a] и нулю вне его. 4. Найти дисперсию и ковариационную функцию случайной последовательности, имеющей спектральную плотность sξ (λ) = π − |λ|. О т в е т. Dξ = rξ (0) = π 2 , rξ (n) = 2(−1)n n2 при n 6= 0. 5. Доказать, что сумма ξ(t) := ξ1 (t) + ξ2 (t) двух некоррелированных между собой стационарных процессов {ξi (t), t ∈ T } также является стационарным процессом. Найти спектральную меру, спектральную плотность и ортогональную стохастическую меру процесса ξ(t). О т в е т. Sξ = Sξ1 + Sξ2 , sξ = sξ1 + sξ2 , Zξ = Zξ1 + Zξ2 . 6. Определить спектральную  плотность процесса из примера 8.5. О т в е т. sξ (λ) = (1 − cos λh) (πλ2 ). 7. Пусть U , X — независимые величины, такие что U ∼ N (0, 1), а X имеет плотность вероятности f (x) := 1/(π(1 + x2 )). Доказать, что √ itX случайная функция ξ(t) := U (1 + iX)e / 2, t ∈ R, представляет собой стандартный белый шум. ∞ Z У к а з а н и е. Проверить для отображения Jξ (ϕ)(ω) := ϕ(t)ξω (t)dt −∞

следующие условия: а) J(ϕ) — случайная величина, линейно завися∞ Z

щая от ϕ; б) M{J(ϕ)} = 0; в) D{J(ϕ)} = ν

−∞

|ϕ(t)|2 dt.

8. Доказать теорему Котельникова: если спектр стационарной функции {ξ(t), t ∈ R} ограничен, т. е. sξ (λ) = 0 вне конечного проме  ∞ X sin(at − πk) πk жутка [−a, a], то ξ(t) = ξ (P-п.н.), иначе говоря, k=−∞

at − πk

a

функция целиком определяется последовательностью своих сечений. У к а з а н и е. Получить разложение eitλ в ряд Фурье на [−a, a] по

системе {eiπk/a , k ∈ Z}. Подставить его в интеграл ξ(t) =

Za

eitλ Zξ (dλ).

−a

32

[З. 8

СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ

ЗАНЯТИЕ 9 9. Доказать, что гауссовский процесс {ξ(t), t ∈ T }, стационарный в широком смысле, является также стационарным в узком смысле, т. е. для любых фиксированных моментов t1 , . . . , tn ∈ T конечномерное распределение Pξ (t1 + h, . . . , tn + h) не зависит от h ∈ T . 10. Найти спектральную плотность стационарной функции {ξ(t), −α|t| t ∈ R} с ковариационной cos λo0 t, где α > 0. n функцией rξ (τ ) = e О т в е т. sξ (λ) =

α 2π

ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ

1 1 + 2 . α2 + (λ + λ0 )2 α + (λ − λ0 )2

11. Стационарная функция η(t), t ∈ R имеет спектральную плот-

ность sη (λ) =

λ2 (α − β) + α2 (α + β) , где α > β > 0. Определить коваπ(λ2 + α2 )2

риационную функцию. О т в е т. rη (τ ) = (1 + β|t|)e−α|t| . 12. Является ли с.к.-дифференцируемой стационарная функция σ2 α

2(α2 − β 2 )

· , со спектральной плотностью sξ (λ) = π [(α − β)2 + λ2 ][(α + β)2 + λ2 ] где α > β > 0? У к а з а н и е. Если преобразование Фурье функции f (t), t ∈ R, представляет собой квадратично интегрируемую (на всей прямой) функцию, то существует и непрерывна вторая производная f ′′ (t). О т в е т. Является.

П р и м е р 9.1 (Модель авторегрессии первого порядка). Даны стационарная последовательность ξ(n) и число a ∈ (−1, 1), a 6= 0. Доказать, что уравнение авторегрессии первого порядка η(n) = a η(n − 1) + b ξ(n),

n ∈ Z,

(9.1)

имеет единственное решение η := {η(n), n ∈ Z}, которое представляет собой стационарный процесс. Найти частотную характеристику и весовую функцию преобразования (9.1). Получить представление η через ξ в спектральной и временн´ой областях. Определить ковариационную функцию «выхода» η, если «входом» ξ является стандартный белый шум. П р и м е р 9.2. Даны стационарная функция ξ(t) и число α > 0. Доказать, что линейное дифференциальное уравнение η(t) ˙ = −α η(t) + β ξ(t),

(9.2)

t ∈ R,

имеет единственное стационарное решение η := {η(t), t ∈ R}. Найти частотную характеристику и весовую функцию, соответствующие данному линейному преобразованию. Получить явные формулы, связывающие «вход» ξ и «выход» η. Определить ковариационную функцию процесса η(t), если ξ(t) — стандартный белый шум. П р и м е р 9.3 (Закон больших чисел для стационарных последовательностей). Пусть {ξ(n), n ∈ Z} — стационарный случайный процесс со средним mξ и спектральной плотностью sξ (λ). Доказать, что для любого n ∈ Z ξ N (n) :=

N −1 1 X с.к. ξ(n − k) −−−→ mξ N k=0

при

N → ∞.

(9.3)

34

ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ

[З. 9

ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ

35

П р и м е р 9.4. Пусть {Y (t), t ∈ R} — наблюдения «полезного сигнала» f (t) со случайной «помехой» ξ(t):

Задачи для самостоятельного решения

Y (t) = f (t) + ξ(t),

1. Найти спектральную плотность случайной последовательности η(n) = a0 ξ(n) + a1 ξ(n − 1), n ∈ Z, если ξ — стационарный белый шум. О т в е т. sη (λ) = Dξ (a20 + a21 + 2a0 a1 cos λ)/(2π). 2. Обозначим H(Y ) пространство, полученное замыканием относительно с.к.-сходимости множества всех линейных комбинаций сечений гильбертовой последовательности Y . Случайная величина θˆ называется наилучшим прогнозом величины θ по наблюдениям Y ,  линейным  2 2 ˆ если M |θ − θ| 6 M |ν − θ| для любой ν ∈ H(Y ). В условиях примера 9.1, считая ξ стандартным белым шумом, определить наилучший линейный прогноз ηˆ(n), n > 1, по наблюде2 2 ниям {η(m), m 6 0}. Найти σ := lim M |ˆ η (n) − η(n)| . n→+∞ У к а з а н и е. ηˆ(n) — ортогональная проекция в L2 (Ω) элемента η(n) = an η(0) + an−1 b ξ(1) + . . . + a b ξ(n − 1) + b ξ(n) на подпространство H({η(m), m 6 0}), которое совпадает с H({ξ(m), m 6 0}). О т в е т. ηˆ(n) = an η(0), σ 2 = Dη = b2 /(1 − a2 ). 3. Найти явные выражения для решений разностных уравнений:

где f (t) — неслучайная дифференцируемая функция, а ξ(t) — широкополосный белый шум, т. е. центрированная стационарная случайная функция с дисперсией Dξ и постоянной на [−λ0 , λ0 ] спектральной плотностью  Dξ /(2λ0 ), |λ| 6 λ0 , sξ (λ) = 0, |λ| > λ0 . Наблюдаемый процесс Y (t) подвергается численному дифференцированию с шагом h > 0: Xh (t) =

Y (t + h) − Y (t) . h

(9.4)

Вычислить математическое ожидание и дисперсию «численной производной» (9.4). Исследовать их поведение при h → 0.

П р и м е р 9.5. Пусть {ξ(n), n ∈ Z} — почти периодическая последовательность, т. е. ξ(n) = V1 einλ1 + V2 einλ2 + . . . + V N einλN , где {Vk } — некоррелированные величины с нулевым средним и дисперсиями Ak > 0, {λk } — различные точки спектральной области (−π, π] (ср. с примером 8.2). Рассмотрим преобразование ξea (n) :=

N X k=1

ak ξ(n − k),

n ∈ Z,

(9.5)

которое осуществляет прогноз сечения ξ(n) по предыдущим N измерениям {ξ(n − 1), ξ(n − 2), . . . , ξ(n − N )}. При каком наборе коэффициентов a = {a1 , . . . , aN } прогноз (9.5) будет оптимальным, т. е. будет достигаться минимум среднеквадратичной погрешности  D(a) := M |ξea (n) − ξ(n)|2 ?

Чему равна с.к.-погрешность оптимального прогноза?

(9.6)

η(n − 2)

2η(n − 1)

η(n − 2)

а) η(n) = η(n − 1) − + ξ(n); б) η(n) = − + ξ(n). 4 3 12 У к а з а н и е. Определить весовую функцию из разложения частотной характеристики H(λ) в ряд Тейлора по степеням z = e−iλ .  ∞ ∞ X X (k + 1) 1 1 ξ(n − k); б) η(n) = 3 − k+1 × О т в е т. а) η(n) = k k+1 2 2 6 k=0 k=0 × ξ(n − k). 4. Является ли фильтром следующее линейное преобразование: η(n) = (ξ(n + 1) + ξ(n − 1))/2, n ∈ Z? Найти спектральную плотность sη (λ), если ξ — стандартный белый шум. Какое физически реализуемое преобразование дает «на выходе» ту же спектральную плотность? 1 cos2 λ; η(n) = (ξ(n) + ξ(n − 2))/2. О т в е т. Нет; sη (λ) = 2π

5. Определить спектральную плотность и ортогональную стохастическую меру процесса Y (t), являющегося выходом: а) «усилительного звена» Y (t) = A X(t), где A — постоянная; б) «запаздывающего звена» Y (t) = X(t−h) при h > 0. Указать соответствующие частотные характеристики. О т в е т. а) H(λ) = A, sY (λ) = |A|2 sX (λ), ZY (dλ) = A ZX (dλ); б) H(λ) = e−ihλ , sY (λ) = sX (λ), ZY (dλ) = e−ihλ ZX (dλ). 3*

36

[З. 9

ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ

З А Н Я Т И Е 10 6. Указать частотную характеристику H(λ), соответствующую ˙ операции дифференцирования: X(t) 7→ X(t). Доказать, что стационарный процесс X(t) дифференцируем в среднем квадратичном тогда и только тогда, когда H ∈ L2 (R, SX ). Определить SX˙ (dλ) и ZX˙ (dλ). О т в е т. H(λ) = iλ, SX˙ (dλ) = λ2 SX (dλ), ZX˙ (dλ) = iλ ZX (dλ). 7. Найти спектральную плотность стационарной функции Y (t), удовлетворяющей уравнению Y˙ (t) + α Y (t) = β X(t) + U (t), если X(t) ˙ является стационарным решением уравнения X(t) + γ X(t) = V (t), где U (t), V (t) — независимые стандартные белые шумы, а α > 0, β и γ > 0 — константы. λ2 + β 2 + γ 2 О т в е т. sY (λ) = . 2 2 2 2 2π(λ + α )(λ + γ )

8. Частотная характеристика H(λ) некоторого линейного преобразования равна единице при a 6 |λ| 6 b и нулю при остальных λ ∈ R, где b > a > 0. Найти весовую функцию g(t) этого преобразования и дисперсию выходного сигнала {ξ(t), t ∈ R}, если на вход поступает белый шум V (t) интенсивности ν. О т в е т. g(t) = (sin bt − sin at)/(πt), Dξ = ν (b − a)/π. 1

t+h Z

9. Определить частотную характеристику ξ h (t) = ξ(s) ds. 2h t−h Доказать, что l.i.m. ξ h (t) = mξ , если sξ (λ) ограничена. h→∞

О т в е т. H(λ) =

sin λh при λ 6= 0 и H(0) = 1. λh

ПОТОКИ СОБЫТИЙ. ПУАССОНОВСКИЙ ПРОЦЕСС

П р и м е р 10.1. Обосновать следующие свойства простейшего потока, предварительно указав их корректные формулировки: а) интенсивность простейшего потока равна среднему числу событий, происходящих на интервале времени единичной длины; б) распределение времени от текущего момента до момента происшествия очередного события не зависит от того, сколько прошло времени от момента появления последнего события до текущего момента. П р и м е р 10.2. Предположим, что некоторое физическое тело содержит 1020 атомов. Время распада ядра одного атома представляет собой случайную величину, распределенную по экспоненциальному закону с математическим ожиданием 109 лет. Описать соответствующий поток распадов. За какое время распаду подвергнется половина всех частиц (время полураспада)? Объяснить почему данный поток на ограниченном интервале времени можно считать простейшим. Каково среднее количество распавшихся ядер в течение одной секунды? П р и м е р 10.3. Рассмотрим случайную функцию {ξ(t), t > 0}, называемую телеграфным сигналом, ξ(t) = Vk

при

t ∈ [Tk , Tk+1 ),

k = 0, 1, 2, . . . ,

T0 = 0,

где {Vk } — «бинарные сообщения», т. е. P{Vk = ±1} = 1/2, а {Tk } — случайные моменты прихода этих сообщений, где Tk+1 − Tk ∼ E(λ0 ). При этом случайные величины {Tk+1 −Tk , Vl , k, l > 0} предполагаются независимыми в совокупности. Показать, что телеграфный сигнал ξ(t) — стационарная случайная функция, и вычислить ее ковариационную функцию rξ (t).

38

ПОТОКИ СОБЫТИЙ. ПУАССОНОВСКИЙ ПРОЦЕСС

[З. 10

П р и м е р 10.4. Описать поток {Tn }, составленный из двух неза(j) висимых простейших потоков {Tn }, j = 1, 2. Что будет представлять собой процесс восстановления η(t), соответствующий потоку {Tn }?

П р и м е р 10.5 (Сложно-пуассоновский процесс). Сумма выплат, производимых страховой компанией по одинаковым договорам, описывается сложно-пуассоновским процессом X(t) := W1 + . . . + Wη(t) , t > 0, где {Wk } — случайные величины, имеющие одну и ту же характеристическую функцию ψ(θ) и определяющие размер выплат в k-м страховом случае; η(t) — пуассоновский процесс (интенсивности λ), равный числу страховых случаев, произошедших за время t; размеры выплат и число страховых случаев независимы в совокупности. Найти математического ожидание, дисперсию и характеристическую функцию суммы выплат Y , произведенных на промежутке (s, t].

Задачи для самостоятельного решения 1. На телефонную станцию поступает простейший поток вызовов. В среднем в одну минуту поступают три вызова. Какова вероятность того, что: а) в течение двух минут на станцию не поступит ни одного вызова; б) за минуту поступят по крайней мере два вызова? О т в е т. а) ≈ 0,002479; б) ≈ 0,8009. 2. Сколько в условиях задачи 1 занимает в среднем ожидание: а) первого вызова; б) девятого вызова; в) девятого вызова по истечении семнадцати секунд после того, как поступил восьмой вызов? У к а з а н и е. а) MT1 ; б) MT9 ; в) M{T9 − (T8 + δ) | T9 > T8 + δ}, где {Tn } — простейший поток интенсивности 1/3 мин−1 и δ := 17 с. О т в е т. а) 20 с; б) 3 мин; в) 20 с. 3. В условиях задачи 1 определить: а) интервал (M − ∆M, M + + ∆M ), в котором с вероятностью 0,95 находится число вызовов, поступивших на станцию за три часа (где M — среднее число указанных вызовов, ∆M > 0); б) вероятность того, что за сутки станция примет не более 4500 вызовов. У к а з а н и е. Использовать нормальную аппроксимацию пуассоновского распределения. О т в е т. а) (494, 586); б) 0,9968.

ПОТОКИ СОБЫТИЙ. ПУАССОНОВСКИЙ ПРОЦЕСС

39

4. Даны два случайных события Ai := {в простейшем потоке интенсивности λ на промежутке ∆i произошло не менее N событий}, i = 1, 2. При каких условиях события A1 и A2 : а) равновероятны; б) независимы; в) A1 менее вероятно, чем A2 ; г) A1 влечет A2 ? О т в е т. а) промежутки имеют одинаковую длину; б) ∆1 ∩∆2 = ∅; в) ∆1 — меньшей длины, чем ∆2 ; г) ∆1 ⊆ ∆2 . 5. Пусть T+ — время от текущего момента t до момента появления следующего события в простейшем потоке {Tn } интенсивности λ, а T− — время, прошедшее с момента последнего события вплоть до t. Доказать, что величины T+ , T− независимы, и найти их распределение (ср. с п. б) примера 10.1). У к а з а н и е. Положить T+ = Tη(t)+1 − t и T− = t − Tη(t) ; рассмотреть вероятности P{T+ > u, T− > s, η(t) = n} при u > 0, s ∈ [0, t], n = 0, 1, . . . ; использовать соотношение {Tn 6 t} = {η(t) > n}. О т в е т. T+ ∼ E(λ); P{T− 6 s} = 1 − e−λs при 0 6 s 6 t и P{T− = = t} = e−λt (усеченное показательное распределение на [0, t]). 6. Зависит ли распределение величины: а) T+ ; б) T− от числа событий в потоке, произошедших до текущего момента (см. задачу 5)? У к а з а н и е. Определить условные распределения величин T+ , T− относительно события {η(t) = n}. О т в е т. а) нет; б) P{T− 6 s | η(t) = n} = 1 − (1 − s/t)n при s ∈ ∈ [0, t] и n > 1, P{T− = 0 | η(t) = 0} = 1. 7. Считая, что телеграфный сигнал (см. пример 10.3) определен на всей числовой прямой, найти его спектральную плотность. О т в е т. sξ (λ) =

2λ0 . π(4λ20 + λ2 )

8. Построить процесс восстановления ζ(t), соответствующий «прореженному» потоку {T2n }, где {Tn } — простейший поток, отвечающий пуассоновскому процессу η(t) интенсивности λ. Каково распределение времени между моментами наступления событий в «прореженном» потоке? Какова его интенсивность µ? Является ли {T2n } однородным, ординарным, потоком без последействия? О т в е т. ζ(t) = [η(t)/2], где [. . .] — целая часть числа; величины T2(n+1) − T2n распределены по закону Эрланга второго порядка; µ = λ/2; {T2n } — однородный ординарный поток с последействием. 9. Пусть ν(t) = η1 + . . . + η[t] , где {ηn } — независимые случайные величины, распределенные по закону Π(ρ). Будет ли поток событий, отвечающий ν(t): а) ординарен, б) обладать последействием?

40

ПОТОКИ СОБЫТИЙ. ПУАССОНОВСКИЙ ПРОЦЕСС

[З. 10

З А Н Я Т И Е 11 О т в е т. Поток событий — неординарный без последействия. 10. Неоднородный пуассоновский поток {Un } определяется процессом восстановления ηe(t) = η(a(t)), где η(t) — стандартный пуассоновский процесс, a(t) — абсолютно непрерывная неубывающая функция, такая что a(0) = 0. При какой «замене времени» a(t) поток {Un } будет иметь заданную интенсивность λ(t), в частности, λ(t) = sin2 t? О т в е т. a′ (t) = λ(t); a(t) = t/2 − (sin 2t)/4 при λ(t) = sin2 t. 11. Доказать, что сложно-пуассоновский процесс — процесс с независимыми приращениями (см. пример 10.5). Каковы его математическое ожидание и ковариационная функция? О т в е т. mX (t) = µ λ t; RX (t, s) = ν 2 λ min(t, s). 12. Допустим, что в условиях примера 10.5 b — фиксированный размер выплат, а q — вероятность страхового случая. Описать закон распределения суммы выплат X(t), произведенных за время t. У к а з а н и е. P{Wk = b} = q, P{Wk = 0} = 1 − q. О т в е т. X(t) = b ηe(t), где ηe(t) ∼ Π(qλ t). 13. Описать поток событий, получаемый из простейшего в результате случайного удаления событий, если p — вероятность удаления, а λ — интенсивность исходного потока. У к а з а н и е. ζ(t) = W1 + . . . + Wη(t) — соответствующий процесс восстановления, где Wk ∼ Bi(1, 1 − p), η(t) — пуассоновский процесс. О т в е т. Поток событий — простейший интенсивности (1 − p)λ.

МАРКОВСКИЕ ПРОЦЕССЫ

П р и м е р 11.1. Рассмотрим последовательность бросаний симметричной игральной кости. Пусть случайная величина Vn есть число очков, выпавшее на грани при n-м бросании. Введем последовательность случайных величин по правилу ξ(n) := max(V1 , . . . , Vn ),

n = 1, 2, . . .

Показать, что последовательность ξ(n) — однородная марковская, и определить для нее переходную вероятность. П р и м е р 11.2. Рассмотрим процесс авторегрессии 2-го порядка X(n) = α1 X(n − 1) + α2 X(n − 2) + Vn ,

n > 2,

X(0) = X(1) = 0,

где {Vn } — стандартный гауссовский белый шум, α1 , α2 — постоянные коэффициенты, причем α2 6= 0. Показать, что последовательность {X(n)} — немарковская, тем не менее, существует двумерный однородный марковский процесс {Y (n)}, такой что X(n) ≡ Y1 (n). П р и м е р 11.3. Доказать, что винеровский процесс {w(t), t > 0} и пуассоновский процесс {η(t), t > 0} являются однородными марковскими. Найти их переходные вероятности. П р и м е р 11.4. Пользуясь обратным уравнением Колмогорова, найти решение уравнения теплопроводности ∂g(x, t) 1 = ∆g(x, t), ∂t 2

x ∈ Rm ,

t > 0,

(11.1)

при начальном условии g(x, 0) = IK (x), где IK (x) — индикаторная функция m-мерного куба K := {x ∈ Rm : |x1 | 6 1, . . . , |xm | 6 1}, а ∆ — оператор Лапласа, т. е. ∆g(x, t) :=

∂ 2 g(x, t) ∂ 2 g(x, t) + ... + . 2 ∂x1 ∂x2m

42

МАРКОВСКИЕ ПРОЦЕССЫ

[З. 11

Задачи для самостоятельного решения

1. В примере 11.1 найти: а) распределение π(10) := (π1 (10), . . . . . . , π6 (10)), где πx (n) := P{ξ(n) = x}, если πx (9) = 1/6; б) π(10), если π5 (11) = π6 (11) = 1/2; в) переходную вероятность за два шага p1,6 (2). О т в е т. а) π(10) = (1/36, 1/12, 5/36, 7/36, 1/4, 11/36); б) π(10) = = (0, 0, 0, 0, 3/5, 2/5); в) p1,6 (2) = 11/36. 2. Пусть {Vn } — независимые величины с функцией распределения F (x). Доказать, что процесс {X(n)}, удовлетворяющий уравнению авторегрессии первого порядка: X(n) = αX(n − 1) + Vn , n > 1, где α, X0 = const, является однородным марковским. Найти функцию распределения переходной вероятности за один шаг: P(x, 1, (−∞, y]). О т в е т. F (−α x + y). 3. Пусть ξ(n) := V1 + . . . + Vn , n > 1, где {Vn } — независимые случайные величины, принимающие значения {1, −1} с вероятностями p и q соответственно. Найти переходные вероятности px,y (m). О т в е т. px,y (m) = P{ν = (y − x + m)/2}, где ν ∼ Bi(m, p), x, y ∈ Z. 4. Доказать, что последовательность η(n) := max{ξ(n), 0} немарковская, если {ξ(n)} определена в предыдущей задаче при p = q = 1/2. У к а з а н и е. P{η(3) = 0 | η(2) = η(1) = 0} = 6 P{η(3) = 0 | η(2) = 0}. 5. Найти переходную плотность скалярного процесса X(t), удовлетворяющего уравнению dX(t) = A X(t)dt + B dw(t), где A, B = const, причем A, B 6= 0, а {w(t), t > 0} — стандартный винеровский процесс. У к а з а н и е. p(x, t, y) = pX (y; t), если X(0) = x. o n (y − mx (t))2 1 О т в е т. p(x, t, y) = p , где mx (t) := x eAt , exp − B 2 |1 − e2At | D(t) := . 2|A|

2π D(t)

2D(t)

6. Используя уравнения Колмогорова, найти фундаментальное решение уравнения теплопроводности, т. е. функцию U (x, t), такую что ∂U (x, t) 1 = ∆U (x, t) при t > 0 и U (x, 0) = δ(x), где x ∈ Rm . ∂t 2

У к а з а н и е. U (x, t) = pw (x; t), где w(t) — стандартный m-мерный винеровский процесс. 2 О т в е т. U (x, t) = (2π t)−m/2 e−|x| /2t , где |x|2 := x21 + . . . + x2m . 7. Найти плотность одномерного распределения процесса {ξ(t), t > 0}, ξ(0) = 1, если его переходная плотность удовлетворяет урав-

МАРКОВСКИЕ ПРОЦЕССЫ

нению 2

43



∂p(x, t, y) ∂ ∂2 =− y p(x, t, y) + 2 y 2 p(x, t, y) , где x, t, y > 0. ∂t ∂y ∂y

У к а з а н и е. Использовать результат задачи 3 из занятия 7. 2 О т в е т. pξ (y; t) = (2π t y 2 )−1/2 e−(ln y) /2t . 8. Процессом Коши называют процесс с независимыми приращениями {ξ(t), t > 0}, такой что ξ(0) = 0 и ξ(t) − ξ(s) ∼ C(t − s) для любых t > s > 0. Доказать, что процесс Коши — однородная марковская случайная функция, и найти ее переходную плотность. t . О т в е т. p(x, t, y) = 2 2 π(t + (y − x) )

9. Проверить, что броуновский мост {B(t), t ∈ [0, 1]} — неоднородный марковский процесс. Какова его переходная вероятность? У к а з а н и е. Использовать следующее необходимое и достаточное условие марковости гауссовского процесса: Rξ (t1 , t3 )Rξ (t2 , t2 ) = = Rξ (t1 , t2 )Rξ (t2 , t3 ) для любых моментов t1 , t2 , t3 , таких что t1 6 6 t2 6 t3 .   (1 − t)(t − s) 1−t x, при 0 < s < t < 1. О т в е т. P(s, x, t, ·) = N 1−s

1−s

ЦЕПИ МАРКОВА

З А Н Я Т И Е 12 ЦЕПИ МАРКОВА

П р и м е р 12.1. На рис. 12.1 изображен стохастический граф цепи Маркова, у которой все переходы, возможные из данного состояния, происходят с одинаковой вероятностью. Требуется: 1) записать переходную матрицу; 2 2) провести классификацию состояний; 3) найти период существенных состояний; 4) выяснить, существует ли предельное 3 1 распределение, если цепь начинает свое движение: а) из состояния «2»; б) из «4»; в) из состояний «4», «5» с равными вероятностями; 5) определить общий вид инвариантного распределения. 4 5 Рис. 12.1

П р и м е р 12.2. О цепи Маркова с множеством состояний E = {1, 2, 3, 4} известно следующее: p 1,2 = p 2,3 = 1, p 3,1 = p 3,2, p 4,4 = 3p 4,2, остальные вероятности перехода

равны нулю. Существует ли стационарное распределение? Если да, то найти его. Сколько в среднем придется ждать возвращения в первое состояние? Вычислить вероятность пребывания цепи в состояниях {1, 2} по истечении тысячи шагов, если в начальный момент цепь находилась: а) в первом состоянии; а) в четвертом состоянии?

П р и м е р 12.3. Рассмотрим случайное блуждание {ξ(n), n > 0}, которое определяется, как ξ(n) = ξ(n − 1) + Vn при n > 1, где {Vn } — последовательность независимых величин, распределенных по закону P{Vn = 1} = p, P{Vn = −1} = q (p, q — положительные числа, такие что p + q = 1), а ξ(0) — неслучайное целое начальное значение.

45

Доказать, что {ξ(n)} — цепь Маркова с множеством состояний Z. Найти вероятности перехода. Провести классификацию состояний. Существует ли стационарное распределение? П р и м е р 12.4. Рассмотрим мо0,5 дель игры двух лиц в следующих 0 предположениях: A и B — начальные 0,25 0,25 капиталы первого и второго игро0,5 ков соответственно; игра состоит из партий, проводимых последователь- 0,5 1 2 0,8 но; результат новой партии не зависит от предыстории игры; в каждой 0,2 партии капитал первого игрока лиРис. 12.4 бо увеличивается на единицу либо уменьшается на единицу; выигрыш и проигрыш в отдельно взятой партии равновероятны (безобидная игра); при разорении одного из игроков игра прекращается. Описать указанную игру с помощью марковской цепи. Найти вероятность RA разорения первого игрока. Сколько в среднем будет продолжаться игра?

Задачи для самостоятельного решения 1. Марковская цепь задана стохастическим графом (рис. 12.4). Доказать, что существует стационарное распределение π, и найти его. Определить среднее время q выхода из несущественного состояния. О т в е т. π = (0, 2/7, 5/7); q = 2. 2. В условиях примера 12.2 а) определить распределение момента Q выхода из несущественного состояния; б) найти его математическое ожидание q. У к а з а н и е. Вычислить P{Q = n} по формуле умножения, используя марковское свойство. О т в е т. P{Q = n} = (3/4)n−1 /4, n = 1, 2, . . . , (геометрическое распределение), q = 4. 3. Случайная последовательность {ξ(n)} удовлетворяет условию: ξ(n) равно остатку от деления числа ξ(n − 1) + Vn на пять при

46

[З. 12

ЦЕПИ МАРКОВА

n > 1, где ξ(0) ∈ {0, 1, 2, 3, 4}, {Vn } — независимые величины, такие что P{Vn = ±1} = 1/2. Найти инвариантное распределение. Будет ли оно стационарным? Вычислить предельную вероятность P := lim P{ξ(n) 6= 4 | ξ(n + 1) 6= 0}, n→∞

если а) π(0) — равномерное распределение; б) π(0) = (1, 0, 0, 0, 0). О т в е т. Стационарное распределение существует и совпадает с равномерным; P = 7/8 при любом π(0). 4. В условиях примера 12.2 при ξ(0) = 1 найти: а) распределение момента возвращения τ1 ; б) вероятность возвращения не ранее, чем за пять шагов; в) среднее время возвращения µ1 , сравнив его с полученным в примере 12.2. О т в е т. а) P{τ1 = 2m + 1} = (1/2)m , m = 1, 2, . . . ; б) P{τ1 > 5} = = 1/2; в) µ1 = 5. p q

2

1

0

q

p

p

q

···

p

q

q

p

N

N−1

N−2

q

Рис. 12.5

5. Марковская цепь задана стохастическим графом (рис. 12.5), где 0 < p < 1, q = 1 − p. Доказать, что существует стационарное распределение π, и найти его. ax (1 − a) , x = 0, 1, . . . , N , где a := p/q; О т в е т. Если p 6= q, то π x = 1 − aN +1 если p = q, то π x = 1/(N + 1). 6. Доказать, что последовательность ξ(n) = max(ξ(n − 1) + Vn , 0) образует положительную бесконечную цепь Маркова, если {Vn } — независимые величины такие, что Vn ∈ {−1, 1} и P{Vn = −1} > 1/2. У к а з а н и е. Если τ , τ N — моменты первого возвращения в 0 для {ξ(n)} и цепи, указанной в задаче 5, то lim τ N = τ и sup Mτ N < ∞. N →∞

N

7. Рассматривая пример 12.4 в предположении, что p — вероятность выигрыша первого игрока, определить вероятность RA его разорения. В каком случае RA можно сделать сколь угодно малой за счет выбора начального капитала A? О т в е т. RA =

p > 1/2 и lim RA = 1 − (1/α)B > 0 при p < 1/2. A→∞

8. Через фиксированные промежутки времени проводится контроль технического состояния прибора, который может находиться в одном из трех состояний: «1» (работает); «2» (неисправен и ожидает ремонта); «3» (ремонтируется). Известно, что ремонт производится только после поломки. Вероятность того, что за период между проверками прибор останется в том же состоянии, равна: 0,8, если он был исправен; 0,1, если ожидал ремонта; 0,3, если ремонтировался. Считая, что состояние прибора описывается марковской цепью, записать ее переходную матрицу. В стационарном режиме найти: а) вероятность пребывания прибора в рабочем состоянии; б) среднее время возвращения в неисправное состояние. О т в е т. а) π 1 = 63/95 ≈ 0,6632; б) µ2 = 95/14 ≈ 6,786; P=

p

αA − αA+B , если α := (1 − p)/p 6= 1; lim RA = 0 при 1 − αA+B A→∞

47

ЦЕПИ МАРКОВА

"

0,8 0 0,7

0,2 0 0,1 0,9 0 0,3

#

.

ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ

49

З А Н Я Т И Е 13 ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ

П р и м е р 13.1. Для пуассоновского процесса {η(t), t > 0} интенсивности λ определить интенсивности переходов. П р и м е р 13.2. Рассмотрим модель простейшей системы массового обслуживания на примере работы канала связи: вызовы приходят в случайные моменты времени, образующие простейший поток интенсивности λ; время обслуживания одного вызова (т.е. время разговора) распределено по экспоненциальному закону с параметром µ; канал связи обслуживает в каждый момент времени только один вызов; при занятом канале поступающий вызов не принимается; поток вызовов и поток обслуживания независимы. Описать данную систему с помощью марковской функции ξ(t), имеющей два состояния. Какова вероятность S(t) обслуживания вызова, поступившего в момент t, если в начальный момент времени канал был свободен? Чему равна эта вероятность при больших t? Зависит ли она начального состояния канала? П р и м е р 13.3. Теперь изучим модель системы массового обслуживания, содержащей два параллельно работающих канала и очередь на три места. Предположим, что на вход такой системы поступает простейший поток заявок (запросов); среднее время ожидания одной заявки составляет две минуты; каналы (приборы) обслуживания работают независимо; время обслуживания на каждом их них распределено экспоненциально и имеет математическое ожидание, равное пяти минутам. Рассмотрим процесс ξ(t), равный в момент времени t > 0 числу заявок, находящихся в системе. Считая, что ξ(t) — марковский процесс, найти интенсивности переходов, стационарное распределение вероятностей состояний, а также предельную вероятность того, что очередь будет занята полностью. П р и м е р 13.4. Предположим, что число особей в некоторой биологической популяции описывается однородной марковской функцией

ν(t). Известно, что максимально возможное число особей N достаточно велико, а интенсивности рождения и гибели пропорциональны текущей численности популяции, точнее bx = x λ, dx = x µ, x = 1, . . . , N . Таким образом, параметры λ и µ представляют собой относительные (т. е. из расчета на одну особь) интенсивности рождения и гибели. При этом b1 = λ есть интенсивность притока новых особей извне. При каком соотношении между параметрами λ и µ данная популяция: а) имеет тенденцию к развитию; б) склонна к деградации; в) имеет максимально неопределенное будущее?

Задачи для самостоятельного решения 1. В условиях примера 13.2 найти вероятность перехода p 0,1(h) для произвольных λ > 0, µ > 0 и показать, что p 0,1(h) = λ h + o(h).
λ О т в е т. p 0,1(h) = e−λh − e−µh при λ 6= µ, p 0,1(h) = λ h e−λh µ−λ при λ = µ. 2. Система массового обслуживания содержит один канал обслуживания и очередь на N мест. Поток заявок и поток обслуживания являются простейшими и имеют одинаковую интенсивность. В стационарном режиме определить: а) распределение числа заявок, обслуживаемых системой; б) среднюю длину очереди. О т в е т. а) равномерное; б)

(N − 1)N . (N + 1)2

3. Пусть система, рассмотренная в предыдущей задаче, содержит два одинаковых параллельных канала обслуживания: а) во сколько раз сократиться средняя длина очереди; б) какова вероятность того, что очередь не будет занята вовсе? Вычисления провести в предположении, что система находится в стационарном режиме, а N велико. О т в е т. а) ≈ 3N/2; б) ≈ 2/3. 4. Система содержит s параллельно работающих приборов с временем обслуживания, распределенным по закону E(µ). Считая, что входной поток заявок — простейший интенсивности λ, определить стационарные вероятности состояний. При каком количестве приборов s вероятность потери заявки можно сделать меньше 0,001, если µ = λ? О т в е т. π x = (ρx/x!)(1 + ρ + . . . + ρs/s!)−1 (формула Эрланга), где 4 А. Р. Панков и К. В. Семенихин

50

ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ

[З. 13

x = 0, 1, . . . , s, ρ := λ/µ; π s < 0,001 при s = 6. 5. Поток отказов прибора — простейший с интенсивностью λ. Если прибор отказал, то отказ обнаруживается в течение случайного времени, имеющего распределение E(ν). Ремонт осуществляется после обнаружения отказа и продолжается случайное время с распределением E(µ). Найти стационарную вероятность того, что прибор исправен. О т в е т. 1/(1 + λ/µ + λ/ν). 6. Система содержит два канала с временем обслуживания, распределенным по закону E(µ). При этом каналы обслуживают заявки последовательно, входной поток заявок — простейший интенсивности λ. В стационарном режиме вычислить вероятность: а) «простоя»; б) полного обслуживания. У к а з а н и е. В п.б) использовать формулу полной вероятности относительно группы  гипотез: Hx = {система находится в состоянии x}. О т в е т. а) 1 (1 + ρ)2 ; б) (1 + ρ/2)/(1 + ρ)2 , где ρ := λ/µ. 7. В условиях примера 13.4 найти вероятность выживания десятой части популяции от ее максимальной численности N = 100, если интенсивность рождения на два процента меньше интенсивности гибели. О т в е т. ≈ 0,7897. 8. В некоторой популяции интенсивность гибели dx = x µ пропорциональна численности x, а интенсивность рождения пропорциональна числу «свободных» мест: bx = (N + 1 − x)λ, N — максимальная численность. В стационарном режиме найти: а) распределение числа особей; б) вероятность гибели всей популяции; в) интервал, в котором с вероятностью 0,997 находится численность, если N = 106 и λ = µ. О т в е т. а) Bi(N, (1 + µ/λ)−1 ); б) (1 + λ/µ)−N ; в) (498500, 501500).

СПИСОК ЛИТЕРАТУРЫ 1. Боровков А. А. Теория вероятностей. — М.: Эдиториал УРСС, 1999. 2. Булинский А. В., Ширяев А. Н. Теория случайных процессов. — М.: Физматлит, 2003. 3. Вентцель А. Д. Курс теории случайных процессов. — М.: Наука, 1996. 4. Вентцель Е. С., Овчаров Л. А. Теория случайных процессов и ее инженерные приложения. — М.: Высшая школа, 2001. 5. Гихман И. И., Скороход А. В. Введение в теорию случайных процессов. — М.: Наука, 1977. 6. Гнеденко Б. В., Коваленко И. Н. Введение в теорию массового обслуживания. — М.: Наука, 1987. 7. Ивченко Г. И., Медведев Ю. И. Математическая статистика. — М.: Высшая школа, 1984. 8. Колмогоров А. Н., Фомин С. В. Элементы теории функций и функционального анализа. — М.: Физматлит, 2003. 9. Королюк В. С. и др. Справочник по теории вероятностей и математической статистике. — М.: Наука, 1985. 10. Миллер Б. М., Панков А. Р. Теория случайных процессов в примерах и задачах. — М.: Физматлит, 2002. 11. Оксендаль Б. Стохастические дифференциальные уравнения. — М.: Мир, 2003. 12. Пугачев В. С. Лекции по функциональному анализу. — М.: Изд-во МАИ, 1996. 13. Пугачев В. С. Теория вероятностей и математическая статистика. — М.: Физматлит, 2002. 14. Пугачев В. С., Синицын И. Н. Стохастические дифференциальные системы. — М.: Наука, 1990. 15. Розанов Ю. А. Стационарные случайные процессы. — М.: Наука, 1990. 16. Ширяев А. Н. Вероятность. — М.: Наука, 1989. 17. Ширяев А. Н. Основы стохастической финансовой математики. Т. 1. — М.: Фазис, 1998. 18. Ширяев А. Н. Задачи по теории вероятностей. — М.: МЦНМО, 2006.