Реферат: Понятие случайного процесса в математике

Министерство образования и науки РФ

Череповецкий государственный университет

Инженерно-экономический институт

Реферат

Понятие случайного процесса в математике

Выполняла студентка

группы 5 ГМУ-21

Иванова Юлия

Череповец

2009

Содержание

Введение

Основная часть

· Определение случайного процесса и его характеристики

· Марковские случайные процессы с дискретными состояниями

· Стационарные случайные процессы

· Эргодическое свойство стационарных случайных процессов

Литература

Введение

Понятие случайного процесса введено в XX столетии и связано с именами А.Н. Колмогорова (1903-1987), А.Я. Хинчина (1894-1959), Е.Е. Слуцкого (1880-1948), Н. Винера (1894-1965).

Это понятие в наши дни является одним из центральных не только в теории вероятностей, но также в естествознании, инженерном деле, экономике, организации производства, теории связи. Теория случайных процессов принадлежит к категории наиболее быстро развивающихся математических дисциплин. Несомненно, что это обстоятельство в значительной мере определяется ее глубокими связями с практикой. XX век не мог удовлетвориться тем идейным наследием, которое было получено от прошлого. Действительно, в то время, как физика, биолога, инженера интересовал процесс, т.е. изменение изучаемого явления во времени, теория вероятностей предлагала им в качестве математического аппарата лишь средства, изучавшие стационарные состояния.

Для исследования изменения во времени теория вероятностей конца XIX - начала XX века не имела ни разработанных частных схем, ни тем более общих приемов. А необходимость их создания буквально стучала в окна и двери математической науки. Изучение броуновского движения в физике подвело математику к порогу создания теории случайных процессов.

Считаю необходимым упомянуть еще о двух важных группах исследований, начатых в разное время и по разным поводам.

Во-первых, эта работы А.А. Маркова (1856-1922) по изучению цепных зависимостей. Во-вторых, работы Е.Е. Слуцкого (1880-1948) по теории случайных функций.

Оба этих направления играли очень существенную роль в формировании общей теории случайных процессов.

Для этой цели уже был накоплен значительный исходный материал, и необходимость построения теории как бы носились в воздухе.

Оставалось осуществить глубокий анализ имеющихся работ, высказанных в них идей и результатов и на его базе осуществить необходимый синтез.

Определение случайного процесса и его характеристики

Определение : Случайным процессом X(t) называется процесс, значение которого при любом значении аргумента tявляется случайной величиной.

Другими словами, случайный процесс представляет собой функцию, которая в результате испытания может принять тот или иной конкретный вид, неизвестный заранее. При фиксированном t=t₀ X(t₀ ) представляет собой обычную случайную величину, т.е. сечение случайного процесса в момент t_0.

Примеры случайных процессов:

1.численность населения региона с течением времени;

2.число заявок, поступающих в ремонтную службу фирмы, с течением времени.

Случайный процесс можно записать в виде функции двух переменных X(t,ω), где ω€Ω, t€T, X(t, ω) € ≡ и ω – элементарное событие, Ω - пространство элементарных событий, Т – множество значений аргумента t, ≡ - множество возможных значений случайного процесса X(t, ω).

Реализацией случайного процесса X(t, ω) называется неслучайная функция x(t), в которую превращается случайный процесс X(t) в результате испытания (при фиксированном ω), т.е. конкретный вид, принимаемый случайным процессом X(t), его траектория.

Таким образом, случайный процесс X(t, ω) совмещает в себе черты случайной величины и функции. Если зафиксировать значение аргумента t, случайный процесс превращается в обычную случайную величину, если зафиксировать ω, то в результате каждого испытания он превращается в обычную неслучайную функцию. В дальнейшем изложении опустим аргумент ω, но он будет подразумеваться по умолчанию.

На рисунке 1 изображено несколько реализаций некоторого случайного процесса. Пусть сечение этого процесса при данном tявляется непрерывной случайной величиной. Тогда случайный процесс X(t) при данном t определяется полностью вероятности φ(x‚ t). Очевидно, что плотность φ(x, t) не является исчерпывающим описанием случайного процесса X(t), ибо она не выражает зависимости между его сечениями в разные моменты времени.

Случайный процесс X(t) представляет собой совокупность всех сечений при всевозможных значений t, поэтому для его описания необходимо рассматривать многомерную случайную величину (X(t₁ ), X(t₂ ), …, X(t_n )), состоящей из всех сочетаний этого процесса. В принципе таких сочетаний бесконечно много, но для описания случайного процесса удаётся часть обойтись относительно небольшим количеством сочетаний.

Говорят, что случайный процесс имеет порядок n , если он полностью определяется плотностью совместного распределения φ(x_1, x₂ , …, x_n ; t₁ , t₂ , …, t_n ) nпроизвольных сечений процесса, т.е. плотностью n-мерной случайной величины (X(t₁ ), X(t₂ ), …, X(t_n )), где X(t_i ) – сочетание случайного процесса X(t) в момент времени t_i , i=1, 2, …, n.

Как и случайная величина, случайный процесс может быть описан числовыми характеристиками. Если для случайной величины эти характеристики являются постоянными числами, то для случайного процесса – неслучайными функциями.

Математическим ожиданием случайного процесса X(t) называется неслучайная функция a_x (t), которая при любом значении переменной tравна математическому ожиданию соответствующего сечения случайного процесса X(t), т.е. a_x (t)=М [X(t)].

Дисперсией случайного процесса X(t) называется неслучайная функция D_x (t), при любом значении переменной tравная дисперсии соответствующего сочетания случайного процесса X(t), т.е. D_x (t)= D[X(t)].

Средним квадратическим отклонением σ_x (t) случайного процесса X(t) называется арифметическое значение корня квадратного из его дисперсии, т.е. σ_x (t)= D_x (t).

Математическое ожидание случайного процесса характеризует среднюю траекторию всех возможных его реализаций, а его дисперсия или среднее квадратическое отклонение - разброс реализаций относительно средней траектории.

Введённых выше характеристик случайного процесса оказывается недостаточно, так как они определяются только одномерным законом распределения. Если для случайного процесса Х₁ (t) характерно медленное изменение значений реализаций с изменением t, то для случайного процесса Х₂ (t) это изменение проходит значительно быстрее. Другими словами, для случайного процесса Х₁ (t) характерна тесная вероятностная зависимость между двумя его сочетаниями Х₁ (t₁ ) и Х₁ (t₂ ), в то время как для случайного процесса Х₂ (t) эта зависимость между сочетаниями Х₂ (t₁ ) и Х₂ (t₂ ) практически отсутствует. Указанная зависимость между сочетаниями характеризуется корреляционной функцией.

Определение: Корреляционной функцией случайного процесса Х(t) называется неслучайная функция

K_x (t₁ , t₂ ) = M[(X(t₁ ) – a_x (t₁ ))(X(t₂ ) – a_x (t₂ ))] (1.)

двух переменных t₁ и t₂ , которая при каждой паре переменных t₁ и t₂ равна ковариации соответствующих сочетаний Х(t₁ ) и Х(t₂ ) случайного процесса.

Очевидно, для случайного процесса Х(t₁ ) корреляционная функция K_{x 1} (t₁ , t₂ ) убывает по мере увеличения разности t₂ - t₁ значительно медленнее, чем K_{x 2} (t₁ , t₂ ) для случайного процесса Х(t₂ ).

Корреляционная функция K_x (t₁ , t₂ ) характеризует не только степень тесноты линейной зависимости между двумя сочетаниями, но и разброс этих сочетаний относительно математического ожидания a_x (t). Поэтому рассматривается также нормированная корреляционная функция случайного процесса.

Нормированной корреляционной функцией случайного процесса Х(t) называется функция:

P_x (t₁ , t₂ ) = K_x (t₁ , t₂ ) / σ_x (t₁ )σ_x (t₂ ) (2)

Пример № 1

Случайный процесс определяется формулой X(t) = Xcosωt, где Х – случайная величина. Найти основные характеристики этого процесса, если М(Х) = а, D(X) = σ² .

РЕШЕНИЕ:

На основании свойств математического ожидания и дисперсии имеем:

a_x (t) = M(X cosωt) = cosωt * M(X) = a cosωt,

D_x (t) = D(X cosωt) = cos² ωt * D(X) = σ² cos² ωt.

Корреляционную функцию найдём по формуле (1.)

K_x (t₁ , t₂ ) = M[(X cosωt₁ – a cosωt₁ ) (X cos ωt₂ – a cosωt₂ )] =

= cosωt₁ cosωt₂ * M[(X – a)(X - a)] = cosωt₁ cosωt₂ * D(X) = σ² cosωt₁ cosωt₂ .

Нормированную корреляционную функцию найдём по формуле (2.):

P_x (t₁ , t₂ ) = σ² cosωt₁ cosωt₂ / (σcosωt₁ )( σcosωt₂ ) ≡ 1.

Случайные процессы можно классифицировать в зависимости от того, плавно или скачкообразно меняются состояния системы, в которой они протекают, конечно (счетно) или бесконечно множество этих состояний и т.п. Среди случайных процессов особое место принадлежит Марковскому случайному процессу.

Теорема. Случайный процесс X(t) является гильбертовым тогда и только тогда, когда существует R(t, t’) для всех (t, t’)€ T*T.

Теорию гильбертовых случайных процессов называют корреляционной.

Заметим, множество Т может быть дискретным и континуальным. В первом случае случайный процесс Х_t называют процессом с дискретным временем, во втором – с непрерывным временем.

Соответственно сочетания Х_t могут быть дискретными и непрерывными случайными величинами.

Случайный процесс называется Х(t) выборочно неправильным, дифференцируемым и интегрируемым в точке ω€Ω, если его реализация x(t) = x(t, ω) соответственно непрерывна, дифференцируема и интегрируема.

Случайный процесс Х(t) называется непрерывным: почти, наверное, если

P(A)=1, A = {ω € Ω : lim x(t_n ) = x(t)}

В среднем квадратическом, если

LimM[(X(t_n ) – X(t))² ] = 0

По вероятности , если

Aδ ≥ 0 : limP[| X(t_n ) – X(t)| > δ] = 0

Сходимость в среднем квадратическом обозначают также:

X(t) = limX(t_n )

Оказывается, из выборочной непрерывности следует непрерывность почти наверное, из непрерывности почти наверное и в среднем квадратическом следует непрерывность по вероятности.

Теорема. Если X(t) – гильбертов случайный процесс, непрерывный в среднем квадратическом, то m_x (t) – непрерывная функция и имеет место соотношение

Lim M [X(t_n )] = M [X(t)] = M [lim X(t_n )].

Теорема. Гильбертов случайный процесс X(t) непрерывен в среднем квадратическом тогда и только тогда, когда непрерывна его ковариационная функция R(t, t’) в точке (t, t).

Гильбертов случайный процесс X(t) называется дифференцируемым в среднем квадратическом, если существует случайная функция X(t) = dX(t)/dtтакая, что

X(t) = dX(t)/ dt = lim X(t+∆t) – X(t) / ∆t

(t € T, t +∆t € T),

т.е. когда

Lim M [((X(t + ∆t) – X(t) / (∆t)) – X(t))² ] = 0

Случайную функцию X(t) будем называть производной в среднем квадратическом случайного процесса X(t) соответственно в точке t или на T.

Теорема. Гильбертов случайный процесс X(t) дифференцируем в среднем квадратическом в точке t тогда и только тогда, когда существует

δ² R(t, t’) / δtδt’ в точке (t, t’). При этом:

R_x (t, t’) = M[X(t)X(t’)] = δ² R(t, t’) / δtδt’.

Если гильбертов случайный процесс дифференцируем на Т, то его производная в среднем квадратическом также является гильбертовым случайным процессом; если выборочные траектории процесса дифференцируемы на Т с вероятностью 1, то с вероятностью 1 их производные совпадают с производными в среднем квадратическом на Т.

Теорема. Если X(t) - гильбертов случайный процесс, то

M[dX(t) / dt] = (d / dt) M[X(t)] = dm_x (t) / dt.

Пусть (0, t) – конечный интервал, 0 <t₁ < … <t_n = t – его точки

X(t) - гильбертов случайный процесс.

Y_n = ∑ X(t_i )(t_i – t_i-1 ) (n = 1,2, …).

Тогда случайная величина

Y(t) = limY_n

max (t_i – t_{i -1} )→0

Называется интегралом в среднем квадратическом процесса X(t) на (0, t) и обозначается:

Y(t) = ∫ X(τ)dτ.

Теорема . Интеграл Y(t) в среднем квадратическом существует тогда и только тогда, когда ковариационная функция R(t, t’) гильбертова процесса X(t) непрерывна на Т×Т и существует интеграл

R_y (t, t’) = ∫ ∫ R(τ, τ’) dτdτ’

Если интеграл в среднем квадратическом функции X(t) существует, то

M[Y(t)] = ∫ M[X(τ)]dτ,

R_Y (t, t’) = ∫ ∫ R(τ, τ’)dτdτ’

K_y (t, t’) = ∫ ∫ K(τ, τ’)dτdτ’

Здесь R_y (t, t’) = M[Y(t)Y(t’)], K_y (t, t’) = M[Y(t)Y(t’)] – ковариационная и корреляционная функции случайного процесса Y(t).

Теорема. Пусть X(t) – гильбертов случайный процесс с ковариационной функцией R(t, t’), φ(t) – вещественная функция и существует интеграл

∫ ∫ φ(t)φ(t’)R(t, t’)dtdt’

Тогда существует в среднем квадратическом интеграл

∫ φ(t)X(t)dt.

Случайные процессы:

X_i (t) = V_i φ_i (t) (i = 1n)

Где φ_i (t) – заданные вещественные функции

V_i - случайные величины с характеристиками

M(V_I = 0), D(V_I ) = D_I , M(V_i V_j ) = 0 (i ≠ j)

Называют элементарными.

Каноническим разложением случайного процесса X(t) называют его представление в виде

X(t) = m_x (t) + ∑ V_i φ_i (t) (t € T)

Где V_i – коэффициенты, а φ_i (t) – координатные функции канонического разложения процесса X(t).

Из отношений:

M(V_I = 0), D(V_I ) = D_I , M(V_i V_j ) = 0 (i ≠ j)

X(t) = m_x (t) + ∑ V_i φ_i (t) (t € T)

Следует:

K(t, t’) = ∑ D_i φ_i (t)φ_i (t’)

Эту формулу называют каноническим разложением корреляционной функции случайного процесса.

В случае уравнения

X(t) = m_x (t) + ∑ V_i φ_i (t) (t € T)

Имеют место формулы:

X(t) = m_x (t) + ∑ V_i φ(t)

∫ x(τ)dt = ∫ m_x (τ)dτ + ∑ V_i ∫ φ_i (t)dt.

Таким образом, если процесс X(t) представлен его каноническим разложением, то производная и интеграл от него также могут быть представлены в виде канонических разложений.

Марковские случайные процессы с дискретными состояниями

Случайный процесс, протекающий в некоторой системе S с возможными состояниями S₁ , S₂ , S₃ , …, называется Марковским , или случайным процессом без последствия , если для любого момента времени t₀ вероятные характеристики процесса в будущем (при t>t₀ ) зависит только от его состояния в данный момент t₀ и не зависят от того, когда и как система пришла в это состояние; т.е. не зависят от её поведения в прошлом (при t<t₀ ).

Примером Марковского процесса: система S – счётчик в такси. Состояние системы в момент t характеризуется числом километров (десятых долей километров), пройденных автомобилем до данного момента. Пусть в момент t₀ счётчик показывает S₀ / Вероятность того, что в момент t>t₀ счётчик покажет то или иное число километров (точнее, соответствующее число рублей) S₁ зависит от S₀ , но не зависит от того, в какие моменты времени изменились показания счётчика до момента t₀ .

Многие процессы можно приближенно считать Марковскими. Например, процесс игры в шахматы; система S – группа шахматных фигур. Состояние системы характеризуется числом фигур противника, сохранившихся на доске в момент t₀ . Вероятность того, что в момент t>t₀ материальный перевес будет на стороне одного из противников, зависит в первую очередь от того, в каком состоянии находится система в данный момент t_0, а не от того, когда и в какой последовательности исчезли фигуры с доски до момента t₀ .

В ряде случаев предысторией рассматриваемых процессов можно просто пренебречь и применять для их изучения Марковские модели.

Марковским случайным процессом с дискретными состояниями и дискретным временем (или цепью Маркова) называется Марковский процесс, в котором его возможные состояния S₁ , S₂ , S_3, … можно заранее перечислить, а переход из состояния в состояние происходит мгновенно (скачком), но только в определённые моменты времени t_0, t_1, t_2, ..., называемые шагами процесса.

Обозначим p_ij – вероятность перехода случайного процесса (системы S) из состояния I в состояние j. Если эти вероятности не зависят от номера шага процесса, то такая цепь Маркова называется однородной.

Пусть число состояний системы конечно и равно m. Тогда её можно характеризовать матрицей перехода P₁ , которая содержит все вероятности перехода:

p₁₁ p₁₂ … p_1m

p₂₁ p₂₂ … p_2m

… … … …

P_m1 p_m2 … p_mm

Естественно, по каждой строке ∑ p_ij = 1, I = 1, 2, …, m.

Обозначим p_ij (n) – вероятностью того, что в результате n шагов система перейдёт из состояния I в состояние j. При этом при I = 1 имеем вероятности перехода, образующие матрицу P₁ , т.е. p_ij (1) = p_ij

Необходимо, зная вероятности перехода p_ij , найти p_ij (n) – вероятности перехода системы из состояния I в состояние j за n шагов. С этой целью будем рассматривать промежуточное (между I и j) состояние r, т.е. будем считать, что из первоначального состояния I за k шагов система перейдёт в промежуточное состояние r с вероятностью p_ir (k), после чего за оставшиеся n-k шагов из промежуточного состояния r она перейдёт в конечное состояние j с вероятностью p_rj (n-k). Тогда по формуле полной вероятности

P_ij (n) = ∑ p_ir (k) p_rj (n-k) – равенство Маркова.

Убедимся в том, что, зная все вероятности перехода p_ij = p_ij (1), т.е. матрицу P₁ перехода из состояния в состояние за один шаг, можно найти вероятность p_ij (2), т.е. матрицу P₂ перехода из состояния в состояние за два шага. А зная матрицу P₂ , - найти матрицу P₃ перехода из состояния в состояние за три шага, и т.д.

Действительно, полагая n = 2 в формуле P_ij (n) = ∑ p_ir (k) p_rj (n-k), т.е. k=1 (промежуточное между шагами состояние), получим

P_ij (2) = ∑ p_ir (1)p_rj (2-1) = ∑ p_ir p_rj

Полученное равенство означает, что P₂ =P₁ P₁ = P² ₁

Полагая n = 3, k = 2, аналогично получим P₃ = P₁ P₂ = P₁ P₁ ² = P₁ ³ , а в общем случае P_n = P₁ ⁿ

Пример

Совокупность семей некоторого региона можно разделить на три группы:

1. семьи, не имеющие автомобиля и не собирающиеся его покупать;

2. семьи, не имеющие автомобиля, но намеревающиеся его приобрести;

3. семьи, имеющие автомобиль.

Проведённое статистическое обследование показало, что матрица перехода за интервал в один год имеет вид:

0,8 0,1 0,1

0 0,7 0,3

0 0 1

(В матрице P₁ элемент р₃₁ = 1 означает вероятность того, что семья, имеющая автомобиль, также будет его иметь, а, например, элемент р₂₃ = 0,3 – вероятность того, что семья, не имевшая автомобиля, но решившая его приобрести, осуществит своё намерение в следующем году, и т.д.)

Найти вероятность того, что:

1. семья, не имевшая автомобиля и е собиравшаяся его приобрести, будет находиться в такой же ситуации через два года;

2. семья, не имевшая автомобиля, но намеревающаяся его приобрести, будет иметь автомобиль через два года.

РЕШЕНИЕ: найдём матрицу перехода Р₂ через два года:

0,8 0,1 0,1 0,8 0,1 0,1 0,64 0,15 0,21

0 0,7 0,3 0 0,7 0,3 0 0,49 0,51

0 0 1 0 0 1 0 0 1

То есть искомые в примере 1) и 2) вероятности равны соответственно

р₁₁ =0,64, р₂₃ =0,51

Далее рассмотрим Марковский случайный процесс с дискретными состояниями и непрерывным временем, в котором, в отличие от рассмотренной выше цепи Маркова, моменты возможных переходов системы из состояния не фиксированы заранее, а случайны.

При анализе случайных процессов с дискретными состояниями удобно пользоваться геометрической схемой – так называемым графиком событий . Обычно состояния системы изображаются прямоугольниками (кружками), а возможные переходы из состояния в состояние – стрелками (ориентированными дугами), соединяющими состояния.

Пример. Построить граф состояний следующего случайного процесса: устройство S состоит из двух узлов, каждый из которых в случайный момент времени может выйти из строя, после чего мгновенно начинается ремонт узла, продолжающийся заранее неизвестное случайное время.

РЕШЕНИЕ. Возможные состояния системы: S_{0 –} оба узла исправны; S₁ – первый узел ремонтируется, второй исправен; S₂ – второй узел ремонтируется, первый исправен; S₃ – оба узла ремонтируются.

Стрелка, направления, например, из S₀ в S₁ , означает переход системы в момент отказ первого узла, из S₁ в S₀ – переход в момент окончания ремонта этого узла.

На графе отсутствуют стрелки из S₀ в S₃ и из S₁ в S₂ . Это объясняется тем, что выходы узлов из строя предполагается независимыми друг от друга и, например, вероятностями одновременного выхода из строя двух узлов (переход из S₀ в S₃ ) или одновременного окончания ремонтов двух узлов (переход из S₃ в S₀ ) можно пренебречь.

Стационарные случайные процессы

Случайный процесс Х(t) называют стационарным в узком смысле , если

F(x₁ , …, x_n ; t₁ , …, t_n ) = F(x₁ , …, x_{n ;} t₁ +∆, …, t_n +∆)

При произвольных

n≥1, x₁ , …, x_n , t₁ , …, t_n ; ∆; t₁ € T, t_i + ∆ € T.

Здесь F(x₁ , …, x_n ; t₁ , …, t_n ) – n-мерная функция распределения случайного процесса Х(t).

Случайный процесс Х(t) называют стационарным в широком смысле , если

m(t) = m(t + ∆), K(t, t’) = K(t + ∆, t’ + ∆)

(t € T, t’ € T, t + ∆€ T), t’ + ∆€ T)

Очевидно, что из стационарности в узком смысле следует стационарность в широком смысле.

Из формул:

m(t) = m(t + ∆), K(t, t’) = K(t + ∆, t’ + ∆)

(t € T, t’ € T, t + ∆€ T), t’ + ∆€ T)

Следует, что для процесса, стационарного в широком смысле, можно записать

m (t) = m_x (0) = const;

D (t) = K(t, t) = K(0,0) = const;

K(t, t’) = K(t – t’, 0) = K (0, t’ - t)

Таким образом, для процесса, стационарного в широком смысле, математическое ожидание и дисперсия не зависят от времени, а K(t, t’) представляет собою функцию вида:

K(t, t’) = k(τ) = k(-τ), τ = t’ – t.

Видно, что k(τ) – чётная функция, при этом

K(0) = В = σ² ; |k(τ)| ≤ k(0); ∑ ∑ ά_i α_j k(t_i - t_j ) ≥ 0

Здесь D – дисперсия стационарного процесса

Х(t), α_i (I = 1, n) – произвольные числа.

Первое равенство системы

K(0) = В = σ² ; |k(τ)| ≤ k(0); ∑ ∑ ά_i α_j k(t_i - t_j ) ≥ 0

следует из уравнения K(t, t’) = k(τ) = k(-τ), τ = t’ – t. Первое равенство

K(0) = В = σ² ; |k(τ)| ≤ k(0); ∑ ∑ ά_i α_j k(t_i - t_j ) ≥ 0 - простое следствие неравенства Шварца для сечений X(t), X(t’) стационарного случайного процесса X(t). Последнее неравенство:

K(0) = В = σ² ; |k(τ)| ≤ k(0); ∑ ∑ ά_i α_j k(t_i - t_j ) ≥ 0

Получают следующим образом:

∑ ∑ α_i α_j k(t_i - t_j ) = ∑ ∑ K(t_i , t_j )α_i α_j = ∑ ∑ M[(α_i X_i )(α_j X_j )] = M[(∑ α_i X_i )² ] ≥0

Учитывая формулу корреляционной функции производной dX(t)/dt случайного процесса, для стационарной случайной функции X(t) получим

K₁ (t, t’) = M[(dX(t)/dt)*(dX(t’)/dt’)] = δ² K(t, t’) / δtδt’ = δ² k(t’ - t) / δtδt’

Поскольку

δk(t’ - t) / δt = (δk(τ) / δτ) * (δτ / δτ) = - δk(τ) / δτ,

δ² k(t’ - t) / δtδt’ = - (δ² k(τ) / δτ² ) * (δτ / δt’) = - (δ² k(τ) / δτ² )

то K₁ (t, t’) = k₁ (τ) = - (δ² k(τ) / δτ² ), τ = t’ – t.

Здесь K₁ (t, t’) и k₁ (τ) – корреляционная функция первой производной стационарного случайного процесса X(t).

Для n-й производной стационарного случайного процесса формула корреляционной функции имеет вид:

K_n (τ) = (-1)ⁿ * (δ^{2 n} *k(τ) / δτ^{2 n} )

Теорема. Стационарный случайный процесс X(t) с корреляционной функцией k(τ) непрерывен в среднем квадратическом в точке t € T тогда и только тогда, когда

Limk(τ) = k(0)

Для доказательства запишем очевидную цепочку равенств:

M [|X(t+τ)-X(T)|² ] = M[|X(t)|² ] – 2M[|X(t+τ)X(t)|] + M[X(t)² ] =

= 2D-2k(τ) = 2[k(0)-k(τ)].

Отсюда очевидно, что условие непрерывности в среднем квадратическом процесса X(t) в точке t € T

LimM[|X(t+τ) – X(t)|² ] = 0

Имеет место тогда и только тогда, когда выполняется Limk(τ) = k(0)

Теорема. Если корреляционная функция k(τ) стационарного случайного процесса X(t) непрерывна в среднем квадратическом в точке τ=0, то она непрерывна в среднем квадратическом в любой точке τ € R¹ .

Для доказательства запишем очевидные равенства:

k(τ+∆τ)-k(τ) = M[X(t+τ+∆τ)X(t)] – M[X(t+τ)X(t)] =

= M{X(t)[X(t+τ+∆τ) – X(t+τ)]}

Затем, применяя неравенство Шварца к сомножителям в фигурной скобке и учитывая соотношения:

K(t, t’) = k(τ) = k(-τ), τ = t’ – t.

K(0) = В = σ² ; |k(τ)| ≤ k(0); ∑ ∑ ά_i α_j k(t_i - t_j ) ≥ 0

Получим:

0 ≤ [k(τ+∆τ)-k(τ)]² ≤ M[X(t)² ]M[|X(t+τ+∆τ)-X(t+τ)|² ] =

= 2D[D-k(∆τ)].

Переходя к пределу при ∆τ→0 и принимая во внимание условие теоремы о непрерывности k(τ) в точке τ=0, а также первое равенство системы

K(0) = В = σ² , найдём

Limk(τ+∆τ) = k(τ)

Поскольку здесь τ – произвольное число, теорему следует считать доказанной.

Эргодическое свойство стационарных случайных процессов

Пусть Х(t) - стационарный случайный процесс на отрезке времени [0,T] с характеристиками

M[X(t)] = 0, K(t, t’) = M[X(t)X(t’)] = k(τ),

τ = t’ – t, (t, t’) € T×T.

Эргодическое свойство стационарного случайного процесса заключается в том, что по достаточно длительной реализации процесса можно судить о его математическом ожидании, дисперсии, корреляционной функции.

Более строго стационарный случайный процесс Х(t) будем называть эргодическим по математическому ожиданию, если

LimM {|(1 / T)∫ X(t)dt|² } = 0

Теорема

Стационарный случайный процесс Х(t) с характеристиками:

M[X(t)] = 0, K(t, t’) = M[X(t)X(t’)] = k(τ),

τ = t’ – t, (t, t’) € T×T

является эргодическим по математическому ожиданию тогда и только тогда, когда

Lim (2 / T) ∫ k(τ) (1 – τ/t)dτ = 0.

Для доказательства, очевидно, достаточно убедиться, что справедливо равенство

M{(1 / T) ∫X(t)dt|² } = (2 / T) ∫ k(τ) (1 – τ/t)dτ

Запишем очевидные соотношения

C = M {|(1 / T) ) ∫X(t)dt|² } = (1 / T² ) ∫ ∫ k(t’ - t)dt’dt = (1/T) ∫ dt ∫ k(t’ - t)dt’.

Полагая здесь τ = t’ – t, dτ = dt’ и учитывая условия (t’ = T) → (τ = T - t),

(t’ = 0)→(τ = -t), получим

С = (1/T² ) ∫ dt ∫ k(τ)dτ = (1/T² ) ∫ dt ∫ k(τ)dτ + (1/T² ) ∫ dt ∫ k(τ)dτ =

= -(1/T² ) ∫ dt ∫ k(τ)dτ - (1/T² ) ∫ dt ∫ k(τ)dτ

Полагая в первом и втором слагаемых правой части этого равенства соответственно τ = -τ’, dτ = -dτ’, τ = T-τ’, dτ = -dτ’, найдем

С = (1/T² ) ∫ dt ∫ k(τ)dτ + (1/T² ) ∫ dt ∫ k(T - τ)dτ

Применяя формулу Дирихле для двойных интегралов, запишем

С = (1/T² ) ∫ dt ∫ k(τ)dτ + (1/T² ) ∫ dt ∫ k(T - τ)dτ = (1/T² ) ∫ (T - τ) k(τ)dτ + (1/T² ) ∫ τk (T – τ)dτ

Во втором слагаемом правой части можно положить τ’ = T-τ, dτ = -dτ’, после чего будем иметь

С = (1/Т² ) ∫ (Т - τ) k(τ)dτ – (1/T² ) ∫ (T - τ) k(τ)dτ= 2/T ∫ (1- (τ/T)) k(τ)dτ

Отсюда и из определения констант видно, что равенство

M{(1 / T) ∫X(t)dt|² } = (2 / T) ∫ k(τ) (1 – τ/t)dτ

Справедливо.

Теорема

Если корреляционная функция k(τ) стационарного случайного процесса X(t) удовлетворяет условию

Lim (1/T) ∫ |k(τ)| dt = 0

То X(t) является эргодическим по математическому ожиданию.

Действительно, учитывая соотношение

M{(1 / T) ∫X(t)dt|² } = (2 / T) ∫ k(τ) (1 – τ/t)dτ

Можно записать

0 ≤ (2/Т) ∫ (1 – τ/t) k(τ)dτ ≤ (2/T) ∫ (1- τ/t) |k(τ)|dτ ≤ (1/T) ∫ |k(τ)|dτ

Отсюда видно, что если выполнено условие, то

Lim (2/T) ∫ (1 – τ/T) k(τ)dτ = 0

Теперь, принимая во внимание равенство

С = (1/Т² ) ∫ (Т - τ) k(τ)dτ – (1/T² ) ∫ (T - τ) k(τ)dτ= 2/T ∫ (1- (τ/T)) k(τ)dτ

И условие LimM {|(1 / T)∫ X(t)dt|² } = 0

Эргодичности по математическому ожиданию стационарного случайного процесса X(t), находим, что требуемое доказано.

Теорема.

Если корреляционная функция k(τ) стационарного случайного процесса

X(t) интегрируема и неограниченно убывает при τ → ∞, т.е. выполняется условие

При произвольном ε > 0, то X(t) – эргодический по математическому ожиданию стационарный случайный процесс.

Действительно, учитывая выражение

Для Т≥Т₀ имеем

(1/T) ∫ |k(τ)|dτ = (1/T)[ ∫ |k(τ)|dτ + ∫ |k(τ)|dτ ≤ (1/T) ∫ |k(τ)|dτε(1 – T₁ /T).

Переходя к пределу при Т → ∞, найдём

0 ≤ lim ∫ |k(τ)|dτ = ε.

Поскольку здесь ε > 0 – произвольная, сколько угодно малая величина, то выполняется условие эргодичности по математическому ожиданию. Поскольку это следует из условия

О неограниченном убывании k(τ), то теорему следует считать доказанной.

Доказанные теоремы устанавливают конструктивные признаки эргодичности стационарных случайных процессов.

Пусть

X(t) = m + X(t), m=const.

Тогда M[X(T)] = m, и если X(t) - эргодический стационарный случайный процесс, то условие эргодичности LimM {|(1 / T)∫ X(t)dt|² } = 0 после несложных преобразований можно представить в виде

Lim M{[(1/T) ∫ X(t)dt – m]² } = 0

Отсюда следует, что если X(t) – эргодический по математическому ожиданию стационарный случайный процесс, то математическое ожидание процесса X(t) = m + X(t) приближенно может быть вычислено по формуле

M = (1/T) ∫ x(t)dt

Здесь Т – достаточно длительный промежуток времени;

x(t) – реализация процесса X(t) на отрезке времени [0, Т].

Можно рассматривать эргодичность стационарного случайного процесса X(t) по корреляционной функции.

Стационарный случайный процесс X(t) называется эргодическим по корреляционной функции , если

LimM {[ (1/T) ∫ X(t) X(t + τ)dt – k(τ)]² ]} = 0

Отсюда следует, что для эргодического по корреляционной функции стационарного случайного процесса X(t) можно положить

k (τ) = (1/T) ∫ x(t)x(t + τ)dt

при достаточно большом Т.

Оказывается, условие

ограниченности k(τ) достаточно для эргодичности по корреляционной функции стационарного нормально распределенного процесса X(t).

Заметим, случайный процесс называется нормально распределённым , если любая его конечномерная функция распределения является нормальной.

Необходимым и достаточным условием эргодичности стационарного нормально распределенного случайного процесса является соотношение

τ₀ : lim (1/T) ∫ [k(τ)² + k(τ + τ₀ ) k(τ – τ₀ )] (1 – τ/T)dτ = 0

Литература

1. Н.Ш. Кремер «Теория вероятностей и математическая статистика» / ЮНИТИ / Москва 2007.

2. Ю.В. Кожевников «Теория вероятностей и математическая статистика» /Машиностроение/ Москва 2002.

3. Б.В. Гнеденко «Курс теории вероятностей» /Главная редакция физико-математической литературы/ Москва 1988.