вентцель овчаров теория случайных процессов и ее инженерные приложения
ТЕОРИЯ. СЛУЧАЙНЫХ ПРОЦЕССОВ и ее инженерные приложения. E.С. Вентцель, Л.А. ОВЧАРОВ
1 E.С. Вентцель, Л.А. ОВЧАРОВ ТЕОРИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ и ее инженерные приложения Рекомендовано Министерством образования и науки Российской Федерации в качестве учебного пособия для студентов высших технических учебных заведений Пятое издание, стереотипное КНОРУС МОСКВА 16
3 Оглавление Предисловие Введение Глава 1. Основные понятия теории случайных процессов 1.1. Определение случайного процесса. Классификация случайных процессов Законы распределения и основные характеристики случайных процессов Глава. Потоки события, их свойства и классификация.1. Потоки событий Некоторые свойства потоков Пальма Потоки Эрланга Предельные теоремы теории потоков Глава 3. Марковские процессы с дискретными состояниями. Марковские цепи 3.1. Граф состояний. Классификация состояний. Вероятности состояний Марковские случайные процессы с дискретными состояниями и дискретным временем (цепи Маркова) Стационарный режим для цепи Маркова Глава 4. Марковские процессы с дискретными состояниями и непрерывным временем 4.1. Описание марковского процесса с дискретными состояниями и непрерывным временем. Уравнения Колмогорова Однородные марковские случайные процессы с дискретными состояниями и непрерывным временем. Стационарный режим, уравнения для предельных вероятностей состояний Закон распределения и числовые характеристики времени однократного пребывания марковского случайного процесса с непрерывным временем и дискретными состояниями в произвольном подмножестве состояний U Глава 5. Марковские процессы гибели и размножения с непрерывным временем 5.1. Определение марковского процесса гибели и размножения с непрерывным временем, его размеченный граф состояний, условия существования стационарного режима, предельные вероятности состояний Закон распределения и числовые характеристики времени нахождения процесса гибели и размножения в произвольном подмножестве состояний
4 4 Оглавление 5.3. Метод псевдосостояний Дифференциальные уравнения для характеристик марковского процесса гибели и размножения без ограничения на число состояний Дифференциальные уравнения для характеристик марковского процесса гибели и размножения при ограниченном числе состояний Глава 6. Стохастически зависимые процессы типа гибели и размножения 6.1. Основные понятия и определения Исследование взаимного влияния характеристик двух случайных процессов гибели и размножения Разложения случайных процессов гибели и размножения Разложение целочисленных случайных процессов Метод динамики средних. Уравнения для математических ожиданий, дисперсий и корреляционных функций отдельных составляющих, являющихся однородными разложениями процессов гибели и размножения Метод динамики моментов. Уравнения для математических ожиданий, дисперсий и корреляционных функций отдельных составляющих, являющихся однородными разложениями целочисленных случайных процессов Глава 7. Преобразования случайных процессов 7.1. Канонические разложения и интегральные канонические представления случайных процессов Линейные и нелинейные преобразования случайных процессов Линейная форма векторного случайного процесса. Сложение случайных процессов Комплексные случайные процессы Глава 8. Стационарные случайные процессы 8.1. Определение стационарного случайного процесса, эргодическое свойство Спектральное разложение стационарного случайного процесса. Спектральная плотность Линейные преобразования стационарных случайных процессов Преобразование стационарного случайного процесса стационарной линейной системой Приложение Основные сокращения Список литературы Указатель
5 Предисловие Книга представляет собой продолжение книги авторов «Теория вероятностей и ее инженерные приложения» (М. : КНОРУС, 1) и является систематическим изложением основ теории случайных процессов под углом зрения их практических приложений в различных областях инженерной практики. Отбор материала, а также стиль его изложения проводятся прежде всего исходя из этих приложений. Этому способствует разбор многочисленных задач и примеров, помещенных в книге и относящихся к различным областям инженерной деятельности: автоматизированные системы управления, автоматизация технологических процессов и производств, прикладная математика, вычислительная техника, транспорт, связь и т.п. Все инженерные приложения теории случайных процессов излагаются с одинаковых методических позиций, основанных на единой системе подходов. Это дает возможность показать, как с помощью одной и той же математической модели можно исследовать и решать различные задачи, встречающиеся в инженерных приложениях. Книга написана на базе лекций, читанных авторами в различных втузах на протяжении последних десятилетий по специальностям «Прикладная математика», «Автоматизированные системы обработки информации и управления», «Автоматизация технологических процессов» и др. Она прежде всего предназначена для инженеров и научных работников разных специальностей, которые в своей практической деятельности сталкиваются с задачами, связанными с воздействием случайных процессов на различные технические устройства в динамике их функционирования. Общетеоретические разделы книги адресованы широкому кругу читателей, она также может быть использована и в учебном процессе студентами и преподавателями соответствующих специальностей втузов, и как пособие по самообразованию. Математический аппарат, используемый в книге, в основном базируется на обычном втузовском курсе высшей математики и твердом знании основ теории вероятностей. Так как настоящая книга является продолжением книги авторов «Теория вероятностей и ее инженерные приложения» [6], то в ней используются ссылки на эту книгу, а сами ссылки помечаются звездочкой; например, п. 7.3* означает, что идет ссылка на пункт 7.3 книги [6]; (7.3.3)* означает, что идет ссылка на формулу (7.3.3) книги [6].
6 6 Предисловие Как и в первой книге, основное внимание уделяется не тонкостям математического аппарата теории случайных процессов, а единству методического подхода, иллюстрируемого многочисленными приложениями. Наше глубокое убеждение, основанное на многолетием опыте преподавания теории случайных процессов во втузах и применении этой теории в научных исследованиях, состоит в том, что именно такой подход к изучению теории случайных процессов более всего полезен тем, кто ставит перед собой целью решение конкретных инженерных задач. (Окончание решения задачи или примера отмечается в тексте знаком.) Несмотря на такой подход к изложению содержания книги, авторы стремились к тому, чтобы это не влияло на корректность формулировок и должную строгость применяемого математического аппарата. В книгу не вошли: теория массового обслуживания, которая является разделом теории случайных процессов, статистическая обработка случайных процессов, оптимизация систем, находящихся под воздействием случайных процессов, и их инженерные приложения. Такой отбор материала в эту книгу объясняется тем, что авторы предполагают по каждому из этих разделов написать отдельное руководство, где, так же как и здесь, основное внимание будет уделено различным инженерным приложениям. Авторы приносят глубокую благодарность академикам B. C. Пугачеву и Б. В. Гнеденко, академику РАН Н. А. Кузнецову, профессору А. Д. Вентцелю за ряд ценных предложений, а также М. А. Овчаровой, оказавшей большую помощь авторам при подготовке рукописи к изданию. Е. С. Вентцель, Л. A. Овчаров
7 Введение Так ранней утренней порой Отрывок тучи громовой, В лазурной тишине чернея, Один, нигде пристать не смея, Летит без цели и следа, Бог весть откуда и куда! М. Ю. Лермонтов. Демон Теорией случайных процессов называется математическая наука, изучающая закономерности случайных явлений в динамике их развития. Теория случайных процессов (в другой терминологии теория случайных функций) представляет собой сравнительно новый раздел теории вероятностей, особенно бурно развивающийся в последние десятилетия в связи со все расширяющимся кругом его практических приложений. При изучении явлений окружающего мира мы часто сталкиваемся с процессами, течение которых заранее предсказать в точности невозможно. Эта неопределенность (непредсказуемость) вызвана влиянием случайных факторов, воздействующих на ход процесса. Приведем несколько примеров таких процессов. 1. Напряжение в электросети, номинально постоянное и равное В, фактически меняется во времени, колеблется вокруг номинала под влиянием таких случайных факторов, как количество и вид включенных в сеть приборов, моменты их включений и выключений и т.д.. Население города (или области) меняется с течением времени случайным (непредсказуемым) образом под влиянием таких факторов, как рождаемость, смертность, миграция и т.д. 3. Уровень воды в реке (или в водохранилище) меняется во времени случайным образом в зависимости от погоды, количества осадков, таяния снега, интенсивности оросительных мероприятий и т.д. 4. Частица, совершающая броуновское движение в поле зрения микроскопа, меняет свое положение случайным образом в результате соударений с молекулами жидкости. 5. Происходит полет космической ракеты, которую необходимо вывести в заданный момент в заданную точку пространства с заданными направлением и абсолютным значением вектора скорости. Фактическое движение ракеты не совпадает с расчетным из-за таких случайных факторов, как турбулентность атмосферы, неоднородность горючего, ошибки в отработке команд и т.д.
8 8 Введение 6. ЭВМ в ходе работы может случайным образом переходить из состояния в состояние, например: s 1 работает исправно; s имеется неисправность, но она не обнаружена; s 3 неисправность обнаружена, ведется поиск ее источника; s 4 ремонтируется и т.д. Переходы из состояния в состояние происходят под действием случайных факторов, таких как колебания напряжения в сети питания ЭВМ, выход из строя отдельных элементов, момент обнаружения неисправностей, время их устранения и т.д. Строго говоря, в природе не существует совершенно неслучайных, в точности детерминированных процессов, но есть процессы, на ход которых случайные факторы влияют так слабо, что при изучении явления ими можно пренебречь (пример: процесс обращения планет вокруг Солнца). Однако существуют и такие процессы, где случайность играет основную роль (пример: вышерассмотренный процесс броуновского движения частицы). Между двумя крайними случаями лежит целый спектр процессов, в которых случайность играет бо льшую или меньшую роль. Учитывать (или не учитывать) случайность процесса зависит также и от того, какую практическую задачу мы решаем. Например, при составлении расписания движения самолетов между двумя пунктами можно считать их траектории прямолинейными, а движение равномерным; те же допущения не подойдут, если решается задача конструирования автопилота для управления полетом самолета. Случайный процесс, протекающий в любой физической системе S, представляет собой случайные переходы системы из состояния в состояние. Состояние системы может быть охарактеризовано с помощью каких-то численных переменных; в простейшем случае одной, а в более сложных нескольких. Вернемся к рассмотренным выше примерам. В примере 1 процесс описывается одной переменной (напряжением U), случайным образом меняющейся во времени, являющейся функцией времени U(). Аналогично в примере население N меняется случайным образом во времени: N(). Так же и в примере 3 случайный процесс характеризуется одной функцией H(), где Н уровень воды в реке. Все эти три функции являются случайными функциями времени. Обратим внимание на то, что при фиксированном каждая из них превращается в обычную случайную величину, хорошо известную по книге авторов [6]. В результате опыта (когда он уже произведен) случайная функция превращается
9 Введение 9 в обычную неслучайную функцию. Например, если в ходе времени непрерывно измерять напряжение в сети, получится неслучайная функция u(), колеблющаяся вокруг номинала u (рис..1). u u() u() Рис..1 Несколько сложнее обстоит дело в примере 4: состояние частицы характеризуется уже не одной, а двумя случайными функциями X() и Y() координатами частицы в поле зрения микроскопа. Такой случайный процесс называется векторным, он описывается переменным случайным вектором, составляющие которого X(), Y() меняются с течением времени. Для фиксированного значения аргумента случайный процесс превращается в систему двух случайных величин X(), Y(), изображаемую случайной точкой (случайным вектором Q()) на плоскости ху (рис..). При изменении аргумента точка Q() будет перемещаться («блуждать») по плоскости х у так, как показано, например, на рис..3 для моментов времени 1,, 3, y y i Q() Y() X() x Рис n x Рис..3 Еще сложнее обстоит дело с примером 5. Состояние ракеты в момент времени характеризуется не только тремя координатами X(), Y(), Z() центра массы ракеты, но и тремя составляющими ее скорости (не будем вводить для них специальных обозначений), тремя углами ориентации ракеты, угловыми скоростями движения вокруг центра
10 1 Введение массы, запасом топлива и т.п. Здесь перед нами пример многомерного случайного процесса: блуждание точки, описывающей состояние системы в момент времени, происходит в многомерном пространстве. Сложности, связанные с изучением таких процессов, с увеличением размерности растут в огромной степени. В этой книге мы почти не будем касаться многомерных процессов. Особое положение среди рассмотренных выше занимает пример 6. В этом примере состояние системы не характеризуется какойлибо численной величиной (или вектором), он описывается словами («качественно»), а случайный процесс сводится к «блужданию по состояниям». Разумеется, можно искусственно свести этот процесс к процессу случайного изменения одного параметра X, приписав ему (чисто условно) численное значение, равное номеру состояния: 1,, 3, ; но искусственность такого приема сразу бросается в глаза: ведь состояния можно пронумеровать в произвольном порядке, и сведение процесса к такой численной форме вовсе не обязательно. В дальнейшем мы часто будем встречаться с такого типа случайными процессами (процессы с «качественными состояниями») и выработаем для них специальные приемы описания и анализа. При фиксированном значении аргумента случайное состояние системы превращается в некоторый аналог случайного события одно из возможных состояний, в котором система может находиться в момент времени. Как правило, множество таких состояний дискретно (конечно или счетно). Теория случайных процессов имеет широкое поле инженерных приложений. По мере углубления и уточнения наших знаний об окружающем мире, по мере усложнения технических устройств все большее число процессов приходится рассматривать как случайные, учитывая не только их поведение «в среднем», но и случайные отклонения от этого среднего. Соответственно все большее значение приобретает теория случайных процессов. Для современного периода развития техники характерно широкое применение компьютеров (ЭВМ), автоматизированное управление производственными процессами, а также автоматизированные и автоматические системы управления. Работа любой такой системы связана со случайными вариациями протекающих в ней процессов, т.е. с возникновением в ней случайного процесса. Разумное проектирование таких систем и анализ их работы требуют от инженера знания основ теории случайных процессов. В настоящее время практически нет таких областей инженерной деятельности, которые не были бы связаны со случайными процес-
11 Введение 11 сами и необходимостью их изучения. Любое работающее техническое устройство находится под влиянием случайных факторов, в большей или меньшей степени влияющих на режим его работы. Все без исключения метеорологические характеристики (температура, давление, влажность, скорость ветра, его направление и т.д.) представляют собой случайные процессы. Развитие и взаимодействие различных биологических популяций также носят черты случайных процессов. Все виды хозяйственной деятельности человека тоже зависят от случайных факторов (погоды, случайных колебаний спроса и предложения, количества людей, которых можно вовлечь в производство и т.п.) и, значит, описываются с помощью тех либо других случайных процессов. Работа любой автоматизированной системы управления (АСУ) представляет собой случайный процесс, обусловленный случайными моментами поступления информации и запросов, случайными моментами возникновения отказов элементов комплекса технических средств, ошибками операторов и т.п. Рост народонаселения, учет которого необходим при проектировании новых жилых массивов, также представляет собой случайный процесс. Из этого не следует, что теория случайных процессов единственный математический аппарат, пригодный для изучения таких явлений. Наряду с ним может применяться и обычный, «детерминистский» аппарат, в котором случайные факторы не учитываются. Но, пользуясь им, нельзя забывать, что он дает только приближенное, схематичное описание процесса, некоторое его «среднее» протекание, относительно которого возможны отклонения. При углубленном изучении процесса такие отклонения, как правило, приходится учитывать, для чего прибегают к аппарату теории случайных процессов. До сих пор мы говорили только о случайных функциях времени. В ряде задач практики встречаются случайные функции, зависящие не от времени, а от другого аргумента. Например, давление Р газа в газопроводе может меняться случайным образом с изменением расстояния l до точки, где измеряется давление, от источника, питающего газопровод, и представляет собой случайную функцию аргумента l. Давление P(l) с увеличением l имеет тенденцию уменьшаться (например, как показано на рис. 4). Под влиянием случайных факторов (засорение газопровода, неровности его внутренней поверхности, различный температурный режим на разных участках) давление будет меняться в зависимости от l случайным, нерегулярным образом. Другой пример: прочностные характеристики стержня представляют собой случайные функции абсциссы х сечения стержня.
12 1 Введение P() P(i) P(i) i Рис..4 i Строго говоря, случайным процессом следовало бы называть только случайную функцию, зависящую от времени ; понятие «случайная функция» шире, чем понятие «случайный процесс». Мы такого разделения проводить не будем. Для простоты во всех случаях будем пользоваться термином «случайный процесс» безотносительно к физической природе аргумента, обозначенного буквой. В большинстве практических задач аргументом фигурирующих в них случайных функций является именно время. В некоторых задачах практики могут встретиться случайные функции, зависящие не от одного, а от нескольких аргументов.
13 Глава 1 Основные понятия теории случайных процессов 1.1. Определение случайного процесса. Классификация случайных процессов Понятие случайного процесса (с. п.) в общих чертах было уже освещено во введении. Здесь мы уточним это понятие и дадим ему математическую формулировку. Ограничимся пока одномерными с. п., протекание которых сводится к одному числовому параметру X(), меняющемуся во времени случайным образом. Понятие случайного процесса представляет собой обобщение понятия случайной величины (с. в.), которое уже известно из книги [6]. Напомним, как там определялась случайная величина (см. п ). Под случайной величиной понимается величина, которая в результате опыта со случайным исходом принимает то или иное значение. Далее дается формальное, теоретико-множественное определение с. в. как функции элементарного события ω, осуществляющегося в результате опыта и входящего в пространство элементарных событий Ω (ω Ω). При этом возможные значения х с. в. Х принадлежат множеству Ξ (x Ξ). Дадим теперь определение случайного процесса. Случайным процессом X() называется процесс, значение которого при любом фиксированном = является случайной величиной X( ) 1. Случайная величина X( ), в которую обращается с. п. при =, называется сечением случайного процесса, соответствующим данному значению аргумента. В дальнейшем, говоря о сечении с. п., мы не всегда будем отмечать нулевым индексом то значение аргумента, которому оно соответствует, а будем по мере надобности говорить об одном и том же выражении то как о случайном процессе (при переменном ), то как о случайной величине (при фиксированном ). 1 Для процесса с «качественными состояниями» роль случайной величины играет «случайное состояние системы», в которой протекает процесс, т.е. одно из множества возможных в момент состояний.
14 14 Глава 1. Основные понятия теории случайных процессов Аналогично тому, как мы записывали с. в. в виде функции элементарного события ω, появляющегося в результате опыта, можно и с. п. записать в виде функции двух аргументов времени и элементарного события ω: ω Ω, T, X() Ξ, (1.1.1) где ω элементарное событие, Ω пространство элементарных событий, Т область (множество) значений аргумента функции X(), Ξ множество возможных значений случайного процесса X(). Предположим, что опыт, в ходе которого с. п. протекает так или иначе, уже произведен, т.е. произошло элементарное событие ω Ω. Это значит, что с. п. уже неслучаен, и зависимость его от приняла вполне определенный вид: это уже обычная, неслучайная функция аргумента. Мы будем ее называть реализацией случайного процесса X() в данном опыте. Итак, реализацией случайного процесса X() называется неслучайная функция x(), в которую превращается случайный процесс X() в результате опыта; другими словами, конкретный вид, принятый с. п. X(), который наблюдался на каком-то отрезке времени от до τ (рис ) 1. x() x() x(τ) x(τ) τ Рис Пользуясь формулой (1.1.1), можно записать реализацию как функцию ϕ от аргумента, изменяющегося в пределах множества Т, при фиксированном элементарном событии ω = ω : ( T). (1.1.) Реализации с. п. на каждом шагу встречаются на практике. Любая реализация случайного процесса x() принадлежит множеству Ξ возможных значений случайного процесса X(): x() Ξ. Например, записывая с помощью какого-то прибора напряжение U питания ЭВМ в зависимости от времени на участке (, τ), по- 1 Мы здесь сохраняем принятую в книге [6] систему обозначений, в которой случайные величины обозначаются, как правило, большими буквами, а неслучайные малыми буквами латинского алфавита.
15 1.1. Определение случайного процесса. Классификация случайных процессов 15 лучим реализацию u() с. п. U() (см. рис. 1.1., где u номинальное напряжение питания). Записывая температуру воздуха Θ в зависимости от времени в течение суток, получим реализацию ϑ() с. п. в Θ() (рис ). Вообще, любая запись прибора-самописца представляет собой реализацию того или другого с. п. u() u τ 1 4 Рис Рис Если произведен не один опыт, а несколько, в результате каждого из которых наблюдена какая-то реализация с. п. x i () (i номер опыта), то получим несколько различных реализации случайного процесса: x 1 (), x (),, x 3 (), или семейство реализации (рис ). x i () x 1 () x () Рис x i () Семейство реализации случайного процесса основной экспериментальный материал, на основе которого можно получить характеристики с. п. какие, мы увидим в дальнейшем. Семейство реализации с. п. аналогично совокупности наблюденных значений с. в. X с той разницей, что здесь наблюдаются не числовые значения, а функции. Рассмотрим несколько примеров, иллюстрирующих введенные понятия. 1. Производится n опытов, в каждом из которых непрерывно измеряется входное напряжение U(), подаваемое на ЭВМ, в течение времени τ; напряжение U() с номинальным значением u фактически представляет собой случайный процесс. Для любого фиксированного момента времени = напряжение представляет собой случайную величину U( ) сечение случайного процесса при =. Результат n опытов семейство реализации u 1 (), u (),, u i (),, u n (), показанное на рис Сечение U( ) с. п. U() при = представляет собой случайную величину, наблю-
17 1.1. Определение случайного процесса. Классификация случайных процессов 17 ϑ i (h) h ϑ i (h) ϑ n (h) ϑ (h) ϑ 1 (h) Рис Теперь вернемся к самому понятию случайного процесса и дадим некоторые пояснения. Мы уже знаем, что с. п. X() представляет собой функцию, которая при любом является случайной величиной (сечением случайного процесса). Понятие случайного процесса является обобщением понятия случайной величины на случай, когда условия опыта не постоянны, а меняются (в частности, время «течет»). Случайная величина Х соответствует случайному явлению как бы «в статике» (в неизменных условиях опыта), а случайный процесс X() «в динамике» (в изменяющихся условиях опыта). Каждое сечение с. п. X() при заданном есть с. в., а совокупность всех сечений при всевозможных и есть с. п. X(). Значит, случайный процесс представляет собой не что иное, как систему случайных величин всех сечений этого процесса. Сколько же существует сечений? В общем случае бесконечное (несчетное) множество. Рассматривать в совокупности такую систему с. в. очень трудно, если не невозможно. Естественно как-то ограничить себя, чтобы сделать задачу обозримой. Мы знаем, что любую функцию f() аргумента (из встречающихся в реальной практике, а не в специально придуманных примерах) можно приближенно представить последовательностью ее значений в точках (рис ). Чем больше количество k точек 1. k, тем точнее будет замена функции f() последовательностью значений f( 1 ), f( ),, f( k ). Аналогично будет обстоять дело и со с. п. X(). Его можно приближенно заменить совокупностью (системой) случайных величин X( 1), X( ),, X( k ) его сечений в точках 1. k. Чем больше сечений будет рассматриваться, тем более подробное представление о случайном процессе мы получим. В пределе число сечений (число случайных величин в системе, или число составляющих случайного вектора) должно быть бесконечным. Изучение систем бесконечного (несчетного) числа случайных величин задача непомерной трудно-
18 18 Глава 1. Основные понятия теории случайных процессов сти; на практике всегда приходится ее упрощать, заменяя более доступной. Примеры таких упрощений встретятся нам в дальнейшем. Нужно стараться при изучении интересующих нас свойств случайного процесса обойтись как можно меньшим числом сечений. F() 1 3 k Рис В теории случайных процессов принято классифицировать их по тем или другим признакам, учитывая плавность или скачкообразность реализации, фиксированность или случайность моментов, в которые могут происходить скачки и т.д., вид закона распределения отдельного сечения процесса или совокупности его сечений и т.д. Познакомимся с самой элементарной классификацией случайных процессов «по времени» и «по состояниям». Случайный процесс X() называется процессом с дискретным временем, если система, в которой он протекает, может менять свои состояния только в моменты 1. j,, число которых конечно или счетно. Множество Т является дискретным. Примеры процессов с дискретным временем: 1) процесс работы ЭВМ, которая может менять свои состояния в моменты 1. j,, определяемые тактом работы машины; ) процесс работы технического устройства, которое осматривается в моменты 1,, и переводится в результате осмотра из одной категории в другую; 3) процесс обстрела цели в моменты 1. в ходе которого цель может менять свои состояния (не повреждена, частично выведена из строя, перестала функционировать, полностью разрушена и т.п.). Если рассматривается одномерный случайный процесс X() с дискретным временем (моменты 1,, ), то его сечения в эти моменты образуют последовательность случайных величин: X( ), X( ),. В качестве аргумента последовательности может быть выбран номер значения момента перехода: Х (1), Х (),. Случайный процесс X() называется процессом с непрерывным временем, если переходы системы из состояния в состояние могут происходить в любой момент наблюдаемого периода τ.
19 1.1. Определение случайного процесса. Классификация случайных процессов 19 Для процесса с непрерывным временем множество Т моментов, когда система меняет свое состояние, несчетно (они непрерывно заполняют рассматриваемый участок оси абсцисс). Примеры случайных процессов с непрерывным временем: 1) X() число отказов технического устройства от начала работы до момента ; ) броуновское движение частицы в поле зрения микроскопа; 3) число N() заболевших в данном городе в ходе развития эпидемии к моменту. Одномерный случайный процесс X() называется процессом с непрерывными состояниями, если его сечение в любой момент представляет собой не дискретную, а непрерывную (или смешанную) случайную величину и, значит, множество ее значений Ξ несчетно. Аналогично, многомерный (векторный) случайный процесс называется процессом с непрерывными состояниями, если при любом множество возможных значений случайного вектора, определяющего состояние системы S, в которой протекает процесс, несчетно. Примеры с. п. с непрерывными состояниями: 1) напряжение U() питания ЭВМ в момент ; ) давление газа P() в заданном резервуаре в момент ; 3) координаты частицы, совершающей броуновское движение X(), Y(), в момент (двумерный случайный процесс с непрерывными состояниями); 4) параметры, характеризующие в момент состояние космической ракеты, выводимой на орбиту (многомерный случайный процесс с непрерывными состояниями). Случайный процесс, протекающий в системе S, называется процессом с дискретными состояниями, если в любой момент времени множество его состояний Ξ конечно или счетно; другими словами, если его сечение в любой момент характеризуется дискретной случайной величиной X() (в многомерном случае несколькими дискретными случайными величинами). Разумеется, все случайные процессы с «качественными» состояниями относятся к категории процессов с дискретными состояниями; сечение такого процесса представляет собой случайное событие аналог дискретной случайной величины (см. введение). Таким образом, в зависимости от характера множества Т значений аргумента, в которые возможны переходы системы из состояния в состояние, а также множества Ξ самих состояний все случайные процессы можно разделить на четыре класса: 1а. Процессы с дискретными состояниями и дискретным временем. 1б. Процессы с дискретными состояниями и непрерывным временем. а. Процессы с непрерывными состояниями и дискретным временем. б. Процессы с непрерывными состояниями и непрерывным временем.
20 Глава 1. Основные понятия теории случайных процессов Примеры процессов разных типов: 1а. Некто купил m билетов выигрышного займа, которые могут выигрывать и погашаться в заранее известные моменты тиражей 1,, Случайный процесс X() число билетов, выигравших до момента. 1б. Техническое устройство состоит из n узлов, которые могут в ходе работы устройства отказывать (выходить из строя). Случайный процесс X() число узлов, отказавших до момента. Еще пример процесса типа 1б: техническое устройство может под действием случайных факторов находиться в одном из состояний: s 1 работает исправно; s работает с перебоями; s 3 остановлено, ведется поиск неисправности; s 4 ремонтируется; s 5 окончательно вышло из строя, списано. Сечение такого процесса представляет собой, как для каждого процесса с «качественными состояниями», обобщенную случайную величину дискретного типа, «возможные значения» которой описываются не численно, а словесно. а. В определенные моменты времени 1,, регистрируется температура воздуха Θ() в заданной точке пространства. Последовательность значений этой величины случайный процесс Θ() с непрерывными состояниями и дискретным временем. б. Процесс изменения напряжения U() в электросети питания ЭВМ представляет собой случайный процесс с непрерывными состояниями и непрерывным временем. Для различных типов случайных процессов разработаны различные методы их изучения и описания, с которыми мы познакомимся в дальнейшем. В ряде задач случайные процессы бывает удобно выражать через простейшие (или «элементарные») случайные функции. Элементарной случайной функцией (э. с. ф.) будем называть такую функцию аргумента, где зависимость от представлена обычной, неслучайной функцией, в которую в качестве параметров входят одна или несколько обычных, не зависящих от случайных величин. Рассмотрим ряд примеров э. с. ф. Для каждого из них построим семейство реализации, приписывая фигурирующей в примере случайной величине (или случайному вектору) ряд значений. В каждом из примеров э. с. ф. обозначена Y(), ее реализации y 1 (), y (), Пример 1. Э. с. ф. имеет вид где Х непрерывная случайная величина, распределенная равномерно в интервале ( 1, 1).
21 1.1. Определение случайного процесса. Классификация случайных процессов 1 Семейство реализации э. с. ф. Y() показано на рис ; каждая из них представляет собой показательную кривую с ординатами, пропорциональными ординатам кривой e (жирная линия); отдельные реализации (тонкие линии) различаются между собой масштабом по оси ординат. Когда с. в. Х принимает отрицательное значение, соответствующая реализация лежит ниже оси абсцисс. Пример. Э. с. ф. имеет вид (1.1.3) где Х случайная величина, принимающая только положительные значения. Семейство реализации э. с. ф. (1.1.3) показано на рис Каждая из этих реализации представляет собой показательную кривую, проходящую через точку с координатами (, 1); различаются они между собой скоростью стремления к нулю при. y i () y i () 1 e =y 1 () 1 y i () y () y 3 () y 1 () 1 e =y () y i () Рис Рис Пример 3. Y() = a + X, где X случайная величина, а неслучайная величина. Каждая реализация (рис ) представляет собой прямую с угловым коэффициентом а, параллельную прямой у = a, различаются реализации начальными ординатами. Пример 4. Y() = X + a, где Y случайная величина, а неслучайная величина. Каждая из реализации прямая линия, проходящая через точку (, a) (рис ). Реализации различаются угловыми коэффициентами. Пример 5. Y() = X cos a, где X случайная величина, а неслучайная величина. Семейство реализации показано на рис ; каждая из них косинусоида, ординаты которой умножены на тот или другой случайный коэффициент. Реализации различаются между собой амплитудой, т.е. масштабом по оси ординат.
22 Глава 1. Основные понятия теории случайных процессов y i () y i () y i () y 3 ()=a y i () x i x y () y 1 () a y 1 () y () y 3 () x 1 Рис Рис y i () y 1 () y () y i () Рис Пример 6. Y() = cos U, где U случайная величина, принимающая положительные значения. Семейство реализаций показано на рис ; каждая из них проходит через точку (, 1). Реализации различаются между собой по частоте. 1 y i () y 1 () y i () y () 1 Рис Пример 7. Y() = cos(ω + X), где X случайная фаза колебаний, распределенная равномерно в интервале ( π; π). Семейство реализации э. с. ф. показано на рис Пример 8. Y() = U cos a + V sin a, где (U, V) система случайных величин, а неслучайная величина. Семейство реализации представлено на рис Каждая реализация представляет собой гармоническое колебание на частоте а со случайной амплитудой и случайной фазой.
23 1.1. Определение случайного процесса. Классификация случайных процессов 3 y i () 1 y 1 () y () 1 y i () y () y i () y 1 () Рис y i () Рис Пример 9. Y() = a + U + V, где (U, V) система двух случайных величин, а неслучайная величина. Семейство реализации показано на рис Каждая реализация проходит через точку (, а). В крайнем случае э. с. ф. может выродиться в неслучайную функцию y() = ψ() (рис ) (тогда все ее реализации совпадают между собой и с функцией ψ() или даже вообще превращаются в неслучайную величину а : у = а; все реализации в этом случае совпадают с прямой а. y i () y 1 () a y () y() y()=ψ() y i () Рис Рис
24 4 Глава 1. Основные понятия теории случайных процессов 1.. Законы распределения и основные характеристики случайных процессов Мы знаем (см. главу 3* в [6]), что полной, исчерпывающей характеристикой случайной величины является ее закон распределения. Для дискретной с. в. он может быть задан рядом распределения, для непрерывной с. в. плотностью распределения (п. р.). Универсальной исчерпывающей характеристикой любой с. в. Х дискретной, непрерывной или смешанной является ее функция распределения (ф. р.) F(x) = Р <Х 25 1.. Законы распределения и основные характеристики случайных процессов 5 с. п.; для второго эта зависимость затухает довольно быстро с увеличением расстояния между сечениями. Очевидно, одномерный закон распределения (1..1) не может служить полной, исчерпывающей характеристикой с. п. X(). Очевидно также, что более полной (но все еще не исчерпывающей) характеристикой будет двумерный закон распределения, представленный совместной функцией распределения двух сечений с. п., взятых соответственно для моментов 1 и : < >F(,, x, x ) = P X( ) 26 6 Глава 1. Основные понятия теории случайных процессов щими от многих аргументов, крайне неудобно; к тому же объем экспериментального материала, необходимого для их получения, с увеличением числа сечений растет чрезвычайно быстро. Поэтому на практике более чем двумерные законы распределения применяются крайне редко. В инженерных приложениях обычно ограничиваются одномерным, иногда двумерным законом распределения с. п. Нередко этого оказывается и достаточно. Во многих случаях инженерной практики протекающие в системах процессы можно (точно или приближенно) представлять как марковские (или «процессы без последействия», см. главы 4, 5). Для таких процессов исчерпывающей характеристикой будет двумерный закон (1..). Существует большой класс процессов так называемые нормальные, или гауссовские случайные процессы, в которых двумерный закон распределения (1..) будет также исчерпывающей характеристикой. Но чаще всего при исследовании случайных процессов для практических целей вообще отказываются от законов распределения с. п., а пользуются его основными характеристиками, описывающими с. п. не полностью, а частично. Мы знаем (см. главу 8*), что многие задачи теории вероятностей можно решать, совсем не прибегая к законам распределения случайных величин, а пользуясь только их числовыми характеристиками, такими как математическое ожидание (м. о.), дисперсия, ковариация, начальные и центральные моменты разных порядков и т.д. Аналогично обстоит дело и со случайными процессами, только для них основные характеристики будут уже не числами, а функциями аргумента, от которого зависит с. п. X(), или же двух (обычно не больше) значений этого аргумента. Первой и важнейшей характеристикой с. п. X() является его математическое ожидание, т.е. «средняя» функция, вокруг которой происходит разброс реализации с. п. (см. жирную линию m x () на рис. 1..5, где тонкими линиями даны реализации с. п.). Заметим, что эта функция, характеризующая «среднее» значение случайного процесса, является сама уже неслучайной. Обозначим ее m x (). Итак, математическим ожиданием случайного процесса X() называется неслучайная функция m x (), которая при любом значении аргумента равна математическому ожиданию соответствующего сечения случайного процесса: m () M X() 1. (1..3) x = [ ] 1 Будем исходить из допущения, что м. о. случайного процесса существует, не оговаривая это специально каждый раз.
27 1.. Законы распределения и основные характеристики случайных процессов 7 x() m x () Рис Зная одномерный закон распределения с. п. X(), всегда можно найти m x () для любого сечения и установить его зависимость от. Как находится математическое ожидание по закону распределения, мы уже знаем из книги [6](см. главу 4*): если с. в. Х дискретна, ее м. о. находится как сумма произведений ее возможных значений на их вероятности: m = x p ; x i i i если она непрерывна и имеет плотность f(x) м. о. вычисляется как интеграл: m x = x f( x) dx. Математическое ожидание смешанной с. в. Х находится как сумма произведений значений с. в., обладающих отличными от нуля вероятностями, на эти вероятности плюс интеграл, распространенный на участки непрерывности функции распределения F(x) (см. (4.1.4)*). Совершенно аналогично, зафиксировав и переходя от случайного процесса к случайной величине (его сечению), можно вычислить м. о. этого процесса. Например, если сечение с. п. X() при данном представляет собой дискретную с. в. с рядом распределения X x1() x() p() p () xi() p() то его м. о. может быть вычислено по формуле i. (*) m M X() x () p(). (1..4) = [ ]= x i i i Здесь x 1 (), x (), x i (), первое, второе,, i-е, значения, которые может принимать случайная величина X() сечение с. п.
28 8 Глава 1. Основные понятия теории случайных процессов при данном ; p 1 (), p (),. p i (), соответствующие вероятности: p 1 () = P
29 1.. Законы распределения и основные характеристики случайных процессов 9 ния имеют как положительные, так и отрицательные значения, а в среднем равны нулю (рис. 1..6). Рис Кроме м. о. в теории случайных процессов рассматриваются и другие их характеристики, аналогичные числовым характеристикам с. в. (с той разницей, что они будут уже не числами, а функциями): начальные и центральные моменты. Начальным моментом k-го порядка случайного процесса X() называется м. о. k-й степени соответствующего сечения с. п.: α k k = M X ()., (1..8) ( ) а центральным моментом k-го порядка м. о. k-й степени центрированного с. п.: k ο k µ k ()= M ( X () ) = M ( X () mx () ). (1..9) Из начальных моментов, кроме математического ожидания (первого начального момента), чаще всего применяется второй начальный момент: M [( X())] (в иной записи: M [ X ( )]); из центральных второй центральный момент, иначе дисперсия случайного процесса, которая при каждом равна дисперсии соответствующего сечения случайного процесса: ( ) ο Dx ()= D X () = M X (). (1..1) [ ]= [ ] Вспомним, как выражается дисперсия с. в. через ее второй началь- ный момент (см. (4..17)*): D X M X m x, т.е. дисперсия случайной величины равна математическому ожиданию ее квадрата минус квадрат математического ожидания. Совершенно такое же соотношение связывает дисперсию с. п. с его вторым начальным моментом: Dx()= D X () = M X () m () x. (1..11)
30 3 Глава 1. Основные понятия теории случайных процессов Следовательно, дисперсией с. п. X() называется неслучайная функция D x (), которая при любом значении аргумента равна дисперсии соответствующего сечения случайного процесса X(). Зная закон распределения любого сечения с. п. X() (одномерный закон распределения), можно по известным правилам найти дисперсию с. п. X(). Если сечение X() представляет собой дискретную с. в. с рядом распределения (**), то дисперсия с. п. находится по формуле ( ) () D ()= D X () = x m () p, (1..1) x i x i где i номер возможного значения с. в. X() при данном ; p i () вероятность этого значения, или же, через второй начальный момент, ()= () = () () x i i x i D D X x p m. (1..13) Если сечение X() представляет собой непрерывную с. в. с плотностью f(, x), то дисперсия с. п. может быть вычислена по формуле или же, через второй начальный момент 1, (1..14) D x f, x dx m. (1..15) x ()= ( ) x() Таким образом, как м. о., так и дисперсия с. п. X () определяются его одномерным законом распределения. Если м. о. m x () с. п. X () представляет собой некоторую неслучайную «среднюю функцию», около которой варьируются реализации случайного процесса, то дисперсия с. п. D x () представляет собой неслучайную неотрицательную функцию, характеризующую степень разброса реализации с. п. X () около его м. о. m x (), т.е. степень разброса реализации центрированного случайного процесса X Средним квадратичным отклонением (с. к. о.) σ x () с. п. X () называется арифметическое значение корня квадратного из дисперсии D x (): ο (). 1 Случай смешанной с. в. X(), как и выше, опускаем ввиду сравнительной громоздкости соответствующих формул.