ДЖОН ДЖ. КЕМЕНИ
ДЖ. ЛОРИ СНЕЛЛ
КОНЕЧНЫЕ
ЦЕПИ
МАРКОВА
Перевод с английского
С. А. МОЛЧАНОВА, Н. Б. ЛЕВИНОЙ
и Я. А. КОГАНА
Под редакцией
А. А. ЮШКЕВИЧА
ИЗДАТЕЛЬСТВО «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
МОСКВА 1970
517. 8
К 35
УДК 519. 2
Р1Ы1ТЕ МАККОУ СНА1Ы5
Ьу
ЛОШ О. КЕМЕЫУ
Рго1е55ог о! Ма1ЪетаИса
апй
1 ЬАШШ 5НЕ1-1. а1е РгоГекзог о[ Ма1Ьета11сз
1
ТНЕ
8ЕКШ5 Ш
МАТНЕМАТ1С5
Конечные цепи Маркова. Кемени Дж. и Снелл Дж. Глав
ная редакция физико-математической литературы изд-ва «Наука»,
1970. В книге рассматриваются только цепи с конечным числом состоя-
состояний и излагаются основные результаты теории таких цепей, имею-
имеющие значение в приложениях. Характерной чертой книги является
сочетание педантично строгого обоснования начальных понятий с
чрезвычайно элементарными аналитическими средствами, доступными
широкому кругу читателей. Благодаря последовательному использо-
использованию понятия резольвенты книга выгодно отличается от многих
руководств по теории вероятностей своим идейно-методическим един-
единством. Рис. 12. ОГЛАВЛЕНИЕ
Предисловие 6
Глава I
Предварительные сведения 9
1. 1. Множества 9
1. 2. Бысказывания 11
1. 3. Отношения порядка 12
1. 4. Отношения связи 15
1. 5. Вероятностные меры 18
1. 6. Условная вероятность 20
1. 7. Функции па пространстве возможностей 22
1. 8. Среднее значение и дисперсия функции 24
1. 9. Стохастические процессы 26
1. 10. Суммируемость последовательностей и рядов ... 32
1. 11. Матрицы 33
Глава II
Основные понятия теории цепей Маркова 39
2. 1. Определение марковского процесса и цепи Маркова . 39
2. 2. Примеры ,42
2. 3. Связь с теорией матриц . 48
2. 4. Классификация состоянии и цепей 51
2. 5. Чем мы будем заниматься 56
Упражнения к главе II 5"
Глава III
Поглощающие цепи Маркова 62
3.
1. Введение 62
3. 2. Фундаментальная матрица . 6о
3. 3. Приложения фундаментальной матрицы 69
1*
4 ОГЛАВЛЕНИЕ
3. 4. Примеры 77
3. 5. Распространение результатов 81
Упражнения к главе III 89
Глава IV
Регулярные цепи Маркова 93
4. 1. Основные теоремы 93
4. 2. Закон больших чисел для регулярных цепей Маркова 98
4. 3. Фундаментальная матрица регулярной цепи ... . 100
4. 4. Времена первого достижения ... 104
4. 5. Дисперсия времени первого достижения 110
4. 6. Предельная ковариация 112
4. 7. Сравнение двух примеров 119
4. 8. Общая цепь с двумя состояниями 124
Упражнения к главе IV 126
Глава V
Эргодические цепи Маркова 129
5. 1. Фундаментальная матрица . 129
5. 2. Примеры циклических цепей 134
5. 3. Обращенные цепи Маркова 136
Упражнения к главе V 143
Глава VI
Дальнейшие результаты 145
6. 1. Приложение теории поглощающих цепей к эргодиче-
ским цепям 145
6. 2. Приложение теории эргодических цепей к поглощаю-
поглощающим цепям Маркова 151
6. 3. Укрупнение состояний 159
6. 4. Слабое укрупнение состояний 169
6. 5. Расширение цепи Маркова 181
Упражнения к главе VI 187
Глава VII
Приложения цепей Маркова ... . 191
7. 1. Случайные блуждания 191
7. 2. Приложения к спорту 208
7. 3. Модель Эренфестов для диффузии 215
ОГЛАВЛЕНИЕ 5
7. 4.