Динамическое
программирование
и современная
теория управления
Перевод с английского
Е. Я. РОЙТЕНБЕРГА
Под редакцией
Б. С. РАЗУМИХИНА
Р. БЕЛЛМАН
Р. КАЛАБА
ИЗДАТЕЛЬСТВО «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
МОСКВА 1969
6 Ф 6. 5
Б 43
УДК 62-50
DYNAMIC PROGRAMMING
AND MODERN
CONTROL THEORY
Richard Bellman
UNIVERSITY OF SOUTHERN CALIFORNIA
LOS ANOELES, CALIFORNIA
Robert Kalaba
THE RAND CORPORATION
SANTA MONICA, CALIFORNIA
ACADEMIC PRESS
New York and London
3-3-4
ОГЛАВЛЕНИЕ
Предисловие редактора перевода 6
Предисловие авторов 7
Глава I
Многошаговые процессы 9
1. Введение 9
2. Системы 9
3. Многошаговые процессы 11
4. Редукция информации 13
5. Независимость от прошлого 14
6. Рекуррентные соотношения 15
7. Бесконечные процессы 18
8. Процессы с заданными правилами остановки 19
9. Нестационарные процессы 20
10. Обсуждение 22
11. Непрерывные многошаговые процессы . . 22
12. Траекторный процесс 24
13. Неоднородная атмосфера 27
14. Причинность 28
15. Стохастические процессы 29
16. Корреляция 30
17. Наблюдения при наличии шумов 31
18. Скрытые переменные 32
19. Индуцированные процессы 33
20. Косвенные и индуцированные процессы . . 34
21. Более общие стохастические процессы 35
22. Заключение 36
23. Библиография и комментарии 36
Глава II
Многошаговые процессы принятия решений 40
1. Введение 40
2. Многошаговый процесс принятия решений 41
3. Стратегия 42
4. Сепарабельные критерии 43
5. Принцип оптимальности 44
6. Примеры 44
7. Другой вывод основного функционального
уравнения • 46
4
ОГЛАВЛЕНИЕ
8. Что является решением? 46
9.
Непрерывный многошаговый процесс
принятия решения 47
10. Вариационное исчисление 48
11. Геометрические аспекты 51
12. Стохастический многошаговый процесс
принятия решения 52
13. Управление с обратной связью 53
14. Анализ уравнений 54
15. Последовательные приближения 55
16. Приближение в пространстве стратегий 56
17. Квазилинеаризация 57
18. Аналитические и вычислительные проблемы 58
19. Принцип Ферма и уравнение эйконала 59
20. Наикратчайшие пути через сети 61
Библиография и комментарии 65
Глава III
Вычислительные аспекты 63
1. Введение 68
2. Цифровые вычислительные машины 68
3. Численное решение процессов динамического
программирования 69
4. Приближения в пространстве фуйкций 71
5. Приближение в пространстве стратегий . . 72
6. Вычислительная осуществимость 72
7. Аппроксимация полиномами 73
8. Устойчивость вычислительного процесса 75
9. Обсуждение . 77
10. Задача о замене оборудования 77
Библиография и комментарии 82
Глава IV
Аналитические результаты в теории управления
и теории связи 84
1. Введение 84
2. Управление с обратной связью 84
3. Скалярный случай 85
4. Обсуждение 87
5. Стохастический вариант 88
6. Обсуждение 89
7. Многомерный детерминированный случай . . 89
8. Непрерывный случай 91
9. Теория прогнозирования 95
10. Передача информации 97
11. Эффективный игрок 97
12. Применение метода динамического
программирования 99
13. Обсуждение 101
Библиография и комментарии 101
ОГЛАВЛЕНИЕ 5
Глава V
Процессы управления с адаптацией 105
1.