Рецензия от ane4ka на «Отказ всех систем. Искусственное состояние»
Опасен ли для человека искусственный интеллект?
В последнее время на просторах книжного сегмента Ютуба и Инстаграма большую популярность приобрели повести Марты Уэллс «Отказ всех систем» и «Искусственное состояние», объединенные общим героем и изданные одной книгой. В своей дилогии автор рассказывает о далеком будущем, в котором спокойно сосуществуют люди, дополненные люди и боты, проще говоря, наделенные мощным разумом роботы. На страницах книги нам представлены несколько видов ботов, каждый из которых направлен на решение определенных задач.
Главный герой обеих повестей – автостраж, называющий себя Киллерботом. Созданный компанией, как и множество ему подобных, он предназначен для охраны и помощи людям, которые арендуют его у компании. Киллербот обязан исполнять все приказы своего владельца, а также заботиться о благополучии той команды людей и/или дополненных людей, которую он охраняет.
Однако наш герой – необычный автостраж. Уже с первой страницы книги мы узнаем, что он обладает чувствами, и любимое его занятие – это просмотр сериалов и развлекательных программ (в большей степени), а также чтение книг (в меньшей степени): «Взломав свой модуль контроля, я мог бы стать серийным убийцей, но потом сообразил, что получил доступ ко всем развлекательным каналам со спутников компании. Больше тридцати пяти тысяч часов фильмов, сериалов, книг и музыки — и я поглотил почти все, так и не совершив ни одного убийства. В качестве бездушной машины для убийств я оказался совершенно негодным».
Листая книгу страницу за страницей, мы все больше убеждаемся в наличии у Киллербота человеческих качеств: он боится показываться на людях без защитного шлема, испытывает смущение и неловкость, порой иронизирует, высоко ценит покой и одиночество, предан своим владельцам, хотя на выполняемую работу ему «наплевать». «Когда конструктов только создали, предполагалось, что они не будут обладать сознанием... нас сделали умнее. Побочными эффектами стали тревожность и депрессия». Автостражу присущ также внутренний монолог: он обдумывает произнесенные слова и ситуации, в которых ему довелось очутиться.
В течение книги читатель становится свидетелем все большего «очеловечивания» робота, его эволюции. Если в начале книги мы знаем его лишь как автостража или Киллербота (оба наименования слишком обезличены и указывают лишь на род деятельности героя), то во второй повести он обретает личное имя – Эден. Теперь он не просто безымянная машина с зачатками человеческих чувств, а подлинная личность.
В книге поставлены сразу несколько проблем: проблема свободы и рабства, ответственности и безответственности, преданности и предательства, проблема поиска смысла жизни, и самая главная – проблема опасности для человека существования рядом с более сильным искусственным интеллектом.
Автор решает проблему искусственного интеллекта однозначно. Созданный людьми, он все же повинуется им. Все злодеяния, совершаемые автостражами в книге (убийство всех членов экипажа «Дельты», покушение на экипаж «Сохранения» и т.п.), совершались ими не намеренно, а по указанию владельцев, то есть людей. Главный же герой, Киллербот Эден, наделенный почти что человеческими эмоциями, выступает перед нами как неопасное существо, своим призванием считающeе защиту людей: «Мне нравится защищать людей. Нравится находить способы их уберечь. Нравится, когда я оказываюсь прав».
Киллерботу Эдену предстоит пройти в книге через множество испытаний. Удастся ли ему спасти экипаж, разгадать тайну своего прошлого, стать свободным и найти смысл жизни?
Итак, в книге представлен довольно оптимистичный взгляд на искусственный интеллект. Не только Киллербот, но и превосходящий его по своим интеллектуальным способностям ГИК (Гнусный Исследовательский Корабль) проявляет заботу ко вверенному ему экипажу. Так что если развитие искусственного разума пойдет по сценарию Марты Уэллс, то человечеству не о чем переживать – оно в надежных руках.
Одними из главных, на мой взгляд, достоинств книги являются динамичный сюжет и простой язык. Несмотря на большое количество технических терминов, книга читается легко и быстро. Для меня она стала открытием новой интересной темы в области фантастики, а именно темы искусственного интеллекта. Я думаю, что каждому любителю книг о космических путешествиях, роботах и искусственном разуме стоит ее прочитать.
Надеюсь, что когда-нибудь по книге снимут фильм или сериал, и тогда я, подобно Киллерботу, с удовольствием его посмотрю.
