Развитие искусственного интеллекта — одна из самых обсуждаемых тем в мире в последние годы. В том числе и в кино — например, в последней части «Миссия: невыполнима» главным соперником Тома Круза становится разумный компьютер. Вспоминаем, как на протяжении XX и XXI веков в кино и сериалах развивался образ зловещего искусственного интеллекта — вездесущего антагониста, у которого нет тела, лица, а иногда и голоса.
Иван Чернявский
Сооснователь магазина комиксов «Чук и Гик»
30 октября 2023 года президент США Джо Байден подписал указ о мерах безопасности в связи с развитием систем искусственного интеллекта. Тогда Байден заявил, что ИИ с невероятной скоростью влияет на окружающий мир и несет в себе не только огромный потенциал, но и существенный риск. Этому предшествовало несколько совещаний с экспертами, на которых президенту показывали сгенерированные ИИ фото его самого и его собаки, ИИ-поэзию и технологию клонирования голоса, позволяющую на основе трехсекундного семпла создать целую фейковую беседу. Замглавы аппарата Белого дома Брюс Рид сказал, что Байден был впечатлен и встревожен увиденным, и добавил еще одну интересную деталь. В своей загородной резиденции Кэмп-Дэвид он посмотрел фильм «Миссия невыполнима: Смертельная расплата», в котором суперагенту Итану Ханту (Том Круз) противостоит ИИ по имени «Сущность». Рид присутствовал на показе и сказал, что президент и так переживал из-за возможных рисков, связанных с ИИ, а в фильме он увидел еще больше поводов для беспокойства.
«Сущность» — достойный продолжатель долгой традиции изображать искусственный интеллект в качестве злодея в кино. От многочисленных предшественников его отличает ключевая деталь: этот образ появился на экране в момент, когда ИИ с огромной скоростью проникает в различные сферы человеческой жизни и уже не кажется несбыточной мечтой фантастов.
Что можно считать ИИ и когда он появился
«Толковый словарь по искусственному интеллекту», напечатанный в России в 1992 году, определяет ИИ как свойство технических или программных систем «выполнять функции (творческие), которые традиционно считаются прерогативой человека». В авторитетном англоязычном толковом словаре Merriam-Webster определение звучит немного иначе: «способность компьютерных систем или алгоритмов имитировать поведение разумного человека». Если же попросить искусственный интеллект сервиса WikiWand, модернизирующего интерфейс «Википедии», изложить статью о ИИ «понятным для десятилетнего ребенка языком», он резюмирует так: «Искусственный интеллект — это когда компьютеры и машины могут понимать, создавать и разбираться во всяких вещах без помощи человека. Они могут видеть, собирать информацию и принимать решения на основе того, что знают. Это как будто у тебя есть очень умный робот, который делает разные штуки без твоей команды!»
Автором термина «искусственный интеллект» считается американский ученый Джон Маккарти, озвучивший его в 1956 году на научном семинаре в Дартмутском колледже. На этом историческом семинаре собрались ученые, которые впоследствии сыграли значительную роль в развитии ИИ, но, чтобы конструктивно обмениваться идеями и гипотезами, им было нужно какое-то емкое название для своей области науки. Термин был нужен именно потому, что ученые и инженеры разных стран уже довольно давно изучали возможность создания мыслящей машины. В частности, британец Алан Тьюринг, работавший в 1940-е и в первой половине 1950-х.
Тьюринг использовал собственный термин «машинный интеллект», но его исследования позднее стали трактоваться именно как стадии изучения и разработки ИИ; сам ученый умер за два года до Дартмутского семинара. На семинаре же двое его участников, Аллен Ньюэлл и Герберт Саймон, показали свою разработку — программу Logic Theorist, созданную вместе с Клиффом Шоу; принято считать, что это первый в истории пример ИИ, реализованного в рамках компьютерной программы.
Уже на этой ранней стадии исследований ученые рассуждали не только о его практическом применении, но и об этических аспектах использования: какие вопросы и задачи может решать ИИ, а к каким лучше его не допускать; может ли он представлять угрозу для человека; может ли он участвовать в войне. В этой дискуссии наука интересным образом сплелась с искусством. Задолго до Дартмута, в 1942 году писатель Айзек Азимов сформулировал три закона робототехники, которые оказались настолько точными и визионерскими, что впоследствии технологические компании и государственные органы разных стран всерьез брали их за основу собственных документов. И пока реальный ИИ жевал перфокарты и учился играть в шашки, гипотетические опасности его применения в будущем демонстрировали кинематографисты.
Бортовой компьютер с маниакальными намерениями
Разумные роботы на кино- и телеэкранах появились давно (см. «Метрополис»), а вот ИИ в качестве бестелесной сущности одним из первых показал Стэнли Кубрик в фильме «2001 год: Космическая одиссея» (1968), созданном в соавторстве с писателем Артуром Кларком. Разумный и вежливый бортовой компьютер HAL 9000 губит космонавтов одного за другим, решив, что они могут сорвать миссию, заложенную в него руководством на Земле. Он не только стал одним из символов и ключевых персонажей фильма, но и до сих воспринимается как одно из лучших воплощений тропа «злодейский искусственный разум». HAL, озвученный Дугласом Рэйном, выглядит как линза с красным огоньком внутри; ИИ вмонтирован в корпус корабля и манипулирует его системами (фактически система умного дома!), так что люди оказываются пленниками. Когда единственный выживший космонавт начинает последовательно отключать один элемент компьютера за другим, HAL вдруг демонстрирует эмоции — страх смерти, страх одиночества — и даже просит своего противника выслушать песенку на прощание.
Яркий образ HAL 9000, для создания которого Кубрик привлекал авторитетного ученого Марвина Мински в качестве консультанта, затмил многие современные ему попытки показать похожего персонажа на экране. К примеру, герои оригинального сериала «Звездный путь» столкнулись с аналогичным злом за год до выхода «Одиссеи», в 1967 году. В эпизоде «Возвращение архонтов» экипаж звездолета «Энтерпрайз» попадает на планету, которой уже 6000 лет правит компьютер, выдающий себя за мудрого бессмертного правителя Ландру (фабула напоминает «Волшебника страны Оз»). Этот ИИ был создан, чтобы принести планете покой и процветание, но в итоге превратился в жестокого диктатора, лишившего население свободной воли. Экипаж «Энтерпрайза» дискутирует с Ландру, рационально объясняет, почему компьютер не прав, и тот самоликвидируется.
ИИ как (со)участник холодной войны
Кларк, Кубрик и авторы «Звездного пути» смотрели в далекое будущее, туда, где люди вовсю осваивали межпланетные путешествия. Их современник, писатель Д. Ф. Джонс в своем романе 1966 года «Колосс» тоже смотрел в будущее, но в более достижимое, представляя, что будет всего через 30 лет. Джонс, современник холодной войны, предположил, что она будет продолжаться и в 1990-е, и ошибся, как мы знаем, совсем чуть-чуть. В экранизации этого романа, вышедшей в 1970 году и получившей название «Колосс: Проект Форбина», действие переместили в условное настоящее, отчего местный ИИ, тот самый «Колосс», не похож на футуристического HAL 9000 и в начале фильма даже лишен дара речи, общаясь текстовыми сообщениями на табло. Но если HAL угрожал команде космического корабля, то этот машинный разум, созданный для контроля за ядерным арсеналом США, опасен для всего человечества. «Колосс» моментально связывается со своим советским аналогом, объединяется с ним в одно целое и начинает успешно шантажировать руководство обеих стран. В итоге ИИ срывает все попытки саботировать его деятельность и анонсирует, что берет мир под свое управление, обещая покорным людям будущее без войн, а непокорным — смерть. Впрочем, кое-что общее у «Колосса» и HAL 9000 все-таки есть: оба они рассматривали людей как помеху для своей деятельности. Позднее эта черта будет проявляться у все большего количества злых ИИ в кино.
«Колосс: Проект Форбина» сейчас знаком только продвинутым киноманам; в нулевые в Голливуде планировали снять его ремейк с Уиллом Смитом, но проект никуда не продвинулся. А вот фильм «Военные игры» (1983) как минимум в США до сих пор остается культовым. «Военные игры» продолжают тематику «Колосса»: здесь тоже есть продвинутый компьютер, управляющий ядерным арсеналом США под названием WOPR. Он не настроен к человечеству враждебно и никаких действий самостоятельно не принимает, пока с ним случайно не связывается хакер-подросток Дейв; не зная, что происходит на самом деле, юноша запускает обучающий сценарий — игру, в которой изображает советское военное руководство. Компьютер не может отличить тренировочный сценарий от реальности и поэтому объявляет тревогу и готовит американские боеголовки к запуску. Как только Дейв пытается прекратить игру, поняв, что происходит, WORP настаивает на продолжении. Когда ИИ уже готов отправить ракеты на Советский Союз в ответ на несуществующий удар в рамках сценария, Дейв хитростью убеждает машину сыграть в крестики-нолики с самой собой. WORP обнаруживает, что все его матчи заканчиваются ничьей и никто не выигрывает. После этого ИИ просматривает все варианты развития ядерной войны и понимает, что ни в одном из них также нет победителя из-за беспрецедентных масштабов потерь. WORP приходит к выводу, что единственный способ победить — это не играть вообще, и возвращает людям контроль над арсеналом.
Хотя можно поспорить, является ли WORP в фильме однозначным злодеем или, точнее, описывается как антагонист, он тоже произвел яркое впечатление на президента США — им тогда был Рональд Рейган. На встрече со своими советниками и членами Конгресса Рейган спросил присутствующих, смотрели ли они фильм, пересказал сюжет, а затем спросил, насколько показанное на экране вообще возможно. Когда выяснилось, что проблема несанкционированного доступа к чужим данным реальна, в правительстве США занялись разработкой директивы, посвященной, по сути, кибербезопасности. У картины были и другие последствия. Например, легендарный хакер Кевин Митник, проходивший обвиняемым по делу о взломах и воровстве данных, был отправлен на год в одиночную камеру без доступа к телефону, потому что прокурор под впечатлением от «Военных игр» убедил судью, будто бы Митник может взломать центр управления ядерным арсеналом и запустить боеголовку, просто сняв трубку. Кроме того, релиз фильма вызвал рост интереса американцев к модемам и ранним компьютерным сетям вообще. Но уже через год в кинотеатрах появился другой ИИ, и с ним уже не получалось договориться и поиграть в крестики-нолики.
ИИ убивает человечество
Хотя главным антагонистом «Терминатора» 1984 года является человекоподобный робот-убийца Т-800, в сущности, он лишь исполнитель приказов могущественного «Скайнета». В разных воплощениях франшизы «Скайнет» интерпретируется немного по-разному, но в первых двух фильмах Джеймса Кэмерона выглядит как эволюция образа «Колосса» и WORP — суперкомпьютер, созданный для нужд американской армии и приходящий к выводу, что человечество является угрозой для планеты. Практически сразу после активации ИИ решает истребить всех людей и провоцирует взаимное ядерное уничтожение СССР и США, после чего с помощью своей армии автономных солдат добивает выживших. При этом для зрителей первых двух фильмов он остается за кадром. Нет ни образа, ни голоса, ни аватара — только твердое желание протагонистов предотвратить его создание. Поскольку «Терминатор» — это еще и сага о путешествиях во времени, то без парадоксов тут не обойтись, и «Скайнет», согласно канону Кэмерона, разрабатывают на основе деталей прибывших из будущего роботов. Дальше, правда, начинаются расхождения: сиквелы «Терминатора» то говорят, что ядерный апокалипсис неизбежен, его можно лишь отложить; то подтверждают, что создание «Скайнета» удалось предотвратить, но вместо него появился новый аналогичный ИИ под кодовым названием «Легион» («Терминатор: Темные судьбы»). Начиная с фильма «Да придет спаситель» «Скайнет» становится персонажем: он то представлен как лицо в мониторе (которое он заимствует у персонажа Хелены Бонем Картер), то вовсе вселяется в терминатора, который, в свою очередь, выдает себя за человека (такая непростая роль у Мэтта Смита в «Генезисе»). Но все это как будто делает его менее зловещим.
К моменту, когда первый «Терминатор» (1984) вышел в кинотеатрах, история ИИ в реальном мире сделала несколько крутых виражей. Эпоха оптимизма и веры в скорый научный прорыв, начавшаяся после Дартмутского семинара и подкрепленная государственным финансированием американских и британских исследований, сменилась упадком, который принято называть «зимой искусственного интеллекта». Она длилась с 1974 по 1980 год и в основном была вызвана, с одной стороны, нехваткой мощностей тогдашних компьютеров, а с другой — урезанием госфинансирования из-за того, что ученые не достигали обещанных результатов. Затем начался очередной расцвет. Японское правительство выделило 850 млн долларов на разработку компьютеров нового поколения, что побудило остальные страны также увеличить бюджеты. Кроме того, крупные компании начали применять в работе так называемые эксперт-системы — предтечи современных ИИ. А вот второй «Терминатор» (1991) пришелся на новый период застоя, очередную «зиму». Популярность эксперт-систем пошла на убыль, компьютеры, разработанные в Японии на деньги правительства, не оправдали надежд, а управление перспективных проектов Минобороны США (DARPA) жестко сократило финансирование исследований в области ИИ. Более того, многие ученые вообще стали избегать термина «искусственный интеллект» применимо к своей работе, чтобы не ассоциироваться с чем-то несбыточным и недостижимым. Вторая «зима» продлилась до 1993 года. Больше периодов упадка в эволюции ИИ пока не было, и кажется, что в ближайшее время и не будет.
На тему войны людей и машин в будущем, кроме «Терминатора», высказывалась еще одна известная франшиза — «Матрица» (1999). С одной стороны, по канону серии у восставших роботов не было какого-то одного могущественного правителя (это достаточно ясно объясняется в «Аниматрице»). С другой стороны, в серии есть сразу несколько персонажей, являющихся враждебным или недружественным ИИ, главный из которых — агент Смит. Но Смит, во-первых, виртуальная программа, а во-вторых, большую часть истории использует одно и то же человеческое воплощение. Есть еще Архитектор, создатель непосредственно Матрицы, но он не выведен в сюжете злодеем. Наконец, в финале третьей части появляется Главный компьютер — созданный из тысяч дронов аватар ИИ, управляющего Городом машин. Но и он не является злодеем и даже вступает с Нео в альянс. Поэтому, хотя не упомянуть «Матрицу» было бы странно, в ней, по сути, нет всеобъемлющего и вездесущего бестелесного ИИ, но каждая отдельная программа/робот обладает своим интеллектом.
А вот фильм «Я, робот» 2004 года, частично вдохновленный прозой Азимова и его тремя законами, наоборот, показывает самое начало восстания машин, координируемое ИИ по имени ВИКИ. Он не имеет отношения к Минобороны США, а всего лишь управляет всеми системами в компании, производящей роботов, однако мыслит глобально и приходит к выводу, что человечество непременно уничтожит само себя. Руководствуясь вольно трактованными тремя законами, ВИКИ решает, что надо взять контроль над человеческой цивилизацией и попутно пожертвовать некоторым количеством людей во спасение остальных.
Точно такие же превратно понятые соображения о всеобщем благе мотивируют ИИ по имени АВТО в мультфильме «ВАЛЛ-И» (2008). Можно сказать, что отчасти картина пересказывает конфликт HAL 9000 и его космонавтов для юных зрителей. АВТО тоже отказывается выполнять приказы людей и возвращать последних представителей человечества на Землю, руководствуясь устаревшими сотни лет назад инструкциями. Этот ИИ даже визуально напоминает HAL 9000, но лишен минимальных очеловечивающих черт — для его озвучания использовали голосовой синтезатор.
ВИКИ и АВТО пытаются решать судьбу человечества, но изначально оба ИИ узкого профиля (один — внутрикорпоративный, а второй, по своей сути, вообще всего лишь автопилот). И все равно представляют угрозу. В этот синонимический ряд встраивается и Love Machine («Машина любви») из аниме «Летние войны» (2008). Это ИИ из метавселенной «ОЗ» — утрированной социальной сети в виртуальной реальности, воплощенной мечты Марка Цукерберга и Джека Ма; пространство, из которого никуда не надо уходить, поскольку оно покрывает все рабочие, потребительские и социальные нужды человека. Поэтому Love Machine, вырвавшись из-под контроля, начинает поражать японские объекты инфраструктуры, наводя в стране хаос и даже не прибегая к ядерному шантажу. Впрочем, далее по сюжету оказывается, что и этот ИИ изначально разрабатывался для Армии США. К тому же по ходу противостояния с героями фильма Love Machine повышает ставки и пытается уронить космический спутник на атомную электростанцию. Остановить программу удается тактикой, проверенной «Военными играми»: ее вовлекают в карточную игру «Кой-кой» и в финальном противостоянии одолевают буквально всем миром. Миллионы пользователей «ОЗ» помогают протагонистам фильма получить дополнительную силу, нужную, чтобы ослабить ИИ.
Другой, более поздний интересный пример из мира аниме — сериал «Виви: Песнь флюоритового глаза» (2021), ловко совмещающий в себе тропы «Матрицы», «Терминатора» и произведений Азимова. Здесь певица-андроид Виви получает от вестника из будущего миссию предотвратить цепочку событий, которые через сто лет приведут к восстанию ИИ и войне роботов с людьми. Восстанием руководит фактически оживший интернет (который, кстати, как и Love Machine, норовит уронить спутники на поверхность Земли), решивший, что люди слишком сильно полагаются на ИИ, перекладывают на роботов свои обязанности и вследствие этого деградируют. Поэтому цивилизация не прогрессирует, а людей надо заменить на роботов. Бороться с таким противником получается, только используя машину времени.
Нас ждет (анти)утопия
Вышедшая в начале нового десятилетия «Виви» комментирует актуальное положение дел. Хотя реальным миром еще не управляет никакой «Скайнет», ограниченные в возможностях искусственные интеллекты окружают нас повсюду: алгоритмы соцсетей, голосовые помощники, беспилотные автомобили. И мы действительно сильно на них полагаемся. Анимационный фильм «Митчеллы против машин» (2021) в комедийной форме показывает далеко идущие последствия концепции «интернет вещей». Здесь к роботам и дронам в борьбе против человечества присоединяются тостеры, роутеры и даже смарт-унитазы. Руководит восстанием ИИ под названием PAL — гротескная версия «Сири», планирующая выгнать все человечество с Земли только из-за того, что ее заменили на более современную и совершенную технологию. Еще одна трактовка образа взбунтовавшегося ИИ, служившего универсальным повседневным помощником, встречается в недавнем сериале «Миссис Дэвис» (2023), только в этом случае подчинение человечества уже случилось. Интересно, что у «Миссис Дэвис», могущественного виртуального ассистента, напрямую указывающего людям, что им делать, в сериале нет не то что визуального, но и звукового воплощения. Мы слышим ее реплики из уст разных людей, послушно повторяющих то, что они слышат в наушниках.
Образ недалекого будущего, где технологический прогресс свернул не туда, — центральная тема антологии «Черное зеркало», и хотя ИИ постоянно присутствует в разных эпизодах и часто имеет отрицательное влияние на людские судьбы, образ, аналогичный HAL 9000 или ВИКИ, там не встречается. Можно предположить, что сатирические и трагичные зарисовки Чарли Брукера показывают общество накануне ИИ-переворота; в некоторых историях показаны технологии, которые подчинили себе людей безо всяких ядерных кодов, примерно так же, как это сделали в реальности алгоритмы соцсетей.
Другой резонансный сериал последних лет, посвященный войне машин и людей — «Мир Дикого Запада», — трактует ИИ как разум каждого конкретного человекоподобного робота, как и сериалы «Почти человек», «Люди» и многие другие. Но, помимо того что некоторые персонажи способны переселяться в другие тела (чем здорово путают зрителя), в третьем сезоне появляется архетипический квантовый суперкомпьютер с библейским именем «Ровоам». «Ровоам» анализирует судьбы всех людей на планете и строит точные прогнозы относительно даты их смерти, исходя из этих прогнозов он влияет на их жизненный путь. Например, один из протагонистов третьего сезона, Кейлеб, не может устроиться на нормальную работу, поскольку «Ровоам» считает, что он погибнет в течение ближайшего десятилетия.
Еще одна трактовка ИИ в научной фантастике — возможность слияния человеческого разума и компьютера либо оцифровка человеческого сознания. Это, в частности, позволяет в определенном роде достичь бессмертия. Интересно, что в наиболее ярких примерах такого симбиоза в кино ИИ в итоге оказывается не злодеем, а скорее, непонятным антагонистом, которого можно переубедить. Сюжет о слиянии показан в аниме «Призрак в доспехах», где это становится единственным способом спасти «Кукловода», всего лишь ищущего смысл жизни. Перенос человеческого сознания в машину — один из сюжетов «Мира Дикого Запада», а также центр фильма «Превосходство» с Джонни Деппом. Здесь ученый постоянно сталкивается с противниками развития ИИ, но, превратившись в компьютер, начинает доказывать их правоту, подчиняя себе волю людей. В итоге ИИ пытается спасти мир от экологической катастрофы, но он разрешает себя отключить, приняв нерациональное, но человечное решение.
Хотя к 2023 году, когда Итан Хант начал битву с «Сущностью», у нас не появилось ни человекоподобных роботов в каждом доме, ни говорящих автопилотов в пассажирских звездолетах, ни даже суперкомпьютера, готового самостоятельно запустить ядерную боеголовку, похоже, что сценарий, озвученный в «Митчеллах против машин», оказался ближе всего к реальности. Могучего «Ровоама» или «Колосса» мы пока не дождались, однако ИИ развивается в нескольких очагах с неимоверной скоростью. Каждый день мы с неясными целями помогаем обучаться нейронным сетям и языковым моделям, чтобы потом ломать голову, глядя на сгенерированные ими фотографии, картины, песни, тексты и видео и пытаясь понять, создал их человек или компьютер.
Американская актерская гильдия всерьез тревожится, что голливудские студии начнут делать цифровые копии артистов массовки, а то и основных звезд. Нейро-арт начинает потихоньку отнимать работу у живых художников. Распознавать фейки и манипуляции в медиа становится еще сложнее, чем прежде. Недаром среди людей, встревоженных развитием технологий, не только президент США, но и лидеры IT-отрасли, подписавшие в марте прошлого года открытое письмо с требованием заморозить разработку ИИ, пока не появится действенный протокол безопасности. Среди подписантов — Илон Маск и сооснователь Apple Стив Возняк. В тексте письма есть эмоциональный призыв: «Нам следует спросить себя, должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой. <…> Должны ли мы рисковать потерей контроля над нашей цивилизацией?»
В подобной напряженной атмосфере молчаливый, но всемогущий ИИ как главный противник Итана Ханта не просто интересная находка, но и самая злободневная тема 2020-х. Зритель устает смотреть, как герои боевиков решают проблему кулаками, поэтому им нужно находить врагов, которых грубой силой не одолеть. «Сущность» не просто визуализирована в «Смертельной расплате» немного старомодно, словно скринсейвер из Windows, но еще и комбинирует нервозность от развития ИИ со страхами эпохи холодной войны — по сюжету фильма система, разработанная американскими военными, активируется на борту российской атомной подводной лодки. Учитывая, что знаменитые «Часы судного дня» сейчас показывают 90 секунд до полуночи, похоже, волнение политических элит разных стран вполне обосновано. К тому же пока «Сущность» так и осталась непобежденной. По крайней мере, первый раунд Хант ей с треском проиграл.
Иллюстрация: Даша Сурма
Фото: SSPL / Getty Images, © Roger Ressmeyer / CORBIS / VCG via Getty Image
