Чилийский писатель Бенхамин Лабатут — один из самых громких авторов последних лет. Его книгами «Когда мы перестали понимать мир» и «MANIAC» восхищаются Бьорк, Обама и Стивен Фрай, его называют визионером, балансирующим на грани науки и мистики, да и выглядит он как рок-звезда. Книги Лабатута — своеобразный полуфикшен, в котором перемешаны реальные истории великих ученых XX века, философские рассуждения и темные пророчества. Он пишет об эпохе, когда наука подошла к черте непознаваемого, а мир как будто вышел из-под контроля, и сегодня это легко накладывается на страхи и опасения, связанные с появлением ИИ. Не так давно в издательстве Ad Marginem вышла его новая книга «Камень безумия». Юрий Сапрыкин поговорил с Лабатутом о конце света, искусственном разуме и поводах для надежды.
Юрий Сапрыкин
Критик, руководитель спецпроектов медиа Кинопоиска
— Когда вы начали интересоваться наукой? Помните ли вы момент, когда впервые осознали, что наука больше не может — по крайней мере, для вас — объяснить мир?
— Я всегда был заворожен возможностями науки. У меня маниакальная страсть к разного рода озарениям и откровениям, а наука — один из самых совершенных инструментов, позволяющих проникнуть в самую суть вещей и заглянуть в неведомое. Но когда я пишу, для меня интереснее сферы, куда наука проникнуть не может. Моменты, когда ученые сталкиваются с чем-то непостижимым. В своем стремлении все понять наука зачастую подводит нас к порогу, за которым тьма; может быть, сама суть науки в трепете от соприкосновения с необъяснимым. Как будто смотришь в черное зеркало, за которым тайна.
— Герои ваших книг — великие ученые XX века — часто приближаются к этой границе непостижимого, а многие пытаются ее пересечь. Это почти всегда заканчивается трагически или странным образом совпадает с историческими катастрофами. Верите ли вы, что существует объективный предел человеческого познания? И что попытка выйти за этот предел фатальна для человека и, возможно, может сломать саму механику мира?
— Здесь есть своя динамика, от которой не убежишь. Когда мы расширяем представление о мире, начинаем иначе видеть самих себя, когда за нашим представлением о том, как все устроено — будь то идея Бога, гравитация или эволюция, — открывается новая тайна, нам становится страшно. Людям нужна устойчивая картина мира, неизменные координаты, определяющие, что правильно и что важно. Когда координаты начинают меняться, это мучительный процесс. Как рождение человека: новая жизнь приходит в мир через страдания, оказываясь на краю гибели. Стремление к знанию часто приводит нас к ощущению хаоса, абсурда и бессмыслицы. Это испытание для человеческого разума, иногда он на этом ломается. Дело не в том, что существуют непреодолимые границы познания, скорее этот процесс сам по себе неизбежно связан с риском. Но в итоге мы можем получить огромный выигрыш.
— Если посмотреть на историю человечества, наука уже не раз упиралась в собственные границы, а потом преодолевала их, резко меняя курс. Может быть, кризис научного знания, о котором пишете вы, — это просто начало новой эры?
— Самое прекрасное и пугающее, что есть в науке, — у нее нет никакой цели, пункта назначения. В финале вас не ждут райские кущи, да и финала никакого не будет. Наука никогда не останавливается: все открытые ею истины условны, они только и ждут, когда их опровергнут. И именно это делает ее такой мощной силой, современным аналогом божественного откровения. У науки особое отношение к сомнению, истине и лжи. Она влюблена в тайны. Она способна их раскрывать, но всегда есть что-то, что от нее ускользает: у науки есть свои барьеры, и за этими пределами она просто неприменима. Нынешний кризис действительно может создать новую парадигму, но, если такая и появится, она неизбежно сломает те ограничения, в которых наука существует сейчас, а позже сама изменится. Я бы сказал, конец света — это не событие, а процесс: иногда он ускоряется, иногда снижает скорость, но никогда не останавливается и не приходит к финалу. Это бесконечно удаляющийся горизонт.
— В финале вашей книги «Когда мы перестали понимать мир» есть такая фраза: «Вовсе не атомные бомбы, компьютеры, биологическое оружие или климатическая катастрофа, а простая математика меняет мир до такой степени, что совсем скоро, всего через пару десятков лет максимум, мы не сможем понять, что значит — быть человеком». Прошло 10 лет. Ваш прогноз сбывается?
— Математика уже изменила мир так, что мы просто не можем этого осознать. Это странный и удивительный язык, которым владеет лишь горстка людей. Я думаю, математика — в частности, булева алгебра — это настоящая ДНК, алхимия современного мира. Это как Святой Дух: она повсюду, но невидима, она наполняет мир и управляет им, а мы ее не замечаем.
— История XX века показывает, что развитие науки — это всегда еще и новые средства массового уничтожения. Сейчас вообще кажется, что чем глубже и сложнее становится научное познание, тем больше хаоса и насилия в мире. Мы видим, насколько легко люди поддаются коллективным психозам, архаическим инстинктам и примитивным манипуляциям. В чем противоядие от этого «камня безумия»?
— Лучшие противоядия и вообще самые эффективные лекарства — это яды.
Мы должны инфицировать себя искусством, литературой, мифологией, сексом — всем тем, что выводит нас за собственные пределы.
Это микродозы иррационального, симулякры безумия. Они совершенно необходимы, чтобы не поддаваться манипуляциям политиков, лживому гвалту соцсетей, чтобы не впасть в паралич при виде вопиющих страданий, с которыми мы сталкиваемся ежедневно. Мы должны развивать разум, мы должны быть научно подкованными, но вместе с тем мы должны уметь отдаваться таинствам бессознательного. Хотим мы того или нет, мы думаем и видим сны, рассуждаем и поддаемся страстям. Мы качаемся на тех же волнах, что несут человечество вперед, — между приливами и отливами, разумом и безумием.
— В романе «MANIAC» вы размышляете, в чем же отличие человека от искусственного интеллекта, и приходите к тому, что, возможно, оно состоит в способности ошибаться, совершать нечто непредсказуемое или даже нелепое. В финальной главе, где вы рассказываете про матч между компьютером и чемпионом по игре в го Ли Седолем, мы видим, как машина проявляет те же качества. Она выигрывает, потому что совершает неправильные ходы. Как, по-вашему, способен ли ИИ стать не только таким же разумным, но таким же иррациональным, как человек?
— Я думаю, ИИ способен воспроизвести все, что мы можем выразить на языке символов, что имеет скрытую логику, даже если эта логика совершенно иррациональна. Большие языковые модели могут говорить на несуществующих языках, они способны понимать, как общаются животные, они обладают огромной и устрашающей силой. Но они не могут того, на что способны существа, самовоспроизводящиеся и самосозидающие, то есть мы с вами. Им не знакома забота, страдание, вообще какие-либо чувства. Они не могут отличить правду от лжи, поскольку они слепая абстракция, созданная математикой и языком символов. То есть существа, максимально непохожие на нас, с совершенно иной онтологией. Искусственный интеллект, победивший Ли Седоля, мог играть в го так, как никогда не смог бы ни один человек. Но он не мог радоваться, волноваться, плакать или заниматься любовью. Ему никогда бы не пришло в голову отпраздновать свою победу.
— Специалисты по ИИ обещают нам создать материалы с невиданными ранее свойствами, придумать лекарства от неизлечимых болезней и найти новые источники энергии. Как вам кажется, они понимают, что делают? Или технический прогресс сегодня как поезд без машиниста, который движется сам по себе?
— Я думаю, что некоторые люди, такие как Демис Хассабис, который занимается нейросетями в Google, прекрасно осознают, какие удивительные вещи мы могли бы сделать с помощью ИИ в науке. В идеале задачами такого масштаба должна заниматься некая международная структура, что-то вроде всемирного «Манхэттенского проекта» со своими стандартами безопасности и контроля. Но так получилось, что ИИ появляется на свет в самое турбулентное и взрывоопасное время в новейшей истории. И он лишь подольет масла в огонь, который и так уже вырвался наружу. Может быть, я даже хотел бы, чтобы это был поезд. Поезда, по крайней мере, ходят по рельсам. Но то, что мы видим, гораздо опаснее. Кажется, мы летим на полном ходу к неизбежной катастрофе. С другой стороны, человечество переживало и не такие катастрофы.
Человеческий мир таков, каким мы его создали сами, и мы в состоянии сделать его лучше, даже в самые ужасные времена.
— Совместимы ли вообще наука и этика? Есть ли в истории примеры, когда моральные ограничения сдерживали бы страсть к познанию?
— Наука занимается тем, что мы можем знать или делать. А этика — тем, что мы знать или делать должны. Они дополняют друг друга: человека невозможно свести к какой-либо одной способности, мы сложные существа, действующие одновременно на уровнях разума, чувства и тела. Наука — это довольно радикальная вещь. Она способна мыслить за пределами самой себя, ставить все под вопрос, подталкивать и совершенствовать все что угодно, но за ней ни в какой сфере жизни не может быть окончательного слова.
— По вашим книгам может показаться, что вы видите в страсти к познанию что-то вроде мании — болезнь, которую невозможно контролировать.
— Так устроен наш разум. Это, если хотите, проклятие Прометея. Если бы мы не были подвержены этой мании, мы до сих пор жили бы в пещерах и охотились бы на диких зверей. А так мы охотимся друг на друга! Да, в этом есть свои темные стороны, но, образно выражаясь, мы больше времени проводим теперь при свете дня и меньше боимся темноты. Хотя все равно несем ее в себе. И она всегда поджидает нас где-то рядом.
— В своей последней книге «Камень безумия» вы рассказываете историю некоей женщины-ютубера, которая преследует вас, одновременно развивая конспирологическую теорию о всемирном заговоре издателей. И чем больше вы об этом думаете, тем больше находите эту теорию логичной, а затем обнаруживаете и фактические подтверждения. Так с любой конспирологией? Если долго на нее смотреть, начинаешь понимать, что в действительности все не так, как на самом деле?
— Самое интересное, что когда мне писала эта женщина, мол, издатели с помощью ИИ крадут идеи у авторов и пишут по ним новые книги, это выглядело абсолютно безумной фантазией. А спустя всего пару лет это стало как минимум технически осуществимым. Собственно, именно поэтому я и решил написать о безумии: умопомешательство как будто дает нам возможность предвидеть будущее, как это было с писателем Филипом К. Диком. Я просто не могу представить, что должна чувствовать эта женщина при виде того, как сбываются ее параноидальные фантазии. Хотя нет, мы все можем это представить, поскольку наши кошмары все чаще становятся реальностью.
— Вы пишете о том, как наука открыла в мире новую степень сложности, которую невозможно понять и объяснить с позиций здравого смысла. Не кажется ли вам, что нынешние политические потрясения связаны с тем, что мир стал слишком сложным и хаотичным? И прежние методы управления больше не работают?
— Меня вообще интересуют хаос, случайность и иррациональность. Этого все больше в нашем мире, и это огромный вызов для любых традиционных структур и методов. Возможно, нынешние инструменты действительно не справляются со сложностью, которую мы сами и создали; что ж, человечество придумает новые. Тут есть одна многообещающая возможность, которая, впрочем, во все времена интересовала людей у власти, — способность предсказывать будущее. В древние времена люди пользовались для этого услугами шаманов, сейчас мы хотим, чтобы этим занялись микропроцессоры. Мне и самому не чуждо такое желание, я много разговаривал об этом с людьми, работающими в сфере ИИ, и все они мечтают, что новые прогностические способности, которые даст нам искусственный интеллект, смогут стать противоядием от нынешнего хаоса.
— Времена хаоса и смуты часто рождают пророков, мистиков, даже новые религиозные системы. Человечеству хочется на что-то надеяться. Если наука и политика завели нас в тупик, в чем вы видите надежду?
— Я не верю в надежду. Пусть на этом спекулируют политики и духовные лидеры. Однажды Кафку спросили, есть ли человеку на что надеяться. Он ответил: «Да, в мире бесконечно много надежды. Только не для нас». Я верю в другое: есть некие ожидания, которые создает наука. Мы всегда чего-то ожидаем, а в процессе перестраиваем эти ожидания по мере появления новой информации. Лучше ждать, чем надеяться. Надежду легко обмануть и разрушить, но ожидания подвижны, мы можем адаптировать их к новым условиям, они нас не разочаровывают. А надежда — это прямой путь к отчаянию.
Фото: Leonardo Cendamo / Getty Images