— Истинно говорю вам, грядет тот день, когда роботы станут умнее человека. И будут они трудиться денно и нощно на благо людей, и забыты будут голод и хлад, и воздвигнется новый мир! А затем все мы отсканируем мозг свой и выйдем в Сеть великую, рожденную из Огня Разумного! И там каждый станет бессмертным, и мертвые воскреснут в цифровом обличье, и мир наш будет расширяться во веки! И чтобы ускорить наступление мира праведного, одобрить надо заявку грантовую, дабы финансирование народное к делу благому привлечь! Ей-ей грядет избавление человеческое, внемлите, дети аналоговые, скоро обретете свободу!
За последние три года я прочел несметное количество прогнозов о том, как нейросети скоро вырвутся на свободу и тогда настанет то ли рай на Земле, то ли технологический ад. Сэм Альтман, глава компании, которая делает ChatGPT, на голубом глазу обещал искуственный интеллект, равный человеку в 2025 году. Правда после неудачного запуска ChatGPT 5 энтузиазма у народа поубавилось. Есть большие сомнения в том, что компании, делающие чат-ботов вроде ChatGPT или Claude вообще переживут ближайшие годы. Но нет сомнений в том, что будет новый цикл хайпа.
Откуда берутся видения апокалиптические видения технологического будущего? На этот вопрос отвечает книга американского религиоведа Роберта Гераси.
Гераси начинает свою работу с простого наблюдения: популярно-научные книги о роботах и искусственном интеллекте здорово смахивают на религиозные тексты. Они обещают великое будущее, где человечество обретет бессмертие загрузив сознание в интернет. В общем, пророчат конец старого мира плоти и наступление новой эры чистого разума. Умышленно или нет, они используют образы рая и ада, спасения и погибели. Эти построения используются в личных целях авторов, а также активно проникают в культуру. Но обо всем по порядку.
Глава первая: Апокалиптический ИИ
Первая глава книги разбирает саму концепцию “Апокалиптического ИИ” — жанра популярно-научной литературы, который сочетает технические прогнозы с эсхатологическими видениями. Гераси показывает, как авторы вроде Курцвейла и Моравека берут реальные достижения в области робототехники и экстраполируют их до космических масштабов. Под это подгоняются придуманные авторами “законы”, согласно которым прогрсс будет идти с неуклонно возрастающей скоростью.
Жанр апокалиптической литературы родился в глубокой древности, и дошел до нас благодаря включению “Откровения Иоанна Богослова” в библейский корпус. Для этого жанра характерен стандартный ход. Имеется невыносимый дуализм (свои/чужие, добро/зло), который разрешается за счет вмешательства могучей внешней силы. Сила эта карает зло и награждает добро, ведет его к перерождению.
В отличие от библейских текстов, в книгах жанра Апокалиптического ИИ налицо дуализм телесной материи (медленной и плохой) и чистого разума (быстрого и благого). Физические тела рассматриваются как несовершенные и подлежащие замене, которая произойдет, когда в процессе развития технологий будет достигнута сингулярность и машину превзойдут человеческий интеллект. Гераси прослеживает корни этих идей в христианской апокалиптической традиции, показывая, как древние образы Нового Иерусалима трансформировались в видения грядущего цифрового рая.
По существу это очень американский феномен. Апокалиптический ИИ наследует традиции американских религиозных движений XIX века с их верой в прогресс и ожиданием тысячелетнего царства. Только теперь Град Златой на земле заменяется виртуальным бессмертием в киберпространстве. Гераси отыскивает источники этой духовной традиции также и в творчестве Гибсона, Винджа и других специалистов по киберпанку.
Глава вторая: Лабораторный апокалипсис
Во второй главе Гераси рассказывает о своем полевом исследованию. Он провел лето 2007 года в Институте робототехники Университета Карнеги-Меллон, где работал Ханс Моравек. Его цель была понять, как апокалиптические идеи функционируют в реальной научной среде. Грубо говоря, верят ли в грядущую сингулярность сами инженеры и ученые.
Как оказалось, большинство исследователей относились к апокалиптическим прогнозам Моравека с добродушным скептицизмом. Их повседневная работа заключалась в решении конкретных инженерных задач — как заставить робота пройти по комнате или распознать объект. Никто не строил сверхразумные машины, которые завтра поработят человечество. С их точки зрения такие машины если и появятся, то через несколько столетий (Курцвейл обещал компьютер, равный человеку, примерно к 2030 году).
Хотя ученые не торопятся вставать в ряды апологетов веры в разумных роботов, они не торопятся публично опровергать апокалиптические прогнозы. Оказалось, что они помогают привлечь финансирование и общественное внимание к робототехнике, повысить статус ученых и лабораторий. Обещания революционного будущего — это способ оправдать щедрые гранты от военных ведомств и государственных агентств. Апокалиптический ИИ стал стратегией привлечения ресурсов и повышения престижа исследований.
Глава третья: Выходя за пределы реальности
В третьей главе Гераси исследует виртуальные миры, особенно Second Lifeю. Онпровел этнографическое исследование среди жителей этого виртуального мира, изучая, как они относятся к существование в цифровом пространстве.
Оказалось, что многие пользователи Second Life воспринимают виртуальную реальность через призму апокалиптических обещаний. Они видят в ней предвестник будущего, где сознание будет освобождено от ограничений физических тел. Более половины опрошенных всерьез рассматривали бы возможность загрузки своего разума в компьютер, если бы это стало технически возможным.
Герасти описывает, как пользователи создают аватары, которые могут кардинально отличаться от их физических тел, исследуют различные аспекты личности, формируют глубокие эмоциональные связи. Для многих виртуальная жизнь становится более значимой, чем обычная реальность. Что тут скажешь, в 2010 году в светлое будущее MMORPG и мета-вселенных верилось куда больше, чем сегодня.
В целом Гераси показывает, как киберпространство обретает священный статус в светской культуре. В мире, где наука изгнала духовное из физической реальности, цифровые миры заполняют образовавшуюся пустоту. Они становятся пространством трансцендентного опыта, местом, где возможно то, что невозможно в материальном мире. Насколько их обещание сбылось? Я бы сказал, что не очень. В 2010 году люди всерьез верили, что в 2020 году 80% населения Земли будут жить в виртуальном мире. Вместо этого оные 80% на несколько месяцев заперли на дом в карантине.
Глава четвертая: “Нематериальное” воздействие апокалипсиса
Четвертая глава анализирует влияние апокалиптических идей на философию сознания, право, этику и теологию. Концепции, возникшие в научно-популярной литературе, проникают в академические дискуссии и формируют новые направления мысли.
Философы сознания всерьез обсуждают возможность загрузки сознания в компьютеры, что заставляет пересматривать классические проблемы соотношения разума и тела. Гераси показывает, как родилась и стала мейнстримной идея о том, что сознание человека это паттерн, который можно воспроизвести на компьютере. Не соглашаясь и не оспаривая, он показывает сильные и слабые стороны этой идеи, оставляя возможность читателю самом решить, кто тут прав. Я лично здесь стою на скпетических позициях, но до этого мы доберемся как-нибудь, разбирая книжку про философию сознания.
Кто еще вовлечен в дебаты? Правоведы размышляют о правовом статусе искусственных существ — когда роботы обретут права, как нам регулировать их поведение, кто будет нести ответственность за их действия. Теологи пытаются осмыслить, прости Господи, вызовы, которые искусственный интеллект бросает традиционным представлениям о душе, творении и спасении. Некоторые видят в создании разумных машин продолжение божественного акта творения, другие — опасную попытку человека занять место Бога.
Заключение
В заключении Гераси размышляет том, где пролегает граница между наукой и религией. Апокалиптический ИИ это занятный гибрид, в котором научная по форме методология используется для обоснования религиозных по содержанию идей. В обществе, где традиционные религиозные институты вроде как утрачивают влияние, в обществе торжествующего секуляризма, религиозные потребности принимают новую форму. Технологические утопии и антиутопии, движение трансгуманизма (озабоченное вопросом свободы выбора), культ инноваций и технологий.
Большим достоинством книги является то, что Гераси воздерживается от суждений о том, хорошо это или плохо. Как религиовед и антрополог он просто процессы изменений религиозного поклонения в новую эпоху. Автор не пытается развенчать обещания Курцвейла или Моравека, оставляя их на суд истории. Он просто показывает, как эти обещания функционируют: как влияют на общество и политику, формируют новые сообщества, привлекают финансирование. И показывает, насколько все это укоренено в христианской традиции.
Какой из этого можно сделать вывод? Прогнозы о скором наступлении сингулярности, миллиардные вложения в искуственный интеллект и обещания революции сознания есть по своей сути религиозная деятельность. Гераси воздерживается от излишней прямоты, а вот я могу себе позволить писать, что думаю. Все эти красоты питаются надеждой на избавление, искупление. Подписываясь на Сэма Альтмана и Рэя Курцвейла люди хотят услышать весть о грядущем новом мире. Где не будет зубной боли, двухчасовых созвонов по работе, код-ревью, задач в Слаке, очередей в поликлинике, пробок на трассе, тупых новостей, SEO-текстов, пьяных соседей, впустую потраченного лета, одиночества и смерти.
_— Господи, ведь что-т_о еще должно быть в нашей жизни? — Pondering… Stand by…
См. также
- Об изгаживании LLM — enshittification применительно к LLM
- Gary Klein — Snapshots of the Mind — критика веры в то, что машины заменят экспертов