burchakov.pro

Об изгаживании LLM

4 min read

Первую версию этого поста я написал у себя в Телеграме в июне 2025 года. По состоянию на май 2026 года сбылись прогнозы 1, 3 и 5.

Канадский фантаст Кори Доктороу придумал термин enshittification (от слова shit), чтобы описать происходящее в отношениях Большой цифры и людей. На русский язык его можно перевести так — компания решает изгадить собственный сервис. Изгаживание, короче говоря.

Сначала компания вливает деньги и создает хороший и удобный сервис. Иногда вообще бесплатный. Потом компания начинает вводить рекламу и правит алгоритмы, чтобы пользователи видели ее побольше, и к тому же маскирует рекламу под контент. Потом компания начинает выкручивать руки заказчикам рекламы, чтобы они платили больше и не могли просто так взять и уйти на другую площадку. Когда начинается отток пользователей, компания накручивает показы за счет ботов. В результате пользователи, видя бесконечный поток рекламы и толпы ботов, бегут на другие площадки. Площадка превращается в город-призрак, где одни боты показывают рекламу другим.

Глядя на возбухание народа по поводу ChatGPT-5 я задумался о том, что похоже, начался процесс изгаживания доступных больших языковых моделей вроде ChatGPT или Claude. Полистал нескольких скептиков, которые, в отличие от меня, в этом разбираются. Аргументы довольно стандартные: масштабирование не решает проблему галлюцинаций, арифметический рост качества требует геометрического роста прожорливости, качественных данных не осталось. И главное, несмотря на совершенно безбожный цикл милленаристского хайпа, конверсия LLM все равно оказалась очень плохой. Поэтому компании начнут сначала выкручивать руки пользователям (модели похуже предлагать подороже), а потом бизнес-клиентам (перекладывая расходы на их клиентов). Поскольку LLM это дорого, резать будут быстро и больно.

Для сохранения баланса я почитал оптимистов. Там аргументы прежние. Проблемы точности решим увеличением мощности, рост качества обеспечим за счет работы нескольких моделей над запросом, а учить можно и на синтетических данных. Но общий тон, как мне показалось, стал менее триумфальным. Некоторые сдержанные оптимисты начали потихоньку переобуваться в реалистов. На Реддите пару дней продолжалось полыхание позитивистов (обычно они просто чадят в комментах, создавая там лютую духоту). В общем, дискурс качается, но парадигма пока стоит.

Интересно, как будет выглядеть деградация LLM? Вспоминая, как изгадилась поисковая выдача Гугла и Яндекса, рискну предложить следующие варианты:

  1. В интерфейсе и выдаче появится реклама. Хорошо, если она будет открытой и промаркированной. Плохо, если нейросеть просто будет втихую почаще упоминать продукт. Например, станет по разным поводам рассказывать людям о Кока-коле и ее преимуществах (которые согласованы в текущем маркетинговом цикле).

  2. Бесплатные версии станут медленными и тупыми. Они станут выдавать типовые или очень короткие ответы. Плюс к тому, систему настроят так, чтобы ловить пользователей с острой нуждой и активно толкать им платную версию. Я думаю, несложно научить систему видеть, например, списывающих студентов, которым позарез нужно прогнать через чат еще пару задач.

  3. Появится vendor lock-in, когда конкретная моделька встроена в конкретную CRM, и хрен ты их поменяешь на другой комплект. Потому что обе построены так, что миграция займет несколько лет.

  4. Пока что простые интерфейсы чатов обрастут свистелками и дуделками, в которых смогут разбираться только эксперты. Ботоводство станет реальной профессией, и для того, чтобы перейти на бота от другой компании, придется нанимать обученного там сотрудника.

  5. Небольшим компаниям, которые используют LLM по API для задач вроде составления резюме, подытоживания совещаний, написания текстов и что еще там такое бывает, выкрутят руки и они подвергнут свои сервисы вторичному изгаживанию. Эти сервисы станут более дорогими и менее удобными. Или закроются.

Конечно, что-то хорошее останется. И много хорошего появится. Мой скептицизм не омрачает моего энтузиазма. Может быть потому что я стараюсь не думать о том, что с нейросетями сделают судебные иски, государственное регулирование и давление климатического лобби? Да нет, мне просто нравится момент, в котором мы находимся сейчас. Напоминает мне вторую половину девяностых, когда у меня появился нормальный домашний интернет. А пузырь доткомов, блокировки, SEO-контент и замусоренные рекламой поисковики были делом далекого будущего. И мы не думали о том, что все эти мгновения затеряются во времени как… слезы в дожде.

См. также

Backlinks