Эпоха кайдзю

Начну с признания. Часть текстов, которые уходят от моего имени, пишет искусственный интеллект. Письма, ответы, комментарии: я задаю мысль и интонацию, модель складывает из них аккуратные абзацы, и они отправляются в мир как мои. Чаще всего я их вычитываю. Не всегда. Иногда текст выглядит настолько грамотным и уместным, что глаз скользит по нему не задерживаясь, и палец сам нажимает «отправить». Подозреваю, что на той стороне происходит то же самое. Мое письмо встречает не человек, а его модель, которая сожмет его в три строки и предложит вариант ответа. Выходит, два человека переписываются, порой не написав и не прочитав ни слова. Переписываются наши модели. Мы только задаем им настроение.

Чтобы понять, что это значит, мне понадобилась метафора из совсем другой эпохи.

Откуда пришли монстры

Жанр кайдзю (по-японски «странный зверь») родился не из детской фантазии, а из вполне взрослой истории. 1 марта 1954 года США испытали на атолле Бикини водородную бомбу «Кастл Браво». Взрыв оказался в два с половиной раза мощнее расчетного, и радиоактивный пепел накрыл японский рыболовецкий траулер «Счастливый дракон № 5», который ловил тунца за пределами объявленной опасной зоны. Все двадцать три члена экипажа получили лучевую болезнь, радист Аикити Кубояма через полгода умер.

По стране прокатилась паника вокруг «атомного тунца», зараженную рыбу изымали с рынков по всей Японии. Пресса назвала случившееся третьей атомной бомбардировкой. Для страны, которая девять лет как пережила Хиросиму и Нагасаки, это был незакрытый счет, и он открылся снова.

В том же году продюсер студии Toho Томоюки Танака придумал, а режиссер Исиро Хонда снял «Годзиллу». Древний ящер, разбуженный ядерными испытаниями в океане, выходит на берег и сжигает Токио. Хонда прошел войну и видел руины Хиросимы своими глазами. Фактура кожи монстра, по воспоминаниям создателей, отсылала к келоидным шрамам выживших после бомбардировок. Это был не аттракцион, а мрачный фильм-реквием. Первый кайдзю был не столько монстром, сколько следствием: воплощением силы, которую человек сам выпустил в мир и которой не соответствует по масштабу. Годзиллу нельзя победить, с ним нельзя договориться. Его можно только пережить.

Дальше жанр проделал показательный путь. Монстров стало много, и они начали драться друг с другом. Годзилла против Кинг-Конга, против Мотры, против Гидоры. Человек в этих фильмах сместился из жертвы в зрителя. Крошечные фигурки на крышах смотрят вверх, где сходятся в тумане исполины, и болеют за них, как за команды на стадионе. К 2021 году, когда Голливуд снимал «Годзиллу против Конга», студийный маркетинг уже прямо предлагал выбрать сторону: Team Godzilla или Team Kong. У людей появились «свои» монстры. Иллюзия причастности к силе, которая тебя не спрашивает.

У сегодняшних исполинов есть имена и прайс-листы. Anthropic после майского раунда на $65 млрд оценена в $965 млрд, на подступах к триллиону, и впервые стоит дороже главного соперника. OpenAI после мартовского раунда на $122 млрд оценивается в $852 млрд и подала документы на IPO, а ее основатель, если верить прессе, считает оценку ниже триллиона неприемлемой. Каждая из этих частных компаний сопоставима по стоимости с экономикой немаленькой европейской страны. А мы стоим на крышах и болеем. «Мой» Claude против «твоего» GPT, споры о бенчмарках вместо спортивных сводок, релизы моделей, обставленные как выход кайдзю из океана. Выбор стороны стал частью идентичности, хотя ни одна из сторон, строго говоря, не наша.

Есть в жанре и обязательный персонаж: государство. В фильмах про кайдзю оно присутствует всегда, в виде штабов, генералов и истребителей, тщетно поливающих монстра огнем. Иногда оно строит собственного монстра, Мехагодзиллу. Этим летом сцена разыгралась почти по сценарию. Anthropic еще весной объявила, что ее новая модель Mythos слишком сильна в поиске уязвимостей, чтобы выпускать ее публично, и отдала широкой публике урезанную версию с предохранителями. Через три дня после релиза Министерство торговли США предписало закрыть иностранным гражданам доступ к обеим моделям. Экспортный контроль впервые применили не к чипам, а к самой модели, то есть с программным продуктом обошлись так, как раньше обходились только с оружием. Компания в тот же вечер отключила модели вовсе, для всех пользователей, и вернула их только через две с половиной недели, усилив защиту. Показательно, что историю об опасности монстра во многом рассказала сама Anthropic: глава компании за два дня до правительственного письма успел опубликовать эссе о том, что у государства должно быть право блокировать развертывание слишком опасных моделей. Слишком опасно, чтобы выпустить, сказал создатель. Слишком опасно, чтобы допустить, ответило государство. Причем то самое государство, которое параллельно просит OpenAI отдавать новейшую модель только одобренным партнерам и обсуждает пятипроцентную долю в ней самой. Оно тут не судья на трибуне. Оно одновременно стреляет по монстру, прикармливает его и примеряется завести своего.

Точнее метафоры для нашего момента, по-моему, не придумать.

Наши ящеры

Большие языковые модели подходят под определение кайдзю без натяжек. Мы их создали и не вполне понимаем, как они работают. У нейросети нет чертежа, по которому можно проследить ход ее «мысли», поэтому исследователи изучают собственное творение примерно так, как биологи изучают глубоководную фауну: наблюдением и экспериментом, а не чтением схем. Они несоразмерны человеку. Триллионы параметров, прочитанный целиком интернет, масштаб, к которому обычная интуиция уже неприменима. И они уже дерутся друг с другом, пока мы смотрим с крыш.

Посмотрите, во что превратилась деловая коммуникация. Письмо пишет модель. Читает его модель получателя, сжимая в резюме. Ответ пишет третья модель. Человек мелькает в этой цепочке дважды: на входе, когда задает тон, и на выходе, когда смотрит на выжимку. Переговоры, претензионная переписка, отклики на вакансии и их отсев, коммерческие предложения и ответы на них. Все это на глазах превращается в обмен ударами между ящерами, за которым стороны наблюдают со стороны. Человек искренне уверен, что управляет своим монстром, ведь у него в руках пульт с ручкой настроения. Но ручка настроения не управление. Это шарф болельщика.

Тут легко отделаться иронией, но потеря настоящая. Письменная речь была технологией мышления. Формулируя, мы думали. Читая, впускали чужую мысль в голову. Когда обе операции делегированы, коммуникация не исчезает, она превращается в ритуал. Тексты продолжают ходить туда-сюда, все более длинные и безупречные, только они больше никого не меняют, потому что их никто не читает по-настоящему. Битва кайдзю в какой-то момент перестает быть боем и становится церемонией. Монстры разыгрывают ее друг перед другом, потому что зрителям нужно зрелище.

Экономика прокорма

Теперь о деньгах, потому что у любого монстра есть обмен веществ.

Первое и главное. Генерация текста подешевела почти до нуля, а человеческое внимание не подешевело ни на копейку. Всю историю письменности текст был дорог в производстве и дешев в потреблении. Теперь наоборот. Экономисты хорошо знают, что происходит с рынком, где издержки производителя падают до нуля: предложение уходит в бесконечность. Мы производим больше текста, чем все человечество за предыдущую историю, и его некому читать. Дефицитным ресурсом, а значит и источником стоимости, становится не письмо, а чтение. Фильтрация, проверка, способность понять, что в этих сорока страницах действительно важно. Не удивлюсь, если человек, который реально читает документы, станет в ближайшие годы отдельной высокооплачиваемой профессией, как когда-то аудитор.

Второе. Кайдзю прожорливы, и прокормить их могут единицы. Гонка вычислений съедает сотни миллиардов долларов капитальных затрат в год: дата-центры, чипы, энергия. Счет идет на гигаватты, разговоры об атомных станциях под нужды ИИ давно перестали быть экзотикой. Порог входа в клуб владельцев монстров таков, что рынок передовых моделей устроен как олигополия, что бы ни было написано в антимонопольных законах. Все остальные, включая нас с вами и включая целые страны, выбирают не между «завести своего ящера или нет», а между тем, чьего ящера арендовать. Это новая карта зависимостей, и она уже важнее многих старых.

Третье, самое любопытное. Заметная часть этой экономики состоит из ударов, которых никто не видит. Компания платит за токены, в которых ее модель пишет письмо. Контрагент платит за токены, в которых его модель это письмо сжимает и отвечает. Обе транзакции честно попадают в выручку провайдеров, в инвестиционные презентации и в конце концов в ВВП. Но какая доля этого оборота коммуникация, а какая церемония? Статистика не различает прочитанный текст и непрочитанный. Возможно, у нас на глазах вырастает целый сектор, который производит письма от машин к машинам, и его размер еще предстоит оценить. Работает тут и парадокс Джевонса: чем дешевле каждое письмо, тем больше писем и тем длиннее каждое. Эффективность увеличивает совокупный расход, а не сокращает его.

И четвертое, про сигналы. Экономика доверия держалась на дорогих сигналах. Вдумчивое письмо, проработанное предложение, грамотный отклик стоили усилий и потому что-то сообщали об отправителе. Когда усилие стоит ноль, сигнал умирает. Рынок уже ищет новые дорогие сигналы и находит их, по иронии, в доцифровой эпохе. Телефонный звонок, живая встреча, рукопожатие. То, что нельзя делегировать, снова становится валютой.

Что остается нам

Я не луддит и не собираюсь им притворяться. Этот текст сделан в редакции, которая строит ИИ-инструменты и гордится ими. Монстры уже вышли из океана, обратно они не уйдут, и во многих боях я честно болею за своего. Но урок жанра в другом. Лучшие фильмы про монстров вообще не про монстров. Они про людей на крышах, про то, что те делают, пока над ними сходятся исполины. Если делегировать машинам можно почти все, тем ценнее короткий список того, что делегировать нельзя. Читать, по-настоящему, глазами, медленно. Формулировать, потому что это и есть думать. И разговаривать друг с другом вслух. Похоже, скоро это будут единственные переговоры, которые ведут люди.