Счёт в 10 раз меньше: Revolut ушла с Claude Code на свой GLM

Одна десятая прежнего счёта. Так Дэвид Абитболь, отвечающий в Revolut за AI-инфраструктуру, описал результат перехода банка с API Anthropic и OpenAI на собственный кластер с открытой китайской моделью GLM. Его доклад на конференции AI Engineer в Нью-Йорке разлетелся по сети в начале недели: тред в r/LocalLLaMA набрал почти 1900 апвоутов, а сама история стала, пожалуй, самым подробно задокументированным случаем корпоративного «переезда на свои веса» — с цифрами, таймлайном и честными граблями.

Что именно сделала Revolut

Revolut — крупнейшая частная компания Европы: 80 миллионов клиентов, 45 рынков, банковская лицензия ЕС. И при этом классическая история про дорогой ИИ: с февраля 2025-го компания раскатывала Claude Code, но держала инженеров на жёстких лимитах — отдельные разработчики сжигали от 1000 до 10 000 долларов в месяц, а внятного эффекта, по словам Абитболя, не было.

В апреле 2026-го банк начал самостоятельно хостить GLM-5.1 от пекинской Z.ai (бывшая Zhipu AI), выпущенную под лицензией MIT, а к осени перешёл на GLM-5.3 — MoE-модель на ~754 миллиарда параметров, из которых на токен активируется около 40 миллиардов. Обслуживает всё это кластер из 56 Nvidia B200 — семь 8-GPU систем класса DGX — на который приходится примерно 2000 инженеров.

Экономика получилась такая:

• Смешанная цена инференса: $0,30 за миллион токенов (вход и выход усреднённо)
• Счёт: «одна десятая того, что мы платили Anthropic и OpenAI»
• Биллинг плоский — никакого «шока в конце месяца» и экономии токенов к концу квартала
• Скорость: ~200 токенов/с в рабочие часы, до 800 после пяти вечера, когда кластер простаивает

Важная деталь, которую заголовки опускают: Claude Code и Codex из компании не исчезли. Фронтирные модели остались доступны «как исключение» — Абитболь прямо называет свежие модели Anthropic и OpenAI «фантастическими». GLM к тому же не умеет работать с изображениями, поэтому задачи с картинками роутер отправляет в Gemini или GPT. Изменился дефолт: открытая модель стала основной рабочей лошадкой, а фронтир — спецтехникой.

Полгода тюнинга вместо кнопки «купить»

Самая ценная часть доклада — не победные цифры, а то, как к ним шли. В апреле, сразу после развёртывания, время до первого токена (TTFT) составляло катастрофические 14,26 секунды. К августу его сбили до 1,68 секунды — на том же количестве GPU, при выросшей на 76% нагрузке.

«Целиться надо в TTFT меньше трёх секунд. Это эмпирика: как только переваливает за пять — мой Slack взрывается». — Дэвид Абитболь, Revolut

Рецепт: квантизация NVFP4 на Blackwell (по его утверждению, минус 40% к занимаемой GPU-памяти против FP8 «без потери точности» — правда, замеров качества он не показал), спекулятивное декодирование, разнесение prefill и decode, тензорный параллелизм TP8 ради запаса под KV-кеш и попадание в кеш выше 90% на кодинговых задачах. Контекст принудительно обрезан до 256 тысяч токенов — тут Абитболь выдал главную цитату доклада: «Длинный контекст — это скам. Даже если можно сервить миллион токенов, реально нужны 256».

Метрика	Апрель 2026	Август 2026
TTFT	14,26 с	1,68 с
Запросов в секунду	~3	>7
GPU	56 × B200	56 × B200

Регуляторная часть не менее интересна: веса скачиваются и крутятся на американской инфраструктуре, никаких китайских inference-эндпоинтов; данные остаются в юрисдикциях с эквивалентной защитой (США, ЕС, Великобритания, Израиль); агенты сидят в песочницах с человеком в контуре — «grep можно, gradle нельзя», — чтобы регулятор не классифицировал их как автономные системы.

Что осталось за кадром

Сообщество встретило историю с энтузиазмом, но быстро нашло слабые места. Во-первых, «в 10 раз дешевле» — это только счёт за инференс. Стоимость самих GPU (семь серверов B200 — порядка 3–3,5 миллиона долларов, если покупать), зарплаты инфраструктурной команды и мониторинг в сравнение не входят. Купила Revolut кластер или арендует — в докладе не сказано.

Во-вторых, сравнение не совсем честное, на что указал один из самых залайканных скептиков в обсуждении: банк сравнивает цену API Anthropic с ценой заведомо более слабой модели, которая и через API стоит дёшево. Self-hosting выигрывает по-настоящему там, где есть требования к данным и высокая утилизация — у банка с 2000 инженеров есть и то и другое, но для компании на 50 разработчиков математика не сойдётся.

В-третьих, впечатляющие продуктовые метрики — время кодинга минус 60%, lead time минус 70% после апрельского переезда — самоотчётные, и совпали со снятием лимитов на токены. Что сработало — модель, безлимит или всё вместе, — отделить невозможно.

Что это значит

Для Anthropic и OpenAI сигнал неприятный не самим фактом ухода одного клиента, а его публичностью. Доклад Абитболя — фактически методичка «как слезть с API фронтирных лабораторий», с конкретными настройками vLLM-стека и целевыми метриками. Самый ехидный комментарий в треде это сформулировал без обиняков: «А если никто не будет платить по ценам API, как Дарио и Сэм станут триллионерами?»

Для рынка открытых моделей это ещё один аргумент в копилку тренда: GLM, DeepSeek и Kimi подобрались к фронтиру достаточно близко, чтобы «достаточно хорошая» модель на своём железе покрывала 90% задач, а дорогой фронтир оставался для исключений. Показательно, что история всплыла в ту же неделю, когда стало известно о проблемах роста в IPO-проспекте Anthropic — там конкуренция с дешёвыми открытыми моделями названа прямым риском.

Практический вывод для технических директоров скромнее заголовков: считайте полный TCO, а не счёт за токены, и закладывайте полгода инженерной работы на тюнинг — путь от 14 секунд до 1,7 секунды TTFT Revolut прошла не бесплатно. Но сам факт, что регулируемый европейский банк публично и в деталях рассказывает, как перевёл разработку на открытую китайскую модель, — это новая точка отсчёта. Год назад такой доклад был бы немыслим.