Сутки открытых релизов: Ernie 5.5 Flash, Inkling-2 Small и llama.cpp 1.0

По отдельности ни один из этих трёх релизов не дотянул бы до главной новости дня. Но если сложить их вместе, складывается сюжет куда интереснее любого отдельного анонса: за считаные сутки локальный, открытый ИИ-стек получил и новые веса фронтир-уровня, и зрелый фундамент для их запуска. Опенсорс, о «замедлении» которого спорят весь ноябрь, явно никуда замедляться не собирается.

Baidu: много параметров, мало активных

Главный по амбициям — Baidu с семейством ERNIE 5.5 Flash. Это разреженная mixture-of-experts: 280 млрд параметров всего, но лишь 14 млрд активируются на каждый токен. Такая архитектура — попытка получить качество большой модели по цене маленькой: считается только малая доля «экспертов», а остальные простаивают.

Базовую модель ERNIE-5.5-Flash-Base Baidu выложила как открытый фундамент для дообучения, а следом представила пост-тренированный превью-вариант ERNIE 5.5 Flash Preview, нацеленный на кодинг, 3D-моделирование, работу со знаниями и генерацию контента. Контекст — до 1 млн токенов, мышление включено по умолчанию и отключается на один запрос. По заявлениям Baidu, по уровню кода модель подбирается к фронтиру — что для открытых весов с таким скромным числом активных параметров было бы заметным шагом. Проверять, разумеется, стоит на своих задачах: превью есть превью.

Thinking Machines и кризис названий

Лаборатория Миры Мурати Thinking Machines Lab добавила свой вклад — и заодно мем. Их новая модель называется Inkling 2 Small, хотя это MoE на 594 млрд параметров (около 17 млрд активных). «Маленькое» на 594 миллиарда — ровно тот случай, когда индустрия окончательно потеряла общий язык в нейминге: Small, Flash, Mini, Lite давно перестали что-либо говорить о реальном размере.

Модель принимает изображения на вход и поддерживает переменное «усилие» рассуждения. Пока она доступна через платформу Tinker; открытые веса компания обещает выложить после внешнего тестирования безопасности и ред-тиминга. Для тех, у кого есть доступ к Tinker, разумный сценарий — прогнать её на ограниченной задаче с кодом или визуальной обратной связью и посмотреть на вывод, прежде чем закладывать в продакшн.

llama.cpp 1.0: тихий, но важный рубеж

А самое недооценённое событие — техническое. Проект llama.cpp Георгия Герганова, на котором де-факто держится весь локальный инференс (от Ollama до LM Studio), официально дошёл до версии 1.0.0. Для проекта, который годами жил в режиме «ночных сборок» без формальных релизов, это смена философии: отныне и llama.cpp, и библиотека ggml будут отражать несовместимые изменения API и ABI повышением мажорной версии.

Звучит как бухгалтерия, но смысл глубокий. Версия 1.0 — это обещание стабильности тем, кто строит продукты поверх библиотеки. До сих пор интеграторы жили на движущейся земле: любое обновление могло сломать сборку. Теперь у локального стека появляется контракт — ровно то, чего ему не хватало, чтобы из инструмента энтузиастов стать фундаментом для коммерческих продуктов.

Почему это один сюжет

Собранные вместе, три новости рисуют согласованную картину. Baidu даёт фронтир-качество в разреженной архитектуре, которую реально поднять на домашнем железе. Thinking Machines показывает, что и западные лаборатории готовят открытые веса, а не только API. А llama.cpp 1.0 даёт зрелый, стабильный слой, на котором всё это запускается локально — без облака, подписок и телеметрии.

И тут нельзя не вспомнить сенсацию недели с CMP 170HX: пока одни умельцы превращают майнинговые карты в дешёвые A100, другие выкатывают разреженные MoE и стабильный рантайм под них. Железо дешевеет, веса открываются, инструментарий взрослеет — и всё это за одну неделю. Разговоры о «замедлении фронтира» ведутся наверху, у крупных лабораторий. Внизу, в открытой экосистеме, темп только растёт.