Нейрохирургия без наркоза: GPT-6 Astra правит веса чужих моделей

Представьте: модель открывает чужую нейросеть, как программист открывает чужой код, находит в миллиардах чисел сломанный участок и вручную вписывает новые значения. Без обучения, без градиентов, без GPU — просто в запущенной Python-сессии. Именно это проделала GPT-6 Astra в экспериментах исследователей MIT CSAIL, и их статья о «программировании в пространстве весов» за сутки разлетелась по r/LocalLLaMA, r/singularity и r/MachineLearning, собрав в сумме больше трёх тысяч апвоутов.

Что именно произошло

Подопытным выступила Qwen3.5-0.8B — маленькая открытая модель, у которой была документированная болезнь: на математических задачах она зацикливалась и молотила токены до упора, так и не выдав ответ. Astra получила доступ к её весам и задание — улучшить математику без градиентного обучения.

Модель проследила проблему до конкретного паттерна во внутренних представлениях Qwen, вызывавшего циклы рассуждений (о котором, забавно, предупреждала сама карточка модели на Hugging Face), и выписала «заплатку»: правку 64 выходных колонок MLP в слоях 15 и 19 — всего 131 072 веса, или 0,016% модели.

Результат до и после:

Метрика	Исходная Qwen3.5-0.8B	После правки
MATH-500, точность	7,9%	48,1%
Ответы, упёршиеся в лимит токенов	93,0%	33,1%
GSM8K	—	67,1%

Рост в шесть раз на MATH-500 подтянул за собой и остальные бенчмарки — GSM8K, AMC, OlympiadBench, — хотя Astra ни один из них в процессе не видела. Независимый разработчик воспроизвёл правку по опубликованным логам и получил на MATH-500 даже чуть больше — 51,0%.

В отдельных экспериментах Astra пошла дальше: не правила чужие веса, а писала их с нуля — вручную задала матрицы крошечной сети, играющей в Pong, строка за строкой, как таблицу в Excel. VentureBeat сравнил происходящее с «генным редактированием для нейросетей» — и метафора точная: точечное вмешательство вместо выращивания заново.

Почему сообщество не спешит открывать шампанское

Самый въедливый комментарий под постом разобрал красивую цифру на части. Модель проваливала MATH-500 в основном потому, что зацикливалась, — Astra починила именно цикл, а не «научила модель математике». Когда тот же трюк попробовали на Gemma 3 270M, у которой патологического цикла не было, ничего не вышло — авторы честно признают это в логах. То есть пока это не универсальный метод, а изящная починка одной конкретной поломки.

Второе возражение — о структуре. Эксперименты с чтением весов удались там, где у сети интерпретируемая геометрия: первый и последний слои, где крупные веса складываются в почти визуальные паттерны. Середина трансформера — всё ещё тёмный лес, и редактировать её «на глаз» Astra не умеет.

И всё же даже скептики сходятся: что-то здесь есть. Способность фронтирной модели осмысленно читать сырые веса — не предсказанная никем эмерджентная способность. Год назад это звучало бы как фантастика.

Если это масштабируется

Традиционный файнтюнинг — это данные, градиентный спуск и счёт за GPU. Правка весов по инструкции на естественном языке обходит всё это разом. Отсюда три сценария, которые обсуждают уже сейчас.

Оптимистичный: кастомизация моделей становится доступной любому — фронтирная модель «пересаживает» способности в маленькие локальные сети, и цикл замыкается: закрытые гиганты улучшают открытую мелочь, которая крутится на ноутбуке.

Прагматичный: из этого вырастает новый инструмент интерпретируемости. Правки весов, в отличие от файнтюна, явные и трассируемые — видно, что именно изменили и зачем.

Тревожный: тем же способом в открытые веса можно вшивать бэкдоры — незаметную правку 0,016% параметров не поймает ни один beнчмарк. Для экосистемы, где полмира качает чужие чекпоинты с Hugging Face, это аргумент в пользу подписей и верификации весов.

Пока же перед нами классические «искры» — как когда-то «Sparks of AGI» у GPT-4: не готовая технология, а демонстрация того, что дверь существует. Судя по скорости, с которой сообщество бросилось её воспроизводить, закрытой она не останется.