Без единого шага обучения: Claude прописал веса нейросети вручную

Представьте, что инженер садится и от руки выписывает сто тысяч чисел — весов нейросети, — не запуская ни одной итерации градиентного спуска. А сеть потом работает лучше, чем та, которую честно обучали на тысячах примеров. Именно это, по словам CTO юридической AI-компании Legora Якоба Лауритцена, проделал Claude — и тред об этом с 1093 апвоутами вторые сутки лихорадит r/singularity.

Что произошло

Лауритцен поставил Claude задачу: написать с нуля веса сети примерно на 100 тысяч параметров (точнее, 107 745), которая отличает настоящие юридические цитаты от выдуманных — классическая боль legal tech, где галлюцинированная ссылка на несуществующее дело может стоить юристу карьеры. Никакого обучения, никаких размеченных примеров: Claude рассуждал о структуре задачи — как выглядят номера дел, годы, названия судов, типичные паттерны фейков — и прямо прописывал коэффициенты.

Результат, который Лауритцен назвал LePhantomCite, получился разреженным: всего 3 793 ненулевых параметра. И вот цифры, из-за которых комьюнити слегка запаниковало:

• Рукописная сеть: 97,8% точности на тесте, ноль размеченных примеров
• Обученные версии той же архитектуры: от 76,5% до 94,6% при 512–8192 размеченных примерах
• После одной ревизии (Claude показали 5 062 размеченных примера): 98,9%

Дальше — инженерная вишенка. Сеть настолько компактна, что крутится на Apple Neural Engine с задержкой около 50 микросекунд на цитату — это 1,8 миллиона цитат в секунду. Прогон 3,3 ГБ судебной практики занимает 2,3 секунды.

Почему все заговорили про «ИИ, создающий ИИ»

Эксперимент лёг на подготовленную почву. Неделей раньше шумела работа MIT CSAIL о «программировании в пространстве весов», где GPT-6 Astra читала и правила веса чужих сетей напрямую, а Саймон Уиллисон воспроизводил фокус локально на Qwen 3.8 27B. История Лауритцена добавила недостающее звено: модель не просто интерпретирует или подкручивает чужие веса — она пишет работающую сеть с нуля под конкретную задачу. Отсюда и нервные шутки про «RSI на дому»: цепочка «ИИ проектирует ИИ, который дешевле и быстрее ИИ» выглядит как первый шаг к самоулучшению.

Для прикладников сюжет приземлённее и, пожалуй, интереснее. Если фронтирная модель умеет «компилировать» своё понимание задачи в крошечную специализированную сеть, появляется новый класс продуктов: вместо дорогого вызова LLM на каждую проверку — микромодель на 3 793 параметра, которая работает за микросекунды на устройстве. Claude здесь выступил не классификатором, а фабрикой классификаторов.

Холодный душ

Прежде чем объявлять эпоху мета-обучения, стоит выслушать скептиков. Во-первых, все цифры — собственные и неверифицированные замеры Лауритцена; независимого воспроизведения пока нет. Во-вторых, детекция фейковых цитат — задача с жёсткой внутренней структурой: формат номеров дел, диапазоны годов, конечный список судов. Такие правила хорошо выражаются программой, а программу, как известно, можно вручную переписать в веса сети — этим занимались и люди задолго до Claude.

Инженер Шон Гёдеке в разборе всей волны weight-space экспериментов формулирует это жёстко: грамотный ML-исследователь справился бы с каждой из этих задач, а лучший способ получить хорошие веса — по-прежнему обучение, как лучший способ получить бинарник — компиляция, а не писание машинного кода от руки. Пол Калкрафт, один из первых разобравший эксперимент, добавляет: weight-writing эффектен, но его слишком легко переоценить, если не смотреть, насколько «читаемой» была задача.

Что дальше

Правда, скорее всего, посередине. Рукописные веса не заменят обучение на задачах с размытой структурой — но для узких, хорошо формализуемых проверок «LLM как компилятор нейросетей» выглядит рабочим инструментом уже сегодня. Если результат Legora воспроизведётся независимо, следующий логичный шаг — библиотеки крошечных рукописных сетей под типовые задачи: валидация форматов, фильтры, роутеры. И тогда главный вопрос — не «может ли ИИ писать веса», а «сколько задач в проде на самом деле не требуют обучения».