«Мы никогда не призывали к запрету»: Амодей отвечает критикам

«Anthropic никогда не выступала за запрет open-weights моделей». Этой фразой Дарио Амодей открыл программный пост, опубликованный 27 июля под его личной подписью, — и этой же фразой он попытался остановить волну, которая накрывала компанию всю неделю.

Как Anthropic оказалась в обороне

Контекст у поста тяжёлый. За три дня до него 77 организаций — от Nvidia и Meta до Hugging Face — подписали письмо в защиту открытых моделей. Неделей раньше появились сообщения, что часть администрации Трампа рассматривает ограничения на использование китайских open-weights моделей американскими компаниями. OpenAI и Google письмо подписали. Anthropic — единственная из крупных лабораторий — нет.

Дальше сработала простая логика соцсетей: раз не подписала — значит, за запрет. Масла в огонь добавила история с дистилляцией Kimi K3, после которой Anthropic обвиняли в лоббировании ограничений ради защиты собственного бизнеса. Тред на r/LocalLLaMA с заголовком «Anthropic призывает запретить open-weights модели» собрал сотни комментариев ровно в таком духе.

Что Амодей написал на самом деле

Пост устроен аккуратнее, чем его пересказы. Открытые модели без опасных возможностей Амодей называет «общественным благом»: они не стоят ничего, кроме компьюта, и приносят пользу бизнесу, разработчикам и исследователям. Запрет, по его словам, «в основном оградил бы американские AI-компании от конкуренции, почти не мешая злоумышленникам» — то есть ровно то, в чём Anthropic и обвиняли, Амодей отвергает как цель.

Его настоящие страхи — другие, и он отсылает к собственному январскому эссе «The Adolescence of Technology». Сценарий первый: авторитарные государства (Китай назван прямо) строят модели мощнее американских и получают перманентное военное превосходство. Сценарий второй — катастрофическое злоупотребление. В обоих случаях, подчёркивает Амодей, открытость весов — вопрос второстепенный: важно, у кого возможности и кто их контролирует.

Вместо запрета Anthropic предлагает три меры: жёсткий экспортный контроль чипов и литографического оборудования для Китая с реальным преследованием контрабанды, политические меры против промышленной дистилляции чужих моделей — и обязательное предрелизное тестирование безопасности для всех «достаточно способных» моделей, открытых и закрытых одинаково.

При этом пост честно признаёт: у открытых весов риски выше. Ограждения к ним трудно прикрутить, использование невозможно мониторить, а главное — выпущенные веса нельзя отозвать. Закрытую модель можно ограничить после запуска, открытую — уже нет.

Почему критики не успокоились

Проблема в деталях, и The New Stack разбирает её точно: обязательное тестирование предполагает исключения для «менее способных» моделей — стартапов, академии. Но как только одни модели освобождены, а другие нет, политика превращается в порог по возможностям. А где проходит порог «достаточно способной» модели, не сказал никто. Если завтра он окажется на уровне Kimi K3 — тестирование для открытых релизов станет запретом де-факто: непонятно, кто и как будет «отзывать» модель, которая тест не прошла, если её веса уже готовы к публикации.

Скептики на Reddit сформулировали это ещё жёстче: Anthropic может честно говорить «мы не поддерживаем запрет», поддерживая политику, которая материально ограничит сильнейшие открытые модели. Формально — правда. Практически — разница невелика.

Есть и прагматичное прочтение. Аналитики, опрошенные Computerworld, отмечают, что для большинства корпоративных пользователей мало что изменится: модели ниже порога тестирования не подорожают, а выбирать модель стоит по возможностям и рискам, а не по флагу «открытая/закрытая». В этом с Амодеем, по иронии, согласны даже его оппоненты.

Куда это движется

Пост Амодея — не капитуляция, а перепозиционирование. Anthropic отказывается от роли «врага опенсорса номер один», которую ей навязали, но сохраняет всё содержание своей позиции: контроль чипов, преследование дистилляции, обязательные тесты. Спор смещается с «запрещать или нет» на «где порог и кто его ставит» — и это спор, в котором у Anthropic позиции заметно сильнее.

Одно можно сказать точно: неделя, когда Nvidia собирает альянс открытой ИИ-обороны, Moonshot выкладывает 2,8 триллиона параметров, а Белый дом обсуждает ограничения на китайские модели, — худший момент в истории, чтобы объяснять индустрии, что тебя неправильно поняли.