Лицензии на модели и kill switch: что в черновиках регуляторов

Пока лаборатории договариваются замедляться добровольно, регуляторы готовят обязательную версию. В сеть утекли черновики сразу с двух сторон Атлантики: Сенат США обсуждает «обязанность заботливости» для разработчиков фронтир-моделей, а брюссельский драфт возвращает жёсткие пороги, выброшенные из AI Act весной. Тред об этом на r/singularity набрал 851 апвоут.

Что произошло

Американская часть — самая проработанная. По данным Reuters, законопроект пишут лидер большинства Джон Тьюн, глава комитета по торговле Тед Круз и сенатор Эми Клобушар — комбинация, у которой есть и голоса, и юрисдикция. Ключевые пункты: юридическая «duty of care» для разработчиков передовых моделей, тестирование в национальных лабораториях и право правительства блокировать релиз модели, признанной небезопасной, — с возможностью оспорить решение в федеральном суде. Переговоры шли с июля, но ускорились после сентябрьского отчёта Anthropic о том, что новые модели уже нельзя считать бесполезными для создателей биооружия.

Европейский черновик и сопутствующие сенатские документы, разошедшиеся по соцсетям, добавляют конкретики: лицензирование тренировочных прогонов свыше 10^25 FLOPs, обязательные kill switch для автономных систем и мониторинг больших тренировок в реальном времени. Идея аварийного выключателя уже знакома Конгрессу по июльскому AI Kill Switch Act — теперь она мигрирует из отдельного законопроекта в системную рамку. Semafor передаёт настроение на Холме: это «единственный реальный шанс» принять что-то по AI-безопасности до 2027 года.

Почему это важно

Порог 10^25 FLOPs — это не только GPT-6 и Claude: под него попадают и открытые модели уровня DeepSeek V4.1 или Kimi K3. Отсюда главный страх комьюнити: лицензирование, которое богатые лаборатории переживут походя, для открытой разработки станет заградительным — что уже подталкивает сообщество к торрентам. Второй конфликт — федеральный: черновик Сената гасит законы штатов об AI-безопасности, против чего публично выступает сенатор Мария Кэнтуэлл.

Что дальше

Внесение законопроекта возможно до конца сентября, но какие модели попадут под действие, как измерять риск и какое ведомство будет следить — всё ещё предмет торга. Субботний пакт о замедлении от Альтмана, Амодея и Маска выглядит в этом контексте ещё и попыткой показать регуляторам, что индустрия справится сама — до того, как за неё решат.