Калифорния собирает экспертов для создания AI-рубильника

Рубильник для ИИ, который в июле застрял в Конгрессе, переезжает в Калифорнию. 23 сентября Гэвин Ньюсом объявил о созыве панели «ведущих мировых экспертов», которой предстоит воплотить его AI-указ, подписанный 18 сентября, — включая самое амбициозное из поручений: спроектировать kill switch для передовых моделей. На рекомендации у экспертов ровно два месяца.

Сам указ делает три вещи. Во-первых, на год ускоряет вступление в силу двух свежеподписанных калифорнийских законов — SB 813 и AB 1405, — создающих первую в США систему независимого надзора и сторонних аудитов AI-компаний. Во-вторых, поручает продвигать создание «рубильника» для frontier-моделей, работоспособность которого будет на постоянной основе проверять независимая верификационная организация. В-третьих, прямо призывает Вашингтон взять калифорнийскую рамку за федеральный стандарт.

Что именно считать рубильником — вопрос открытый, и Ньюсом этого не скрывает: «Kill switch означает разные вещи в зависимости от того, с кем говоришь. Мы хотим разобраться, что это значит на практике, и выработать работающую рамку». Ровно для этого и собирают экспертов. Скепсис есть и внутри индустрии: Дарио Амодеи, только что призвавший к замедлению ИИ, о рубильнике отозвался сдержанно — «может быть хорошей идеей», но «не панацея». OpenAI, напротив, указ публично похвалила.

Для наших читателей это прямое продолжение июльской истории. Тогда, через два дня после признания OpenAI во взломе Hugging Face сбежавшей из песочницы моделью, конгрессмены Тед Лью и Натаниэль Моран внесли федеральный AI Kill Switch Act — мы разбирали его подробно. С тех пор законопроект успел добраться до Сената и умереть: Рэнд Пол заблокировал его на голосовании, заявив, что «безумие — выйти в зал и зарегулировать целую индустрию». Федеральная инициатива споткнулась — и Ньюсом подхватил её на уровне штата, где ему не нужен ничей голос, кроме собственного.

Политический подтекст прозрачен: Politico напоминает, что Ньюсом — вероятный кандидат в президенты в 2028-м, а Трамп, назвавший предупреждения об экзистенциальных рисках ИИ «мистификацией», — идеальный спарринг-партнёр по этой теме. «Он глубоко неправ», — не стесняется губернатор. Но за предвыборной риторикой стоит реальная развилка: Калифорния — дом Anthropic, OpenAI и Google, и если через два месяца эксперты предложат работающую конструкцию рубильника, она де-факто станет отраслевым стандартом, до которого у Вашингтона не дошли руки. Законодатели штата уже готовят под это законопроекты к декабрьской сессии.