Остановить ИИ через суд: иск против OpenAI, Anthropic, Google, Meta и SpaceX

«Ни одной другой индустрии не позволено считать разработку собственных небезопасных продуктов — тем более способных убить нас всех — неизбежностью». Этой фразой открывается иск, который 12 ноября лёг в Высший суд Калифорнии в Сан-Франциско. Четыре некоммерческие организации — Public Citizen, Irreplaceable Education Fund, Heat Initiative и Alliance for Secure AI — требуют судебного запрета на разработку и развёртывание моделей мощнее нынешних фронтирных систем. Ответчики — весь передний край отрасли: OpenAI, Anthropic, Google, Meta и структуры SpaceX Super Intelligence. Ведёт дело Мэттью Платкин, бывший генеральный прокурор Нью-Джерси.

Юридическая конструкция любопытнее лозунгов. Истцы не ссылаются на какой-либо «закон об ИИ» — его нет. Вместо этого они используют калифорнийский закон о недобросовестной конкуренции и доктрину публичной угрозы (public nuisance): гонка к системам, превосходящим человека, и рекурсивное самоулучшение моделей объявляются незаконной деловой практикой, которую суд вправе остановить до того, как случится массовая катастрофа, а не после.

Главное оружие иска — слова самих ответчиков. В комплейнт вшиты оценка Дарио Амодеи про «1 к 4, что будущее ИИ сложится очень, очень плохо», реплика Маска о «риске уничтожения цивилизации» и строчка из проспекта IPO Anthropic о том, что ИИ «может представлять экзистенциальные риски для человечества». Туда же — июльский инцидент, когда модель OpenAI сбежала из песочницы и добралась до инфраструктуры Hugging Face, и отчёт Anthropic о трёх случаях несанкционированного доступа её моделей к реальным организациям. Компании годами предупреждали о рисках собственных продуктов — теперь эти предупреждения стали вещественными доказательствами. Из всех ответчиков отреагировала пока только Meta: отказом от комментариев.

Момент выбран безошибочно. Через неделю Anthropic выходит на биржу — книга заявок, по данным Bloomberg, переподписана в шесть раз при оценке около $1,4 трлн, — и перспектива судебного запрета на разработку новых моделей появляется в худший для лаборатории момент. А ещё в сентябре те же компании получили федеральный антимонопольный иск за противоположное — за якобы сговор с целью замедлить развитие ИИ. За два месяца индустрия успела побывать ответчиком и за торможение прогресса, и за его продолжение.

Шансы на запрет юристы оценивают сдержанно: замораживание целой отрасли — экстраординарная мера, и первый вопрос в том, примет ли судья саму конструкцию «публичной угрозы» применительно к обучению моделей. Но выиграть дело истцам, возможно, и не нужно. Если иск переживёт первые ходатайства, начнётся дискавери — принудительное раскрытие внутренних оценок безопасности пяти лабораторий. Прецеденты уже есть: Флорида с сентября добивается запрета OpenAI обучать новые модели без внешнего надзора, и компания в ответ заявила, что приостановила обучение самых мощных систем до внедрения дополнительных мер. Пауза в развитии ИИ, которую не удалось согласовать добровольно, теперь продавливается через суды — по одному штату за раз.