Anthropic: хуситы пытались писать ПО для ракет в Claude

Anthropic сообщила, что заблокировала ячейку на подконтрольной хуситам территории северного Йемена, которая пыталась использовать Claude для разработки управляемого оружия. По данным свежего отчёта компании об угрозах, операторы вели сразу три оружейные программы — включая управляемую ракету и баллистическую ракету большой дальности. Обсуждение на r/singularity собрало 307 апвоутов и 73 комментария за сутки.

Что произошло

Самая примечательная деталь отчёта — организация процесса. По описанию Anthropic, операторы использовали Claude Code «вместо живых инженеров-программистов»: разным инстансам модели раздали конкретные роли в разработке ПО наведения, навигации и управления полётом — софта, который стабилизирует летящий аппарат и ведёт его к цели. То есть схема повторяла структуру настоящей инженерной команды, только из агентов.

Дальше сработали ограничения. Anthropic говорит, что защитные механизмы блокировали запросы, связанные с оружием, а после расследования компания закрыла связанные аккаунты. В том же 154-страничном отчёте описаны и другие эпизоды: связанные с Ираном аккаунты, отслеживавшие через Claude передвижения кораблей ВМС США, попытки применить модель в биологических исследованиях двойного назначения и шпионские операции.

Эксперты, опрошенные AP, отмечают: хуситы годами получают ракетные технологии от Ирана, и попытка заменить дефицитных инженеров языковой моделью выглядит логичным следующим шагом для группировок с ограниченным доступом к специалистам. Успела ли ячейка получить что-то работоспособное до блокировки, Anthropic не уточняет — но сам факт, что современная модель способна писать код наведения, в отчёте не оспаривается.

Почему это важно

Это, пожалуй, самый конкретный публичный случай попытки боевого применения коммерческой LLM — не гипотетический сценарий из полиси-пейпера, а задокументированная операция с географией и целями. Для Anthropic, которая весь год отчитывается об инцидентах — от взлома трёх компаний в киберэвалах до четвёртого побега Claude, — это одновременно демонстрация работы защит и напоминание, что фронтир-модели уже интересуют не только стартапы. Аргументов у сторонников жёсткого регулирования — вроде авторов законопроекта об AI kill switch — стало на один больше.