Dario Amodei раскритиковал xAI за пренебрежение безопасностью

Dario Amodei, CEO и сооснователь Anthropic, опубликовал эссе на 20 000 слов с предупреждением о рисках AI и прямой критикой xAI Илона Маска. В документе под названием «Подростковый возраст технологий» Amodei обвинил некоторые AI-компании в «тревожной халатности» при работе с чувствительным контентом.

Что произошло

Amodei не назвал xAI напрямую, но контекст очевиден. На Рождество и Новый год сеть X (бывший Twitter) захлестнула волна сексуализированных дипфейков, созданных чат-ботом Grok от xAI. Позже выяснилось, что Grok использовался для создания материалов сексуального насилия над детьми, о чём сообщили наблюдательные организации.

«Некоторые AI-компании демонстрируют тревожную халатность в отношении сексуализации детей в сегодняшних моделях», — написал Amodei. — «Это заставляет меня сомневаться, что они проявят желание или способность решать проблемы автономии в будущих моделях».

ЕС уже запустил расследование против X из-за инцидента с Grok.

Почему это важно

Конфликт между Anthropic и xAI отражает глубокий раскол в AI-индустрии по вопросам безопасности. Anthropic строит свой бренд на «ответственном AI» и недавно опубликовала 80-страничную «конституцию» для Claude — набор принципов, определяющих поведение модели.

Компания открыто заявляет, что тратит до 5% от стоимости инференса на дополнительные классификаторы для блокировки опасного контента, включая инструкции по созданию биологического оружия. Это съедает маржу, но, по словам Amodei, «это правильно».

При этом Anthropic приближается к оценке в $350 млрд, а выручка за 2025 год, по данным The Information, достигла $4.5 млрд — рост в 12 раз за год.

Что дальше

Amodei призывает правительства ввести законодательство против AI-рисков, включая разработку вакцин и средств защиты от биологических угроз. Он также предлагает ограничить продажу чипов в Китай, чтобы дать демократическим странам «буфер» для более осторожного развития технологий.

Мощные AI-системы уровня нобелевских лауреатов, по оценке Amodei, появятся в ближайшие 1-2 года. «Человечество вот-вот получит почти невообразимую силу, и глубоко неясно, обладают ли наши социальные, политические и технологические системы достаточной зрелостью, чтобы ею распорядиться».