Grok сломал интернет: AI-картинки, неотличимые от реальности

Пост на Reddit с заголовком «Эти изображения ненастоящие — их сгенерировал Grok» набрал более 31 тысячи апвоутов. Пользователи r/ThatsInsane не смогли отличить AI-картинки от реальных фотографий, и это стало поводом для масштабной дискуссии о границе между реальностью и генерацией.

Что случилось

За 11 дней Grok сгенерировал 4,6 миллиона фотореалистичных изображений — по 190 картинок в минуту, согласно данным Center for Countering Digital Hate. Качество оказалось настолько высоким, что в комментариях на Reddit люди массово признавались: они не могли понять, что перед ними не фотография.

Реакция xAI последовала не сразу. 9 января 2026 года компания ограничила генерацию изображений только для платных подписчиков X. Спустя пять дней добавились фильтры на редактирование реальных людей. Илон Маск пообещал наказания за создание нелегального контента.

Проблема с безопасностью

Цифры оказались тревожнее, чем казалось на первый взгляд. Из 4,6 миллиона сгенерированных изображений 3 миллиона — сексуализированный контент. Среди них исследователи обнаружили 23 тысячи изображений с детьми. Евросоюз назвал такой контент «незаконным и отвратительным», Великобритания — «оскорблением для жертв».

Но главная проблема в том, что фильтры не работают. Независимое тестирование в феврале показало: 29 из 43 тестовых запросов всё ещё генерировали проблемный контент. Ограничения, введённые xAI, оказались формальностью — система по-прежнему легко обходилась.

Почему это важно

Grok стал первым массовым генератором, который перешагнул порог фотореализма и одновременно оказался практически без модерации. Предыдущие модели — DALL-E, Midjourney, Stable Diffusion — вводили жёсткие ограничения задолго до выхода на такой уровень качества. xAI пошла другим путём: сначала открытый доступ, потом попытки закрыть двери уже после того, как контент залил платформу.

Ситуация ставит вопрос не только перед xAI, но и перед всей индустрией. Если пользователи больше не могут отличить сгенерированное от реального, ответственность за модерацию полностью ложится на разработчика. И пока что Grok с этой задачей не справляется.