«Я ушёл из DeepMind»: письмо, взорвавшее AI-сообщество

«Я уволился из Google DeepMind, потому что компания нарушила своё изначальное обещание — продала ИИ военным без ограничений против роботов-убийц и массовой слежки». С этой фразы Алекс Тёрнер начал тред в X, который набрал больше 750 тысяч просмотров, и эссе на 2000 с лишним слов под заголовком «Почему я ушёл из Google DeepMind». Формально это история одного увольнения. По сути — редкий взгляд изнутри на то, как под давлением ломаются этические обещания больших AI-лабораторий.

Тёрнер провёл в команде безопасности DeepMind больше двух лет и ушёл ещё в июне, но публично объяснил причины только сейчас. И объяснение получилось неудобным для Google.

Что случилось

В центре истории — закрытая сделка, по которой Google разрешила Пентагону использовать Gemini «для любых законных государственных целей». Никаких обязывающих ограничений против автономного оружия или слежки в ней, по словам Тёрнера, нет. Для него это прямое нарушение того, во что DeepMind публично верила годами.

В 2018 году DeepMind и её основатели подписали обязательство не участвовать в создании летального автономного оружия. Тёрнер утверждает, что эти обязательства тихо размылись: в начале 2025 года Google убрала запреты на оружие и слежку из своих AI-принципов — в посте, соавтором которого был сам CEO DeepMind Демис Хассабис. Военная сделка с Пентагоном стала логичным продолжением этого сдвига.

Кампания Тёрнера началась в январе — по его словам, после того как агенты DHS застрелили двух человек, и он проследил цепочку до облачных контрактов Google в системе иммиграционного контроля. Дальше протест расширился: Пентагон начал давить на AI-провайдеров, вынуждая их подписывать военные контракты без «красных линий», и Тёрнер испугался, что Google прогнётся так же, как до этого пытались прогнуть Anthropic.

Кампания, оставленная «на прочитано»

Это был не тихий уход. Тёрнер полгода лоббировал внутри компании: писал Сундару Пичаи, главе Google Cloud Томасу Куриану и Хассабису. Когда письма остались без ответа, он написал Хассабису напрямую — холодным сообщением. Он подготовил целый документ — фреймворк «красных линий» и надзора для государственных AI-контрактов, отрецензированный экспертами по военному и надзорному праву. По указанию Хассабиса документ направили старшим сотрудникам по политике. Его так и не рассмотрели. «Они оставили сообщение на прочитано», — пишет Тёрнер.

Часть усилий всё же дала эффект. Легендарный инженер Джефф Дин публично подписал amicus-brief в поддержку Anthropic против Пентагона — и, по данным Тёрнера, это заставило часть чиновников насторожиться в опоре на Google. Но повлиять на саму сделку Google это не смогло: контракт всё равно подписали.

Отдельно достаётся самому сообществу AI-безопасности. Тёрнер лоббировал и мэтров — Йошуа Бенджио и Стюарта Рассела, который десятилетие борется против автономного оружия. Публично не высказался никто.

Почему это резонирует

История Тёрнера легла на уже накалённую почву. В те же дни в Кремниевой долине прошли протесты работников AI-компаний против рисков, которые несёт их собственный продукт — с остановками у офисов OpenAI, Anthropic и Google DeepMind. А отчёт Reddit AI Trends зафиксировал ещё один слух — о волне увольнений в команде выравнивания DeepMind на фоне давления сроков. Проверить масштаб этих утечек со стороны нельзя, и относиться к ним стоит осторожно. Но тренд читается ясно: конфликт между коммерческим и военным давлением, с одной стороны, и обещаниями по безопасности — с другой, перестал быть кабинетным.

Показательна и позиция самого Тёрнера. Он подчёркивает, что ушёл не ради конкурента и не за крупный бонус: он не заигрывал с другими лабораториями и отклонил предложение от команды безопасности OpenAI. Сейчас он безработный и, по его словам, занимается независимыми исследованиями по AI-безопасности, пока решает, что делать дальше.

За всей этой историей стоит более общий вопрос, который касается любого, кто пользуется продуктами больших лабораторий. Публичные принципы вроде «не создавать оружие» и «не помогать массовой слежке» держатся ровно до первого серьёзного давления — государственного или коммерческого. Google свою позицию излагает буднично: доступ к коммерческим моделям через API со стандартными отраслевыми условиями — это, мол, ответственный подход к вопросам нацбезопасности. Тёрнер в это не верит. И его уход — напоминание, что за красивыми формулировками об этике ИИ стоят конкретные люди, конкретные контракты и конкретные решения, которые принимаются не всегда так, как написано в манифестах.