«Культура сломана»: безопасник OpenAI ушёл с громким эссе

«Представьте, что Манхэттенским проектом управляли бы венчурные капиталисты». Этот комментарий стал самым залайканным в треде r/singularity об очередном громком уходе из OpenAI. Дэвид Робинсон — человек, который руководил написанием отчётов о безопасности, сопровождавших релизы компании, — уволился и объяснил причины в эссе для The Atlantic с заголовком, не оставляющим пространства для трактовок: «Я ушёл из OpenAI, потому что её культура сломана».

Что произошло

Робинсон проработал в OpenAI три с половиной года — и, по его словам, этого хватило, чтобы оказаться «среди самых давних сотрудников компании». Сама эта деталь говорит о текучке больше, чем любые инсайды. Его главная претензия — не к конкретным решениям, а к методу: OpenAI живёт «итеративным развёртыванием», выпуская продукты и латая проблемы по мере их появления. «Такой подход по самой своей природе гарантирует периодические провалы — и масштаб этих провалов растёт вместе с возможностями систем», — пишет он.

Самое цитируемое место эссе — про отраслевой опыт: за три с половиной года Робинсон «ни разу не встретил коллегу, который имел бы опыт обеспечения безопасности полётов, безаварийной работы атомных реакторов или устойчивости финансовой системы». Индустрия, претендующая на создание сверхинтеллекта, строит культуру безопасности с нуля — на «безудержном оптимизме», что любую проблему можно решить после того, как она случилась.

OpenAI ответила через пресс-секретаря: компания «приостанавливает обучение и придерживает модели, когда нужно замедлиться», расширяет работу со сторонними оценщиками и улучшает мониторинг. Ответ звучал бы убедительнее, если бы не контекст: это уже третий резонансный уход специалиста по безопасности из frontier-лаборатории за последние месяцы — после Джейкоба Коксона из Anthropic в сентябре. А 225 апвоутов и 135 комментариев под постом показывают: сообщество воспринимает такие эссе уже не как сенсацию, а как рубрику.

Почему это важно

Робинсон — не рядовой недовольный: он писал те самые system cards, которыми OpenAI публично доказывает свою осторожность. Когда автор отчётов о безопасности говорит, что «компания, несущаяся от запуска к запуску, не достигает необходимого уровня тщательности», — это оценка изнутри процесса, а не снаружи. Характерно и его резюме: он не верит, что культуру можно починить изнутри, и делает ставку на «более сильные стимулы для безопасности извне компании» — то есть на регулирование.

Скептикам есть что возразить: Робинсон признаёт, что нанял PR-фирму для сопровождения своего ухода (настаивая, что «решение высказаться — моё собственное»), а жанр «прощального предупреждения» в индустрии успел стать, по его же словам, клише. Но чем больше таких клише накапливается, тем труднее списывать их на совпадение.