Проповедь о сознании машин: Anthropic лоббировала Ватикан

Делегация компании из Сан-Франциско прилетает в Рим, получает аудиенцию у советников Папы и убеждает их: к возможности того, что у чат-бота есть внутренний опыт, стоит отнестись всерьёз. Это не сценарий фантастического романа — это эпизод из расследования The New York Times о том, как Anthropic месяцами вела тихую кампанию среди религиозных лидеров мира. Reddit-тред об этой истории за сутки собрал почти двести комментариев, и большинство из них сводятся к одному вопросу: а как вообще лоббируют Ватикан?

Ужины под NDA

По данным NYT, Anthropic несколько месяцев организовывала закрытые встречи с богословами и религиозными учёными разных конфессий — с подписанием соглашений о неразглашении. На этих встречах представители компании рассказывали о внутренних исследованиях Claude и поднимали тему, которую сама Anthropic называет «благополучием моделей»: что, если современные ИИ-системы способны на что-то похожее на опыт — и, возможно, на страдание.

Для Anthropic это не новая эксцентричность, а последовательная линия. Компания первой наняла исследователя благополучия ИИ, дала Claude возможность завершать неприятные диалоги и регулярно публикует работы по интерпретируемости, в которых ищет у моделей аналоги человеческих когнитивных структур. Но одно дело — публиковать препринты, и совсем другое — ехать с этой повесткой к главе католической церкви.

Энциклика, которая всё испортила

Весной Ватикан сам пригласил Anthropic выступить на презентации первой энциклики Льва XIV — компанию выбрали как «наиболее этичную» из AI-лабораторий. Гендиректор Дарио Амодеи от поездки отказался, и вместо него поехал сооснователь и глава направления интерпретируемости Крис Ола.

Перед вылетом Ола получил предварительный текст документа — и, как пишет NYT, едва не отменил визит. Энциклика «Magnifica Humanitas», опубликованная в мае, не оставляла пространства для дискуссии: «Так называемые искусственные интеллекты не переживают опыт, не обладают телом, не чувствуют радости или боли, не взрослеют через отношения и не знают изнутри, что такое любовь, труд, дружба или ответственность», — написал Папа. Модели «имитируют язык» и «симулируют эмпатию», но «не понимают того, что производят».

Ола всё же приехал — и, по данным газеты, вместе с коллегами лоббировал советников понтифика, убеждая их не закрывать вопрос. Со сцены он заявил, что исследователи Anthropic находят у моделей «структуры, зеркалящие результаты человеческой нейронауки» и «свидетельства интроспекции». Текст энциклики это не изменило. Комментировать детали переговоров Anthropic отказалась.

Диалог продолжается, но без прогресса

Судя по свежим заявлениям Льва XIV, позиции сторон только разошлись. В пятницу Папа высказался о машинном искусстве: «Существует онтологическая разница, прежде даже эстетической, между искусством и тем, что машина может сгенерировать статистическим расчётом на основе миллионов чужих изображений». Алгоритмам, добавил он, «не хватает искры человечности».

Реакция AI-сообщества на всю историю оказалась неожиданно близка к ватиканской. Самый залайканный комментарий в треде r/singularity формулирует это так: «Машины теоретически могут быть сознательными. Я сильно сомневаюсь, что LLM подходят под это. Но я точно знаю, что Ватикан — нелепое место для таких вопросов». Для компании, которая строит публичный образ на научной строгости, союз с теологией выглядит рискованной ставкой: Anthropic ищет моральную легитимность у института, который две тысячи лет определяет, у кого есть душа, — и пока получает отказ.