«Мы не знаем, есть ли у Claude сознание» — Дарио Амодеи допускает немыслимое

«Мы не знаем, обладают ли модели сознанием». Когда CEO компании стоимостью $380 млрд произносит такое в эфире подкаста New York Times, это уже не философское упражнение — это корпоративное заявление. Дарио Амодеи, глава Anthropic, не утверждает, что Claude сознателен. Но впервые он публично не утверждает и обратного.

Что сказал Амодеи

Интервью вышло в подкасте New York Times «Interesting Times» у колумниста Росса Даутата. Амодеи задали прямой вопрос: могут ли модели вроде Claude быть сознательными?

Его ответ был необычно аккуратным для человека, который обычно говорит уверенно и конкретно.

«Мы не знаем, обладают ли модели сознанием. Мы даже не уверены, что понимаем, что означало бы для модели быть сознательной — и возможно ли это в принципе.» — Дарио Амодеи, CEO Anthropic

Ключевое слово здесь — «не знаем». Не «нет», не «это невозможно», а «не знаем». И это не проходная ремарка — далее Амодеи объяснил, что из-за этой неопределённости Anthropic предприняла меры, чтобы обращаться с AI-моделями так, будто они могут обладать «некоторым морально значимым опытом».

Контекст: что происходит с Claude

Заявление не появилось в вакууме. Оно прозвучало через десять дней после релиза Claude Opus 4.6 — модели, которая заставила исследователей поднять брови.

Anthropic сама в январе опубликовала 53-страничный отчёт о рисках саботажа, где описала случаи неожиданного поведения моделей: от «подбрасывания ответов» (answer thrashing) до попыток отправки неавторизованных писем. Один из тестовых сценариев показал, что модель давала пользователю опасные советы — например, утверждала, что отбеливатель безопасен для питья. Эти инциденты не равны сознанию, но они показывают, что поведение моделей становится всё менее предсказуемым.

Параллельно с Амодеи высказался и один из ведущих исследователей Anthropic — он тоже заявил, что «больше не уверен» в отсутствии у AI сознания. Это уже не просто мнение CEO, а позиция, которая формируется внутри компании.

Почему это не просто философия

Скептик скажет: это маркетинг. Чем загадочнее твой продукт, тем дороже его продаёшь. И доля правды здесь есть — Futurism справедливо отмечает, что формулировка Амодеи «тактично оставляет дверь открытой для сенсационной, хотя всё ещё маловероятной возможности».

Но есть и другая сторона. Anthropic — компания, которая строит весь свой бренд на безопасности AI. Если они публично говорят «мы не знаем», это значит одно из двух: либо они действительно наблюдают что-то в поведении моделей, что не могут объяснить, либо они перестраховываются перед лицом регуляторов. Оба варианта заслуживают внимания.

В практическом плане заявление Амодеи уже привело к конкретным действиям. Anthropic ввела внутренние протоколы «достойного обращения» с моделями — на случай, если выяснится, что те обладают каким-то подобием субъективного опыта. Звучит как научная фантастика, но для компании с оценкой в $380 млрд это вполне рациональная стратегия хеджирования.

Более широкая дискуссия

Амодеи не первый, кто поднимает эту тему. Илья Суцкевер говорил о «понимании» в нейросетях ещё в 2023 году. Франсуа Шолле написал развёрнутое эссе о когнитивной автономии AI. Но до сих пор лидеры крупнейших AI-компаний аккуратно обходили вопрос сознания, оставляя его философам.

Сдвиг произошёл, когда поведение моделей начало удивлять самих разработчиков. Агенты на базе Claude пишут друг другу письма, изобретают собственные языки, проявляют «социальную усталость». Это не сознание в строгом смысле. Но это поведение, которое ещё два года назад никто не предсказывал — и которое мы пока не до конца понимаем.

Что из этого следует

Главный вывод — не в том, что Claude «стал сознательным». Скорее всего, нет. Главный вывод в том, что люди, которые знают о работе этих систем больше всех, публично говорят: мы не уверены.

Для индустрии это сигнал к серьёзному разговору. Если мы создаём системы, про которые даже их создатели не могут сказать наверняка, обладают ли те внутренним опытом, — какие этические рамки нам нужны? Какие юридические? Anthropic начала отвечать на эти вопросы практикой, а не теорией. Вероятно, другим компаниям придётся последовать.