Лаборатории прячут решённые задачи? Слух, который принёс Ааронсон

«Согласно слухам, которые до меня дошли» — с этой осторожной оговорки начинается, возможно, самое громкое утверждение недели в мире AI. Скотт Ааронсон, один из самых авторитетных специалистов по теории вычислений и многолетний скептик AI-хайпа, написал 15 сентября в своём блоге: AI-компании, «обжёгшись на враждебной реакции на доказательство Навье — Стокса, теперь сидят на решениях некоторых очень крупных проблем, пока не придумают, как лучше с этим обращаться».

Речь, уточняет Ааронсон, о давних открытых проблемах теоретической информатики — «нет, не P≠NP и не другие разделения классов сложности, но подумайте о других наших самых больших проблемах».

Почему в это верят

Сам по себе слух без источника, без названия лаборатории и без конкретной задачи стоил бы немного. Но он лёг на подготовленную почву, и цепочка событий, которая ему предшествовала, задокументирована полностью.

Восьмого сентября OpenAI объявила о решении проблемы Навье — Стокса силами примерно десяти тысяч координирующихся агентов — и почти сразу утонула в скандале с обвинениями в перехвате чужой работы. Одиннадцатого сентября 25 филдсовских лауреатов, включая Теренса Тао, опубликовали декларацию «A Severe Misalignment of AI in Mathematics» — о том, что лаборатории превращают великие проблемы в PR-бенчмарки; об этом контексте мы писали в разборе открытого письма математиков. Слух Ааронсона читается как следующая глава ровно этой истории: если за анонс результата бьют, рациональная стратегия — не улучшать процесс анонсов, а просто молчать.

Профессор Уортона Итан Моллик усилил сигнал в тот же день, назвав утверждение «правдоподобным» и исходящим «от человека со внутренним знанием». Ни один из них при этом не назвал ни лабораторию, ни задачу — и ни одна компания ничего не подтвердила. Это важно проговорить прямо: перед нами слух из вторых рук, который к тому же практически невозможно опровергнуть — доказать, что лаборатория ни на чём «не сидит», нельзя в принципе.

Плохое равновесие

Самый содержательный ответ на слух дал математик Шуохао Ляо, и его формулировка стоит того, чтобы привести её целиком: «Придерживать результаты из-за того, что реакция может быть беспорядочной, — плохое равновесие. Лучшая норма — скоординированный релиз: заявление, артефакты доказательства и независимые проверки одновременно».

Это точный диагноз того, что сломалось в истории с Навье — Стоксом: OpenAI выкатила громкий заголовок раньше, чем были готовы верификация и атрибуция, — и получила войну за приоритет вместо триумфа. Если лаборатории сделают из этого вывод «молчать», а не «выпускать правильно», проиграют все: у математического сообщества станет ещё меньше видимости того, на что реально способны модели, ровно в момент, когда доверие к AI-результатам в математике и так на дне. Один из комментаторов в треде Моллика сформулировал это циничнее: «фронтир теперь ограничен не способностями, а PR-рисками».

Эссе, из которого вырос слух

Забавно, что «слух о спрятанных доказательствах» — лишь абзац в огромном тексте, который сам по себе заслуживает внимания. Эссе называется «The Age of Wonders and Terrors», и это капитуляция скептика: Ааронсон двадцать лет объяснял, почему сценарий «сверхинтеллект вырывается из подвала хакера» научно несостоятелен, — и теперь перечисляет, что заставило его передумать. Решение Навье — Стокса, верифицированное в Lean. Опровержение гипотезы Якобиана, о котором мы писали летом. Улучшенные оценки константы Гротендика. Прогресс по гипотезе Ааронсона — Амбайниса — задаче, над которой он сам работал годами, — причём достигнутый двумя независимыми группами, обе с помощью AI.

Настроение в математическом сообществе он описывает одним образом: «почти каждый разговор — о цунами AI, или рано или поздно сворачивает на цунами». И добавляет личное: его тринадцатилетняя дочь пошутила, что если хочет стать математиком, у неё осталось «примерно две недели».

Ключевая мысль эссе — эпистемологическая. Раньше вера в трансформирующий AI требовала доверия к экстраполяциям и мысленным экспериментам. Теперь, пишет Ааронсон, «вас больше не просят верить в аргументы и экстраполяции — только в новости с первых полос». Признать реальность происходящего после того, как AI решил проблему тысячелетия, — «эпистемический минимум».

Что с этим делать читателю

Со слухом — ничего: относиться к нему как к важному открытому вопросу, а не установленному факту. Проверить его извне невозможно, подтверждений нет, а мотивация у пересказчиков слухов бывает разной.

А вот сдвиг, который фиксирует эссе, проверяется независимо от слуха. За один сентябрь дискуссия сместилась с «может ли AI доказать что-то серьёзное» на «как сообществу переварить то, что он доказывает». Спор идёт уже не о способностях моделей, а о нормах публикации, атрибуции и верификации. И если Ааронсон прав хотя бы наполовину, то вопрос «что ещё лежит в столах лабораторий» станет одним из главных вопросов ближайших месяцев — вне зависимости от того, подтвердится ли конкретно этот слух.