100 задач за месяц: зачем OpenAI совет математиков

28 августа OpenAI начала обучать новую внутреннюю модель. Меньше чем через месяц компания заявила, что эта модель решила задачу Навье — Стокса из списка Проблем тысячелетия — а теперь добавляет: сверх того закрыто ещё более ста давних открытых проблем «в большинстве областей математики». По собственному признанию OpenAI, темп прогресса удивил даже математиков внутри компании. В понедельник вместе с этим заявлением компания анонсировала независимую консультативную группу по математике и AI при Институте перспективных исследований в Принстоне.

Последовательность событий не случайна. Новому совету предстоит разгребать последствия конфликта, который OpenAI сама же и создала.

Предыстория: математики против лабораторий

Публикация решения Навье — Стокса в начале сентября прошла жёстко. Математик из NYU обвинил OpenAI в «грязной игре» вокруг задачи, которая могла стать делом чьей-то карьеры, — компания опубликовала результат стремительно, не дав сообществу времени на осмысление. Раздражение копилось и раньше: лаборатории соревнуются, кто громче объявит о решении знаменитой проблемы, а математики оказываются в роли зрителей на собственном поле.

В этом месяце 25 обладателей Филдсовской премии подписали открытое письмо «A Severe Misalignment of AI in Mathematics» — о том, что использование открытых проблем как бенчмарка для новых AI-систем разрушает устройство математической науки. Претензия не к тому, что машины решают задачи. Претензия к тому, как результаты сваливаются на сообщество: без рецензирования в привычном смысле, без координации, в темпе, который диктует конкуренция лабораторий, а не логика науки.

Масштаб «100+ решённых проблем» делает вопрос верификации центральным. Проверка одного серьёзного доказательства занимает у рецензентов месяцы, иногда годы. Сто доказательств, выданных за несколько недель, физически некому проверять — и пока внешней верификации нет, статус этих результатов остаётся заявлением компании, а не фактом математики.

Что за группа и что она будет делать

В совет вошли девять математиков первой величины: Тимоти Гауэрс, Мартин Хайрер, Эдвард Виттен, Рави Вакил, Мелани Матчетт Вуд, Камилло Де Леллис, Франсуа Шарль, Никхил Шривастава и Ульрике Тиллманн. Группа размещается в Институте перспективных исследований — том самом, где работал Эйнштейн, — и формально независима от OpenAI.

Мандат совета — оценивать значимость новых результатов, советовать, как координировать их публикацию, и следить за соответствием академическим стандартам. Устроена независимость всерьёз: члены группы не получают денег от OpenAI, могут публично высказываться без согласования, давать непрошеные советы и сами решают, кого принимать в состав.

Но у этой независимости есть чётко очерченная граница. Формулировка OpenAI не оставляет двусмысленности: «группа не будет отвечать за советы о том, как нам задавать темп внутреннего прогресса в математике». Институт подчеркнул то же со своей стороны — «мы будем давать советы, но у нас нет полномочий принимать решения ни в одной AI-компании». Совет может оценивать и комментировать. Замедлить машину он не может.

Мост или витрина

Показательная деталь, которую заметил TechCrunch: из девяти членов совета письмо филдсовских лауреатов подписал только один — Камилло Де Леллис. Остальные восемь предпочли остаться в стороне от самого острого документа этого конфликта. Можно прочитать это двояко: либо OpenAI собрала умеренных прагматиков, готовых работать с компанией вместо войны с ней, либо — тех, кто изначально не видел в происходящем катастрофы.

Скептики скажут, что перед нами классический консультативный орган без полномочий: он создаёт видимость диалога, ничего не меняя в главном — темпе, с которым OpenAI выкатывает результаты. Оптимисты возразят, что впервые у математического сообщества появился формальный канал влияния на то, как эти результаты публикуются, и девять авторитетных имён с правом публичной критики — это не ноль.

Правда, скорее всего, посередине и определится на первом же серьёзном испытании. Если внутренняя модель OpenAI действительно решает открытые проблемы десятками, следующая волна результатов придёт скоро. Тогда и станет ясно, что такое этот совет: работающий мост между лабораторией и наукой — или красивая витрина, за которой всё идёт так же, как шло. Пока же самое честное описание ситуации дала сама OpenAI: возможности модели удивили даже её создателей, и что с этим делать — не знает толком никто, включая девятерых очень умных людей в Принстоне.