США и Китай возобновляют AI-переговоры из-за модели Mythos

Модель Mythos от Anthropic стала первым AI-прорывом, который заставил США и Китай вернуться к переговорам после провала швейцарских talks в 2024 году. Причина: Mythos рассматривается правительствами и индустрией как unprecedented cyberweapon.

Что такое Mythos и почему паника

Capabilities (по данным LA Times):

• Infiltrating и exploiting:
  • Digital communication systems
  • Government databases
  • Financial institutions
  • Healthcare programs
• Последствия описываются как «untold»

Беспрецедентность:

«Quiet discussions have taken place ahead of President Trump's state visit to China this week to explore reviving talks on an emergency channel for AI matters between Washington and Beijing, prompted by shared alarm in Beijing and Washington over the debut of Mythos.»

Industry response:

• Anthropic сама подняла alarm в Trump administration о своей модели
• Treasury Secretary Scott Bessent рекомендовал U.S. government reviews будущих model releases после встречи с top bank leaders
• White House позже уточнила, что model reviews будут strictly voluntary после Silicon Valley backlash

Emergency AI Channel: что это и почему сейчас

Senior Administration Official (воскресенье перед визитом Trump в Китай):

«I think what that channel of communication looks like, its formality and what that looks like, is yet to be determined, but we want to take this opportunity with the leaders meeting to open up a conversation. We should establish a channel of communication on that matter.»

Зачем emergency channel:

• Быстрая координация при AI-инцидентах (cyberattacks, model leaks)
• Prevent escalation — если одна сторона думает, что другая атакует через AI
• Share research о dangerous capabilities

Почему это большой шаг: Предыдущая попытка (Switzerland 2024) провалилась полностью. Trump administration изначально была far more laissez-faire и «didn't seem particularly interested» (Jake Sullivan, Biden's NSA).

История провала: Geneva Talks 2023-2024

2023 Woodside Meeting

• Первые high-level U.S.-China talks о AI dangers
• President Xi Jinping и foreign minister казались серьезными
• Authorized diplomatic effort starting в 2024 в Switzerland

2024 Switzerland Talks — Key Failure Points

Jake Sullivan:

«They naturally view any American diplomatic initiative involving limitations or restrictions of one flavor or another on a capability as being a trap.»

Что пошло не так:

1. Большая U.S. delegation прибыла с high hopes
2. Chinese contingent dismissed American concerns как «academic, almost theoretical»
3. Beijing быстро pivot conversation к export controls
4. Viewed as еще одна U.S. effort to hold China back

November 2024 Peru Accord — Единственное достижение

«It was a breaking of the seal that we could actually do something on AI.»

Agreement: Keep AI out of nuclear weapons command and control.

То есть за год переговоров — только одно узкое соглашение. До Mythos.

Strategic Divergence: США vs Китай

United States Strategy

Focus: Race to Artificial General Intelligence (AGI)

Prevailing theory:

«The first to achieve AGI will secure a prize that multiplies itself: a self-training, recursively improving intelligence, growing exponentially and leaving all competitors in its wake.»

Кто участвует:

• OpenAI
• Google
• Anthropic
• Microsoft
• Meta Platforms

Подход:

• Massive compute scaling
• Frontier models (GPT-5.5, Claude Opus 4.7, Gemini 3.1 Pro)
• Winner-takes-all mentality

China Strategy

Focus: Industry-specific applications and diffusion

Scott Kennedy (CSIS Senior Advisor):

«The Chinese believe there is no single race, but multiple races. The U.S. is focused on achieving AGI, while China is focused on diffusion and applications of AI into the rest of their economy — manufacturing, humanoid robotics, all aspects of the internet of things.»

State-sanctioned approach:

• Integrating AI into siloed industries
• Training models для specific tasks
• Tailored approach to accelerate growth

Примеры китайских отраслевых моделей:

• Manufacturing: predictive maintenance, quality control
• Humanoid robotics: factory automation
• Internet of Things: smart city infrastructure

China's Position and Constraints

Financial Gap

Matt Sheehan (Carnegie Endowment):

«It's not just chips. It's money. China's leading companies are much more financially constrained than U.S. companies. There's concern over a bubble here, but OpenAI is valued at something near $800 billion. Leading Chinese companies that have gone public are valued at $20 billion. There's just an orders-of-magnitude gap in available financing.»

Цифры:

• OpenAI valuation: ~$800 billion
• Leading Chinese AI companies: ~$20 billion
• Gap: 40x разница

Computing Power Limitations

• Chinese companies more financially constrained
• State focused computer power на specific applications
• Lacks broad strategy для developing more powerful AGI-capable models

Technology Theft Concerns

White House OSTP Memo (прошлый месяц):

• Обвинил Chinese actors в «industrial-scale campaigns to distill U.S. frontier AI systems»
• Replicating advanced model performance «at a fraction of the cost»
• Critical concern: Security protocols deliberately stripped away в процессе
• Memo did not accuse Beijing напрямую, но implied state-level involvement

Что такое distillation:

1. Взять output от frontier model (GPT-5, Claude Opus)
2. Train меньшую модель replicating responses
3. Получить 80-90% capabilities за 1/10 стоимости
4. Проблема: безопасность safeguards не копируются

Почему Mythos изменила все

1. Shared alarm

Впервые Beijing и Washington согласны: это too dangerous.

2. Concrete threat

Не theoretical AI risk, а real capability:

• Government databases
• Financial institutions
• Healthcare systems

3. No alignment safeguards

Если Mythos distilled китайскими actors, safeguards могут быть stripped away.

4. Escalation risk

Если Mythos-подобная модель используется в cyberattack, как определить: state-sponsored или rogue actor?

Что дальше: три сценария

Scenario 1: Formal Emergency Channel (оптимистичный)

• Hotline-style communication
• Pre-agreed protocols для AI incidents
• Joint research о dangerous capabilities
• Information sharing о model theft

Probability: 30%
Blocker: Китай видит это как ловушку для ограничений

Scenario 2: Voluntary Industry Coordination (реалистичный)

• Anthropic, OpenAI, Google + китайские лаборатории координируются напрямую
• Government facilitates, но не mandates
• Focus: prevent catastrophic releases

Probability: 50%
Precedent: Nuclear scientists coordinating во время Cold War

Scenario 3: Status Quo + Ad Hoc Crisis Management (пессимистичный)

• No formal channel
• Leaders talk только когда crisis уже произошла
• Each side продолжает unilateral approach

Probability: 20%
Risk: Miscalculation и escalation

Стратегические импликации

Для AI-лабораторий

1. Red teaming becomes mandatory — нельзя release без проверки на cyberweapon capabilities
2. Government pre-briefings — voluntary сегодня, может стать required завтра
3. Distillation-resistant architectures — новая research area

Для индустрии

1. U.S. AGI race продолжается full speed (OpenAI, Anthropic, Google)
2. Chinese industry deployment ускоряется (manufacturing, robotics, IoT)
3. Divergent strategies сохраняются, но coordination на dangerous capabilities

Для разработчиков

1. Security safeguards нельзя treat как optional layer
2. Model theft через distillation — real threat
3. Agentic capabilities требуют новых safety frameworks

Key Takeaways

✅ Mythos — первая модель, вызвавшая shared alarm в U.S. и China
✅ Emergency AI channel обсуждается на высшем уровне (Trump-Xi встреча)
✅ Strategic divergence сохраняется: U.S. → AGI race, China → industry diffusion
✅ Financial gap 40x ограничивает китайские frontier model ambitions
✅ Distillation threat — копирование capabilities без safeguards

Bottom line: Mythos стала Sputnik moment для AI governance — впервые великие державы признали, что coordination важнее competition в вопросе dangerous capabilities.