Qwen3-Next-80B-A3B-Instruct

Qwen3-Next-80B-A3B-Instruct — первая модель серии Qwen3-Next с прорывными архитектурными инновациями. Использует гибридное внимание (Gated DeltaNet + Gated Attention) для эффективного моделирования сверхдлинного контекста, MoE с высокой разреженностью (512 экспертов, 10 активных + 1 общий) и предсказание нескольких токенов. 80 млрд параметров (3 млрд активных), обучена на 15T токенах. Превосходит Qwen3-32B-Base при 10% стоимости обучения. Поддержка контекста до 256K (расширяемо до 1M с YaRN). Лицензия Apache 2.0.