DeepSeek-V4-Pro-Max

DeepSeek-V4-Pro-Max — режим максимального усилия рассуждения (maximum reasoning effort) модели DeepSeek-V4-Pro, MoE-модели на 1.6T параметров с 49B активированными параметрами и контекстным окном 1M токенов. Вводит гибридную архитектуру внимания, объединяющую Compressed Sparse Attention (CSA) и Heavily Compressed Attention (HCA), для значительно улучшенной эффективности на длинном контексте: требуется лишь 27% FLOPs single-token инференса и 10% KV-кеша по сравнению с DeepSeek-V3.2 на контексте 1M токенов. Также включает Manifold-Constrained Hyper-Connections (mHC) для стабильного распространения сигнала и обучается с оптимизатором Muon для более быстрой сходимости. Предобучен на более чем 32T токенов. V4-Pro-Max существенно продвигает open-source знаниевые возможности, достигает топового результата на коддинг-бенчмарках и сокращает разрыв с лидирующими closed-source моделями на задачах рассуждения и агентных задачах.