local-llmintel-optanekimi-k2
Сборка за $2500 крутит Kimi K2.5 на триллион параметров локально
Энтузиаст показал, как с помощью Intel Optane Persistent Memory можно запустить 1T-модель Kimi K2.5 дома на скорости 4 токена в секунду.
5 мин
Свежие релизы моделей, тесты, исследования и тренды — всё самое важное простым языком
Страница 32 из 78