needlecactus-computegemini
Needle: 26M-модель для tool calling выдаёт 6000 ток/с на ноутбуке
Cactus Compute дистиллировала Gemini 3.1 в 26M-параметрическую Simple Attention Network. Открытые веса, MIT, 1.2k звёзд за сутки. Бьёт FunctionGemma-270m и Qwen-0.6B на single-shot function call.
3 мин