Когда дом не тянет: кластер из 20 DGX Spark выбил пробки

«Первым узким местом оказались пробки в доме». Так автор поста, за сутки собравшего в r/LocalLLaMA больше восьмисот апвоутов, описал свой путь от одной RTX 3090 до домашнего кластера из двадцати NVIDIA DGX Spark. Сообщество отреагировало не разбором топологии сети, а вопросом, который набрал 935 апвоутов: «Где растёт твоё денежное дерево?»

Математика действительно впечатляет. Каждый Spark — это чип GB10 Grace Blackwell со 128 ГБ единой памяти и блоком питания на 240 Вт. Двадцать штук дают около 2,5 ТБ памяти под веса моделей — этого хватит на несколько копий самых крупных открытых моделей в полном размере. По нынешней рознице (мы недавно писали про DGX Spark за $6950 в Micro Center) железо обошлось примерно в 140 тысяч долларов — цена квартиры в не самом плохом городе. А пять киловатт пиковой нагрузки объясняют, почему электрика сдалась раньше софта.

Два полюса одного хобби

Показательно, что в том же сабреддите и в тот же день набирал очки прямо противоположный проект: энтузиаст реализовал архитектуру Qwen3.5 на FPGA с майнинговых плат с eBay, выжимая инференс 9B- и 27B-моделей в INT4 из железа, которое после краха крипто-ферм продают почти на вес. В комментариях там обсуждали пиннинг вычислительных тайлов к псевдоканалам HBM — и статическое электричество от ковра, на котором всё это лежит.

Эти два поста — портрет сегодняшнего локального ИИ. На одном полюсе люди, для которых $140 тысяч на хобби — приемлемая сумма, на другом — инженеры, собирающие инференс из мусора буквально за копейки. Середина между тем вымывается: конец субсидированного компьюта толкает энтузиастов к локальному железу, но память дорожает на десятки процентов за квартал, и «просто докупить ещё одну видеокарту» с каждым месяцем всё менее просто.

Самый трезвый комментарий в треде, набравший под триста апвоутов, звучал коротко: «Да как вы все такие богатые?» Ответа автор кластера не дал. Зато пообещал отдельный пост про то, как договаривался с энергокомпанией о новом вводе в дом — и это, пожалуй, самый честный бенчмарк локального ИИ в 2026 году.