Сайт использует сервис веб-аналитики Яндекс Метрика с помощью технологии «cookie». Пользуясь сайтом, вы даете согласие на использование данной технологии.
Nvidia DGX Spark: $4000 за 18 токенов в секунду. Это вообще нормально?
Да, друзья, это снова я и мой страшный вентилятор, только теперь в виде Nvidia DGX Spark — маленькой алюминиевой коробки за четыре тысячи долларов, которая обещает петофлоп на ладони. В этом видео — первый запуск, как есть, без фильтров и монтажей: шум, провода, USB без Enter, и немного инженерной боли. Смотрим, как Spark загружается, почему он сначала хочет Wi-Fi, потом передумывает, а потом вообще пропадает. Проверяем, есть ли у него Bluetooth, сколько у него терпения, и зачем в 2025-м искать USB-C клавиатуру, если таких не существует. Да, устройство долго думает, но зато честно показывает, как живёт настоящий “умный ящик” от Nvidia. Разбираем интерфейс, лезем в консоль, включаем Dashboard, Workbench, SSH, и находим там кучу странных вещей, включая телеметрию и Jupiter Framework. А потом — магия: оказывается, внутри Tegra. Та самая, из древних мобильных чипов Nvidia. И это не просто ресёрч-железка: она реально крутит WebGL, проигрывает видео и умеет YouTube без тормозов. Запускаем Ollama, тестируем GPT-S 120B, считаем токены — получается около 18 токенов в секунду. При этом устройство ест 200 ватт и издаёт звуки, будто AI поёт трансформатором. Серьёзно, оно реально шумит в такт генерации текста. В итоге — 4000 долларов за 18 токенов в секунду. Много это или мало — решайте сами. Но одно точно: теперь даже AI умеет петь, а пассивное охлаждение — это миф. Спасибо, что смотрите, тестируете, комментируете и делаете бизнес — потому что то, что делаете вы, не сделает даже Nvidia со своими Spark’ами. Группа YCombinator in Russian в Facebook, где выпускники YC помогают русскоязычным стартаперам попасть в комбинатор - / about Silicon Pravda каналы: Discord (лучше) Телеграмм - #Nvidia #DGXSpark #AI #распаковка #СиликоноваяПравда #железо #Ollama #петофлоп #hardware