DeepSeek R1 требования к железу - тест на GPU с квантизацией

Подписывайтесь на Телеграм-канал:
Веса DeepSeek R1 в GGUF:
Веса DeepSeek V3 в GGUF:
В этом видео - запуск модели DeepSeek R1 на сервере с GPU с квантизацией, требования к железу, тест на скорость инференса. 💻 immers.cloud – широкий выбор карт для обучения и инференса нейронных сетей. Один из ведущих поставщиков услуг IaaS (Infrastructure as a Service) в России, специализирующийся на использовании графических процессоров (GPU). Сервис предлагает конкурентоспособные цены и интуитивно понятный интерфейс, который даже начинающие пользователи могут легко освоить и начать работу с необходимым программным обеспечением. 💻 gptchain – фреймворк для быстрого развертывания AI-ассистентов:
Поддерживает интеграцию с Telegram-ботом, Retrieval Augmented Generation (RAG), деплой моделей на LLM сервер и файнтюнинг LLM на собственных данных. Дискорд:   / discord   Это описание содержит реферальные ссылки.