Установил нейросеть Qwen 2.5 локально за 10 минут: Telegram бот с ИИ на обычном ноутбуке

В этом видео я покажу как за 10 минут установить собственный локальный ИИ-бот, который отвечает в Telegram быстрее ChatGPT! 🚀 ЧТО СДЕЛАЕМ: Установим модель Qwen2.5-1.5B GGUF (всего 1 ГБ!) Создадим Telegram бота с AI ⚡ РЕЗУЛЬТАТ: ✅ Собственный ИИ на ноутбуке ✅ Отвечает за 2-5 секунд ✅ Занимает всего 2-3 ГБ RAM ✅ Понимает русский язык ✅ Полная приватность данных 💻 ТРЕБОВАНИЯ: Windows 10/11 8+ ГБ RAM AMD Ryzen 7 4800H (или аналог) 5 ГБ свободного места Базовые навыки работы с компьютером 🛠️ ЧТО ИСПОЛЬЗУЕМ: Python 3.11 llama-cpp-python (быстрее HuggingFace) Qwen2.5-1.5B в формате GGUF Q4_K_M Telegram Bot API Инструкция:
Телега:
Файлы из видео:
Мир искусственного интеллекта и нейронных сетей! ИИ инструменты и решения у нас на канале

Смотрите также