Сайт использует сервис веб-аналитики Яндекс Метрика с помощью технологии «cookie». Пользуясь сайтом, вы даете согласие на использование данной технологии.
В этом видео Марк Блуменау расскажет, что такое квантизация и зачем она нужна в мире больших языковых моделей. Вы узнаете, как современные LLM могут содержать сотни миллиардов параметров, почему их запуск требует огромных вычислительных ресурсов и как квантизация помогает сократить объем памяти, необходимый для работы нейросетей. Если хотите узнать как устроены LLM и создать свою модель - записывайтесь к нам на курс Наш сайт: Telegram-канал: