Генеративные модели на потребительском оборудовании | Александр Константинов

Из доклады вы подчерпнёте для себя главную информацию про инструменты снижения требовательности GAN. Рассказ Александра Константинова охватит три техники и их применимость в решении бизнес-задач, учитывая потребности приложения и доступность данных на начальной стадии разработки. Презентацию можно найти по ссылке:
Следить за Yappi Days здесь: TG:
VK: https://vk.com/yappidays
И еще здесь: @yappi.days Генеральный партнер Raft DS:
https://vk.com/raftds
Таймкоды: 00:00 - Введение 01:53 - Проприетарные и Open Source LLM модели 03:17 - Как определить какая модель лучше? 05:29 - Llama 3.1 09:20 - Применение моделей в RPA 10:10 - Эксперименты с квантизацией 13:30 - Контекстное окно и ресурсы 14:10 - Сравнение моделей и тестирование 15:47 - Как запустить модель локально? 18:42 - Выводы 19:48 - Вопросы и ответы

Смотрите также