Разбираемся с ChatGPT, LLM, нейросетями и трансформерами | ELIMM 29

Говорим про нейросети, LLM, большие языковые модели Почему большие языковые модели -- большие? В чем разница между нейросетью и LLM? Стоит ли заводить романтические отношения с ChatGPT? Почему для нового вопроса лучше открывать новый чат? Есть ли в нейросетях магия? Работает ли нейросеть лучше, если пообещать ей денег? Разбираемся! 00:00 Intro 00:36 Привет 01:20 Сегодняшняя тема -- нейросети, LLM, AI 03:00 Распространение LLM 03:46 Вау-эффект для Макса. Как LLM справляется с задачами на собеседованиях 04:42 Говорим про устройство LLM 05:00 Основная задача большой языковой модели 06:03 Обучение 07:02 Вспоминаем марковские цепи и чем LLM отличаются от них 08:48 Откуда берутся данные для обучения? 10:36 Что такое параметры LLM? История машинного обучения 12:37 Структуры нейросетей 21:08 Трансформеры и LLM как черные ящики 26:27 Как случился переход от задачи продолжения текста ко всему тому, что LLM-ы сейчас умеют? Файнтюнинг 32:46 ИИ ничего не помнит? 34:33 Инструменты для AI-ассистентов (MCP) 36:10 Что ждать и чего не ждать от LLM? Возможности и ограничения 37:10 LLM "не думают наперед" 40:54 LLM не думает за пределами того, что пишет 42:25 Память LLM (ее нет). Стоит ли заводить романтические отношения с LLM? 42:54 Если модель пошла галлюцинировать -- начинайте новый чат 44:47 Сколько вмещвется в контекст разговора? 48:07 Может ли нейросеть создать новое? 49:08 Лозунг нейросетей 49:54 Непредсказуемость. Полезно ли обещать нейросети деньги? 51:52 Решаема ли задача отслеживания влияния источников? 54:33 А еще бывают мультимодальные модели 55:55 Как модели учатся рисовать бокал вина, полный до краев 57:59 Новый челлендж для генерации изображений: человек в кувырке 58:25 Суммаризация 59:45 Кого что зацепило 1:01:31 Этично ли подменять историю переписки для модели? 1:03:10 Задаем вопросы слушателям, прощаемся