Как законы масштабирования определят будущее ИИ | YC Decoded

В последние несколько лет лаборатории ИИ придерживаются подхода «чем больше, тем лучше» к масштабированию LLM. Вводя больше параметров, данных и вычислений, они смогли предсказуемо повысить производительность моделей. Однако в последнее время в сообществе ИИ разгорелись жаркие споры о том, достигли ли мы предела возможностей законов масштабирования. В этом выпуске YC Decoded президент и генеральный директор Гарри Тан рассматривает обе стороны дискуссии о законах масштабирования и то, как совершенно новая парадигма может потенциально предсказать будущее ИИ. Подать заявку в Y Combinator:
Работа в стартапе:
Главы (на платформе
- 00:00 - Введение 01:17 - Расшифровка закона масштабирования 04:10 - Данные и вычисления 05:33 - Шиншилла 06:00 - Большие модели и масштабирование 07:12 - Обучение 08:40 - Вычисления 09:42 - Робототехника