Как рекомендательный движок ежегодно экономит 200 000 CPU в инфраструктуре Рекламы / Антон Полднев

На конференции «Я про бэкенд» Антон Полднев, руководитель инфраструктуры Яндекс Рекламы, рассказал, как рекомендательный движок ежегодно экономит 200 тысяч CPU в их инфраструктуре и как ребята перестроили архитектуру системы, которая обслуживает более миллиона запросов в секунду. Антон поделился конкретными решениями для оптимизации похожих бэкендов: от хаков на стыке с GPU до улучшений балансировки. Ещё Антон разобрал последние тренды в развитии инфраструктуры рекомендаций, без которых невозможен существенный рост эффективности. Больше полезных материалов про бэкенд:
#япробэкенд #яндекс #backend #бэкенд #архитектура #highload #инфраструктура #ml #ai #llm #yandextech #разработка #инженерия #devops #ydb #автотранспорт #алиса #рекомендации