Ирина Николаева - LLMops: что есть, кроме ChatGPT, и как вы можете развернуть это

На вебинаре поговорили об основных LLM моделях и их особенностях, когда можно без LLM, а когда стоит их использовать. Ирина затрагивает актуальные темы квантизации и файн-тюнинга моделей, векторных баз данных и Lang Chain. #llm #mlops #finetuning #квантизация #разработка ______________________________________________________________

🚀 ТАЙМ-КОДЫ 🚀: 0:00:00 — вступление, о чем вебинар 0:05:30 — как мы в Рафт используем LLM — AudioInsights 0:10:02 — насколько безопасны сейчас LLM 0:16:10 — жизненный цикл модели в MLOps 0:22:25 — когда можно без LLM 0:28:30 — когда стоит использовать LLM 0:33:45 — Self-Managed vs Hosted API-based LLM 0:36:50 — многообразие LLM: основные модели и их особенности — Рейтинг моделей 0:41:00 — лицензии LLM-моделей 0:42:21 — требования к железу Llama 2 0:43:50 — квантизация LLM 0:51:35 — Fine-tuning 1:01:20 — векторные базы данных 1:04:16 — Lang Chain 1:05:30 — Что нового с приходом LLM 1:08:00 — Q&A