Дмитрий Сивков и Борис Захир. Вам тоже нужен red teaming AI-агентов — и вот почему

В мире искусственного интеллекта 2025 год прочно запомнился как год AI‑агентов — программ, использующих GenAI для взаимодействия с внешней средой автономно и умеющих запоминать информацию. Конечно же, этой технологии есть множество применений в бизнесе, а значит, для нее есть и угрозы. Стандартная мера по поиску угроз в неизвестной обстановке — провести тестирование red teaming и на практике выявить угрозы. Как это делать в случае с такими системами, как AI‑агенты? С чего начинать, что ожидать? Можно ли как-то автоматизировать процесс? Спикеры расскажут об опыте Сбера в этой деятельности, поделятся своей методологией, начиная от описания угроз и продолжая стратегией тестирования. Будут разобраны несколько кейсов тестирования. И когда тестирование было успешно завершено, авторы доклада описали способы и лучшие практики по митигации выявленных угроз. В этом докладе столкнутся опыт корпоративной информационной безопасности и самая динамичная область ИИ на сегодняшний день. Спикеры предлагают посмотреть, что из этого в итоге получилось