Скачать или смотреть Панельная дискуссия: Почему и как AIVSS

Эта экспертная группа исследует критическую необходимость систем оценки уязвимостей ИИ в агентских средах. Участники дискуссии изучат, как концепции уязвимостей трансформируются при работе с агентскими системами ИИ, выявляя новые типы сбоев и модели поведения, которые можно квалифицировать как уязвимости. В ходе дискуссии будут рассмотрены причины недостаточности традиционных фреймворков, таких как CVSS, для оценки рисков, связанных с агентским ИИ, а также новые аспекты, необходимые для определения характера сбоев агентов. В ходе дискуссии будут рассмотрены основные векторы угроз, уникальные для агентских систем, развивающиеся подходы Red Teaming для динамических агентов, использующих инструменты, и роль сообщества разработчиков ПО с открытым исходным кодом в разработке общих таксономий, систем оценки и фреймворков тестирования.

Подпишитесь на Zenity Labs, чтобы быть в курсе самых актуальных исследований о состоянии и будущем безопасности агентов.

https://labs.zenity.io/