Скачать или смотреть AI Red Teaming — Зачем и как делать джейлбрейк агентов LLM | Алекс Комбесси, Жискар Л. Следующая ...

🎥 Запись прямой трансляции с конференции MLOps World | GenAI Summit 2025 — Остин, Техас (9 октября 2025 г.)

Название сессии: AI Red Teaming: зачем и как делать джейлбрейк агентов LLM
Докладчик: Алекс Комбесси, соучредитель и согенеральный директор компании Giskard

Аннотация:
По мере того, как ИИ-агенты становятся более эффективными, они также становятся более уязвимыми. В этой сессии Алекс Комбесси из компании Giskard рассматривает, как адаптивные многоходовые атаки могут делать джейлбрейк агентов LLM, и как защититься от них.

В этом докладе будут представлены основы AI Red Teaming, а также показано, как злоумышленники используют согласованность диалога и краткосрочный контекст для манипулирования моделями. Участники узнают, почему статического разового тестирования уже недостаточно, и как непрерывное автоматизированное взаимодействие с мониторингом «человек-в-контуре» (HITL) позволяет выявлять и нейтрализовывать возникающие угрозы безопасности до того, как они попадут в эксплуатацию.

Что вы узнаете:
• Как адаптивные многоходовые атаки компрометируют ИИ-агентов
• Почему статическое взаимодействие неэффективно в борьбе с меняющимися угрозами
• Как злоумышленники используют зависимость LLM от контекста и хода разговора
• Практические стратегии непрерывного взаимодействия с «человеком-в-контуре» и автоматизированного обнаружения угроз
• Как интегрировать контроль HITL для обеспечения надежной безопасности ИИ

📍 Запись: 9 октября 2025 г. — Очная сессия, MLOps World | GenAI Summit 2025, Остин, Техас
🔗 Узнайте больше: https://mlopsworld.com

#MLOpsWorld #GenAISummit #Giskard #AlexCombessie #AIinProduction #AIsecurity #RedTeaming #AgenticAI #LLMOps #AItrustworthiness #MLOps #TheNextWaveofAI #GenAI #AIAgents #CyberAI #AICommunity