Скачать или смотреть Самая большая угроза для агентов искусственного интеллекта (совместно с Исмаилом Пеласейедом)

Исмаил Пеласейед из Superagent снова в программе Agents Hour, и на этот раз он говорит о том, о чём большинство разработчиков ещё не задумываются — атаках на ИИ-агентов с использованием цепочки поставок. Защитные механизмы предохраняют от действий, которые вы задаёте своему агенту. Но как насчёт всего, что ваш агент читает, загружает и устанавливает самостоятельно? Именно эту проблему призван решить Brin.

Brin — это бесплатный, открытый сервис оценки контекста агента. Прежде чем ваш агент начнет действовать с внешним пакетом, сервером MCP, навыком или веб-страницей, Brin оценивает его — идентификацию, поведение и контент — и возвращает вердикт менее чем за 10 мс. Никакой регистрации, никакой аутентификации, один GET-запрос.

Исмаил подробно рассказывает о том, как атаки на цепочку поставок работают в производственной среде, о трёхуровневой модели оценки, лежащей в основе Brin, о том, как инцидент с Cline NPM иллюстрирует эту проблему, и почему защита контекста, а не агента, является правильной моделью мышления.

«AI Agents Hour» — это еженедельная прямая трансляция, которую ведут директор по продуктам Mastra Шейн Томас и технический директор Абхи Айер. Выходит по понедельникам в 12:00 по тихоокеанскому времени на YouTube и X. В программе освещаются последние новости в области ИИ, методы разработки агентов, а также представлены интервью с экспертами отрасли, создающими современные приложения ИИ.


🔗 ПОСМОТРИТЕ BRIN
Brin: https://brin.sh/
Документация Brin: https://brin.sh/docs
GitHub Brin: https://github.com/superagent-ai/brin
Superagent: https://superagent.sh
Superagent на X: https://x.com/superagent_ai
https://x.com/pelaseyed

📚 РЕСУРСЫ MASTRA
Mastra: https://mastra.ai
Mastra на X: https://x.com/mastra_ai
Discord Mastra: https://mastra.ai/community/discord
GitHub Mastra: https://github.com/mastra-ai
Изучите Mastra на первом в мире курсе на основе MCP: https://mastra.ai/course
Принципы создания агентов ИИ (книга): https://mastra.ai/books/principles-of...
Шаблоны для создания ИИ-агентов (новая книга): https://mastra.ai/books/patterns-of-b...

MASTRA?
Mastra — это фреймворк с открытым исходным кодом на TypeScript, разработанный для создания и распространения приложений и агентов на основе ИИ с минимальными сложностями. Он поддерживает полный жизненный цикл разработки агентов — от прототипа до производства. Вы можете интегрировать его с фронтенд- и бэкенд-стеками (например, React, Next.js, Node) или запускать агентов как автономные сервисы. Если вы разработчик на JavaScript или TypeScript, желающий создать продукт на основе агентов или ИИ, не начиная с нуля, Mastra предоставляет основу, инструменты и интеграции для ускорения этого процесса.


00:00 — От защитных механизмов до атак на цепочку поставок
03:32 — Представляем Brin: кредитный рейтинг для контекста агента
05:14 — Как интегрировать Brin в ваш агент
07:17 — Трехуровневая модель оценки
10:50 — Что ждет безопасность агентов в будущем