Скачать или смотреть От теории к внедрению: создание масштабируемой многоагентной системы ответов на вопросы... Такеро...

Присоединяйтесь к нам на ведущей независимой от поставщиков конференции по открытому исходному коду, где разработчики и технологи собираются вместе, чтобы сотрудничать, обмениваться знаниями и изучать последние инновации и достижения в области технологий с открытым исходным кодом. Узнайте больше на https://events.linuxfoundation.org/

От теории к развертыванию: создание масштабируемых многоагентных систем ответов на вопросы — Такеро Цучия, Intel

В этом докладе рассматривается реализация Enterprise RAG, эффективно развернутой на ЦП. Используя модульную архитектуру Open Platform for Enterprise AI (OPEA) проекта LF, мы демонстрируем систему, в которой агент-супервизор координирует работу специализированных агентов-работников для бесперебойного извлечения и обработки информации из различных баз знаний. Мы подробно рассмотрим архитектуру и ее компоненты, сосредоточившись на том, как агент-работник RAG извлекает контекст из векторной базы данных, а агент-работник SQL извлекает структурированные данные из реляционной базы данных. В итоге участники получат готовый к внедрению в производство план развертывания масштабируемых многоагентных систем в облачной (AWS, GCP, Azure) или локальной среде.