Скачать или смотреть Сравнение CAG (Cache-Augmented Generation) и RAG (Retrieval-Augmented Generation)

Доклад посвящён новому методу CAG ― эффективному инструменту для улучшения генерации текста с использованием кеша, расширяющему возможности работы с данными. В рамках встречи Павел Силаенков, ML Engineer компании Mad Devs, анализирует свежую статью о CAG и подробно раскрывает ключевые темы:

🔲 В чём принципиальные отличия CAG и RAG
🔲 Основные идеи и принципы работы подхода CAG
🔲 Практические аспекты применения: наглядные примеры и рекомендации по интеграции метода в реальные задачи

Это видео будет полезно специалистам в области машинного обучения, разработчикам текстовых и диалоговых систем, а также всем, кто интересуется новыми подходами к качественной генерации данных.

Задавайте вопросы в комментариях и делитесь своим опытом!

ВНИМАНИЕ❗️
Запись начинается не с самого начала мероприятия. Часть вступления или начальной дискуссии может отсутствовать.

-------------------------------------------------------------------------------

ТАЙМ-КОДЫ
0:00 - 0:34 Обзор темы: кэширование в генеративных моделях и сравнение с RAG
0:34 - 1:15 Введение в Retrieval-Augmented Generation (RAG): подходы и особенности
1:15 - 3:04 Проблемы и недостатки системы RAG
3:04 - 5:10 Ключевая концепция кэширования знаний для LLM
5:10 - 7:14 Механизм работы кэширования в трансформерах
7:14 - 8:46 Преимущества использования кэширования по сравнению с альтернативами
8:46 - 10:35 Экспериментальные сравнения: кэширование против RAG
10:35 - 12:06 Технологическая реализация системы кэширования
12:06 - 17:07 Разбор реализации: нюансы кода и технические ограничения
17:07 - 17:24 Особенности подготовки кэшированных данных
17:24 - 18:41 Процесс подготовки документов для кэширования
18:41 - 19:18 Ограничения по размеру контекстного окна и их преодоление
19:18 - 20:51 Реализация функции обрезки результата (ран кейта)

-------------------------------------------------------------------------------

ССЫЛКИ 🔗
Telegram [Mad ML Talks] - https://t.me/MadML_Talks
Telegram [Mad Devs Channel] - https://t.me/maddevsio​
Facebook -   / maddevsllc  
Instagram -   / maddevsio  
X [ex.Twitter] - https://x.com/MadDevsIO

#machinelearning #ml #cacheaugmentedgeneration #retrievalaugmentedgeneration