Assistente de IA com VertexAI, Langchain, AstraDB Vector e RAG

Nesta sessão, veremos como utilizar conteúdo extraído do YouTube para gerar respostas e referências para usuários utilizando o Retrieval Augmented Generation com LLMs Vertex AI, da GCP, DataStax AstraDB Vector para vector search e Langchain.

A sessão será técnica, com bastante código e conceitos importantes para quem já tem bons conhecimentos na área!

00:00 Abertura
02:15 A DataStax
03:16 Agenda
04:06 DataStax Astra DB Vector
05:46 Arquitetura DataStax Astra
07:28 Vector Search
09:40 Embeddings
11:30 Índices HNSW e JVector/DiskANN
13:40 Criando um Vector DB no Astra
16:43 Explicando o caso do assistente de IA baseado no conteúdo de influencers do Youtube
18:15 Componentes de apps com IA Generativa
20:38 Desenvolvendo com o Astra DB
22:20 Retrieval Augmented Generation (RAG)
24:00 Porque Vector Search é importante
26:00 Fluxo da aplicação
28:14 Código no Jupyter
29:25 Extração do Youtube
31:40 Iniciando com o VertexAI e embeddings
33:10 Carregando embeddings com Astrapy
37:00 Busca semântica com Astrapy
38:00 Gerando prompts ampliados
42:00 Langchain, Vertex AI, Astra DB
47:30 Recapitulando

#RAG #LangChain #VertexAI #vectorsearch #llm