RAG - Conversando com seus dados

GenAI para todo lado! Muito se fala sobre o tema, mas se você quer implementar na prática aplicações que realmente possam ser usadas e gerem valor é necessário aprofundar seus conhecimentos em alguns métodos e técnicas. Nesse espirito que começamos a temporada 2024 no TensorFlow User Group SP falando sobre RAG.

Retrieval Augmented Generation (RAG), em uma tradução livre geração aumentada de recuperação, tornou-se um métodos popular para aprimorar LLMs em tarefas específicas, combinando recuperação de informações com geração de texto. Ele permite o ajustes e a modificação eficiente do conhecimento interno da aplicação sem a necessidade de retreinar todo o modelo. O RAG recupera documentos relevantes, concatena-os com um prompt de entrada e alimenta o contexto para um gerador de texto para a saída final. O método se destaca em vários benchmarks, gerando respostas mais factuais, específicas e diversas.