Приватный бесплатный чат на базе нейросети с твоими документами (RAG). Обзор и тестирование.

Самое полное руководство - как работать на своем компьютере с документами при помощи нейросети, без доступа к интернету и бесплатно. Рассмотрим три приложения, которые устанавливаются на компьютер и позволяют делать поиск и запросы по документам. Кратко рассмотрим, что такое генерация расширенного поиска (вариант RAG), как работают embending модели, для чего векторное хранилище и подробные иструкции по установке и тестированию.

chat4all
PrivateGPT
h2oChat

0:23 - chat4all, настройка работы с документами
02:30 - chat4all, тестируем работу с документами
03:16 - как работает поиск по документам, RAG, embending, vector store
05:02 - где брать инструкции (мой телеграм канал)
05:39 - PrivateGPT, обзор, настройка работы с документами
07:00 - PrivateGPT, установка
11:25 - PrivateGPT, итоги
12:50 - H2OChat, обзор, настройка работы с документами
16:43 - H2OChat, локальное использование и установка
17:40 - H2OChat, установка инсталером
18:30 - H2OChat, локальный запуск
20:37 - H2OChat, установка вручную
22:37 - H2OChat, тестирование
27:27 - общие выводы

телеграм канал - codokot