LMstudio как замена ChatGPT: Saiga Mistral, LLama и другие локальные LLM

Новые видео, статьи и полезности в Telegram: https://t.me/+AvtWabJB1ms5NmE6

Скрипты для подключения к локальному серверу + инструкция по их запуску: https://boosty.to/morinad/posts/3c3f2...

Наши курсы:
1) Основы Power BI (бесплатный курс): https://directprorf.ru/basics?utm_sou...
2) Power BI для рекламных отчётов: https://directprorf.ru/powerbi?utm_so...
3) Из API в Excel и Power BI + коннекторы: https://directprorf.ru/excel?utm_sour...
4) Коннекторы для Маркетплейсов: https://directprorf.ru/marketplaces?u...
5) Продвинутый Power Query: https://directprorf.ru/pro?utm_source...
6) Создание коннекторов в Power Query: https://directprorf.ru/connectors?utm...

Все коннекторы mez для Power BI и консультации по ним
доступны на Boosty по подписке "ПРО": https://boosty.to/morinad/posts/eb9b9...

Таймкоды:
0:00 - Что делать если вы не хотите работать с ChatGPT?
0:25 - LM studio - удобный инструмент для тестирования LLM
1:10 - Интерфейс LMstudio
1:35 - Удобный поиск больших языковых моделей
2:41 - Quantization - как выбрать и скачать подходящую версию
4:10 - ChatGPT внутри LMstudio
5:07 - Разворачиваем локальный сервер для своих программ
5:54 - Как програмно обратиться к локальной модели
6:45 - Тестируем Saiga Mistral на примере SQL
7:57 - Сравниваем Saiga с ChatGPT
8:20 - Просим Saiga Mistral и ChatGPT написать 3 слогана
9:50 - История про бизнес-коуча от LLM
10:30 - Проблемы со скоростью в локальных LLM
12:08 - Работа с Llama - проблема с русским языком
12:37 - Таймаут ожидания в функциях обращения к local LLM
13:06 - Функция Power Query для обращения к локальной модели
14:04 - Итоги: мне не понравилась ни одна opensource модель
14:57 - Модели от крупных компаний пока выигрывают у opensource моделей


Другие интересные видео:
Запрос к API GPT3 и ChatGPT:    • Запрос к API GPT3 и ChatGPT на Python...  
API ChatGPT пишет код сайта:    • API ChatGPT создаёт сайт на HTML и CS...  
Подключение к API на Python и PQ:    • Подключение к API на Python и Power Q...  
Телеграм-бот на базе Power BI:    • Телеграм-бот на базе Power BI и Direc...