Создаём локального AI помощника в терминал на C# (Phi-3 model на CPU)

Создаём локального AI помощника себе в терминал, работающего прямо на CPU с помощью новой Phi-3 модели от Microsoft, анонсированной на последнем Microsoft Build 2024. Такая cli tool отлично подходит в качестве помощника как для опытных разработчиков, чтобы вспоминать забытые команды или особенности синтаксиса, так и новичкам, которые хотят изучить возможности терминала.

Подписывайтесь на Telegram, я там пишу много всего интересного:
➡️ https://t.me/geekinsideme

На кофе:
https://boosty.to/geekinsideme/donate

Cookbook по Ph-3:
https://github.com/microsoft/Phi-3Coo...
Коллекция Phi-3 на Huggingface:
https://huggingface.co/collections/mi...
Source code:
https://github.com/Geek-Inside/ask-ai...

0:00 Что такое SLM Phi-3
0:47 Берем примёр кода
1:43 Как использовать модель
3:20 Версии моделей Phi-3
3:53 Скачиваем модель
5:35 Пробуем запустить
6:26 Пишем cli tool
9:56 Добавляем AI память