Villámgyors kérdezz-felelek magyarul a saját adatainkkal a Groq segítségével. Bármilyen számítógépen

A sorozat 4. részében megnézzük hogyan lehet az N8N segítségével felépíteni egy olyan munkafolyamatot amivel a saját gépünkön található magyar nyelvű dokumentumokkal tudunk magyar nyelven beszélgetni villámgyors sebességgel. A Groq használatának köszönhetően mindegy milyen a számítógépünk mivel a nagy nyelvi modell egy távoli szerveren fut ingyenesen.
Szükséges hozzávalók: N8N, Qdrant, Groq

Legyél Te is Tagja az Mp3Pintyo csatornának *
   / @mp3pintyo  

** DISCORD**
Mp3Pintyo szerver:   / discord  

** Támogatás **
Patreon:   / mp3pintyo  

** Linkek **
Self-hosted AI starter kit módosított: https://github.com/coleam00/ai-agents...
Self-hosted AI starter kit eredeti: https://github.com/n8n-io/self-hosted...
n8n Blog bejelentés: https://blog.n8n.io/self-hosted-ai/
Docker desktop: https://www.docker.com/products/docke...
Git: https://git-scm.com/downloads
Python: https://www.python.org/downloads/
PostgreSQL: https://www.postgresql.org/download/w...
AI futtatás lokálisan 1. rész:    • Futtassunk MINDEN AI-t helyben, perce...  
BGE-M3 embedding: https://ollama.com/library/bge-m3
groq: https://groq.com/
groq sebesség: https://artificialanalysis.ai/provide...
groq API kulcs: https://console.groq.com/keys

A Groq egy mesterséges intelligencia megoldásokkal foglalkozó vállalat, amely kifejezetten a nagy nyelvi modellek (LLM-ek) gyors és hatékony futtatására specializálódott. Ha Ön vagy nézői olyan nagy nyelvi modelleket szeretnének kipróbálni, amelyeket a saját gépükön nem tudnak futtatni, a Groq szolgáltatásai jelentős előnyöket kínálnak.

Miért érdemes a Groq-ot használni nagy nyelvi modellek futtatásához?

Kiemelkedő sebesség és teljesítmény: A Groq saját fejlesztésű Language Processing Unit (LPU) rendszere révén rendkívül gyors következtetési sebességet ér el. Például a Meta Llama2-70B modelljével másodpercenként 253 token feldolgozására képes, mindössze 0,3 másodperces késleltetéssel.
Wikipedia

Skálázhatóság és energiahatékonyság: A Groq technológiája lehetővé teszi a nagy nyelvi modellek hatékony futtatását anélkül, hogy jelentős energiafogyasztással vagy hardverigénnyel járna, ami különösen fontos a nagy méretű modellek esetében.
Unite

Egyszerű integráció: A Groq szolgáltatásai könnyen integrálhatók meglévő fejlesztési környezetekbe, lehetővé téve a gyors átállást más szolgáltatókról, például az OpenAI-ról, mindössze néhány kódsor módosításával.

Nyílt forráskódú modellek támogatása: A Groq számos nyílt forráskódú modellt támogat, mint például a Llama, Mixtral és Gemma, lehetővé téve a felhhogy a legújabb és legjobb teljesítményű modelleket használják projektjeikben.

** BUYING MY ARTS **
► https://www.etsy.com/shop/mp3pintyo
► https://stock.adobe.com/contributor/2...
** STAY ACTIVE FOR A FOLLOW **
►TWITTER:   / mp3pintyo  
►INSTAGRAM:   / mp3pintyo  
►PINTEREST:   / mp3pintyo  
►SOUNDCLOUD:   / mp3pintyo  

#n8n #ai #automation #aiframework #techinnovation #aiprogramming #softwaredevelopment #mp3pintyo #nocodeai #aifordevelopers #techupdates #artificialintelligence #deepl

Additional Tags:
N8N, AI Agent Framework, No-Code AI, AI Software Engineer, Task Automation, Autonomous AI, AI for Developers, Build Full-Stack Apps, AI for Business, Technology Innovations, AI-powered Software, AI Automation, Tech Updates, Programming, Software Engineering