Gen AI: Einführung in die Welt der Large Language Models (LLMs)

Wie sich generative KI datenschutzkonform ins Unternehmen integrieren lassen, stellt Simon Krannig, Data Scientist bei Adacor, vor. Erfahren Sie, wie sich Large Language Models wie ChatGPT oder Open-Source-Modelle mit eigenen Datenquellen verbinden lassen, um Ihrem Unternehmen intelligente Analysen und präzise Antworten aus Ihren eigenen Datenbeständen zu ermöglichen. LLMs auf Azure selber zu hosten ist nicht kompliziert und sie lassen sich darüber hinaus mit eigenen Daten an eine Knowledge-Base anbinden.
00:00 Intro
02:55 Einführung in Large Language Models: Was sind LLMs und welche Open Source Alternativen gibt es zu ChatGPT?
05:09 Was sind LLMs überhaupt?
12:16 Anwendungs-möglichkeiten eines LLMs
16:12 Herausforderungen von LLMs: Am Ball bleiben, Datensicherheit, Integration, Modellqualität, Fallstricke im Lizenz-Dschungel, Entwicklungskosten
21:07 SaaS und Open Source: Welche Modelle können ChatGPT ersetzen?
25:12 Demo eines Knowledge Retrieval und Answering System
27:20 Welche Technologien werden hierfür eingesetzt?
33:43 Drei Beispiele einer Anwendung für die semantische Suche im Scope trainierter Daten
40:02 Angebotsvorstellung zur Umsetzung eines Proof of Concepts für ein selbst gehostetes LLM