Effizientes Abfragen von Informationen – Teil I

Verlieren Sie täglich zu viel Zeit mit der Suche nach Informationen in PDFs, Ordnerstrukturen oder internen Dokumentationen? Klassische KI-Chatbots stoßen hier schnell an Grenzen, entweder weil sie keinen Zugriff auf Ihre Daten haben oder weil sensible Inhalte an externe Anbieter weitergegeben werden müssten.

In Teil I dieser vierteiligen Workshopreihe lernen Sie, wie Sie ein lokales, datensicheres System auf Ihrem Laptop aufsetzen. Dieses System ermöglicht es, gezielt Informationen aus Ihren eigenen Dokumenten abzurufen und daraus kontextbezogene, nachvollziehbare Antworten zu generieren, ohne Ihre Daten mit Drittanbietern zu teilen.

Typische Anwendungsfälle sind interne Wissensdatenbanken, Richtlinien oder Projektdokumentationen.

Ein sogenanntes Retrieval-Augmented-Generation-System (RAG-System) kann Antworten auf Grundlage Ihrer Daten generieren. Im Workshop lernen Sie die grundlegenden Bausteine kennen: lokale, große Sprachmodelle (engl. Large Language Model, LLM), Embeddings und Vektordatenbanken. Danach verstehen Sie, wie RAG funktioniert, welche Vorteile es gegenüber reinen LLM-Abfragen bietet und wie Sie einschätzen können, ob RAG für Ihre Daten und Anwendungsfälle geeignet ist.

Im praktischen Teil des Workshops installieren Sie eine vollständige Minimalversion eines RAG-Systems:

· Lokales LLM (CPU oder GPU-beschleunigt), gehostet mit vLLM

· Einfache Vektordatenbank basierend auf Qdrant

· Beispieldokumente, die mit verschiedenen Embedding-Modellen indexiert werden

· Retrieval mit verschiedenen Techniken der semantischen Suche

· Generierung von Antworten basierend auf den gefundenen Informationen und Ihren eigenen Prompts

Sie lernen die Grundlagen von semantischen Vektoren kennen (z. B. Abstandsmaße wie Cosine Similarity) sowie verschiedene Open-Source-Modelle. Fortgeschrittene Konzepte wie Graph RAG oder HNSW werden konzeptuell eingeordnet, aber noch nicht vertieft.

👉 Dieser Workshop legt das Fundament für .
Nach dem Workshop verfügen Sie über ein lauffähiges, lokales RAG-System und wissen, wie Sie es auf eigene Daten übertragen.

Voraussetzungen

Erfahrung mit Python, GitHub und Docker
oder
die Bearbeitung unseres Getting-Started-Guides
oder
unser Grundlagenworkshop „Erste Schritte zu Ihrer eigenen KI-Anwendung“.

Anmeldung & Teilnahme

Die Anmeldung ist verbindlich. Sollten Sie verhindert sein, stornieren Sie bitte rechtzeitig Ihr Ticket, um anderen Interessierten eine Teilnahme zu ermöglichen.

Wichtige Informationen

Im Rahmen der Veranstaltung werden Foto-, Ton- und Filmaufnahmen gemacht. Mit Ihrer Teilnahme erklären Sie sich damit einverstanden, dass Foto-, Ton- und Filmaufnahmen, auf denen Sie zu erkennen sind, im Rahmen der Öffentlichkeitsarbeit des KI-Servicezentrums Berlin-Brandenburg sowie des HPIs veröffentlicht werden.

Das ist ein vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördertes Projekt am Hasso-Plattner-Institut. Sein Ziel ist es, die Barrieren für den Einsatz von KI in Wirtschaft und Gesellschaft zu senken.

Interessieren Sie sich für unser kostenloses Workshopangebot und andere Veranstaltungen, die wir anbieten? Dann melden Sie sich gerne für unseren an.

Know what’s Happening Next — before everyone else does.

Get App

Host or Publisher KI-Servicezentrum Berlin-Brandenburg @ HPI