ID: 75293

RAG für Entwickler: Eigene Daten in LLM-Anwendungen integrieren

In zwei Tagen zur eigenen Retrieval-Pipeline – mit Quellenangaben, Rechten und messbarer Qualität

Jetzt unverbindliches Angebot einholen

Fragen Sie die nächsten freien Termine für dieses Seminar an.
Wir führen dieses Seminar monatlich durch.

Übersicht

Ein Sprachmodell kennt die halbe Welt, aber nicht euer Angebotsarchiv, euer Handbuch und die Entscheidung von vorletzter Woche. Retrieval-Augmented Generation schließt genau diese Lücke – wenn die Pipeline davor stimmt. In zwei Tagen baust du eine durchgängige RAG-Anwendung: Dokumente einlesen und aufbereiten, Embeddings und Vektordatenbank auswählen, semantisch und hybrid suchen, Kontext zusammenstellen und Antworten mit belastbaren Quellenangaben erzeugen. Am zweiten Tag geht es um das, was ein Prototyp von einem Produkt trennt: Reranking, getrennte Evaluation von Retrieval und Antworttreue, Zugriffsrechte und der Umgang mit gelöschten Dokumenten. Du arbeitest an eigenen Daten, denn Chunking-Probleme und Fehltreffer zeigen sich erst dort. Am Ende nimmst du einen funktionsfähigen Prototyp mit – und die Fähigkeit, jede Verbesserung daran zu messen statt zu behaupten.

Wünschst du ein Inhouse Seminar?

Tag 1: Daten erschließen und eine RAG-Pipeline entwickeln

RAG-Architektur verstehen

  • Das Zusammenspiel von Datenquellen, Retrieval und Sprachmodell im Überblick
  • Wo im Ablauf Qualität entsteht – und wo sie typischerweise verloren geht

Dokumente aufbereiten

  • Einlesen und parsen: PDF, Office-Dateien, HTML und ihre jeweiligen Tücken
  • Metadaten mitführen, damit du später filtern und Quellen benennen kannst
  • Chunking-Strategien im Vergleich und ihre Wirkung auf die Trefferqualität

Suche aufbauen

  • Embedding-Modelle auswählen: Sprache, Domäne, Kosten und Dimensionen
  • Vektordatenbanken vergleichen und zur eigenen Infrastruktur passend wählen
  • Semantische und hybride Suche umsetzen und die Unterschiede sichtbar machen

Antworten erzeugen

  • Kontext zusammenstellen: Reihenfolge, Länge und was du besser weglässt
  • Antworten mit Quellenangaben erzeugen, die Nutzer wirklich prüfen können

Praxis

  • Eine durchgängige RAG-Anwendung mit eigenen Dokumenten aufbauen

Tag 2: Qualität verbessern und den Betrieb vorbereiten

Retrieval optimieren

  • Filter, Query-Rewriting und Reranking gezielt einsetzen
  • Welcher Hebel bei welchem Fehlerbild wirkt – und welcher nur Latenz kostet

Qualität messen statt vermuten

  • Retrieval-Qualität und Antworttreue getrennt evaluieren
  • Testfälle und Kennzahlen aufbauen, die Verbesserungen belegen
  • Fehler analysieren: fehlende Treffer, falscher Kontext und unbelegte Antworten

Sicherheit und Rechte

  • Zugriffsrechte bis ins Retrieval durchziehen statt erst in der Oberfläche
  • Sensible Daten erkennen und Prompt Injection über Dokumente berücksichtigen

Den Index aktuell halten

  • Dokumentänderungen, Löschungen und Indexaktualisierungen verarbeiten
  • Warum ein gelöschtes Dokument ohne Plan weiter Antworten liefert

Praxis

  • Die Anwendung testen und hinsichtlich Qualität, Kosten und Latenz verbessern
  • Entwickler:innen, die eigene Wissensquellen an Sprachmodelle anbinden und die Antwortqualität verantworten.
  • Data Engineers, die Dokumentenbestände so aufbereiten müssen, dass ein Retrieval damit zuverlässig arbeitet.
  • Softwarearchitekt:innen, die RAG in bestehende Systeme integrieren und dabei Rechte und Compliance mitdenken.
  • Voraussetzung: Grundkenntnisse in Python, APIs und im Umgang mit LLMs.

Dein Nutzen

Eine Pipeline, die du selbst baust

Du kannst eine RAG-Pipeline eigenständig entwickeln – von der Dokumentenaufbereitung über das Retrieval bis zur Antwort mit Quellenangabe.

Fehler gezielt finden statt raten

Du untersuchst typische Fehlerbilder systematisch und bewertest Verbesserungen messbar, weil du Retrieval-Qualität und Antworttreue getrennt evaluierst.

Sicher in bestehende Systeme integrieren

Du nimmst einen funktionsfähigen Prototyp sowie konkrete Ansätze für Zugriffsrechte, sensible Daten und Indexaktualisierung mit – die Punkte, an denen RAG-Projekte im Unternehmen sonst hängen bleiben.

Häufige Fragen zum Seminar

Du solltest Python lesen und schreiben können, mit APIs gearbeitet haben und schon einmal ein Sprachmodell angesprochen haben. Vektordatenbanken, Embeddings und Reranking erarbeiten wir im Seminar von Grund auf – Vorerfahrung damit ist nicht nötig. Wenn du RAG konzeptionell verstehen willst, ohne selbst zu programmieren, passt „LLMs verstehen und gezielt einsetzen“ besser.
Ja, und du solltest es tun. An Beispieldaten funktioniert fast jede Pipeline; an echten Angebotsarchiven, gescannten Handbüchern und gewachsenen Ablagen zeigen sich die eigentlichen Probleme: zerschossene Tabellen, fehlende Metadaten, Dubletten und Dokumente, die niemand sehen dürfte. Bring Material mit, das du verwenden darfst. Für vertrauliche Inhalte klären wir vorab eine lokale Variante.
Indem du zwei Fragen getrennt beantwortest: Hat das Retrieval die richtigen Stellen gefunden, und hält sich die Antwort an das Gefundene? Beides braucht eigene Testfälle und Kennzahlen. Genau das baust du an Tag 2 auf, inklusive der typischen Fehlerbilder – fehlende Treffer, falscher Kontext und unbelegte Antworten. Erst damit lässt sich sagen, ob eine Änderung an Chunking oder Reranking tatsächlich etwas verbessert hat.
Indem du zwei Fragen getrennt beantwortest: Hat das Retrieval die richtigen Stellen gefunden, und hält sich die Antwort an das Gefundene? Beides braucht eigene Testfälle und Kennzahlen. Genau das baust du an Tag 2 auf, inklusive der typischen Fehlerbilder – fehlende Treffer, falscher Kontext und unbelegte Antworten. Erst damit lässt sich sagen, ob eine Änderung an Chunking oder Reranking tatsächlich etwas verbessert hat.
Indem die Rechteprüfung ins Retrieval wandert und nicht erst in die Oberfläche. Filtert man Treffer erst nach der Suche, landen vertrauliche Inhalte schon im Kontext des Modells – und von dort in der Antwort. Wir ziehen Berechtigungen über Metadaten bis in die Suche durch und behandeln Prompt Injection über manipulierte Dokumente, einen Angriffsweg, der bei RAG-Systemen oft übersehen wird.
Ohne Plan antwortet dein System weiter aus Inhalten, die es nicht mehr geben dürfte – ein Problem, das in Prototypen nie auffällt und im Betrieb regelmäßig für Ärger sorgt. Wir behandeln Änderungen, Löschungen und Indexaktualisierungen als festen Bestandteil der Architektur: Wann reindexierst du vollständig, wann inkrementell, und wie stellst du sicher, dass eine Löschung auch im Vektorindex ankommt.

Deine Frage war nicht dabei?

Du möchtest dieses Seminar als Inhouse Seminar buchen?

Nach oben scrollen