ID: 75241

Open-Source- & lokale LLMs: Datensouverän mit Llama, Mistral und eigenen Modellen arbeiten

Wie du KI im Haus betreibst, ohne sensible Daten aus der Hand zu geben

Jetzt unverbindliches Angebot einholen

Fragen Sie die nächsten freien Termine für dieses Seminar an.
Wir führen dieses Seminar monatlich durch.

Übersicht

Nicht jedes Unternehmen darf oder will sensible Daten an externe KI-Dienste schicken. Open-Source- und lokal betriebene Sprachmodelle wie Llama und Mistral bieten eine Alternative: leistungsfähige KI, die im eigenen Haus läuft. Dieses zweitägige Training zeigt, wie du datensouveräne KI verstehst, bewertest und einsetzt. Während kommerzielle KI-Dienste bequem sind, verlangen Datenschutz, Compliance und Souveränität in vielen Fällen eine Alternative. Open-Source-Modelle haben enorm aufgeholt und lassen sich lokal oder in der eigenen Infrastruktur betreiben – ohne dass Daten das Unternehmen verlassen. Dieses Training vermittelt, wie datensouveräne KI funktioniert und wann sie die richtige Wahl ist. Du lernst die Landschaft offener Modelle kennen, verstehst Betrieb und Anforderungen, vergleichst lokale mit cloudbasierten Ansätzen und lernst, Leistung, Kosten und Datenschutz abzuwägen. Du verlässt die zwei Tage mit einem fundierten Bild und einem Vorgehen für den souveränen KI-Einsatz.

Wünschst du ein Inhouse Seminar?

Datensouveräne KI verstehen

  • Das Spannungsfeld: Komfort gegen Datenschutz und Souveränität
  • Open-Source-LLMs: Was sie sind und wie weit sie sind
  • Lokal vs. Cloud: Die grundlegenden Betriebsmodelle
  • Anwendungsfälle: Wann sich datensouveräne KI lohnt
  • Realismus: Stärken und Grenzen offener Modelle

Die Modelllandschaft

  • Wichtige Modelle: Llama, Mistral und weitere im Überblick
  • Modellgrößen: Was kleinere und größere Modelle leisten
  • Lizenzen: Was offene Modelle wirklich erlauben
  • Auswahl: Das passende Modell für den Zweck
  • Entwicklung: Wie schnell sich die Landschaft verändert

Betrieb und Infrastruktur

  • Hardware: Was der lokale Betrieb voraussetzt
  • Betriebsumgebungen: Vom Laptop bis zum eigenen Server
  • Werkzeuge: Tools für den lokalen Modellbetrieb
  • Performance: Geschwindigkeit und Ressourcen abwägen
  • Skalierung: Vom Einzelplatz zur Unternehmenslösung

Modelle anpassen und nutzen

  • Prompting: Offene Modelle effektiv steuern
  • Anbindung: Modelle in Anwendungen integrieren
  • RAG mit offenen Modellen: Eigenes Wissen nutzbar machen
  • Anpassung: Wann sich Spezialisierung lohnt
  • Qualität: Ergebnisse offener Modelle einordnen

Datenschutz, Sicherheit und Compliance

  • Datensouveränität: Warum lokale Modelle Datenschutz erleichtern
  • DSGVO: Vorteile und Pflichten beim Eigenbetrieb
  • Sicherheit: Eigene Modelle absichern
  • Compliance: Regulatorische Anforderungen erfüllen
  • Risiken: Was auch bei offenen Modellen zu beachten ist

Entscheidung und Aktionsplan

  • Make-or-Buy: Offene Modelle vs. kommerzielle Dienste
  • Kostenvergleich: Eigenbetrieb realistisch kalkulieren
  • Use-Case-Auswahl: Womit du sinnvoll startest
  • Team und Verantwortung: Wer betreibt und verantwortet
  • Dein Aktionsplan: Der Einstieg in datensouveräne KI
  • IT- und Infrastrukturverantwortliche, die KI im eigenen Haus betreiben und sensible Daten nicht an externe Dienste geben wollen.
  • Datenschutz- und Compliance-Verantwortliche, die datensouveräne KI-Lösungen bewerten und verantworten müssen.
  • Entwickler:innen und KI-Verantwortliche, die offene Modelle einsetzen, anpassen und in Anwendungen integrieren möchten.
  • Entscheider:innen in regulierten Branchen, die KI nutzen wollen, ohne Datenschutz und Souveränität zu gefährden.

Dein Nutzen

KI ohne Datenabfluss

Du lernst, leistungsfähige KI im eigenen Haus zu betreiben – damit sensible Daten das Unternehmen nicht verlassen und Datenschutz wie Souveränität gewahrt bleiben.

Fundierte Modellauswahl

Die Landschaft offener Modelle ist unübersichtlich. Du lernst, Llama, Mistral und Co. einzuordnen und das passende Modell für deinen Zweck zu wählen.

Realistische Entscheidungsgrundlage

Du lernst, Leistung, Kosten und Aufwand offener Modelle gegen kommerzielle Dienste abzuwägen – und triffst die Make-or-Buy-Entscheidung fundiert.

Häufige Fragen zum Seminar

Das hängt vom Modell und Einsatz ab. Kleinere Modelle laufen schon auf gängiger Hardware. Wir behandeln die Anforderungen vom Laptop bis zum Server.
In der Regel ja, weil Daten das Haus nicht verlassen. Wir behandeln aber auch die Pflichten und Sicherheitsfragen, die beim Eigenbetrieb entstehen.
Technisches Verständnis ist hilfreich. Wir vermitteln Betrieb und Auswahl so, dass auch technisch interessierte Verantwortliche fundiert mitentscheiden können.
Technisches Verständnis ist hilfreich. Wir vermitteln Betrieb und Auswahl so, dass auch technisch interessierte Verantwortliche fundiert mitentscheiden können.
Ja. Wir behandeln RAG mit offenen Modellen, sodass du eigenes Firmenwissen datensouverän nutzbar machst.
Das hängt vom Anwendungsfall ab. Wir kalkulieren den Eigenbetrieb realistisch und vergleichen ihn mit kommerziellen Diensten.

Deine Frage war nicht dabei?

Du möchtest dieses Seminar als Inhouse Seminar buchen?

Nach oben scrollen