KKC_0219 | GPT-OSS im Einsatz: OpenAI-Modelle verstehen

Dieses Seminar macht Sie handlungsfähig im Umgang mit OpenAI gpt-oss Modellen, wenn Sie sie nicht nur „ausprobieren“, sondern gezielt in Arbeitsabläufe integrieren möchten. Sie starten mit einer klaren Einordnung: Was bedeutet gpt-oss im Vergleich zu API-Modellen, welche Lizenz- und Betriebsfragen sind relevant und welche Erwartungen an Qualität, Kosten und Latenz sind realistisch. Danach gehen Sie in die Praxis der Laufzeit: Sie verstehen Inference-Grundlagen wie Tokenisierung, Kontextfenster und Sampling und lernen, welche Hardware- und Konfigurationsentscheidungen Performance und Stabilität bestimmen.

Im nächsten Schritt bauen Sie saubere Prompt-Strukturen auf, trennen System-, Developer- und User-Anweisungen und steuern Ausgaben so, dass sie zuverlässig weiterverarbeitet werden können, zum Beispiel als JSON. Sie lernen, wie Beispiele, Constraints und Guardrails die Ergebnisqualität erhöhen und wie Sie typische Fehlmuster früh erkennen. Ein zentraler Block ist RAG: Sie erarbeiten, wie Chunking, Embeddings und Retrieval zusammenspielen, wie Quellenangaben und Zitierbarkeit umgesetzt werden und wie Sie Halluzinationen messbar reduzieren.

Abschließend setzen Sie sich mit Tool-Use und Automatisierung auseinander und klären Sicherheits- und Governance-Themen wie Prompt-Injection, PII-Handling, Logging und Freigabeprozesse, damit aus einem PoC ein belastbarer Betrieb wird.

• Sie ordnen gpt-oss Modelle im Vergleich zu API-Modellen, Lizenzfragen, Betrieb, Qualität und Kosten ein.
• Sie verstehen Inference-Grundlagen wie Tokenisierung, Kontextfenster, Sampling und Laufzeitentscheidungen.
• Sie strukturieren System-, Developer- und User-Anweisungen sauber für reproduzierbare Ergebnisse.
• Sie steuern Ausgaben für Weiterverarbeitung, beispielsweise als JSON.
• Sie nutzen Beispiele, Constraints und Guardrails zur Verbesserung der Ergebnisqualität.
• Sie bauen RAG-Grundlagen mit Chunking, Embeddings, Retrieval, Quellenangaben und Zitierbarkeit auf.
• Sie berücksichtigen Tool-Use, Automatisierung, Prompt Injection, PII-Handling, Logging und Freigabeprozesse.

Das Seminar richtet sich an Entwickler/innen, IT-Architektinnen und IT-Architekten, Data- und KI-Teams, technische Projektleitungen und Entscheider/innen, die gpt-oss Modelle verantwortungsvoll bewerten, integrieren und betreiben möchten.

• Grundverständnis von Web-APIs oder Skripting ist hilfreich.
• Erfahrung mit Container- oder VM-Betrieb ist von Vorteil, aber nicht zwingend.

• Was „gpt-oss“ ist und wofür es taugt
  • Einordnung: OpenAI gpt-oss vs. API-Modelle
  • Lizenz, Gewichte, Grenzen, typische Einsatzfelder
  • Compute, Kosten, Latenz: realistische Erwartungen
• Setup und Laufzeit: lokal, VM, Container
  • Inference-Grundlagen: Token, Kontextfenster, Sampling
  • GPU/CPU-Optionen, Speicherbedarf, Performance-Hebel
  • Container-Patterns, Images, Konfiguration
• Prompting, System-Policies und Output-Steuerung
  • System-, Developer- und User-Prompt sauber trennen
  • Strukturierte Ausgaben: JSON, Tabellen, Templates
  • Qualität erhöhen: Beispiele, Constraints, Guardrails
• RAG-Grundlagen für Unternehmenswissen
  • Chunking, Embeddings, Retrieval-Strategien
  • Quellenangaben, Zitierbarkeit, Halluzinationen reduzieren
  • Bewertung: Recall, Precision, Antworttreue
• Tool-Use und Automatisierung
  • Funktionsaufrufe: wann sinnvoll, wann riskant
  • Workflows: Tickets, E-Mails, Wissenssuche, Reports
  • Fehlerfälle: Timeouts, Retries, deterministische Pfade
• Sicherheit, Datenschutz und Governance
  • Prompt-Injection, Data Exfiltration, Jailbreak-Muster
  • PII-Handling, Logging, Aufbewahrung, Zugriffskontrollen
  • Freigabeprozesse: vom PoC zur produktiven Nutzung