KKC_0051 | Large Language Models Advanced: Eigene LLMs und Tuning
LLM-Schulung für belastbare RAG-Systeme, Fine-Tuning, Guardrails und Betrieb mit messbarer Qualität
Infos zum Download
Vom Prototyp zur belastbaren Sprachmodell-Lösung
Dieses Seminar richtet sich an alle, die nach den LLM-Grundlagen den nächsten Schritt gehen wollen: weg von „funktioniert im Notebook“ hin zu „liefert verlässlich Ergebnisse im Betrieb“. Sie vertiefen zunächst die technischen Stellhebel, die Performance und Qualität bestimmen, darunter Tokenisierung, Kontextfenster, Inference-Optimierung (KV-Cache, Batching) und das Zusammenspiel aus System Prompt, Tool-Aufrufen und Policies. Der Kern ist der Aufbau robuster RAG-Pipelines.
Sie lernen, wie Chunking, Embeddings, Hybrid Search und Reranking zusammenwirken und wie Sie mit Quellenzitaten, Kontextbudget und Retrieval-Tuning Halluzinationen messbar reduzieren. Darauf aufbauend gehen Sie in Fine-Tuning-Strategien: Wann reicht Prompting, wann brauchen Sie SFT, und wann sind LoRA/QLoRA sinnvoll? Ein Schwerpunkt liegt auf Datenqualität, Rechten, PII-Handling und dem Vermeiden von Leakage.
Damit Sie fundiert entscheiden können, bauen Sie eine Evaluationslogik auf: Golden Sets, Rubrics, Paarvergleiche sowie LLM-as-a-Judge inklusive typischer Fehlerbilder und Kalibrierung. Abschließend härten Sie Ihr System mit Guardrails gegen Prompt Injection, Output-Validierung (z. B.
JSON-Schema) und sinnvollem Logging, Redaction und Monitoring. Sie gehen mit einem praxistauglichen Blueprint nach Hause, der sich in Ihr Produkt- oder Prozesslandschaft übertragen lassen.
AngebotszielLarge Language Models Advanced: Eigene LLMs und Tuning
- Technische Stellhebel für Qualität, Performance und Stabilität von LLMs einordnen
- RAG-Pipelines mit Chunking, Embeddings, Hybrid Search und Reranking planen
- Prompting, SFT, LoRA und QLoRA anhand konkreter Anforderungen vergleichen
- Datenqualität, Rechte, PII-Handling und Leakage-Risiken berücksichtigen
- Evaluationen mit Golden Sets, Rubrics und Paarvergleichen aufbauen
- Guardrails, Output-Validierung, Logging und Monitoring einsetzen
- Einen Blueprint für produktionsnahe LLM-Systeme entwickeln
ZielgruppeLarge Language Models Advanced: Eigene LLMs und Tuning
Das Seminar richtet sich an Entwickler/innen, Data Scientists, KI-Engineer/innen, technische Projektverantwortliche und Architekt/innen mit ersten Erfahrungen im LLM-Umfeld.
VoraussetzungenLarge Language Models Advanced: Eigene LLMs und Tuning
Vorausgesetzt werden grundlegende Kenntnisse zu KI, Datenverarbeitung oder Softwareentwicklung. Erfahrungen mit LLMs, Python oder APIs sind empfehlenswert.
InhalteLarge Language Models Advanced: Eigene LLMs und Tuning
- Eigene LLMs trainieren (Wie entsteht ein LLM?)
- Ablauf zum Verständnis der Funktionsweise
- Vor- und Nachteile eines eigenen LLMs
- Trainings-Daten
- Anforderungen an Hardware, Daten etc.
- Software-Stack
- MosaicML
- Architektur, Parameter…
- Hugging faces parquet Daten (Training)
- Databricks
- Transformer
- Tokenizer
- Fine-Tuning
- Model Evaluierung und Deployment..
- Fine-Tuning und Alignment für eigene Use Cases
- Datensätze: Qualität, Leakage, Rechte, PII-Handling
- SFT vs. LoRA/QLoRA, Hyperparameter, Overfitting
- Preference-Daten, DPO-Grundidee, Safety-Trade-offs
- Evaluation, die Entscheidungen ermöglicht
- Offline-Eval: Golden Sets, Rubrics, Paarvergleiche
- LLM-as-a-Judge: Risiken, Kalibrierung, Bias
- Online-Eval: A/B, Canary, Feedback-Loops
- Guardrails, Security und Compliance
- Prompt Injection, Data Exfiltration, Tool Misuse
- Output-Validation: JSON-Schema, Policies, Moderation
- Logging, Redaction, Auditability, DSGVO-Basics
- Produktionsnahe Umsetzung
- Serving-Optionen: API, vLLM-Ansatz, Quantisierung
- Kostensteuerung: Caching, Routing, Model-Mix
- Monitoring: Drift, Quality, Latency, Token-Kosten
BildungspfadLarge Language Models Advanced: Eigene LLMs und Tuning
- LLM Self-Hosting und Deployment
- Llama-Modelle im Vergleich: Nutzen statt Hype
- Kimi K2.5: OpenSource LLM sofort produktiv
- Python Deep-Dive Kurs: Deep Learning, Neuronale Netze & Visualisierung
- Python Machine Learning Grundkurs: Professioneller Einstieg
- Large Language Model Grundkurs: Einsatz und Überblick
- Python Einstieg mit Machine Learning: Grundkurs
- Large Language Model Strategie: Alles für Entscheider
- Open-Source-LLMs lokal betreiben: Grundkurs
- Neo4j Graph-Datenbanken für KI
- LLM-Evaluation: Evaluation. Praxis. Sicherheit
- LangChain: RAG und Agents Intensiv-Training
- Experimente, Prompts, Modelle und GenAI-Qualität mit MLflow nachvollziehbar steuern
- KI-gestützte Datenbanksuche: Aufbaukurs
- Open-Source LLM Fine-Tuning für Entwickler
- Large Language Models Aufbaukurs: RAG, Anpassung und Training
- Pytorch Grundkurs: Deep Learning mit MLP und CNN
- Python mit Tensorflow: Grundkurs
- Natural Language Processing Grundkurs: Plattformen und Frameworks im Überblick
- Qdrant-Schulung: RAG und Hybrid Search im Betrieb
- LLM Security: Injections erkennen & abwehren
- Large Language Models Advanced: Eigene LLMs und Tuning
- Cursor IDE: Agentische Entwicklung Grundkurs
AusbildungsnachweisLarge Language Models Advanced: Eigene LLMs und Tuning
Zertifikat der IAD GmbH
Sie erhalten ein Teilnahmezertifikat der IAD GmbH. Damit können Sie Ihr erworbenes Wissen dokumentieren.
im Angebot