KKC_0169 | KI-Cloud-Infrastruktur: AWS vs Azure vs GCP

Dieses Seminar hilft Ihnen, KI-Infrastruktur in der Cloud nicht nach Bauchgefühl, sondern nach belastbaren Kriterien zu vergleichen. Sie schauen Ihnen AWS, Microsoft Azure und Google Cloud Platform entlang typischer KI-Workloads an: Training und Fine-Tuning, Inferenz in Echtzeit und Batch, sowie RAG-Architekturen mit Vektorsuche. Dabei geht es nicht um eine Feature-Parade, sondern um die Fragen, die in Projekten wirklich entscheiden: Wie schnell kommen Sie zu reproduzierbaren Experimenten?

Wie zuverlässig erhalten Sie GPU-Kapazität? Wo entstehen Engpässe in Datenwegen, Netzwerk oder Security? Und wie steuern Sie Kosten, ohne die Lieferfähigkeit zu riskieren?

Sie arbeiten mit Referenzarchitekturen für Compute, Storage und Netzwerk und lernen, welche Anti-Patterns in der Praxis teuer werden, zum Beispiel falsch gewählte Storage-Typen, fehlende Datenlokalität oder unkontrollierter Egress. Ein Schwerpunkt liegt auf Betrieb und Governance: Identity und Zugriff nach Least Privilege, Private Endpoints, Secret Management und sichere Service-to-Service Kommunikation. Im MLOps-Teil vergleichen Sie, wie Sie Experiment Tracking, Model Registry, CI/CD und kontrollierte Rollouts (Canary, Shadow, Rollback) auf den Plattformen abbilden.

Zum Schluss verknüpfen Sie technische Entscheidungen mit FinOps: Commitments, Spot/Preemptible Strategien, Right-Sizing und Kennzahlen wie Cost per Token oder Cost per Experiment. Sie gehen mit einer klaren Entscheidungslogik und einem praxistauglichen Zielbild für Ihr KI-Cloud-Plattform raus.

• KI-Workloads für Training, Fine-Tuning, Inferenz und RAG klassifizieren
• AWS, Azure und Google Cloud anhand einheitlicher Kriterien vergleichen
• GPU-Kapazität, Datenwege, Netzwerk und Latenz bewerten
• Referenzarchitekturen für Compute, Storage und Netzwerk entwickeln
• Storage-, Datenlokalitäts- und Egress-Anti-Patterns erkennen
• Identity, Private Networking und Least Privilege gestalten
• Kosten, Lieferfähigkeit und Betriebsrisiken nachvollziehbar abwägen

Das Seminar richtet sich an Cloud-Architekt/innen, KI-Architekt/innen, IT-Leiter/innen, MLOps-Engineer/innen sowie Fachkräfte aus Infrastruktur, Plattformbetrieb und FinOps.

Grundkenntnisse in Cloud Computing, Netzwerken und IT-Infrastruktur werden vorausgesetzt. Erfahrungen mit mindestens einem Cloud-Anbieter sind hilfreich.

• Plattform-Entscheidung: Was wirklich zählt
  • Workload-Typen: Training, Fine-Tuning, Inferenz, RAG
  • Entscheidungskriterien: Time-to-Value, Lock-in, Skills, Compliance
  • Referenzarchitekturen und Anti-Patterns
• Compute für KI: GPU, TPU und skalierbare Cluster
  • GPU-Instanzen, Scheduling, Spot/Preemptible Strategien
  • Distributed Training: Daten- und Modellparallelität
  • Beschleuniger-Ökosystem: Treiber, Container, Images
• Storage und Datenwege: schnell, sicher, bezahlbar
  • Objekt-, Block- und File-Storage für KI-Pipelines
  • High-Throughput Datenzugriff, Caching, Datenlokalität
  • Lifecycle, Versionierung, Verschlüsselung, Schlüsselmanagement
• Netzwerk und Sicherheit: Zero Trust für KI-Workloads
  • VPC/VNet, Private Endpoints, Egress-Kontrolle
  • Identity und Zugriff: IAM-Rollen, Least Privilege
  • Secret Management und sichere Service-to-Service Kommunikation
• MLOps und Plattformdienste: von Notebook bis Produktion
  • Managed ML-Plattformen und ihre Grenzen
  • Model Registry, Feature Store, Experiment Tracking
  • CI/CD für Modelle, Canary, Shadow, Rollback
• LLM-Betrieb: RAG, Vektorsuche und Inferenz-Architektur
  • Vektor-Datenbanken und Suchdienste im Vergleich
  • Serving: Autoscaling, Batching, Quantisierung, Caching
  • Guardrails, Content-Filter, Prompt- und Kontextschutz
• Kosten, FinOps und Kapazitätsplanung
  • Kostenmodelle: On-Demand, Reserved, Savings Plans, Commitments
  • GPU-Kosten senken: Right-Sizing, Spot, Scheduling, Abschalten
  • Messgrößen: Cost per Token, Cost per Experiment, Unit Economics