KKC_0171 | Azure OpenAI Service: Architektur, Einstieg, Praxis

Sie möchten GenAI nicht nur ausprobieren, sondern in Azure so aufsetzen, dass Sicherheit, Betrieb und Kosten von Anfang an stimmen. In diesem Seminar erhalten Sie einen strukturierten Einstieg in den Azure OpenAI Service und lernen, wie Sie daraus eine tragfähige Architektur für Unternehmensanwendungen ableiten.

Sie klären die zentralen Bausteine wie Modelle, Deployments, Endpoints, Quotas und Regionen und verstehen, welche Entscheidungen später Performance, Verfügbarkeit und Budget beeinflussen. Darauf aufbauend entwickeln Sie Referenzarchitekturen für typische Use Cases: Chat-Anwendungen, Automatisierungsszenarien und RAG. Sie lernen, wie RAG konzeptionell funktioniert, warum Embeddings, Chunking und Retrieval-Strategien entscheidend sind und wie Azure AI Search als Vektor- oder Hybrid-Suche eingesetzt wird.

Gleichzeitig arbeiten Sie an einem Sicherheitsdesign mit Managed Identity, Netzwerkabschottung über VNet und Private Endpoint sowie einer sauberen Trennung von Dev, Test und Prod. Ein weiterer Schwerpunkt ist die Qualität: Prompt-Grundlagen, der sinnvolle Einsatz von System- und Entwickleranweisungen, Evaluierung in Azure AI Studio sowie Guardrails gegen Prompt Injection und Datenabfluss. Am Ende können Sie einen ersten Azure OpenAI Use Case belastbar planen, Risiken benennen und eine Go-live Checkliste für Betrieb, Monitoring und Kostenkontrolle anwenden.

• Cloud- und Solution-Architektinnen und Cloud- und Solution-Architekten
• IT-Sicherheitsverantwortliche und Governance-Teams
• Entwicklerinnen und Entwickler, die GenAI in Azure integrieren
• Data- und AI-Engineers, die RAG und Search aufbauen
• Für alle, die Azure OpenAI Service verantwortungsvoll einführen und Architekturentscheidungen sicher treffen wollen

• Grundkenntnisse in Azure (Ressourcen, Resource Groups, Identitäten) sind hilfreich.
• Grundverständnis von APIs und Webanwendungen erleichtert die Praxisübungen.

• Azure OpenAI Service verstehen
  • Service-Überblick, Einsatzgrenzen, Kostenlogik
  • Modelle, Deployments, Endpoints, Quotas
  • Regionen, Verfügbarkeit, Lifecycle und Updates
• Architektur für GenAI in Azure
  • Referenzarchitekturen: Chat, RAG, Automatisierung
  • Netzwerk- und Identitätsdesign: VNet, Private Endpoint, Managed Identity
  • Trennung von Dev, Test, Prod und Governance
• Prompting, Tools und Orchestrierung
  • Prompt-Grundlagen, System- und Entwickleranweisungen
  • Function Calling und Tool-Integration (Konzept)
  • Azure AI Studio: Tests, Varianten, Evaluierung
• RAG-Grundlagen mit Azure-Diensten
  • Embeddings, Chunking, Retrieval-Strategien
  • Azure AI Search als Vektor- und Hybrid-Suche
  • Datenquellen, Indexing, Aktualisierungskonzepte
• Sicherheit, Compliance und Responsible AI
  • Content Safety, Prompt Injection, Datenabfluss
  • Logging, Monitoring, Audit: Application Insights
  • Rollen, Richtlinien, Schlüsselmanagement
• Von der Idee zur produktionsnahen Umsetzung
  • API-Nutzung: Chat Completions, Embeddings (Konzept und Beispiele)
  • Qualität messen: Testfälle, Guardrails, Regression
  • Go-live Checkliste: Betrieb, Kosten, Skalierung