KKC_0054 | Java Microservices mit KI: Spring AI & LangChain4j

In diesem Seminar erarbeiten Sie die wichtigsten Konzepte, Werkzeuge und Einsatzmöglichkeiten praxisnah. Im Mittelpunkt stehen moderne KI-Entwicklung mit Sprachmodellen, Automatisierung, Datenpipelines, Tools und praxisnahen Implementierungen. Sie lernen typische Einsatzszenarien kennen, bewerten Chancen und Grenzen und übertragen die Inhalte auf konkrete Aufgaben aus dem Arbeitsalltag.

Praxisnahe Übungen, Beispiele und Leitfragen helfen Ihnen, das Thema strukturiert, sicher und nachvollziehbar anzuwenden.

• Sie verstehen zentrale Einsatzszenarien von KI in Java-Microservices.
• Sie lernen Spring AI und LangChain4j als Werkzeuge für KI-gestützte Anwendungen kennen.
• Sie entwickeln ein Verständnis für Sprachmodelle, Datenpipelines und Automatisierung.
• Sie bewerten Chancen, Grenzen und Risiken KI-basierter Implementierungen.
• Sie übertragen typische Use Cases auf konkrete Aufgaben aus Entwicklung und IT-Betrieb.
• Sie erarbeiten praxisnahe Ansätze für nachvollziehbare und wartbare KI-Services.

Das Angebot richtet sich an Java-Entwickler/innen, Softwarearchitektinnen und Softwarearchitekten, DevOps-Fachkräfte sowie IT-Verantwortliche, die KI-Funktionen in Microservice-Architekturen integrieren möchten.

• Gute Java-Kenntnisse: sicherer Umgang mit Java und Spring Boot
• Grundverständnis von Microservice-Architekturen
• Basiswissen zu REST-APIs und Datenbanken
• Erfahrung mit IntelliJ, VS Code, neovim oder einer vergleichbaren IDE

Setup und Tooling

• IntelliJ AI-Setup: Dependency Management, Artifact-Repositories
• ChatGPT-Plugin für IntelliJ vs. ChatGPT-Webversion
• IntelliJ AI Assistant vs. Inline-AI-Coding

Einführung & Zielsetzung

• Überblick über zentrale AI-Themen: AI, ML, LLM, NLP, Generative AI, GPTs
• Einsatzmöglichkeiten von KI in der Softwareentwicklung
• Einordnung von LLMs in modernen Enterprise-Anwendungen

LLM-Grundlagen & Einstieg in Spring AI

• Grundlagen von LLMs & Chat-Modellen
• Integration von Spring AI in Spring Boot
• Spring-AI-Setup (BOM, Starter, AutoConfig)

Prompt Engineering & Templates

• Schutz vor Prompt Injection
• Strategien: Few-Shot, Zero-Shot, Chain-of-Thought
• Praktische Einsatzszenarien: Q&A, Pro/Con, StepwiseChain
• Strukturierte Ausgaben mit OutputParser & JSON-Mapping

Advisors API

• Vor- und Nachverarbeitung von Eingaben
• SimpleLoggerAdvisor und Custom Advisor-Beispiele

KI-gestützte Microservices

• Architekturkonzepte mit LLM-Integration
• Spring AI ChatClient API als zentrale Schnittstelle
• Unterstützung für Prompt-Komposition, call(), stream() sowie Rollen (user, system, assistant)

Reaktive KI-Microservices

• Einsatz von Streaming Models mit dem Spring AI ChatClient
• Antworten der KI werden stückweise während der Verarbeitung übertragen

Tool Calling mit Spring AI

• Integration externer Tools via @Tool
• Erweiterung der KI-Funktionalitäten durch Tool-Anbindung
• Ablauf: Modell → Tool-Auswahl → Ergebnisintegration
• Nutzung von realTime APIs

MCP – Model Control Protocol

• Standardisiertes Protokoll für die strukturierte Interaktion von KI-Modellen mit externen Tools & Ressourcen

Integration eigener Daten & APIs

• Grounding und Prompt Stuffing für kontextspezifische Antworten

Retrieval Augmented Generation (RAG)

• Konzept: Daten + Kontext = intelligente Antwort

Embeddings & Datenbanken

• Nutzung der Embeddings API
• Vector-Datenbanken (z. B. Pgvector)
• Document Loaders & ETL-Pipelines
• Chat Memory für kontextbasierte Konversationspersistenz

Entwicklung intelligenter KI-Agenten mit Spring AI

• Einführung in Agentenlogik: Decision Making, Agentic Loop

Agentic Workflows

• ChainWorker, OrchestratorWorker, ParallelWorker
• Effektiver Aufbau von Agenten & modellgesteuerten Workflows

Lokale Modelle

• Einsatz von Ollama & chat4all
• Vorteile: Datenschutz, Kostenoptimierung, Offlinefähigkeit

Testing & Entwicklung

• Arbeiten mit Testcontainers
• Mocking generativer Antworten für verlässliche Tests