KI/ML-Serving-Plattformfeedback

Vorgeschlagen

Dieser Funktionsbaustein wurde als strategisch notwendig identifiziert und befindet sich in der Konzeptionsphase.

Status: Vorgeschlagen | Erstellt am: 13. März 2026 | Autor: BMDS-Architekturteam

lightbulb Motivationfeedback

KI-Modelle in der Verwaltung (Dokumentenklassifikation, Anomalie-Erkennung, Chatbots) benötigen eine standardisierte Infrastruktur für Training, Deployment und Monitoring. Ohne diesen Baustein werden Modelle ad-hoc betrieben, ohne Versionierung, Monitoring oder Governance.

• MLOps: Reproduzierbare Trainings-Pipelines und Modell-Versionierung.
• Serving: Skalierbare Inferenz-Endpoints für Echtzeit- und Batch-Vorhersagen.
• Governance: Nachvollziehbarkeit, Bias-Detection und Erklärbarkeit (EU AI Act).
• Datenschutz: Auf souveräner Infrastruktur betrieben, keine Datenabflüsse.

settings Kernfunktionalitätenfeedback

• Model Registry: Versionierte Ablage trainierter Modelle mit Metadaten.
• Serving-Engine: Automatisches Deployment von Modellen als REST/gRPC-Endpoints.
• Feature Store: Zentrale Verwaltung von Features für Training und Inferenz.
• Experiment Tracking: Nachvollziehbare Dokumentation aller Trainingsläufe.
• Model Monitoring: Erkennung von Data Drift und Modell-Degradation.

engineering Technische Einordnungfeedback

Eigenschaft	Wert
Kategorie	KI & Automatisierung
GovStack-Mapping	◐ AI (in Arbeit)
Referenzstandards	EU AI Act, MLOps Principles, ONNX
Open-Source-Referenz	KServe, MLflow, Kubeflow

share Abhängigkeitenfeedback

• Container-Orchestrierung (GPU-Workloads auf Kubernetes)
• API-Management (Model-Endpoints über Gateway exponieren)
• Analytics & Reporting (Daten als Input für Training)

arrow_forward Nächste Schrittefeedback

• Anforderungsanalyse für KI-Anwendungsfälle in der Verwaltung
• PoC mit KServe/MLflow auf SCS-Kubernetes
• Konzept für EU AI Act Compliance (Risiko-Klassifizierung)
• Integration in den D-Stack