AIClaude CodeLiteLLMMCP
Rollout von AI-Guardrails für Devs, POs und Business-Rollen
- Dauer
- Laufend
- Rolle
- AI Enablement & Platform Architect
Sharing
Umfang
Aufbau der sicheren Grundlage für AI-gestützte Arbeit im BaFin-regulierten Banking-Umfeld.
- Aufbau eines zentralen LiteLLM-Model-Gateways als einziger, governed Zugangspunkt zu LLMs — Model-Routing, Budgets und auditierbare Nutzung statt verstreuter API-Keys.
- Entwicklung von MCP-Servern und einer Firmen-Skills-Library, damit Agent-Workflows an die echten Systeme der Bank andocken und jeder gelöste Prozess wiederverwendbar bleibt.
- Engineering einer sicheren Umgebung für Entwickler: Devcontainer-Sandboxes mit Firewall — kontrollierter Network Egress und begrenzte Credentials statt Zugriff auf den ganzen Laptop.
- Guardrails als Code: Permission-Allowlists, Hooks und Approval-Gates — versioniert, reviewed und getestet wie Infrastruktur, deterministisch statt Vertrauen ins Modell.
- Rollout AI-gestützter Arbeit über das Engineering hinaus: Entwickler, Product Owner und Business-Rollen arbeiten in einem governed Setup statt mit unkontrollierten Einzel-Tools.
Technologien: Claude Code, LiteLLM, MCP, Devcontainer, GitLab
Nachgewiesene Kompetenzen
- AI Governance & Guardrails: Deterministische Kontrollen für AI-gestützte Arbeit — Policies, Approval-Gates und Audit-Trails, die ein Enterprise-Security-Review bestehen.
- Platform Engineering für AI: Aufbau der Gateway-, Sandbox- und Egress-Schicht, die aus AI-Piloten freigegebenes Produktions-Tooling macht.
- Compliance Engineering: AI-Tooling, das im BaFin-regulierten Umfeld standhält — Audit-first von Anfang an.
- Cross-Role Enablement: Engineering, Produkt und Business auf einem governed Setup — Adoption gemessen statt angenommen.
- FinOps für AI: Kubernetes-Kostendisziplin (kubecost) auf Tokens übertragen — Budgets, Model-Routing und Kosten pro Team über das Gateway.
- Change Management: Eine versionierte Skills-Library, die das Setup nach dem Rollout weiter verbessert.