AIClaude CodeLiteLLMMCP

Rollout von AI-Guardrails für Devs, POs und Business-Rollen

Dauer
Laufend
Rolle
AI Enablement & Platform Architect
AI-Guardrails-Rollout

Umfang

Der vierte separate Auftrag beim selben Banking-Kunden — jeder Auftrag gewonnen auf Basis der Ergebnisse des vorherigen: CI/CD-Plattform, AppOps-Enablement, DORA-Compliance-Automatisierung, jetzt die sichere Grundlage für AI-gestützte Arbeit im BaFin-regulierten Umfeld.

  • Aufbau eines zentralen LiteLLM-Model-Gateways als einziger, governed Zugangspunkt zu LLMs — Model-Routing, Budgets und auditierbare Nutzung statt verstreuter API-Keys.
  • Entwicklung von MCP-Servern und einer Firmen-Skills-Library, damit Agent-Workflows an die echten Systeme der Bank andocken und jeder gelöste Prozess wiederverwendbar bleibt.
  • Engineering einer sicheren Umgebung für Entwickler: Devcontainer-Sandboxes mit Firewall — kontrollierter Network Egress und begrenzte Credentials statt Zugriff auf den ganzen Laptop.
  • Guardrails als Code: Permission-Allowlists, Hooks und Approval-Gates — versioniert, reviewed und getestet wie Infrastruktur, deterministisch statt Vertrauen ins Modell.
  • Rollout AI-gestützter Arbeit über das Engineering hinaus: Entwickler, Product Owner und Business-Rollen arbeiten in einem governed Setup statt mit unkontrollierten Einzel-Tools.

Technologien: Claude Code, LiteLLM, MCP, Devcontainer, GitLab

Nachgewiesene Kompetenzen

  • AI Governance & Guardrails: Deterministische Kontrollen für AI-gestützte Arbeit — Policies, Approval-Gates und Audit-Trails, die ein Enterprise-Security-Review bestehen.
  • Platform Engineering für AI: Aufbau der Gateway-, Sandbox- und Egress-Schicht, die aus AI-Piloten freigegebenes Produktions-Tooling macht.
  • Compliance Engineering: AI-Tooling, das im BaFin-regulierten Umfeld standhält — mit demselben Audit-first-Ansatz wie im DORA-Automatisierungsauftrag.
  • Cross-Role Enablement: Engineering, Produkt und Business auf einem governed Setup — Adoption gemessen statt angenommen.
  • FinOps für AI: Kubernetes-Kostendisziplin (kubecost) auf Tokens übertragen — Budgets, Model-Routing und Kosten pro Team über das Gateway.
  • Change Management: Eine versionierte Skills-Library, die das Setup nach dem Rollout weiter verbessert.