KI-Apps brauchen Produktionsbetrieb

Google Cloud beschreibt aktuell, warum viele KI-Apps im Produktionsbetrieb scheitern: Ein lokaler Prototyp entsteht heute in Stunden, aber im Unternehmen trifft er auf Netzwerke, Abhängigkeiten, Freigaben, Betriebsvorgaben und Risikotoleranz. Google nennt dafür eine harte Zahl: Nur 5 Prozent der KI-Prototypen schaffen es laut Beitrag in die Produktion.

Was sich ändert

Die interessante Nachricht ist nicht, dass Prototyping schneller wird. Das ist inzwischen selbstverständlich. Neu ist, wie deutlich Anbieter und Anwender die Grenze zwischen Demo und Betrieb ziehen.

Google argumentiert aus der Entwickler- und Plattformperspektive: Unbegrenzte agentische Orchestrierung kann technischen Schuldenaufbau beschleunigen, wenn Änderungen nicht isoliert, getestet und kontrolliert werden. Gerade große Plattformen können nicht jede Agenten-Idee direkt in produktive Pfade lassen.

AWS zeigt mit monday.com die zweite Seite: Produktionsagenten brauchen ein eigenes Harness. monday.com beschreibt, dass der Runtime-Teil austauschbar bleibt, während die eigentliche Unternehmenslogik im Harness liegt: Evaluation, Plugin-Komposition, Anbindung an Slack, monday und GitHub sowie Review gegen interne Standards. Zusätzlich trennt die Architektur Live-State, Sessions, Memory, Secrets und Ereignisverarbeitung über Dienste wie Amazon Bedrock, Amazon EKS, Amazon SQS, Amazon SNS, Amazon ElastiCache und Amazon EFS.

Warum das relevant ist

Für CIOs und IT-Leiter ist das eine wichtige Verschiebung. Die Frage lautet nicht mehr: „Können wir schnell einen KI-Demo bauen?“ Sondern: „Können wir daraus ein System machen, das versioniert, beobachtet, wiederholbar, prüfbar und abschaltbar ist?“

Der AWS-Beitrag zu Amazon Quick und NVIDIA NeMo Relay verstärkt diesen Punkt. Agentische Workflows werden nicht nur verbunden, sondern evaluiert, profiliert und optimiert. Damit wandert Enterprise-KI näher an klassische Software- und Plattformdisziplinen: SDLC, SRE, Security, FinOps und Change Management.

DACH-Perspektive

Für DACH-Unternehmen ist Produktionsbetrieb besonders wichtig, weil Datenschutz, Auditierbarkeit und Betriebsverantwortung selten nachträglich sauber ergänzt werden können. Ein KI-Use-Case sollte deshalb vor dem Rollout einen Betriebsvertrag bekommen: Owner, erlaubte Datenklassen, Modellpfad, Toolrechte, Logging, Evaluationsset, Kostenlimit, Review-Pflicht und Rollback-Regel.

Der pragmatische nächste Schritt ist ein Produktions-Gate zwischen Pilot und Skalierung. Nicht der schönste Prompt entscheidet über den Go-live, sondern ob Harness, State, Monitoring und Verantwortung belastbar sind.