Welche Service-Level und Verantwortlichkeiten braucht ein produktiver KI-Betrieb?

Erst messen, dann zusagen

Google SRE unterscheidet Service Level Indicator, Objective und Agreement. Ein SLI ist der Messwert, etwa erfolgreiche Anfragen oder p95-Time-to-First-Token. Das SLO ist das interne Ziel. Ein SLA ist eine Vereinbarung mit Nutzern oder Kunden und kann Folgen bei Nichteinhaltung definieren. Nicht jede interne Kennzahl gehört daher in einen Vertrag.

Für einen KI-Dienst werden mindestens Verfügbarkeit, Fehlerquote, p95-Antwortzeit, Kapazitätsgrenze und Supportzeiten definiert. Fachliche Qualität braucht ein eigenes SLO anhand eines versionierten Testsets, zum Beispiel Mindestquote korrekter, belegter Antworten und korrekter Ablehnungen. Da generative Antworten nicht deterministisch garantiert werden können, wird kein pauschales Wahrheitsversprechen formuliert. Stattdessen werden Einsatzgrenze, Prüfverfahren und menschliche Freigabe für kritische Entscheidungen festgelegt.

Die Prozentzahl wird in verständliche Zeit übersetzt. In einem angenommenen 30-Tage-Monat entsprechen 99,5 % Verfügbarkeit maximal 3 Stunden 36 Minuten ungeplanter Nichtverfügbarkeit, 99,9 % rund 43 Minuten 12 Sekunden und 99,95 % rund 21 Minuten 36 Sekunden. Ob Wartungsfenster zählen, wie Teilstörungen gemessen werden und an welchem Messpunkt die Verfügbarkeit beginnt, muss ausdrücklich festgelegt sein.

Verantwortlichkeiten werden namentlich oder rollenbasiert zugeordnet: Service Owner, Plattformbetrieb, Modellverantwortung, Datenverantwortung, Informationssicherheit, Datenschutz und fachliche Freigabe. Ein RACI kann hierfür Zuständigkeit, Entscheidung und Konsultation sichtbar machen. Runbooks regeln Alarm, Eskalation, Kommunikation, Rollback und Wiederanlauf. SLOs steuern außerdem ein Fehlerbudget: Wird es verbraucht, haben Stabilisierung und Fehlerbehebung Vorrang vor riskanten Änderungen. Quartalsweise Reviews sind ein möglicher Rhythmus; Häufigkeit und Rufbereitschaft richten sich nach Geschäftsrisiko und zugesagtem Service.