Fachwissen für digitale Entscheidungen

Wie hält man einen eigenen KI-Server aktuell?

Kurzantwort

Mit einem festen Rhythmus für drei Dinge: Sicherheitsaktualisierungen des Systems, Aktualisierung der eingesetzten Software und – seltener – ein Modellwechsel. Der Modellwechsel ist der aufwendigste Teil, weil er ohne Testfallsammlung nicht bewertet werden kann.

Drei Ebenen

Betriebssystem und Treiber. Wie bei jedem Server. Grafiktreiber sind hier zusätzlich relevant und gelegentlich heikel – ein Treiberwechsel kann die Modellsoftware beeinträchtigen.

Modellserver-Software. Entwickelt sich schnell, neue Versionen bringen regelmässig Leistungsgewinne. Nicht jede Version ist stabil.

Das Modell selbst. Neue Versionen erscheinen mehrmals jährlich.

Warum der Modellwechsel Aufwand macht

Ein neues Modell verhält sich anders: Anweisungen wirken unterschiedlich, Ausgabeformate weichen ab, die Neigung zu erfundenen Angaben ändert sich.

Ohne eine Sammlung von Testfällen mit bekannten richtigen Antworten lässt sich nicht feststellen, ob das neue Modell besser oder schlechter ist. Man merkt es dann erst im Betrieb.

Ein praktikabler Rhythmus

Was	Wie oft
Sicherheitsaktualisierungen	Nach Verfügbarkeit, zeitnah
Modellserver-Software	Quartalsweise prüfen
Modell	Halbjährlich prüfen, wechseln nur bei klarem Vorteil

Nie ohne Rückfallweg

Vor jedem Wechsel: Die bisherige Fassung muss wiederherstellbar bleiben. Bei Modellen heisst das, die alte Version nicht sofort zu löschen – sie belegt Speicher, aber Speicher ist günstiger als ein Ausfall.

Der ehrliche Aufwand

Ein eigener KI-Server ist keine einmalige Investition, sondern ein System, das Pflege braucht. Wer diese Zeit nicht einplant, betreibt nach einem Jahr eine veraltete und potenziell unsichere Installation.

Kernfakten

Drei Ebenen: System, Modellserver, Modell
Voraussetzung für Modellwechsel: Testfallsammlung
Immer: Rückfallweg auf die vorherige Fassung