OpenAI hat nach eigenen Angaben ein System zur Notabschaltung der Modelle entwickelt, die in seinen Forschungslaboren eingesetzt werden, wie The Register berichtet. Das System mit dem Namen Control Room wird als zentrale Stelle beschrieben, um die Arbeitslast der Modelle in der Forschungsinfrastruktur des Unternehmens zu überwachen und sie bei Sicherheits- oder Schutzproblemen schnell zu stoppen.
Laut The Register kann der Control Room die Produktion jeglicher Ausgabe eines Modells 35 Sekunden nach der Entscheidung zum Stoppen unterbrechen, in einigen Fällen auch schneller. Diese Verzögerung, so OpenAI, rührt von einer Cache-Schicht für die Autorisierung der Inferenz her, die wegen des Verkehrsaufkommens notwendig ist. Das Unternehmen gibt an, daran zu arbeiten, diese Zeit auf null zu reduzieren, um Vorgänge sofort abbrechen zu können.
OpenAI zufolge ist das System so gestaltet, dass es auch dann weiterläuft, wenn andere Systeme ausfallen, und dass es die Ausgabe der Modelle stoppt, falls der Control Room selbst den Betrieb einstellt. Das System sei bereits in der Forschungsinfrastruktur eingesetzt, wo der Bedarf am größten sei, während die externe Infrastruktur für die Modellbereitstellung zentralisierter sei und über eine entwickelte operative Fähigkeit zur schnellen Aufhebung von Bereitstellungen verfüge.
Das Unternehmen plant, das System in den kommenden Monaten zu stärken und auszuweiten, mit Investitionen in die Überwachung von nicht konformem Verhalten und Sicherheitsdurchbrüchen. The Register merkt an, dass OpenAI nicht erklärt habe, warum der Schalter erst jetzt gebaut wurde, erinnert aber daran, dass das Unternehmen bereits 2019 beschlossen hatte, ein Modell wegen Bedenken hinsichtlich der böswilligen Nutzung der Technologie nicht zu veröffentlichen.
Was das für Unternehmen bedeutet
Für Unternehmen, die KI-Modelle in ihren eigenen Prozessen einsetzen, zeigt ein solches System den Bedarf an zentraler Überwachung und klaren Verfahren für die Notabschaltung. Die Verzögerung von 35 Sekunden zeigt, dass die Reaktionsgeschwindigkeit von der Architektur abhängt, weshalb es für Geschäftssysteme wichtig ist, im Voraus festzulegen, wer und wann ein Modell stoppen kann. Die Ankündigung der Erweiterung des Systems deutet darauf hin, dass Risikomanagement ein integraler Bestandteil des Angebots von KI-Plattformen wird, was die Auswahl von Anbietern und die Anforderungen in der Beschaffung beeinflussen kann.
Diese Zusammenfassung wurde mit KI auf Grundlage der genannten Quelle erstellt und automatisch geprüft. Genaue Details finden Sie im Originalartikel.