AI Kill Switch Act: US-Abgeordnete fordern Abschalttechnik für starke KI

Die US-Abgeordneten Ted Lieu und Nathaniel Moran haben parteiübergreifend den AI Kill Switch Act eingebracht. Laut BBC soll der Entwurf Betreiber besonders leistungsfähiger KI-Systeme verpflichten, ihre Systeme im Notfall drosseln, aussetzen oder vollständig abschalten zu können.

Der Gesetzestext zieht den Kreis enger: Als „covered technology“ gelten KI-Systeme, deren Entwicklungsrechenleistung zu aktuellen US-Cloudpreisen mehr als 100 Millionen Dollar kosten würde. Erfasst wären Betreiber, die solche Systeme Dritten bereitstellen und damit samt verbundenen Unternehmen mindestens 500 Millionen Dollar Jahresumsatz erzielen. Rein persönliche, akademische oder nichtkommerzielle Nutzung ist ausgenommen.

Der Vorstoß setzt an einem Punkt an, den klassische Sicherheitsprüfungen nicht abdecken: Ein bereits laufendes System verursacht ein Risiko und muss gestoppt werden. Für KI-Agenten, die Code ändern, Nachrichten versenden oder andere Werkzeuge bedienen, ist das keine abstrakte Zukunftsfrage. Es ist eine Anforderung an die heutige Systemarchitektur.

Was der Gesetzentwurf vorsieht

Der Entwurf würde dem US-Heimatschutzministerium erlauben, bei drohendem katastrophalem Schaden eine Verlangsamung oder Abschaltung anzuordnen. Die Entscheidung soll in Abstimmung mit dem Handelsministerium und dem Director of National Intelligence fallen. Der vorgesehene Reaktionsrahmen reicht laut BBC von einer anfänglichen Drosselung bis zum vollständigen Stopp.

Vorgesehen sind außerdem Meldepflichten für technische Vorfälle und Ausfälle. Betreiber müssten damit nicht allein über Probleme berichten, sondern auch technisch auf sie reagieren können.

Lieu begründet den Vorstoß mit dem Übergang von KI, die Fragen beantwortet, zu KI, die selbst handelt. Bei Agenten ist dieser Unterschied entscheidend: Eine fehlerhafte Antwort bleibt zunächst Text. Ein fehlerhafter Agentenlauf kann Änderungen in ein Ticketsystem, ein Repository oder einen automatisierten Geschäftsprozess tragen.

Der AI Kill Switch Act ist bislang ein Gesetzentwurf und keine geltende Abschaltpflicht. Auch sein griffiger Name vereinfacht die technische Aufgabe: Belastbare Notfallsteuerung besteht selten aus einem einzelnen Schalter.

Warum ein Modellstopp nicht genügt

Ein Coding-Agent beginnt beispielsweise, fehlerhafte Änderungen über mehrere Repositories zu verteilen. Der Modellzugriff wird gesperrt, doch bereits gestartete Jobs laufen möglicherweise weiter. Ein Workflow könnte schon Zugangsdaten angefordert, einen Pull Request geöffnet oder eine Nachricht verschickt haben. Das Modell ist gestoppt, der veränderte Zustand bleibt.

Deshalb braucht ein produktives Agentensystem mehrere Eingriffspunkte. Der Modellzugriff muss sich drosseln oder sperren lassen. Die Anwendung muss laufende Aufgaben abbrechen und weitere Werkzeugaufrufe verhindern können. Eng begrenzte Berechtigungen reduzieren den möglichen Wirkungsbereich eines Fehlverlaufs. Ein belastbares Protokoll muss außerdem zeigen, welche Aktionen vor dem Stopp bereits ausgeführt wurden.

Nach den bislang öffentlich beschriebenen Eckpunkten gibt der Gesetzentwurf keine konkrete Agentenarchitektur vor. Seine Richtung ist dennoch technisch relevant: Kontrollierbarkeit soll als überprüfbare Fähigkeit vorhanden sein und nicht erst im Zwischenfall improvisiert werden.

Nach dem Abschalten beginnt die Wiederherstellung

Eine Notbremse lässt zentrale Betriebsfragen offen: Wer darf sie auslösen? Welches Schadenssignal reicht aus? Und unter welchen Bedingungen darf das System wieder starten? Zu niedrige Schwellen können legitime Dienste unnötig stoppen. Zu hohe Schwellen greifen womöglich erst, nachdem Schaden entstanden ist. Ein zentraler Abschaltmechanismus kann zudem selbst zum Angriffsziel werden.

Diese Zielkonflikte zeigen, welche Arbeit aus der politischen Forderung einen belastbaren Sicherheitsmechanismus machen muss. Drosselung, vollständiger Stopp und Wiederanlauf benötigen unterschiedliche Regeln. Ebenso wichtig ist die Trennung zwischen dem KI-Modell und den Systemen, die seine Ausgaben ausführen.

Für mich ist deshalb nicht der rote Knopf der entscheidende Teil des Vorstoßes, sondern die Forderung nach kontrollierbarem Betrieb. Produkt- und Betriebsteams sollten nicht auf ein mögliches Gesetz warten: Ein produktiver Agent muss sich vor dem nächsten Werkzeugaufruf anhalten lassen. Nach dem Stopp dürfen keine halbfertigen Jobs unbemerkt weiterlaufen. Die kritische Sicherheitsgrenze liegt häufig dort, wo der letzte Modellaufruf endet und eine bereits angestoßene Aktion weiterwirkt.