Am 7. April 2026 hat NIST eine Concept Note für ein neues Profil seines AI Risk Management Framework veröffentlicht, mit dem Schwerpunkt vertrauenswürdige KI in kritischer Infrastruktur. Es ist ein frühes Dokument und kein fertiger Standard, und NIST sammelt Rückmeldungen, bevor es das Profil ausarbeitet. Es zeigt aber bereits, was die Behörde von KI-Systemen erwartet, die Stromnetze, Wasserversorgung und Krankenhäuser mit betreiben.
Betreibern in Europa wird vieles davon bekannt vorkommen. Der EU AI Act und NIS-2 nähern sich denselben Systemen aus anderen Richtungen und kommen zu ähnlichen Erwartungen. Dieser Text zeigt, was jedes Regelwerk verlangt, wo sie sich überschneiden und was das für Teams bedeutet, die KI-Agenten in kritischen Umgebungen einsetzen.
Was NIST aufbaut
Das Profil wendet das bestehende AI RMF mit seinen vier Funktionen Govern, Map, Measure und Manage auf die Bedingungen kritischer Infrastruktur an. Die Concept Note umfasst KI in der Informationstechnik, in der Betriebstechnik (OT) und in industriellen Steuerungssystemen sowie die Schnittstellen dazwischen.
Die Beispiele der Concept Note machen die Erwartungen konkret. Dazu gehören KI-Agenten für die autonome Reaktion auf Cybersicherheitsvorfälle mit getesteten und verifizierten Leitplanken, Diagnoseassistenten mit nachvollziehbaren und prüfbaren Empfehlungen, autonome Roboter und Fahrzeuge mit deterministischen Fail-Safe-Steuerungen und Optimierungssysteme, die unter widrigen Bedingungen kontrolliert herunterfahren und dabei menschliche Aufsicht alarmieren.
Der gemeinsame Nenner: Ein Betreiber muss wissen, was ein KI-System getan hat, warum, und was passiert, wenn es ausfällt. In kritischer Infrastruktur ist ein Ausfall keine schlechte Nutzererfahrung. Er kann einen Stromausfall oder eine gestörte Wasserversorgung bedeuten.
Was der EU AI Act verlangt
Der EU AI Act stuft KI-Systeme, die als Sicherheitsbauteile beim Management und Betrieb kritischer Infrastruktur eingesetzt werden, etwa bei Strom, Wasser, Gas, Wärme und Straßenverkehr, nach Anhang III als hochriskant ein.
Hochrisiko-Systeme müssen Ereignisse über ihre gesamte Lebensdauer automatisch protokollieren (Artikel 12) und so gestaltet sein, dass Menschen sie wirksam beaufsichtigen können (Artikel 14). Betreiber müssen die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren (Artikel 26). Nach dem 2026 verabschiedeten Digital Omnibus gelten diese Pflichten für Systeme nach Anhang III ab dem 2. Dezember 2027.
Was NIS-2 verlangt
NIS-2 erfasst wesentliche und wichtige Einrichtungen, darunter Betreiber in Energie, Verkehr, Wasser und Gesundheit, über die Umsetzungsgesetze der Mitgliedstaaten. Artikel 21 verlangt Risikomanagementmaßnahmen, die Incident Handling und die Sicherheit der Lieferkette einschließen. Artikel 23 setzt Meldefristen: eine Frühwarnung innerhalb von 24 Stunden, nachdem ein erheblicher Sicherheitsvorfall bekannt wird, eine Meldung innerhalb von 72 Stunden und einen Abschlussbericht innerhalb eines Monats.
NIS-2 erwähnt KI-Agenten nicht. Ist ein Agent aber an einem erheblichen Vorfall beteiligt, muss der Betreiber trotzdem innerhalb dieser Fristen erklären, was passiert ist. Das setzt eine brauchbare Aufzeichnung dessen voraus, was der Agent getan hat.
Wo sich die Regelwerke überschneiden
Die drei Regelwerke wurden unabhängig voneinander geschrieben, von verschiedenen Stellen, in unterschiedlichem Tempo. Sie benutzen andere Begriffe, und ihre Pflichten sind nicht identisch. In der Praxis verlangen sie von Betreibern aber ähnliche Fähigkeiten:
- Eine Aufzeichnung dessen, was jedes KI-System getan hat, lange genug aufbewahrt, um einen Vorfall zu untersuchen.
- Die Möglichkeit für Menschen, das System zu verstehen, zu beaufsichtigen und einzugreifen.
- Vorhersehbares Verhalten im Fehlerfall, einschließlich sicherer Abschaltung und Alarmierung von Menschen.
Wer diese Fähigkeiten einmal aufbaut, kann dieselben Nachweise für mehrere Regelwerke nutzen.
Warum kritische Infrastruktur es schwerer macht
Kritische Infrastruktur ist selten ein einzelnes System. Die Agenten eines Netzbetreibers lesen womöglich Sensoren aus, schreiben in Steuerungssysteme, sprechen mit Handelsplattformen und protokollieren in Unternehmenssysteme, oft gleichzeitig und in Maschinengeschwindigkeit.
Jede dieser Ebenen hat eigene Zugriffskontrollen, eigene Protokollformate und eigene Regeln. Die IT-Ebene fällt womöglich unter NIS-2. Die OT-Ebene kann zusätzlich unter sektorale Vorgaben fallen, etwa die KRITIS-Regeln in Deutschland. Für industrielle Steuerungskomponenten gelten oft Sicherheitsnormen, die lange vor heutigen KI-Systemen entstanden sind. Keine dieser Ebenen wurde dafür gebaut, eine einheitliche Aufzeichnung dessen zu liefern, was ein KI-Agent über alle hinweg getan hat.
Deshalb gehört die Aufzeichnung von Agentenaktionen aus unserer Sicht in eine Ebene außerhalb der einzelnen Systeme, zwischen die Agenten und die Systeme, auf die sie zugreifen. Eine Aufzeichnung, die unabhängig von den beschriebenen Systemen geführt wird, ist bei der Untersuchung eines Vorfalls verlässlicher.
Was das für Anbieter bedeutet
Die Concept Note richtet sich an Betreiber, ihre Erwartungen werden aber die Lieferkette hinaufwandern. Betreiber werden von den Anbietern von KI-Systemen verlangen, die Erfüllung nachzuweisen und nicht nur zu behaupten. Ein Dashboard des Anbieters allein ist dafür eine schwache Antwort, weil es eine Aufzeichnung der Partei ist, die gerade bewertet wird.
Was jetzt zu tun ist
Das NIST-Profil wird noch entwickelt. Die Hochrisiko-Pflichten des EU AI Act gelten für diese Systeme ab dem 2. Dezember 2027. NIS-2 gilt bereits. Damit bleibt Zeit, aber nicht viel, um für jeden Agenten in einer kritischen Umgebung drei Fragen zu beantworten: Was darf er tun? Ließe sich eine seiner früheren Aktionen vollständig rekonstruieren? Und wo liegt diese Aufzeichnung?
Betreiber, die diese Fragen jetzt beantworten, bauen die Fähigkeit nach eigenem Zeitplan auf. Wer auf eine Frist wartet, baut sie unter Druck.
Kyde
Kyde Control sitzt zwischen Ihren Agenten und den Systemen, auf die sie zugreifen. Es bewertet jeden Aufruf gegen die Baseline des Agenten, hält Aktionen zurück, die nicht passen, bis ein Mensch sie freigibt, und führt eine signierte Aufzeichnung dessen, was jeder Agent getan hat. Diese Aufzeichnung stützt die Agenten-Ebene Ihrer Nachweise nach EU AI Act und NIS-2. Die Pflichten selbst erfüllt sie nicht.
Kyde Score ansehen →