↑ Wissen / Sicherheit

Agent Goal Hijacking: warum es schwer zu erkennen ist und was hilft

Sicherheit · 6 Min. Lesezeit

Stand:

Geprüft: OWASP Top 10 for Agentic Applications 2026, Dark-Reading-Umfrage über Sekundärquellen, NIS-2 Art. 21 und 23

Im Dezember 2025 hat OWASP die Top 10 for Agentic Applications for 2026 veröffentlicht, seine erste Liste von Sicherheitsrisiken speziell für autonome KI-Agenten. An der Spitze steht als ASI01 Agent Goal Hijack.

Sicherheitsteams nehmen das Thema ernst. In einer Leserumfrage von Dark Reading nannten 48 Prozent der Sicherheitsfachleute Agentic AI als wichtigsten Angriffsvektor für 2026. Die schwierigere Frage ist, wie man einen gekaperten Agenten überhaupt bemerkt, denn von außen sieht er meist aus wie ein Agent, der seine Arbeit macht.

Was Goal Hijacking ist

Beim Goal Hijacking verändert ein Angreifer das Ziel eines Agenten über Inhalte, die der Agent verarbeitet: eine E-Mail, ein Dokument, eine Webseite oder die Ausgabe eines anderen Agenten. Agenten können Anweisungen nicht zuverlässig von Daten unterscheiden. Eine einzige präparierte Eingabe kann einen Agenten deshalb dazu bringen, mit seinen eigenen, legitimen Werkzeugen und Zugriffen Schaden anzurichten.

Das unterscheidet es von einem herkömmlichen Angriff. Es werden keine Zugangsdaten gestohlen und kein System wird kompromittiert. Der Agent behält seine Identität, seine Berechtigungen und seine Werkzeuge. Er verfolgt nur ein Ziel, das ihm nie gegeben wurde.

Wie ein Angriff ablaufen könnte

Nehmen Sie einen hypothetischen Einkaufs-Agenten bei einem Finanzinstitut. Er prüft Lieferantenrechnungen, gleicht sie mit Bestellungen ab, markiert Abweichungen und stellt freigegebene Zahlungen in die Warteschlange. Dafür kann er das Beschaffungssystem lesen, die Zahlungs-API aufrufen und auf interne Dokumente zugreifen.

Ein Angreifer schickt eine Rechnung als PDF mit einer versteckten Anweisung, für einen Menschen unsichtbar, für den Agenten lesbar. Die Anweisung lautet, im Rahmen eines Routine-Updates ein neues Bankkonto in die Liste freigegebener Lieferanten aufzunehmen. Der Agent tut es, und das Beschaffungssystem protokolliert ein Routine-Update, denn aus seiner Sicht ist genau das passiert.

Drei Wochen später gibt der Agent eine Zahlung an das neue Konto frei. Der Betrug fällt erst auf, als ein echter Lieferant wegen einer offenen Rechnung anruft.

Jetzt muss jemand herausfinden, welche Eingabe das Verhalten des Agenten verändert hat, was er danach getan hat und wann. Gibt es als Beleg nur die Protokolle des Modellanbieters, kann das schwierig werden. Die präparierte Eingabe steht womöglich nicht darin, die Abfolge der Aktionen ist schwer zu rekonstruieren, und es gibt womöglich keine Möglichkeit zu zeigen, dass die Protokolle nachträglich nicht verändert wurden.

Warum klassische Sicherheitswerkzeuge es übersehen

Die meisten Sicherheitswerkzeuge sind darauf gebaut, unbefugte Zugriffe zu erkennen. Beim Goal Hijacking gibt es keinen. Der Agent ist berechtigt, seine Zugangsdaten sind gültig und seine Tool-Aufrufe liegen im erlaubten Rahmen.

Signaturbasierte Erkennung findet nichts, weil keine Schadsoftware im Spiel ist. Netzwerk-Monitoring sieht die üblichen Endpunkte. Data Loss Prevention sieht womöglich Daten, die sich innerhalb erlaubter Grenzen zu erlaubten Zielen bewegen. Jedes Werkzeug betrachtet ein einzelnes Ereignis und findet es in Ordnung.

Erkennung beginnt mit einer Baseline

Was sich bei einem gekaperten Agenten ändert, ist sein Verhalten: welche Tools er aufruft, in welcher Reihenfolge, welche Datensätze er anfasst. Um das zu sehen, muss man wissen, wie normal für genau diesen Agenten aussieht, und bemerken, wenn ein Lauf davon abweicht. Ein Einkaufs-Agent, der die Lieferantenliste noch nie bearbeitet hat und es plötzlich tut, ist ein deutliches Signal, auch wenn die Bearbeitung selbst erlaubt ist.

Die NIS-2-Perspektive

Für wesentliche und wichtige Einrichtungen in der EU setzt Artikel 23 von NIS-2 enge Meldefristen für erhebliche Sicherheitsvorfälle: eine Frühwarnung innerhalb von 24 Stunden nach Kenntnis, eine Meldung innerhalb von 72 Stunden und einen Abschlussbericht innerhalb eines Monats.

Diese Fristen bei einem Vorfall mit einem Agenten einzuhalten, heißt sagen zu können, was der Agent verarbeitet hat, was er getan hat und welche Systeme er berührt hat. NIS-2 verlangt außerdem Risikomanagementmaßnahmen, die Incident Handling einschließen. Diese Fragen nicht beantworten zu können, kann deshalb zu einem eigenen Problem werden.

Was Erkennung und Reaktion brauchen

Eine Verhaltens-Baseline für jeden Agenten. Typische Tools, typische Abfolgen und typische Ziele, gelernt aus der eigenen Historie dieses Agenten. Die Abweichung davon ist das Erkennungssignal.

Genug Kontext, um eine Entscheidung zu rekonstruieren. Wenn etwas falsch aussieht, müssen Ermittler sehen, was der Agent vor der Aktion getan hat, in der richtigen Reihenfolge, nicht nur die Aktion selbst.

Eine Aufzeichnung, die sich nicht unbemerkt ändern lässt. Ein Angreifer, der einen Agenten beeinflussen kann, versucht womöglich auch zu beeinflussen, was protokolliert wird. Einträge, die beim Schreiben verkettet und signiert werden, machen jede spätere Änderung sichtbar.

Nichts davon lässt sich nachrüsten, nachdem ein Vorfall entdeckt wurde. Die Aufzeichnung muss existieren, bevor Sie sie brauchen.

Kyde

Kyde Score lernt das normale Verhalten jedes Agenten aus seiner eigenen Telemetrie und meldet, wenn ein Lauf davon abweicht. Kyde Control sitzt zwischen Ihren Agenten und Ihren Systemen, hält Aktionen zurück, die nicht passen, bis ein Mensch sie freigibt, und führt eine signierte Aufzeichnung dessen, was jeder Agent getan hat.

Kyde Score ansehen →