Am 31. März 2026 hat das Digital Regulation Cooperation Forum ein Foresight Paper mit dem Titel „The Future of Agentic AI“ veröffentlicht. Im DRCF arbeiten vier britische Aufsichtsbehörden zusammen: die Competition and Markets Authority, die Financial Conduct Authority, das Information Commissioner's Office und Ofcom. Das Papier beschreibt, wie sie die Risiken von KI-Agenten in Wettbewerb, Finanzdienstleistungen, Datenschutz und Online-Sicherheit sehen.
Das Papier stellt klar, dass es keine Politik ist. Es solle nicht als Hinweis auf die aktuelle oder künftige Politik einer der beteiligten Behörden verstanden werden. Wir nehmen das beim Wort. Lesenswert ist es trotzdem, weil es zeigt, worauf vier Behörden mit überlappenden Zuständigkeiten achten werden, wenn Agenten vom Pilotprojekt in den Betrieb wechseln.
Bestehendes Recht gilt bereits
Die zentrale Aussage des Papiers: Agenten stehen nicht außerhalb des geltenden britischen Rechts. Datenschutz, Verbraucherschutz, Wettbewerbsrecht, Finanzaufsicht und Pflichten zur Online-Sicherheit gelten weiter, wenn ein Agent die Arbeit erledigt statt eines Menschen.
Das Papier weist außerdem darauf hin, dass sich die Verantwortung verteilen kann, auf Modellanbieter, Systemanbieter und die Organisationen, die Agenten einsetzen. Unsere praktische Lesart für einsetzende Organisationen ist vorsichtig: Gehen Sie nicht davon aus, dass jemand anderes in der Kette die Verantwortung für das trägt, was Ihr Agent tut.
Die Themen, auf die es ankommt
Kommentare von Kanzleien wie Lewis Silkin heben mehrere Themen aus dem Papier hervor, die für jeden wichtig sind, der Agenten einsetzt:
- Datenminimierung. Agenten sollten nach dem Need-to-know-Prinzip arbeiten, im Einklang mit den Grundsätzen der Datenminimierung und des Datenschutzes durch Technikgestaltung der UK GDPR.
- Einwilligung und Delegation. Menschen sollten verstehen, wozu sie eingewilligt oder was sie delegiert haben, wenn ein Agent für sie handelt.
- Echte menschliche Beteiligung. Bei Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung muss die menschliche Beteiligung echt sein, nicht nur formal.
- Algorithmische Kollusion. Preis-Agenten können sich auf höhere Preise einpendeln, ohne dass jemand sie dazu anweist. Das schafft Wettbewerbsrisiken.
- Überlappende Zuständigkeiten. Ein einziger Einsatz, etwa ein Einkaufsassistent im Handel, kann Fragen für alle vier Behörden zugleich aufwerfen.
Was das Papier nicht tut
Es schafft keine neuen Pflichten und kündigt keine Durchsetzungspläne an. Wie Lewis Silkin anmerkt, bestehen die vorgeschlagenen nächsten Schritte vor allem aus weiterer Forschung und fortgesetztem Dialog. Wer das Papier als neue Regulierung darstellt, überzeichnet es.
Warum Ihre eigene Aufzeichnung zählt
Wenn sich Verantwortung auf mehrere Parteien verteilen kann, braucht die Organisation, die einen Agenten einsetzt, eine eigene Darstellung dessen, was dieser Agent getan hat: auf welche Daten er zugegriffen hat, welche Aktionen er ausgeführt hat und in wessen Auftrag. Protokolle eines Modellanbieters sind nützlich, werden aber vom Anbieter auf dessen Infrastruktur geführt. Stellt eine Aufsicht Fragen, ist eine Organisation mit eigener Aufzeichnung besser aufgestellt als eine, die sie erst bei einem Anbieter anfordern muss.
Praktische Schritte
Ordnen Sie jeden Agenten den vier Zuständigkeiten zu. Notieren Sie für jeden produktiven Agenten, ob er personenbezogene Daten, Verbraucher, Preise oder Wettbewerb, Finanzdienstleistungen oder Online-Inhalte berührt. Daraus ergibt sich, welche Behörden sich für ihn interessieren könnten.
Testen Sie Ihre Aufzeichnung. Wählen Sie eine Agentenaktion aus den letzten 90 Tagen und versuchen Sie, sie vollständig zu rekonstruieren, ohne einen Anbieter um Hilfe zu bitten. Wo das scheitert, liegt Ihre Lücke.
Machen Sie menschliche Aufsicht echt. Prüfen Sie bei folgenreichen Entscheidungen, ob ein Mensch das Ergebnis tatsächlich prüfen und ändern kann und ob das in der Praxis geschieht.
Prüfen Sie Preis-Agenten. Wenn Agenten Preise setzen oder empfehlen, betrachten Sie ihr Verhalten in der Summe und nicht nur Entscheidung für Entscheidung.
Das Papier ist keine Politik. Es ist ein klarer Blick darauf, was vier britische Aufsichtsbehörden beobachten, und damit eine nützliche Checkliste.
Kyde
Kyde Score lernt aus der eigenen Telemetrie, wie sich jeder Agent verhält, und meldet, wenn sich das ändert. Kyde Control ergänzt ein Gateway zwischen Ihren Agenten und Ihren Systemen, das ungewöhnliche Aktionen zurückhält, bis ein Mensch sie freigibt, und eine signierte Aufzeichnung dessen führt, was jeder Agent getan hat, getrennt von Ihren Modellanbietern.
Kyde Score ansehen →