Bank of England warnt: Agentische KI braucht neue Regulierungsrahmen

Die Bank of England schlägt Alarm: Autonome Künstliche Intelligenz könnte bestehende Regulierungsrahmen im Finanzsektor an ihre Grenzen bringen. Sarah Breeden, stellvertretende Gouverneurin für Finanzstabilität, machte dies am Dienstag auf dem Forum der Europäischen Zentralbank zum Zentralbankwesen in Portugal deutlich.

Breeden betonte, dass die rasant steigenden Fähigkeiten sogenannter KI-Agenten – also autonom handelnder KI-Systeme – potenzielle Lücken in den bestehenden Aufsichtsstrukturen aufgezeigt hätten. Solche Agenten können eigenständig Entscheidungen treffen und Aufgaben ausführen, ohne dass bei jedem Schritt ein Mensch eingreift.

„Unsere Rahmenbedingungen wurden nicht für die Berücksichtigung autonomer Agenten konzipiert, und es ist unwahrscheinlich, dass es realistisch ist, sich bei allen Handlungen der Agenten auf einen menschlichen Kontrolleur zu verlassen", sagte Breeden. „Möglicherweise sind anspruchsvollere Governance- und Rechenschaftsstrukturen erforderlich."

Regulatoren weltweit unter Zugzwang

Mit dieser Einschätzung steht die Bank of England nicht allein. Regulierungsbehörden und globale Standardisierungsgremien haben wiederholt vor den Risiken gewarnt, die mit der Einführung von KI im gesamten Finanzsektor verbunden sind. Analysten zufolge könnte der verstärkte Einsatz autonomer KI-Systeme die Bankenbranche vor erhebliche Herausforderungen im Bereich der Cybersicherheit stellen.

Bereits Anfang Juni hatte der Finanzstabilitätsrat (FSB) – ein internationales Gremium, das die globale Finanzstabilität überwacht – strengere Sicherheitsvorkehrungen gefordert. Laut dem FSB stellen KI-Agenten eine besondere Herausforderung für die menschliche Aufsicht dar, da ihre Entscheidungsprozesse schwer nachzuvollziehen und zu kontrollieren sind.

Der Kern des Problems liegt in der Natur agentischer KI: Anders als herkömmliche KI-Systeme, die auf klar definierte Aufgaben beschränkt sind, können KI-Agenten eigenständig planen, Entscheidungen treffen und mit anderen Systemen interagieren. Im Finanzsektor, wo Millisekunden und automatisierte Prozesse eine zentrale Rolle spielen, birgt dies besondere Risiken – etwa für die Marktintegrität, die Finanzstabilität oder den Datenschutz.

Handlungsbedarf für den Finanzsektor

Für deutsche Privatanleger und Marktteilnehmer ist die Debatte von unmittelbarer Relevanz. Banken, Versicherungen und Vermögensverwalter setzen zunehmend auf KI-gestützte Systeme – von der Kreditvergabe über den Handel bis hin zur Betrugserkennung. Sollten neue Regulierungsanforderungen kommen, müssten Finanzinstitute ihre KI-Infrastruktur möglicherweise grundlegend anpassen.

Die Aussagen Breedens auf dem EZB-Forum unterstreichen, dass die Diskussion über KI-Regulierung im Finanzwesen längst keine theoretische Übung mehr ist. Vielmehr zeichnet sich ab, dass Aufsichtsbehörden in Europa und weltweit konkrete Schritte unternehmen werden, um die Kontrolle über autonome KI-Systeme zu sichern – bevor diese zu einer systemischen Gefahr werden.