Anthropic-Chef Amodei fordert verbindliche staatliche KI-Regulierung

Dario Amodei, CEO des KI-Unternehmens Anthropic, hat in einem heute veröffentlichten Essay eine sofortige staatliche Regulierung künstlicher Intelligenz gefordert. Er warnte ausdrücklich davor, dass freiwillige Transparenzmaßnahmen nicht ausreichen, um den Risiken der Technologie wirksam zu begegnen. Der Vorschlag kommt zu einem Zeitpunkt, an dem jüngste Cybersicherheitsstörungen durch das Anthropic-System Claude Mythos Preview für Aufmerksamkeit gesorgt haben.

Amodei skizziert in seinem Essay fünf Politikbereiche, die seiner Ansicht nach dringenden Handlungsbedarf erfordern: Regulierung und öffentliche Sicherheit, Wirtschaftspolitik, wissenschaftlicher Fortschritt, Bürgerrechte sowie Geopolitik. Der Umfang des Vorschlags verdeutlicht, wie weitreichend der Anthropic-Chef die gesellschaftlichen Auswirkungen von KI einschätzt.

Regulierung nach FAA-Vorbild

Im Bereich öffentliche Sicherheit argumentiert Amodei, dass KI Risiken berge, die mit jenen der Luftfahrt oder der Nukleartechnologie vergleichbar seien. Er schlägt daher die Schaffung eines Regulierungsrahmens vor, der sich an der US-Luftfahrtbehörde Federal Aviation Administration (FAA) orientiert. Konkret fordert er obligatorische Tests durch unabhängige Dritte sowie staatliche Befugnisse, unsichere KI-Modelle zu sperren.

Rechenintensive Modelle sollen laut Amodei verpflichtend in vier Bereichen geprüft werden: Cybersicherheit, biologische Waffen, Kontrollverlust sowie Risiken bei automatisierter Forschung und Entwicklung. Diese Forderung richtet sich damit direkt an die leistungsfähigsten und potenziell gefährlichsten KI-Systeme auf dem Markt.

Wirtschaftliche Folgen: Jobverluste und Grundeinkommen

Zur Wirtschaftspolitik warnt Amodei vor einem potenziellen großflächigen Verlust von Arbeitsplätzen durch den KI-Einsatz. Kurzfristig empfiehlt er den Regierungen, Lohnversicherungen, steuerliche Anreize zur Mitarbeiterbindung sowie Umschulungszuschüsse einzuführen. Langfristig bringt er ein bedingungsloses Grundeinkommen oder universelle Kapitalkonten ins Spiel, die durch die Besteuerung des KI-generierten Wirtschaftswachstums finanziert werden sollen.

Im Bereich wissenschaftlicher Fortschritt fordert Amodei, dass Regulierungsbehörden wie die US-amerikanische Food and Drug Administration (FDA) ihre Zulassungsverfahren modernisieren. Sie sollten KI-Simulationen und synthetische Kontrollgruppen akzeptieren, um die derzeit sieben bis acht Jahre langen Zulassungsfristen für neue Behandlungsmethoden zu verkürzen.

Bürgerrechte und geopolitische Koalition

Mit Blick auf Bürgerrechte fordert der Anthropic-Chef ein Verbot autonomer Waffen für den inländischen Einsatz. Zudem sollen Gesetzeslücken geschlossen werden, die es Regierungen ermöglichen, Massendaten von privaten Unternehmen zu kaufen. Bürger sollen außerdem garantierten Zugang zu KI-Systemen erhalten, die dieselbe Leistungsfähigkeit besitzen wie jene, die von Behörden in Gerichtsverfahren eingesetzt werden.

Geopolitisch schlägt Amodei vor, dass demokratische Nationen eine exklusive Koalition bilden, um die KI-Lieferkette – einschließlich Chips und Fertigungsanlagen – gemeinsam zu kontrollieren. Diese Koalition solle sich bei der gegenseitigen Verteidigung abstimmen und wirtschaftliche sowie wissenschaftliche Vorteile ausschließlich mit Verbündeten teilen.

Amodei untermauert seine Forderungen mit einer eindringlichen Prognose: KI schreite mit exponentieller Geschwindigkeit voran und könnte innerhalb weniger Jahre das Äquivalent eines Landes voller Genies in einem einzigen Rechenzentrum erreichen. Für deutsche Privatanleger und Unternehmen, die auf KI-Technologien setzen, dürfte die Debatte um verbindliche Regulierung zunehmend an Bedeutung gewinnen – auch auf europäischer Ebene, wo der AI Act bereits erste Konturen einer gesetzlichen Rahmensetzung vorgibt.