Papst Leo XIV. fordert KI-Regulierung und warnt vor autonomen Waffen

Papst Leo XIV. hat in einem fast 43.000 Wörter umfassenden Lehrschreiben eindringlich vor den Risiken der Künstlichen Intelligenz gewarnt und eine umfassende internationale Regulierung gefordert. Das Dokument mit dem Titel „Magnifica Humanitas" (Großartige Menschlichkeit) wurde am Montag im Vatikan vorgestellt und richtet sich an die rund 1,4 Milliarden Mitglieder der katholischen Kirche sowie an Staats- und Regierungschefs weltweit. Es ist seit Leos Wahl zum Papst vor etwas mehr als einem Jahr in Arbeit.

Der erste US-amerikanische Papst äußerte bei der Vatikan-Veranstaltung zur Veröffentlichung des Textes seine Besorgnis darüber, dass einige autonome Waffensysteme so weit fortgeschritten seien, dass sie „praktisch außerhalb jeder menschlichen Kontrolle" stünden. An der Veranstaltung nahm auch Chris Olah teil, Mitbegründer von Anthropic – einem der weltweit führenden KI-Unternehmen und Hersteller der Claude-KI-Tools. Olah dankte dem Papst dafür, dass er die durch die disruptive Technologie entstehenden Probleme öffentlich anspricht.

Forderungen an Politik und Wirtschaft

In dem Dokument, einer sogenannten Enzyklika – einer der höchsten Lehrformen eines Papstes – formulierte Leo XIV. eine Reihe konkreter Forderungen. Das Eigentum an KI-Daten dürfe nicht ausschließlich in privater Hand bleiben. Politische Entscheidungsträger müssten die Rechte der Arbeitnehmer schützen und Kinder vor der Technologie bewahren. Zudem drängte er auf eine Mäßigung des Wettbewerbs zwischen KI-Unternehmen.

„Erforderlich ist ein aktiveres politisches Engagement, das in der Lage ist, die Dinge zu verlangsamen, wenn sich alles beschleunigt", schrieb Leo in dem Text. Er forderte „robuste rechtliche Rahmenbedingungen, eine unabhängige Aufsicht, informierte Nutzer und ein politisches System, das sich seiner Verantwortung nicht entzieht." Anthropic-Mitbegründer Olah unterstrich bei der Veranstaltung, dass Unternehmen wie seines unter starkem kommerziellem Druck stünden und externe Kontrolle benötigten: „Jedes führende KI-Labor, einschließlich Anthropic, agiert innerhalb einer Reihe von Anreizen und Beschränkungen, die manchmal im Widerspruch dazu stehen können, das Richtige zu tun."

KI in der Kriegsführung: „Unzulässig"

Der Papst erklärte, jeder Einsatz von KI in der Kriegsführung „müsse den strengsten ethischen Beschränkungen unterliegen", und nannte es „unzulässig", KI-Systemen tödliche Entscheidungen anzuvertrauen. Damit bezieht Leo XIV. eine klare Position in einer Debatte, die in Verteidigungsministerien und internationalen Organisationen weltweit geführt wird.

Darüber hinaus lieferte die Enzyklika eine der bisher deutlichsten päpstlichen Absagen an die Theorie des „gerechten Krieges" – eine Doktrin, die die Kirche seit mindestens dem fünften Jahrhundert zur Bewertung globaler Konflikte heranzieht. „Die Theorie des ‚gerechten Krieges', die allzu oft zur Rechtfertigung jeder Art von Krieg herangezogen wurde, ist heute veraltet", schrieb Leo. Diese Doktrin war zuletzt auch von Vertretern der Trump-Regierung, darunter Vizepräsident JD Vance, zur Verteidigung des Iran-Krieges angeführt worden – ein Kontext, der Leos Aussage besondere politische Brisanz verleiht.

Historische Einordnung und soziale Gerechtigkeit

Leo XIV., der 14. Papst dieses Namens, zog in seiner Enzyklika bewusst eine Linie zu seinem Vorgänger Leo XIII., der 1891 während der Industriellen Revolution bessere Löhne und Arbeitsbedingungen für Arbeiter gefordert hatte. Nun, im Zeitalter der KI, prangerte Leo XIV. „neue Formen der Sklaverei" an: Menschen, die KI-Systeme betreuen, Fabrikarbeiter, die technologische Geräte herstellen, sowie Kinder, die unter gefährlichen Bedingungen Materialien für Seltene Erden abbauen.

Das Dokument beklagte zudem die Schwächung multilateraler Organisationen und warnte davor, dass die Gewinne der Rüstungsindustrie eine treibende Kraft hinter Konflikten seien. „Die vergangenen 60 Jahre waren von Konflikten von erstaunlicher Brutalität geprägt, die oft die Zivilbevölkerung in massivem Ausmaß betrafen", erklärte Leo. Er warnte auch, dass Staatsführer Kriege beginnen könnten, um Bürger von innenpolitischen Problemen abzulenken – eine Aussage, die angesichts aktueller geopolitischer Spannungen weitreichende Resonanz findet.

Leo XIV. hat in den vergangenen Monaten einen energischeren Ton angeschlagen und sich nach seiner Kritik am Iran-Krieg den Zorn von US-Präsident Donald Trump zugezogen. Mit „Magnifica Humanitas" setzt er nun ein weitreichendes Zeichen – nicht nur für die Kirche, sondern für die globale Debatte über Technologie, Krieg und menschliche Würde.