Papst Leo warnt in Enzyklika vor Risiken der KI

Papst Leo hat in einer umfangreichen Enzyklika mit dem Titel „Magnifica Humanitas" (Großartige Menschlichkeit) eindringlich vor den Risiken der Künstlichen Intelligenz gewarnt. Das fast 43.000 Wörter umfassende Dokument thematisiert die Konzentration technologischer Macht in privaten Händen, die Auswirkungen von KI auf Arbeit und Demokratie sowie deren Einsatz in der Kriegsführung.

Im Mittelpunkt der päpstlichen Kritik steht die Machtkonzentration bei privaten, oft transnationalen Akteuren. „Die technologische Macht nimmt somit einen beispiellosen, überwiegend ‚privaten' Aspekt an, was es umso schwieriger macht, diese Macht zu erkennen, zu steuern und auf das Gemeinwohl auszurichten", heißt es in dem Dokument. Die Ressourcen dieser Akteure übersteigen demnach die Kapazitäten vieler Regierungen.

Das Dokument warnt ausdrücklich davor, dass konzentrierte Macht undurchsichtig werde und sich der öffentlichen Aufsicht entziehe. Dies erhöhe „das Risiko verzerrter Entwicklungsformen, die zu neuen Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungleichheiten führen". Der Vatikan fordert daher robuste rechtliche Rahmenbedingungen, eine unabhängige Aufsicht und ein politisches System, das sich seiner Verantwortung nicht entziehe.

KI in der Kriegsführung: Klare ethische Grenzen gefordert

Besonders deutlich positioniert sich die Enzyklika zum Thema KI und Militär. „Die Entwicklung und der Einsatz von KI in der Kriegsführung müssen strengsten ethischen Beschränkungen unterliegen", heißt es darin. Explizit wird festgehalten, dass es „nicht zulässig ist, tödliche oder anderweitig irreversible Entscheidungen künstlichen Systemen anzuvertrauen".

Das Dokument beschreibt eine tiefgreifende Veränderung moderner Konflikte durch die digitale Revolution: Neben konventioneller Kriegsführung gebe es hybride Formen wie Cyberangriffe, Informationsmanipulation, Einflusskampagnen und die Automatisierung strategischer Entscheidungen. KI könne zwar die Verteidigung verbessern, aber auch „die Hemmschwelle für die Anwendung von Gewalt senken, Menschen von ihrer Verantwortung entbinden und eine Kultur fördern, in der der Feind auf eine Statistik und das Opfer auf einen ‚Kollateralschaden' reduziert wird".

Kritisch bewertet die Enzyklika auch das Wachstum des militärisch-industriellen Komplexes. Die enge Verknüpfung von wirtschaftlichen Interessen, dem Militärapparat und politischen Entscheidungen bringe eine „bewaffnete Nation" hervor, in der der Rüstungsmarkt zu einer „autonomen Triebkraft hinter militärischen Entscheidungen" werde.

Arbeit, Demokratie und der Schutz des Einzelnen

Auch die Auswirkungen von KI auf den Arbeitsmarkt werden in „Magnifica Humanitas" thematisiert. Die Konvergenz von Automatisierung, Robotik und KI verändere die Struktur der Arbeit grundlegend. Das Dokument stellt klar: „Der Schutz von Beschäftigungsmöglichkeiten und die unersetzliche Rolle des Einzelnen müssen die allgemeine Regel bleiben. Das Streben nach höheren Gewinnen kann keine Entscheidungen rechtfertigen, die systematisch Arbeitsplätze opfern."

Für die Demokratie sieht die Enzyklika ebenfalls ernste Gefahren. „Die Gleichgültigkeit gegenüber der Wahrheit führt langsam, aber sicher zum Abgleiten in den Totalitarismus", warnt das Dokument. Demokratie bestehe nicht nur aus Regeln und Verfahren, sondern vor allem aus einer aufrichtigen Verpflichtung zum Wohl des Einzelnen und der Gesellschaft.

Beim Thema Dateneigentum bezieht die Enzyklika ebenfalls klar Stellung: „Das Eigentum an Daten darf nicht allein in privaten Händen bleiben, sondern muss angemessen reguliert werden." Insbesondere wenn KI öffentliche Güter und Grundrechte berühre, seien klare Kriterien und eine wirksame Aufsicht unerlässlich.

Appell zu Besonnenheit statt Fortschrittsfeindlichkeit

Die Enzyklika betont ausdrücklich, dass Vorsicht beim KI-Einsatz kein Widerstand gegen den Fortschritt sei. „Die Forderung nach Besonnenheit, strenger Evaluierung und bisweilen sogar einem langsameren Tempo bei der Einführung von KI bedeutet nicht, sich dem Fortschritt entgegenzustellen; vielmehr ist es eine Übung verantwortungsvoller Sorge um die menschliche Familie", heißt es in dem Dokument.

Auch für Familien und Kinder fordert die Enzyklika Schutz: Für Eltern allein sei es schwierig, dem Einfluss von Geschäftsmodellen zu widerstehen, die Aufmerksamkeit und Zeit monetarisierten. Notwendig sei ein Bündnis zwischen politischen Entscheidungsträgern, Bildungseinrichtungen und Familien. Zudem betont das Dokument, dass im Zeitalter von KI und Robotik eine internationale Zusammenarbeit erforderlich sei, die nationale Grenzen überschreite – denn auf die „unsichtbare Hand" des Marktes allein könne man sich nicht mehr verlassen.