Spanien ermittelt gegen X, Meta und TikTok wegen KI-Kindesmissbrauchsdarstellungen

Die spanische Regierung hat die Staatsanwaltschaft angewiesen, Ermittlungen gegen die Social-Media-Giganten X, Meta und TikTok einzuleiten. Der Vorwurf: Die Plattformen sollen KI-generierte Darstellungen von sexuellem Kindesmissbrauch verbreitet haben. Dies gab Ministerpräsident Pedro Sánchez bekannt und verschärft damit den Druck auf Big-Tech-Unternehmen in Europa.

Die Entscheidung basiert auf einem technischen Bericht von drei spanischen Ministerien. Regierungssprecherin Elma Saiz betonte, die Behörden könnten "nicht zulassen, dass Algorithmen solche Verbrechen verstärken oder decken". Die Sicherheit, Privatsphäre und Würde von Kindern stehe auf dem Spiel. Die drei betroffenen Unternehmen haben sich bislang nicht zu den Vorwürfen geäußert.

Die Maßnahme ist Teil eines umfassenderen Regulierungspakets, das Sánchez Anfang Februar auf einem Regierungsgipfel in Dubai vorgestellt hatte. Der spanische Premier schrieb auf X: "Diese Plattformen untergraben die psychische Gesundheit, die Würde und die Rechte unserer Kinder. Der Staat kann dies nicht zulassen. Die Straffreiheit dieser Giganten muss enden."

Erschreckende Zahlen aus Spanien

Laut der Kinderrechtsorganisation Save the Children gibt jeder fünfte junge Mensch in Spanien – überwiegend Mädchen – an, dass gefälschte Nacktaufnahmen von ihnen durch KI erstellt und online verbreitet wurden, während sie noch minderjährig waren. Diese alarmierenden Zahlen unterstreichen die Dringlichkeit des Problems.

Das Justizministerium soll die Staatsanwaltschaft nun beauftragen, "die Straftaten zu untersuchen, die X, Meta und TikTok durch die Erstellung und Verbreitung von Kinderpornografie unter Einsatz ihrer KI begehen könnten". Die Ermittlungen könnten weitreichende Folgen für die Plattformen haben.

Internationale Dimension der Ermittlungen

Parallel zu den spanischen Ermittlungen hat die irische Datenschutzkommission (DPC) eine formelle Untersuchung gegen den xAI-Chatbot Grok von X eingeleitet. Dabei geht es um die Verarbeitung personenbezogener Daten und das Potenzial des Bots, schädliche sexualisierte Bilder zu generieren. Die DPC ist als federführende EU-Regulierungsbehörde für Elon Musks Unternehmen X zuständig, da dessen EU-Aktivitäten in Irland ansässig sind.

Spanien steht mit seinem Vorgehen nicht allein da. Die Europäische Kommission untersucht Meta, TikTok und Grok im Rahmen des Digital Services Act. Frankreich, Brasilien und Kanada haben bereits Beschwerden gegen Grok wegen der Verbreitung illegaler Inhalte eingereicht. Vor zwei Wochen durchsuchte die französische Polizei sogar die Büros von X in Paris.

Drastische Maßnahmen geplant

Sánchez hat ein umfassendes Maßnahmenpaket zur Bekämpfung von Online-Missbrauch angekündigt. Dazu gehört ein vorgeschlagenes Verbot des Zugangs zu sozialen Medien für unter 16-Jährige. Im November hatte der spanische Premier bereits angekündigt, dass das Parlament gegen Meta wegen möglicher Datenschutzverletzungen bei Facebook- und Instagram-Nutzern ermitteln werde.

Die Dimension des Problems wird durch Zahlen der britischen Internet Watch Foundation deutlich: Die Organisation meldete im vergangenen Jahr 3.440 KI-Videos von sexuellem Kindesmissbrauch – ein drastischer Anstieg gegenüber nur 13 Videos im Jahr 2024. Diese Entwicklung zeigt, wie schnell sich die Bedrohung durch KI-generierte illegale Inhalte verschärft hat.

Die Ermittlungen gegen die Tech-Giganten markieren einen Wendepunkt im Umgang mit KI-generierten Inhalten. Während die Unternehmen bislang weitgehend selbstregulierend agieren konnten, sehen sich nun mit strafrechtlichen Konsequenzen konfrontiert. Die Entwicklung dürfte auch Auswirkungen auf andere europäische Länder haben, die ähnliche Probleme mit illegalen Inhalten auf Social-Media-Plattformen bekämpfen.