KI-Halluzinationen: Wenn Fehler in Studien und Beratung landen

Künstliche Intelligenz verspricht Produktivität – doch sie produziert auch Fehler. Sogenannte Halluzinationen, also frei erfundene Fakten und Quellen, tauchen mittlerweile in Berichten großer Beratungsgesellschaften und wissenschaftlichen Studien auf. Der Schaden für Unternehmen, Behörden und die Forschung ist real.

Besonders aufsehenerregend: Ein Bericht der Beratungsgesellschaft KPMG über den weltweiten KI-Einsatz in Unternehmen enthielt laut der Financial Times Fallstudien, die auf KI-Halluzinationen basierten. Ausgerechnet ein Dokument über KI-Risiken war selbst von KI-Fehlern durchzogen. KPMG räumte gegenüber der ARD-Finanzredaktion ein, dass „Richtigkeitsprüfungen nicht ordnungsgemäß durchgeführt worden" seien. Der Konzern kündigte an, Veröffentlichungsprozesse und Kontrollmechanismen zu überprüfen.

KPMG ist dabei kein Einzelfall. EY Kanada veröffentlichte eine Studie, deren KI-generierte Quellenangaben sich als fehlerhaft oder schlicht falsch erwiesen. Deloitte Australien musste eine Analyse zum Sozialhilfeprogramm korrigieren, weil sie nicht existierende Quellen und Zitate enthielt – besonders brisant, da das Dokument für ein Ministerium erstellt worden war.

Beratungsbranche besonders betroffen

Dass diese Pannen ausgerechnet in der Unternehmensberatung häufen, hat einen Grund. Oliver Schlenker, stellvertretender Bereichsleiter des ifo Zentrums für Soziale Marktwirtschaft und Senior Researcher am Institut für Arbeitsmarkt- und Berufsforschung (IAB), erklärt: „Wir sehen, dass in dieser Branche überdurchschnittlich viel KI genutzt wird – sowohl formell als auch informell." Die Branche gilt neben der IT als einer der Bereiche, die aktuell am stärksten von KI verändert werden.

Routineaufgaben wie das Sammeln von Informationen und das Erstellen von Dokumenten lassen sich mit KI schnell erledigen. „Auf den ersten Blick wirkt das erstmal, als gäbe es extreme Produktivitätseffekte, weil ein Report schnell geschrieben ist, für den es früher zwei Wochen gedauert hat. Das macht eine Arbeit aber natürlich noch nicht gut", so Schlenker. Der kritische Prüfschritt fehle häufig noch. Studien deuteten bereits auf eine Aufgabenverschiebung hin: von der Ausführung hin zum Monitoring von KI-Ergebnissen.

Hinzu kommt das Problem der sogenannten Schatten-KI. Laut IAB-Daten nutzen zwei Drittel der Beschäftigten in Deutschland KI am Arbeitsplatz – doch nur ein Drittel hat sie formell eingeführt bekommen. „Wir haben einen sehr hohen Grad an Schatten-KI, bei der das Unternehmen seine Mitarbeitenden möglicherweise nicht angemessen im Umgang mit Fehlern durch KI trainiert hat", warnt Schlenker. Das könne zu erheblichen Problemen führen.

Zahlen belegen das Ausmaß

Die Datenlage ist eindeutig. Eine Untersuchung der Europäischen Rundfunkunion (EBU) ergab, dass 45 Prozent der Chatbot-Antworten im Oktober 2025 „signifikante" Mängel aufwiesen – bei Genauigkeit, Quellenangabe, Kontext oder der Unterscheidung von Tatsache und Meinung. Forscher des Imperial College London, der Stanford University und des Internet Archive stuften bis Mitte 2025 rund 35 Prozent der neu veröffentlichten Websites als KI-generiert oder zumindest KI-unterstützt ein.

Für Unternehmen wird das zunehmend zum geschäftlichen Risiko. In einer Studie der KI-Firma Dataiku berichten 76 Prozent der deutschen Datenverantwortlichen, dass sie im vergangenen Jahr mit geschäftlichen Problemen oder Krisen aufgrund von KI-Halluzinationen konfrontiert waren. Mehr als 54 Prozent der deutschen Firmen nutzen KI laut einer aktuellen ifo-Umfrage bereits in ihren Prozessen.

Wissenschaft unter Druck

Auch in der Forschung wächst das Problem. Wissenschaftler der Cornell University und der University of California untersuchten 2,5 Millionen wissenschaftliche Artikel und fanden fast 150.000 durch Sprachmodelle gefälschte Zitate. Die FAZ berichtet zudem von KI-generierten Sachbüchern, die den Markt zunehmend überschwemmen.

KI-Professor Björn Ommer von der Ludwig-Maximilians-Universität München betont die Verantwortung der Autoren: „Ob ich jetzt KI oder einen Computer einsetze, der mir hilft, Daten aufzubereiten: Ich selbst als Autor trage die Verantwortung für das, was dort zusammengekommen ist." Wissenschaft funktioniere nur, wenn man sich auf die Verlässlichkeit der anderen Seite verlassen könne.

Eine Befragung des Schreibzentrums der Goethe-Universität Frankfurt unter mehr als 4.000 Studierenden zeigt: Die meisten wissen um die Risiken. „Ganz deutlich zeigen Studierende: Sie wissen, dass die KI Fehler macht, dass sie halluziniert und man ihr nicht trauen kann", sagt Zentrumsleiterin Nora Hoffmann. Dennoch nutzen sie KI – jedoch mit dem Bewusstsein, Quellen eigenständig zu prüfen.

Qualitätsstandards gefordert

Nina Kolleck, Professorin für Erziehungs- und Sozialisationstheorie an der Universität Potsdam, beobachtet eine bedenkliche Entwicklung: „Es gibt auf jeden Fall eine Tendenz, die in die Richtung von Social Media und KI geht: alles schneller, alles platter, alles oberflächlicher." Besonders kritisch sieht sie den zunehmenden Ideenklau – Plagiate, die durch KI so verändert werden, dass sie kaum noch als solche erkennbar sind.

Kolleck fordert ethische und qualitative Standards im KI-Einsatz. Auf KI vollständig zu verzichten sei weder möglich noch sinnvoll. „Wir sollten KI nutzen, besser zu werden, indem wir zum Beispiel Programme schreiben und damit viel größere Datensätze analysieren können oder indem wir viel exakter analysieren können, indem wir Fehler erkennen können." Der Schlüssel liege im bewussten und kritischen Umgang – nicht im blinden Vertrauen in Maschinen.