Deloitte muss fehlerhaften Regierungsbericht korrigieren

Ein vermeintlich professioneller Regierungsbericht entpuppte sich in Australien als fehlerhaftes Produkt künstlicher Intelligenz – mit finanziellen Konsequenzen für das Beratungsunternehmen Deloitte. Für rund 250.000 Euro hatte die australische Regierung bei Deloitte eine Analyse in Auftrag gegeben, die sich mit Jobsuchenden im Sozialsystem befasste. Nach der Veröffentlichung stellte sich jedoch heraus, dass der Bericht zahlreiche inhaltliche Mängel enthielt. Teile des Textes waren mithilfe generativer KI erstellt worden, die fehlerhafte Informationen produziert hatte. Unter anderem wurden nicht existente wissenschaftliche Belege sowie falsche Zitate aus einem Gerichtsurteil eingebaut.

Die Entdeckung dieser Ungenauigkeiten gelang zunächst einem Universitätsprofessor aus Sydney, der auf gravierende inhaltliche Schwächen hinwies. Er sprach von „Halluzinationen“ der KI, fehlerhaften Interpretationen und unbegründeten Annahmen. Ende August berichtete die Zeitung „Australian Financial Review“ über die Fehler. Das zuständige Arbeitsministerium entfernte den Bericht daraufhin von seiner Webseite. Inzwischen steht dort eine überarbeitete Version, die die beanstandeten Passagen korrigiert.

Politisch sorgte der Vorfall für deutliche Kritik. Senatorin Deborah O’Neil von der Labor-Partei warf Deloitte ein „menschliches Intelligenz-Problem“ vor. Sie spielte damit auf die Verantwortung der beteiligten Mitarbeiter an, die die maschinell generierten Fehler nicht erkannt hatten. Der Ausdruck erinnert an eine Bemerkung des ehemaligen Bundeswirtschaftsministers Peter Altmaier, der bereits 2019 humorvoll betonte, dass in Ministerien oft schon die „natürliche Intelligenz“ eine Herausforderung darstelle, bevor man über künstliche nachdenke.

In der Beratungsbranche ist der Einsatz von KI mittlerweile weit verbreitet. Laut einer Erhebung des Bundesverbands Deutscher Unternehmensberatungen nutzen 87 Prozent der Consultingfirmen entsprechende Systeme, vor allem für Recherche und Wissensmanagement. Die Technik wird häufig unauffällig in Präsentationen, Briefings oder Berichte integriert. Fehlerhafte Inhalte bleiben dabei oft unbemerkt, wenn sie nicht gezielt überprüft werden.

Deloitte räumte die Fehler im Bericht ein, wies jedoch nicht ausdrücklich darauf hin, dass KI dafür verantwortlich war. Sowohl das Unternehmen als auch das Arbeitsministerium betonten, dass die grundlegenden Befunde und Empfehlungen des Reports von den Korrekturen unberührt blieben. Die Rückzahlung des Honorars an die Regierung markiert dennoch einen ungewöhnlichen Schritt und verdeutlicht, welche praktischen Folgen der unkritische Einsatz künstlicher Intelligenz in sensiblen Dokumenten haben kann.