KI-Irrsinn Teil 5: Deloitte, die KI und der versemmelte Report in Australien

In Australien hat die Wirtschaftsprüfungsgesellschaft Deloitte einen Bericht für Australiens Regierung verfasst, und dabei KI eingesetzt. Der Bericht strotzt nur so vor Fehlern, und Deloitte hat dem Auftraggeber 248.000 Euro erstattet. Jetzt kommt heraus, wieviel KI-Schund im Bericht enthalten war.

Wer ist Deloitte?

Deloitte (Deloitte Touche Tohmatsu Limited) ist die umsatzstärkste Management- und Strategieberatung sowie Wirtschaftsprüfungsgesellschaft der Welt. Mit einem weltweiten Netzwerk von Tochtergesellschaften in mehr als 150 Ländern und über 460.000 Mitarbeitern erzielte Deloitte im Geschäftsjahr 2023/2024 einen Umsatz von 58,3 Milliarden Euro.

Der 250.000 Euro Fail in Australien

Ich hatte es zwar mitbekommen, aber nicht separat im Blog thematisiert. Aber ein Blog-Leser hat in diesem Kommentar ein Beitrag zum Thema "wenn AI wild dreht" hinterlassen. Deloitte hatte für das australische Department of Employment and Workplace Relations (DEWR) einen Bericht erstellt und dafür ein üppiges Honorar kassiert. Der Bericht behandelt ein IT-System zur Automatisierung von Sanktionen im Sozialsystem Australiens.

Das Medium Australian Financial Review deckte 22. August 2025 auf, dass dieser Bericht vor Fehlern strotzte, weil zahlreiche falsche bzw. nicht existente Quellen angegeben worden waren. Schnell kam der Verdacht, angeregt durch den Wissenschaftlers Chris Rudge von der Universität Sydney, auf, dass der Report durch KI erstellt worden war. Nachdem das Ganze öffentlich wurde, räumte Deloitte ein, dass "möglicherweise" KI für diese Fehler verantwortlich gewesen sei. Es wurde ein revidierter Bericht vorgelegt, aus dem zahlreiche Fußnoten und Quellenangaben entfernt worden waren.

Zudem hat Deloitte dem australischen Auftraggeber 440.000 australische Dollar (ca. 248.000 Euro) aus der Auftragssumme erstattet, wie das Medium Australian Financial Review Anfang Oktober 2025 meldete (Abo erforderlich). Der Standard geht in diesem Artikel ausführlich auf den Sachverhalt ein.

Das Ganze muss wohl Halluzination in Reinkultur gewesen sein, vorgelegt von einer angeblich renommierten Strategie- und Wirtschaftsprüfungsorganisation und gut bezahlt. Und ein wunderbarer Beleg für einen AI-Fail, wie wir den in Zukunft öfters sehen werden.

Neue Erkenntnisse zum AI-Fail

Zum 6. November 2025 hat Australian Financial Review nachgelegt (Abo erforderlich). Ich bin über nachfolgenden Post von Kevin Beaumont auf das Thema gestoßen.

Die Botschaft des Artikels: Der von KI generierte Deloitte-Bericht war schlimmer als bisher angenommen. Dokumente, die die Medien unter Berufung auf das Informationsfreiheitsgesetz erhielten, zeigen, dass die Fehler in einem von der Bundesregierung in Auftrag gegebenen Deloitte-Bericht, der durch KI-Halluzinationen verfälscht war, weitaus gravierender waren als zuvor bekannt gegeben und Dutzende falscher Verweise enthielten.

Mitarbeiter des australische Ministeriums Department of Employment and Workplace Relations (DEWR) hätten 59 potenzielle Fehler in einer "Schnellüberprüfung" des Berichts identifiziert. Im neuen Artikel heißt es, dass ein Abteilungsleiter des Ministeriums frühzeitig an Deloitte schrieb und auf Verweise auf nicht existierende Dokumente und Gesetze sowie einen falsch benannten Richter hinwies. Dem Schreiben lag eine 16-seitigen Tabelle bei, in der die Ungereimtheiten zusammengefasst waren. Das Ministerium wartete aber weitere fünf Wochen, bis man den 440.000 Australische Dollar teuren Bericht von der Website entfernte. Das Ministerium erklärte zu diesem Zeitpunkt "es untersuche die Vorwürfe".

Die Dokumente, die dem Medium in die Hände fielen, belegen hektische Aktivitäten hinter den Kulissen zwischen dem Ministerium und Deloitte. Das Medium schreibt, dass am 27. August 2025, um 11:46 Uhr, also nur 15 Minuten nachdem die Financial Review die Behörde wegen eines gefälschten Zitats aus einem Robodebt-Fall kontaktiert hatte, ein stellvertretender Sekretär an Deloitte schrieb, dass "weiterhin Fragen zu dem Bericht und den falschen Zitaten gestellt werden".

Am selben Abend versicherte Deloitte dem Ministerium, dass es "den Bericht vollständig überprüfen und alle notwendigen Korrekturen vornehmen" werde. Ein Abgleich der Ursprungsfassung mit dem überarbeiteten Bericht vom 3. Oktober 2025 zeigt, dass bis auf wenige Ausnahmen alle 59 Verweise in der Tabelle entweder geändert, korrigiert oder entfernt wurden.

• Es gab einen Verweis auf die Abschnitte "42UC–42UO" des  australischen Sozialversicherungsgesetzes von 1999, der laut Ministerium nicht existiere.
• Es gab Verweise auf drei Fußnoten, die sich auf eine angebliche Rede von "Richterin Natalie Cujes Perry" mit dem Titel "Administrative Entscheidungsfindung im 21. Jahrhundert: Transparenz und Überprüfung" bezogen. Die Rede habe sich "nicht finden können", in den Zitaten gibt es mutmaßlich eine Verwechslung zwischen Richterin Perry und der Wissenschaftlerin Dr. Natalie Cujes.

Laut Australian Financial Review gab es zahlreiche Referenzen auf nicht auffindbare – und wohl nicht existente Regierungsdokumente. Das ist eigentlich ein Desaster, der für viel Geld erstellte Bericht enthält  in der Ursprungsfassung Dutzende unvollständiger oder falscher Zitate. Wenn dies die Arbeitserleichterung durch KI-generierte Zusammenfassungen und Analysen sein soll, dann gute Nacht. Und ich gewinne leider den Eindruck, dass genau das eintreten wird.

Ähnliche Artikel:
KI-Irrsinn Teil 1: Wenn ChaptGPT, Copilot & Co. dich zu Fake-Orten locken
KI-Irrsinn Teil 2: Amazon schickt Unterlassungserklärung an Perplexity AI für Einkäufe über Comet
KI-Irrsinn Teil 3: KI-generiere "Nichtigkeitsklage" vom Gericht abgewiesen
KI-Irrsinn Teil 4: Wenn die Anwender mal selber machen
KI-Irrsinn Teil 5: Deloitte, die KI und der versemmelte Report in Australien