Manchmal schreibt das Leben – oder besser gesagt, die Künstliche Intelligenz – die absurdesten Geschichten. Diesmal handelt es sich nicht um eine kuriose Anekdote aus dem Silicon Valley, sondern um einen handfesten Vertrauensbruch eines der größten Beratungsunternehmen der Welt: KPMG. Ihr jüngster Bericht mit dem vielversprechenden Titel 'Redefining excellence in the age of agentic AI' sollte eigentlich die Möglichkeiten von KI in Unternehmen aufzeigen. Stattdessen offenbarte er eine peinliche Wahrheit: Er enthielt nachweislich erfundene Fallstudien.
Die Vorwürfe sind gravierend: Der KPMG-Bericht präsentierte angebliche KI-Einsätze bei prominenten Organisationen wie der Schweizer Großbank UBS, dem britischen Gesundheitsdienst NHS, den Schweizerischen Bundesbahnen (SBB) und Transport for London. Das Problem? Keine dieser Organisationen wusste etwas davon. Die Ungereimtheiten wurden zunächst von der Forschungsgruppe GPTZero, bekannt für ihre Tools zur Erkennung KI-generierter Texte, aufgedeckt und anschließend von der renommierten Financial Times überprüft. Das Ergebnis war eindeutig: Alle genannten Unternehmen dementierten die Darstellungen im KPMG-Bericht.
Die Konsequenzen ließen nicht lange auf sich warten. KPMG sah sich gezwungen, den Bericht von einigen seiner Webseiten zu entfernen. Ein erheblicher Imageschaden für ein Unternehmen, das sich als Experte für die Implementierung von KI positioniert und diese Kompetenz teuer an seine Kunden verkauft. Es ist eine Ironie, die man sich kaum ausdenken kann: Ein Berater, der anderen Unternehmen den Weg in die KI-Zukunft weisen will, stolpert über die grundlegendsten Verifikationsprozesse bei seinen eigenen Publikationen. Dieser Vorfall wirft ein Schlaglicht auf die anhaltenden Herausforderungen im Umgang mit KI-gestützten Inhalten, selbst im professionellen Kontext.
Experten wie Edward Tian, der Kopf hinter GPTZero, warnen eindringlich vor den Folgen solcher Fehltritte. Er spricht von 'Sekundär-Halluzinationen', die entstehen, wenn fehlerhafte Berichte großer Beratungsfirmen – die aufgrund ihrer Glaubwürdigkeit als besonders verlässlich gelten – von KI-Systemen und Menschen gleichermaßen unkritisch weiterverbreitet werden. Das Vertrauen in die Technologie und in die Informationen über sie wird so nachhaltig untergraben. Dieser Fall zeigt einmal mehr, dass die menschliche Verifizierung und Skepsis, auch gegenüber scheinbar autoritären Quellen, in der Ära der Künstlichen Intelligenz unverzichtbar sind. Es reicht nicht, nur über KI zu sprechen; man muss auch die Fakten prüfen.
