Welche Fehler Sie beim Aufsetzen Ihres KI-Projekts vermeiden sollten

Im Sommer letzten Jahres brachte eine vielbeachtete Studie des MIT etwas Nüchternheit und Pragmatismus in die bis dahin euphorische KI-Branche. Der Studie zufolge konnten zum Zeitpunkt der Erhebung nur 5 Prozent aller Projekte mit generativer KI einen messbaren geschäftlichen Mehrwert nachweisen – und das obwohl die befragten Unternehmen sich sehr engagiert in Sachen KI zeigten und 90 Prozent von ihnen sich sogar ernsthaft mit der Anschaffung von KI-Produkten beschäftigt hatten.



Dem Engagement der Unternehmen tat dies keinen Abbruch. Die KI-Transformation läuft weiterhin auf Hochtouren und KI-Pilotprojekte dominieren die Aktivität von IT- und Entwicklungsabteilungen. Aktuelleren Studien zufolge ist der Anteil der KI-Projekte, die ihren angepeilten ROI erreichen oder übertreffen, auf rund 20 Prozent angestiegen. Doch nur etwa ein Drittel aller Pilotprojekte schafft es in den Produktivbetrieb, berichten unisono Deloitte und McKinsey in entsprechenden Studien. Nur die KI-Vorreiter, etwa ein Viertel der von Deloitte befragten Unternehmen, hatten es bis zum Spätsommer 2025 geschafft, mehr als 40 Prozent ihrer KI-Projekte erfolgreich in den Geschäftsbetrieb zu integrieren.


Um mit agentischer KI auch das nächste Kapitel der KI-Innovation anzugehen, ist das Vorhandensein einer Daten- und KI-Governance eine absolute Voraussetzung.
shutterstock/Gorodenkoff



Pilotprojekte im Reality-Check



Verschiedene Studien, ebenso wie die Erfahrungen vieler Experten zeigen, dass die Gründe für das Scheitern von KI-Pilotprojekten über alle Branchen und Unternehmensgrößen hinweg ähnlich sind. Einer der häufigsten Fehler besteht darin, dass KI-Projekte als Initiativen der IT-Abteilung aufgesetzt werden, ohne Absprache mit der jeweiligen Fachabteilung. Dass dies nicht gut gehen kann, versteht sich eigentlich von selbst.



„Die IT kennt die spezifischen Probleme in Fachbereichen wie Finanzen, Produktion, Vertrieb oder Qualitätssicherung in der Regel nicht“, erklärt Dan Hoffmann, Product Specialist für Data & AI bei OEDIV, einem Unternehmen der Oetker-Gruppe. „Deswegen müssen die Gespräche zur Erkundung von Anwendungsfällen zwingend zusammen mit den Fachbereichen geführt werden. Vor allem mit den Entscheidungsträgern, die eine finanzielle Verantwortung für ihren Bereich tragen. Denn sie sind diejenigen, die am besten einschätzen können, wie sich die Lösung eines aktuellen Problems monetär auswirken würde.“



Ein weiterer Fehler besteht darin, sich allzu sehr von den Fähigkeiten großer Sprachmodelle (Large Language Models, LLMs), wie sie etwa in  ChatGPT oder Claude eingesetzt werden, blenden zu lassen. „LLMs haben zwar enorme Fähigkeiten, sie sind aber keine Wissensdatenbanken und besitzen auch kein Langzeitgedächtnis“, erklärt Hoffmann. „So können sie zum Beispiel plausible Ergebnisse liefern, die aber nicht zwingend richtig sind. Falsche Erwartungen gegenüber solchen Modellen können zu Fehlinvestitionen und Enttäuschungen führen.“



Kein ROI ohne solides Datenfundament



Von solchen Fehlern abgesehen identifiziert Deloitte als Hauptgrund für das Scheitern von KI-Projekten eine grundlegende Diskrepanz zwischen den Anforderungen eines Pilotprojekts und denen des Live-Betriebs. So laufen Pilotprojekte meist in einer isolierten Umgebung und arbeiten mit einem bereinigten, oft statischen Datenkontingent. Der Live-Betrieb hat hingegen ungleich höhere Anforderungen – von den nötigen Computing-Ressourcen und die Leistungsfähigkeit der Dateninfrastruktur über die Integration mit anderen Systemen bis hin zur Betriebssicherheit, Governance und Compliance.



Ein allzu klein dimensioniertes Pilotprojekt kann außerdem zu einer Fehleinschätzung der tatsächlichen Betriebskosten im Live-Betrieb führen. „Unternehmen sollte nicht den Fehler begehen, die Betriebskosten eines Prototyps als Metrik für den Betrieb der Live-Anwendung zu nehmen“, mahnt Hoffmann. „Jeder API-Call, jeder menschliche Review-Schritt verursacht im Nachhinein Kosten, die im Rahmen des Prototyps möglicherweise so nicht angefallen sind.“ Dessen sollte man sich bewusst sein, denn bei dieser Haltung seien Folgefehler vorprogrammiert.



„Viele IT-Abteilungen nehmen für ihr Pilotprojekt mächtige Tools und setzen damit kleinere Use Cases um, in der Hoffnung, dadurch ihr Management zu beeindrucken und ein möglichst großes Budget für den Aufbau ihrer KI-Infrastruktur zu bekommen“, erklärt Dan Hoffmann. „Der Use Case mag als Pilotprojekt funktionieren, scheitert aber meistens bei der Überführung in den Produktivbetrieb, weil die Voraussetzungen dafür nicht erfüllt sind. Am häufigsten mangelt es an einer integrierten Datenbasis, die über Abteilungs- und Prozessgrenzen hinweg abschließbar ist. Ohne sie ist die KI nur begrenzt nutzbar, weil sie den Gesamtkontext einer Aufgabe nicht berücksichtigen kann.“



Ohne Governance keine Kontrolle



Existiert eine KI-fähige Basisinfrastruktur nicht, schmilzt auch der angepeilte ROI sehr schnell dahin. KI-Vorreiter haben diese Notwendigkeit schon früh erkannt. In der McKinsey-Studie sagten 46 Prozent der Unternehmen, die bereits KI-Anwendungen live betreiben, dass sie über eine zentralisierte Dateninfrastruktur und -Governance verfügen, weitere 39 Prozent haben ihre Ressourcen zu einem Großteil konsolidiert. Für die Bereiche Risikomanagement und Compliance haben sogar 57 Prozent dieser Unternehmen eine zentrale Instanz eingerichtet. Das Resultat: Unternehmen, die ihre Infrastrukturbasis den Anforderungen von KI-Anwendungen angepasst haben, profitieren am meisten von ihren KI-Projekten, indem sie ihre Produktivität steigern, Routinetätigkeiten automatisieren, Betriebskosten senken, die Kundenzufriedenheit steigern und ihren Umsatz erhöhen.



Die Nutzung so vieler verschiedenartiger Daten in unternehmensweiten Prozessen setzt allerdings eine entsprechende Daten-Governance voraus. „Je stärker KI in Entscheidungen, Kommunikation oder Automatisierung eingreift, desto wichtiger wird die Frage, woher Daten stammen, wer sie sehen darf, wie aktuell sie sind und unter welchen Regeln sie verwendet werden“, erklärt Hoffmann. „Eine integrierte Datenbasis ist deshalb nicht gleichbedeutend mit einem unreglementierten Data Lake, sondern mit einer strukturierten, kontrollierbaren und nachvollziehbaren Informationsgrundlage. Für Unternehmen ist das keine reine Compliance-Frage, sondern eine Voraussetzung, um KI sicher in kritische Prozesse zu integrieren.“



Aufgabe der Daten-Governance ist es, die Datenqualität und -konsistenz zu sichern, die Einhaltung von Zugriffsberechtigungen und Datenschutzstandards wie die DSGVO zu überwachen, Urheberrechte und Lizenzen zu berücksichtigen, Vorurteile zu vermeiden sowie die Skalierbarkeit, Wartbarkeit und Aktualität der Datenbasis sicherzustellen. Daten-Governance ist als Teil einer übergreifenden KI-Governance zu verstehen. Letztere ist wiederum eines der wichtigsten Mittel, um das für viele KI-Anwendungen gesetzlich geforderte Risikomanagement zu betreiben. Hierfür haben die OECD, die EU und die US-Standardisierungsbehörde NIST jeweils Leitlinien, einen Rechtsrahmen und ein Risk Management Framework herausgegeben.



Langfristige Ziele setzen



Um mit agentischer KI auch das nächste Kapitel der KI-Innovation anzugehen, ist das Vorhandensein einer Daten- und KI-Governance eine absolute Voraussetzung. Agentische Governance setzt auf dieses Fundament auf, um die deutlich höheren Anforderungen an Datenintegration und Interoperabilität zu erfüllen. „Ein Agent, der nicht nur antwortet, sondern Aufgaben ausführt, muss Systemzustände, Regeln, Berechtigungen, Prozesskontexte und aktuelle Geschäftsdaten zuverlässig verstehen“, sagt Dan Hoffmann.



„Governance und Vertrauen sind das Fundament für Wachstum“, schreibt die Unternehmensberatung Bain & Company in einem aktuellen Advisory zum diesem Thema. Berechtigungen, Zugriff auf Tools und die Entscheidungen oder Transaktionen, die KI-Agenten ausführen können, müssten deshalb innerhalb festgelegter Parameter liegen. „Die Governance erfordert zudem Identitäts- und Authentifizierungsmodelle, die das Least-Privilege-Prinzip nicht nur auf menschliche Nutzer anwenden, sondern auch auf autonome Agenten ausweiten.“



Apropos Innovation: Das Marketing der IT/KI-Anbieter hatte zur Folge, dass viele Geschäftsführer und Vorstände allein auf kurzfristige Steigerungen in der Produktivität ihrer Mitarbeiter sowie schnellere, effizientere Prozesse setzten. Diese Erwartung ist berechtigt und sie wurde von 80 Prozent der Befragten in der McKinsey-Studie bestätigt. Doch Unternehmen, die aktuell den größten Nutzen aus KI ziehen, erkennen deutlicher die langfristige Rolle der KI für ihr Unternehmen. In der Studie nannten sie wesentlich häufiger Wachstum oder Innovation als zusätzliche Ziele ihres KI-Engagements als der Rest der Befragten)



Ihr KI-Fundament prüfen