SAP-Studie: KI rechnet sich – Governance hinkt hinterher

Sean Kask, Chief AI Strategy Officer bei SAP SAP



Unternehmen stehen derzeit vor zwei gleichzeitigen Herausforderungen: Die Risiken rund um KI entwickeln sich schneller als die Governance, während sich der geschäftliche Nutzen oft nur schwer messen lässt.



Das ist eines der Kernergebnisse von „The Value of AI“, einer Studie, die SAP in Zusammenarbeit mit Oxford Economics in diesem Jahr zum zweiten Mal erstellt hat. Für die Studie wurden weltweit 2.600 Führungskräfte aus 13 Ländern befragt, darunter 200 Entscheiderinnen und Entscheider aus Deutschland.



Hohe Erwartungen, geringe Vorbereitung



Im Durchschnitt wollen deutsche Unternehmen in diesem Jahr rund 35 Millionen Euro in KI investieren und rechnen mit einem ROI von 24 Prozent (Vorjahr: 17 Prozent). Besonders hoch sind die Erwartungen an KI-Agenten: Ihr wirtschaftlicher Nutzen soll innerhalb von zwei Jahren auf rund 18 Millionen Euro steigen. Und: 90 Prozent der befragten Unternehmen schreiben Agentic AI das Potenzial zu, ihre Organisation grundlegend zu verändern. Andererseits fühlen sich nur vier Prozent der Unternehmen vollständig auf den Einsatz von KI-Agenten vorbereitet.



Insbesondere beim Thema Governance bestehen Lücken:




Nur elf Prozent der Befragten halten die Steuerungsfähigkeiten in ihrem Unternehmen für ausreichend,



mehr als 50 Prozent verfügen nicht über Prozesse zur menschlichen Kontrolle von KI-Agenten, und



lediglich 30 Prozent haben Berechtigungs- oder Agentenverzeichnisse eingerichtet.




Gleichzeitig befürchten oder akzeptieren viele Unternehmen, KI-Agenten schneller einzuführen, als sie diese kontrollieren können. Weitere Bremsklötze sind Schwächen in der Organisation des KI-Einsatzes, mangelhafte Datenqualität, unzureichende Qualifizierung der Beschäftigten sowie die weit verbreitete Nutzung von Schatten-KI.



Im CW-Gespräch nimmt Sean Kask, Chief AI Strategy Officer bei SAP, zu den wichtigsten Ergebnissen der Studie Stellung.



“Die Governance-Frage ist aktuell die größere Herausforderung”



Herr Kask, im Vorwort der Studie schreiben Sie, dass Unternehmen derzeit vor zwei Herausforderungen gleichzeitig stehen: Die Risiken rund um KI entwickeln sich schneller als die Governance, während sich der geschäftliche Nutzen oft nur schwer messen lässt. Was bereitet Unternehmen die größeren Probleme?



Sean Kask: Den geschäftlichen Nutzen von IT-Investitionen zu messen, war nie einfach. Das gilt auch für KI. Deshalb halte ich die Governance-Frage aktuell für die größere Herausforderung. Klassische Governance-Prinzipien und bewährte Verfahren für sichere Softwareentwicklung bleiben zwar auch im Zeitalter großer Sprachmodelle und agentischer KI wichtig. Gleichzeitig entstehen aber völlig neue Risiken.



Sobald Unternehmen KI breit ausrollen, entdecken sie beispielsweise plötzlich Hunderte oder sogar Tausende sogenannter „Shadow Agents“, die Mitarbeitende ohne zentrale Kontrolle einsetzen. Oder sie stellen fest, dass ein erheblicher Teil der Belegschaft Inhalte in private ChatGPT-Konten kopiert. Solche Risiken werden häufig erst sichtbar, wenn KI bereits produktiv genutzt wird.



Deutsche Unternehmen investieren laut Ihrer Studie mit durchschnittlich fast 40 Millionen Dollar mehr in KI als Unternehmen in allen anderen untersuchten Ländern. Woran liegt das?



Kask: Mich hat weniger die Höhe der Investitionen überrascht als vielmehr die Tatsache, dass sich Investitionsniveau und erzielter Return on Investment über die verschiedenen Länder hinweg insgesamt sehr ähnlich entwickelt haben. Warum Deutschland mehr investiert, lässt sich nicht eindeutig beantworten. Teilweise dürfte es schlicht daran liegen, dass die Kosten hier höher sind als beispielsweise in Indien.



Wir sehen aber auch eine hohe KI-Adoption bei deutschen Unternehmen. SAP verfügt über ein Dashboard, mit dem wir nachvollziehen können, wie unsere Kunden KI-Funktionen einsetzen. Deutschland gehört dabei zu den Ländern mit einer besonders hohen Nutzung. Hinzu kommen die starke industrielle Basis und die politischen Impulse aus Europa, die den Einsatz von KI vorantreiben. Entsprechend investieren Unternehmen hier gezielt in den Aufbau entsprechender Kompetenzen.



Laut Studie sind 47 Prozent der deutschen Unternehmen mit dem Return on Investment ihrer KI-Investitionen zufrieden. Gleichzeitig sagen 77 Prozent, dass sie das Potenzial von KI noch längst nicht ausschöpfen. Ist das nicht ein Widerspruch?



Kask: Nein, dieses Muster sehen wir weltweit. Unternehmen investieren zunächst in einige wenige KI-Anwendungsfälle und stellen fest: Das funktioniert, wir erzielen einen Mehrwert. Entsprechend sind sie mit ihrer Investition zufrieden.



Doch genau dadurch erkennen sie auch weitere Einsatzszenarien. Sie beschäftigen sich mit KI-Agenten und möchten diese ebenfalls nutzen. Genau an diesem Punkt stoßen viele jedoch auf neue Herausforderungen bei der Einführung und Skalierung.



Die Studie zeigt deshalb vor allem eine Lernkurve: Je mehr Erfahrungen Unternehmen mit KI sammeln, desto größer wird ihr Bewusstsein für das bislang ungenutzte Potenzial.



Der Studie zufolge verfügen nur 35 Prozent der deutschen Unternehmen über KPIs auf Vorstandsebene, die direkt an die Einführung von KI gekoppelt sind. Welche Kennzahlen sollten Aufsichtsgremien und CEOs aus Ihrer Sicht unbedingt messen?



Kask: Ein zentraler Indikator ist für uns das Enablement der Mitarbeitenden. Wie viele Beschäftigte haben bereits Schulungs- oder Upskilling-Programme rund um KI erfolgreich absolviert? Ohne entsprechende Kompetenzen bleibt auch die KI-Adoption hinter ihren Möglichkeiten zurück.



Ebenso wichtig ist Transparenz. Unternehmen sollten wissen, welche KI-Agenten in ihrer Landschaft tatsächlich im Einsatz sind. SAP bietet hierfür den SAP AI Agent Hub an, der der Agenten aus SAP- und Drittanbieter-Umgebungen automatisch entdeckt und inventarisiert. Kunden konnten so bereits Tausende Agenten identifiziert, was den Bedarf an zentraler Governance und Transparenz deutlich macht.



Außerdem sollten Unternehmen einen vollständigen Überblick über alle KI-Anwendungsfälle haben. Für jeden Use Case sollte ein belastbarer Business Case vorliegen. Häufig erleben wir zwei Extreme: Entweder steht der Vorstand unter Druck, möglichst schnell KI einzuführen und stellt dafür pauschal Budget bereit. Oder das Management hält sich zunächst zurück. Dann entstehen überall im Unternehmen eigenständig Pilotprojekte, einzelne Fachbereiche beschaffen eigene Werkzeuge und schließen eigene Verträge ab.



Bei SAP verfolgen wir deshalb einen klar strukturierten Auswahlprozess. Jede Idee durchläuft zunächst eine Bewertung des zu erwarteten Geschäftswerts. Danach prüfen wir die technische Machbarkeit, die Datenverfügbarkeit sowie ethische und Governance-Aspekte. Aus Sicht des Managements ist entscheidend, jederzeit Transparenz über alle laufenden KI-Projekte zu haben und diese konsequent nach ihrem Geschäftswert zu priorisieren.



“Auch Agenten brauchen einen ‘Hire-to-Retire’-Lebenszyklus”



Auch mit der Einführung von Dutzenden oder sogar Hunderten KI-Agenten wird die Governance immer komplexer. Welche Funktionen benötigen Enterprise-Plattformen, um KI-Agenten sicher und kontrolliert im großen Maßstab zu verwalten?



Kask: Wir versuchen bewusst, KI nicht zu stark zu vermenschlichen. Dennoch hilft die Analogie: Für Agenten braucht es einen vollständigen „Hire-to-Retire“-Lebenszyklus. Das beginnt mit der Erkennung und Registrierung eines Agenten. Anschließend wird er in die Unternehmensumgebung integriert, erhält die notwendigen Berechtigungen und Zugriff auf die Datenquellen, die er für seine Aufgaben benötigt.



Ebenso wichtig ist die Observability. Unternehmen müssen jederzeit nachvollziehen können, was ein Agent im System tatsächlich macht. Darüber hinaus sollten sie Leistungskennzahlen erfassen: Erreicht der Agent die gewünschten Ergebnisse? Wie effizient arbeitet er? Wie viele Tokens verbraucht er? Wie viele Verarbeitungsschritte benötigt er für eine Aufgabe?



Letztlich geht es um mehrere Bausteine: ein vollständiges Inventar aller Agenten, geeignete Governance-, Risk- und Compliance-Mechanismen (GRC), Transparenz über das Verhalten der Agenten sowie eine kontinuierliche Überwachung. Nur so lässt sich sicherstellen, dass KI-Agenten dauerhaft innerhalb der definierten Leitplanken arbeiten und den gewünschten Geschäftswert liefern.



Welche Geschäftsprozesse werden Unternehmen Ihrer Einschätzung nach in den nächsten zwei bis drei Jahren tatsächlich vollständig an KI-Agenten delegieren?



Kask: Derzeit funktionieren solche Agenten vor allem in klar abgegrenzten Anwendungsfällen besonders gut. SAP wird mehr als 50 (aktuell 34) spezialisierte KI-Agenten veröffentlichen.



Ein Beispiel ist die periodische Rechnungslegung. Dort müssen Buchungen anhand zahlreicher Regeln erfolgen, die in Dokumenten, E-Mails oder früheren Transaktionen hinterlegt sind. Der Agent analysiert diese verschiedenen Informationsquellen, leitet daraus eine Empfehlung ab und schlägt dem Sachbearbeiter die passende Buchung vor.



Nach dem, was wir aus Kundenprojekten hören, verbringen Mitarbeitende mittelgroßer Unternehmen heute oft rund zwölf Stunden pro Monat mit diesen Aufgaben. Mithilfe eines KI-Agenten lässt sich dieser Aufwand auf zwei bis drei Stunden reduzieren.



Ein weiteres Einsatzfeld ist die Produktionsplanung. Ändern sich Liefertermine oder gehen kurzfristig neue Aufträge ein, muss der gesamte Produktionsplan angepasst werden. Genau solche komplexen Optimierungsaufgaben eignen sich hervorragend für KI-Agenten.



Grundsätzlich gibt es kaum Grenzen dafür, in welchen eng umrissenen Geschäftsprozessen Agenten eingesetzt werden können. Vollständig autonom werden sie allerdings zunächst nicht agieren.



“Vertrauen in KI beginnt mit einer stabilen Basis”



Viele Unternehmen tun sich noch schwer, KI-Agenten zu vertrauen. Schließlich arbeiten große Sprachmodelle probabilistisch und können halluzinieren. Gerade bei Finanzprozessen ist das problematisch. Wie schaffen Sie Vertrauen?



Kask: Vertrauen beginnt mit einer stabilen Basis. Die ERP-Systeme bleiben das verlässliche „System of Record“. Sie arbeiten deterministisch, enthalten die Geschäftslogik und die relevanten Unternehmensdaten. KI-Agenten bauen auf dieser Basis auf – sie ersetzen sie nicht.



Ebenso wichtig ist das „Human in the Loop“-Prinzip. Mitarbeitende müssen nachvollziehen können, was der Agent macht, seine Ergebnisse überprüfen und bei Bedarf eingreifen. Deshalb spielt auch die Qualifizierung der Beschäftigten eine entscheidende Rolle. Sie müssen verstehen, wie generative KI funktioniert und wo ihre Grenzen liegen.



Natürlich können Sprachmodelle halluzinieren. Gleichzeitig darf man nicht vergessen, dass auch Menschen nicht fehlerfrei arbeiten. Entscheidend ist das Zusammenspiel von Mensch und KI. So lassen sich sowohl die Effizienz als auch die Qualität vieler Geschäftsprozesse verbessern.



Ein weiterer wichtiger Baustein ist Transparenz. Unsere globale KI-Ethikrichtlinie schreibt beispielsweise vor, dass Nutzer immer erkennen können müssen, wenn KI beteiligt ist. In Joule lässt sich nachvollziehen, welche Datenquellen der Agent genutzt hat und welche Schritte er bei seiner Entscheidung durchlaufen hat. Diese Nachvollziehbarkeit ist eine wesentliche Voraussetzung für Vertrauen.



Was unterscheidet einen SAP-Agenten von einem allgemeinen KI-Agenten, der lediglich auf ein ERP-System zugreift?



Kask: Der entscheidende Unterschied liegt darin, dass Joule und die SAP-Agenten direkt im ERP-System verankert sind. Dort haben wir beispielsweise einen „Knowledge Graph“ aufgebaut, der die semantischen Beziehungen zwischen sämtlichen Tabellen, Geschäftsobjekten und Datenfeldern beschreibt.



Um die Größenordnung zu verdeutlichen: Der SAP S/4HANA Knowledge Graph basiert auf rund 452.000 ABAP-Tabellen, 7,3 Millionen Datenfelder und Tausenden analytischen Sichten. Die semantischen Beziehungen zwischen diesen Artefakten werden im Knowledge Graph modelliert und für KI-Anwendungen nutzbar gemacht.



Wenn ein Anwender beispielsweise sämtliche offenen Bestellungen einsehen möchte, muss der Agent nicht erst mühsam nach den relevanten Informationen suchen. Er weiß sofort, welche Tabellen und Objekte relevant sind und kennt auch die Beziehungen zwischen einer Bestellung, einer Bestellanforderung, den zuständigen Genehmigern und weiteren Geschäftsobjekten. Dadurch arbeitet der Agent nicht nur deutlich präziser, sondern benötigt auch erheblich weniger Tokens, weil er den Suchraum stark eingrenzen kann.



Versucht man stattdessen, KI lediglich auf ein bestehendes System aufzusetzen oder Daten aus einem relationalen ERP-System herauszulösen, gehen viele dieser Beziehungen verloren. Man zerstört gewissermaßen den semantischen Kontext, der für präzise Antworten entscheidend ist.



Deshalb betrachten wir das ERP-System als einen enormen strategischen Vorteil. Es ist seit Jahrzehnten das System of Record und enthält rund 50 Jahre kodiertes Geschäfts- und Prozesswissen. Dieses Wissen bildet die Grundlage für das, was wir als „Autonomous Enterprise“ bezeichnen. Die Agenten bauen auf diesem Wissen auf und entwickeln es weiter.



Künftig werden SAP-Agenten zudem über Standards wie Agent-to-Agent (A2A) bidirektional mit Agenten anderer Anbieter kommunizieren.



Laut Ihrer Studie schafft KI derzeit den größten Mehrwert bei der Entscheidungsfindung, der Kundeninteraktion und der Gewinnung neuer Erkenntnisse – weniger bei klassischen Produktivitätssteigerungen. Wird sich dadurch die Art verändern, wie Unternehmen KI-Investitionen künftig begründen?



Kask: Die Produktivität wurde in unserer Studie lediglich etwas niedriger bewertet als beispielsweise die Gewinnung neuer Erkenntnisse. Langfristig bleibt Produktivität aber das eigentliche Ziel. Gerade Europa leidet seit Jahren unter einem vergleichsweise schwachen Produktivitätswachstum.



Bei SAP bewerten wir deshalb jede neue KI-Funktion zunächst anhand ihres konkreten Geschäftsnutzens. Für alle Agenten und KI-Funktionen, die wir in unserem „AI Feature Catalog“ erfassen, erstellen wir zunächst eine Wertanalyse. Wir fragen: Welchen Nutzen hat die Funktion für den Anwender? Trägt sie zu mehr Umsatz bei? Steigert sie die Produktivität? Erst dann wird sie weiterentwickelt.



Im Moment liegt der größte Mehrwert häufig noch darin, Informationen aus strukturierten und unstrukturierten Datenquellen zusammenzuführen und per natürlicher Sprache zugänglich zu machen. Der nächste Schritt besteht aber darin, diese Erkenntnisse direkt in effizientere Geschäftsprozesse zu überführen. Genau dort werden sich die größten Produktivitätsgewinne künftig realisieren.



“Der größte Fehler wäre, gleich das gesamte Unternehmen zu transformieren”



Wenn Sie CIOs nur einen oder zwei Ratschläge für den Übergang von generativer KI zu KI-Agenten geben könnten – welche wären das?



Kask: Der größte Fehler wäre aus meiner Sicht, gleich das gesamte Unternehmen transformieren oder zunächst sämtliche Daten perfekt aufbereiten zu wollen.



Stattdessen sollte man überlegen, welche Art von Agent einen hohen Mehrwert schaffen kann – und diesen dann umsetzen. Natürlich braucht dieser Agent Zugriff auf konsistente und kontextreiche Unternehmensdaten. Genau daran arbeiten wir bei SAP mit Technologien wie dem „Knowledge Graph“, der die semantischen Zusammenhänge der Unternehmensdaten abbildet.



Darüber hinaus stellen wir mit „Data Products“ und der „SAP Business Data Cloud“ Werkzeuge bereit, die Daten aus unterschiedlichen Quellen für KI-Agenten nutzbar machen. Dank Zero-Copy- und Data-Fabric-Ansätzen können Informationen aus Altsystemen, Snowflake oder ERP-Systemen zusammengeführt werden, ohne dass Daten dafür zunächst umfangreich repliziert werden müssen. Für einen Einkaufsagenten lassen sich so genau die relevanten Daten für den jeweiligen Anwendungsfall bereitstellen.



Der entscheidende Punkt ist: Unternehmen müssen nicht warten, bis sie vollständig in die Cloud migriert oder ihre gesamte Datenlandschaft konsolidiert haben. Mit den heute verfügbaren Technologien lassen sich Daten bereits jetzt für konkrete KI-Agenten nutzbar machen, kontrolliert verwalten und auf dieser Basis schnell erste geschäftliche Mehrwerte erzielen. Wer dagegen erst auf die perfekte Ausgangslage wartet, läuft Gefahr, den Anschluss zu verlieren.