So bringen Sie Produktivität, Kosten und Governance für KI in Einklang

CIOs suchen den besten Weg, um KI-Funktionalität möglichst allen Mitarbeitenden zur Verfügung zu stellen. Das ist strategisch klar.



Die Umsetzung scheitert derzeit an einem zentralen Dilemma: Cloud-only-Strategien, die Infrastruktur- oder SaaS-Angebote von KI-Anbietern nutzen, rechnen sich nicht mehr.



Gleichzeitig können Unternehmen ihre internen IT-Systeme nicht vollständig ablösen. Das zwingt CIOs zur unbequemen Frage: Wie skaliere ich KI über mehrere Betriebsorte, ohne die Kosten zu verlieren?



Die Antwort heißt Hybrid – ähnlich wie bei Cloud Computing selbst. Und sie führt zu einer überraschenden Konsequenz: Die Arbeitsplatzrechner gewinnen strategische Bedeutung zurück.






Agentische KI-Anwendungen rechnen sich am besten, wenn sie zumindest teilweise lokal auf dem PC laufen können.
shutterstock/Summit Art Creations



Warum Cloud-only für KI nicht mehr funktioniert



Immer mehr Unternehmen stellen fest: Agentische KI verursacht astronomische Token-Verbrauchsmengen. Ein Agent antwortet nicht auf einen einzelnen Prompt, sondern verketten Aufgaben: Er ruft Daten ab, benutzt mehrere Werkzeuge, koordiniert sich mit anderen Agenten. Laufen diese Schleifen über externe Cloud-APIs, steigen die Token-Kosten schnell an.



Aus diesen Gründen sehen immer weniger Unternehmen ihre KI-Zukunft vorwiegend in der Cloud. In einer Umfrage von Cloudian vom April dieses Jahres in Unternehmen mit besonders hoher Cloud-Nutzung stellte sich heraus, dass gerade deren IT-Entscheidern die Kosten inzwischen kritisch betrachten. Denn 84 Prozent von ihnen überschreiten ihr Budget für Cloud-Speicher, fast jedes fünfte Unternehmen sogar um mehr als 30 Prozent. Die Konsequenz: 75 Prozent von ihnen haben in den vergangenen 24 Monaten einen Teil ihrer Workloads aus der Public Cloud zurückverlagert.



„Unternehmen, die bei klassischen Workloads noch mit den Cloud-Kosten oder Kompromissen bei der Datensouveränität leben konnten, akzeptieren diese Abwägungen bei KI nicht mehr“, sagt Sascha Uhl, Senior Solutions Architect Channels and Alliances bei Cloudian. „Die Anforderungen an die Latenz sind höher, die Daten sensibler und die Kosten im großen Maßstab schwerer tragbar.“



Hinzu kommen zwei operativ-strategische Probleme. Laut der Cloudian-Umfrage bestätigen 55 Prozent der Cloud-intensiven Unternehmen, die Cloud würde die Anforderungen von KI-Anwendungen an die Latenz nicht zuverlässig erfüllen. 52 Prozent müssen ihre Trainingsdaten für KI aus Compliance- oder Sicherheitsgründen On-Premises halten. Wer bei klassischen Workloads noch Cloud-Kompromisse akzeptiert hat, tut das bei KI nicht mehr.



On-Premises wird die wirtschaftlich sinnvolle Antwort



Die Analysten von signal65 haben versucht, diese Rechnung in der Studie The Economics of Agentic AI im Auftrag von Dell und Nvidia konkreter darzustellen. Hierfür haben sie die Kosten verglichen zwischen einem reinen Cloud-Setup und lokal betriebener KI, wobei die On-Premises-Infrastruktur mit Hardware aus dem Dell AI Factory-Programm betrieben wurde. Das Ergebnis ist deutlich.



Demnach lassen sich in Software-Entwicklung 87 bis 98 Prozent der Kosten einsparen, in Verkaufstätigkeiten 76 bis 91 Prozent und in Sachbearbeitung 28 bis 94 Prozent — je nachdem, wie viele Agenten involviert sind.



Experten rechnen deshalb auch bei KI-Anwendungen mittelfristig mit einem Hybrid-Betrieb: Workloads, deren Token-Verbrauch die Kosten exponentiell hochtreibt, laufen lokal. Workloads mit moderatem KI-Aufwand oder speziellen SaaS-APIs bleiben in der Cloud.



Doch die Rechnung hat eine Lücke: Sie berücksichtigt nicht die zukünftige Rolle der Arbeitsplatzrechner.



KI-PCs als wirtschaftlicher Hebel



KI-PCs sind heute noch teuer, dennoch kann sich ein Kauf schnell amortisieren. Das Verfassen eines Texts zum Beispiel nimmt heute ca. 2.000 Token in Anspruch. Bei agentischer KI vervielfacht sich der Verbrauch. Die Lösung: Ein großer Teil dieser Agententätigkeit kann bereits heute in KI-PCs abgearbeitet werden.



Aufgrund dieser Entwicklung werden sich Unternehmen bald mit KI-PCs beschäftigen müssen. „Was vor einem Jahr noch gut genug war, reicht im KI-Zeitalter nicht mehr aus“, sagte John Siegal, Senior Vice President of Product Marketing bei Dell Technologies, neulich in einem Gespräch mit dem US-Magazin Silicon Angle. Laut Siegal wollen seine Kunden auf KI-PCs umsteigen, um agentische KI-Workflows lokal ausführen zu können. „Kleinere, leistungsstärkeren Modelle mit 13 Milliarden Parametern werden schon sehr bald verfügbar sein, und zu leistungsstarken Assistenten für durchschnittliche Nutzer werden“, so Siegal.



Neue Herausforderungen fürs Endpoint Management



Damit werden Unternehmen jedoch ihre Endgeräteverwaltung erweitern müssen, denn KI-PCs benötigen eine Kombination aus traditionellen UEM-Funktionen (Unified Endpoint Management) und KI-spezifischen Features. Eine der zentralen Herausforderungen liegt darin, ressourcenintensive Komponenten wie NPUs oder GPUs zu verwalten. UEM-Lösungen müssen nicht nur die Aktualität ihrer Treiber und Firmware im Auge behalten, sondern auch deren Performance, Auslastung, Temperatur und Energieverbrauch. Zugleich erfordert die Installation und Aktualisierung großer KI-Modelle effiziente Mechanismen, um den Netzwerkverkehr nicht zu überlasten.



Ein kritisches Thema ist Sicherheit und Compliance. UEM-Systeme müssen die Integrität der KI-Prozesse sicherstellen und sie vor Cyberangriffen, Malware und Manipulationen schützen.



Außerdem verarbeiten KI-PCs oft sensible Daten, die an strenge Compliance-Vorgaben wie die DSGVO geknüpft sind. Das setzt eine lokale Datenverarbeitung, die Einhaltung von Zugangs- und Protokollierungsrichtlinien und detaillierte Audit-Logs voraus. Eine rollenbasierte Verwaltung ist deshalb unumgänglich, um die PC-Flotte effektiv standardisieren zu können.



Windows als „Dashboard für KI-Anwendungen“



Bei der Aktualisierung der UEM-Lösungen für KI-PCs dürfte Microsoft mit am weitesten sein. Der Marktführer sieht die Weiterentwicklung seiner UEM-Suite Microsoft Intune als Teil einer umfassenden Transformation. „Bei Windows gehen wir über dessen Rolle als reines Betriebssystem hinaus“, erklärt Mary Ann Anderson, Marketing Director bei Microsoft und zuständig für die Partnerschaft mit Dell.



Windows entwickle sich laut Anderson eher in eine Art Dashboard für KI: „Schon bald können Mitarbeiter ihre eigenen Agenten verwalten, vielleicht sogar eine kleine Armee von Agenten. Das muss auf eine Weise geschehen, die kontrolliert und äußerst sicher ist.“



Entsprechend hat Microsoft in Intune spezifische Funktionen für KI-PCs integriert, insbesondere für Geräte mit Windows 11 AI-Edition und Copilot+-Fähigkeiten. Intune unterstützt die Zentralisierung des Managements von NPUs und GPUs durch Treiber- und Firmware-Updates und überwacht die Hardware-Auslastung. Im Bereich Sicherheit bietet Intune erweiterte Richtlinien, um KI-Prozesse zu isolieren und Endpoint Protection zu integrieren, um Bedrohungen wie Kryptomining oder Datenlecks zu erkennen.



Zudem kann Intune KI-Software skaliert bereitstellen: modulare Pakete und Automatisierungsfunktionen vereinfachen es, große Modelle zu verteilen und Abhängigkeiten festzulegen. Durch die Anbindung an die Microsoft-Cloud und Azure AI können Unternehmen zudem Compliance-Anforderungen zentral steuern und Audit-Logs für KI-Aktivitäten führen.



Das Modell in der Praxis



Die Konsequenz für CIOs ist eine dreiteilige Architektur:




Lokale KI-Verarbeitung auf ausgewählten Workloads (Token-intensive Agenten, sensible Daten, Latenz-kritische Prozesse) über KI-PCs und lokale Infrastruktur



Cloud-KI für spezialisierte Use Cases (Modelle, die es nur in der Cloud gibt, oder seltene Workloads ohne Token-Skalierungsproblem)



Zentrale Governance über Intune und die Microsoft-Cloud, die alle Komponenten vereint steuert




Dieses Konzept erspart nicht nur Kosten, sondern macht KI-Flotten überhaupt erst kalkulierbar und sicher. Wer lokal Agent-Agenten auf KI-PCs laufen lässt, braucht aber sichtbar transparente Kontrollen. Intune liefert genau das.



Wie Sie Ihr KI-Portfolio je nach Kosten-, Performance- und Governance-Anforderungen sinnvoll zwischen Cloud und der eigenen Infrastruktur aufteilen können, erfahren Sie in unserem Webcast am 24. September 2026 um 14:00 Uhr.