Private AI ist die smartere Strategie

Um sich vor potenziellen KI-Kostenexplosionen zu schützen, setzen immer mehr Anwender auf den Einsatz in der Private Cloud oder On-Premises.Carsten Medom Madsen | shutterstock.com



In den letzten Jahren ging man in der Unternehmens-IT standardmäßig davon aus, dass KI denselben Weg wie viele andere Workloads einschlagen würde – und sich in der Public Cloud etabliert. Die Annahme schien auf den ersten Blick plausibel: Schließlich verfügen Hyperscaler über Infrastruktur, GPU-Kapazität, Managed Services und Entwickler-Ökosysteme. Wer schnell vorankommen wollte, für den schien KI in der Public Cloud lange die naheliegende Lösung zu sein.



Diese Logik wird nun durch die Realität in Frage gestellt. Unternehmen vollziehen mit Blick auf KI zunehmend den Schritt von Experimenten hin zum Produktivbetrieb. Dabei stellen immer mehr Anwender fest, dass die Public Cloud zwar ein komfortabler Ausgangspunkt ist – aber langfristig nicht die praktischste Lokation: Immer öfter kommt in Unternehmen die Frage auf, ob sie es sich leisten können, ihre KI-Strategie langfristig aufzubauen auf:




Kostenmodellen, die sie nicht kontrollieren,



Risiken, die sie nicht vollständig eindämmen können, und



Architekturen, die eher auf die Skalierbarkeit der Anbieter als auf die Wirtschaftlichkeit des eigenen Unternehmens optimiert sind.




Deshalb wird KI in der Private Cloud sowie On-Premises zunehmend populärer. Die Anwender wechseln jedoch nicht auf diese Lösungen, weil das gerade angesagt ist. Sondern, weil es in vielen Fällen die finanziell vernünftigste Entscheidung ist.



Wann schnappt die KI-Token-Falle zu?



Allgemein gelten Token-basierte KI-Preismodelle weiterhin als stabiles, ausgereiftes Geschäftsmodell. Das trifft allerdings nicht zu: Vielmehr handelt es sich weiterhin um ein stark von den Anbietern subventioniertes Umfeld, das von aggressiver Rabattpolitik geprägt ist. Marktanteile haben für die Anbieter dabei Priorität vor anständigen Margen. Das mag für die Anwender kurzfristig eine gute Nachricht sein. Es ist aber gefährlich anzunehmen, dass diese Bedingungen von Dauer sein werden.



Wenn Unternehmen ihre KI-Nutzung skalieren, kann der resultierende Token-Konsum schnell zu einem ernstzunehmenden finanziellen Risiko werden. Ein Chatbot-Pilotprojekt ist eine Sache. Eine unternehmensweite Applikation für Geschäftsprozesse, Kundeninteraktion, Wissenssysteme, Automatisierung, Analytics oder Embedded Software etwas ganz anderes. Die in der Pilotphase einst vertretbaren Gebühren für KI-Token verwandeln sich in diesen Fällen zu wiederkehrenden Betriebskosten. An diesem Punkt können dann selbst geringfügige Preisanpassungen erhebliche Auswirkungen auf das Unternehmensbudget haben.  



In der Konsequenz überdenken viele Führungskräfte im Technologiebereich derzeit ihre Annahmen bezüglich der Kosten von KI. Dabei erkennen sie zunehmend auch, dass die aktuelle Preisgestaltung möglicherweise nicht die langfristigen Ausgaben widerspiegelt. Wenn die Subventionen auslaufen und die Nutzung zunimmt, dürften die Token-Kosten stark ansteigen und damit großangelegte KI-Implementierungen unter Umständen wirtschaftlich unrentabel machen.



Das ist die Falle, die Unternehmen vermeiden sollten: Kein CIO möchte erklären müssen, dass das Unternehmen KI zwar erfolgreich in Betrieb genommen hat – aber kein Geschäftswert entstanden ist, weil die Anbieterrechnung ihn aufgefressen hat. Ganz ähnlich ist es vielen Firmen bereits mit Blick auf die Cloud ergangen – denselben Fehler bei KI zu wiederholen, ist kein gangbarer Weg.



Hybrid AI – das natürliche Endziel



Es kristallisiert sich zunehmend heraus, dass die Zukunft der Enterprise-KI weder ausschließlich in der Public Cloud noch On-Premises liegt. Vielmehr ist diese Zukunft in vielen Fällen hybrid:  Der Markt reift über ideologische Gräben hinaus und entwickelt sich in eine Richtung, in der Workloads auf der Grundlage von Wirtschaftlichkeit, Governance, Latenz und Kontrolle platziert werden.



Dieser Wandel ist bedeutsam, weil nicht jedes KI-Problem ein riesiges gehostetes Modell erfordert – im Gegenteil: Immer mehr Anwender stellen fest, dass kleinere, domänenspezifische KI-Modelle bei spezifischen Business-Tasks genauso gut und oft sogar besser abschneiden. Einige nutzen optimierte Modelle, andere setzen auf klassisches Machine Learning und prädiktive Systeme. Wieder andere kombinieren Retrieval-Techniken mit Small Language Models (SMLs). Und wieder andere entwickeln eingeschränkte Modelle, die strikt auf bestimmte Betriebsdomänen zugeschnitten sind. Diese Systeme sind für eine Private-Infrastruktur oft deutlich besser geeignet: Sie befinden sich näher an den Unternehmensdaten, lassen sich für vorhersehbare Workloads optimieren und gehen nicht mit einem, nach oben hin offenen, Token-basierten Abrechnungsmodell einher.



Das gilt insbesondere, wenn das KI-Modell häufig innerhalb von internen Geschäftsprozessen eingesetzt wird und nicht nur gelegentlich von einer begrenzten Anzahl von Nutzern. Mit anderen Worten: Unternehmen entscheiden sich nicht nur für Private AI, weil ihnen die Preisgestaltung der Public Cloud missfällt. Sie entscheiden sich dafür, weil sie lernen, KI-Systeme zu entwickeln, die den Anforderungen des Unternehmens entsprechen, anstatt sich standardmäßig auf das zu verlassen, was (von außen) am einfachsten zu nutzen ist.



Security und Governance als Zusatztreiber



Die Kosten von KI sind für die meisten Anwender zwar das drängendste Anliegen sein – aber nicht das einzige. Security und Governance entwickeln sich zu ebenso wichtigen Triebkräften, denn Anwenderunternehmen fühlen sich zunehmend unwohl bei dem Gedanken daran, dass sensible Informationen über öffentlich zugängliche KI-Tools, APIs und Benutzer-Workflows verarbeitet werden, die diffizil zu überwachen und zu kontrollieren sind.



Und diese Sorge ist nicht abstrakt: Regelmäßig halt vertrauliche Informationen in öffentlichen KI-Schnittstellen Einzug, weil die Mitarbeiter danach streben, ihre Produktivität zu steigern. So arbeiten etwa Dev-Teams manchmal schneller, als die Richtlinien Schritt halten können oder führen Geschäftsbereiche Tools erst einmal außerhalb der Governance ein. Das erhöht das Risiko für Datenlecks, Compliance-Verstöße und Sicherheitsvorfälle, die in direktem Zusammenhang mit dem KI-Einsatz stehen.



Zwar können Public Clouds ein hohes Maß an Sicherheit bieten, doch viele Anwender bevorzugen für sensible KI-Workloads strengere interne Kontrollen, um eine optimierte Observability, Zugriffskontrolle, Datenlokalität und Richtliniendurchsetzung zu gewährleisten. Private AI reduziert hingegen die Anzahl der Unbekannten: Sie gibt Unternehmen eine direktere Kontrolle darüber:




wo sich Daten befinden,



wie Modelle genutzt werden,



wer darauf zugreifen darf und



wie Systeme geprüft werden.




Das beseitigt das Risiko zwar nicht vollständig, sorgt aber dafür, dass es besser zu managen ist.



Private AI – der Aufwand lohnt sich



Die schlechte Nachricht: Private AI ist nicht trivial. Die Technologie On-Premises oder in der Private Cloud einzusetzen, erfordert:




Investitionen,



Planung,



spezielles Knowhow,



operative Disziplin, sowie



die Bereitschaft, einen größeren Teil der Infrastruktur selbst zu managen.




Anwenderunternehmen, die diesen Weg beschreiten, müssen sich zudem mit Infrastrukturdesign, GPU-Auslastung, Lebenszyklusmanagement, Modellbetrieb, Integration und Ausfallsicherheit auseinandersetzen – also die Aspekte, die bei Public Services oft abstrahiert werden. Dieser zusätzliche Aufwand birgt ebenfalls echte Risiken: Manche Unternehmen werden den betrieblichen Aufwand unterschätzen, andere werden zu viel für die Infrastruktur ausgeben – und wieder andere werden Schwierigkeiten damit haben, die richtigen Fachkräfte zu finden.



Aufgrund der möglichen Kosteneinsparungen sind jedoch viele Unternehmen inzwischen bereit, das auf sich zu nehmen. Diese Anwender steigen nicht auf Private AI um, weil es einfacher ist, sondern weil es auf lange Sicht klüger ist. Sie sind zu der Überzeugung gelangt, dass es besser ist, in eigene erfolgskritische Kapazitäten zu investieren, als diese über eine externe Plattform mit unklarer wirtschaftlicher Zukunft zu beziehen. (fm)



Dieser Artikel ist im Original bei unserer Schwesterpublikation Infoworld.com erschienen.