Security-Tools für KI-Infrastrukturen – ein Kaufratgeber

Tools, die die KI-Infrastruktur unter die Lupe nehmen, optimieren und absichern, liegen im Trend. Unser Ratgeber führt Sie zur richtigen AI-Security-Posture-Management-Lösung.Julien Tromeur | shutterstock.com



Weil sich Generative-AI-Lösungen branchenübergreifend verbreiten, wächst das Sicherheitsbedürfnis der Anwender. Diesem gerecht zu werden, ist vor allem deshalb eine Challenge, weil die Technologie enormen Einfluss auf die IT-Infrastruktur und die Unternehmensdaten nimmt. Und weil kriminelle Cyberakteure längst erkannt haben, welches Potenzial für sie in diesem Umstand schlummert.



Gefragt sind deshalb neue, breit gefächerte Schutz- und Notfallmaßnahmen sowie Sicherheitssoftware, die spezifisch darauf ausgelegt ist, KI-Infrastrukturen abzusichern. Das hat längst diverse Cybersecurity-Anbieter dazu bewogen, entsprechende Lösungen zu entwickeln. Oder bestehende Produkte mit entsprechenden Features anzureichern. Dieses Wachstumssegment des Security-Markts läuft auch unter der Bezeichnung “AI Security Posture Management” – kurz AI-SPM.



In diesem Artikel erfahren Sie:




was Security-Lösungen ausmacht, die KI-Infrastrukturen absichern.



was AI-SPM-Tools leisten sollten und



welche Anbieter und Produkte in diesem Bereich wichtig sind.




CSPM, DSPM und AI-SPM



AI Security Posture Management fokussiert darauf, die Integrität und Sicherheit von KI- und ML-Systemen zu gewährleisten. Dabei umfasst AI-SPM Strategien, Tools und Techniken, um Daten, Pipelines, Applikationen und Services mit Blick auf ihre Sicherheitslage:




zu überwachen,



zu bewerten und



zu optimieren.




Bisher wurden Security Posture Management Tools für zwei separate Bereiche entwickelt:




Cloud Security Posture Management (CSPM-) Tools sollen den Cloud-Betrieb allgemein absichern, in erster Linie gegen Fehlkonfigurationen und Missbrauch.



Data Security Posture Management (DSPM-) Tools sollen vor Datenlecks und Malware-Infektionen schützen.




Das Aufkommen von künstlicher Intelligenz (KI) und Large Language Models (LLMs) hat Bedarf für eine dritte Produktkategorie geschaffen, die gemanagte KI-Cloud-Services und ihre SDKs (beispielsweise Hugging Face Transformer oder Azure Open AI) überwacht und KI-Modellmissbrauch verhindert – AI-SPM.



Dass das nötig war, unterstreichen diverse Research-Erkenntnisse, -Beiträge und weitere Ressourcen:




Eine Studie des API-Spezialisten Kong (Download gegen Daten) kommt zu dem Ergebnis, dass eine Mehrheit der Befragten Wege gefunden hat, Beschränkungen mit Blick auf die KI-Nutzung zu umgehen. Ein Viertel muss sich erst gar nicht mit so etwas wie Guidelines herumschlagen.



Die Non-Profit-Organisation MITRE stellt mit seiner Adversarial Threat Landscape for Artificial Intelligence Systems (ATLAS) eine umfassende Datenbank mit Angriffstaktiken zur Verfügung, die auf “in the wild”-Beobachtungen beruht.



Auch das MIT betreibt eine aktive Datenbank, die mehr als 1.700 Risiken in Zusammenhang mit KI-Systemen bereithält.



Eine weitere Quelle, um sich mit KI-bezogenen Angriffsmethoden auseinanderzusetzen, bietet das 2023 von OWASP veröffentlichte LLM-Exploit-Ranking (PDF). Die Non-Profit-Organisation hat zudem eine Checkliste für GenAI-Sicherheit veröffentlicht.




Sich mit diesen Quellen auseinanderzusetzen, empfiehlt sich, bevor Sie sich für ein Sicherheits-Tool oder -Feature aus dem Bereich AI-SPM entscheiden.



Was Security Posture Management für KI leisten sollte



Tools im Bereich AI Security Posture Management:




bieten im Regelfall agentenlose Konfigurationen,



greifen auf Cloud-basierte Modelle zu und



belassen Daten auf den vorhandenen Plattformen.




Letzteres dient sowohl der Sicherheit als auch dazu, die Verlagerung der damit verbundenen, massiven Datenbestände zu vermeiden. Darüber hinaus spielen bei Security-Tools für KI-Infrastrukturen natürlich auch KI-bezogene Funktionen eine Rolle. Zum Beispiel um große Datenmengen zu klassifizieren, zu tracken und gegen mögliche Missbrauchs- und Angriffsversuche abzusichern.



Einige Anbieter haben ihre bestehenden CSPM- oder DSPM-Lösungen um AI-SPM-Features erweitert – inklusive Compliance-Prüfverfahren, Best Practices und Richtlinien, die alle drei Security-Posture-Management-Arten abdecken. Andere offerieren umfassendere Lösungen, die eine Vielzahl KI-bezogener Sicherheitsmaßnahmen beinhalten. Zum Beispiel, um:




KI-Pipelines und Workloads schützen,



zu erkennen, wenn KI-Modelle sensible Daten referenzieren,



Trainingsdaten auf Manipulationen durch Dritte oder externe Applikationen zu überprüfen, und



KI-Services und -Plattformen abzusichern.




Wichtige AI-SPM-Anbieter und ihre Lösungen im Vergleich



AI-SPM-Produkte und -Features versprechen, Ihre KI-Infrastruktur abzusichern, verlassen sich dazu jedoch auf jeweils unterschiedliche Ansätze. Zu beachten ist dabei, dass es sich um einen Markt handelt, der im Wachstum begriffen ist. Die Produkte sind also noch nicht so umfassend ausgestaltet und integriert, wie sie sein könnten. Zudem arbeiten diverse weitere Sicherheitsanbieter aktiv an ähnlichen Offerings.



Folgende Anbieter und Lösungen sind in diesem Bereich derzeit relevant:




Arthur.ai



Cato Networks AI Security for End Users



Concentric AI and Data Security Governance



Crowdstrike Falcon AI-SPM



Cyera Agent Guardian



Guardrail Technologies Traffic Light for Code and AI



Microsoft Purview



OneTrust AI Governance



Orca AI-SPM



Palo Alto Networks AIRS AI Security



Proofpoint AI Access Security



SentinelOne Singularity Platform



Varonis Atlas AI Security



Wiz AI-SPM




Wichtige Details zu diesen AI-SPM-Lösungen entnehmen Sie nachfolgender (Vergleichs-)Tabelle:



AnbieterEinstiegspreisPackagingIntegrationenApp Runtime SecurityContinuous ScanningMCP- und Agenten-SchutzAI Red TeamingArthur.aiab 60 Dollar monatlichEinzelprodukttiefgehende PaaS-AbdeckungJaJaJaNeinCato Networkskeine InfoTeil der SASE-PlattformdiverseJaJaJaNeinConcentricab 50.000 Dollar pro Jahr (AWS)Teil der DSPM-PlattformdiverseNeinJaNeinJaCrowdStrikekeine InfoTeil der Falcon-AI-PlattformdiverseJaJaJaseparater ServiceCyeraab 50.000 Dollar pro Jahr (AWS)Teil verschiedener BundlesdiverseJaJaJaNeinGuardrail Technologiesab 19 Dollar monatlichEinzelprodukteinigeJaJaNeinNeinMicrosoftab 10,40 Euro pro Nutzer und MonatTeil der CSPM-PlattformeinigeJaNeinJaNeinOneTrustkeine InfoEinzelprodukt mit SPM-FunktioneneinigeJaJaNeinNeinOrca Securityab 84.000 Dollar pro Jahr (AWS)EinzelproduktdiverseJaJaJaNeinPalo Alto Networkskeine InfoTeil verschiedener BundlesdiverseJaJaJaJaProofpointab 96.000 Dollar pro Jahr (AWS)Teil der People-Protection-PlattformdiverseJaJaJaNeinSentinelOneab 180 Dollar pro Jahr und EndpunktTeil der Singularity-PlattformdiverseJaJaJaJaVaronisab 108.000 Dollar pro Jahr (AWS)im Bundle mit AI InventorydiverseJaJaJaJaWizab 38.000 Dollar pro Jahr (AWS)Teil verschiedener BundlesdiverseJaJaJaNein



Dieser Artikel ist im Original bei unserer Schwesterpublikation CSOonline.com erschienen.