5 Frameworks, um KI-Risiken zu managen

>



Der richtige Unterbau ist entscheidend – auch, wenn es um KI geht.Lamekanist | shutterstock.com



Die seit Jahrzehnten etablierten Risikomanagement-Rahmenwerke sind nicht auf die Verhaltensweisen, Fehlermodi und ethischen Komplexitäten von KI-Systemen ausgelegt. Das merken vor allem die Anwenderunternehmen, die die Technologie besonders schnell in ihre Workflows einweben wollen.   



Glücklicherweise ist inzwischen eine neue Generation von KI-spezifischen Frameworks entstanden, die Unternehmen einen strukturierten Ansatz an die Hand geben, um die damit einhergehenden Risiken zu minimieren.



Allerdings befassen sich diese Rahmenwerke nicht alle mit demselben Problem. Vielmehr bilden sie unterschiedliche Prioritäten und Ziele ab, die sich ergänzen können. Welches Framework dabei das richtige für Ihr Unternehmen ist, hängt in erster Linie davon ab, wo in Ihrer Umgebung die dringlichsten Lücken klaffen.



Die folgenden fünf Rahmenwerke sollten Sie für Ihre KI-Risikomanagement-Bemühungen in Betracht ziehen.



1. ISO/IEC 42001:2023



ISO/IEC 42001:2023 ist der erste international anerkannte, formale Standard für KI-Management. Die Norm wurde im Dezember 2023 von von ISO und IEC veröffentlicht.



Dabei folgt ISO/IEC 42001 einer ähnlichen Struktur wie andere Managementsystem-Standards – etwa ISO 27001. Das Rahmenwerk bietet Organisationen eine strukturierte Methodik, um Richtlinien, Prozesse, operative Kontrollen und Accountability-Mechanismen zu definieren – und so eine verantwortungsvolle Entwicklung und Nutzung von KI sicherzustellen.



ISO/IEC 42001 verlangt von Unternehmen, zu dokumentieren, wie sie KI-Systeme entwerfen, überwachen, validieren und steuern. Zudem sieht der Standard auch KI-Folgenabschätzungen vor, um mögliche rechtliche, ethische und gesellschaftliche Auswirkungen einschätzen zu können. Darüber hinaus deckt das Framework auch folgende Bereiche ab:




Governance-Strukturen,



Drittanbieter-Monitoring,



Datenmanagement,



Transparenzpflichten, sowie



Lebenszyklusmanagement.




Bei ISO/IEC 42001 handelt es sich außerdem um eine zertifizierbare Norm, die unabhängig von Branche und Unternehmensgröße greift. Inzwischen setzen immer mehr Organisationen das Framework ein – beispielsweise um den Bestimmungen des EU AI Act gerecht zu werden.   



Speziell für Organisationen, die gerade erste Schritte in Sachen KI-Risikomanagement tun, ist ISO/IEC 42001 eine hervorragende Option – ist Nicole Carignan, Field CISO beim Sicherheitsanbieter Darktrace überzeugt: „Diese Norm bietet eine solide Grundlage, um ein KI-Risk-Management-Programm aufzubauen – statt lediglich einzelne Risiken isoliert zu betrachten. ISO 42001 bietet hierzu den richtigen Ausgangspunkt, denn die Norm zwingt Organisationen dazu, Ownership, Governance, Übersicht, Datenintegrität, Risikominderung, Accountability und kontinuierliche Verbesserung ganzheitlich zu denken.“



Als Nachteile von ISO/IEC 42001 sieht die Security-Managerin, dass es ressourcenintensiv zu implementieren und in vollständiger Form nicht öffentlich zugänglich sei.  



2. NIST Framework for AI Risk Management (AI RMF)



Das vom US-amerikanischen NIST im Januar 2023 veröffentlichte AI Risk Management Framework (AI RMF) soll Unternehmen und Organisationen sämtlicher Größen und aus sämtlichen Branchen dabei unterstützen, Risiken über den gesamten Lifecycle von KI-Systemen hinweg zu identifizieren, zu evaluieren und zu managen.



Dieses Framework ist zweiteilig aufgebaut: Der erste Teil enthält Leitlinien dazu, wie Organisationen über KI-Risiken denken sollten und was vertrauenswürdige KI-Systeme auszeichnet. Der zweite Teil des AI RMF ist hingegen um vier miteinander verknüpfte Funktionen herum aufgebaut:




Govern konzentriert sich darauf, was Organisationen tun müssen, um eine interne Kultur, Richtlinien sowie Accountability-Strukturen für den KI-Einsatz aufzubauen.



Map befasst sich mit den potenziellen Risiken spezifischer KI-Systeme und dem Verständnis des breiteren Kontexts.



Measure ist darauf fokussiert, wie Organisationen KI-Risiken mithilfe qualitativer und quantitativer Methoden evaluieren und nachverfolgen sollten.



Manage bietet schließlich Leitlinien, um Risiken zu priorisieren, zu mindern, zu transferieren und zu akzeptieren.




Das KI-Risikomanagement-Framework des NIST enthält darüber hinaus auch ein separates Playbook mit Tipps, um diese Funktionen in der Praxis umzusetzen.



Darktrace-Managerin Carignan sieht das AI RMF vor allem in Organisationen, die noch nicht dazu bereit sind, ISO 42001 formell umzusetzen: „Das NIST AI RMF kann einen flexibleren und leichter zugänglichen Ausgangspunkt darstellen. Es ist öffentlich zugänglich und bietet Organisationen eine gemeinsame Sprache, um KI-Risiken zu verstehen und zu mindern. Wenn das Ziel jedoch darin besteht, ein nachhaltiges KI-Risikoprogramm aufzubauen, ist ISO 42001 die solidere Grundlage.“



Auch Ram Varadarajan, CEO beim Security-Spezialisten Acalvio, weiß das AI RMF zu schätzen: „Das NIST-Framework basiert auf Reifegraden und nicht auf Audits, die man besteht oder nicht. Das bietet Organisationen, die erst einmal herausfinden wollen, wo sie eigentlich stehen, einen besseren Rahmen. Außerdem erzwingt das AI RMF, dass drei ganz wesentliche Fragen initial gestellt werden: Nämlich, wer die Verantwortung für KI-Risiken trägt, welche KI-Systeme tatsächlich laufen und welche konkreten Risiken entstehen, wenn etwas schiefgeht.“



3. ENISA Framework for AI Cybersecurity Practices (FAICP)



Die europäische Cybersicherheitsbehörde ENISA hat ihr Framework for AI Cybersecurity Practices (FAICP) in Erwartung des AI Act entwickelt. Das Mitte 2023 veröffentlichte Rahmenwerk bietet europäischen Organisationen und Unternehmen strukturierte, KI-spezifische Cybersecurity-Leitlinien mit dem Ziel, ihre KI-Aktivitäten möglichst vertrauenswürdig auszugestalten.



Dabei ist das FAICP in drei aufeinander aufbauende Ebenen gegliedert:




Die erste Ebene umfasst grundlegende Cybersicherheitspraktiken, die zum Zuge kommen, wenn KI-Systeme auf einer Standard-Softwareinfrastruktur laufen sollen.



Die zweite Ebene befasst sich mit KI-spezifischen Risiken wie Adversarial-Angriffen, Modell-Manipulation, gekaperten Daten-Pipelines sowie Supply-Chain-Attacken.



Die dritte Ebene bietet branchenspezifische Leitlinien für regulierte Branchen wie den Energiesektor oder das Gesundheitswesen.




Geht es nach dem EU-Parlament, soll dieser mehrschichtige Aufbau es Organisationen ermöglichen, die Vertrauenswürdigkeit ihrer KI-Ambitionen schrittweise zu steigern.



Zwar ist die Anwendung des FAICP freiwillig, aufgrund der engen Abstimmung mit dem KI-Gesetz der EU sowie der NIS2-Richtlinie betrachten europäische Regulierungsbehörden das Rahmenwerk aber als Grundlage für KI-Governance-Praktiken in sämtlichen Organisationen, die innerhalb der EU geschäftlich tätig sind.



„Das FAICP ist wichtig, weil der AI Act wahrscheinlich zum globalen Bezugspunkt werden wird. So, wie das europäische Datenschutzrecht zum De-Facto-Standard für Unternehmen weltweit geworden ist – unabhängig davon, wo sie ihren Hauptsitz haben“, meint Acalvio-CEO Vardarajan.



4. ISO/IEC 23894:2023



Auch ISO/IEC 23894:2923 bietet Organisationen konkrete Leitlinien, um Risiken im Zusammenhang mit künstlicher Intelligenz zu managen. Das Anfang 2023 von ISO und IEC veröffentlichte Framework baut auf der allgemeinen Norm für Risikomanagement (ISO 31000) auf und passt diese auf das KI-Zeitalter an.



Dadurch adressiert dieses Framework etwa Risiken wie algorithmischen Bias, Modell-Drift oder mangelnde Transparenz bei Entscheidungsprozessen. So ermöglicht ISO/IEC 23894 Organisationen, einzuschätzen, wie wahrscheinlich es ist, dass diese Risiken über den gesamten Lebenszyklus eines KI-Systems auftreten – und diese zu bewerten. 



Konzipiert ist diese Norm laut den Herausgebern sowohl als Ergänzung zu ISO 31000 als auch ISO/IEC 42001 (siehe weiter oben). Der wesentliche Unterschied zwischen ISO/IEC 42001 und ISO/IEC 23894 besteht darin, dass es sich bei ersterem Framework um ein zertifizierbares Managementsystem handelt. ISO/IEC 23894:2023 ist hingegen eine rein richtlinienorientierte Norm, die darauf fokussiert, wie KI-spezifische Risiken identifiziert, bewertet und gesteuert werden können.



„Insbesondere bietet ISO/IEC 23894 konkrete Beispiele, um Risikomanagement über den gesamten Lebenszyklus der KI-Entwicklung hinweg effektiv umzusetzen und zu integrieren – und liefert detaillierte Informationen zu KI-spezifischen Risikoquellen“, schreibt die von der britischen Regierung unterstützte Initiative „AI Standards Hub“ in einem Blogbeitrag.



Ein wesentlicher Vorteil dieser Norm bestehe zudem darin, dass Leitlinien sich an jede Organisation und ihren geschäftlichen Kontext anpassen ließe, so die Experten.



5. Google Secure AI Framework (SAIF)



Auch Google hat mit seinem Secure AI Framework (SAIF) einen prktischen Leitfaden in petto. Dieser kann Organisationen dabei unterstützen, KI-Systeme mit starken integrierten Schutzmaßnahmen zu entwickeln und zu betreiben.



Das 2023 eingeführte Framework konzentriert sich darauf, Sicherheits- und Datenschutzaspekte direkt in jede Phase des Lebenszyklus von KI-Projekten einzubinden – vom Entwurf über die Bereitstellung bis hin zum laufenden Betrieb. Erklärtes Ziel dieses Frameworks ist es, spezifische Schwachstellen von KI-Technologien zu bekämpfen – beispielsweise manipulierte Trainingsdaten, schadhafte Prompts oder Datendiebstahl.



Dabei stützt sich das SAIF auf Googles eigene Erfahrungen damit, KI-Systeme in großem Maßstab zu entwickeln und zu betreiben. Insofern ist Googles KI-Framework stärker technisch ausgerichtet als andere Rahmenwerke.



Laut der Technologieberatung Thoughtworks ist der Fokus, den Googles SAIF setzt, besonders hilfreich – speziell wenn es um die Risiken geht, die damit in Zusammenhang stehen, agentische Systeme zu entwickeln: „SAIF bietet ein prägnantes, umsetzbares Playbook, das Teams nutzen können, um ihre Security-Praktiken für LLMs und KI-getriebene Applikationen zu stärken.“



Laut David Brumley, Chief AI and Science Officer bei Bugcrowd, ist die entscheidende Frage für Organisationen, die ein Framework einführen wollen: „Welches Framework hilft uns dabei, KI in der realen Welt sicher zu entwickeln, einzusetzen und daraus zu lernen?“



Allerdings warnt der Manager davor, sich zu sehr auf ein Risikomanagement-Framework für KI zu versteifen: „Die KI-Einführung wartet nicht auf perfekte Governance. Diejenigen, die sich zu stark auf ein Risikomanagement-Framework fokussieren, könnten unbeabsichtigt ein Problem mit Schatten-KI in ihrer Organisation schaffen.“ (fm)



Dieser Artikel ist im Original bei unserer Schwesterpublikation CSOonline.com erschienen.