Diese Kolumne ist zu gefährlich, um sie zu lesen

width="1024" height="683" sizes="auto, (max-width: 1024px) 100vw, 1024px">Security-fokussierte KI-Modelle lassen vielerorts die Alarmglocken schrillen.janews / Shutterstock.com



Erinnern Sie sich an dieses eine, performante KI-Modell, das nicht publik gemacht wurde, weil die Macher befürchteten, es könne für schadhafte Zwecke missbraucht werden? Ich spreche natürlich von GPT-2, das OpenAI bereits vor sieben Jahren für zu gefährlich hielt, um es öffentlich verfügbar zu machen. OpenAI hatte erkannt, dass das KI-Modell auch für diejenigen ein hervorragendes Werkzeug darstellt, die Desinformation und Spam verbreiten wollen.



Womit sie auch Recht hatten. Heute wird das weltweite Netz geradezu überschwemmt von KI-generierten Fake-Inhalten und Betrügereien. Allerdings hinderte die damalige Erkenntnis OpenAI nicht daran, das Modell ein paar Monate später dennoch zu veröffentlichen. Auf diese Art und Weise scheinen KI-Unternehmen generell zu verfahren: Einerseits warnen sie vor den eklatanten Risiken ihrer Technologie, andererseits entwickeln sie immer fortschrittlichere Versionen ebendieser.



Claude-Mythos-Hype – alles nur Marketing?



Dieser Umstand veranlasst manche zu der Argumentation, dass auch die aus Sicherheitsgründen vorerst nur für selektierte Partner zugängliche Preview-Version von Claude Mythos im Grunde nur ein Marketing-Trick sei, um Hype zu generieren. So weit würde ich allerdings nicht gehen. Der Hype um „Project Glasswing“ ist meiner Meinung nach eher ein Nebeneffekt. Für Anthropic ist es vielmehr eine Möglichkeit, seine eigene Marke zu stärken – indem es Verantwortungsbewusstsein demonstriert. Das liegt auch in der DNA des Unternehmens, schließlich wurde es von ehemaligen OpenAI-Mitarbeitern gegründet, die befürchteten, dass beim ChatGPT-Entwickler geschäftliche Interessen Vorrang vor Sicherheit haben.



Und es ist auch verantwortungsbewusst, wichtige Tech-Unternehmen die in Mythos integrierte Bug-Hunting-Expertise an ihrer eigenen Software testen zu lassen und Sicherheitslücken zu schließen, bevor Cyberkriminelle diese ausnutzen können. Die Restriktionen rund um das KI-Modell haben jedoch auch dazu geführt, dass sich viele Entscheidungsträger dazu verleiten ließen, sich im Hinblick auf Claude Mythos vom Hype mitreißen zu lassen – und in Panik zu verfallen. Das gilt insbesondere für die EU, die mehr oder weniger von der Testphase des KI-Modells ausgeschlossen wurde. So gibt es derzeit mehrere europäische Bestrebungen, das zu ändern:




Die EU-Finanzminister fordern Zugang für europäische Unternehmen,



die EU-Kommission will dasselbe für den europäischen Bankensektor erreichen, und



EU-Abgeordnete plädieren dafür, der europäischen Cybersecurity-Agentur ENISA Zugang zu gewähren.




In den USA, wo die Regierungsbehörden Zugang erhalten haben, will das Weiße Haus indes verhindern, dass „Project Glasswing“ auf weitere Unternehmen ausgeweitet wird. Teils aus Sicherheitsgründen – aber auch, um Kapazitäten für die eigene Nutzung zu sichern. Bemerkenswerterweise wurde Anthropic von der Trump-Regierung kurz zuvor noch als nationales Sicherheitsrisiko eingestuft, nachdem es sich geweigert hatte, seine Technologie für kriegerische Zwecke zur Verfügung zu stellen.



Hype und Panikmache sind jedoch nicht auf die Politik beschränkt: Karriere-Netzwerke wie LinkedIn werden bezüglich Claude Mythos und Co. weiterhin regelmäßig mit Weltuntergangs-Posts überflutet. Das KI-Modell hat ohne Zweifel Chaos und Panik ausgelöst.



In der Ruhe liegt die Cyberkraft



Das Problem dabei ist nur, dass Mythos nicht das einzige Security-fokussierte KI-Modell ist. So veröffentlichte das britische „AI Safety Institute“ vor kurzem eine überraschend wenig beachtete Analyse des Claude-Mythos-Konkurrenten GPT 5.5 Cyber von OpenAI. Dieses erwies sich in ersten Tests der Sicherheitsexperten als ähnlich leistungsfähig wie Claude Mythos. Gleichzeitig werden immer mehr Sicherheitslücken bekannt, die von KI-Modellen identifiziert wurden und sich teils über Jahre unbemerkt halten konnten. So wurde etwa mit „Copy Fail“ eine schwerwiegende Linux-Sicherheitslücke entdeckt, die Root-Zugriff auf sämtliche Distributionen ermöglicht, die seit 2017 veröffentlicht wurden. Diese Schwachstelle wurde ebenfalls im Rahmen eines KI-gestützten Prozesses identifiziert – allerdings nicht mit Hilfe von Claude Mythos.



Also ja – KI-Modelle stellen zweifellos die bislang größte Herausforderung für die Cybersicherheit dar. Auch wenn sie keine neuen Klassen von Sicherheitslücken erfinden – das Ausmaß und die Geschwindigkeit sind auf einem nie dagewesenen Niveau angesiedelt. Wichtig ist aber, sich nicht nur auf ein einzelnes, hochgejubeltes KI-Modell wie etwa Claude Mythos zu fokussieren. Denn damit tut man sich, gelinde gesagt, keinen Gefallen. Als ich kürzlich an einem digitalen Presse-Briefing teilgenommen habe, wurde mir bewusst, dass auch ich diesem Hype erlegen bin. Der verlockende Titel der Veranstaltung: „Was bedeuten Mythos Preview und Project Glasswing für Schweden?“.



Es stellte sich jedoch als ein eher zurückhaltender Event heraus, der einen allgemeinen Überblick über die Lage, recht gewöhnliche Ratschläge zur Cyberhygiene und den Startschuss für eine neue Kooperationsinitiative zwischen Behörden und Unternehmen im Cyberbereich bot. Meine unmittelbare Reaktion: Ich war ein wenig enttäuscht und frustriert. Ich fragte mich, wo die Dringlichkeit bleibt – und die Forderungen. Dann wurde mir jedoch klar: Genau so, wie auf dieser Veranstaltung muss man der aktuellen Entwicklung begegnen. Durch Zusammenarbeit, Best Practices sowie klare Ratschläge und Routinen. Dabei geht es um ganz grundsätzliche Fragen wie:




Wie sieht Cybersicherheit aus, wenn kriminelle Hacker Sicherheitslücken plötzlich mit 100-facher Geschwindigkeit finden und ausnutzen?



Wie können KI-Modelle dazu beitragen, Unternehmen absichern?



Wie lässt sich die Zeit zwischen Entdeckung und Patching von Schwachstellen reduzieren?




Darüber hinaus ist es offensichtlich, dass Behörden weltweit zunehmend die Notwendigkeit erkennen, KI-Modelle zu überprüfen, bevor diese veröffentlicht werden. Das erscheint angesichts der Risiken, die mit der Technologie verbunden sind, auch vernünftig. Vielleicht kommen wir also irgendwann tatsächlich in die Situation, dass spezifische KI-Modelle als zu gefährlich eingestuft werden, um freigegeben zu werden. Dann können wir uns aber zumindest sicher sein, dass das nicht auf Marketing-Bestrebungen zurückzuführen ist. (fm)



Dieser Artikel ist im Original bei unserer Schwesterpublikation Computersweden.se erschienen.