Wenn der Fake-Chef anruft – Fraunhofer-Tool zur Fake-Erkennung

Um ihre KI zur Fake-Erkennung zu trainieren, erstellten die Forscher am Fraunhofer SIT zunächst selbst Deepfakes. Hier ein beispielhafter Vergleich zwischen der Detektion des authentischen Forschers links und mit dem Gesicht von Tom Cruise rechts.
Fraunhofer SIT



Die Videokonferenz läuft wie gewohnt. Lediglich der Wunsch des Chefs am Ende des Conference Calls, doch bitte noch eine dringende Überweisung zu erledigen, ist ungewöhnlich. Wer dies dann ausführt, ist Opfer eines hochprofessionellen KI-Betrugs.



Leider ist das mittlerweile bittere Realität. So erging es 2025 einem Finanzdirektor in Singapur. Er landete in einem Zoom-Call, in dem sämtliche Teilnehmer KI-generierte Deepfakes waren. Nur durch Glück konnten die Behörden die überwiesene Summe von fast 500.000 US-Dollar später sichern.



Betrug im Industriemaßstab



Und das ist kein Einzelfall. Allein in Singapur stiegen die Fälle von Videobetrug von 43 im Januar 2025 auf über 1.200 Fälle im Januar 2026 an. So warnt der  Entrust Identity Fraud Report 2026 bereits, dass Deepfakes in Videokonferenzen ist nicht mehr das Werk von Einzeltätern sind, sondern inzwischen industrialisiert, global organisiert und kommerziell optimiert erfolgen.



Genau diesem Treiben wollen Forscher des Fraunhofer-Instituts für Sichere Informationstechnologie SIT in Darmstadt einen Riegel vorschieben. Sie arbeiten mit Hochdruck an einer digitalen Verteidigungslinie, die solche Fakes in Echtzeit erkennt. Doch warum ist es so schwer, solche Betrügereien in Videokonferenzen zu entlarven?



Die Krux mit der Technik



Wo die Herausforderungen dabei liegen, erklärt Professor Martin Steinebach, Chef-IT-Forensiker am Fraunhofer SIT: „Die Bild- und Tonqualität schwankt, da die Netzqualität variiert. Weil die Datenströme komprimiert werden, gehen genau jene Bildfehler verloren, an denen frühere Erkennungsmethoden Deepfakes oft festgemacht haben.“ Hinzu kämen automatische Weichzeichnungsfilter, wechselnde Beleuchtung, Rauschen und Bewegungen im Hintergrund. All dies führe herkömmliche Erkennungsmethoden in die Irre.



Steinebach und sein Team aus Experten am Fraunhofer SIT und am Fraunhofer Heilbronn Forschungs- und Innovationszentrum (HNFIZ) für Cybersicherheit haben im Rahmen eines ATHENE-Forschungsprojekts eine Lösung entwickelt, die Video- und Audio-Deepfake-Erkennung kombiniert. Die KI-basierte Software soll Teilnehmern an sicherheitskritischen Videocalls kontinuierlich Hinweise liefern, wie wahrscheinlich ein Deepfake ist.



Mit KI gegen KI-Betrug



Während des Gesprächs liefert das System kontinuierlich visuelle Hinweise darauf, wie wahrscheinlich es sich beim Gegenüber um eine Fälschung handelt. Um diese Präzision zu erreichen, wurde das System mit umfassenden Datensätzen trainiert – allein im Audiobereich mit rund 19.000 echten und 160.000 manipulierten Aufnahmen. Durch sogenannte Augmentation lernt die KI, Deepfakes auch bei schlechter Bildqualität oder Hintergrundrauschen sicher zu identifizieren.



Der Clou dabei: Die Software arbeitet lokal auf einem leistungsfähigen Laptop mit moderner Grafikkarte. Es werden keine sensiblen Bild- oder Tondaten an externe Server übertragen, was die Lösung, so Steinebach, besonders für Unternehmen mit hohen Datenschutzanforderungen attraktiv macht.



Allerdings müssen diese sich noch gedulden. Momentan befindet sich das System in der Proof-of-Concept-Phase. In Zukunft könnte die Technologie als Plugin in gängige Plattformen wie Teams oder Zoom integriert werden. Oder auf geschützten Unternehmensservern besonders sensible Gespräche absichern.