Deepfake erkennen

Was ist ein Deepfake?

Die KI-Verordnung der EU definiert einen Deepfake in Artikel 3 Nummer 60 als durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Welche Transparenzpflichten die Verordnung daran knüpft, erklärt die Schwesterseite zur KI-Verordnung.

Das BSI erklärt den Namen mit den tiefen neuronalen Netzen, die solche Fälschungen erzeugen. Entscheidend für Unternehmen ist ein zweiter Satz des BSI: Solche Fälschungen sind heute mit wenig Aufwand und Fachwissen in hoher Qualität möglich. Wer Deepfakes erkennen will, muss deshalb wissen, welche Verfahren es gibt und wo sie typische Spuren hinterlassen.

Wie Betrüger Deepfakes gegen Unternehmen einsetzen

Das BSI nennt Social Engineering als eines der Bedrohungsszenarien, ausdrücklich auch den CEO-Fraud, bei dem eine Führungskraft imitiert wird, um Geldtransfers auszulösen. Die Polizeiliche Kriminalprävention warnt, dass sich Täter per Deepfake als Bekannte, Verwandte, Vorgesetzte, Prominente oder Amtsträger ausgeben. Die ENISA beobachtet im Threat Landscape 2026 eine Zunahme von Deepfake-Videos, mit denen vertraute Kontakte imitiert werden.

Der bekannteste Fall stammt aus Hongkong. Nach Angaben der dortigen Regierung erhielt ein Mitarbeiter im Januar 2024 eine Phishing-Mail von jemandem, der sich als Finanzvorstand der britischen Zentrale ausgab, und wurde zu einer Videokonferenz über vertrauliche Transaktionen eingeladen. Die Konferenz war vorab aufgezeichnet, der Mitarbeiter sprach nie wirklich mit einem Gegenüber. Er veranlasste Überweisungen von rund 200 Millionen Hongkong-Dollar auf fünf Konten. Die Firma Arup bestätigte später, dass gefälschte Stimmen und Bilder eingesetzt wurden.

Im Mai 2024 folgte laut Hongkonger Regierung ein ähnlicher Fall: Nach einer WhatsApp-Nachricht des angeblichen Finanzvorstands und einer knapp 30-minütigen Videokonferenz sollte eine Mitarbeiterin fast 4 Millionen Hongkong-Dollar überweisen. Die Polizei geht davon aus, dass veränderte öffentliche Videos abgespielt wurden. Das Muster ist in beiden Fällen dasselbe wie beim klassischen CEO-Fraud, nur mit Bild. Wie diese Angriffe allgemein ablaufen, beschreibt die Seite Social Engineering.

Deepfake erkennen: Merkmale in Bild und Video

Das BSI beschreibt Fehler, die bei Gesichtsfälschungen häufig auftreten. Sie entstehen, weil die Verfahren das Gesicht in ein fremdes Bild einpassen und dabei Ränder, Licht und Bewegung nicht immer sauber treffen.

• Ränder: sichtbare Übergänge zwischen Gesicht und Hintergrund, wechselnde Hautfarbe oder Textur.
• Details: Zähne oder Augen wirken verwaschen, obwohl sie scharf sein müssten.
• Mimik: eingeschränkt, oft wiederholen sich dieselben, teils unpassenden Gefühle.
• Licht: Ein Schatten trifft nur das Gesicht und nicht den Hintergrund.
• Verdeckung: Hält die Person eine Hand vors Gesicht, wird die sichtbare Hälfte oft unscharf.
• Profil: Seitenansichten sind laut BSI oft schlecht gelernt.

Das BSI schreibt ausdrücklich: Fehlen diese Anzeichen, ist eine Fälschung nicht ausgeschlossen. Die Qualität steigt, und in einer ruckelnden Videokonferenz mit schlechter Kamera fallen viele Fehler nicht auf.

Woran erkennen Sie eine gefälschte Stimme?

Auch bei Audio-Deepfakes nennt das BSI typische Spuren. Sie sind am Telefon schwerer zu hören als Bildfehler zu sehen, weil die Leitung selbst schon Klang und Tempo verändert.

Ein Deepfake-Anruf braucht kein Bild, und genau deshalb ist er häufiger als die aufwendige Videokonferenz. Wie Täter Stimmen aus kurzen öffentlichen Aufnahmen nachbauen und wie Sie sich am Telefon schützen, zeigt die Seite Voice Cloning.

• Klang: metallisch oder monoton betont.
• Aussprache: Fremd- oder englische Wörter klingen falsch.
• Sprechweise: Akzent oder Betonung passen nicht zur bekannten Person.
• Geräusche: unnatürliche Laute bei langen Sätzen oder in Pausen.
• Verzögerung: Antworten kommen spürbar später, weil die Aussage erst umgewandelt wird.

Deepfake in der Videokonferenz: so prüfen Sie live

Wer in einer laufenden Konferenz zweifelt, kann das Gegenüber gezielt fordern. Die folgenden Schritte stützen sich auf Empfehlungen der Hongkonger Polizei und des BSI. Sie kosten wenige Sekunden und wirken auch dann, wenn die Fälschung keine sichtbaren Fehler mehr zeigt.

1. Kopf drehen lassen

   Bitten Sie die Person, den Kopf nach oben, unten, links und rechts zu drehen, und achten Sie auf Bildfehler.

2. Hand vors Gesicht

   Bei verdeckten Gesichtsteilen wird die sichtbare Hälfte laut BSI oft unscharf.

3. Kontrollfrage stellen

   Fragen Sie nach etwas, das nur die echte Person wissen kann, etwa einer gemeinsamen Erinnerung.

4. Konferenz beenden

   Kündigen Sie einen Rückruf an und legen Sie auf. Ein echter Auftrag übersteht diese Pause.

5. Auf bekanntem Weg zurückrufen

   Nutzen Sie eine Nummer aus Ihrem eigenen Verzeichnis, nie eine aus der Einladung oder dem Chat.

Helfen Programme, die Deepfakes erkennen?

Es gibt Programme, die Bilder und Videos automatisch als echt oder gefälscht einstufen. Das BSI sieht deutliche Grenzen: Solche Modelle übertragen ihr Wissen schlecht auf neue Fälschungsverfahren und lassen sich mit minimalem Rauschen täuschen. Bei der Deepfake Detection Challenge 2020 erreichte das beste Modell eine Genauigkeit von 65,18 Prozent.

Für KI-generierte Bilder schreibt das BSI, dass kostenlose und kommerzielle Detektoren derzeit keine zuverlässige Erkennung garantieren, aber prüfbare Hinweise liefern können. Hilfreich sind Herkunftsnachweise wie Content Credentials, die Urheber, Werkzeuge und Bearbeitungen kryptografisch absichern. Fehlen sie, beweist das allerdings nichts.

Viele Menschen überschätzen ihren eigenen Blick. Im Cybersicherheitsmonitor 2026 des BSI geben 47 Prozent der Befragten an, KI-generierte Bilder und Videos erkennen zu können. Die Quelle eines Bildes oder Videos geprüft haben aber nur 19 Prozent.

Was Ihr Team konkret tut

Weil weder Auge noch Software einen Deepfake sicher erkennen, setzt die Abwehr am Ablauf an. Diese Regeln gelten für jedes Video und jeden Anruf, der zu einer Zahlung oder Freigabe führen soll.

Damit diese Regeln im Ernstfall halten, braucht es Rückendeckung von oben. Legen Sie schriftlich fest, dass Zahlungen ab einer Schwelle immer eine zweite Freigabe brauchen und dass niemand Ärger bekommt, weil er die Geschäftsführung zur Bestätigung zurückruft. Üben Sie den Ablauf einmal mit einem angekündigten Testanruf, dann sitzt er.

• Zweiten Kanal nutzen: Zahlungsaufträge aus Video oder Anruf über eine bekannte Nummer bestätigen.
• Daten schützen: In Konferenzen mit unbekannten Teilnehmern keine Interna, Codes oder Kontodaten nennen.
• Ergebnisse prüfen: Passt der Auftrag zum üblichen Freigabeweg, oder soll er ihn umgehen?
• Vorfälle melden: Verdächtige Einladungen und Anrufe sofort an IT und Vorgesetzte weitergeben.
• Unbekannte Anrufe: Videoanrufe von unbekannten Nummern laut Hongkonger Polizei besser nicht annehmen.

Häufige Fragen