Voice Cloning

Was ist Voice Cloning?

Voice Cloning bezeichnet Verfahren, die mit KI eine bestimmte menschliche Stimme nachbilden. Das BSI unterscheidet zwei Wege. Bei der Voice Conversion spricht der Angreifer selbst, und die KI wandelt seine Aussage in die Stimme der Zielperson um. Beim Text-to-Speech schreibt er einen Text, und die KI liest ihn in der Stimme der Zielperson vor.

Wie wenig Material dafür nötig sein kann, zeigt die Forschung. Ein 2023 veröffentlichtes Sprachmodell namens VALL-E erzeugte laut der zugehörigen Fachveröffentlichung Sprache in der Stimme eines unbekannten Sprechers aus einer nur drei Sekunden langen Aufnahme. Das BSI schreibt zu Text-to-Speech, dass mit Hilfsdatenbanken oft wenige Minuten Material reichen.

Die US-Verbraucherschutzbehörde FTC fasst es für Betrugsfälle knapp zusammen: Ein Täter braucht nur einen kurzen Audioclip der Stimme, etwa aus Inhalten, die online veröffentlicht wurden, und ein Programm zum Klonen. Voice Cloning ist damit eine Form des Deepfakes, wie ihn die Seite Deepfakes erkennen für Bild und Video beschreibt.

Betrug mit geklonten Stimmen am Telefon

Voice Cloning macht alte Maschen glaubwürdiger. Der Anruf folgt demselben Muster wie jeder Angriff per Social Engineering: vertraute Rolle, Druck, eine schnelle Handlung. Neu ist nur, dass die Stimme passt.

Die Verbraucherzentrale berichtet, dass immer öfter Menschen mit KI-generierten Stimmen angerufen werden. Der Anrufer gibt sich als enger Vertrauter aus und fordert meist eine Überweisung oder die Übergabe von Geld an der Haustür. Das BSI nennt für Unternehmen den CEO-Fraud, bei dem die Stimme einer Führungskraft imitiert wird, um Geldtransfers auszulösen. Wie dieser Betrug in der Buchhaltung ankommt, beschreibt der Leitfaden zum CEO-Fraud.

Welche Fälle von Voice Cloning sind dokumentiert?

Ferrari, Juli 2024. Laut Bloomberg erhielt ein Manager WhatsApp-Nachrichten von einer unbekannten Nummer, angeblich vom Konzernchef Benedetto Vigna, über eine geplante Übernahme. Es folgte ein Anruf, in dem eine KI-Stimme den süditalienischen Akzent des Chefs nachahmte und eine Devisentransaktion verlangte. Der Manager bemerkte leicht mechanische Betonungen und fragte nach dem Titel eines Buchs, das Vigna ihm wenige Tage zuvor empfohlen hatte. Daraufhin brach das Gespräch ab.

FBI-Warnung, Mai 2025. Das FBI warnte vor einer seit April 2025 laufenden Kampagne, in der Täter per Textnachricht und KI-generierter Sprachnachricht hochrangige US-Amtsträger nachahmten. Ziel war, Vertrauen aufzubauen und die Angeschriebenen in eine andere Messenger-App zu lotsen, wo eine Seite ihre Zugangsdaten abgriff.

Beide Fälle zeigen dasselbe Muster: Die Stimme wird mit einer Nachricht vorbereitet, und die neue Nummer wird mit Vertraulichkeit begründet. Wer das Muster kennt, erkennt den Anruf auch dann, wenn die Stimme perfekt klingt.

Warum die angezeigte Nummer nichts beweist

Viele verlassen sich darauf, dass die bekannte Nummer im Display erscheint. Die Bundesnetzagentur erklärt, dass Anrufer mit Call-ID-Spoofing eine gefälschte Absendernummer anzeigen lassen können, etwa die Nummer einer echten, unbeteiligten Person. Nach § 120 Telekommunikationsgesetz ist das verboten, kommt aber trotzdem vor.

Seit dem 1. Dezember 2022 müssen Anbieter Anrufe aus ausländischen Netzen, die eine deutsche Nummer zeigen, mit unterdrückter Nummer zustellen. Anrufe, die etwa die 110 anzeigen, werden abgebrochen. Die Bundesnetzagentur rät trotzdem, einer angezeigten Nummer nicht blind zu vertrauen. Entscheidend ist deshalb, wer anruft: Sie selbst, über eine Nummer aus Ihrem eigenen Verzeichnis.

Woran erkennen Sie eine geklonte Stimme?

Das BSI und das FBI nennen Merkmale, die bei geklonten Stimmen auffallen können. Das FBI warnt zugleich, dass geklonte Stimmen nahezu identisch mit echten klingen können.

Oft kündigt sich der Anruf vorher an, etwa mit einer Kurznachricht von unbekannter Nummer. Das FBI rät, Nummern, Adressen und Schreibweisen auf kleine Abweichungen zu prüfen und Links erst zu öffnen, wenn der Absender bestätigt ist. Wie solche Nachrichten aufgebaut sind, zeigt die Seite Phishing erkennen.

• Klang: metallisch oder monoton, laut BSI ein typisches Artefakt.
• Aussprache: Fremdwörter oder englische Begriffe werden falsch betont.
• Sprechweise: Akzent, Wortwahl oder Tonfall passen nicht zur bekannten Person.
• Verzögerung: Antworten kommen spürbar spät, weil die Aussage erst umgewandelt wird.
• Geräusche: unnatürliche Laute bei langen Sätzen oder in Pausen.

Fehlen diese Anzeichen, ist eine Fälschung laut BSI nicht ausgeschlossen. Prüfen Sie deshalb nicht die Stimme, sondern den Anrufer: über einen zweiten Kanal.

Schutz vor Voice Cloning: der Ablauf am Telefon

Polizei, Verbraucherzentrale, BSI und FBI empfehlen im Kern dasselbe. Daraus ergibt sich ein Ablauf, den jeder im Team ohne Nachdenken anwenden kann, sobald ein Anruf Geld, Daten oder Zugänge betrifft.

1. Anliegen erkennen

   Geht es um Geld, Codes, Passwörter oder einen Wechsel in eine andere App? Dann greift der Ablauf.

2. Kontrollfrage stellen

   Fragen Sie nach etwas, das nur die echte Person wissen kann, oder nach dem vereinbarten Codewort.

3. Auflegen

   Beenden Sie das Gespräch, auch wenn der Anrufer drängt. Die Polizei rät bei Schockanrufen: sofort auflegen.

4. Zurückrufen

   Rufen Sie die Person über eine Ihnen bekannte Nummer an, nie über die angezeigte oder genannte.

5. Melden

   Informieren Sie IT und Vorgesetzte. Bei Verdacht auf Betrug ist die Polizei zuständig, im Notfall die 110.

Was Ihr Team konkret tut

Im Unternehmen lässt sich der Ablauf fest verankern. Vier Regeln decken die meisten Fälle ab, ergänzt um zwei Vereinbarungen, die vor dem ersten Angriff getroffen werden müssen.

Die Zeit arbeitet für den Angreifer. Die Verbraucherzentrale weist darauf hin, dass sich einmal getätigte Überweisungen meist nicht zurückholen lassen. Ein Rückruf kostet dagegen eine Minute. Machen Sie im Team klar, dass diese Minute immer erlaubt ist, auch wenn am Telefon angeblich die Geschäftsführung drängt.

• Zweiten Kanal nutzen: Jede telefonische Zahlungs- oder Datenanweisung per Rückruf bestätigen.
• Daten schützen: Bestätigungscodes und Passwörter nie am Telefon nennen, auch nicht der Geschäftsführung.
• Ergebnisse prüfen: Zahlungen über einer festen Schwelle nur mit zweiter Freigabe.
• Vorfälle melden: Datum, Uhrzeit, Nummer und Anliegen des Anrufs sofort weitergeben.
• Codewort vereinbaren: Für Zahlungen ein internes Kennwort, das nirgends öffentlich steht.
• Stimme nicht als Ausweis: Keine Freigaben oder Kontozugänge allein auf Basis einer erkannten Stimme.

Häufige Fragen