Hotline 0800 / 800 3 800
WhatsApp 0174 / 33 43 900
E-Mail studio@bayern3.de
Alle Hits von heute - am Abendbis 00:00 Uhr
Gracie AbramsThat's So True
22:44 Uhr
The FratellisChelsea Dagger
22:41 Uhr
Issey CrossDifferent Planets
22:38 Uhr
DashaAustin (Boots Stop Workin')
22:34 Uhr
RubiLa La Land (1234)
22:32 Uhr
mehr

KI-Schockanruf erkennen

Betrug: So läuft der Enkeltrick mit geklonter Stimme!

Bild: colourbox

"Mama, Mama - mir ist was Schlimmes passiert und ich brauche deine Hilfe!" Diesen Schock-Anruf hat die Mama von BAYERN 3 Moderatorin Kadda Gehret vor einigen Wochen bekommen. Aber nicht von ihrer Tochter, sondern von einer perfekt geklonten Kadda-KI-Stimme. Der Enkeltrick 2.0. Die Masche hat in diesem Fall nur deshalb nicht funktioniert, weil Kadda zufällig ein paar Minuten vorher tatsächlich mit ihren Eltern telefoniert hatte.

Enkeltrick - kennt ihr! Betrüger melden sich bei vorwiegend älteren Menschen am Telefon (oder per WhatsApp) und schildern in dramatischen Worten, dass ein Enkel oder das eigene Kind in einer Notlage steckt - und jetzt dringend ganz viel Geld braucht. Zum Beispiel für eine Kaution nach einem Unfall. Dieses Geld werde in Kürze von einem 'Polizisten' abgeholt. Der natürlich zur Betrügerbande gehört. 

In den meisten Fällen scheitert der Betrug, weil die Opfer den Trick durchschauen. Doch wenn er funktioniert, ist der Schaden groß - nicht selten geht es beim Enkeltrick um mehrere zehntausend Euro. Deswegen werden die Tricks der Betrüger auch immer besser. Mittlerweile klonen die Betrüger die Stimmen der angeblichen Enkel oder eigenen Kinder und lassen den Schockanruf so noch authentischer klingen - wie zum Beispiel bei Kaddas Eltern. 

So funktioniert der KI-Enkeltrick mit geklonten Stimmen

Mit entsprechenden KI-Programmen, die sich auf dieses sogenannte Voice-Cloning spezialisieren, kann man mit sehr geringem Aufwand großen Schaden anrichten. Man braucht eigentlich nur kleine Tonmitschnitte der echten Stimme und dann kann man sehr gute, täuschend echt wirkende Audio-Samples entsprechend produzieren." (Dr. Nino Goldbeck, Oberstaatsanwalt/Zentralstelle Cybercrime Bayern)

Kadda und Jerry von den BAYERN 3 Frühaufdrehern haben bei Nino Goldbeck nachgehakt, wie der Trick genau funktioniert. Goldbeck ist Oberstaatsanwalt in Bamberg und leitet die Zentralstelle Cybercrime Bayern. Kadda wollte erstmal wissen, wie die Täter überhaupt an die Stimmen für die KI-Klone kommen.

Die Täter stöbern ganz sicher in sozialen Netzwerken. Sie schauen, was bei YouTube eingestellt worden ist. Je bekannter eine Person ist und je mehr sie sich in der Öffentlichkeit produziert, desto mehr Material gibt es natürlich auch, mit dem gearbeitet werden kann. Die deutlich größere Herausforderung aus Tätersicht ist also: Wie bekomme ich die Verbindung zwischen Stimme und Angerufenem? Auch da werden die Täter insbesondere in sozialen Netzwerken fündig. Wenn die Freundesliste frei einsehbar ist, dann kann man mit ein bisschen Recherche sehr schnell feststellen, wer die Angehörigen oder Verwandten sind? Das geht teilweise sogar automatisiert. Die Täter werden hier auch gar nicht so viel Aufwand betreiben, denn generell gibt es bei dieser Masche eine hohe Misserfolgsquote. Sehr viele Leute sind - Gott sei Dank - sensibilisiert und fallen nicht mehr auf diese Masche rein. Diese Art von Betrug war schon immer richtig fies, die war schon immer richtig skrupellos, aber sie ist durch den Einsatz von geklonten Stimmen deutlich perfider geworden." 

Bei Kadda war es so, dass ihre KI-Stimme persönlich an ihre Mutter gerichtet war: 'Mama, Mama. Mir ist was ganz Schreckliches passiert. Ich brauche dringend deine Hilfe!'. Aber: Was wäre, wenn ihr Papa ans Telefon gegangen wäre? Haben die Betrüger mehrere verschiedene Töne vorbereitet? Zu diesen Details fehlen den Experten die Details - denn jede Betrügerbande arbeitet unterschiedlich.

Der häufigste Fall: Die Schockanrufe beginnen sehr offen, die geklonte Stimme wird eingespielt und dann wird direkt an den angeblich ermittelnden Kriminalbeamten oder den schon involvierten vermeintlichen Staatsanwalt übergegeben. So nimmt das Ganze seinen Lauf - und durch diesen offenen Beginn kann dann häufig aus der ersten Reaktion des Angerufenen schon geschlossen werden: Ist das die Mutter, ist das der Vater oder ist das womöglich eine andere Person?"

Noch ist die geklonte KI-Stimme also meist komplett vorbereitet und vorher aufgezeichnet worden - sie dient "nur" als Einleitung in den Schockanruf. Vermutlich wird es aber nicht mehr allzu lange dauern, dann kann die geklonte KI-Stimme auch tatsächlich 'live' auf die Antworten des Opfers eingehen. 

So erkennst du einen Schockanruf und verhinderst den Enkeltrick-Betrug

Die Tricks der Betrüger werden immer perfider. Wie verhältst du dich am besten, wenn du oder deine Eltern einen Schockanruf bekommen? Die Tipps des Experten Nino Goldbeck: 

  • 1. Ein vermeintlicher Freund, das eigene Kind oder ein Enkel rufen dich an und brauchen sehr schnell viel Geld? Bleibe misstrauisch und vorsichtig. Schalte den Verstand trotz dieser emotionalen Ausnahmesituation nicht aus!
  • 2. Vereinbare mit der Familie für sensible Telefonate Code-Wörter!
  • 3. Stelle im Gespräch Fragen, deren Antworten nur das eigene Kind kennen kann.
  • 4. Eröffne einen zweiten Kommunikationskanal: Rufe den Sohn oder die Tochter auf dem Handy oder Festnetz an, tausche WhatsApp-Nachrichten aus. Dann fliegt der Betrug schnell auf. 
  • 5. Sensibilisiere deine Großeltern oder Eltern - fast immer sind ältere Menschen die Opfer. 
  • 6. Je weniger du in sozialen Netzwerken von dir preisgibst, umso schwieriger machst du es den Betrügern.
  • 7. Erstatte in jedem Fall Anzeige - auch wenn der Betrugsversuch direkt scheitert. 

Nur wenn die Polizei weiß was passiert und in welchen Gebieten sich die Tätergruppierungen gerade aufhalten, können sie auch etwas unternehmen. Es ist ja nicht so, dass jede Aussicht auf Erfolg fehlt. Immer wieder gelingen erfolgreiche Ermittlungen. Hier in Bamberg wurden erst vor kurzem in einer großen Aktion gemeinsam mit polnischen Ermittlungsbehörden viele Drahtzieher, Hintermänner und sogenannte Logistiker festgenommen. Die Ermittlungen sind herausfordernd und schwierig, aber sie können durchaus erfolgreich sein. Sie setzen aber voraus, dass die Fälle unbedingt zur Anzeige gebracht werden.

Kurzzusammenfassung

Kriminelle nutzen zunehmend Künstliche Intelligenz (KI), um beim sogenannten Enkeltrick täuschend echte Stimmen von Familienmitgliedern zu klonen. Mithilfe von “Voice-Cloning”-Technologien, die oft auf kurzen Tonaufnahmen basieren, werden glaubwürdige Betrugsanrufe inszeniert, bei denen finanzielle Notlagen vorgetäuscht werden.