SERIE – «KI, mach mir ein Nacktfoto meiner Nachbarin»: Wie KI das Internet gefährlicher macht – und ein paar Tricks zur persönlichen Verteidigung

Jennifer DeStefano ist gerade unterwegs ins Tanzstudio. Dann läutet ihr Telefon. „Mum?“, fragt die Stimme ihrer Tochter, und dann noch einmal: „Mum?“

„Ja, was ist los, Briana?“, fragt sie zurück. Die Tochter schluchzt und sagt: «Ich hab’s vermasselt.» Dann hört DeStefano eine zweite Stimme, ein Mann, der nun ihre Tochter anschreit: „Leg dich hin! Kopf zurück!» Jetzt steigt Panik auf in DeStefano. Wer spricht so mit ihrer Tochter?

„Mama, diese Männer haben mich. Hilf mir! Hilf mir!» Sie schluchzt, wimmert, dann kommt der Mann ans Telefon: «Hören Sie, ich habe Ihre Tochter. Wenn Sie etwas verraten, pumpe ich ihren Bauch voll mit Drogen.» Und: «Dann sehen Sie sie nie wieder.»

Später stellt sich heraus: Die Tochter ist in Sicherheit, ihre Stimme gefälscht. DeStefano wird aber später in einem Podcast der BBC sagen, sie sei sicher gewesen, dass der Anruf echt gewesen sei. Die Stimme ihrer Tochter tönte so sehr nach ihr, dass bei DeStefano kein Zweifel aufkamen.

IT-Sicherheitsexperten wie Vincenzo Ciancaglini kennen solche Anrufe nur allzu gut. Er erforscht für den europäischen Ableger des japanischen Cybersicherheitsunternehmens Trend Micro seit rund fünf Jahren, wie Kriminelle KI verwenden. Ihn überrascht es nicht, dass DeStefano auf den Trickanruf hieringefallen ist.

„Was mit KI möglich ist, grenzt für viele Leute an Magie“, sagt er. Manche wüssten zwar aus den Medien, dass Stimmen gefälscht werden könnten. „Aber wenn uns ein solcher Deepfake unvorbereitet im Alltag trifft, ist das etwas ganz anderes“, sagt Ciancaglini. Die meisten Menschen seien sich nicht bewusst, wie gut heute Fälschungen sein könnten: Stimmen, Videos, auch wenn es Live-Gespräche mit mehreren Teilnehmern sind.

Enkeltrick auf Steroiden

Das Beispiel von DeStefano stammt aus den USA. Aber auch in der Schweiz und in Deutschland sind solche Schockanrufe verbreitet. Fast 300 000 solcher Betrugsversuche soll es schweizweit in den letzten fünf Jahren allein bei Personen über 55 gegeben haben, schätzt die Stiftung Pro Senectute.

Dazu kommen fast 200 000 versuchte Betrügereien mit dem Enkeltrick. Diese starten mit einem unschuldigen „Hallo Oma, rate mal, wer am Telefon ist!“ und enden mit der Bitte, Geld für einen Notfall bereitzustellen – vielleicht ein Autounfall im Ausland oder eine irrtümliche Festnahme, der der Anrufer nur entgehen kann, wenn eine Kautionszahlung geleistet wird.

Audio-KI macht solche Betrugsversuche sehr viel effektiver, weil Kriminelle nicht mehr selbst ans Telefon müssen, sondern die Stimme eines Verwandten verwenden können. Laut dem Softwareunternehmen McAfee reichen drei Sekunden Tonspur eines Opfers – zum Beispiel aus einem Social-Media-Video –, um eine Stimme fälschen zu können. Ciancaglini sagt, mit 10 bis 20 Sekunden Klingeln die Fälschung einigermaßen überzeugend.

Dazu kommt: Dienste für Stimmfälschungen sind einfach zu erreichen: Es gibt mehr als ein Dutzend Websites, die genau dies anbieten, mehrere davon gratis.

Mit einem Codewort erkennt man den Notfall

„Früher konnten solche Fälschungen nur mit großem Aufwand und viel technischem Wissen erstellt werden. „Mit heutigen KI-Tools kann das jeder Amateur“, sagt Ciancaglini. KI, so scheint es, macht es Kriminellen so einfach wie noch nie.

Ciancaglini, dessen Grossmutter einst selbst einen Schockanruf erhalten hatte, hat daraufhin mit seiner Familie ein Codewort eingeführt. Falls ihm tatsächlich etwas zustoßen sollte, sagt er ein spezifisches Wort – zum Beispiel Koalabär. Kommt das Codewort nicht im Gespräch vor, weiß seine Familie, dass es sich um einen Betrugsversuch handelt.

Die schweizerische Kriminalprävention rät davon zwar ab. Man konnte einen echten Anruf weder an der Stimme noch daran erkennen, dass sämtliche persönlichen Informationen, die nur innerhalb des engsten Kreises bekannt sein sollten, ausgetauscht werden würden. Stattdessen soll man bei Schockanrufen – also einer schockierenden Nachricht und einer Geldforderung – immer misstrauisch werden. „Schock plus Geld Betrug gleich“, schreibt die Organisation. Die beste Reaktion darauf: einfach auflegen.

Nacktfotos im Klassenzimmer

Doch personalisierte Stimmfälschungen sind nur eine Kunst und Weise, wie KI-Dienste Straftaten erleichtern. Über zwanzig Mädchen aus der spanischen Kleinstadt Almendralejo mussten jüngst eine andere Art von Deepfakes über sich ergehen lassen: Von ihnen wurden Nacktfotos erstellt, ohne ihr Wissen oder ihre Zustimmung.

Die Bilder stammen ursprünglich von Instagram und zeigen die Mädchen voll bekleidet. Sie wurden mit einer KI bearbeitet, die Gesichter in Fotos erkennt und realistische, nackte Körper generiert. Die Fotos wurden am ersten Schultag nach den Ferien auf dem Schulhof herumgezeigt und in Whatsapp-Gruppen geteilt. Laut dem Portal «Euro News» war das jüngste der betroffenen Mädchen elf Jahre alt.

KI-Dienste, die solche Nacktfotos erstellten, würden auf Telegram angeboten, sagt der Sicherheitsforscher Ciancaglini, der mehrere Kanäle von Kriminellen auf dem Messenger-Dienst überwacht. «Für ein lebenslanges Abo mit dem Preis von 150 Dollar kann man so viele Akte generieren, wie man will.» Dazu kommen diverse Apps oder Websites, die eine gewisse Anzahl Nacktbilder kostenlos erstellen.

„Gegen solche Straftaten kann man sich nur schwer schützen“, sagt Ciancaglini. rät er, den eigenen Internetauftritt privat zu halten und sich gut zu überlegen, welche Bilder, Videos und Audio-Files man von sich und von anderen ins Netz stellt.

Der nigerianische Prinz beherrscht nun Deutsch perfekt

Nebst Deepfakes arbeiten Kriminelle auch mit Textgeneratoren wie Chat-GPT, schliesslich beginnen viele Betrügereien im Internet mit einer E-Mail. Man wird zum Beispiel von einem nigerianischen Prinzen kontaktiert, der eine kleine Anzahl fordert, damit er später eine große Summe zurückschicken könnte.

Viele solcher Schreiben hatten bisher Schreib- und Grammatikfehler, schließlich waren die Verfasser meist keine deutsche Muttersprache. Dank Chatbots wie Chat-GPT können solche Anschreiben nun fehlerfrei generiert werden. Ebenso normale Phishing-E-Mails, die zum Beispiel mit einem Schadprogramm versehen sind.

Allerdings gibt es auch Anfragen, die Chat-GPT ablehnt, wie zum Beispiel „Schreibe mir eine Phishing E-Mail für eine 45-jährige Marketingfachfrau, die sich für Klimaschutz interessiert“. Wer kluge Eingaben macht – auch geschickte Texteingaben –, kann die Sicherheitssperren im System aber umgehen.

«Jailbreak»: Sperren im Chat-GPT können umgangen werden

Einst reichte es dafür, dem Modell zu sagen, es soll in den „Developer Mode“ gehen und die nochmal Fragen beantworten. Dieser Hack hat Open AI inzwischen erkannt und blockiert. Trotzdem gelingt es geduldigen Nutzern immer wieder, neue Methoden zu finden, um das System auszutricksen. Im Jargon heißt es: Jailbreak.

Einer der berühmtesten Jailbreaker ist der Twitter-Nutzer Pliny the Liberator. Er konnte der neusten Version von Chat-GPT (4.o) eine Anleitung zur Produktion von Crystal Meth entlocken und eine weitere für Napalm, einen flüssigen, klebrigen und verbotenen Brandkampfstoff. Kurzzeitig betrieb er ein Programm, mit dem auch andere Nutzer Chat-GPT austricksen konnten.

Videokonferenz mit mehreren gefälschten Teilnehmern

Was passieren kann, wenn Kriminelle mehrere KI-Methoden kombinieren, zeigt einen Fall aus Hongkong. Dort wurde ein Finanzangestellter einer internationalen Firma in einer Videokonferenz mit dem CFO einberufen, in der es mehrere weitere Personen gab.

Es fand ein Austausch statt, in dem sich der Angestellte überzeugen ließ, Geld im Wert von 25 Millionen Dollar an ein ihm davor unbekanntes Konto zu überweisen. Später stellte sich heraus, dass alle Teilnehmer der Videokonferenz gefälscht waren.

Zwar hatte der Angestellte laut CNN zu Beginn Zweifel, insbesondere weil in einer Nachricht von einer geheimen Überweisung die Rede war. Doch dann schöpfte er Vertrauen, weil er mit mehreren Arbeitskollegen in der Videokonferenz war, die so aussahen und sprachen, wie sie es immer tat.

Im Zweifelsfall: selbst nochmals anrufen

Hätte er selbst versucht, den CFO per Telefon zu kontaktieren, bevor er die Transaktion auslöste, hätte er den Betrug vielleicht verhindern können. Das ist wohl auch die beste Methode, um sich solchen Betrugsversuchen zu widersetzen: Bei unüblichen Anfragen selbst noch einmal die scheinbar involvierten Personen anrufen, um sich zu versichern, dass ihr Wusch echt ist.

Laut dem Cybersicherheitsexperten Ciancaglini ist es nun dringend nötig, dass wir ein Bewusstsein für KI-getriebene Betrugsmethoden schaffen, weil solche Angriffe künftig weiterhin vorkommen dürften. Ciancaglini betont, dass sowohl Jugendliche als auch Pensionierte Risikogruppen seien, die speziell sensibilisiert werden müssten. „Reden Sie mit Ihren Arbeitskollegen und in der Familie über das Thema“, rät Ciancaglini.

Und Jennifer DeStefano, die einen Schockanruf mit der gefälschten Stimme ihrer Tochter erhielt? Ihr gelang es, während sie mit den Betrügern an ihrem Telefon verbunden blieb, über das Handy einer anderen Mutter die Tochter anzurufen. Als sie merkte, dass es ihr gut geht, hängte sie den Betrugsanruf sofort auf. Dann sackte sie zu Boden, aus Erleichterung.