Desinformation: Russische Gruppe nutzt künstliche Intelligenz, um News-Berichte zu manipulieren

Auf den ersten Blick scheint es sich um die Website einer der vielen Organisationen zu handeln, die sich mit Geopolitik beschäftigen. Die Site gbgeopolitics.com hat Abschnitte wie „US News“ oder „War in Gaza“. In den zahlreichen Artikeln geht es um zivile Todesopfer im Gazastreifen oder um russische Angriffe in der Ukraine.

Doch die Site ist Teil einer größeren Aktion zur Beeinflussung der öffentlichen Meinung im Westen. Eine mutmaßlich russische Gruppe hatte sie im Februar oder März eingerichtet. Dabei hat ihr künstliche Intelligenz geholfen, wie ein Bericht der IT-Sicherheits-Firma Recorded Future nun zeigt.

Gleich bei mehreren Artikeln lässt sich erkennen, dass die Urheber von gbgeopolitics.com auf einen Chatbot zurückgegriffen haben. Jeweils zu Beginn des Textes findet sich die folgende Anweisung, mutmaßlich an ein KI-System gerichtet: „Bitte schreiben Sie diese Artikel um und nehmen Sie dabei eine konservative Haltung gegen die liberale Politik der Macron-Regierung ein.“

Offensichtlich passierte der Fehler, die Anweisung an den Chatbot nicht zu entfernen. Grund dafür ist möglicherweise, dass die Übernahme und das Umschreiben der Artikel von den französischen Originalquellen La Croix und TV5 Monde automatisch geschahen. Die Site gbgeopolitics.com ist inzwischen offline, aber einige Artikel finden sich noch in Online-Archiven.

KI soll Republikaner und Russland positiv darstellen

Die Site ist Teil eines größeren Netzwerks, „Copycop“ genannt, wie Recherchen von Recorded Future und der „New York Times“ ergeben haben. Dazu gehören mindestens zwölf Websites von angeblich journalistischen Online-Magazinen, die untereinander technische Verbindungen und Gemeinsamkeiten aufweisen. Ihre Namen wie „The Boston Times“, „The British Chronicle“ oder „Infos Indépendants“ deuten auf ein Zielpublikum in den USA, in Großbritannien und in Frankreich hin.

Inhaltlich bestehen die vermeintlichen News-Sites aus einer Mischung von populären Nachrichten über politische oder gesellschaftliche Themen und prorussischen Berichten zum Ukraine-Krieg sowie israelkritischen Artikeln zum Gaza-Konflikt. Bei Artikeln über die amerikanische Innenpolitik stehen polarisierende Themen wie die Einwanderung oder die Kontrolle des Waffenbesitzes im Vordergrund. Die Politik der Demokraten wird kritisiert.

Welche Narrative propagiert werden sollen, lässt sich auch aus Aussagen ableiten, welche die KI-Systeme in einigen Fällen ihren Texten gegeben haben. So heisst es zum Beispiel bei einem Artikel, dass dieser gemäß der Anweisung geschrieben sei, einen „zynischen Ton gegenüber der US-Regierung, der Nato und amerikanischen Politikern“ hervorzuheben. Zudem wurden die Republikaner, Donald Trump oder Russland positiv dargestellt.

Dass eine Gruppe auf künstlicher Intelligenz zurückgreift, um ihre Beeinflussungsoperationen gegen den Westen durchzuführen, erstaunt nicht. Bei Texten lässt sich allerdings meist nicht erkennen, dass sie von KI erzeugt wurden. Nun hat ein nachlässiges Vorgehen – möglicherweise gepaart mit einer Automatisierung – dazu geführt, dass die Einsatzweise von KI und die politischen Absichten der Gruppe öffentlich werden.

Geflüchteter Ex-Polizist aus den USA könnte beteiligt sein

Angefangen hat der Einsatz von KI bei Copycop spätestens im vergangenen September. Damals hatte die Website DC Weekly gestartet, täglich mehrere hundert neue Artikel zu veröffentlichen. Das zeigt einen Bericht der amerikanischen Universität Clemson vom Dezember. Darin beschreiben die Forscher auch Textstellen, die zeigen, dass offensichtlich Chat-GPT-3 zum Einsatz kam, um Artikel von Fox News für die eigene Plattform zusammenzufassen.

Hinter DC Weekly scheint der frühere amerikanische Polizist John Mark Dougan zu stehen. Dieser hatte 2016 unter dem Pseudonym „BadVolf“ vertrauliche Angaben über Angehörige der Sicherheitskräfte in Florida veröffentlicht und war dann nach Russland geflohen. Recorded Future hat nun Verbindungen zwischen DC Weekly und den anderen angeblichen News-Sites des Netzwerks Copycop, die ab Januar entstanden sind, entdeckt.

Ob Dougan tatsächlich und alleine hinter Copycop steht, ist unklar. Die Forscher von Recorded Future gehen davon aus, dass das Netzwerk von Russland betrieben wird. Möglicherweise werde es von Regierungsstellen oder dem größeren Komplex der russischen Desinformationsgruppen unterstützt oder beaufsichtigt, schreiben sie. Zu diesem Geflecht gehören private Firmen wie die Internet Research Agency (IRA), die sich 2016 in den amerikanischen Wahlkampf einmischte und vom inzwischen getöteten Jewgeni Prigoschin finanziert wurde.

Zwei andere russische Firmen sollen hinter der Aktion «Doppelgänger» stehen. Das ist die Bezeichnung für eine große russische Kampagne, die seit Monaten zahlreiche bekannte europäische Medien-Sites imitiert, um so Falschinformationen zu verbreiten. Das Netzwerk Copycop scheint im Vergleich dazu jedoch noch weitaus weniger professionell zu betreiben.