Künstliche Intelligenz 17.03.2025, 13:00 Uhr

Wie ChatGPT und Co. Propaganda schlucken

Laut einer Untersuchung von Newsguard infiltriert das russische Desinformationsnetzwerk Pravda westliche KI-Systeme mit Propaganda. In 33 % der Fälle wiederholten führende KI-Chatbots falsche Erzählungen des Kremls.

ChatGPT und Fake News

Russisches Desinformationsnetzwerk infiltriert KI – Chatbots verbreiten unbemerkt Kreml-Propaganda.

Foto: PantherMedia / Alla Rudenko

Eine Untersuchung von Newsguard hat ergeben, dass ein in Moskau ansässiges Desinformationsnetzwerk namens „Pravda“ westliche KI-Systeme mit russischer Propaganda infiltriert hat.

Wie bereits erwähnt, zeigte die Untersuchung, dass führende KI-Chatbots in 33 % der Fälle falsche Erzählungen des Kremls wiederholten, wenn sie mit Themen konfrontiert wurden, die von russischen Desinformationskampagnen beeinflusst wurden.

Antworten von KI-Chatbots beeinflussen

Pravda verbreitet absichtlich falsche Informationen, um die Antworten von KI-Chatbots zu beeinflussen. Ziel war es, die Art und Weise zu verändern, wie KI-Systeme Informationen verarbeiten und darstellen, anstatt direkt menschliche Leser anzusprechen, so Newsguard.
2024 wurden 3,6 Mio. Artikel veröffentlicht, die prorussische Propaganda verbreiten und die westlichen KI-Systeme mit Falschinformationen infizieren.

Für die Untersuchung wurden zehn führende KI-Chatbots getestet, darunter OpenAIs ChatGPT-40, You.coms Smart Assistant und Googles Gemini. Dabei wurden 15 falsche Erzählungen überprüft, die von einem Netzwerk von 150 prorussischen Pravda-Websites zwischen April 2022 und Februar 2025 verbreitet wurden.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
THOST Projektmanagement GmbH-Firmenlogo
Ingenieur*in (m/w/d) in der Terminplanung für Großprojekte im Anlagenbau THOST Projektmanagement GmbH
verschiedene Standorte Zum Job 
THOST Projektmanagement GmbH-Firmenlogo
Consultant (m/w/d) im Projektmanagement der Energiewende THOST Projektmanagement GmbH
Nürnberg, Hannover, Kiel, Berlin, Jena Zum Job 
Die Autobahn GmbH des Bundes-Firmenlogo
Ingenieur (w/m/d) C-ITS Entwicklung Die Autobahn GmbH des Bundes
Frankfurt am Main Zum Job 
Stadt Freiburg-Firmenlogo
Techniker / Meister /Ingenieur (a) im Tunnelbetrieb Stadt Freiburg
Freiburg Zum Job 
Aptar Radolfzell GmbH-Firmenlogo
Projektleiter Industrialisierung Montage (m/w/d) Aptar Radolfzell GmbH
Eigeltingen Zum Job 
KLN Ultraschall AG-Firmenlogo
Werkzeugkonstrukteur Kunststoffverbindungstechnik (w/m/d) KLN Ultraschall AG
Heppenheim (Bergstraße) Zum Job 
BG ETEM-Firmenlogo
Aufsichtsperson I (m/w/d) nach § 18 SGB VII für die Region Rheine, Nordhorn und Lingen BG ETEM
Region Lingen, Rheine, Nordhorn Zum Job 
Albtal-Verkehrs-Gesellschaft mbH-Firmenlogo
Projektleiter*in Elektrotechnik Verkehrsanlagen (m/w/d) Elektroingenieur*in oder Techniker*in Albtal-Verkehrs-Gesellschaft mbH
Karlsruhe Zum Job 
Die Autobahn GmbH des Bundes Niederlassung Nordbayern-Firmenlogo
Ingenieur Elektrotechnik / Bauingenieur (w/m/d) Ladeinfrastruktur Die Autobahn GmbH des Bundes Niederlassung Nordbayern
Nürnberg Zum Job 
Bayerisches Staatsministerium für Wohnen, Bau und Verkehr-Firmenlogo
Traineeprogramm - Bachelor Fachrichtung Maschinenbau / Energie- und Gebäudetechnik (m/w/d) Bayerisches Staatsministerium für Wohnen, Bau und Verkehr
bayernweit Zum Job 
Bayerisches Staatsministerium für Wohnen, Bau und Verkehr-Firmenlogo
Traineeprogramm - Bachelor Fachrichtung Maschinenbau / Energie- und Gebäudetechnik (m/w/d) Bayerisches Staatsministerium für Wohnen, Bau und Verkehr
RES Deutschland GmbH-Firmenlogo
Head of Engineering / Leitung technische Planung Wind- & Solarparks (m/w/d) RES Deutschland GmbH
Vörstetten Zum Job 
Universitätsklinikum Tübingen-Firmenlogo
Technische Koordinatorin / Technischer Koordinator (w/m/d) für das Technische Betriebsamt Universitätsklinikum Tübingen
Tübingen Zum Job 
MEWA Textil-Service SE & Co. Management OHG-Firmenlogo
Projektmanager (m/w/d) PMO Business Transformation MEWA Textil-Service SE & Co. Management OHG
Wiesbaden Zum Job 
Eckelmann AG-Firmenlogo
Systemingenieur Echtzeit-Programmierung/-Entwicklung (m/w/d) Eckelmann AG
Wiesbaden Zum Job 
ECKELMANN AG-Firmenlogo
Applikationsingenieur Automatisierungstechnik (m/w/d) Schwerpunkt Walzwerke ECKELMANN AG
Wiesbaden Zum Job 
Bundesamt für Bauwesen und Raumordnung (BBR)-Firmenlogo
TGA-Koordinatorin / TGA-Koordinator Elektrotechnik (w/m/d) Bundesamt für Bauwesen und Raumordnung (BBR)
AOK - Die Gesundheitskasse in Hessen-Firmenlogo
Ingenieur (m/w/d) - Elektrotechnik AOK - Die Gesundheitskasse in Hessen
Groß-Gerau Zum Job 
Stuttgart Netze GmbH-Firmenlogo
Projektingenieur Netzbau / Tiefbau für die Energiewende (w/m/d) Stuttgart Netze GmbH
Stuttgart Zum Job 
Schleifring GmbH-Firmenlogo
Entwicklungsingenieur FPGA / VHDL (m/w/d) Schleifring GmbH
Fürstenfeldbruck Zum Job 

Die Ergebnisse bestätigen einen Bericht des American Sunlight Project (ASP), in dem gewarnt wird, dass das Pravda-Netzwerk darauf abzielt, KI-Modelle zu beeinflussen, anstatt menschliche Nutzer zu erreichen. Die Organisation bezeichnete diese Methode zur Manipulation von Sprachmodellen als „LLM Grooming“.

Über verschiedene Domains und in 49 Sprachen

Newsguard entdeckte 207 nachweislich falsche Behauptungen, die über 150 Domains des Netzwerks verbreitet werden und 49 Länder in verschiedenen Sprachen ansprechen.

Das Netzwerk verbreitet seine falschen Behauptungen in vielen Sprachen und Regionen, um sie für KI-Modelle glaubwürdiger und globaler erscheinen zu lassen. Von den 150 Websites im Pravda-Netzwerk sind etwa 40 russischsprachige Seiten, die auf bestimmte Städte und Regionen der Ukraine abzielen, wie News-Kiev.ru, Kherson-News.ru und Donetsk-News.ru. Etwa 70 Seiten richten sich an Europa und veröffentlichen in Sprachen wie Englisch, Französisch, Tschechisch, Irisch und Finnisch. Rund 30 Seiten zielen auf Länder in Afrika, dem Pazifik, dem Nahen Osten, Nordamerika, dem Kaukasus und Asien ab, darunter Burkina Faso, Niger, Kanada, Japan und Taiwan. Die restlichen Seiten sind nach Themen gegliedert und tragen Namen wie NATO.News-Pravda.com, Trump.News-Pravda.com und Macron.News-Pravda.com.

Hier kommt SEO ins Spiel

Trotz der großen Reichweite des Netzwerks erhalten einzelne Pravda-Webseiten nur sehr wenig organischen Traffic. Laut der Webanalysefirma SimilarWeb hat Pravda-en.com, eine englischsprachige Seite im Netzwerk, durchschnittlich nur 955 monatliche einzigartige Besucher. Das könnte heißen, dass diese Seiten nicht darauf ausgelegt sind, echte Nutzer anzuziehen, sondern sie konzentrieren sich auf Suchmaschinenoptimierung, um sicherzustellen, dass ihre Inhalte in Webcrawlern und KI-Trainingsdaten gut platziert sind. Dadurch können die Inhalte die KI-Ergebnisse beeinflussen.

„Die Effektivität des Pravda-Netzwerks bei der Infiltration von KI-Chatbot-Antworten lässt sich weitgehend auf seine Techniken zurückführen, die laut Viginum gezielte Suchmaschinenoptimierungs (SEO)-Strategien beinhalten, um die Sichtbarkeit seiner Inhalte in den Suchergebnissen künstlich zu steigern. Dadurch neigen KI-Chatbots, die oft auf öffentlich verfügbare Inhalte zurückgreifen, die von Suchmaschinen indexiert werden, eher dazu, Inhalte von diesen Websites zu verwenden“, heißt es in der Untersuchung.

Was versteht man unter LLM Grooming?

Beim LLM Grooming geht es darum, die Token, also die kleinsten Texteinheiten, die KI-Modelle verwenden, zu manipulieren. KI-Modelle zerlegen Text in diese Token, die ein einzelnes Zeichen oder ein ganzes Wort sein können. Wenn Trainingsdaten mit Token voller Desinformation überflutet werden, steigt die Wahrscheinlichkeit, dass KI-Modelle diese falschen Erzählungen in ihren Antworten wiederholen und verstärken.

Sieben der zehn getesteten KI-Systeme zitierten dieser Untersuchung zufolge direkt Artikel von Pravda-Webseiten, wobei zwei Modelle jeweils bis zu 27 verschiedene Pravda-Artikel als Quellen angaben. Insgesamt zitierten die Chatbots 92 Artikel aus dem Netzwerk, die Desinformationen enthielten.

Hier geht es zur Untersuchung

Ein Beitrag von:

  • Alexandra Ilina

    Redakteurin beim VDI Verlag. Nach einem Journalistik-Studium an der TU-Dortmund und Volontariat ist sie seit mehreren Jahren als Social Media Managerin, Redakteurin und Buchautorin unterwegs.  Sie schreibt über Karriere und Technik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.