Künstliche Intelligenz 17.03.2025, 13:00 Uhr

Wie ChatGPT und Co. Propaganda schlucken

Laut einer Untersuchung von Newsguard infiltriert das russische Desinformationsnetzwerk Pravda westliche KI-Systeme mit Propaganda. In 33 % der Fälle wiederholten führende KI-Chatbots falsche Erzählungen des Kremls.

ChatGPT und Fake News

Russisches Desinformationsnetzwerk infiltriert KI – Chatbots verbreiten unbemerkt Kreml-Propaganda.

Foto: PantherMedia / Alla Rudenko

Eine Untersuchung von Newsguard hat ergeben, dass ein in Moskau ansässiges Desinformationsnetzwerk namens „Pravda“ westliche KI-Systeme mit russischer Propaganda infiltriert hat.

Wie bereits erwähnt, zeigte die Untersuchung, dass führende KI-Chatbots in 33 % der Fälle falsche Erzählungen des Kremls wiederholten, wenn sie mit Themen konfrontiert wurden, die von russischen Desinformationskampagnen beeinflusst wurden.

Antworten von KI-Chatbots beeinflussen

Pravda verbreitet absichtlich falsche Informationen, um die Antworten von KI-Chatbots zu beeinflussen. Ziel war es, die Art und Weise zu verändern, wie KI-Systeme Informationen verarbeiten und darstellen, anstatt direkt menschliche Leser anzusprechen, so Newsguard.
2024 wurden 3,6 Mio. Artikel veröffentlicht, die prorussische Propaganda verbreiten und die westlichen KI-Systeme mit Falschinformationen infizieren.

Für die Untersuchung wurden zehn führende KI-Chatbots getestet, darunter OpenAIs ChatGPT-40, You.coms Smart Assistant und Googles Gemini. Dabei wurden 15 falsche Erzählungen überprüft, die von einem Netzwerk von 150 prorussischen Pravda-Websites zwischen April 2022 und Februar 2025 verbreitet wurden.

Stellenangebote im Bereich Softwareentwicklung

Softwareentwicklung Jobs
HAMBURG WASSER-Firmenlogo
Ingenieur für Automatisierungstechnik Wasserwerke (m/w/d) HAMBURG WASSER
Hamburg-Rothenburgsort Zum Job 
Bundesbau Baden-Württemberg-Firmenlogo
Trainees Bundesbau Baden-Württemberg (w/m/d) Bundesbau Baden-Württemberg
verschiedene Standorte Zum Job 
Birkenstock Productions Hessen GmbH-Firmenlogo
Verantwortliche Elektrofachkraft (m/w/d) Birkenstock Productions Hessen GmbH
Steinau-Uerzell Zum Job 
TenneT TSO GmbH-Firmenlogo
Elektroingenieur für die Planung und Sicherstellung der europäischen Stromversorgung (m/w/d) TenneT TSO GmbH
Netzgesellschaft Potsdam GmbH-Firmenlogo
Ingenieur (m/w/d) Strategische Netzplanung Strom Netzgesellschaft Potsdam GmbH
Potsdam Zum Job 
Narda Safety Test Solutions GmbH'-Firmenlogo
Einkäufer für den Bereich Elektrotechnik (m/w/d) mit der Möglichkeit zur Teamleitung Narda Safety Test Solutions GmbH'
Pfullingen Zum Job 
Evonik Operations GmbH-Firmenlogo
EMR-Anlageningenieur (m/w/d) Evonik Operations GmbH
Rheinfelden (Baden) Zum Job 
Staatliche Gewerbeaufsicht Niedersachsen-Firmenlogo
Ingenieur / Naturwissenschaftler (m/w/d) für den Einsatz im Arbeitsschutz / Umweltschutz / Verbraucherschutz (Bachelor of Science / Bachelor of Engineering / Diplom / FH) Staatliche Gewerbeaufsicht Niedersachsen
verschiedene Standorte Zum Job 
Staatliche Gewerbeaufsicht Niedersachsen-Firmenlogo
Ingenieur / Naturwissenschaftler (m/w/d) für den Einsatz im Arbeitsschutz / Umweltschutz / Verbraucherschutz (Master, Diplom Uni) Staatliche Gewerbeaufsicht Niedersachsen
verschiedene Standorte Zum Job 
RHEINMETALL AG-Firmenlogo
Verstärkung für unsere technischen Projekte im Bereich Engineering und IT (m/w/d) RHEINMETALL AG
deutschlandweit Zum Job 
Schleifring GmbH-Firmenlogo
Projektingenieur (m/w/d) Key Account in der Elektronikbranche Schleifring GmbH
Fürstenfeldbruck Zum Job 
EMSCHERGENOSSENSCHAFT und LIPPEVERBAND-Firmenlogo
Gruppenleiter*in Elektrotechnik (m/w/d) EMSCHERGENOSSENSCHAFT und LIPPEVERBAND
Hamburger Hochbahn AG-Firmenlogo
Senior - Projektleiter Elektrotechnik Betriebsanlagen (w/m/d) Hamburger Hochbahn AG
Hamburg Zum Job 
3M Deutschland GmbH-Firmenlogo
Senior Capital Project Manager (m/f/d) 3M Deutschland GmbH
Kromberg & Schubert GmbH & Co.KG-Firmenlogo
Entwicklungsingenieur | Schaltplan (m/w/d) Kromberg & Schubert GmbH & Co.KG
Renningen bei Stuttgart Zum Job 
FCP Ingenieure Deutschland GmbH-Firmenlogo
BIM-Modeller Infrastruktur (m/w/d) FCP Ingenieure Deutschland GmbH
IMS Röntgensysteme GmbH-Firmenlogo
Entwicklungsingenieur (m/w/i) für digitale Inspektionssysteme IMS Röntgensysteme GmbH
Heiligenhaus Zum Job 
TGM Kanis Turbinen GmbH-Firmenlogo
Vertriebsingenieur (m/w/d) Bereich Service TGM Kanis Turbinen GmbH
Nürnberg Zum Job 
ENGIE Deutschland GmbH-Firmenlogo
Sales Manager (m/w/d) Energieeffizienzprojekte ENGIE Deutschland GmbH
Stuttgart, Köln, Frankfurt Zum Job 
HygroMatik GmbH-Firmenlogo
Junior Entwicklungsingenieur für Hard- und Softwarelösungen (m/w/d) HygroMatik GmbH
Henstedt-Ulzburg Zum Job 
HAMBURG WASSER-Firmenlogo
Ingenieur für Automatisierungstechnik Wasserwerke (m/w/d) HAMBURG WASSER
Hamburg-Rothenburgsort Zum Job 
Bundesbau Baden-Württemberg-Firmenlogo
Trainees Bundesbau Baden-Württemberg (w/m/d) Bundesbau Baden-Württemberg
verschiedene Standorte Zum Job 
Birkenstock Productions Hessen GmbH-Firmenlogo
Verantwortliche Elektrofachkraft (m/w/d) Birkenstock Productions Hessen GmbH
Steinau-Uerzell Zum Job 
TenneT TSO GmbH-Firmenlogo
Elektroingenieur für die Planung und Sicherstellung der europäischen Stromversorgung (m/w/d) TenneT TSO GmbH

Die Ergebnisse bestätigen einen Bericht des American Sunlight Project (ASP), in dem gewarnt wird, dass das Pravda-Netzwerk darauf abzielt, KI-Modelle zu beeinflussen, anstatt menschliche Nutzer zu erreichen. Die Organisation bezeichnete diese Methode zur Manipulation von Sprachmodellen als „LLM Grooming“.

Über verschiedene Domains und in 49 Sprachen

Newsguard entdeckte 207 nachweislich falsche Behauptungen, die über 150 Domains des Netzwerks verbreitet werden und 49 Länder in verschiedenen Sprachen ansprechen.

Das Netzwerk verbreitet seine falschen Behauptungen in vielen Sprachen und Regionen, um sie für KI-Modelle glaubwürdiger und globaler erscheinen zu lassen. Von den 150 Websites im Pravda-Netzwerk sind etwa 40 russischsprachige Seiten, die auf bestimmte Städte und Regionen der Ukraine abzielen, wie News-Kiev.ru, Kherson-News.ru und Donetsk-News.ru. Etwa 70 Seiten richten sich an Europa und veröffentlichen in Sprachen wie Englisch, Französisch, Tschechisch, Irisch und Finnisch. Rund 30 Seiten zielen auf Länder in Afrika, dem Pazifik, dem Nahen Osten, Nordamerika, dem Kaukasus und Asien ab, darunter Burkina Faso, Niger, Kanada, Japan und Taiwan. Die restlichen Seiten sind nach Themen gegliedert und tragen Namen wie NATO.News-Pravda.com, Trump.News-Pravda.com und Macron.News-Pravda.com.

Hier kommt SEO ins Spiel

Trotz der großen Reichweite des Netzwerks erhalten einzelne Pravda-Webseiten nur sehr wenig organischen Traffic. Laut der Webanalysefirma SimilarWeb hat Pravda-en.com, eine englischsprachige Seite im Netzwerk, durchschnittlich nur 955 monatliche einzigartige Besucher. Das könnte heißen, dass diese Seiten nicht darauf ausgelegt sind, echte Nutzer anzuziehen, sondern sie konzentrieren sich auf Suchmaschinenoptimierung, um sicherzustellen, dass ihre Inhalte in Webcrawlern und KI-Trainingsdaten gut platziert sind. Dadurch können die Inhalte die KI-Ergebnisse beeinflussen.

„Die Effektivität des Pravda-Netzwerks bei der Infiltration von KI-Chatbot-Antworten lässt sich weitgehend auf seine Techniken zurückführen, die laut Viginum gezielte Suchmaschinenoptimierungs (SEO)-Strategien beinhalten, um die Sichtbarkeit seiner Inhalte in den Suchergebnissen künstlich zu steigern. Dadurch neigen KI-Chatbots, die oft auf öffentlich verfügbare Inhalte zurückgreifen, die von Suchmaschinen indexiert werden, eher dazu, Inhalte von diesen Websites zu verwenden“, heißt es in der Untersuchung.

Was versteht man unter LLM Grooming?

Beim LLM Grooming geht es darum, die Token, also die kleinsten Texteinheiten, die KI-Modelle verwenden, zu manipulieren. KI-Modelle zerlegen Text in diese Token, die ein einzelnes Zeichen oder ein ganzes Wort sein können. Wenn Trainingsdaten mit Token voller Desinformation überflutet werden, steigt die Wahrscheinlichkeit, dass KI-Modelle diese falschen Erzählungen in ihren Antworten wiederholen und verstärken.

Sieben der zehn getesteten KI-Systeme zitierten dieser Untersuchung zufolge direkt Artikel von Pravda-Webseiten, wobei zwei Modelle jeweils bis zu 27 verschiedene Pravda-Artikel als Quellen angaben. Insgesamt zitierten die Chatbots 92 Artikel aus dem Netzwerk, die Desinformationen enthielten.

Hier geht es zur Untersuchung

Ein Beitrag von:

  • Alexandra Ilina

    Redakteurin beim VDI Verlag. Nach einem Journalistik-Studium an der TU-Dortmund und Volontariat ist sie seit mehreren Jahren als Social Media Managerin, Redakteurin und Buchautorin unterwegs.  Sie schreibt über Karriere und Technik.

Zu unseren Newslettern anmelden

Das Wichtigste immer im Blick: Mit unseren beiden Newslettern verpassen Sie keine News mehr aus der schönen neuen Technikwelt und erhalten Karrieretipps rund um Jobsuche & Bewerbung. Sie begeistert ein Thema mehr als das andere? Dann wählen Sie einfach Ihren kostenfreien Favoriten.