Wird KI zur Super-Waffe für Propaganda?

Mann, der vor einer Wand mit Bildschirmen und Streams steht.

(Bild: Gorodenkoff / Shutterstock.com)

Forscher untersuchen russische Desinformationskampagne. Die Nutzung von KI erhöht Menge und Vielfalt der Inhalte – ohne Verlust an Überzeugungskraft.

Kann Künstliche Intelligenz (KI) in der Praxis staatlich unterstützte Propagandakampagnen verstärken? Eine aktuelle Studie liefert dafür nun handfeste Beweise. Forscher um Morgan Wack von der Universität Zürich haben untersucht, wie sich der Einsatz von KI-Technologien auf eine russische Desinformationskampagne ausgewirkt hat.

Ihre Ergebnisse zeigen, dass KI Propagandisten helfen kann, ihre Reichweite zu vergrößern, ohne an Überzeugungskraft zu verlieren.

Russische Propagandaseite setzt auf KI

Im Dezember 2023 deckten Journalisten der BBC und Forscher der Clemson University auf, dass die Nachrichtenseite DCWeekly.org Teil eines russischen Propagandanetzwerks war. Ziel war es, pro-russische und anti-ukrainische Narrative zu verbreiten. Die Forscher stellten fest, dass ein Großteil der Inhalte vor dem 20. September 2023 einfach von anderen rechtsgerichteten Medien kopiert wurde.

Nach diesem Datum änderte sich jedoch die Vorgehensweise: Die Artikel wurden nun größtenteils von KI umgeschrieben. Dies ermöglichte es der Seite, eine breitere Palette von Quellen zu nutzen und dennoch den gewünschten Ton und die Ausrichtung beizubehalten, die zu den Zielen der Propagandisten passten.

KI steigert Menge und Vielfalt der Inhalte

Um die Auswirkungen der KI-Nutzung zu untersuchen, analysierten die Forscher 22.889 Artikel, die vor und nach der Umstellung veröffentlicht wurden. Die Ergebnisse sind bemerkenswert: Durch den Einsatz von KI konnten die Propagandisten ihre Veröffentlichungsrate im Vergleich zur aktivsten Zeit vor der KI-Nutzung mehr als verdoppeln.

Gleichzeitig ging die Nutzung von KI mit einer Zunahme der behandelten Themen einher. Diese reichten von angeblichen Erfolgen Russlands in der Ukraine bis zu Kritik an der Waffengesetzgebung in den USA. KI ermöglichte es den Betreibern, eine größere Bandbreite an Inhalten zu produzieren, die zu ihren Zielen passten.

KI-generierte Inhalte bleiben überzeugend

Doch führt die erhöhte Produktivität auch zu einem Verlust an Überzeugungskraft? Um dies zu prüfen, führten die Forscher eine Umfrage unter 880 US-Amerikanern durch. Das Ergebnis: Die Inhalte aus der Zeit nach der KI-Einführung waren genauso überzeugend wie jene aus der Zeit davor.

Lesen Sie auch

"Unsere Ergebnisse zeigen, wie KI-Tools bereits begonnen haben, Umfang und Reichweite staatlich unterstützter Propagandakampagnen zu verändern", heißt es in der Studie. Die Forscher betonen, dass dringend Maßnahmen ergriffen werden müssen, um den Einfluss von KI-gestützter Propaganda einzudämmen.

Auswirkungen auf reale Propagandakampagnen

Die Studie macht deutlich: Durch KI kann Propaganda schneller und effizienter produziert und auf die gewünschten Zielgruppen zugeschnitten werden. Gleichzeitig ermöglicht KI eine größere Themenvielfalt, ohne an Überzeugungskraft zu verlieren.

Dies könnte weitreichende Folgen haben, warnen die Forscher. Denn je besser die KI-Systeme werden, desto schwieriger wird es, KI-generierte Propaganda zu erkennen und zu bekämpfen. Zudem sinken die Kosten für Desinformationskampagnen, was sie für mehr Akteure attraktiv machen könnte.