bidt-Projekt zu Autoritärer KI: Wie große Sprachmodelle an Russlands Propaganda angepasst werden

Forschende der Universitäten Passau und Bamberg untersuchen in einem vom bidt geförderten Projekt, wie Russland unter strenger Aufsicht eigene generative KI-Modelle entwickelt und wie sich autoritäre Daten auf KI-Systeme in demokratischen Systemen auswirken.

Der Papst in Gucci-Jacke, Taylor Swift als vermeintliche Trump-Unterstützerin, ein Fake-Video von Friedrich Merz: Systeme der generativen künstlichen Intelligenz können inzwischen täuschend echte Inhalte produzieren. Sie dürften damit die Art und Weise grundlegend verändern, wie Informationen in modernen Gesellschaften zirkulieren. Autoritäre Regime haben die Macht von KI-generierten Bildern und Inhalten längst erkannt.

Ein interdisziplinäres Team von Forschenden der Universitäten Passau und Bamberg untersucht in einem neuen Projekt, wie Russland und andere Autokratien die Entwicklung von Large Language Models (LLMs), großen generativen Sprachmodellen, regulieren und kontrollieren. Das Bayerische Forschungsinstitut für Digitale Transformation (bidt) der Bayerischen Akademie der Wissenschaften fördert das Projekt AI-PROP zu autoritärer KI und Propaganda mit 930 000 Euro über eine Laufzeit von drei Jahren. Es startet zum 1. April 2025.

„In Autokratien wie China und Russland wird generative KI heute vielfach unter der Schirmherrschaft staatlich kontrollierter Unternehmen entwickelt“, sagt Projektleiter Prof. Dr. Florian Töpfl, Inhaber des Lehrstuhls für Politische Kommunikation mit Schwerpunkt Osteuropa an der Universität Passau. „Durch solche Maßnahmen der Regulierung und Zensur stellen autokratische Regierungen sicher, dass die Ausgaben der KI-Modelle mit den politischen Narrativen und Ideologien der herrschenden Eliten übereinstimmen.“ Darüber hinaus zensierten Autokraten zunehmend den Zugang zu den in Demokratien entwickelten Sprachmodellen. So haben beispielsweise China und Russland die Nutzung von ChatGPT, dem Chatbot des US-amerikanischen Softwareunternehmens OpenAI, verboten.

Beteiligt an dem Projekt ist neben Prof. Dr. Töpfl auch der Informatiker Prof. Dr. Florian Lemmerich von der Universität Passau und der Politologe Prof. Dr. Andreas Jungherr von der Universität Bamberg. Vor dem Hintergrund der aktuellen Entwicklungen befassen sich die Forschenden in dem bidt-Projekt mit zwei übergreifenden Fragen:

• Wie und mit welchen Folgen sind autoritäre KI-Systeme in die heutige russische Gesellschaft eingebettet?
• Welche Folgen hat es, dass „autoritäre Daten“, also Daten, die durch autoritäre Einflussnahme und Zensur manipuliert wurden, zunehmend in westliche KI-Systeme eingespeist werden?

Das Team untersucht im Rahmen von vier miteinander verbundenen Arbeitspaketen, wie auf Sprachmodellen basierende Systeme in Russland im Vergleich zu westlichen Demokratien reguliert werden und wie sich die von diesen Systemen generierten Inhalte in demokratischen und autoritären Staaten unterscheiden. Darüber hinaus ergründen die Forschenden die Folgen des Aufstiegs von generativer KI auf den öffentlichen Diskurs in demokratischen und autoritären Gesellschaften.

„Letztendlich zielen wir mit dem Projekt ‚Autoritäre KI‘ darauf ab, die Widerstandskraft von Demokratien gegen autoritäre Einflussnahme mittels künstlicher Intelligenz zu stärken und transparent zu machen, wie autoritäre Eliten KI-Systeme manipulieren“, erklärt Prof. Dr. Töpfl. Das Projekt enthält auch einen Bereich Öffentlichkeitsarbeit und Wissenstransfer, in dem ein Leitfaden entwickelt werden soll, um Kompetenz gegen Propaganda aufzubauen.

Über das Forschungsteam

Projektleiter Prof. Dr. Florian Töpfl ist Inhaber des Lehrstuhls für Politische Kommunikation mit Schwerpunkt auf Osteuropa und die postsowjetische Region an der Universität Passau. Er leitet das ERC-Consolidator-Projekt RUSINFORM zu den Auswirkungen der Digitalisierung auf Russlands informationellen Einfluss im Ausland. Prof. Dr. Töpfl erforscht unter anderem die politische Kommunikation von antidemokratischen Gegenöffentlichkeiten in westlichen Demokratien.

Prof. Dr. Florian Lemmerich ist Inhaber der Professur für Angewandtes Maschinelles Lernen an der Universität Passau. Er erforscht unter anderem die Entwicklung von Methoden des Maschinellen Lernens sowie die Qualität von großen Sprachmodellen.

Prof. Dr. Andreas Jungherr ist Inhaber des Lehrstuhls für Politikwissenschaft, insbesondere Digitale Transformation, an der Universität Bamberg. Er untersucht unter anderem die Nutzung digitaler Medien durch Bevölkerung, politische Eliten, Medien und Organisationen.

Symbolbild: Adobe Stock

Projektleitung an der Universität Passau	Prof. Dr. Florian Töpfl (Lehrstuhl für Politische Kommunikation mit Schwerpunkt auf Osteuropa und die postsowjetische Region)
Laufzeit	01.01.2025 - 31.12.2027
Mittelgeber	BAdW - Bayerische Akademie der Wissenschaften > BAdW - Bayerische Akademie der Wissenschaften - bidt - Bayerisches Forschungsinstitut für Digitale Transformation
Themenfelder	Kommunikationswissenschaft/Publizistik, Politikwissenschaften, Politikwissenschaften allgemein, Angewandte Informatik, Publizistik und Kommunikationswissenschaft, Politikwissenschaft