Zwischen den Zeilen: Eine linguistische Perspektive auf Fake News und KI

Digitale Desinformation und KI-generierte Inhalte verändern die Art und Weise, wie wir Informationen wahrnehmen und bewerten. In Kooperation mit der HKA – Hochschule Karlsruhe und begleitet vom ZKM als Bildungspartner bietet das Symposium „Die Fabrikation der Wahrheit“ eine Plattform, um aktuelle Problemlagen sichtbar zu machen und neue Perspektiven zu eröffnen.
Das Symposium ist Teil des Projekts „Reality Check: Fake or Fact im Zeitalter generativer KI“, das vom Institut für Intelligente Interaktion und Immersive Erfahrung des HKA initiiert und von der Carl-Zeiss-Stiftung gefördert wird. Ziel ist es, insbesondere junge Menschen für die Herausforderungen von Fake News, Deepfakes und digitaler Manipulation zu sensibilisieren.

Der Vortrag skizziert eine linguistische Perspektive auf die Grenzen aktueller KI-Systeme im Umgang mit Fake News. Der Fokus liegt auf impliziten Annahmen, die das geteilte Hintergrundwissen zwischen Gesprächspartnern reflektieren – sogenannten Präsuppositionen. Diese machen Kommunikation effizient, werden jedoch dann problematisch, wenn der vorausgesetzte Inhalt falsch ist. So sind falsche Präsuppositionen besonders wirksam darin, Misinformation unauffällig einzubetten: Die falsche Information wird nicht explizit formuliert, sondern als wahr vorausgesetzt. Fragen wie „Haben die Wähler herausgefunden, dass die Partei die Linke nicht möchte, dass die EU eine eigene Seenotrettung im Mittelmeer aufbaut?“ suggerieren einen falschen Sachverhalt und riskieren die stille Etablierung von Falschinformationen im gemeinsamen Wissensraum („common ground“).
Fragen, die falsche Präsuppositionen enthalten, stellen nicht nur für Menschen eine kommunikative Herausforderung dar, sondern auch für große Sprachmodelle wie ChatGPT, die auf den ersten Blick kohärente und plausible Antworten liefern. Wenn Sprachmodelle aber auf solche Fragen antworten, ohne die darin implizit enthaltenen Annahmen zu hinterfragen, tragen sie auf subtile Weise zur Verbreitung von Fehlinformation bei.
Der Vortrag präsentiert Ergebnisse eines aktuellen Experiments, in dem verschiedene Sprachmodelle gezielt mit falschen Präsuppositionen über politische Fakten getestet wurden. Die Analyse zeigt: Faktenwissen allein reicht nicht, um implizite Irreführung zu erkennen und zu korrigieren.