Pattern-Based Detection of Linguistic Threats

Digitale Desinformation und KI-generierte Inhalte verändern die Art und Weise, wie wir Informationen wahrnehmen und bewerten. In Kooperation mit der HKA – Hochschule Karlsruhe und begleitet vom ZKM als Bildungspartner bietet das Symposium „Die Fabrikation der Wahrheit“ eine Plattform, um aktuelle Problemlagen sichtbar zu machen und neue Perspektiven zu eröffnen.
Das Symposium ist Teil des Projekts „Reality Check: Fake or Fact im Zeitalter generativer KI“, das vom Institut für Intelligente Interaktion und Immersive Erfahrung des HKA initiiert und von der Carl-Zeiss-Stiftung gefördert wird. Ziel ist es, insbesondere junge Menschen für die Herausforderungen von Fake News, Deepfakes und digitaler Manipulation zu sensibilisieren.

Der Vortrag stellt ein umfassendes System zur Erkennung und Analyse sprachlicher Bedrohungsmuster in Texten vor. Mit dem Aufkommen großer Sprachmodelle (LLMs) können Texte im Internet selbst zu Angriffsvektoren werden, die die Meinungsbildung von Nutzern beeinflussen. Wir stellen ein konfigurierbares Textbedrohungserkennungssystem, das auf linguistischen Mustern basiert. Unser Ansatz verwendet vordefinierte reguläre Ausdrücke und Schlüsselwortmuster, um spezifische sprachliche Marker zu identifizieren, die auf böswillige Absichten hindeuten. Linguistische Mustererkennung kann potenzielle textbasierte Bedrohungen identifizieren. Dies bietet Nutzern und Entwicklern Werkzeuge, um besser zu verstehen, wann sie möglicherweise voreingenommenen oder manipulierten Inhalten ausgesetzt sind. Dieser Ansatz trägt dazu bei, Risiken zu mindern, die Grundlage für politische Diskussionen zu verbessern und die politische Kluft zu verringern.