Wie kann Künstliche Intelligenz Bürger:innen dabei unterstützen, sich politisch zu informieren, ohne durch Fake News und Desinformationskampagnen manipuliert zu werden? Das erforscht ein Verbundprojekt unter Leitung von Prof. Jens Gerken von der TU Dortmund. Die Daimler und Benz Stiftung fördert den Verbund im Rahmen ihres Programms „Ladenburger Kolleg“ mit 1,5 Millionen Euro für drei Jahre.
Politische Meinungsbildung hängt maßgeblich vom alltäglichen Informationskonsum ab
Die politische Meinungsbildung zählt zu den Grundlagen einer funktionierenden demokratischen Gesellschaft. Ob und wen Bürger:innen aber wählen, hängt maßgeblich von den im Alltag konsumierten Informationen ab. Neben den klassischen Medien bestimmen heute vor allem soziale Medien den öffentlichen Diskurs, der häufig unter dem Einfluss einseitiger Filterblasen und Echokammern steht.
Zudem gibt es dort eine Vielzahl schwer überprüfbarer Falschdarstellungen, Manipulationen, Verzerrungen oder künstlich erstellter Inhalte. Demokratische Prozesse werden dadurch beeinflusst, bestehende Anschauungen verfestigt und konstruktive Diskurse untergraben.
An dieser Stelle setzt der von der Stiftung geförderte Forschungsverbund an. Während der Projektlaufzeit sollen die Forscher:innen insbesondere ein innovatives Software-Werkzeug namens KonCheck entwickeln und erproben, das als leicht zu bedienende App politisch relevante Informationen kontextualisieren sowie auf ihre Echtheit und Vertrauenswürdigkeit hin überprüfen kann.
KI-Tool soll mit besonderem Blick auf vulnerable Gruppen entwickelt werden
Technologisch sollen dabei Sprachmodelle der künstlichen Intelligenz zum Einsatz kommen. Nutzer:innen können Fragen zu bestimmten Texten stellen, sich Quellen anzeigen lassen, Artikel in einfacher Sprache abrufen oder sich Inhalte im Kontext einordnen lassen.
Das KI-Tool soll dabei ein intuitives und leicht verständliches Design haben, da es sich vor allem an vulnerable Gruppen richtet. Dazu gehören Menschen mit kognitiven Beeinträchtigungen, Senior:innen und junge Erstwählende.
Leiter und Koordinator des interdisziplinären Forschungsverbunds ist Prof. Jens Gerken, der das Fachgebiet „Inklusive Mensch-Roboter-Interaktion“ an der Fakultät Rehabilitationswissenschaften der TU Dortmund leitet.
Nicht nur konsumieren, sondern sich mit den Inhalten kritisch auseinandersetzen
„Wir möchten mit KonCheck ein Werkzeug schaffen, welches eine neue Form von Teilhabe in der digitalen Welt schafft: Anstatt mediale Inhalte nur zu konsumieren, sollen sich die Nutzer:innen von KonCheck interaktiv mit ihnen auseinandersetzen.“
An der TU Dortmund beteiligen sich zudem die Sozialforschungsstelle Dortmund (Prof. Jürgen Howaldt / Prof. Johannes Weyer) und das Fachgebiet Communication for Health, Inclusion and Participation (Prof. Matthias R. Hastall).
Sie beschäftigen sich aus sozialpsychologischer und kommunikationswissenschaftlicher Perspektive mit der Entwicklung, Dissemination und Evaluation des neuen KI-Tools. Weitere Projektpartner im Forschungsverbund sind das CISPA Helmholtz-Zentrum für Informationssicherheit, das Institut für Internetsicherheit der Westfälischen Hochschule und die Hochschule Rhein-Waal.
