Künstliche Intelligenz und demokratische Beteiligung
KI als Chance und Herausforderung im Partizipationsbereich
Wenn es um den Einsatz von Künstlicher Intelligenz (KI) im Rahmen demokratischer Prozesse geht, sind viele von uns vermutlich erst einmal skeptisch. Denn Algorithmen sind oft nicht transparent gestaltet und können durch Vorurteile in den Trainingsdaten diskriminierende Entscheidungen treffen. Auch KI-generierte Inhalte können eine Gefahr für die Demokratie darstellen, wenn sie bewusst zur Täuschung eingesetzt werden und falsche Informationen enthalten. Außerdem wirft das Sammeln großer Datenmengen Fragen der Privatsphäre und Sicherheit auf – und auch das Thema Nachhaltigkeit spielt im KI-Bereich aktuell noch eine zu kleine Rolle. Der Einsatz von künstlicher Intelligenz für die Demokratie birgt also zahlreiche Herausforderungen und Gefahren. Aber können KI-Technologien umgekehrt auch eine Chance für bessere demokratische Teilhabe sein?
Mit dieser Frage beschäftigen wir uns als Verein nun schon seit einiger Zeit. Besonders interessiert uns dabei der Einsatz von KI im Beteiligungskontext. In diesem Artikel möchten wir zwei KI-Forschungsprojekte unseres Vereins näher vorstellen und euch einige Denkanstöße für den Einsatz von gemeinwohlorientierter KI im Beteiligungsbereich geben.
Mit KI die Moderation von Onlinediskussionen verbessern
Mit dem Forschungsprojekt KOSMO haben wir zusammen mit dem Institut für Partizipatives Gestalten und der Heinrich-Heine-Universität Düsseldorf (HHU) untersucht, wie demokratische Debatten im digitalen Raum verbessert werden können. Im Rahmen des dreijährigen Projekts (2020–2023) haben wir den Prototypen eines KI-basierten Assistenz-Systems entwickelt, der für die Moderation von Online-Diskursen eingesetzt werden kann. Anders als viele andere KI-Sprachmodelle und -Systeme von großen IT-Konzernen erkennt die KOSMO -KI dabei nicht nur problematische Textabschnitte sondern auch Textbeiträge von hoher argumentativer Qualität. Die Kriterien dafür wurden von den Forscher:innen an der HHU entwickelt. KOSMO schlägt der Moderation bestimmte Inhalte zur Überprüfung vor. Die Moderation kann dann entscheiden, ob sie Beiträge löschen, kommentieren oder aufgrund ihrer hohen argumentativen Qualität hervorheben möchte. Dadurch kann KOSMO helfen, die Diskussionsqualität in Online-Debatten zu verbessern und sie zugänglicher für alle zu gestalten.
KI im Kampf gegen Desinformation einsetzen
In dem Projekt DeFaktS beschäftigen wir uns gemeinsam mit dem FZI Forschungszentrum Informatik, der Murmuras GmbH und der Philipps-Universität Marburg mit dem Einsatz von KI für die Erforschung und Bekämpfung von Desinformation. In einem ersten Schritt wurde auf der Basis von Nachrichten aus Social-Media- und Messenger-Gruppen eine KI trainiert, die für Desinformation charakteristische Faktoren und Stilmittel erkennen kann. Außerdem wurde durch Usertestings erforscht, wie die Einschätzung der KI durch eine entsprechende XAI-Komponente (XAI = Explainable Artificial Intelligence) am besten erklärt werden kann. Ziel des noch bis Ende 2025 laufenden Projektes ist es, ein KI-System zu entwickeln, das effektiv im Kampf gegen Desinformation eingesetzt werden kann, um Online-Diskussionen zu verbessern.
Die KI-Entwicklung wird maßgeblich von großen, gewinnorientierten Tech-Konzernen vorangetrieben, deren Algorithmen und KI-Systeme häufig intransparent sind und kommerziellen Zwecken dienen. Demgegenüber steht der Einsatz von gemeinwohlorientierter KI – also die Idee, dass KI-Systeme einem kollektiven gesellschaftlichen Wohl dienen sollen. Statt Profit steht hier der Mehrwert für die Öffentlichkeit im Fokus. Besonders bei dem Einsatz und der Entwicklung von KI-Technologien im Rahmen demokratischer Prozesse ist eine gemeinwohlorientierte Ausrichtung wichtig.
Im Bereich Beteiligung ergeben sich mit der konstanten Weiterentwicklung neuer KI-Technologien einerseits Herausforderungen, aber andererseits auch Chancen für demokratische Meinungsprozesse. Wenn die Systeme transparent, sinnvoll und gemeinwohlorientiert eingesetzt werden, um mehr Menschen in politische Entscheidungsprozesse einzubeziehen, kann unsere Demokratie insgesamt davon profitieren. Doch fehleranfällige, voreingenommene Algorithmen, die politische Entscheidungen großer Tragweite treffen oder politische Diskurse beeinflussen, stellen eine dringende und ernstzunehmende Gefahr für unsere Demokratie dar.
