Im Rahmen des vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) geförderten Projekts INDI kamen am 06. und 07. Oktober Wissenschaftler*innen des DIID und Expert*innen aus der Praxis im Haus der Universität in Düsseldorf zusammen, um sich über aktuelle Entwicklungen und Erfahrungen zur Rolle von KI in Online-Diskussionen auszutauschen. Der zweitägige Workshop diente sowohl dem gegenseitigen Austausch als auch der Erprobung der im INDI-Projekt entwickelten KI-basierten Diskussionsassistenten.
Am ersten Tag stand der Erfahrungstransfer im Mittelpunkt. Vertreter*innen von DIID-Praxispartnern Liquid Democracy e.V. und Make.org sowie conversario, ZDF Digital Medienproduktion GmbH und deliberAIde stellten eigene Projekte vor, in denen KI für einen transparenten, inklusiven und konstruktiveren Diskussionsprozess genutzt wird.
Liquid Democracy e.V. präsentierte gleich mehrere spannende Projekte: Zunächst das in Kooperation mit dem DIID realisierte Projekt KOSMO, in welchem ein KI-Assistent zur Unterstützung von Moderator*innen bei Online-Diskussionen entwickelt wurde. Das Projekt DeFaktS zeigte, wie KI helfen kann, Desinformationen zu erkennen.
Make.org Deutschland präsentierte u.a. am Beispiel ihres WahlChecks 2025 zur Bundestagswahl 2025 den Einsatz einer KI, die Positionen der neun wichtigsten Parteien zu verschiedenen Themen übersichtlich zusammenfasste. Darüber hinaus wurde es Nutzenden ermöglicht, konkrete Fragen zu den Parteiprogrammen an die KI zu richten, welche mit entsprechendem Beleg eine Antwort generierte.
Einen praxisnahen Einblick in die Anwendung von KI für Community Management und Moderation bot conversario. Die vorgestellten Tools unterstützen Moderator*innen dabei, in umfangreichen Kommentarspalten den Überblick zu behalten, Dialogräume offen zu halten und gleichzeitig Schutzmechanismen gegen Hassrede oder destruktives Verhalten zu integrieren.
Es folgte die Präsentation des jungen Start-ups deliberAIde, das ein KI-basiertes Tool entwickelt, welches Audioaufnahmen bei Präsenzveranstaltungen aufnimmt und zeitgleich transkribiert. Dabei anonymisiert es persönliche Daten, erkennt verschiedene Sprachen und fasst die Ergebnisse sowohl textlich als auch grafisch aufbereitet zusammen. Dadurch wird die stattfindende Kommunikation nachhaltig nutzbar gemacht. In Zusammenarbeit mit dem Kreis Siegen-Wittgenstein wurde das Tool bereits bei einem Beteiligungsprozess getestet, wobei das Feedback vom Kreis vielversprechend war.
Zum Abschluss des ersten Tages berichtete die ZDF Digital Medienproduktion GmbH von einem internen KI-Tool, welches im Zusammenhang mit dem Projekt Public Spaces Incubator entwickelt wurde. Das Tool prüft Kommentare automatisiert auf Regelverstöße und soll so zu einem respektvolleren Diskussionsklima beitragen. Die Rückmeldungen aus den Tests zeigten, dass Nutzer*innen die Hinweise der KI ernst nehmen und in vielen Fällen ihre Beiträge entsprechend anpassen.
Der zweite Workshoptag stand ganz im Zeichen des User-Testings: Die Teilnehmenden konnten erstmals die im INDI-Projekt entwickelten Diskussionsassistenten ausprobieren. Diese bewerten Online-Kommentare entlang der Dimensionen Zivilität, Begründung und Empathie. In Kleingruppen testeten die Anwesenden die verschiedenen Funktionen, diskutierten mögliche Einsatzszenarien, entwickelten Verbesserungsvorschläge und reflektierten ethisch-normative Aspekte. Dabei zeigte sich, dass KI-Interventionen in Diskussionsräumen nicht nur technische, sondern auch gesellschaftliche Fragen aufwerfen, etwa nach Fairness, Meinungsvielfalt und der Verantwortung von Plattformen für digitale Diskurse.
Im abschließenden Austausch wurde deutlich, dass die Verbindung von wissenschaftlicher Forschung und praktischer Anwendung wertvolle Erkenntnisse und Anstöße zur verantwortungsvollen KI-Entwicklung liefern. Die Teilnehmenden betonten, wie wichtig Transparenz, Nutzer*innenorientierung und interdisziplinäre Zusammenarbeit sind, um vertrauensvolle Systeme zu entwickeln.
Wir danken allen Teilnehmenden für ihre Teilnahme am Workshop und den konstruktiven Input. Mit dem Ziel, Online-Debatten künftig konstruktiver und integrativer zu gestalten, wird das INDI-Team die vielfältigen Impulse aus den beiden Tagen in die Weiterentwicklung seiner Diskussionsassistenz integrieren.