IndI

KI-Interventionen zur Verbesserung von Online-Diskursen

Nutzende bringen ihre Ideen ein, wie Online-Diskurse integrativer werden könnten. © Adobe Stock/alotofpeople

Motivation

Online-Diskurse sind ein Teil unseres Alltags geworden. Die oftmals schlechte Qualität dieser Diskussionen hält jedoch viele Menschen davon ab, sich einzubringen. Eine smarte Beeinflussung der Diskussionen in Form von Interventionen, die auf Künstlicher Intelligenz (KI) basieren, könnte dabei helfen, deren Qualität zu steigern und sie so integrativer zu machen.

Ziele und Vorgehen

Das im Projekt IndI forschende Team möchte Online-Diskussionen integrativer gestalten. Dazu sammeln die Forschenden zunächst gemeinsam mit Bürgerinnen und Bürgern, Zivilgesellschaft und Organisatorinnen und Organisatoren von Online-Diskursen Ideen, was integrative Online-Diskurse ausmacht und wie man sie verbessern könnte. Auf dieser Basis entwickeln die Expertinnen und Experten KI-Interventionen wie zum Beispiel automatisierte Moderation oder Erkennung von Hassreden und Beleidigungen und testen sie mit Nutzenden. Das Feedback speisen sie in den Forschungsprozess ein, um schließlich eine funktionsfähige KI-Anwendung zu erhalten. Zum Ende der Projektlaufzeit analysiert das Team in einem wissenschaftlichen Experiment, ob die KI-Anwendung tatsächlich zu integrativeren Online-Diskursen führt und was Nutzende aus diesen Diskursen mitnehmen.

Innovationen und Perspektiven

Gelingt es, Online-Diskurse mittels KI-Interventionen integrativer zu gestalten, so können diese Interventionen überall dort eingesetzt werden, wo online diskutiert wird: Beispielsweise in sozialen Medien wie Facebook oder unter YouTube-Videos, auf Nachrichtenwebseiten oder im Rahmen der Öffentlichkeitsbeteiligung.