KI-Interventionen zur Verbesserung von Online-Diskursen
Online-Diskurse sind ein Teil unseres Alltags geworden. Die oftmals schlechte Qualität dieser Diskussionen hält jedoch viele Menschen davon ab, sich einzubringen. Eine smarte Beeinflussung der Diskussionen in Form von Interventionen, die auf Künstlicher Intelligenz (KI) basieren, könnte dabei helfen, deren Qualität zu steigern und sie so integrativer zu machen.
Das im Projekt IndI forschende Team möchte Online-Diskussionen integrativer gestalten. Dazu sammeln die Forschenden zunächst gemeinsam mit Bürgerinnen und Bürgern, Zivilgesellschaft und Organisatorinnen und Organisatoren von Online-Diskursen Ideen, was integrative Online-Diskurse ausmacht und wie man sie verbessern könnte. Auf dieser Basis entwickeln die Expertinnen und Experten KI-Interventionen wie zum Beispiel automatisierte Moderation oder Erkennung von Hassreden und Beleidigungen und testen sie mit Nutzenden. Das Feedback speisen sie in den Forschungsprozess ein, um schließlich eine funktionsfähige KI-Anwendung zu erhalten. Zum Ende der Projektlaufzeit analysiert das Team in einem wissenschaftlichen Experiment, ob die KI-Anwendung tatsächlich zu integrativeren Online-Diskursen führt und was Nutzende aus diesen Diskursen mitnehmen.
Gelingt es, Online-Diskurse mittels KI-Interventionen integrativer zu gestalten, so können diese Interventionen überall dort eingesetzt werden, wo online diskutiert wird: Beispielsweise in sozialen Medien wie Facebook oder unter YouTube-Videos, auf Nachrichtenwebseiten oder im Rahmen der Öffentlichkeitsbeteiligung.