Das Internet hat sich von einem zunächst als egalisierend verstandenen Medium zu einem fragmentierten Raum mit sinkender Diskursqualität entwickelt. Wurde anfangs vor allem der Zugang zu Informationen und Partizipation betont, treten heute Hassrede, Polarisierung und ungleiche Teilhabe stärker in den Vordergrund. KI-Anwendungen verstärken diese Entwicklungen, indem sie nicht nur zur Kuratierung von Inhalten dienen, sondern zunehmend auch für die Generierung und Verbreitung mit herangezogen werden. Generative KI ermöglicht dabei Manipulationen, Deepfakes oder eine einfache und adaptive Verschleierung von beispielsweise extremistischen Inhalten. Dadurch erhöht sich der Anteil von sogenanntem Borderline-Content, der rechtlich schwer zu fassen, aber gesellschaftlich verhältnismäßig wirksam ist. Neben direkter Meinungsbeeinflussung birgt auch die Einbindung verzerrter Daten in das Training von Sprachmodellen langfristige Gefahren. Als Handlungsoptionen diskutieren wir sowohl direkte Eingriffe wie Inhaltsmoderation, Prebunking oder Downranking als auch indirekte Maßnahmen wie rechtliche Regulierung und die Stärkung demokratischer Aushandlungsprozesse. Der Beitrag plädiert für interdisziplinären Austausch und demokratisch legitimierte Rahmenbedingungen, um KI-gestützte digitale Öffentlichkeiten aktiv mitzugestalten.

Rieger, D. & Haim, M. (2025). Zwischen Brandherd und Feuerlöscher: Künstliche Intelligenz in digitalen Debatten und demokratischen Diskursen. [Between the Source of the Fire and the Fire Extinguisher: Artificial Intelligence in Digital Debates and Democratic Discourse.] Wissen schafft Demokratie, 18, 36-51. https://www.idz-jena.de/fileadmin/user_upload/PDFs_WsD18/WsD_18_Diana_Rieger___Mario_Haim.pdf. (content_copy)