Digitalisierung und Demokratie

Buchmann, Johannes et al. Research Report Digitalisierung und Demokratie Schriftenreihe zur wissenschaftsbasierten Politikberatung Provided in Cooperation with: WZB Berlin Social Science Center Suggested Citation: Buchmann, Johannes et al. (2021) : Digitalisierung und Demokratie, Schriftenreihe zur wissenschaftsbasierten Politikberatung, ISBN 978-3-8047-4222-2, Deutsche Akademie der Naturforscher Leopoldina e. V. - Nationale Akademie der Wissenschaften, Halle (Saale), https://doi.org/10.26164/leopoldina_03_00348 This Version is available at: https://hdl.handle.net/10419/242994 Standard-Nutzungsbedingungen: Die Dokumente auf EconStor dürfen zu eigenen wissenschaftlichen Zwecken und zum Privatgebrauch gespeichert und kopiert werden. Sie dürfen die Dokumente nicht für öffentliche oder kommerzielle Zwecke vervielfältigen, öffentlich ausstellen, öffentlich zugänglich machen, vertreiben oder anderweitig nutzen. Sofern die Verfasser die Dokumente unter Open-Content-Lizenzen (insbesondere CC-Lizenzen) zur Verfügung gestellt haben sollten, gelten abweichend von diesen Nutzungsbedingungen die in der dort genannten Lizenz gewährten Nutzungsrechte. Terms of use: Documents in EconStor may be saved and copied for your personal and scholarly purposes. You are not to copy documents for public or commercial purposes, to exhibit the documents publicly, to make them publicly available on the internet, or to distribute or otherwise use the documents in public. If the documents have been made available under an Open Content Licence (especially Creative Commons Licences), you may exercise further usage rights as specified in the indicated licence. https://creativecommons.org/licenses/by-nd/4.0/ ?!?!? ??? ?!!!! ??? #/O~! :-o :-o :- 2021 Stellungnahme Nationale Akademie der Wissenschaften Leopoldina | www.leopoldina.org acatech – Deutsche Akademie der Technikwissenschaften | www.acatech.de Union der deutschen Akademien der Wissenschaften | www.akademienunion.de Digitalisierung und Demokrati e Impressum Herausgeber Deutsche Akademie der Naturforscher Leopoldina e.V. (Federführung) – Nationale Akademie der Wissenschaften – Jägerberg 1, 06108 Halle (Saale) acatech – Deutsche Akademie der Technikwissenschaften e.V., Residenz München, Karolinen-platz 4, 80333 München Union der deutschen Akademien der Wissenschaften e. V. Geschwister-Scholl-Straße 2, 55131 Mainz Redaktion Dr. Henning Steinicke, Dr. Elke Witt, Nationale Akademie der Wissenschaften Leopoldina, Abteilung Wissenschaft – Politik – Gesellschaft (Leitung: Elmar König) Kontakt: [email protected]g Lektorat Jürgen Schreiber, Textkuss – Werkstatt für Sprache und Struktur, Halle (Saale) Gestaltung und Satz Satz: Klötzner Company, Hamburg Titelgrafik: Sisters of Design – Anja Krämer & Claudia Dölling GbR, Halle (Saale) Druck druckhaus köthen GmbH & Co. KG Friedrichstr. 11/12 06366 Köthen (Anhalt) ISBN: 978-3-8047-4222-2 DOI: 10.26164/leopoldina_03_00348 Veröffentlicht unter: CC BY-ND 4.0 Bibliografische Information der Deutschen Nationalbibliothek Die deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie, detaillierte bibliografische Daten sind im Internet unter http://dnb.d-nb.de abrufbar. Zitiervorschlag Nationale Akademie der Wissenschaften Leopoldina, Union der deutschen Akademien der Wissenschaften, acatech – Deutsche Akademie der Technikwissenschaften (2021): Digitalisierung und Demokratie. Halle (Saale). Redaktionsschluss Mai 2021 Digitalisierung und Demokrati e 2Inhalt XX 1 Zusammenfassung und Empfehlungen ....................................................4 2 Einleitung ................................................................................................10 3 Analyse ...................................................................................................15 3.1. Plattformen als Infrastrukturen .............................................................................. 15 3.1.1. Die Erweiterung der Infrastrukturen demokratischer Öffentlichkeiten ......15 3.1.2. Koexistenz von Presse, Rundfunk und Plattformen ....................................18 3.1.3. Die Macht von Plattformen..........................................................................19 3.1.4. Gegenwärtiger Stand der Plattformregulierung..........................................20 3.1.5. Herausforderungen.....................................................................................23 3.2. Information und Kommunikation............................................................................25 3.2.1. Chancen für die demokratische Öffentlichkeit............................................26 3.2.2. Informationsauswahl...................................................................................27 3.2.3. Informationsbewertung...............................................................................28 3.2.4. Pluralität.......................................................................................................30 3.2.5. Zivilität.........................................................................................................32 3.2.6. Herausforderungen......................................................................................33 3.3. Partizipation............................................................................................................34 3.3.1. Zwischen Euphorie und Ernüchterung.........................................................34 3.3.2. Vielstimmigkeit der Partizipationsmöglichkeiten........................................37 3.3.3. Rolle zivilgesellschaftlicher Organisationen und Bewegungen....................39 3.3.4. Partizipationsmöglichkeiten durch Daten....................................................40 3.3.5. Herausforderungen......................................................................................41 3.4. Selbstbestimmung...................................................................................................41 3.4.1. Selbstbestimmte Entfaltung in digitalen Öffentlichkeiten...........................42 3.4.2. Beeinflussung in digitalen Öffentlichkeiten.................................................42 3.4.3. Herausforderungen......................................................................................45 Inhaltsverzeichnis 3 Inhalt 4 Handlungsempfehlungen .......................................................................46 4.1. Kuratierungspraxis digitaler Informations- und Kommunikationsplattformen regulieren.................................................................46 4.2. Internetangebote des öffentlich-rechtlichen Rundfunks stärken ........................... 47 4.3. Forschung auf den Datenbeständen von Plattformen erleichtern..........................48 4.4. Zivilität des Diskurses sicherstellen.........................................................................50 4.5. Demokratiefreundliches Design digitaler Technologien und Infrastrukturen fördern...........................................................................................51 4.6. Entwicklung der Digital- und Medienkompetenz stärken.......................................53 4.7. Qualitäts- und Datenjournalismus fördern............................................................. 55 4.8. Digitale Beteiligung ausbauen.................................................................................56 5 Mitwirkende ........................................................................................... 60 6 Literatur ..................................................................................................62 4Zusammenfassung und Empfehlungen 1. Zusammenfassung und Empfehlungen Im Zuge der Digitalisierung hat sich die demokratische Öffentlichkeit heute bereits grundlegend verändert. Neben traditionellen Medien wie Presse und Rundfunk sind neue, digitale Kommunikationsformate wie Onlinemedien und soziale Netzwerke getreten, die hinsichtlich ihres Demokratisierungspotenzials große Erwartungen geweckt haben, aber auch kritische Entwicklungen begünstigen. Ein leichterer Zugang zu Informationen für Bürgerinnen und Bürger sowie mehr Möglichkeiten zur politischen Beteiligung und zur Stärkung der Zivilgesellschaft sind ebenso Folgen dieses Wandels wie eine Zunahme von Falschinformationen, Manipulationsversuchen und Hassrede. Um das Verhältnis von Digitalisierung und demokratischen Öffentlichkeiten angemessen zu erfassen, sind vier Aspekte zu berücksichtigen: (a) die Digitalisierung von Infrastrukturen demokratischer Öffentlichkeiten, (b) die Veränderung von Information und Kommunikation durch digitale Medien, (c) die Erweiterung von demokratischer Partizipation durch neue, digitale Formate und (d) der Wandel politischer Selbstbestimmung. Demokratische Öffentlichkeiten sind auf Infrastrukturen angewiesen, die einen fairen und offenen Diskurs ermöglichen und Zugang zu vielfältigen und vertrauenswürdi - gen Informationen bieten. Traditionell bilden Presse- und Rundfunkmedien solche Infrastrukturen. Allerdings spielen digitale Infrastrukturen eine zunehmend wichti - ge Rolle, insbesondere digitale Informations- und Kommunikationsplattformen (im Folgenden: Plattformen). Traditionelle Massenmedien erstellen überwiegend eigene Inhalte, die von Redaktionen nach professionellen Kriterien kuratiert, also ausgewählt und priorisiert werden. Dagegen präsentieren Plattformen in der Regel Inhalte Dritter, etwa von Nutzerinnen und Nutzern, von traditionellen Massenmedien oder von Werbetreibenden. Diese Inhalte werden mithilfe von Algorithmen individuell für Plattformnutzerinnen und -nutzer ausgewählt (personalisierte Kuratierung), um die Verweildauer auf den Plattformen zu erhöhen, mit dem Ziel, Werbeeinnahmen zu generieren (aufmerksamkeitsbasiertes Geschäftsmodell). Die Algorithmen, die der personalisierten Kuratierung zugrunde liegen, versuchen zu diesem Zweck und auf Grundlage umfassender Beobachtungs- und Auswertungsdaten zum Nutzerverhalten, die Aufmerksamkeit der Plattformnutzerinnen und -nutzer zu lenken und deren Verhalten zu beeinflussen. Die Omnipräsenz von Smartphones im Alltag und die Bedeutung sozialer Medien für das Sozial- und Berufsleben verstärken die Bedeutung der Plattformen noch. Zudem führen sogenannte ökonomische Netzwerkeffekte zu einer massiven Konzentration des Plattformmarkts, der durch wenige große Anbieter geprägt ist. Diese Anbieter haben also beträchtliche Macht, die angesichts der zentralen Bedeutung der Plattformen für die demokratische Öffentlichkeit dringend einer rechtlichen Regulierung bedarf. Die bestehenden Ansätze zur Verpflichtung der Plattformen, unzulässige Inhalte zu löschen und ihre Kuratierungskriterien transparent zu machen, genügen noch nicht. 5 Information und Kommunikation von Bürgerinnen und Bürgern sind essenziell für demokratische Öffentlichkeiten. Die Digitalisierung erweitert die Informations- und Kommunikationsmöglichkeiten erheblich, wie die prominente Online-Enzyklopädie Wikipedia, neue Entwicklungen in Sensortechnik und Datenanalyse, die erlauben, hochpräzise Informationen in Echtzeit bereitzustellen, oder die zunehmende globale Vernetzung durch neue Kommunikationsdienste beispielhaft zeigen. Die Digitalisierung birgt aber auch Risiken für Information und Kommunikation. So stellen Auswahl und Rezeption von Informationen eine erhebliche Herausforderung dar, weil das unermessliche Informationsangebot die kognitive Kapazität von Menschen überfordert und die Kuratierungspraxis der Plattformen zu einer inadäquaten Priorisierung von Informationen führen kann. Zudem ist eine angemessene Bewertung von Informationen oft kaum zu leisten, da die Korrektheit von Informationen und die Vertrauenswürdigkeit der ihnen zugrunde liegenden Quellen als relevante Voraussetzungen normativer Aussagen oft nur schwer einzuschätzen sind. Ein Grund dafür ist beispielsweise die massenhafte, schnelle und weitreichende Verbreitung von Falschnachrichten in digitalen Öffentlichkeiten. Darüber hinaus gefährden die algorithmische Kuratierungspraxis wie auch das Auswahlverhalten von Nutzerinnen und Nutzern die Pluralität und deren Wahrnehmung, also die Vielfalt von Meinung und Information in demokratischen Öffentlichkeiten. So wählen insbesondere Konsumentinnen und Konsumenten mit extremen politischen Ansichten hauptsächlich solche Quellen aus, die ihre eigene, bereits bestehende Meinung stützen; außerdem bilden sich in sozialen Medien zunehmend Gruppen heraus, deren Mitglieder sich in ihrem homogenen Meinungsbild gegenseitig verstärken. In der Folge können sich Positionen radikalisieren, die Tonlage in der politischen Auseinandersetzung kann sich verschärfen. Schließlich ist auch die Zivilität des politischen Diskurses durch Phänomene wie „Hate Speech“ (Hassrede) und „Online Harassment“ (Online-Mobbing) bedroht. Dabei handelt es sich oft auch um Straftatbestände, die angesichts ihrer großen Zahl allerdings nur selten geahndet werden können. Solche Zivilitätsbrüche können die moderate Mehrheit einer demokratischen Öffentlichkeit vor politischem Engagement zurückschrecken lassen und die politische und gesellschaftliche Polarisierung verstärken. Die Digitalisierung der Öffentlichkeit hat auch erhebliche Auswirkungen auf die demokratische Partizipation. So hat die politische Beteiligung durch Plattformenaktivitäten deutlich zugenommen: Nutzerinnen und Nutzer können fortlaufend mit Journalistinnen und Journalisten kommunizieren, Aktivistinnen und Aktivisten können große Online-Kampagnen realisieren, Menschen, die bisher keinen Zugang zu aktiver öffentlicher Kommunikation hatten, können sich über Plattformen öffentlich vernehmbar äußern, und Influencer erreichen ein Publikum, das nicht selten größer ist als das von traditionellen Massenmedien. Solche Kommunikationsmöglichkeiten gestatten politische Diskurse quer durch soziale Schichten und Milieus und über geografische Grenzen hinweg. Digitalisierungsbedingte Partizipation erschöpft sich jedoch nicht in der Nutzung dieser neuen Beteiligungsformen, sondern erstreckt sich auch auf die zivilgesellschaftliche Beteiligung bei der Gestaltung digitaler Technologien und Infrastrukturen. So setzt sich die Open Data Community für einen freien Zugang aller Bürgerinnen und Bürger zu Daten ein, die wie im Fall zahlreicher Forschungsprojekte mithilfe öffentlicher Finanzierungsmittel generiert worden sind; die Open-Source-Bewegung entwickelt frei verfügbare Software, und die Civic-Technology-Bewegung nutzt solche Daten und Werkzeuge wiederum für digitale Dienste zur Stärkung von Zivilgesellschaft und Demokratie. Daneben etabliert die Bewegung des Pionierjournalismus neue Praktiken bei der journalistischen Produktion und der Verbreitung von Informationen mit erheb- Zusammenfassung und Empfehlungen 6 lichem Potenzial für die Demokratie. Eine weitere Neuentwicklung in diesem Zusammenhang ist außerdem die Partizipation durch freiwillige Spenden von Daten, die bei der Nutzung digitaler Endgeräte – besonders von Smartphones – fortlaufend erhoben werden. Schließlich wirkt sich die Digitalisierung der demokratischen Öffentlichkeiten auch auf die Selbstbestimmung des Individuums aus, also die eigenständige Entwicklung und Entfaltung von Wünschen, Vorstellungen und Zielen und die freie Entscheidungsfindung. Digitale Öffentlichkeiten unterstützen die Selbstbestimmung von Bürgerinnen und Bürgern, da sie diesen zusätzliche Äußerungs- und Beteiligungsmöglichkeiten bieten. Sozialer Anpassungsdruck und Zivilitätsbrüche können diese Chancen allerdings wieder zunichtemachen. Ein weiteres Risiko für die Selbstbestimmung ist das sogenannte Microtargeting, bei dem digitale Dienste Informationen über ihre Nutzerinnen und Nutzer sammeln und die entsprechenden Daten algorithmisch auswerten, um sie individuell zu beeinflussen. Problematisch ist Microtargeting insbesondere im politischen Raum. Auch wenn bisher unklar ist, wie erfolgreich solche Beeinflussungsversuche tatsächlich sind, kann sich allein der Versuch negativ auf das politische Engage - ment von Nutzerinnen und Nutzern auswirken. In Deutschland und Europa spielt politisches Microtargeting bis jetzt zwar eine unbedeutende Rolle; es ist allerdings anzunehmen, dass Anzahl und Auswirkungen von datenbasierten Beeinflussungsversuchen aufgrund technologischer Innovationen weiter zunehmen werden. Vor dem hier skizzierten Hintergrund empfehlen die Nationale Akademie der Wissenschaften Leopoldina, die Deutsche Akademie der Technikwissenschaften – acatech und die Union der deutschen Akademien der Wissenschaften folgende Maßnahmen: Kuratierungspraxis digitaler Informations- und Kommunikationsplattformen regulieren (1) Die Plattformbetreiber sollten verpflichtet werden, an den Entscheidungen über Prinzipien und Verfahren der Kuratierung von Inhalten ein von ihnen finanziertes, jedoch unabhängiges und pluralistisch besetztes Gremium mit verbindlicher Entscheidungsbefugnis zu beteiligen, das aus Vertreterinnen und Vertretern staatlicher und zivilgesellschaftlicher Stellen sowie aus Nutzerinnen und Nutzern besteht. Das Gremium sollte durch Zusammensetzung und Handeln dazu beitragen, dass sich die Vielfalt öffentlich bedeutsamer Themen und Positionen auf den Plattformen angemessen abbildet. (2) Die Plattformbetreiber sollten verpflichtet werden, Informationen über die Gestaltung ihrer Plattform und die Prinzipien der Kuratierung zu veröffentlichen, um Transparenz herzustellen und deren öffentliche Diskussion zu ermöglichen. Allen Beteiligten sollte das Recht eingeräumt werden, sich an das unabhängige Gremium zu wenden und eine Überprüfung der Kuratierungskriterien anzuregen. (3) Es sollte ein Mechanismus etabliert werden, der es Nutzerinnen und Nutzern ermöglicht, einzelne Kuratierungsentscheidungen (wie die Löschung oder Kommentierung bestimmter Beiträge) überprüfen zu lassen. Zusammenfassung und Empfehlungen 13 dass viele gegenwärtige Probleme demokratischer Politik (z. B. der Vertrauensverlust in Bezug auf politische Institutionen) nicht allein auf die Digitalisierung zurückgeführt werden können. Die spezifischen politischen, sozialen und kulturellen Kontexte der Kommunikation und Meinungsbildung in Deutschland sorgen dafür, dass Veränderungen der demokratischen Öffentlichkeit oft nicht in der gleichen Form oder Intensität zu beobachten sind, wie sie in der wissenschaftlichen Literatur beispielsweise für die USA beschrieben werden. Gleichwohl werden die in dieser Stellungnahme diskutierten digitalen Öffentlichkeiten zum Großteil von global agierenden Unternehmen technisch bereitgestellt und gestaltet, wodurch sich auch Parallelen in der Entwicklung verschiedener Gesellschaften ergeben können. Allerdings steht die vergleichende Forschung noch am Anfang. Die Analyse digitalisierungsbedingter Chancen und Herausforderungen für die Demokratie steht zudem unter dem Vorbehalt, dass die Zusammenhänge, die zu beobachten sind, von einer enormen zeitlichen Dynamik geprägt sind. So ist während der Laufzeit der Arbeitsgruppe (2019 – 2021) die Rolle von Messenger-Diensten bei der Verbreitung von Falschinformationen – z. B. im Kontext der Corona-Pandemie – erst nach und nach in den Fokus der öffentlichen Debatte und der Forschung gerückt. Bei der Erarbeitung der vorliegenden Stellungnahme wurde deutlich, dass sich die Frage nach dem Zusammenhang zwischen Demokratie und Digitalisierung einfachen Antworten entzieht. Erst seit wenigen Jahren wird systematisch geforscht, und der Wissensstand entwickelt sich Monat für Monat weiter. Die Aufschlüsselung komplexer Wirkungszusammenhänge erfordert neue, anspruchsvolle Forschungsdesigns und -methoden sowie umfangreiche Daten. Letztere sind allerdings nicht ohne Weiteres zugänglich, weil die kommerziellen Informations- und Kommunikationsplattformen dies bislang nicht im erforderlichen Umfang zulassen. Nichtsdestotrotz gibt es mittlerweile zahlreiche aussagekräftige Untersuchungen zu den politischen Folgen der Digitalisierung, die mittels verschiedener empirischer und theoretischer Zugänge7 weitreichen - de Veränderungen der demokratischen Öffentlichkeit diagnostizieren.8 Viele dieser Studien stammen aus den USA, weshalb die Übertragung ihrer Ergebnisse auf die deutsche oder die europäische Situation angesichts der kulturellen Unterschiede9 nicht unproblematisch ist. Die Arbeitsgruppe ist sich dieser Problematik bewusst und hat sie bei der Formulierung dieser Stellungnahme und ihrer Empfehlungen berücksichtigt. Im Spannungsfeld zwischen Digitalisierung und Demokratie konzentriert sich die vorliegende Stellungnahme auf den zentralen Bereich von politischen Öffentlichkeiten. Die Autorinnen und Autoren sind sich aber bewusst, dass die Digitalisierung einen umfassenden gesellschaftlichen Wandel bewirkt und noch weitere demokratierelevante Bereiche, beispielsweise im Unterhaltungs- und im Bildungssektor oder in der Arbeitswelt, grundlegend verändert. So stellt sich beispielsweise die Frage, wie mit datenbasierten Technologien zur Entscheidungsunterstützung umzugehen ist, die schon jetzt in vielen Bereichen Einzug halten. Diese können zum Beispiel Ungleichheiten verschärfen ( z. B. auf dem Arbeitsmarkt), aber auch helfen, sie abzubauen (z. B. durch Aufdeckung von Diskriminierung). Ein weiteres Problem in diesem Zusammenhang ist die 7 Dabei handelt es sich beispielsweise um (Feld-)Experimente, theoretische Modelle und konzeptionelle Argumente. 8 Beispielsweise der ausführliche Report Lewandowsky, S. u. a. 2020. 9 Ein Beispiel hierfür ist die wesentlich größere Reichweite und Bedeutung des öffentlich-rechtlichen Fernsehens und Radios in Deutschland. Einleitung 14 Einleitung Abhängigkeit von wenigen global aufgestellten Unternehmen mit Hauptsitz außerhalb der Europäischen Union, die die Infrastruktur für digitale Technologien bereitstellen und oft auch im Besitz der Daten ihrer Nutzerinnen und Nutzer sind. Diese Abhängigkeit von global agierenden Unternehmen führt zu Herausforderungen für souveränes staatliches Handeln. Und schließlich ist unsere Demokratie konfrontiert mit undemokratischen Systemen wie dem Chinas, die gerade im Hinblick auf die Entwicklung und den Einsatz digitaler Technologien sehr erfolgreich sind. Solche und weitere Fragen erfordern künftig ebenfalls eine sorgfältige, wissenschaftsbasierte Untersuchung und entsprechende Handlungsempfehlungen. 15 Analyse 3. Analyse 3.1. Plattformen als Infrastrukturen Damit Bürgerinnen und Bürger in einer Demokratie politische Meinungen bilden, politische Anliegen artikulieren und sich ihren politischen Präfenzen entsprechend für die Wahl von Repräsentantinnen und Repräsentanten im Parlament entscheiden können, sind sie auf lebendige demokratische Öffentlichkeiten angewiesen. Diese bieten die Möglichkeit zu fairen, offenen, plural geprägten Diskursen und den Zugang zu vielfältigen, umfangreichen und vertrauenswürdigen Informationen; ohne sie wären politische Debatten und Entscheidungsprozesse kaum nachvollziehbar. Solche pluralen Öffentlichkeiten sind daher unverzichtbar für die Demokratie. Demokratische Öffentlichkeiten beruhen auf medialen Infrastrukturen, die eine weite Verbreitung von Informationen und Verständigung über große räumliche Distanzen hinweg ermöglichen.10 Nach wie vor bilden zwar die klassischen Massenmedien Presse und Rundfunk die wichtigste Infrastruktur für demokratische Öffentlichkeiten, neue Infrastrukturen spielen hier aber eine zunehmend wichtige Rolle. In erster Linie sind das digitale Informations- und Kommunikationsplattformen11 wie die US-amerikani- schen sozialen Netzwerke Facebook, Twitter und Instagram, aber auch Videoportale wie YouTube oder das chinesische TikTok. Auch Messenger-Dienste wie WhatsApp und Telegram, Webauftritte von klassischen Massenmedien, staatlichen und privaten Institutionen, Blogs und insbesondere Suchmaschinen wie Google tragen zur Herstellung und Gestaltung digitaler demokratischer Öffentlichkeiten bei.12 Angesichts des gewaltigen Bedeutungszuwachses dieser digitalen Plattformen, Portale, Dienste und Angebote ist ihre Neubewertung im Kontext demokratischer Öffentlichkeit dringend geboten. Der Fokus der vorliegenden Stellungnahme richtet sich auf Plattformen, weil Plattformbetreiber mit ihren Kuratierungsaktivitäten (Auswahl und Priorisierung von Inhalten – siehe Infobox „Plattformen und die Kuratierung von Inhalten“) erhebliche Gestaltungsmacht besitzen. An diese Feststellung schließt sich die Frage an, ob, wie und in welchem Ausmaß solche Aktivitäten selbst an demokratische Verfahren und Kontrollen rückgebunden werden können.13 3.1.1. Die Erweiterung der Infrastrukturen demokratischer Öffentlichkeiten Presse und Rundfunk sind in sich heterogen: Öffentlich-rechtlicher und privater Rundfunk, aber auch Qualitäts- und Boulevardpresse unterscheiden sich hinsichtlich ihrer Arbeitsweise, ihrer Ziele und ihrer Finanzierungsgrundlagen zum Teil erheblich von- 10 Hofmann 2019. 11 Im Folgenden werden diese kurz als „Plattformen“ bezeichnet. 12 Plantin u. a. 2018. 13 Jørgensen 2019. 16 Analyse einander. Das Spektrum der jeweiligen Geschäftsmodelle und der damit verbundenen Abhängigkeiten reicht von der Beitragsfinanzierung im öffentlich-rechtlichen Mediensektor über Mischkonzepte privater Medien, die sich durch Verkaufserlöse, Nutzungsgebühren und Werbeeinnahmen finanzieren, bis hin zu spendenbasierten Lösungen. Presse- und Rundfunkangeboten ist jedoch gemeinsam, dass sie überwiegend eigene Inhalte erstellen und diese der Öffentlichkeit verfügbar machen. Die Inhalte werden von professionellen Redaktionen kuratiert, die als „Gatekeeper“ bezeichnet werden: Die Redaktionen produzieren, sortieren, priorisieren und selektieren Nachrichten und Informationen auf Basis professionell normierter Kriterien wie der Aktualität, der politischen Bedeutung oder der räumlichen Nähe eines bestimmten Ereignisses, aber auch im Hinblick auf die Interessen potenzieller Adressatinnen und Adressaten oder von Werbekundinnen und -kunden. Plattformen und die Kuratierung von Inhalten Digitale Informations- und Kommunikationsplattformen wie Facebook, Twitter, YouTube und Instagram tragen wesentlich zur Struktur demokratischer Öffentlichkeiten bei. Sie präsentieren sowohl Inhalte ihrer Nutzerinnen und Nutzer als auch Inhalte von Dritten, zum Beispiel von Massenmedien. Nutzerinnen und Nutzer können auf diese Inhalte reagieren, indem sie diese beispielsweise anklicken, bewerten („liken“), kommentieren oder weiterleiten. Die Plattformen bieten dabei im Vergleich zu herkömmlichen Massenmedien weiterreichende Möglichkeiten zur individuellen Auswahl von Inhalten. Die Nutzerinnen und Nutzer können bestimmen, welche Online-Aktivitäten anderer Individuen, Gruppen oder Institutionen sie verfolgen möchten und welche eigenen Inhalte sie möglicherweise teilen möchten. Viele Plattformen bestimmen allerdings, mit welcher Priorität solche Inhalte anderen Nutzerinnen und Nutzern präsentiert und welche zusätzlichen Angebote und Empfehlungen unterbreitet werden. Dieses Vorgehen wird als „Kuratierung“ oder „Content Management“ bezeichnet. Für die Kuratierung setzen die meist kommerziell orientierten Plattformen in der Regel Algorithmen ein, die das Verhalten von Nutzerinnen und Nutzern primär mit dem Ziel auswerten, deren Aufmerksamkeit mithilfe personalisierter Informationen möglichst lange zu binden und auf gezielt präsentierte Werbeinhalte zu lenken. Auf diese Weise generieren die Plattformen Werbeeinnahmen. Nur in Ausnahmefällen, beispielsweise bei gemeldeten Verstößen gegen Nutzungsbedingungen oder bei der Bewertung algorithmisch vorgefilterter Inhalte, greifen Menschen in den Kuratierungsvorgang ein. Durch die Erstellung von Inhalten und ihr Auswahlverhalten haben Nutzerinnen und Nutzer zwar indirekt Einfluss auf die Kuratierung, die exakten Kriterien und Mechanismen sind in der Regel aber nicht transparent und entziehen sich so der öffentlichen Diskussion. Im Gegensatz dazu produzieren Plattformen Nachrichten und Informationen nicht selbst. Stattdessen präsentieren sie Inhalte, die von Dritten wie Nutzerinnen und Nutzern, traditionellen Massenmedien oder Werbetreibenden produziert wurden. Damit wirken sie auf den ersten Blick wie neutrale Infrastrukturen. Tatsächlich aber wählen viele Plattformen Inhalte mithilfe komplexer Algorithmen individuell für ihre Nutzerinnen und Nutzer aus. Sie betreiben also im Gegensatz zu herkömmlichen Massenmedien personalisierte Kuratierung von Inhalten Dritter. Diese Kuratierung der Plattformen orientiert sich hauptsächlich an der erwarteten Popularität der Inhalte. Sie zielt darauf, sowohl die Interaktionszeit von Nutzerinnen und Nutzern als auch die Wahrscheinlichkeit, dass diese auf individuell zugeschnittene Werbung reagieren, zu maximieren.14 Zu diesem Zweck machen sich die Plattformbetreiber auch verschiedene psychologische Mechanismen 14 Zuboff 2018. 17 Analyse zunutze. Ungeklärt ist allerdings, wie effektiv und leistungsfähig personalisierte Werbung tatsächlich ist – auch im Vergleich zu klassischer, nichtpersonalisierter Werbung.15 Personalisierte Kuratierung ist möglich, weil Nutzerinnen und Nutzer mit der individuellen Wahl von Inhalten eine individuelle Datenspur hinterlassen und weil Plattformen dieses Datenprofil – beispielsweise inhaltliche Präferenzen, Kommunikationsinhalte und Kontaktpflege – detailliert erfassen und analysieren, wodurch sich Inhalte wiederum individuell zuschneiden und präsentieren lassen. Die Analyse vollzieht sich für Nutzerinnen und Nutzer weitgehend im Verborgenen. Mithilfe der Nutzungsdaten können die Plattformen ihre digitale Architektur immer weiter optimieren16 und das Interesse, die Aufmerksamkeit und teilweise auch das Verhalten von Nutzerinnen und Nutzern beeinflussen oder sogar lenken,17 beispielsweise durch gezielte, aber kaum merkliche „Schubser“ („Nudging“, „Gamification“ usw.).18 Solche Methoden der datenbasierten Aufmerksamkeitslenkung, Verhaltensvorhersage und -beeinflussung bilden die Basis des Geschäftsmodells zahlreicher Plattformen.19 Datenbasierte Geschäftsmodelle sind in demokratischen Öffentlichkeiten allerdings nicht nur auf Plattformen beschränkt. Auch Suchmaschinen präsentieren und kuratieren Inhalte Dritter und orientieren sich dabei am Prinzip algorithmischer Optimierung. Messenger-Dienste verzichten dagegen auf eine Kuratierung von Informationsströmen. Sie stellen zwar ebenfalls Infrastrukturen für den politischen Diskurs bereit, aber es handelt sich dabei in der Regel um Teilöffentlichkeiten mit beschränktem Zugang. Ihr politischer Einfluss ist ein neues Phänomen, das bisher noch nicht hinreichend erforscht ist.20 Messenger-Dienste Messenger-Dienste wie WhatsApp, Signal oder Telegram stellen eine Innovation in der Kommunikation dar. Sie ermöglichen eine unmittelbare, verschlüsselte Verständigung zwischen zwei Personen oder in Gruppen. Die Gruppengröße variiert stark, zwischen einigen wenigen und vielen Tausenden Mitgliedern. Damit übernehmen auch Messenger-Dienste Funktionen, die selbstorganisierte Öffentlichkeiten ermöglichen, ohne dass die Inhalte allerdings wie bei Plattformen kuratiert würden. In einigen Ländern, darunter Brasilien, haben Messenger-Dienste bereits eine wichtige Rolle in der politischen Mobilisierung und im Wahlkampf gespielt.21 Politische Bedeutung haben solche Dienste zudem, weil sie zum Teil genutzt werden, um die Inhalteregulierung von Plattformen zu umgehen. Dies scheint vor allem für rechtsextremistische Gruppen zu gelten, die auf Plattformen mit einer Sperrung ihrer Inhalte rechnen müssen.22 Daher wächst die Befürchtung, dass sich Messenger-Dienst-Gruppen zu einem Sammelort für antidemokratische Kräfte und zu einer weiteren, schwer zu beobachtenden Quelle der Desinformation entwickeln könnten. Zugleich sollte jedoch betont werden, dass gerade die geschützte Kommunikation in geschlossenen Gruppen eine Grundbedingung funktionierender Demokratie und liberaler Gesellschaft ist.23 15 Karpf 2019. 16 Kaufman, Pitchforth, und Vermeer 2017. 17 Lamla 2019. 18 Andrejevic 2011. 19 Zuboff 2018. 20 Treré 2020. 21 Bursztyn und Birnbaum 2019; Evangelista und Bruno 2019; Moura und Michelson 2017. 22 Amadeu Antonio Stiftung 2020. 23 Seubert und Helm 2017. 18 Die Befassung mit Daten und Datenanalytik hat sich mittlerweile aber auch jenseits von Plattformen und Messenger-Diensten zu einer höchst lukrativen Wertschöpfungsquelle entwickelt. Aus der Verwertung von Daten ergibt sich ein neuer Typ von Wirtschaftsbeziehungen, der Modellcharakter für immer mehr Branchen hat.24 Das charakteristische Merkmal dieses sogenannten digitalen Kapitalismus ist eine große Konzentration wirtschaftlicher Macht, die aus der Monopolisierung von Daten und der Privatisierung von Märkten resultiert: Die großen Digitalunternehmen werden gewissermaßen selbst zu Märkten und bestimmen deren Regeln.25 3.1.2. Koexistenz von Presse, Rundfunk und Plattformen Trotz dieser Befunde ist es keineswegs so, dass demokratische Öffentlichkeiten heute vollständig von Plattformen beherrscht würden. Presse und Rundfunk spielen nach wie vor eine wichtige Rolle,26 und auch diese Medien haben selektive Kuratierungs - effekte, die sich jedoch von jenen digitaler Plattformen unterscheiden. Mit Mediatheken, Websites und Apps schaffen sie eigene digitale Angebote und koexistieren insofern mit Plattformen; die Koexistenz ist allerdings durch konkurrierende Geschäftsmodelle, verschiedene Professionsstandards und erhebliche Unterschiede in der Gewinngenerierung geprägt.27 Weil Plattformen große Zuwächse in der Nutzung und einen hohen Anteil der Werbeeinnahmen für sich verbuchen können, bestimmen sie derzeit die Bedingungen der Kooperation mit Presse und Rundfunk – etwa bei der Einbindung von redaktionellen Inhalten in die Angebote der Plattformen. Die großen Nutzerzahlen der Plattformen veranlassen Presse und Rundfunk dazu, selbst unter ungünstigen, das eigene Geschäftsmodell schädigenden Bedingungen auf Plattformen zu publizieren, um auch ihr jüngeres Publikum zu erreichen.28 Die Plattformen bieten ihnen dabei die Möglichkeit, die Popularität der Beiträge über die laufenden Zugriffe zu verfolgen und diese mit Links zu weiterführenden Inhalten zu versehen. Die personalisierte Auswertung etwa von Lesezeiten und Weiterleitungspfaden ermöglicht schließlich, Inhalte gezielt massentauglich auszugestalten und diese individuellen Nutzerinnen und Nutzern zuzuweisen. Individualisierte Analyse dient in diesem Fall also dazu, Massentauglichkeit besser zu bestimmen und das mediale Angebot entsprechend zielgerichtet auszurichten. Zudem lässt sich der Zugang zu bestimmten Inhalten fallweise anpassen, beispielsweise indem der Zugriff auf einzelne Inhalte bei steigender Popularität mit Bezahlschranken versehen wird. Die neuen Geschäftsmodelle haben also eine große Wirkung über die Plattformen hinaus auch auf Presse und Rundfunk. Obwohl die Mediennutzungsforschung die anhaltende Relevanz der traditionellen Massenmedien für breite Bevölkerungsteile bestätigt,29 gewinnen Plattformen vor allem für die junge Generation immer weiter an Bedeutung. Die Rezeptionskanäle für massenmediale Inhalte verschieben sich so nach und nach zu den Plattformen. Politik und Teile der Gesellschaft befürchten dadurch eine zunehmende Fragmentierung der Öffentlichkeit,30 den Verlust gemeinsamer Bezugspunkte in öffentlichen Diskussionen, da auf keine gemeinsame Informationsbasis Bezug genommen werden kann,31 und eine 24 Dolata 2015. 25 Staab 2019. 26 Die Medienanstalten 2019. 27 Nielsen und Ganter 2018; Rashidian u. a. 2019. 28 Nielsen und Ganter 2018. 29 Die Medienanstalten 2019. 30 Rau und Stier 2019. 31 Ingold 2017. Analyse 19 Manipulation von Nutzerinnen und Nutzern.32 Der digitale Wandel der Öffentlichkeit wird zudem regelmäßig für den wachsenden Populismus und den politischen Rechtsruck in einigen Demokratien verantwortlich gemacht.33 Zugleich lässt sich jedoch auch eine gewisse Verklärung des vordigitalen Medienzeitalters beobachten.34 Welche wissenschaftlichen Erkenntnisse zu diesen Vermutungen und Befürchtungen vorliegen, wird in den nachfolgenden Kapiteln dieser Stellungnahme zu erörtern sein. 3.1.3. Die Macht von Plattformen Plattformen gewinnen also zunehmend Bedeutung als Infrastrukturen für den öffentlichen Diskurs. Ihre Entscheidungen und Arbeitsweisen haben erheblichen Einfluss auf den Ablauf öffentlicher Kommunikationsprozesse in einer Demokratie. Sie sind somit keineswegs neutrale Vermittler, sondern mächtige Akteure, die eine aktive Rolle in der Gestaltung demokratischer Öffentlichkeiten einnehmen. Auch im Alltag spielt die digitale Kommunikation – insbesondere durch die Omnipräsenz von Smartphones – inzwischen eine zentrale Rolle für die meisten Menschen. Da mittlerweile das Sozial- und zunehmend auch das Berufsleben stark über soziale Medien organisiert werden, besteht vor allem für die jüngere Generation ein erheblicher Druck zur Nutzung digitaler Plattformen und Dienste. Dieser Druck verhindert häufig einen selbstbestimmten Umgang mit digitalen Angeboten im Internet, was auch die Nichtnutzung von Plattformen einschließen würde. Die infrastrukturelle Macht von Plattformen beruht also auf der steigenden Abhängigkeit der Nutzerinnen und Nutzer sowie der traditionellen Massenmedien von den Vermittlungsleistungen der Plattformen, was dazu führt, dass die Nutzungsregeln der Plattformen die öffentliche Sphäre in zunehmendem Maße beeinflussen. Der Machtzuwachs von Plattformen ist durch sogenannte ökonomische Netzwerkeffekte geprägt, die zu einem Angebotsoligopol führen, also zur Marktbeherrschung durch wenige dominante Anbieter. Netzwerkeffekte äußern sich in selbst verstärkenden Konzentrationsdynamiken. Diese beruhen darauf, dass der Wert einer Plattform für potenzielle Nutzerinnen und Nutzer im Verhältnis zu ihrem Marktanteil steigt. So sind besonders diejenigen Plattformen für Nutzerinnen und Nutzer interessant, die bereits von vielen ihrer Kontakte genutzt werden. Netzwerkeffekte erschweren dadurch aber nicht nur den Marktzutritt neuer Anbieter, sie führen auch zu einer hohen Konzentration von Nutzerdaten bei wenigen Plattformen. Das hieraus resultierende Anbieteroligopol schränkt die Wahlmöglichkeiten für Nutzerinnen und Nutzer ein und schafft Abhängigkeiten – sogenannte Lock-in-Effekte –, die einen Wechsel zusätzlich erschweren: Wenn Plattformen auch von wichtigen Bezugspersonen genutzt werden, entsteht eine Historie geteilter Inhalte, beispielsweise die „Chronik“ bei Facebook. Da Plattformen nicht hinreichend interoperabel sind, können Nutzerinnen und Nutzer diese Historie nicht auf andere Plattformen übertragen. Dadurch ist die Möglichkeit, auf nachteilige Änderungen in der Funktionsweise oder den Nutzungsbedingungen durch einen Anbieterwechsel zu reagieren, stark eingeschränkt. Allerdings entstehen immer wieder neue Plattformen, die in den jüngeren Altersgruppen starke Zuwächse verzeichnen können. Wann und warum es neuen Plattformen gelingt, sich zu etablie- 32 Susser, Roessler, und Nissenbaum 2019. 33 Rauchfleisch und Kaiser 2020. 34 Hamilton und Tworek 2017. Analyse 20 35 Eine genuin neue Nutzungsweise bzw. ein neues Kommunikationsformat könnten möglicherweise mitverantwortlich sein. Dies war beispielsweise der Fall bei SnapChat, das eine Löschung von Nachrichten nach einem festgelegten Zeitraum einführte oder bei TikTok, einem Dienst, in dem kurze Videos auf neue Weise zur Kommunikation genutzt werden können. 36 Pasquale 2015. 37 Dolata 2019. 38 Klonick 2019. 39 Rieder und Hofmann 2020; Ananny und Crawford 2018. Analyse ren, ist bislang jedoch noch nicht hinreichend geklärt.35 Bisher haben etablierte Plattformen auf mögliche Konkurrenten oft damit reagiert, diese aufzukaufen (beispielsweise die Übernahmen von WhatsApp und Instagram durch Facebook). Ihre Alltagsrelevanz, die Konzentrationsdynamiken und die Abhängigkeiten verschaffen erfolgreichen Plattformen also eine erhebliche Machtposition. Begünstigt wird diese Machtposition noch durch die intransparente Gestaltung der Plattformangebote. So sind die verwendeten Kuratierungskriterien nur den Plattformbetreibern bekannt und zugänglich, die Ergebnisse der Kuratierung aber selbst für diese nicht immer nachzuvollziehen.36 Das Problem wird noch verschärft durch die unüberschaubare Zahl algorithmischer Kuratierungsentscheidungen, die täglich für Nutzerinnen und Nutzer getroffen werden. Diese mangelnde Transparenz erschwert es Dritten, Kuratierungsentscheidungen belastbar zu kritisieren oder Einfluss auf sie zu nehmen.37 Facebook hat auf diese Grundsatzkritik mittlerweile reagiert und ein „Oversight Board“ eingerichtet, dessen Aufgabe darin besteht, ausgewählte kontroverse Kuratierungsentscheidungen neu zu bewerten und für Facebook verbindlich zu entscheiden.38 Deutlich mehr Transparenz und Nachvollziehbarkeit bleiben für die Erforschung des tatsächlichen Einflusses digitaler Infrastrukturen auf demokratische Öffentlichkeiten sowie die Entwicklung und Bewertung von Regulierungsvorschlägen aber auch weiterhin essenzielle Bedingungen.39 3.1.4. Gegenwärtiger Stand der Plattformregulierung Jede Form von Machtausübung muss in freiheitlich verfassten Demokratien auf rechtsstaatlichen Prinzipien beruhen. Hoheitliche Macht wird demnach durch eine Vielzahl verschiedener Prinzipien wie Gewaltenteilung und größtmögliche Transparenz hoheitlichen Handelns kontrolliert und reglementiert. Liegen wesentliche für das demokratische System relevante Infrastrukturen in privater Hand, beispielsweise bei Unternehmen, müssen Zustand und Entwicklung dieser Infrastrukturen zumindest fortlaufend beobachtet werden. Zeigen sich dabei schwerwiegende Störungen, die die demokratische Funktion dieser Infrastrukturen beeinträchtigen können, so ist der Staat gehalten, sie durch entsprechende rechtliche Rahmensetzung einzuhegen. Daher müssen gesellschaftliche und technologische Entwicklungen legislativ zumindest begleitet werden. Soweit solche Entwicklungen Rechtsgüter gefährden oder sich sogar negativ auf die Eckpfeiler der demokratischen Ordnung des Gemeinwesens auswirken können, müssen sie auch regulativ angeleitet werden. Das gegenwärtige Recht reguliert Plattformen mit unterschiedlichen Zielen und Instrumenten. Einige demokratietheoretisch besonders relevante Regulierungsansätze werden im Folgenden vorgestellt. Probleme in der Rechtsdurchsetzung und Lösungsstrategien Die transnationale Kommunikationsinfrastruktur des Internets wird von Plattformanbietern geprägt, deren Hauptsitze im außereuropäischen Ausland liegen. Viele Platt- 21 formen ermöglichen ihren Nutzerinnen und Nutzern zudem eine (zumindest scheinbar) pseudonyme oder anonyme Kommunikation. Hierin liegen Herausforderungen für die Durchsetzung nationaler und europäischer Rechtsstandards für den Plattformbetrieb (beispielsweise Regelungen über den Umgang mit Nutzerdaten) und für die auf Plattformen veröffentlichten Inhalte (beispielsweise Regelungen, die die Meinungsfreiheit begrenzen). Um den Herausforderungen zu begegnen, haben sich mittlerweile verschiedene regulatorische Gegenstrategien entwickelt. Zumindest teilweise wurde Lücken bei der Rechtsdurchsetzung mithilfe einer rechtlichen Territorialisierung40 der Netzkommunikation begegnet. Diese hat unterschiedliche Anknüpfungspunkte: Um Plattformbetreiber und teils auch Plattformnutzerinnen und -nutzer aus dem außereuropäischen Ausland an die hier geltenden rechtlichen Vorgaben zu binden, wurden die territorialen Anwendungsbereiche wichtiger Regelungswerke erheblich ausgedehnt. Eine solche Regelungsstrategie kennzeichnet etwa das europäische Datenschutzrecht. Sein räumlicher Anwendungsbereich wurde bereits unter dem früheren Rechtsrahmen weit interpretiert,41 die seit 2018 gültige Datenschutz-Grundver- ordnung (DSGVO) hat mit dem sogenannten Marktortprinzip aber eine nochmalige Erweiterung gebracht. Danach sind auch rein außereuropäische Akteurinnen und Akteure dann an das europäische Datenschutzrecht gebunden, wenn sie ihre Tätigkeit auf den europäischen Markt ausrichten oder das Verhalten von Personen in der Union beobachten.42 Soweit sich Akteurinnen und Akteure, die einen Rechtsverstoß unmittelbar begangen haben, aus rechtlichen oder faktischen Gründen nicht belangen lassen, können zudem in erheblichem Umfang andere in Anspruch genommen werden, die zu dem Rechtsverstoß beigetragen haben oder ihn beenden können. So müssen einerseits Nutzerinnen und Nutzer von Plattformen für bestimmte Rechtsverstöße der Plattformbetreiber rechtlich einstehen, insbesondere bei Datenschutzverstößen in der Verarbeitung von Nutzerdaten, für die gewerbliche Plattformnutzerinnen und -nutzer datenschutzrechtlich mitverantwortlich sein können.43 Einzelpersonen oder Aufsichtsbehörden können dann solche Verstöße gegenüber Unternehmen geltend machen, die sich auf einer Plattform präsentieren. Hierdurch wird mittelbar Druck auf die Plattformbetreiber ausgeübt, ihren Umgang mit den Nutzerdaten zu verändern. Andererseits unterliegen die Plattformbetreiber umfangreichen Prüf- und Löschpflichten hinsichtlich der von Nutzerinnen und Nutzern verbreiteten unzulässigen Inhalte. Löschpflichten können sich – aufgrund der sogenannten Störerhaftung44 – aus zivilrechtlichen, aber auch aus daten- und jugendschutzrechtlichen Vorschriften ergeben. Zu den nach dem Jugendschutzrecht unzulässigen Inhalten zählen beispielsweise Beleidigungen, Verleumdungen, Volksverhetzungen, öffentliche Aufforderungen zu Straftaten sowie die Verbreitung von Kennzeichen oder Propagandamitteln verfassungsfeindlicher Organisationen. Zudem verpflichtet das Netzwerkdurchsetzungsgesetz die Betreiber von sozialen Netzwerken, ein Meldeverfahren einzurichten, sodass Nutzerinnen und Nutzer bestimmte strafbare Inhalte zur Prüfung melden können. 40 Cornils 2017. 41 EuGH 2014. 42 Uecker 2019. 43 EuGH 2018. 44 Wagner 2020. Analyse 22 Gleichzeitig müssen die Betreiberfirmen sicherstellen, dass solche Inhalte innerhalb festgelegter Fristen gelöscht oder gesperrt werden. Bemängelt wird allerdings, dass das Meldeverfahren für die Betroffenen zu aufwendig sei. Außerdem wird kritisiert, dass die Ausgestaltung des Gesetzes die Betreiber dazu verleite, auch rechtmäßige Inhalte vorsorglich zu löschen, und dass Nutzerinnen und Nutzer kein hinreichend wirksames Beschwerderecht gegen ungerechtfertigte Löschungen hätten.45 Daher wird durch ein jüngst vom Bundestag verabschiedetes Gesetz erstmals ein sogenanntes Gegenvorstellungsverfahren auch für diejenigen Nutzerinnen und Nutzer geschaffen, die die Löschung ihrer Inhalte als ungerechtfertigt ansehen.46 Darüber hinaus sind die Plattformbetreiber ab Februar 2022 verpflichtet, bestimmte rechtswidrige Inhalte an das Bundeskriminalamt zu melden.47 Auf der europäischen Ebene wurde Ende 2020 der Entwurf eines Gesetzes über digitale Dienste vorgestellt.48 Dieses soll ähnlich wie das deutsche Netzwerkdurchsetzungsgesetz ein Verfahren etablieren, mit dem illegale Inhalte zuständigen Plattformbetreibern gemeldet werden können. Die Plattformbetreiber müssten darüber hinaus ein Beschwerdemanagementsystem einrichten, mit dessen Hilfe Nutzerinnen und Nutzer gegen ungerechtfertigte Löschungen oder Sperrungen vorgehen könnten. Zudem könnten sie sich an eine von den Plattformen unabhängige außergerichtliche Streitbeilegungsstelle wenden, die eine für die Plattformbetreiber verbindliche Entscheidung fällen könnte. Und schließlich soll dem Gesetzentwurf zufolge eine Pflicht der Plattformbetreiber zur Meldung strafbarer Inhalte an Strafverfolgungsbehörden geschaffen werden, die sich allerdings auf schwere Straftaten beschränkt und darum weniger weit geht als die in Deutschland ab 2022 geltende Meldepflicht. Erste Vorgaben für die Kuratierung öffentlicher Kommunikation Deutlich weniger klar konturierte und weitreichende Vorgaben bestehen gegenwärtig für die Kuratierung öffentlicher Kommunikationsbeiträge durch die Plattformbetreiber. Solche Vorgaben könnten sich allerdings zum einen aus zivilrechtlichen Grundsätzen ergeben: Viele Plattformbetreiber etablieren eigene Kommunikationsregeln (sogenannte Community Standards) und lassen sich von ihren Nutzerinnen und Nutzern vertraglich das Recht einräumen, auch rechtlich zulässige Inhalte zu löschen oder zu sperren. Zu fragen ist, ob dieses Vorgehen vertragsrechtlich unzulässig sein könnte, weil es die Meinungsfreiheit der Nutzerinnen und Nutzer übermäßig beschränkt. Ob und welche Grenzen sich aus solchen Erwägungen für Community Standards ergeben, wird kontrovers diskutiert und ist in der Praxis bislang nicht abschließend geklärt.49 Zum anderen unterliegen zumindest manche Kuratierungsentscheidungen mittlerweile einer medienrechtlichen Regulierung.50 Der im November 2020 in Kraft getretene Medienstaatsvertrag (MedStV) enthält Sonderregelungen für sogenannte Medienintermediäre mit mehr als einer Million Nutzerinnen und Nutzern monatlich im Bundesgebiet. Unter diesen Begriff fallen elektronische Kommunikationsdienste (sogenannte 45 Ladeur und Gostomzyk 2017. 46 Deutscher Bundestag 2020a; 2020b. 47 Bundesgesetzblatt 2021. 48 EC 2020. 49 Raue 2018. 50 Paal und Heidtke 2020. Analyse 29 Wie bereits unter 3.1 dargestellt, haben bei herkömmlichen Massenmedien prinzipiell Journalistinnen und Journalisten die Aufgabe, den Wahrheitsgehalt von Informationen zu prüfen und mögliche Hintergründe bzw. den politischen Zusammenhang, in dem diese stehen, zu recherchieren und publizistisch zu erhellen, wenngleich das abhängig vom einzelnen Medium in der Praxis mal mehr, mal weniger gut umgesetzt wird. Auch einige digitale Angebote wie beispielsweise die schon erwähnte Online- Enzyklopädie Wikipedia sorgen für eine entsprechende Qualitätssicherung. Wie bereits unter 3.1 dargestellt, bieten viele kommerzielle digitale Dienste und besonders Plattformen eine solche Qualitätskontrolle allerdings nur in sehr eingeschränktem Maße, weil diese ihre Inhalte nach dem Prinzip der Aufmerksamkeitsbindung auswählen, wobei der nötige Kontext zur Einordnung der Informationen oft fehlt. In jüngerer Zeit und in Ausnahmefällen haben sich Plattformen und andere kommerzielle digitale Dienste bereits um Qualitätssicherungsmaßnahmen bemüht, etwa wenn Inhalte in offensichtlichem Konflikt mit gesetzlichen Regeln oder eigenen Statuten stehen. Prominente Beispiele hierfür sind Tweets des ehemaligen US-Präsidenten Donald Trump mit Falschbehauptungen, die Twitter mit Warnhinweisen versehen hat. Daneben gibt es aber auch Dienste wie die russische Plattform Vkontakte, die nicht einmal Mindeststandards bei der Qualitätssicherung erfüllen, da sie in Europa geltendes Recht nicht oder nur unzureichend umsetzen. Ein weiteres zentrales Problem für die Sicherstellung demokratischer Öffentlichkeiten stellen sogenannte Fake News dar, also falsche oder aus dem Kontext gerissene, irreführende Informationen, die bewusst oder aus Unwissenheit geteilt werden. Dabei handelt es sich zwar nicht um ein neues Phänomen, aber in der digitalen Öffentlichkeit finden Falschnachrichten eine viel weitreichendere und schnellere Verbreitung als korrekte Informationen71 – vermutlich als Folge des aufmerksamkeitsbasierten Geschäftsmodells.72 Besonders problematisch sind dabei Falschnachrichten, die als solche nicht zu erkennen sind, beispielsweise sogenannte Deepfakes, also mit künstlicher Intelligenz hergestellte Fake-Videos.73 Solche Falschnachrichten können gravierende negative Folgen für eine demokratische Öffentlichkeit haben, wie etwa die verschiedenen Verschwörungstheorien im Zusammenhang mit der Covid-19-Pandemie deutlich machen. Falschnachrichten können sich viral verbreiten und somit eine sachliche politische Debatte erheblich erschweren. Sie werden auch strategisch eingesetzt, beispielsweise durch den ehemaligen US-Präsidenten Donald Trump, um von problematischen Ereignissen und Enthüllungen abzulenken.74 Der Konsum von solchen Falschnachrichten scheint sich aber eher auf kleine, politisch extreme Gruppen zu konzentrieren.75 Die Verbreitung von Falschnachrichten und deren Auswirkungen werden gegenwärtig aktiv erforscht. 71 Vosoughi, Roy, und Aral 2018. 72 Mocanu u. a. 2015. 73 Thies u. a. 2016. 74 Lewandowsky, Jetter, und Ecker 2020. 75 Grinberg u. a. 2019; Allcott und Gentzkow 2017. Analyse 30 3.2.4. Pluralität Für demokratische Öffentlichkeiten ist die Pluralität der Perspektiven von herausragender Bedeutung. Damit ist gemeint, dass alle relevanten Perspektiven in einem bestimmten Problemzusammenhang eingebracht werden können und alle Akteurinnen und Akteure Zugang zu hinreichend vielfältiger Information und Kommunikation haben – eine entscheidende Voraussetzung dafür, Informationen und Kommunikation einordnen, bewerten und auf der Basis von Alternativen kritisieren zu können. Nur so sind eine fundierte politische Meinungsbildung und sachlich begründete politische Entscheidungen möglich. Im vorliegenden Kontext stellt sich nun die Frage, inwieweit die Digitalisierung solche Pluralität begünstigt oder behindert. Bei genauerer Betrachtung kann zunächst ein positiver Effekt der digitalen Medien auf die Vielfalt problembezogener Perspektiven konstatiert werden. Die Möglichkeiten zur Mitwirkung und Artikulation sowie zur Informationserhebung erweitern sich unter den Bedingungen der Digitalisierung stetig. Politisch interessierte Nutzerinnen und Nutzer finden leichter Zugang zu Kommunikationsplattformen und können dort auch verstärkt politisch diversere Inhalte zur Kenntnis nehmen,76 was die Perspektiv- und Meinungspluralität erhöht. Andererseits gibt es aber auch digitalisierungsbedingte Effekte, die die Pluralität sowohl individuell als auch auf gesellschaftlicher Ebene behindern. In Bezug auf mögliche individuelle Einschränkungen der Pluralität werden vor allem Echokammern diskutiert, wobei der Begriff etwas unscharf ist. Im vorliegenden Zusammenhang geht es vor allem um zwei Phänomene: Das erste betrifft ein Informationsverhalten, bei dem Nutzerinnen und Nutzer digitaler Dienste hauptsächlich Quellen auswählen, die ihre eigene Meinung und Weltanschauung zu bestätigen scheinen.77 Das Resultat ist ein höchst einseitiger Konsum von Inhalten über die sozialen Medien.78 Allerdings betrifft dieses Phänomen vor allem Konsumentinnen und Konsumenten mit extremen politischen Ansichten.79 Für andere Nutzerinnen und Nutzer lässt sich hingegen sogar eine Verbreiterung der Wahrnehmung feststellen.80 Das zweite, für die demokratische Öffentlichkeit aus Sicht der Arbeitsgruppe problematischere Phänomen ist die Herausbildung von Gruppen, die ein homogenes Meinungsbild haben und sich in ihrer Meinung gegenseitig verstärken. Das betrifft besonders Plattformen wie Facebook, die die Vernetzung solcher Gruppen begünstigen.81 Das kann Mechanismen der Gruppenpolarisierung verstärken, bei denen positives soziales Feedback auch extreme politische Überzeugungen verhärtet.82 76 Beam, Hutchens, und Hmielowski 2018; Dubois und Blank 2018. 77 Cota u. a. 2019. 78 Bakshy, Messing, und Adamic 2015. 79 Stier u. a. 2020. 80 Yang u. a. 2020. 81 Aiello u. a. 2012; Cinelli u. a. 2021; Mosleh u. a. 2021. 82 Sunstein 2018; Baumann u. a. 2020. Analyse 31 Influencer Influencer sind Nutzerinnen oder Nutzer von Plattformen, Portalen und Diensten wie YouTu-be, Twitter oder Instagram, die eigene, teilweise hochwertige, aber auch ungeprüfte Inhalte zu verschiedensten Themen präsentieren und deren Beiträge von anderen Nutzerinnen und Nutzern (Follower) regelmäßig wahrgenommen werden. Dabei tauschen sich Influencer mit ihren Followern auch aus. Die Gruppe dieser Follower ist oft sehr groß. Viele, aber nicht alle Influencer machen in ihren Beiträgen auch Werbung, etwa durch Produktplatzierungen.83 Influencer können mit ihren Beiträgen schnell ein lautstarkes soziales Feedback auslösen,84 auch wenn sie nicht selbst die Quelle von Inhalten sind, sondern diese nur verbreiten, zum Beispiel von Falschmeldungen.85 Ein bekannter Influencer ist beispielsweise der deutsche Webvideoproduzent Rezo. Seine gelegentlichen politischen Äußerungen auf YouTube erreichen die Aufmerksamkeit einer breiten Öffentlichkeit. Da die publikumswirksamen Aktivitä-ten von Influencern auch im Interesse der Plattformbetreiber sind, werden sie durch deren Auswahlalgorithmen unterstützt (siehe 2.1).86 Auf gesellschaftlicher Ebene stellt eine mögliche Fragmentierung der digitalen Öffentlichkeit das Pluralitätsprinzip infrage: Wie jeder soziale Raum ist auch eine digitale Öffentlichkeit modular, also in unterschiedliche Gruppen (Teilöffentlichkeiten) gegliedert.87 Die Modularisierung wird durch die Digitalisierung aber verstärkt, weil es möglich ist, Gleichgesinnte aus einem großen Pool möglicher Kontaktpartnerinnen und -partner auszuwählen.88 Neue Phänomene wie die sogenannten Influencer (siehe Box „Influencer“) sind hierfür ein Beispiel. Aus Modularität wiederum wird Fragmentierung, wenn sich nicht mehr nur zu Spezialthemen, sondern auch zu den großen Fragen der Gesellschaft nur noch Teilöffentlichkeiten herausbilden und die jeweiligen Gruppen sich nicht vernetzen und nicht miteinander kommunizieren, sondern sich gegenseitig kaum wahrnehmen oder gar ablehnend gegenüberstehen. Eine solche Fragmentierung schadet einer demokratischen Öffentlichkeit, da die vorhandene, wünschenswerte Pluralität dadurch nicht wahrgenommen oder sogar abgelehnt wird. Feldexperimente zeigen, dass digitale Fragmentierung zudem dadurch begünstigt wird, dass Plattformen die Auffindbarkeit von Gruppen wiederum nach Kriterien eines aufmerksamkeitsbasierten Geschäftsmodells steuern.89 Dabei werden aus Werbegründen einzelne Gruppen besonders prominent platziert, während andere deutlich weniger sichtbar bleiben.90 Die geringe Sichtbarkeit anderer Gruppen unterstützt dabei die Vorstellung, die eigene Meinung entspräche der Mehrheitsmeinung,91 was zur Verhärtung der eigenen Meinung führt92 und die Fragmentierung weiter verstärkt. Problematisch ist die Fragmentierung der öffentlichen Debatte also auch deshalb, weil sie zu einer Radikalisierung der Positionen und zu einer Verschärfung der Tonlage in der politischen Auseinandersetzung beitragen kann. In den angelsächsischen Mehr- 83 Rotz und Tokarski 2020. 84 Cha u. a. 2010. 85 Brennen u. a. 2020. 86 Gupta u. a. 2013. 87 Adamic und Glance 2005; Ugander u. a. 2011; Ferrara 2012. 88 Sasahara u. a. 2021. 89 Shmargad und Klar 2020; Levy 2021. 90 Theile 2019. 91 Lerman, Yan, und Wu 2016. 92 Leviston, Walker, und Morwinski 2013. Analyse 32 heitsdemokratien ist bereits ein deutlicher Trend zur Polarisierung festzustellen. In demokratischen Systemen mit Proportionalwahlrecht entwickelt sich zumeist ein zweidimensionaler politischer Raum, in dem vor allem eine neue Konfliktlinie zwischen autoritärem Populismus und liberalem Kosmopolitismus entsteht.93 In beiden Fällen tragen die im Zusammenhang mit Echokammern beschriebenen Phänomene gerade im rechten politischen Spektrum zu Radikalisierung und Hassreden bei und können zudem politisch motivierte Gewalttaten begünstigen.94 Auch wurde die Nutzung von Online-Medien als Informationsquelle in Italien und Deutschland bereits mit der Zunahme von populistischen Stimmen in einen kausalen Zusammenhang gebracht.95 3.2.5. Zivilität Schließlich ist auch die Möglichkeit zu freiem und fairem Austausch zentral für eine funktionierende demokratische Öffentlichkeit. In der digitalen Öffentlichkeit gibt es mehr Varianzen bei Themen und kommunikativer Tonlage, die öffentlich wahrnehmbar sind (siehe 3.2). Besonders problematisch sind in diesem Zusammenhang Zivilitätsbrüche, die insbesondere als „Hate Speech“ und „Online Harassment“ (bzw. „Online-Mobbing“) zusammengefasst werden. „Hate Speech“ werden Äußerungen genannt, die Personen oder Gruppen gezielt herabwürdigen oder mit Aufrufen zu Straftaten gegen diese einhergehen. Prominente Beispiele sind antisemitische, rassistische und sexistische Äußerungen. Der Begriff „Online Harassment“ umfasst eine Vielzahl übergriffiger Verhaltensweisen, die einzelne Personen bedrohen oder einschüchtern sollen. „Hate Speech“ und „Online Harassment“ können anonym oder pseudonym betrieben werden, sie finden aber auch unter persönlich Bekannten und mit Angabe von Klarnamen statt. Bestimmte Arten von „Hate Speech“ (insbesondere mit rassistischer und homophober Zielrichtung) werden häufiger als andere anonym verbreitet.96 Gezieltes „Online Harassment“ geht bei den meisten Betroffenen aber von persönlich Bekannten aus, seltener von identifizierbaren Fremden und von Anonymen.97 Es ist empirisch gesichert, dass „Hate Speech“ und „Online Harassment“ ein großes Problem darstellen: Repräsentative Umfragen zeigten, dass 2019 in Deutschland 8 Prozent der 63 Millionen Internetnutzerinnen und -nutzer, also über 5 Millionen Menschen bereits persönlich betroffen waren; 40 Prozent nahmen „Hate Speech“ und „Online Harassment“ zudem im Internet wahr. Darüber hinaus äußerten 54 Prozent in der digitalen Öffentlichkeit seltener ihre politische Meinung, weil sie „Hate Speech“ und „Online Harassment“ fürchteten. Menschen mit Migrationshintergrund und exponierte Menschen waren dabei überdurchschnittlich stark betroffen; Frauen äußer ten sich nach direkten Erfahrungen mit „Hate Speech“ oder „Online Harassment“ seltener als betroffene Männer. Betroffene gaben als Folgen von „Hate Speech“ und „Online Harassment“ zudem an, unter emotionalem Stress, Angst und Unruhe sowie Depressionen und Selbstbildproblemen zu leiden; insbesondere junge betroffene Menschen berichteten von solchen Folgen.98 Hate Speech führte sogar bereits direkt 93 De Wilde u. a. 2019. 94 Müller und Schwarz 2020; Rauchfleisch und Kaiser 2020. 95 Schaub und Morisi 2020. 96 Mondal, Silva, und Benevenuto 2017. 97 Duggan 2017; Mondal, Silva, und Benevenuto 2017. 98 Geschke u. a. 2019; Nadim und Fladmoe 2019. Analyse 33 zu Straftaten.99 All solche Erfahrungen behindern also Teilhabebereitschaft und aktive Beteiligung am öffentlichen Diskurs. In der digitalen Kommunikation werden aber nicht nur informelle gesellschaftliche Normen der Zivilität verletzt. Viele Formen von „Hate Speech“ und „Online Harassment“, beispielsweise Bedrohungen oder Beleidigungen, stellen nicht nur Zivilitätsbrüche dar, sondern sind darüber hinaus selbst Straftaten. Zur effektiven, rechtsstaatlich gebotenen Rechtsdurchsetzung und -anwendung müssen strafbare von zugespitzten, aber rechtlich zulässigen Äußerungen zunächst klar abgegrenzt werden. Außerdem müssen bei Straftaten die entsprechenden Urheberinnen und Urheber ermittelt und der Strafverfolgung zugeführt werden. Angesichts der großen Anzahl potenziell strafbarer Äußerungen in der digitalen Öffentlichkeit ist das aber eine enorme Herausforderung für Ermittlungsbehörden und Justiz und kann schnell dazu führen, dass Erwartungen bezüglich der Durchsetzungsmacht des Rechtsstaats enttäuscht werden. Die beschriebenen Tendenzen der Veränderungen der Kommunikation und ihrer Tonlage stellen ein erhebliches Problem für die demokratische Öffentlichkeit dar. Die moderate politische Mehrheit, aber auch vulnerable Gruppen und Personen, die sich in besonderer Weise dadurch getroffen fühlen, werden davon abgeschreckt, sich am politischen Diskurs zu beteiligen, ein politisches Amt zu übernehmen oder sich anderweit politisch zu engagieren. Davon profitieren politisch extreme Positionen und das verstärkt auch die politische Polarisierung und potenziell auch Fragmentierung. Diese wirkt häufig einer in der Demokratie angelegten Kompromissfindung und Kenntnisnahme anderer Ansichten und Positionen entgegen.100 3.2.6. Herausforderungen Die Sicherstellung einer funktionierenden demokratischen Öffentlichkeit verlangt heutzutage eine aktive demokratische Gestaltung der digitalen Informations- und Kommunikationsökologie. Dabei geht es darum, den Umgang mit ihrer Komplexität zu ermöglichen, Pluralität und Zivilität zu fördern sowie Falschnachrichten, Polarisierung und Verrohung entgegenzuwirken. Die erste Herausforderung in diesem Zusammenhang besteht darin, Bürgerinnen und Bürger, die sich an digitalen demokratischen Öffentlichkeiten beteiligen, zu unterstützen. Von zentraler Bedeutung ist dabei die Förderung von Kompetenzen im Umgang mit der digitalen Informations- und Kommunikationsökologie in allen Bevölkerungsgruppen. Dabei geht es beispielsweise um die Fähigkeit, Inhalte adäquat auswählen, bewerten und einordnen zu können, um die Einübung bestimmter Verhaltensweisen in der digitalen Kommunikation (Zivilität), aber auch um den Umgang mit Wirklichkeitsverzerrungen durch Falschnachrichten und mit Zivilitätsbrüchen. Nutzerinnen und Nutzer müssen hierbei aktiv durch Technik- und Plattformgestaltung unterstützt werden, anstatt durch die aufmerksamkeitsökonomisch geprägten Plattformen behindert zu werden. Darüber hinaus können digitale Assistenzprogramme101 dazu beitragen, die 99 Müller und Schwarz 2020. 100 Spiecker genannt Döhmann 2018. 101 Ein Beispiel für solche digitalen Assistenzprogramme sind die unter 3.2.2 genannten Browser-Add-Ons. Analyse 34 beschränkte kognitive Kapazität von Menschen zu erweitern und die hohe Komplexität der digitalen Informations- und Kommunikationsökologie erfolgreich zu bewältigen. Eine zweite Herausforderung resultiert aus den problematischen Auswirkungen der Aufmerksamkeitsökonomie, was insbesondere Auswahl, Bewertung und Pluralität von Information und Kommunikation beeinträchtigen kann. Hier müssen regulatorische Maßnahmen, die bereits unter 3.1 erörtert wurden, für Transparenz und eine stärker relevanz- und sachorientierte Kuratierung sorgen. Die dritte Herausforderung im Kontext der Informations- und Kommunikationsökologie besteht darin, in digitalen demokratischen Öffentlichkeiten einen freien und fairen Diskurs zu ermöglichen, aber auch negativen Veränderungen der Informations- und Kommunikationskultur in Form von „Hate Speech“ und „Fake News“ konsequent entgegenzuwirken. Dafür gibt es gerade in Deutschland zwar bereits einen geeigneten rechtlichen Rahmen, der gleichwohl noch weiterentwickelt werden muss; ein großes Problem besteht allerdings in der Rechtsdurchsetzung. Wie bereits erwähnt, überfordert die Anzahl der strafrechtlich potenziell relevanten Äußerungen und Informationen derzeit Ermittlungsbehörden und Justiz. Angesichts dessen wäre der Einsatz technologischer Werkzeuge wie etwa digitaler Assistenzprogramme eine wichtige Unterstützung. Darüber hinaus besteht aber auch ein Personal- und Qualifizierungsproblem: Es bedarf ausreichender Schulung und Aufmerksamkeit in den Strafverfolgungsbehörden und der Justiz. Eine weitere Schwierigkeit besteht zudem darin, die Urheberinnen und Urheber von strafbaren Äußerungen zu identifizieren, weil sie möglicherweise anonym oder pseudonym auftreten oder auf Plattformen aktiv sind, die nicht der deutschen Jurisdiktion unterliegen. Und schließlich erfordert eine erfolgreiche Strategie zur Eindämmung destruktiver Effekte in der demokratischen Öffentlichkeit auch Schritte, um die Betroffenen wirkungsvoller zu schützen und zu unterstützen. Alle hier genannten Maßnahmen erfordern eine Begleitung durch entsprechende Forschung. Diese kommt ohne Zugriff auf Daten der Plattform- und Dienstanbieter allerdings nicht zu gesicherten Erkenntnissen und generalisierbaren Aussagen. Daher muss auch die Pflicht zur Bereitstellung der entsprechenden Daten Bestandteil der Regulierung sein. 3.3. Partizipation 3.3.1. Zwischen Euphorie und Ernüchterung Über lange Zeit wurde demokratische Partizipation weitgehend im parlamentarischrepräsentativen Sinne als Teilnahme an Wahlen, Engagement in politischen Parteien und freie Meinungsäußerung in der Öffentlichkeit definiert.102 Mittlerweile hat sich ein breiterer Partizipationsbegriff durchgesetzt, der sich auf eine möglichst umfassende aktive Teilhabe103 von Bürgerinnen und Bürgern in allen gesellschaftlichen Feldern erstreckt. Das schließt beispielsweise das Engagement in Bürgerinitiativen ebenso ein wie die betriebliche Mitbestimmung oder die Mitgestaltung des öffentlichen Raums. Dieses Verständnis ist mit der Vorstellung einer generellen Demokratisierung der 102 Zimpel 1970. 103 Dahlgren 2009. Analyse 35 Gesellschaft verbunden und eng mit der Entwicklung der Medien verknüpft.104 Den folgenden Ausführungen wird ein solch breites Verständnis von Partizipation zugrunde gelegt, jedoch fokussiert auf Fragen gesellschaftlicher Kommunikation und des öffentlichen Diskurses im Kontext der Digitalisierung. Tabelle 1: Auswahl digitaler und digitalisierter Partizipationsformen institutionalisierte politische Partizipation nicht-institutionalisierte politische Partizipation neue Formen gesellschaftlicher Teilhabe - Digitale Parteitage - Aktive Teilnahme am öffentlichen Diskurs - Bürger- und Pionierjournalismus - E-Voting - Organisation und Mobilisierung von Demonstrationen, sozialen Bewegungen und Protestaktionen - Civic-Tech-, Open-Data- und Open-Source-Initiativen - Online-Petitionen - Datenspenden - Partizipative Entwicklung digitaler Medien/Plattformen Forschungsergebnisse unterstreichen das Potenzial, das digitale Medien für Partizipationsprozesse und die damit verbundene gesellschaftliche Demokratisierung weltweit aufweisen. Dabei spielen insbesondere die unter dem Begriff „Online-Partizipation“ zusammengefassten Beteiligungsmöglichkeiten (siehe Tabelle 1) eine große Rolle.105 So versprechen digitale Plattformen eine Unterstützung der klassischen Partizipationswege, indem sie den Zugang zu diesen vereinfachen. In Estland ist es Bürgerinnen und Bürgern beispielsweise möglich, mit dem Handy zu wählen; Parteiveranstaltungen wie Parteitage verlagern sich zunehmend in den digitalen Raum; und die Einbringung, Verbreitung und Unterstützung von Petitionen für den Bundestag wurde durch das Format der Online-Petitionen bereits stark vereinfacht.106 Die Corona-Pandemie hat die Notwendigkeit, über digitale Partizipationsmöglichen zu verfügen, gezeigt, aber auch die Herausforderungen, Menschen in produktive Online-Partizipationsprozesse einzubinden. Und es gibt verschiedene andere Länder, die sich bereits vor der Pandemie wesentlich intensiver mit dem Thema auseinandergesetzt haben als Deutschland (siehe Box „Digitale Demokratie und das Beispiel Taiwan“). Im Hinblick auf die hier im Vordergrund stehenden Möglichkeiten zur Teilhabe an gesellschaftlicher Kommunikation und am öffentlichen Diskurs wurde die Etablierung der digitalen Medien und ihrer Infrastrukturen – allen voran die des Internets und der Mobilkommunikation – anfangs von hohen Erwartungen begleitet.107 Es wurden neue Chancen für die Partizipation der sogenannten Netzwerkgesellschaft108 gesehen, beispielsweise indem digitale Plattformen des Web 2.0 Bürgerinnen und Bürgern Artikulation und Engagement in Gesellschaft und öffentlichem Diskurs erleichtern würden. Zugleich sprach man euphorisch von „Produsage“, also der Möglichkeit, dass Medieninhalte von Nutzerinnen und Nutzern nicht mehr nur konsumiert, sondern auch produziert werden würden.109 Hoffnungen richteten sich zudem auch auf einen 104 Casteltrione 2015. 105 Scholl, Kubicek, und Cimander 2011. 106 Kolleck 2017. 107 Hösl 2019. 108 Castells 1996. 109 Bruns 2008. Analyse 36 neuen Amateur- bzw. Bürger-Journalismus,110 mit dem ältere Ideen von „offenen Kanälen“ und „Bürgermedien“ aufgegriffen und digital neu gedacht wurden. Die digitalen Medien wurden darüber hinaus als vielversprechende Werkzeuge für soziale Bewegungen angesehen, da sie die Möglichkeit eröffnen würden, interessierte Bürgerinnen und Bürger in offenen Netzwerken miteinander zu verbinden.111 Mit der sogenannten „connective action“,112 die über digitale Plattformen organisiert wird, etablieren sich vor allem protestorientierte Beteiligungsformen, wie beispielsweise die Beteiligung an Online-Petitionen oder die Mobilisierung von Menschen durch Hashtags. Technologienahe Bewegungen wie die Open-Data- oder Civic-Hacking Bewegung setzen sich zunehmend für die Gestaltung der digitalen Medieninfrastruktur ein.113 Solche Hoffnungen stießen auch in Deutschland Forschungen zur politischen Kommunikation in der Online-Welt an.114 Mit der unter 3.1 beschriebenen fortschreitenden Kommerzialisierung des Internets und der Durchsetzung eines Anbieteroligopols haben sich die Partizipationsmöglichkeiten im digitalen Raum jedoch bereits wieder verändert. Während sich einzelne Hoffnungen auf mehr Möglichkeiten zur Partizipation erfüllt haben, andere hingegen enttäuscht wurden, kam noch eine neue Problematik hinzu: Die zugrunde liegenden Infrastrukturen werden nicht demokratisch, sondern von einigen wenigen kommerziellen Plattformunternehmen verwaltet, wobei deren Motiv nicht die Förderung der Partizipation, sondern Gewinnmaximierung ist.115 Zudem wird unter den Schlagworten Clicktivism und Armchair Activism regelmäßig die Befürchtung geäußert, dass die Erweiterung von Partizipationsmöglichkeiten letztendlich sogar zu einem geringeren Einfluss der Bevölkerung auf politische Entscheidung führe. Niedrigschwellige Beteiligungsformen – etwa die Beteiligung an einer Online-Petition – seien oft wenig effektiv, würden aber gegenüber klassischen, effektiveren Formen wie dem Engagement in Parteien an Gewicht gewinnen.116 110 Deuze 2008; Reese u. a. 2007. 111 Castells 2012. 112 Bennett und Segerberg 2013. 113 Dunbar-Hester 2019. 114 Vowe und Henn 2016. 115 van Dijck, Poell und de Waal 2018. 116 Theocharis und Deth 2017. Analyse 37 Digitale Demokratie und das Beispiel Taiwan Die digitale Demokratie gilt als großes Partizipationsversprechen. Diskutiert werden unter dem Schlagwort drei verschiedene Phänomene117: zum einen die Digitalisierung der politischen Debatte und Kommunikation, die in dieser Stellungnahme bereits ausführlich diskutiert wurde; zweitens digitale Beteiligungsformate wie Online-Petitionen, die klassische Beteiligungsinstitutionen wie Wahlprozesse ergänzen; und drittens Konzepte für eine Neugestaltung von Demokratie und Partizipation in der digitalen Gesellschaft. Online- Partizipationsformate wie E-Petitionen oder sogenannte Bürgerhaushalte sind mittlerweile auch in Deutschland sehr präsent, während andere Länder wie beispielsweise Estland als Vorreiter in der digitalen Öffnung der Verwaltung gelten. Für die Entwicklung von Ideen, wie eine digitalisierte Demokratie grundsätzlich aussehen könnte, lohnt sich ein Blick nach Taiwan: Taiwans Digitalministerin, Audrey Tang, hat die Idee einer digitalen Demokratie mit den drei Prinzipien der radikalen Transparenz, der bürgerschaftlichen Deliberation und einer schnellen, pragmatischen Konsensfindung beschrieben. Umgesetzt wird dies mit einfachen Methoden: So bringen öffentliche Diskussions- und Petitionsplattformen wie VTaiwan politische Repräsentantinnen und Repräsentanten sowie Stakeholder zusammen und strukturieren deren gemeinsame Diskussionen. Eine offene, maschinenlesbare Bereitstellung von Verwaltungsdaten folgt zudem dem Open-Government-Prinzip und soll Transparenz sowie innovative Datennutzung stärken. Die Einbindung der Civic-Tech-Szene des Landes soll darüber hinaus zivilgesellschaftliche Technikentwicklung und administrative Kapazitäten fördern, etwa zur Bewältigung der Corona-Krise. Der taiwanesische Entwurf einer digitalen Demokratie sticht damit weniger durch außergewöhnliche Instrumente oder institutionelle Reformen hervor, sondern durch ein umfassendes Konzept digitaler demokratischer Kultur und die Mandatierung einer politischen Koordinatorin und Botschafterin. 3.3.2. Vielstimmigkeit der Partizipationsmöglichkeiten Ein wesentlicher Wandel, der sich in den letzten Jahren vollzogen hat, betrifft die zunehmende Vielstimmigkeit der Partizipationsmöglichkeiten durch digitale Medien. Dies betrifft zum einen die Positionen, die über die verschiedenen digitalen Medien Teil des öffentlichen Diskurses werden; und es betrifft zum anderen die Möglichkeit, ganze Artikulationskampagnen rein digital zu organisieren. Eine niedrigschwellige Form der Beteiligung sind Kommentare und Feedbacks, die zahlreiche Online-Medien als Funktion standardmäßig ermöglichen. Partizipativ im oben umrissenen Sinne ist dabei nicht jede Form einer Online-Aktivität wie das „Liken“ einer Seite oder Nachricht ohne politische Relevanz.118 Aber indem Nutzerinnen und Nutzer fortlaufend mit Journalistinnen und Journalisten sowie anderen Autorinnen und Autoren kommunizieren können, indem sie deren Texte kommentieren und diskutieren, hat sich die Beziehung von Journalismus und Publikum geändert: Sie ist heute durch mehr Unmittelbarkeit geprägt, was sowohl mit einer stärkeren Orientierung von Journalistinnen und Journalisten auf das Publikum als auch mit einer größeren Irritation durch das Publikum einhergeht.119 Hinzu kommt, dass sich die Position des Journalismus im Hinblick auf den öffentlichen Diskurs und die Partizipation insgesamt 117 Schaal und Heidenreich 2016. 118 Theocharis und Deth 2017. 119 Loosen und Dohle 2014. Analyse 38 verändert hat, seitdem zivilgesellschaftliche Akteurinnen und Akteure ihre Aktivitäten ausschließlich als Online-Kommunikationskampagnen realisieren, wie es beispielsweise beim sogenannten Datenaktivismus120 üblich ist. Heute können Menschen, die bisher keinen Zugang zu öffentlicher Kommunikation hatten, sich mithilfe von Plattformen wie Instagram, Facebook und Twitter äußern und mittels Messenger-Diensten wie WhatsApp oder Telegram Gruppenöffentlichkeiten schaffen.121 Durch solche neuen Kommunikationsweisen und -formate, die auch als Kleine Akte (Tiny Acts) bzw. Kleine Formen bezeichnet werden,122 haben sich auch neue Partizipationskanäle geöffnet. Die unter 3.2.4 bereits erwähnten Influencer bzw. „YouTube Stars“ verdeutlichen den Wandel besonders prägnant, da sie ein Publikum erreichen können, das größer ist als das vieler traditioneller Massenmedien.123 Influencer, wie der Video-Blogger Rezo mit seinem YouTube-Video „Die Zerstörung der CDU“, liefern bisweilen viel diskutierte politische Beiträge für den öffentlichen Diskurs. Die Voraussetzung dafür, über solche digitalen Kanäle massenhaft Gehör zu finden, ist typischerweise sowohl ein entsprechendes kulturelles und soziales Kapital als auch eine entsprechende Medienkompetenz (Media Literacy).124 Aktuell zeigt die unter den Schlagworten Digital Divide und Digital Disconnect durchgeführte Forschung zum Teil erhebliche Ungleichheiten unter Akteurinnen und Akteuren, was die Beteiligungsmöglichkeiten betrifft, wobei Deutschland im internationalen Vergleich im Mittel - feld positioniert ist.125 Es ist offensichtlich: Im digitalen Raum haben nicht alle Menschen die gleichen Partizipationsmöglichkeiten. Menschen aus bildungsfernen und einkommensschwachen Schichten sind im Nachteil, ihre politischen Positionen daher oft unterrepräsentiert. Ein in diesem Zusammenhang bislang noch vernachlässigter Aspekt betrifft allerdings noch eine andere Form der Exklusion, nämlich die Exklusion von Menschen mit körperlichen oder geistigen Einschränkungen, die infolge mangelnder Barrierefreiheit126 viele digitale Partizipationsangebote im öffentlichen Diskurs nicht nutzen können. Dennoch erlangen durch Plattformen und andere digitalen Medien viel mehr Individuen und Gruppen öffentliche Aufmerksamkeit für ihre Positionen, die durch die Kuratierungspraxis der traditionellen Massenmedien noch weitgehend ausgeschlossen waren. Die neuen Kommunikationsmöglichkeiten bieten so einerseits die Chance, politische Diskurse über geografische Distanzen hinweg sowie schicht- und milieuübergreifend zu gestalten, aber auch interkulturelle Dialoge zu führen und neue transnationale oder kulturelle Öffentlichkeiten zu etablieren. Andererseits bedeutet dies jedoch, dass nun auch verstärkt demokratiekritische oder feindliche Positionen in öffentlichen Diskursen sichtbar werden. So positioniert sich beispielsweise die Pegida-Bewegung auf 120 Milan 2017. 121 Baym und Boyd 2012. 122 Margetts 2018; Hepp und Pfadenhauer 2014. 123 Burgess und Green 2018. 124 Livingstone und Helsper 2007. 125 Siehe beispielsweise Helsper 2021. 126 Barrierefreiheit im digitalen Raum lässt sich beispielsweise erreichen, indem Webseiten und PDFs in Formaten eingestellt werden, die durch automatisierte Vorlesehilfen erkannt werden. Auch das Verfassen von Texten in einfacher Sprache oder das Einstellen von Untertiteln in Videos dient der Barrierefreiheit. Analyse 45 Inwieweit solche datenbasierten Beeinflussungsversuche tatsächlich erfolgreich sind, ist wissenschaftlich schwer zu ermitteln und konnte bis jetzt nicht geklärt werden. Die Meinungs- und Willensbildung ist wie bereits erwähnt nämlich von vielen Faktoren bestimmt (beispielsweise bewussten und unbewussten, rationalen und nichtrationalen), die sich zudem noch gegenseitig beeinflussen können. Außerdem ist die Wirksamkeitsforschung in diesem Zusammenhang nahezu unmöglich, weil die meisten Anbieter digitaler Infrastrukturen und Dienste kaum Daten für entsprechende Analysen zur Verfügung stellen. Es scheint allerdings plausibel, dass Beeinflussungsversuche vor allem zur Mobilisierung beitragen, aber geringere Effekte auf Einstellungen und Verhalten haben.159 Die fehlende Evidenz in diesem Fall ist aber keinesfalls als Evidenz einer geringen Wirksamkeit solcher datenbasierter Beeinflussung misszuverstehen. Es gibt also keinen Grund zur Entwarnung. Selbst wenn digitale Manipulationsversuche kurzfristig nur wenig bewirken sollten, könnten auch kleine Veränderungen langfristig weitreichende Folgen haben, weil sie sehr viele Menschen erreichen. Dies gilt insbesondere in Situationen, in denen eine sehr knappe Wahl- oder Abstimmungsentscheidung erwartet wird, und in Mehrheitswahlsystemen wie dem der USA und dem Großbritanniens. Zudem verändern bereits Manipulationsversuche und entsprechende Befürchtungen den öffentlichen Diskurs. Und schließlich ist die Vermutung plausibel, dass die Wirkung von datenbasierten Beeinflussungsversuchen aufgrund technologischer Weiterentwicklung und angetrieben durch den wirtschaftlichen Wettbewerb künftig weiter steigen wird. 3.4.3. Herausforderungen Digitalisierung kann die demokratische Selbstbestimmung erheblich unterstützen, indem sie Bürgerinnen und Bürgern viele Möglichkeiten eröffnet, sich politisch zu äußern, sich zu beteiligen und eigene Lebensvorstellungen zu präsentieren. Zugleich ist diese Selbstbestimmung aber durch mangelnde Zivilität in der digitalen Kommunikation und datenbasierte Beeinflussungsversuche gefährdet. In dieser Situation kommt es darauf an, neue Partizipationsmöglichkeiten und die individuelle, lebenslange Aneignung von Kompetenzen im Umgang mit digitalen Diensten wie oben dargestellt finanziell und politisch zu fördern. Die Begrenzung der Gefahren erfordert regulatorische und technische Maßnahmen. Die regulatorischen Maßnahmen beziehen sich einerseits auf die Stärkung ziviler Kommunikation, wie unter 3.2. erläutert; andererseits sollen sie die Möglichkeiten datenbasierter, personalisierter Manipulation begrenzen. Die technische Entwicklung richtet sich besonders auf Transparenz, Nachvollziehbarkeit und Fairness algorithmischer Systeme. Schließlich ist auch in diesem Zusammenhang der Zugang zu den Datenbeständen der Plattform- und Dienstebetreiber nötig, um eine systematische Erforschung der Wechselwirkungen von Digitalisierung und politischer Selbstbestimmung zu gewährleisten. 159 Baldwin-Philippi 2019; Karpf 2019. Analyse 46 4. Handlungsempfehlungen Die vorangegangene Analyse hat gezeigt, dass die Digitalisierung der demokratischen Öffentlichkeit Chancen bietet und gleichzeitig mit erheblichen Risiken verbunden ist. Die folgenden Handlungsempfehlungen sollen dazu beitragen, diese Chancen zu nutzen und die Risiken angemessen zu bewältigen. Konkret geht es darum, den regulatorischen Rahmen entsprechend zu erweitern, die zur Verfügung stehende Informations- und Kommunikationstechnik demokratieförderlich zu gestalten, die Entwicklung von Kompetenzen im Umgang mit der digitalen demokratischen Öffentlichkeit zu stärken und neue Partizipationsmöglichkeiten systematisch zu entwickeln. 4.1. Kuratierungspraxis digitaler Informations- und Kommunikationsplattformen regulieren Wie unter 3.1 dargestellt, entscheiden Plattformbetreiber durch Kuratierung darüber, nach welchen Kriterien und in welchen Formen Inhalte, etwa bei der Anzeige (im „Feed“), priorisiert werden und welche Inhalte untersagt sind und gelöscht werden. Die ebenfalls unter 3.1 dargelegte Bedeutung dieser Plattformen für die demokratische Öffentlichkeit bedingt, dass deren Kuratierungskriterien über die Durchsetzungschancen von Inhalten im öffentlichen Diskurs mitentscheiden. Festlegung und Anwendung der Kriterien sollten darum nicht den kommerziell orientierten und demokratisch nicht legitimierten Plattformbetreibern überlassen bleiben. Stattdessen bedarf es – zumindest für Plattformen mit gesteigerter Diskursmacht – gesetzlich geregelter prozeduraler und materieller Anforderungen, die ihre Verantwortung als Betreiber demokratierelevanter Infrastrukturen konkretisieren. Diese Anforderungen sollten möglichst im europäischen Recht verankert werden, um ihre Durchschlagskraft und Handhabbarkeit zu maximieren und eine Rechtszersplitterung zu vermeiden. Das laufende Verfahren zum Erlass eines europäischen Gesetzes über digitale Dienste bietet die Gelegenheit, die im Entwurf der Europäischen Kommission enthaltenen Ansätze zur Plattformregulierung auszubauen. Hierzu sollte ein Verfahrensrahmen geschaffen werden, der über die Vorgaben des Medienstaatsvertrags und des Entwurfs eines Gesetzes über digitale Dienste hinausgeht, da er auch für die von Nutzerinnen und Nutzern erzeugten Inhalte gelten und die gesamte Erstellung und Überarbeitung der Kuratierungskriterien (nicht erst ihre Anwendung im Einzelfall) begleiten soll. Die Plattformbetreiber sollten verpflichtet werden, an allen kuratierungsrelevanten Prozessen ein von ihnen finanziertes, jedoch unabhängiges und pluralistisch besetztes Gremium zu beteiligen, das aus Vertreterinnen und Vertretern staatlicher und zivilgesellschaftlicher Institutionen sowie der Nutzergemeinschaft besteht. Das Gremium hätte die Aufgabe, dazu beizutragen, dass sich die Vielfalt öffentlich und politisch bedeutsamer Themen und Positionen im Angebot der Plattformen abbildet. Insbesondere sollte das Gremium gewährleisten, dass keine Kuratierungskriterien festgelegt werden, die zu einer ungerechtfertigten Schlechter- Handlungsempfehlungen 47 stellung (Diskriminierung) bestimmter Arten von Inhalten oder Standpunkte führen. Diese Vorgabe steht sachlich begründeten Kriterien zur Vermeidung von Falschdarstellungen, „Hate Speech“ und „Online Harassment“ nicht entgegen. Das Gremium ist gegenüber den Plattformbetreibern mit umfassenden Informationsrechten und einer verbindlich wirkenden Entscheidungsbefugnis auszustatten. Außerdem sollte jeder, auch ohne selbst Nutzerin oder Nutzer der jeweiligen Plattform zu sein, das Recht haben, sich an das unabhängige Gremium zu wenden und eine Überprüfung der Kuratierungskriterien anzustoßen. Darüber hinaus sollte ein Mechanismus eingerichtet werden, damit Nutzerinnen und Nutzer sich über ungerechtfertigte Kuratierungsentscheidungen im Einzelfall (wie die Löschung oder Kommentierung bestimmter Beiträge) beschweren können. Hierbei kann an die im Entwurf eines Gesetzes über digitale Dienste vorgesehenen Streitbeilegungsstellen angeknüpft werden, die von den Plattformbetreibern unabhängig und mit verbindlichen Entscheidungsbefugnissen ausgestattet sein sollten. Schließlich sollten die Plattformbetreiber – wie im Entwurf des Gesetzes über digitale Dienste partiell bereits vorgesehen – verpflichtet werden, Informationen über die Gestaltung der Plattform und die Prinzipien der Kuratierung zu veröffentlichen, um Transparenz herzustellen und eine entsprechende öffentliche Diskussion zu ermöglichen. 4.2. Internetangebote des öffentlich-rechtlichen Rundfunks stärken Journalistische Auswahl und Aufbereitung von Nachrichten bleiben für die individuelle Meinungsbildung unentbehrlich. Journalistische Medien tragen maßgeblich zur Vielfalts- und Qualitätssicherung in der Präsentation von Informationen bei. Dies gilt insbesondere für die öffentlich-rechtlichen Rundfunkanstalten. Voraussetzung für ihren Beitrag zur Meinungsbildung ist allerdings, dass die Informationsangebote niedrigschwellig verfügbar sind und auch junge Menschen erreichen, die Nachrichten und Informationen in zunehmendem Umfang online beziehen. Dazu ist es angezeigt, den oben beschriebenen demokratischen Informationsauftrag des öffentlich-rechtlichen Rundfunks weiter auszubauen und ihm so neue Möglichkeiten zu bieten, seinen Auftrag in einem hybriden Mediensystem zu erfüllen. Insbesondere sollte das Verbot presseähnlicher Telemedienangebote gestrichen werden. Im Rahmen des vorgeschalteten Drei-Stufen-Tests, der über die Zulässigkeit von Telemedienangeboten des öffentlich-rechtlichen Rundfunks entscheidet, sind die bereits vorhandenen Telemedienangebote und die marktlichen Auswirkungen eines entsprechenden öffentlich-rechtlichen Angebots ohnehin zu berücksichtigen. Dies gewährleistet privatwirtschaftlichen Anbietern einen hinreichenden Schutz vor Wettbewerbsverzerrungen. Um die Zugänglichkeit und die Verwendungsmöglichkeiten von öffentlich-rechtlichen Telemedienangeboten auszubauen, sollten die Rundfunkanstalten zudem angehalten werden, Beiträge verstärkt unter offenen Lizenzen zu veröffentlichen. Insbesondere gilt dies für bildungsrelevante Inhalte wie Dokumentationen, sogenannte Erklärstücke und Beiträge zur Zeitgeschichte. Handlungsempfehlungen 48 4.3. Forschung auf den Datenbeständen von Plattformen erleichtern Die vorangegangene Analyse zeigt, dass digitale Informations- und Kommunikationsplattformen als Infrastrukturen der demokratischen Öffentlichkeit ein bedeutsamer Ort für die Selbstdarstellung und Selbstbeobachtung einer offenen Gesellschaft sind. Fundierte Aussagen über den gesellschaftlichen Wandel lassen sich bereits jetzt und mit absehbar zunehmender Tendenz nur treffen, wenn die Diskurse einbezogen werden, die auf diesen Plattformen stattfinden. Dementsprechend bilden die von den Plattformen verarbeiteten Daten (Kommunikationsinhalte und Nutzungsdaten) eine immer wichtigere Grundlage für die wissenschaftliche Erforschung gesellschaftlicher Prozesse. Diese Daten werden zudem benötigt, um die Auswirkungen der Plattformen auf die demokratische Auseinandersetzung belastbar zu erforschen. Jedoch ermöglichen viele Plattformbetreiber Wissenschaftlerinnen und Wissenschaftlern einen Datenzugriff bislang nur unter sehr restriktiven Bedingungen.160 Es bedarf daher rechtlicher Vorgaben, die die Plattformbetreiber verpflichten, ihre Datenbestände für Forschungszwecke bereitzustellen, ohne dadurch deren berechtigte Geheimhaltungsinteressen oder die Dritter (insbesondere der Nutzerinnen und Nutzer) zu verletzen. Bereitzustellen sind dabei nur jene Datenbestände, über die die Plattformbetreiber ohnehin bereits verfügen. Eine Verpflichtung der Plattformbetreiber, bestimmte Daten zu Forschungszwecken erst zu erheben, könnte mit datenschutzrechtlichen Grundsätzen kollidieren und sollte daher unterbleiben. Erste in diese Richtung weisende Ansätze zeigen sich bereits. So sind Plattformbetreiber ab 2022 nach dem Netzwerkdurchsetzungsgesetz verpflichtet, Forscherinnen und Forschern Auskünfte über Beschwerden und Löschungen sowie über die automatisierte Erkennung von unzulässigen Inhalten zu erteilen. Nach dem Entwurf eines europäischen Gesetzes über digitale Dienste sollen sehr große Plattformen verpflichtet werden, einen Datenzugang für Forschungsarbeiten über Risiken für demokratisch verfasste Gesellschaften durch Plattformaktivitäten zu ermöglichen. Der Vorschlag der Arbeitsgruppe geht über die thematischen Beschränkungen dieser Ansätze des europäischen Gesetzentwurfs allerdings hinaus, um dem Wert der Plattformdaten für Forschungsvorhaben über gesellschaftliche Prozesse Rechnung zu tragen. Für die neu zu schaffenden Zugangsregeln ist zwischen verschiedenen Datenbeständen zu differenzieren. Denn zum einen können an unterschiedlichen Daten unterschiedlich gewichtige Geheimhaltungsinteressen von Plattformbetreibern oder Nutzerinnen und Nutzern bestehen. Zum anderen müssen die Zugangsregeln an die technisch unterschiedlichen Zugangsmöglichkeiten zu den verschiedenen Datenkategorien angepasst werden. Soweit Nutzerinnen und Nutzer Kommunikationsinhalte auf einer Plattform allgemein zugänglich veröffentlichen, lässt sich eine Nutzung der veröffentlichten Daten zu Forschungszwecken vielfach rechtfertigen, wenngleich es stets auf den Einzelfall ankommt.161 Technisch könnte der Datenzugang in der Regel über die Programmierschnittstelle der jeweiligen Plattform ermöglicht werden. Wissenschaftlerinnen und Wissenschaftler sollten daher einen grundsätzlichen Zugangsanspruch gegen die Plattformbetreiber für konkret zu bezeichnende Forschungsprojekte erhalten. Die 160 Ausloos, Leerssen, und ten Thije 2020. 161 Bäcker, Golla, und Hofmann 2018. Handlungsempfehlungen 49 weitere Datenverarbeitung und die Publikation der Forschungsergebnisse müssen selbstverständlich den datenschutzrechtlichen und forschungsethischen Anforderungen genügen. Komplexer stellt sich die Situation allerdings bei Zugangsanfragen dar, die sich auf nichtöffentliche Kommunikationsinhalte oder Nutzungsdaten richten. Um solche Zugangsanfragen überhaupt formulieren und eingrenzen zu können, werden zunächst Informationen darüber benötigt, welche Datenbestände bei den Plattformen vorhanden sind. Die Plattformbetreiber sollten daher verpflichtet werden, Wissenschaftlerinnen und Wissenschaftlern solche Informationen in allgemeiner Form zur Verfügung zu stellen und diese auf Nachfrage zu konkretisieren. Der eigentliche Datenzugang hinge rechtlich dann von einzelfallbezogenen Abwägungen ab, die sich einer Generalisierung weitgehend entzögen. Technisch könnte es – auch in Abhängigkeit von den rechtlichen Abwägungen – erforderlich sein, spezifische Mechanismen zu entwickeln, die den Datenzugang auf das notwendige Maß bzw. die notwendige Datentiefe beschränken. Überdies könnte auch die der Datenerhebung nachgelagerte Datenanalyse auf eine Mitwirkung der Plattformbetreiber angewiesen sein. Die Plattformbetreiber sollten daher verpflichtet werden, für die Analyse benötigte Informationen zusammenzustel - len und herauszugeben. Gegebenenfalls – insbesondere bei sehr komplexen Forschungsprojekten – sollten sie gegen angemessene Entschädigung ihre eigenen technischen und personellen Verarbeitungsressourcen für wissenschaftliche Zwecke bereitstellen müssen. Um Geschäftsgeheimnisse und personenbezogene Daten wirksam zu schützen, zugleich aber den Datenzugang nicht ins Belieben der Plattformbetreiber zu stellen, sollte ein von den Plattformbetreibern zu finanzierendes, jedoch unabhängiges Gremium geschaffen werden, das über Zugangsanfragen entscheidet. Die Entscheidungsbefugnisse des Gremiums sollten die Zugangspflichten der Plattformbetreiber wie auch Schutzvorkehrungen durch die Zugang begehrenden Wissenschaftlerinnen und Wissenschaftler umfassen. Die Zugangsregeln sollten nur für Forschungsvorhaben gelten, die sich ausschließlich an wissenschaftlichen Erkenntnisinteressen orientieren und wissenschaftlichen Standards genügen.162 Hierzu gehört insbesondere, dass entsprechende Forschungsergebnisse publiziert werden. Zugangsregeln zugunsten einer kommerziell orientierten Industrieforschung, die unmittelbar auf die Herstellung wirtschaftlich verwertbarer Produkte abzielt, sollten nicht geschaffen werden. Dementsprechend sollte auch eine Nutzung oder Weitergabe von Rohdaten, die durch einen wissenschaftlich begründeten Zugang erlangt wurden, zu wissenschaftsfremden Zwecken ausgeschlossen sein. Hierzu zählen etwa Zwecke der Marktforschung oder Werbung. Ein solcher Ausschluss würde voraussichtlich auch die Akzeptanz des Datenzugriffs steigern. Schließlich sollten die bereits heute geltenden rechtlichen Vorgaben für eine weitere Verarbeitung der einmal erhobenen Forschungsdaten innerhalb des Wissenschaftssystems überprüft und überarbeitet werden. Dabei geht es nicht um eine pauschale Freistellung der wissenschaftlichen Forschung von rechtlichen Anforderungen, wohl aber um eine wissenschaftsadäquate Ausgestaltung solcher Anforderungen. Insbesondere aus urheber- und datenschutzrechtlichen Regelungen ergeben sich derzeit noch 162 Siehe zu diesen Anforderungen allgemein Caspar 2019. Handlungsempfehlungen 50 teils hohe Hürden, etwa für die Publikation von Forschungsergebnissen und für die Weitergabe von Rohdaten an andere Forscherinnen und Forscher zur Validierung der Ergebnisse oder zur Durchführung weiterer Forschungsprojekte. Diese gilt es abzubauen. 4.4. Zivilität des Diskurses sicherstellen Wie unter 3.2 dargelegt, bewirkt die Digitalisierung der demokratischen Öffentlichkeit einen umfangreichen Wandel der Informations-, vor allem aber der Diskurs- und Kommunikationskultur. Wesentliche Funktionen demokratischer Informationsintermediäre („Gatekeeper“) wie die traditionellen Massenmedien werden von sozialen Digitalmedien nicht wahrgenommen. Dazu gehört insbesondere die kontext- und reichweitenorientierte Einhegung eines Diskurses und die Bestimmung von Gesprächsregeln, mittels derer die Zivilität der Kommunikation gewahrt bleibt. Die Vermischung unterschiedlicher Diskursformen sowie die öffentliche Sichtbarkeit von Äußerungen, die unter analogen Bedingungen eher in kleinen Rezeptionsräumen wahrgenommen werden würden, können Nutzerinnen und Nutzer verunsichern und abschrecken sowie undemokratische, herabwürdigende und aggressive Meinungsäußerungen, aber auch gezielt formulierte Falschinformationen und Manipulationsaktivitäten befördern. Da- bei können selbst strafrechtlich relevante Inhalte und Formate bislang oftmals nicht verfolgt werden, weil anonyme oder pseudonyme Autorinnen und Autoren sich nach wie vor kaum identifizieren lassen. Löschungen bleiben nicht selten ineffektiv, weil die entsprechenden Beiträge vorher geteilt, unter anderem Namen erneut eingestellt oder in der Masse der Inhalte nicht sicher identifiziert werden können. Hinzu tritt die Überlastung der Strafverfolgungsbehörden und Gerichte angesichts der gewaltigen Menge solcher Äußerungen. Wie unter 3.2 bereits gezeigt, befördern „Hate Speech“, „Online Harassment“ und andere negative Veränderungen der plattformbasierten öffentlichen Diskurskultur einen Rückzug vieler Nutzerinnen und Nutzer aus der Sphäre der digitalen Medien; das gilt insbesondere für risikoaverse oder besonders von Aggressivität bedrohte Personen. In der Folge besteht die Gefahr, dass die Stimmen dieser Bürgerinnen und Bürger weniger gehört, ihre Positionen in politische und gesellschaftliche Diskurse nicht mehr eingebracht werden und die Bereitschaft zu gesellschaftlichem Engagement und insbesondere zur Übernahme gesellschaftlich relevanter und politischer Ämter sinkt. Um schädliche und strafbare Extremformen öffentlicher Diskursführung einzuhegen und eine effektive Rechtsverfolgung auch im digitalen Raum zu sichern, bedarf es Strategien und Maßnahmen. Diese dürfen aber den offenen, gelegentlich auch zugespitzten oder ironischen Ausdruck von Meinungen nicht beeinträchtigen, um das hochrangige Rechtsgut der Meinungsfreiheit nicht zu gefährden. So sollten Nichtregierungsorganisationen (Non-Governmental Organizations, NGOs) wie HateAid, die sich für Opfer digitaler Gewalt und gegen die Verrohung des öffentlichen Diskurses engagieren, gegenüber Plattformbetreibern ein Verbandsklagerecht jenseits des Netzwerkdurchsetzungsgesetzes erhalten, damit Rechtsverletzungen mit Bedeutung über den Einzelfall hinaus gerichtlich verfolgt werden könnten. Bei den Strafverfolgungsbehörden sollte durch gezielte Personalentwicklung und Weiterbildung sowie geeignete technische Unterstützung darauf hingewirkt werden, dass Res- Handlungsempfehlungen 51 sourcen, Sachverstand und Problembewusstsein vorhanden sind, um strafbare Akte digitaler Gewalt und im digitalen Diskurs wirksam zu ahnden. In eine solche Richtung weist die geplante Zentrale Meldestelle für strafbare Inhalte im Internet beim Bundeskriminalamt (BKA). Zudem sollte die Verzahnung und Kooperation von Institutionen der Zivilgesellschaft mit staatlichen und privaten Institutionen aktiv unterstützt werden, die sich gegen Hassrede und für die Zivilität des Diskurses engagieren. Dies kann durch die Betreuung von Opfern und Tätern von „Online Harassment“ und „Hate Speech“, die Einübung von Verhaltensregeln im Internet in schulischen Einrichtungen (siehe auch Handlungsempfehlung 4.6) oder gezielte Information über Unterstützungsangebote während und nach Maßnahmen der Rechtsverfolgung geschehen. 4.5. Demokratiefreundliches Design digitaler Technologien und Infrastrukturen fördern Die vorangehend erläuterten regulatorischen Maßnahmen sollen der Stärkung demokratischer Prinzipien in digitalen Öffentlichkeiten dienen und müssen durch ein demokratiefreundliches Design existierender und neuer digitaler Dienste ergänzt und unterstützt werden – analog zum ethisch fundierten Design, wie es in der Stellungnahme der Datenethikkommission163 dargestellt ist. Ein solches Design sollte, wie oben bereits erläutert, die Transparenz der digitalen Plattformen und Dienste, die Qualität der Information und die Zivilität des demokratischen Diskurses gewährleisten, aber auch die Realisierung neuer Partizipationsformen und die digitale Selbstbestimmung von Bürgerinnen und Bürgern unterstützen. Bei diesem Vorhaben sind viele gefordert: die Wissenschaft und die Anbieter digitaler Infrastrukturen und Dienste (beispielsweise Plattformen und öffentlich-rechtliche Medien), aber auch NGOs und Start-Ups. Die Wissenschaft kann innovative Konzepte und Technologien für ein demokratiefreundliches Design entwickeln und bereitstellen. Dabei ist eine enge Kooperation von Informatik und Verhaltenswissenschaften von zentraler Bedeutung. So entwickelt beispielsweise die Informatik fortgeschrittene Technologien für die Informationsverarbeitung, während die Sozialwissenschaften deren Wirkung auf Individuen und Gesellschaft und den adäquaten Umgang mit solchen Technologien untersuchen. Kommerzielle und nichtkommerzielle Dienstanbieter wiederum müssen sich bei ihren Designentscheidungen ihrer Verantwortung für die demokratische Öffentlichkeit bewusst sein und dieser gerecht werden. Hierzu sollen auch die unter 4.1 empfohlenen unabhängigen Gremien beitragen, die bei digitalen Plattformen und Diensten für die Umsetzung einer demokratiefreundlichen, transparenten Kuratierung von Inhalten verantwortlich sind. Wie unter 3.1 ausgeführt, gestalten digitale Informations- und Kommunikationsplattformen sowie andere digitale Dienste ihre Benutzungsumgebung oft so, dass die Aufmerksamkeit von Nutzerinnen und Nutzern möglichst lange gebunden bleibt und gezielt auf Werbeinhalte gelenkt werden kann. Diese Aufmerksamkeitssteuerung wird mithilfe verhaltenswissenschaftlicher Methoden und Techniken realisiert. Wie die vorangegangene Analyse zeigt, geht dies mit einer substanziellen Gefährdung demo- 163 Datenethikkommission 2019. Handlungsempfehlungen 52 kratischer Öffentlichkeit einher, weshalb empfohlen wird, ein demokratiefreundliches Design der Benutzungsumgebungen als Standard für Dienste einzuführen. Es gilt da- bei, die Benutzungsumgebung digitaler Dienste hinsichtlich der verwendeten Kuratierungskriterien transparent zu gestalten und so anzupassen, dass die Autonomie von Nutzerinnen und Nutzern gefördert wird. Das Spektrum an evidenzbasierten Maßnahmen für eine solche Gestaltung der Benutzungsumgebung reicht von der Konfiguration der sogenannten Default-Einstellungen, Labels und Filter über deutlich sichtbare Hinweise zur Vertrauenswürdigkeit und epistemischen Qualität von Quellen bis hin zur korrigierenden und gegenargumentativen Kommentierung wirklichkeitsverzerrender Inhalte164. Gleichwohl erfordert eine effektive Implementierung solcher Maßnahmen noch intensive Forschung, die mit dem Zugriff auf forschungsrelevante Datenbestände der Plattform- und Diensteanbieter einhergehen muss (siehe 4.3). Außerdem ist die Entwicklung demokratiefreundlicher Nutzungsumgebungen eng verknüpft mit den unter 4.6 präsentierten Empfehlungen zur Kompetenzentwicklung. Demokratiefreundliches Design umfasst darüber hinaus auch die Entwicklung und Bereitstellung von Instrumenten und Verfahren, die Nutzerinnen und Nutzern bei der Erschließung und Bewertung digitaler Information und Kommunikation unterstützen können, wie unter 3.2 vorgeschlagen. So könnten beispielsweise Apps entwickelt werden, die Nutzerinnen und Nutzer eine verständliche Übersicht über wichtige Argumente und Meinungen zu einem Thema anbieten und die Umsetzung von regulatorischen Auflagen für digitale Dienste oder eigene Datenschutzrisiken erkennbar machen. Entscheidend ist, dass die entwickelten Instrumente die Selbstbestimmung der Nutzerinnen und Nutzer unterstützen, indem sie für die Rezeption von Informationen auch entsprechenden Kontext bereitstellen und nicht manipulativ wirken. Für die demokratiefreundliche Gestaltung der Benutzungsumgebung, für Instrumente zur differenzierten Rezeption von Informationen und viele andere digitale Dienste werden Algorithmen verwendet, die auf dem Prinzip der sogenannten Künstlichen Intelligenz (KI) basieren. Für eine demokratiefreundliche Gestaltung digitaler Infrastrukturen sollten solche Algorithmen insbesondere zwei Eigenschaften aufweisen: Erklärbarkeit und Fairness. Erklärbarkeit bedeutet, dass wichtige Entscheidungskriterien für Nutzerinnen und Nutzer verständlich sind, und ist damit eine Voraussetzung von Transparenz, die sich als zentrale Herausforderung aus der vorangehenden Analyse ergibt. Die Arbeitsweise von KI-Algorithmen transparent und nachvollziehbar zu machen ist gleichwohl ein schwieriges Problem. Wenn solche Algorithmen das Prinzip des maschinellen Lernens verwenden, lässt sich ihre Funktionsweise von außen kaum rekonstruieren. Außerdem ändern sich die Anforderungen an Erklärbarkeit mit der Kompetenz von Nutzerin oder Nutzer und dem jeweiligen Verwendungszweck: Nutzerinnen und Nutzer, die wissen möchten, warum sie keinen Kredit bekommen haben, benötigen andere Informationen als Expertinnen und Experten, die prüfen müssen, ob eine Software womöglich unzulässig diskriminiert. Die Akademien empfehlen daher die Förderung der Erforschung von erklärbaren KI-Algorithmen. Fairness, die zweite wichtige demokratierelevante Anforderung an KI-Algorithmen, bedeutet im vorliegenden Zusammenhang: KI-Entscheidungen müssen in Einklang mit den grundlegenden demokratischen Werten stehen.165 Sie dürfen beispielsweise 164 Lorenz-Spreen u. a. 2020. 165 Herzog 2021. Handlungsempfehlungen 53 Menschen nicht aufgrund ihres Geschlechts, ihrer Abstammung oder ihrer Religionszugehörigkeit benachteiligen. Eine solche rassistische Diskriminierung wurde etwa bei Algorithmen zur Entdeckung von „Hate Speech“ festgestellt.166 Solche Verzerrungen entstehen, wenn zum Training eines KI-Algorithmus unzureichende Daten verwendet werden. Für eine demokratiefreundliche Anwendung von KI-Algorithmen werden also Referenztrainingsdaten benötigt, die die gewünschte Fairness widerspiegeln (und damit implizit definieren). Es gibt bereits erste Ansätze, ein solches Maß an Fairness algorithmisch zu verankern, die Komplexität des Problems erfordert allerdings dringend weitere Forschungsaktivitäten, deren Förderung die Akademien mit Nachdruck empfehlen. 4.6. Entwicklung der Digital- und Medienkompetenz stärken Für Wissenserwerb, Informationsverarbeitung und -bewertung, für Kommunikation und Austausch, für politische Partizipation und gesellschaftliche Beteiligung, für fundierte Entscheidungen und verantwortungsvolles Handeln, sind vielfältige Kompetenzen nötig. Digitale Technologien sind eine zentrale Ressource für den Erwerb dieser vielfältigen Kompetenzen. Zugleich müssen Kompetenzen im Umgang mit solchen Technologien entwickelt und gefördert werden. Solche Kompetenzen, die häufig mit Begriffen wie „digitale Kompetenz“, „algorithmische Kompetenz“, „Medienkompetenz“, „Datenkompetenz“, „Data Literacy“ oder „Computational Literacy“ beschrieben werden, umfassen ganz unterschiedliche Aspekte. So reicht das Spektrum der Medienkompetenz heute von der Fähigkeit zur Quellenkritik167 über eine respektvolle und sachorientierte Kommunikationsweise (Zivilität) in digitalen Öffentlichkeiten bis hin zum sicheren und verantwortungsbewussten Umgang mit eigenen Daten. Neben Kenntnissen zur Funktionsweise digitaler Dienste und Technologien ist hier mitunter auch das Wissen um die zugrunde liegenden Geschäftsmodelle entsprechender Informations- und Kommunikationsplattformen von Relevanz, um das eigene Verhalten und dessen mögliche Konsequenzen beurteilen zu können. „Datenkompetenz“ oder „Data Literacy“ wiederum umfasst nicht nur den Umgang mit eigenen Daten, sondern auch Kenntnisse über die Erfassungs-, Verarbeitungs- und Interpretationspraxis der Plattformen und Dienste. In diesem Zusammenhang sind nicht nur informatisch-tech- nologisches Wissen (beispielsweise zur Nutzung oder Entwicklung von Software und Datenbanken) oder mathematische Kenntnisse (insbesondere zur Statistik und Wahrscheinlichkeitstheorie) von entscheidender Bedeutung, sondern darüber hinaus auch empirische Kenntnisse sowie relevantes Kontextwissen und somit sozial- und geisteswissenschaftliche Kompetenzen. „Algorithmische Kompetenz“ umfasst wiederum grundlegende Kenntnisse über die Funktionsweise von Algorithmen und Datenstrukturen und somit auch Programmierfähigkeiten. Neben der Aneignung solcher digitalen Fertigkeiten, die individuell und nach Bedarf unterschiedlich ausgeprägt sein können, bedarf es ferner einer umfassenden Förderung von Fähigkeiten zur Reflexion über die ethischen, erkenntnistheoretischen und gesellschaftlichen Voraussetzungen und Konsequenzen digitaler Technologien. Zu diesem Zweck können ganz unterschiedliche Maßnahmen durchgeführt werden, die sich nach Aufwand und Wirkungsdauer unterscheiden. Aufgrund der großen Bedeutung 166 Sap u. a. 2019. 167 Wie kann Information im digitalen Raum eingeordnet werden? Was sind valide Qualitätskriterien und -marker? Handlungsempfehlungen 54 digitaler Kompetenzen für fast alle Lebensbereiche sind dabei zunächst niedrigschwellige Angebote zur Kompetenzentwicklung zu empfehlen. Ziel ist hierbei, Nutzerinnen und Nutzer zu befähigen, gewissermaßen als Architektin oder Architekt ihre eigene Informationsumgebung zu gestalten, um so ihre Autonomie zu stärken.168 Die Kompetenzentwicklung soll in diesem Fall innerhalb der Handlungssituation stattfinden, entweder indem die Benutzungsumgebung durch externe Hilfsmittel wie Browser- Add-ons oder Apps kompetenzfördernd gestaltet ist (siehe 4.5), oder durch einfache Regeln, die schnell erlernt und angewendet werden können. Denken, Handeln und Entscheiden in der digitalen Welt kann durch eine Vielzahl von Einzelkompetenzen gestärkt werden. Darunter fallen beispielsweise die Kompetenzen, zu erkennen, (1) wie algorithmisch gesteuerte Angebote (beispielsweise Facebook Newsfeed) oder Recommender-Systeme Aufmerksamkeit, Kontakte und Informationsangebote lenken, (2) wie sich die Vertrauenswürdigkeit von Informationsquellen und der Stand einer politischen Diskussion einschätzen lässt, (3) wie politische Inhalte auf der Grundlage individueller Persönlichkeitseigenschaften oder persönlicher Präferenzen gezielt zugeschnitten werden und (4) wie persönliche Daten ungewollt zugänglich gemacht werden169. Erste Forschungsergebnisse geben bereits Hinweise darauf, welche dieser Kompetenzen konkret gestärkt werden können, beispielsweise indem Inhalte durch Hyperlinks ergänzt werden, die auf andere relevante Quellen verweisen und zum Querlesen einladen.170 Andere digitale Entscheidungshilfen, wie Plug-Ins oder Pop-ups, können immer wieder an einfache, systematische Schritte zur Informationsbewertung erinnern, deren Befolgung durch Nutzerinnen und Nutzer für diese nach einiger Zeit zur Routine wird.171 Auch kurze Online-Spiele zur Kompetenzvermittlung sind denkbar.172 Solche digitalen Hilfsmittel sollten nicht zuletzt durch die Plattformbetreiber angeboten werden — die Zivilgesellschaft sollte sich aber nicht allein auf diese verlassen. Darüber hinaus sollten Informationsverbreitung und Kompetenzförderung auch mithilfe nichtdigitaler Maßnahmen, beispielsweise durch Plakate, Broschüren und breitere mediale Kampagnen wie im Fall der Aids-Aufklärung erfolgen. Zu betonen ist in diesem Zusammenhang außerdem, dass die systematische Erforschung kompetenzfördernder Interventionen im digitalen Raum gezielter Unterstützung bedarf, um ihre Effektivität besser nachvollziehen und steigern zu können und damit langfristig den demokratischen Diskurs zu stärken. Jenseits dieser niedrigschwelligen Angebote ergeben sich außerdem zahlreiche Aufgaben für die klassische Aus- und Weiterbildung in verschiedensten Bildungseinrichtungen – von der Kita über die Schule bis zur Hochschule. Hier sind Bund, Länder, Kommunen, aber auch viele private Bildungs- und Betreuungsakteure (beispielsweise Kirchen, Wohlfahrtsverbände, Elternvereine etc.) in der Pflicht, digitale Kompetenzen durch entsprechende Angebote zu fördern. Gerade für den Bereich der schulischen Bildung liegen bereits Konzepte vor,173 die bislang jedoch noch häufig an der Umsetzung 168 Kozyreva, Lewandowsky, und Hertwig 2020; Lorenz-Spreen u. a. 2020. 169 Diese Kompetenz erfordert grundlegende Kenntnisse in den Bereichen Datenschutz, Privatheit und Informationssicherheit. 170 Wineburg und McGrew 2017. 171 Siehe für Beispiele Kozyreva, Lewandowsky, und Hertwig 2020. 172 Roozenbeek und Linden 2019. 173 Siehe beispielsweise „Bildung in der digitalen Welt“ (Kultusministerkonferenz 2016). Handlungsempfehlungen 61 Mitwirkende Prof. Dr. Indra Spiecker gen. Döhmann LL. M. (Georgetown University), Lehrstuhl für Öffentliches Recht, Informationsrecht, Umweltrecht, Verwaltungswissenschaften, Forschungsstelle Datenschutz, Institut für Öffentliches Recht, Johann Wolfgang-Goethe-Universität Frankfurt am Main Prof. Dr. Michael Zürn Abteilung Global Governance, Wissenschaftszentrum Berlin für Sozialforschung und Arbeitsstelle Transnationale Beziehungen, Außen- und Sicherheitspolitik, Otto-Suhr-Institut für Politikwissenschaft, Freie Universität Berlin Wissenschaftliche Mitarbeit Dr. Jens Geisse Technische Universität Darmstadt Joschua Helmer Wissenschaftszentrum Berlin für Sozialforschung Dr. Philipp Lorenz-Spreen Max-Planck-Institut für Bildungsforschung Berlin Dr. Henning Steinicke Abteilung Wissenschaft-Politik-Gesellschaft, Nationale Akademie der Wissenschaften Dr. Elke Witt Abteilung Wissenschaft-Politik-Gesellschaft, Nationale Akademie der Wissenschaften Gutachterinnen und Gutachter Prof. Dr. Mark Eisenegger Abteilung Öffentlichkeit und Gesellschaft, Universität Zürich, Schweiz Jun.-Prof. Dr. Malte Elson Arbeitsgruppe Psychologie der Mensch-Technik-Interaktion, Ruhr Universität Bochum Prof. Dr. Iryna Gurevych Fachbereich Informatik, Technische Universität Darmstadt PD Dr. Jessica Heesen Forschungsschwerpunkt Medienethik und Informationstechnik, Eberhard Karls Universität Tübingen Prof. Dr. Claudia Ritzi Professur für Politische Theorie und Ideengeschichte, Universität Trier Prof. Dr. Wolfgang Schulz Leibniz-Institut für Medienforschung | Hans-Bredow-Institut (HBI) und Professur für Medienrecht und Öffentliches Recht, rechtstheoretische Grundlagen, Universität Hamburg Andreas Breiter ist Mitglied des ZDF-Fernsehrats. Thorsten Faas ist am von Facebook geförderten Projekt „Measuring Privacy Across Cultural, Political and Expressive Contexts“ beteiligt, außerdem Mitglied im „Landesrat für digitale Entwicklung und Kultur“, der die rheinland-pfälzische Ministerpräsidentin berät, und Co-Host des Phoenix-Podcasts „unter3“. Jeanette Hofmann ist Co-Direktorin am HIIG, das seit 2011 und noch bis einschließlich 2022 jährlich mit 1,5 Millionen Euro von Google gefördert wird. Sie ist zudem auch Mitglied eines Gesprächskreises von Facebook. Frauke Kreuter ist Co-Direktorin des u. a. von Facebook unterstützten Social Data Science Center der University of Maryland, leitet den in Partnerschaft mit Facebook organisierten UMD Global COVID-19 Trends and Impact Survey (CTIS), und beriet Facebook zwischen 2018–2020 zu Data Privacy. Die Akademien danken Prof. Dr. Dirk Helbing, ETH Zürich, für seine wichtigen Impulse bei der Erarbeitung der Stellungnahme. 62 Literatur Adamic, Lada A., und Natalie Glance. 2005. „The political blogosphere and the 2004 U.S. election: Divided they blog“. In: Proceedings of the 3rd international workshop on link discovery (S. 36–43). New York, New York: Association for Computing Machinery. https://doi.org/10.1145/1134271.1134277. Aiello, Luca Maria, Alain Barrat, Rossano Schifanella, Ciro Cattuto, Benjamin Markines, und Filippo Menczer. 2012. „Friendship prediction and homophily in social media“. ACM Transactions on the Web 6(2). https://doi.org/10.1145/2180861.2180866. Allcott, Hunt, und Matthew Gentzkow. 2017. „Social media and fake news in the 2016 election“. Journal of Economic Perspectives 31(2): 211–236. https://doi.org/10.1257/jep.31.2.211. Amadeu Antonio Stiftung. 2020. „Alternative Wirklich keiten: Monitoring rechts-alternativer Medienstrategien“. Berlin: Amadeu Antonio Stiftung. https://www.amadeu-antonio-stiftung.de/wp-content/ uploads/2020/01/Monitoring_2020_web.pdf. Ananny, Mike, und Kate Crawford. 2018. „Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accounta - bility“. New Media & Society 20(3): 973–989. https://doi.org/10.1177/1461444816676645. Andrejevic, Mark. 2011. „The work that affective economics does“. Cultural Studies 25(4–5): 604–620. https://doi.org/10.1080/09502386.2011.600551. Ausloos, Jef, Paddy Leerssen, und Pim ten Thije. 2020. „Operationalizing research access in platform governance: What to learn from other industries?“ Berlin: AlgorithmWatch. Baack, Stefan. 2015. „Datafication and empowerment: How the open data movement re-articulates notions of democracy, participation, and journalism“. Big Data & Society 2(2): 2053951715594634. https://doi.org/10.1177/2053951715594634. Bäcker, Matthias, Sebastian J. Golla, und Henning Hofmann. 2018. „Connecting the dots: Sozialwissenschaftliche Forschung in Sozialen Online-Medien im Lichte von DS-GVO und BDSG-neu“. Datenschutz und Datensicherheit 42(2), 89–100. Bakshy, Eytan, Solomon Messing, und Lada A. Adamic. 2015. „Exposure to ideologically diverse news and opinion on Facebook“. Science 348(6239): 1130–1132. https://doi.org/10.1126/science.aaa1160. 6. Literatur Baldwin-Philippi, Jessica. 2019. „Data campaigning: Between empirics and assumptions“. Internet Policy Review 8(4). https://policyreview.info/articles/analysis/ data-campaigning-between-empirics-and-assumptions. Baumann, Fabian, Philipp Lorenz-Spreen, Igor M. Sokolov, und Michele Starnini. 2020. „Modeling echo chambers and polarization dynamics in social networks“. Physical Review Letters 124(4): 048301. https://doi.org/10.1103/PhysRevLett.124.048301. Baym, Nancy K., und Danah Boyd. 2012. „Socially mediated publicness: An Introduction“. Journal of Broadcasting & Electronic Media 56(3): 320–329. https://doi.org/10.1080/08838151.2012.705200. Beam, Michael A., Myiah J. Hutchens, und Jay D. Hmielowski. 2018. „Facebook news and (de)polarization: Reinforcing spirals in the 2016 US election“. Information, Communication & Society 21(7): 940–958. https://doi.org/10.1080/1369118X.2018.1444783. Bennett, W. Lance, und Alexandra Segerberg. 2013. „The logic of connective action: Digital media and the personalization of contentious politics.“ Cambridge, United Kingdom: Cambridge University Press. Bolin, Göran, und Julia Velkova. 2020. „Audiencemetric continuity?: Approaching the meaning of measurement in the digital everyday“. Media, Culture & Society 42(7–8): 1193–1209. https://doi.org/10.1177/0163443720907017. Boyte, Harry C. 2017. „Everyday politics: Reconnecting citizens and public life“. 2017. https://www.amazon.de/ Everyday-Politics-Reconnecting-Citizens-Public/ dp/0812219317. Brady, William J., Ana P. Gantman, und Jay J. van Bavel. 2020. „Attentional capture helps explain why moral and emotional content go viral“. Journal of Experimental Psychology – General 149(4): 746–756. https://doi.org/10.1037/xge0000673. Brennen, J. Scott, Felix Simon, Philip N. Howard, und Rasmus Kleis Nielsen. 2020. „Types, sources, and claims of COVID-19 misinformation“. 7. April. Oxford, United Kingdom: Reuters Institute for the Study of Journalism. https://reutersinstitute.politics.ox.ac.uk/ types-sources-and-claims-covid-19-misinformation. Brödel, Rainer, und Julia Kreimeyer (Hrsg.). 2004. „Lebensbegleitendes Lernen als Kompetenzentwicklung: Analysen, Konzeptionen, Handlungsfelder (1. Aufl.)“. Bielefeld: Bertelsmann. 63 Literatur Bruns, Axel. 2008. „Blogs, Wikipedia, second life, and beyond: From production to produsage“. New York, New York: Peter Lang. Bundesgesetzblatt. 2021. Gesetz zur Bekämpfung des Rechtsextremismus und der Hasskriminalität vom 30. März 2021, Bundesgesetzblatt 2021 | S. 441. Burgess, Jean, und Joshua Green. 2018. „YouTube: Online video and participatory culture“. Cambridge, United Kingdom: Polity Press. Bursztyn, Victor S., und Larry Birnbaum. 2019. „Thousands of small, constant rallies: A large-scale analysis of partisan WhatsApp groups“. In: Proceedings of the 2019 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining (S. 484–488). New York, New York: Association for Computing Machinery. https://doi.org/10.1145/3341161.3342905. Cammaerts, Bart, Alice Mattoni, und Patrick McCurdy. 2013. „Mediation and protest movements“. Chicago, Illinois: Intellect. Castells, Manuel. 1996. „The rise of the network society [The information age: Economy, society and culture, Vol. I]“. Oxford, United Kingdom: Blackwell. Castells, Manuel. 2012. „Networks of outrage and hope: Social movements in the internet age“. Cambridge, United Kingdom: Polity Press. Casteltrione, Isidoropaolo. 2015. „The Internet, social networking web sites and political participation research: Assumptions and contradictory evidence“. First Monday 20(3). https://doi.org/10.5210/fm.v20i3.5462. Cha, Meeyoung, Hamed Haddadi, Fabricio Benevenuto, und Krishna P. Gummadi. 2010. „Measuring user influence in Twitter: The million follower fallacy“. In: Proceedings of international AAAI Conference on Weblogs and Social. Menlo Park, California: Association for the Advancement of Artificial Intelligence. Cinelli, Matteo, Gianmarco de Francisci Morales, Alessandro Galeazzi, Walter Quattrociocchi, und Michele Starnini. 2021. „The echo chamber effect on social media“. In: Proceedings of the National Academy of Sciences 118(9): e2023301118. https://doi.org/10.1073/pnas.2023301118. Cornils, Matthias. 2017. „Entterritorialisierung im Kommunikationsrecht“. Veröffentlichungen der Vereinigung der deutschen Staatsrechtslehrer 76: 391–442. Cota, Wesley, Silvio C. Ferreira, Romualdo Pastor-Satorras, und Michele Starnini. 2019. „Quantifying echo chamber effects in information spreading over political communication networks“. EPJ Data Science 8(1): 35. https://doi.org/10.1140/epjds/s13688-019-0213-9. Couldry, Nick, und Ulises A. Mejias. 2019. „The costs of connection: How data is colonizing human life and appropriating it for capitalism“. Stanford, California: Stanford University Press. Dahlgren, Peter. 2009. Media and political engagement: Citizens, communication, and democracy. Cambridge, United Kingdom: Cambridge University Press. Datenethikkommission. 2019. „Gutachten der Datenethikkommission“. Berlin: Datenethikkommission der Bundesregierung. https://www.bmi.bund.de/SharedDocs/ downloads/DE/publikationen/themen/it-digitalpolitik/ gutachten-datenethikkommission.html De Wilde, Peter, Ruud Koopmans, Wolfgang Merkel, Oliver Strijbis, und Michael Zürn (Hrsg). 2019. „The struggle over borders: Cosmopolitanism and communitarianism“. Cambridge, United Kingdom: Cambridge University Press. Deutscher Bundestag. 2020a. Entwurf eines Gesetzes zur Änderung des Netzwerkdurchsetzungsgesetzes vom 27. April 2020. Bundestags-Drucksache 19/18792. Deutscher Bundestag. 2020b. Beschlussempfehlung und Bericht des Ausschusses für Recht und Verbraucherschutz zu dem Entwurf eines Gesetzes zur Änderung des Netzwerkdurchsetzungsgesetzes vom 5. Mai 2021, Bundestags-Drucksache 19/29392. Deuze, Mark. 2008. „The changing context of news work: Liquid journalism for a monitorial citizen ship“. International Journal of Communication 2: 848–865. Die Medienanstalten. 2019. „Intermediäre und Meinungsbildung: Medien-Gewichtungs-Studie 2019-II“. Dijck, José van, Thomas Poell, und Martijn de Waal. 2018. The platform society. Oxford, Oxford University Press. Dolata, Ulrich. 2015. „Volatile Monopole: Konzentration, Konkurrenz und Innovationsstrategien der Internetkonzerne“. Berliner Journal für Soziologie 24(4): 505–529. https://doi.org/10.1007/s11609-014-0261-8. Dolata, Ulrich. 2019. „Plattform-Regulierung: Koordination von Märkten und Kuratierung von Sozialität im Internet“. Berliner Journal für Soziologie 29(3–4): 179–206. https://doi.org/10.1007/s11609-020-00403-9. Dubois, Elizabeth, und Grant Blank. 2018. „The echo chamber is overstated: The moderating effect of poli tical interest and diverse media“. Information, Communication & Society 21(5): 729–745. https://doi.org/10.1080/1369118X.2018.1428656. Duggan, Maeve. 2017. „Pew Research Center, Online Harassment 2017“. https://www.pewresearch.org/ internet/2017/07/11/online-harassment-2017/. Dunbar-Hester, Christina. 2019. „Hacking diversity: The politics of inclusion in open technology cultures.“ Princeton, New Jersey: Princeton University Press. EC. 2015. „Special Eurobarometer 431 [Data Protection]“. EC. 2018. „Code of practice on disinformation“. Text. Shaping Europe’s Digital Future - European Commission. 26. September 2018. https://ec.europa.eu/digital-single- market/en/news/code-practice-disinformation. 64 EC. 2020. Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates über einen Binnenmarkt für digitale Dienste (Gesetz über digitale Dienste) und zur Änderung der Richtlinie 2000/31/EG vom 15. Dezember 2020. EuGH. 2014. Urteil des Gerichtshofs (Große Kammer) vom 13. Mai 2014, Google Spain SL und Google Inc. gegen Agencia Española de Protección de Datos (AEPD) und Mario Costeja González. Vorabentscheidungsersuchen der Audiencia Nacional. EuGH. 2018. Urteil vom 5. Juni 2018, Rechtssache C-210/16 – Wirtschaftsakademie Schleswig-Holstein. Evangelista, Rafael, und Fernanda Bruno. 2019. „Whats- App and political instability in Brazil: Targeted messages and political radicalisation“. Internet Policy Review 8(4): 1–23. https://doi.org/10.14763/2019.4.1434. Ferrara, Emilio. 2012. „A large-scale community structure analysis in Facebook“. EPJ Data Science 1(1): 9. https://doi.org/10.1140/epjds9. Gebrande, Johanna, und Jens Friebe. 2015. „Grundkompetenzen, Bildungsverhalten und Lernen im höheren Lebensalter: Ergebnisse der Studie ‚Competencies in later life‘ (CiLL)“. Zeitschrift für Pädagogik 61(2): 192–204. Geschke, Daniel, Anja Klaßen, Matthias Quent, und Christoph Richter. 2019. „Hass im Netz: Der schleichende Angriff auf unsere Demokratie“. Jena: Institut für Demokratie und Zivilgesellschaft. Grinberg, Nir, Kenneth Joseph, Lisa Friedland, Briony Swire-Thompson, und David Lazer. 2019. „Fake news on Twitter during the 2016 U.S. presidential election“. Science 363(6425): 374–378. https://doi.org/10.1126/science.aau2706. Gupta, Pankaj, Ashish Goel, Jimmy Lin, Aneesh Sharma, Dong Wang, und Reza Zadeh. 2013. „WTF: The who to follow service at Twitter“. In: Proceedings of the 22nd International Conference on World Wide Web (S. 505–514). Rio de Janeiro, Brazil: Association for Computational Machinery. https://doi.org/10.1145/2488388.2488433. Haagerup, Ulrik. 2015. „Constructive news: Warum ‚bad news‘ die Medien zerstören und wie Journalisten mit einem völlig neuen Ansatz wieder Menschen berühren“. Salzburg, Österreich: Oberauer. Haller, André, und Kristoffer Holt. 2019. „Paradoxical populism: how PEGIDA relates to mainstream and alternative media“. Information, Communication & Society 22(12): 1665–1680. https://doi.org/10.1080/1369118X.2018.1449882. Hamilton, John Maxwell, und Heidi J. S. Tworek. 2017. „The natural history of the news: An epigenetic study“. Journalism – Theory, Practice & Criticism 18(4): 391–407. https://doi.org/10.1177/1464884915625630. Heft, Annett, Eva Mayerhöffer, Susanne Reinhardt, und Curd Knüpfer. 2019. „Beyond Breitbart: Comparing right-wing digital news infrastructures in six western democracies“. Policy & Internet [August]. https://doi.org/10.1002/poi3.219. Hegelich, Simon, und Juan Carlos Medina Serrano. 2019. „Microtargeting in Deutschland bei der Europawahl 2019“. Düsseldorf: Landesanstalt für Medien NRW. https://www.blm.de/files/pdf2/studie_microtargeting_ deutschlandeuropawahl2019_hegelich-1.pdf. Helsper, Ellen. 2021. „The digital disconnect: The social causes and consequences of digital inequalities“. London, United Kingdom: SAGE Publications. Hepp, Andreas. 2020. „Deep mediatization: Key ideas in media and cultural studies“. London, United Kingdom: Routledge. Hepp, Andreas, und Wiebke Loosen. 2019. „Pioneer Journalism: Conceptualizing the Role of Pioneer Journalists and Pioneer Communities in the Organizational Re-Figuration of Journalism“. Journalism 22(3): 577–595. https://doi.org/10.1177/1464884919829277. Hepp, Andreas, und Michaela Pfadenhauer. 2014. „Mediatisierte Partizipation?“. In: Friedrich Krotz, Cathrin Despotović, Merle-Marie Kruse (Hrsg.), Die Media - ti sierung sozialer Welten (S. 235–262). Wiesbaden: Springer. Herzog, Lisa. 2021 (in Kürze). „Algorithmic bias and access to opportunities.“ Oxford Handbook of Digital Ethics, ed. Carissa Veliz. Oxford: Oxford University Press. Hilbert, Martin, und Priscila Lopez. 2011. „The world’s technological capacity to store, communicate, and compute information“. Science 332(6025): 60–65. https://doi.org/10.1126/science.1200970. Hills, Thomas T. 2019. „The dark side of information proliferation“. Perspectives on Psychological Science 14(3): 323–330. https://doi.org/10.1177/1745691618803647. Hofmann, Jeanette. 2019. „Mediated democracy: Linking digital technology to political agency“. Internet Policy Review 8(2): 1–18. https://doi.org/10.14763/2019.2.1416. Hölig, Sascha, Uwe Hasebrink, und Julia Behre. 2020. „Reuters Institute Digital News Report 2020: Ergeb nisse für Deutschland“. Arbeitspapiere des Hans-Bredow-Instituts – Projektergebnisse 50. https://doi.org/10.21241/SSOAR.71725. Hösl, Maximilian. 2019. „Semantics of the internet: A political history“. Internet Histories 3(3–4): 275–292. https://doi.org/10.1080/24701475.2019.1656921. Ingold, Albert. 2017. „Digitalisierung Demokratischer Öffentlichkeiten“. Der Staat 56(4): 491–533. https://doi.org/10.3790/staa.56.4.491. Literatur 65 Jarren, Otfried. 2019. „Rückhalt für den Journalismus: Wie das Bewusstsein der Öffentlichkeit für journalistische Leistung im digitalen Zeitalter gestärkt werden könnte. Ein Diskussionsbeitrag“. Biel, Schweiz: Eidgenössische Medienkommission. https://www.emek. admin.ch/inhalte/D_Rueckhalt_Journalismus_fi- nal_2019.pdf. Jørgensen, Rikke Frank. 2019. „Introduction“. In: Rikke Frank Jørgensen (Hrsg.), Human rights in the age of platforms (S. XVII–XLV). Cambridge, Massachusetts: The MIT Press. Karanasios, Stan, Dhavalkumar Thakker, Lydia Lau, David Allen, Vania Dimitrova, und Alistair Norman. 2013. „Making sense of digital traces: An activity theory driven ontological approach“. Journal of the American Society for Information Science and Technology 64(12): 2452–2467. https://doi.org/10.1002/asi.22935. Karpf, David. 2019. „On digital disinformation and democratic myths“. MediaWell [Blog]. https://doi.org/10.35650/MD.2012.d.2019. Kaufman, Raphael Lopez, Jegar Pitchforth, und Lukas Vermeer. 2017. „Democratizing online controlled experiments at Booking.com“. arXiv:1710.08217. http://arxiv.org/abs/1710.08217. Keiller, Scott, und Martin Charter. 2014. „Grassroots innovation and the circular economy: A global survey of repair cafés and hackerspaces“. https://cfsd.org.uk/ site-pdfs/circular-economy-and-grassroots-innovation/ Survey-of-Repair-Cafes-and-Hackerspaces.pdf. Kepplinger, Hans Mathias. 1998. „Der Nachrichtenwert der Nachrichtenfaktoren“. In: Christina Holtz-Bacha, Helmut Scherer, und Norbert Waldmann (Hrsg.), Wie die Medien die Welt erschaffen und wie die Menschen darin leben: Für Winfried Schulz (S. 19–38). Wies baden: VS Verlag für Sozialwissenschaften. https://doi.org/10.1007/978-3-322-90440-9_3. Klinger, Ulrike, und Jakob Svensson. 2015. „The emergence of network media logic in political communication: A theoretical approach“. New Media & Society 17(8): 1241–1257. https://doi.org/10.1177/1461444814522952. Klonick, Kate. 2019. „The Facebook oversight board: Creating an independent institution to adjudicate online free expression“. The Yale Law Journal 129: 2418–2499. Kolleck, Alma. 2017. „Politische Diskurse online: Einflussfaktoren auf die Qualität der kollektiven Meinungsbildung in internetgestützten Beteiligungsverfahren“. Baden-Baden: Nomos. Kozyreva, Anastasia, Stephan Lewandowsky, und Ralph Hertwig. 2020. „Citizens versus the internet: Con fronting digital challenges with cognitive tools“. Psycholo gical Science in the Public Interest 21(3): 103–156. https://doi.org/10.1177/1529100620946707. Kozyreva, Anastasia, Philipp Lorenz-Spreen, Ralph Hertwig, Stephan Lewandowsky, und Stefan Herzog. o. J. „Public attitudes towards algorithmic personalization and use of personal data online: Evidence from Germany, Great Britain, and the US“. https://doi.org/10.31234/osf.io/3q4mg. Kubitschko, Sebastian, und Sigrid Kannengießer. 2017. „Acting on media: Influencing, shaping and (re)configuring the fabric of everyday life“. Media and Communication 5(3): 1–4. https://doi.org/10.17645/mac.v5i3.1165. Kultusministerkonferenz. 2016. „Bildung in der digitalen Welt – Strategie der Kultusministerkonferenz“. Beschluss der Kultusministerkonferenz vom 08.12.2016 in der Fassung vom 07.12.2017. Berlin: Kultusministerkonferenz. https://www.kmk.org/fileadmin/Dateien/ veroeffentlichungen_beschluesse/2016/2016_12_08- Bildung-in-der-digitalen-Welt.pdf. Kurz, Constanze, und Ingo Dachwitz. 2019. „Microtargeting und Manipulation: Von Cambridge Analytica zur Europawahl“. Digitale Desinformation. Bonn: Bundeszentrale für politische Bildung. https://www.bpb.de/gesellschaft/digitales/digitaledesinformation/290522/microtargeting-und-mani- pulation-von-cambridge-analy tica-zur-europawahl. Ladeur, Karl-Heinz, und Tobias Gostomzyk. 2017. „Das Netzwerkdurchsetzungsgesetz und die Logik der Meinungsfreiheit“. Kommunikation & Recht (6): 390–394. Lamla, Jörn. 2019. „Selbstbestimmung und Verbraucherschutz in der Datenökonomie“. Aus Politik und Zeitgeschichte 24–26: 49–54. Lerman, Kristina, Xiaoran Yan, und Xin-Zeng Wu. 2016. „The ‚majority illusion‘ in social networks“. PLOS One 11(2): e0147617. https://doi.org/10.1371/journal.pone.0147617. Leviston, Zoe, Iain Walker, und Sarah Morwinski. 2013. „Your opinion on climate change might not be as common as you think“. Nature Climate Change 3(4): 334–337. https://doi.org/10.1038/nclimate1743. Levy, Ro’ee. 2021. „Social media, news consumption, and polarization: Evidence from a field experiment“. American Economic Review 111(3): 831–870. https://doi.org/10.1257/aer.20191777. Lewandowsky, Stephan, Laura Smillie, David Garcia, Ralph Hertwig, Jim Weatherall, Stefanie Egidy, Ronald E. Robertson, Cailin O’Connor, Anastasia Kozyreva, Philipp Lorenz-Spreen, Yannic Blaschke, und Mark Leiser. 2020. Technology and Democracy: Understanding the Influence of Online Technologies on Political Behav iour and Decision Making. LU: Publications Office. https://data.europa.eu/doi/10.2760/709177. Lewandowsky, Stephan, Michael Jetter, und Ullrich K. H. Ecker. 2020. „Using the president’s tweets to understand political diversion in the age of social media“. Nature Communications 11(1): 5764. https://doi.org/10.1038/s41467-020-19644-6. Literatur 66 Livingstone, Sonia, und Ellen Helsper. 2007. „Gradations in digital inclusion: Children, young people and the digital divide“. New Media & Society 9(4): 671–696. https://doi.org/10.1177/1461444807080335. Loomba, Sahil, Alexandre de Figueiredo, Simon J. Piatek, Kristen de Graaf, und Heidi J. Larson. 2021. „Measuring the impact of COVID-19 vaccine mis - in formation on vaccination intent in the UK and USA“. Nature Human Behaviour 5: 337–348. https://doi.org/10.1038/s41562-021-01056-1. Loosen, Wiebke, und Marco Dohle. 2014. „Journalismus und (sein) Publikum: Schnittstellen zwischen Journalismusforschung und Rezeptions- und Wirkungsforschung“. Wiesbaden: Springer. Lorenz-Spreen, Philipp, Stephan Lewandowsky, Cass R. Sunstein, und Ralph Hertwig. 2020. „How behavioural sciences can promote truth, autonomy and democratic discourse online“. Nature Human Behaviour 4: 1102– 1109. https://doi.org/10.1038/s41562-020-0889-7. Lorenz-Spreen, Philipp, Bjarke Mørch Mønsted, Philipp Hövel, und Sune Lehmann. 2019. „Accelerating dynamics of collective attention“. Nature Communications 10(1): 1–9. https://doi.org/10.1038/s41467-019-09311-w. Margetts, Helen. 2018. „Rethinking democracy with social media“. Political Quarterly 90(S1): 107–123. Marshall, Monty G., und Gabrielle Elzinga-Marshall. 2017. „Gobal report 2017: Conflict, governance and state fragility“. Vienna, Virginia: Center for Systemic Peace. Mattoni, Alice, und Emiliano Treré. 2014. „Media practices, mediation processes, and mediatization in the study of social movements“. Communication Theory 24(3): 252–271. https://doi.org/10.1111/comt.12038. Mau, Steffen. 2019. „The metric society: On the quanti - fi cation of the social“. Cambridge, United Kingdom: Polity Press. Mazzucato, Mariana. 2011. „The entrepreneurial state“. London, United Kingdom: Demos. Milan, Stefania. 2017. „Data activism as the new frontier of media activism“. In: Viktor Pickard, und Goubin Yang (Hrsg.), Media activism in the digital age, (151–163). New York, New York: Routledge. Milan, Stefania, Emiliano Treré, und Silvia Masiero (Hrsg.). 2021. „COVID-19 from the margins: Pandemic invisibilities, policies and resistance in the datafied society“. Amsterdam, Netherlands: Institute of Network Cultures. https://networkcultures.org/blog/publication/covid- 19-from-the-margins-pandemic-invisibilities-policies- and-resistance-in-the-datafied-society/. Mocanu, Delia, Luca Rossi, Qian Zhang, Marton Karsai, und Walter Quattrociocchi. 2015. „Collective atten - tion in the age of (mis)information“. Computers in Human Behavior 51(B): 1198–1204. https://doi.org/10.1016/j.chb.2015.01.024. Mondal, Mainack, Leandro Araújo Silva, und Fabrício Benevenuto. 2017. „A measurement study of hate speech in social media“. In: Proceedings of the 28th ACM Conference on Hypertext and Social Media (S. 85–94). Prague, Czech Republic: Association for Computing Machinery. https://doi.org/10.1145/3078714.3078723. Mosleh, Mohsen, Cameron Martel, Dean Eckles, und David G. Rand. 2021. „Shared partisanship dramat - ically increases social tie formation in a Twitter field experiment“. Proceedings of the National Academy of Sciences 118(7): e2022761118. https://doi.org/10.1073/pnas.2022761118. Moura, Mauricio, und Melissa R. Michelson. 2017. „Whats- App in Brazil: Mobilising voters through door-to-door and personal messages“. Internet Policy Review 6(4): 1–18. https://doi.org/10.14763/2017.4.775. Müller, Karsten, und Carlo Schwarz. 2020. „Fanning the flames of hate: Social media and hate crime“. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3082972. Munger, Kevin. 2020. „All the news that’s fit to click: The economics of clickbait media“. Political Communication 37(3): 376–397. https://doi.org/10.1080/10584609.2019.1687626. Nadim, Marjan, und Audun Fladmoe. 2019. „Silencing women?: Gender and online harassment“. Social Science Computer Review 39(2): 245–258. https://doi.org/10.1177/0894439319865518. Neidhardt, Friedhelm. 1994. „Öffentlichkeit, öffentliche Meinung, soziale Bewegungen“. Opladen: Westdeutscher Verlag. Neuberger, Christoph. 2020. „Funktionale und defekte Öffentlichkeit in der Demokratie: Analyse und Anwendung am Beispiel der Schweiz [Wissenschaftliche Studie im Auftrag des Bundesamtes für Kommunikation]“. Nguyen-Kim, Mai Thi. 2020. „Corona geht gerade erst los“. https://www.youtube.com/watch?v=3z0gnXgK8Do&t =339s. Nida-Rümelin, Julian, Niina Zuber, und Timo Greger. 2019. „Digitalisierung und Demokratie: Ein neues Kapitel in der Geschichte?“ AVISO – Magazin für Kunst und Wissenschaft in Bayern 19(3): 16–19. Nielsen, Rasmus Kleis, und Sarah Anne Ganter. 2018. „Dealing with digital intermediaries: A case study of the relations between publishers and platforms“. New Media & Society 20(4): 1600–1617. https://doi.org/10.1177/1461444817701318. Nymoen, Ole, und Wolfgang M. Schmitt. 2021. „Influencer: Die Ideologie der Werbekörper“. Berlin: Suhrkamp. Obermayer, Bastian, Frederik Obermaier, Vanessa Wormer, und Wolfgang Jaschensky. 2016. „Das sind die Panama Papers“. Zeitungsartikel, 2016. Literatur 67 Paal, Boris P., und Aron Heidtke. 2020. „Vielfaltssichernde Regulierung der Medienintermediäre nach den Vorschriften des Medienstaatsvertrags der Länder“. Zeitschrift für Urheber- und Medienrecht 64(3): 230–241. Pasquale, Frank. 2015. „The black box society: the secret algorithms that control money and information“. Cambridge, Massachusetts: Harvard University Press. Penney, Jonathon W. 2016. „Chilling effects: Online surveillance and Wikipedia use“. Berkeley Technology Law Journal 31: 117. Peters, Hans Peter. 1994. „Wissenschaftliche Experten in der öffentlichen Kommunikation über Technik, Umwelt und Risiken“. In: Friedhelm Neidhardt (Hrsg.), Öffentlichkeit, öffentliche Meinung, soziale Bewegung (S. 162–190). Opladen: Westdeutscher Verlag. Pew Research Centre. 2014. „Public perceptions of privacy and security in the post-Snowden era“. https://www.pewinternet.org/2014/11/12/publicprivacy-perceptions/. Pfetsch, Barbara. 2020. „Democracy and digital dissonance: The co-occurrence of the transformation of political culture and communication infrastructure“. Central European Journal of Communication 13(1): 96–110. https://doi.org/10.19195/1899-5101.13.1(25).7. Pinker, Steven. 2011. The better angels of our nature: Why violence has declined. New York, New York: Viking. Plantin, Jean-Christophe, Carl Lagoze, Paul N Edwards, und Christian Sandvig. 2018. „Infrastructure studies meet platform studies in the age of Google and Facebook“. New Media & Society 20(1): 293–310. https://doi.org/10.1177/1461444816661553. Rashidian, Nushin, Georgios Tsiveriotis, Peter D. Brown, Emily J. Bell, und Abigail Hartstone. 2019. „Platforms and publishers: The end of an era“. Columbia Journalism Review, 1–63. https://doi.org/10.7916/D8-SC1S-2J58. Rau, Jan Philipp, und Sebastian Stier. 2019. „Die Echokammer-Hypothese: Fragmentierung der Öffentlichkeit und politische Polarisierung durch digitale Medien?“ Zeitschrift für Vergleichende Politikwissenschaft 13: 399–417. https://doi.org/10.1007/s12286-019-00429-1. Rauchfleisch, Adrian, und Jonas Kaiser. 2020. „The German far-right on YouTube: An analysis of user over lap and user comments“. Journal of Broadcasting & Electronic Media 64(3): 373–396. https://doi.org/10.1080/08838151.2020.1799690. Raue, Benjamin. 2018. „Meinungsfreiheit in sozialen Netzwerken“. Juristenzeitung 73(20): 961–970. Reese, Stephen D., Lou Rutigliano, Kideuk Hyun, und Jaekwan Jeong. 2007. „Mapping the blogosphere: Professional and citizen-based media in the global news arena“. Journalism 8(3): 235–261. Rezo ja lol ey. 2019. „Die Zerstörung der CDU“. https://www.youtube.com/watch?v=4Y1lZQsyuSQ. Ribeiro, Manoel Horta, Raphael Ottoni, Robert West, Virgílio A. F. Almeida, und Wagner Meira. 2019. „Auditing radicalization pathways on YouTube“. arXiv: 1908.08313. http://arxiv.org/abs/1908.08313. Rieder, Bernhard, und Jeanette Hofmann. 2020. „Towards plattform observability“. Internet Policy Review 9(4): 1–28. Roozenbeek, Jon, und Sander van der Linden. 2019. „The fake news game: Actively inoculating against the risk of misinformation“. Journal of Risk Research 22(5): 570– 580. https://doi.org/10.1080/13669877.2018.1443491. Roser, Max, Esteban Ortiz-Ospina, und Hannah Ritchie. 2013. „Life Expectancy“. Our World in Data. https://ourworldindata.org/life-expectancy. Rosling, Hans, Anna Rosling Rönnlund, und Ola Rosling. 2018. „Factfulness: Ten reasons we’re wrong about the world and why things are better than you think“. New York, New York: Flatiron Books. Rotz, Jonas von, und Kim Oliver Tokarski. 2020. „Social Influencer: Eine Analyse ausgewählter visu eller und auditiver Stile erfolgreicher Social Influen cer auf YouTube“. In: Jochen Schellinger, Kim Oliver Tokarski, und Ingrid Kissling-Näf (Hrsg.), Digitale Transforma tion und Unternehmensführung, 407– 434. Wiesbaden: Springer Fachmedien. https://doi.org/10.1007/978-3-658-26960-9_15. Ruckenstein, Minna. 2014. „Visualized and interacted life: Personal analytics and engagements with data doubles“. Societies 4(1): 68–84. Sachverständigenrat für Verbraucherfragen. 2018. „Verbrauchergerechtes Scoring 2018“. http://www.svr-verbraucherfragen.de/dokumente/ verbrauchergerechtes-scoring/. Sap, Maarten, Dallas Card, Saadia Gabriel, Yejin Choi, und Noah A. Smith. 2019. „The risk of racial bias in hate speech detection“. In: Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, 1668–78. Florence, Italy: Association for Computational Linguistics. https://doi.org/10.18653/v1/P19-1163. Sasahara, Kazutoshi, Wen Chen, Hao Peng, Giovanni Luca Ciampaglia, Alessandro Flammini, und Filippo Menczer. 2021. „Social influence and unfollowing accelerate the emergence of echo chambers“. Journal of Computational Social Science 4: 381–402 https://doi.org/10.1007/s42001-020-00084-7. Schaal, Gary S., und Felix Heidenreich. 2016. „Einführung in die politischen Theorien der Moderne [3., erw. und vollst. überarb. Aufl.]“. Opladen: Verlag Barbara Budrich. Literatur 68 XX Schaub, Max, und Davide Morisi. 2020. „Voter mobili - sa tion in the echo chamber: Broadband internet and the rise of populism in Europe“. European Journal of Political Research 59: 752–773. https://doi.org/10.1111/1475-6765.12373. Scholl, Hans Jochen, Herbert Kubicek, und Ralf Cimander. 2011. „Interoperability, enterprise architectures, and IT governance in government“. In: Marijn Janssen, Hans J. Scholl, Maria A. Wimmer, und Yao-Hua Tan (Hrsg.), Electronic Government (S. 345–354). Berlin: Springer. https://doi.org/10.1007/978-3-642-22878-0_29. Scholz, Trebor, und Nathan Schneider. 2017. „Ours to hack and to own: The rise of platform cooperativism, a new vision for the future of work and a fairer internet“. London, United Kingdom: OR Books. Schrock, Andrew R. 2016. „Civic hacking as data activism and advocacy: A history from publicity to open government data“. New Media & Society 18(4): 581–599. Seubert, Sandra, und Paula Helm. 2017. „Privatheit und Demokratie“. Forschungsjournal Soziale Bewegungen 30(2). https://doi.org/10.1515/fjsb-2017-0032. Shearer, Elisa, und Amy Mitchell. 2021. „News use across social media platforms in 2020“. Pew Research Center. https://www.journalism.org/2021/01/12/news-use- across-social-media-platforms-in-2020/. Shmargad, Yotam, und Samara Klar. 2020. „Sorting the news: How ranking by popularity polarizes our politics“. Political Communication 37(3): 423–446. https://doi.org/10.1080/10584609.2020.1713267. Simon, Herbert. 1971. „Designing organizations for an information rich world“. In: Computers, communications, and the public interest. https://www.bibsonomy.org/ bibtex/260e6dfadb584ea3bca5c176039d9eee0/cirrus. Spielkamp, Matthias. 2019. „Automating society: Taking stock of automated decision-making in the EU [Bertelsmann Stiftung Studies]“. Berlin: AW AlgorithmWatch. Spiecker genannt Döhmann, Indra: „Fragmentierungen: Kontexte der Demokratie – Parteien, Medien, Sozialstrukturen“, Veröffentlichungen des Vereins der Deutschen Staatsrechtlehrer (VVDStRL) Band 77 (2018), S. 9–65, De Gruyter, Berlin. Staab, Philipp. 2019. „Digitaler Kapitalismus: Markt und Herrschaft in der Ökonomie der Unknappheit“. Berlin: Suhrkamp. Stier, Sebastian, Nora Kirkizh, Caterina Froio, und Ralph Schroeder. 2020. „Populist attitudes and selective exposure to online news: A cross-country analysis combining web tracking and surveys“. The Inter - na tional Journal of Press/Politics 25(3): 426–446. https://doi.org/10.1177/1940161220907018. Stoycheff, Elizabeth, Kunto A. Wibowo, Juan Liu, und Kai Xu. 2017. „Online surveillance’s effect on support for other extraordinary measures to prevent terrorism“. Mass Communication and Society 20(6): 784–799. https://doi.org/10.1080/15205436.2017.1350278. Sunstein, Cass. 2018. „#Republic“. Princeton, New Jersey: Princeton University Press. Susser, Daniel, Beate Roessler, und Helen Nissenbaum. 2019. „Technology, autonomy, and manipulation“. Internet Policy Review 8(2). https://doi.org/10.14763/2019.2.1410. Theile, Gustav. 2019. „Sorge um neue Filterblasen: Facebook startet bislang größte Werbekampagne in Deutschland“. FAZ.NET. 14. Oktober 2019. https://www.faz.net/1.6432798. Theocharis, Yannis, und Jan W. van Deth. 2017. „Political participation in a changing world: Conceptual and empirical challenges in the study of citizen engagement“. London, United Kingdom: Routledge. Thies, Justus, Michael Zollhofer, Marc Stamminger, Christian Theobalt, und Matthias Niessner. 2016. „Face2face: Realtime face capture and reenactment of RGB videos“. In: Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR): 2387–95. https://openaccess.thecvf.com/content_cvpr_2016/ html/Thies_Face2Face_Real-Time_Face_CVPR_ 2016_paper.html. Treré, Emiliano. 2020. „The banality of WhatsApp: On the everyday politics of backstage activism in Mexico and Spain“. First Monday 25(1–6). https://doi.org/10.5210/fm.v25i12.10404. Uecker, Philipp. 2019. „Extraterritorialer Anwendungsbereich der DS-GVO“. Zeitschrift für Datenschutz (2): 67–71. Ugander, Johan, Brian Karrer, Lars Backstrom, und Cameron Marlow. 2011. „The anatomy of the Face - book social graph“. arXiv: 1111.4503. http://arxiv.org/abs/1111.4503. United Nations. 2015. „Sendai framework for disaster risk reduction 2015–2030“. The United Nations Office for Disaster Risk Reduction. http://www.unisdr.org/files/ 43291_sendaiframeworkfordrren.pdf. Vargo, Chris J., Lei Guo, und Michelle A. Amazeen. 2018. „The agenda-setting power of fake news: A big data analysis of the online media landscape from 2014 to 2016“. New Media & Society 20(5): 2028–2049. https://doi.org/10.1177/1461444817712086. Vosoughi, Soroush, Deb Roy, und Sinan Aral. 2018. „The spread of true and false news online“. Science 359(6380): 1146–1151. https://doi.org/10.1126/science.aap9559. Literatur 69 Vowe, Gerhard, und Philipp Henn (Hrsg.). 2016. „Political communication in the online world: Theore tical approaches and research designs“. New York, New York: Routledge. Wagner, Gerhard. 2020. „Haftung von Plattformen für Rechtsverletzungen“. Gewerblicher Rechtsschutz und Urheberrecht, 329–338 und 447–457. Weßler, Hartmut. 2002. „Multiple Differenzierung und kommunikative Integration: Symbolische Gemeinschaften und Medien“. In: Kurt Imhof, Otfried Jarren, und Roger Blum (Hrsg.). Integration und Medien (S. 56–76). Wiesbaden: VS Verlag für Sozialwissenschaften. https://doi.org/10.1007/978-3-322-97101-2_5. Wineburg, Sam, und Sarah McGrew. 2017. „Lateral Reading: Reading Less and Learning More When Evaluating Digital Information“. SSRN Electronic Journal. https://doi.org/10.2139/SSRN.3048994. Yang, Tian, Sílvia Majó-Vázquez, Rasmus K. Nielsen, und Sandra González-Bailón. 2020. „Exposure to news grows less fragmented with an increase in mobile access“. Proceedings of the National Academy of Sciences 117(46): 28678–28683. https://doi.org/10.1073/pnas.2006089117. Zimpel, Gisela. 1970. „Der beschäftigte Mensch. Beiträge zur sozialen und politischen Partizipation“. München: Juventa. Zuboff, Shoshana. 2018. „Das Zeitalter des Überwachungskapitalismus“. Frankfurt am Main: Campus. Zuboff, Shoshana. 2019. „Surveillance capitalism and the challenge of collective action“. New Labor Forum 28(1): 10–29. Literatur 70