Nutzen oder schaden die sozialen Medien der Demokratie, Prof. Pröllochs?

Können Nutzer selbst zur Qualitätssicherung in sozialen Medien beitragen? Mit "Community Notes" soll die Faktenprüfung demokratisiert werden, heute schon auf X, bald auch auf Facebook oder Instagram. Wie gut das in der Praxis funktioniert, besprechen wir mit Prof. Nicolas Pröllochs und reden mit ihm auch über die Chancen und Gefahren der sozialen Medien, ihre Auswirkungen auf die Demokratie und ihre Zukunft in Zeiten von KI.

Ein Interview von Krischan Lehmann

Einst von Medienschaffenden als wertloser UGC (= User generated content) gering geschätzt, prägen die Inhalte der sozialen Medien heute zunehmend den gesellschaftlichen Diskurs und die politische Meinungsbildung. Doch wie wirken sich Plattformen wie X wirklich auf die Demokratie aus? Fördern sie den offenen Austausch oder befeuern sie Desinformation und Hass? Und welche Rolle spielen dabei "Community Notes", ein dezentraler Ansatz zum Fact-Checking, der seit einiger Zeit auf X eingesetzt wird und bald auch auf den Plattformen von Meta zunehmend professionelle Fact-Checker ersetzen soll?

Prof. Nicolas Pröllochs, Inhaber der Professur für Data Science und Digitalisierung an der Justus-Liebig-Universität Gießen, erforscht die Dynamiken digitaler Plattformen – vor allem mit Hilfe von quantitativen Datenanalysen. Im Gespräch mit 1E9 analysiert er die Wirksamkeit und Grenzen von Community Notes, diskutiert die Spaltung der Gesellschaft durch soziale Medien und wagt einen Ausblick auf die Zukunft der Online-Kommunikation im Zeitalter von KI und zunehmender Fragmentierung.

1E9: In den sozialen Medien zeigen sich gesellschaftliche Spaltungen ja wie unter einem Brennglas: Man sieht sie überdeutlich, aber bisweilen auch stark verzerrt. Das haben vor allem die letzten US-Wahlen, aber auch der deutsche Wahlkampf klar gezeigt. Während die einen Social Media inzwischen als echtes Problem für die Demokratie ansehen, weil jede politische Äußerung sofort torpediert werden kann, auch auf einem unterirdischen Niveau, meinen andere, dass sich das Meinungsspektrum dort erst richtig entfaltet, eben weil es keine echten Filter gibt. Was ist Ihre Haltung dazu? Fördern soziale Medien die Demokratie oder haben sie eher negative Effekte?

Nicolas Pröllochs: Natürlich können soziale Medien sowohl positive als auch negative Effekte haben. Aber die positiven werden oft nicht ausreichend wahrgenommen, obwohl es sie in vielerlei Hinsicht gibt. Gerade wenn es um politische Teilhabe geht und um die Sichtbarkeit von marginalisierten Gruppen. Oder wenn es darum geht, den Zugang zu Informationen zu demokratisieren. Auch bei Vernetzung und Mobilisierung – denken wir an den Arabischen Frühling oder Aktivismus generell – gibt es viel Potenzial. Social Media kann einen pluralistischen Debattenraum bieten, der politische Meinungsbildung ermöglicht und Menschen ermutigt, ihre Stimme zu erheben. Damit leisten solche Plattformen durchaus einen positiven Beitrag für die Demokratie.

Aber es gibt auch die demokratiegefährdende Seite: Da kommen Phänomene wie Desinformation ins Spiel, die mit den Ereignissen wie den Capitol Riots in Zusammenhang stehen. Oder Hate Speech, die dazu führen kann, dass Menschen mundtot gemacht werden. Wenn Social Media Demokratie stärken soll, dann ist es wichtig, dass Transparenz, ein gewisses Maß an Regulierung und insbesondere auch digitale Bildung bei der Bevölkerung vorliegt.

Community Notes – So funktioniert das dezentrale Fact-Checking Community Notes sind ein neuer Ansatz im Kampf gegen Desinformation in sozialen Medien. Das System setzt auf die kollektive Intelligenz der Nutzergemeinschaft: User mit verifizierten Accounts können zu problematischen Beiträgen Anmerkungen verfassen, die zusätzlichen Kontext liefern oder Fehlinformationen korrigieren. Diese Anmerkungen werden anschließend von anderen Community-Mitgliedern bewertet. Der Clou: Eine Note wird erst dann öffentlich sichtbar, wenn sie von Nutzern unterschiedlicher politischer Überzeugungen als hilfreich eingestuft wurde – ein Mechanismus, der Konsens über ideologische Grenzen hinweg fördern soll.

1E9: Nun tun seit einiger Zeit auf der Plattform X – und wohl bald auch weltweit auf den Plattformen von Meta, also bei Facebook, Instagram und Threads, sogenannte "Community Notes" ihren Dienst. Sie haben bereits ausgiebig zu diesen dezentralen Fact-Checks bei X geforscht. Was passiert denn, wenn ein Post eine solche community-getriebene Anmerkung, also letztlich ein inhaltliche Korrektur erhält?

Nicolas Pröllochs: Wir haben in mehreren Studien über die Community Notes auf X herausgefunden, dass ein solcher Post signifikant weniger geteilt wird – nur ungefähr 60 Prozent im Vergleich zu vorher. Das ist ein großer positiver Effekt. Und dennoch ist die systemweite Auswirkung relativ gering, weil es ziemlich lange dauert, bis ein Post eine Community Note erhält und die meisten Posts gar nicht annotiert werden. Diese Unterscheidung ist bei der Bewertung wichtig.

1E9: Wobei dann ja auch relevant ist, ob Community Notes besser funktionieren als das bisherige Faktencheck-System mit externen Organisationen wie Reuters oder CORRECTIV...

Nicolas Pröllochs: Richtig. Und hier kann man sagen, dass jetzt viel mehr überprüft wird, als die professionellen Fact-Checking-Organisationen zu leisten imstande waren – auch wenn die Coverage immer noch relativ gering ist. Und auch wenn es um das Tempo geht: Zwar dauert es oft eine gewisse Zeit, bis der Algorithmus eine hilfreiche Note selektiert hat, aber die professionellen Fact-Checker waren im Normalfall sogar langsamer. Daher sind Community Notes aus meiner Sicht auf jeden Fall positiv zu bewerten und ich würde sehr dazu raten, sie zu implementieren.

1E9: Und wo ist der Haken?

Nicolas Pröllochs: Es gibt Fälle, in denen der crowd-basierte Ansatz zu keinem Ergebnis führt, weil er konsensbasiert ist. Wenn man beispielsweise an die Wahlen in den USA denkt und die Frage, ob es einen Wahlbetrug gab – wenn die Meinungen ungefähr 50:50 verteilt sind, wird es schwierig, einen Konsens zu finden. In solchen Fällen müssen wieder professionelle Fact-Checker ran.

1E9: Ist es denn durch den neuen Algorithmus gelungen, einen möglichen Bias beim Fact-Checking – Stichwort Twitter Files – zu reduzieren? Heute haben ja viele Nutzer den Eindruck, dass X seit der Übernahme durch Elon Musk politisch rechter geworden sei.

Nicolas Pröllochs: Wir haben in einer Studie herausgefunden, dass professionelle Fact-Checker häufiger politisch rechte Politiker überprüfen. Ob das ein Bias ist, ist eine wichtige Frage, denn es könnte auch einfach so sein, dass eine Seite häufiger Fehlinformationen verbreitet als die andere. Es gibt Studien, die zeigen, dass politisch rechts angesiedelte Personen zwar häufiger fact-gecheckt werden, aber auch häufiger falsche Informationen verbreiten. Interessanterweise werden auch bei Community Notes politisch rechts einzuordnende Accounts häufiger fact-gecheckt.

1E9: Was müsste passieren, damit Community Notes richtig gut werden? Kann man sie schon heute flächendeckend ausrollen?

Nicolas Pröllochs: Man müsste noch mehr Nutzer dazu motivieren, beim kollektiven Fact-Checking mitzumachen, damit alles schneller geht und eine bessere Coverage bekommt. Aber es gibt keinen Grund anzunehmen, dass Community Notes auf den Meta-Plattformen oder anderen wie TikTok oder YouTube nicht funktionieren würden. Ein Problem wäre es allerdings, wenn die Plattformen jetzt nur noch auf Community Notes setzen. Sie sind aus meiner Sicht nur ein sinnvolles Werkzeug in einer größeren Werkzeugkiste.

1E9: Was wäre noch in Ihrer Werkzeugkiste?

Nicolas Pröllochs: Zunächst eben professionelle Fact-Checker, die Fehlinformationen und andere Fälle adressieren, die durchs Raster fallen. Und als zweites finde ich Medienbildung sehr wichtig. Dass Menschen Informationen kritisch hinterfragen, dass sie Quellen prüfen und nicht blind alles glauben, was sie auf Social Media sehen. Sie sollten ein Verständnis dafür entwickeln, dass sich die Welt gewandelt hat und die journalistische Ethik der traditionellen Medien auf Social Media auf den Nutzer ausgelagert wird.

1E9: Im Moment geht in den sozialen Medien eine interessante Schere auf: Einerseits wird man mit immer härterem Content konfrontiert, wie expliziten Videoaufnahmen aus dem Ukraine-Krieg oder von islamistischem Gräueltaten. Andererseits ist gerade in den Diskursen der jüngeren Generationen eine höhere Sensibilität spürbar. Es geht um sensible Sprache, "Mikroagressionen" und "Safe Spaces". Brauchen wir mehr "Safe Spaces" in der digitalen Welt, also mehr Regulierung oder einfach mehr – wie es neudeutsch heißt – "digitale Resilienz"?

Nicolas Pröllochs: Meine Haltung ist, dass es beides braucht. Digitale Resilienz ist super wichtig, damit wir Fortschritte machen. Ich glaube aber trotzdem, dass eine gewisse Form der Regulierung notwendig ist, um weitreichende negative Konsequenzen für die Offline-Welt zu verhindern. Wenn man an Radikalisierung und ähnliche Themen denkt, kann man nicht alles laufen lassen. Es ist wichtig, eine gute Balance zu finden zwischen Meinungsfreiheit und der Abwehr von Gefahren.

1E9: Inzwischen spielt sich ein so großer Teil unseres Alltagslebens in sozialen Netzwerken ab, dass man sie eigentlich als Infrastruktur wie Straßen oder Schulen betrachten kann. Allerdings sind wir hier in einer komplett privatwirtschaftlichen Welt unterwegs. Bisweilen hört man nun Forderungen, soziale Medien zu verstaatlichen. Andere Stimmen trauen dem Staat – nach einschlägigen Erfahrungen mit baufälligen Brücken – agiles Produktmanagement, wie es ein soziales Netzwerk erfordert, schlichtweg nicht zu...

Nicolas Pröllochs: Darüber nachdenken kann man auf jeden Fall, aber ich bin eher skeptisch. Denn ich bezweifle, dass öffentlich-rechtliche Social Media wirklich genutzt würden. Soziale Medien sind nicht ohne Grund so, wie sie sind. Es gibt auch eine Nachfrage nach negativem Content, der provoziert und die Menschen wütend macht. Und der Content wird so gepostet, weil sich die, die ihn posten, davon Engagement versprechen.

Dazu kommt, dass Social-Media-Plattformen globale Plattformen sind, man also weltweit in Kontakt treten kann, was durchaus Vorteile hat. Selbst wenn man also eine nationale oder europäische Plattform hätte, wäre das wahrscheinlich nicht vergleichbar mit dem, was es aktuell gibt. Außerdem werden traditionelle Medien ja auch privat organisiert.

1E9: Die neue schwarz-rote Regierung hat in ihrem kürzlich veröffentlichten Koalitionsvertrag auch einen Passus zum Umgang mit Desinformation vorgelegt. Zum einen will man die Online-Plattformen stärker in die Pflicht nehmen, andererseits aber auch eigene Initiativen starten, etwa indem man eine europäische Medienplattform unter Einbeziehung von ARTE aufbaut und die Deutsche Welle stärkt. Halten Sie dies für eine geeignete Antwort auf Plattformen wie X, Tiktok oder Telegram oder zeigt sich hier nicht auch eine gewisse Hilflosigkeit, mit der die Politik den medialen Entwicklungen im Netz begegnet?

Nicolas Pröllochs: Grundsätzlich halte ich den Aufbau einer europäischen Medienplattform für einen sinnvollen Schritt. Beispielsweise können so Synergien in der Zusammenarbeit zwischen den Mitgliedstaaten besser genutzt und in weiten Teilen sowieso vorhandene Inhalte einem breiteren europäischen Publikum zugänglich gemacht werden.

Allerdings sehe ich die geplante Plattform eher als ein potenziell ergänzendes Angebot denn als wirksamen Ersatz für etablierte kommerzielle Anbieter. Ihr Erfolg – insbesondere bei jüngeren Zielgruppen – hängt dabei aus meiner Sicht maßgeblich von der konkreten Umsetzung ab.

Kommerzielle Plattformen wie YouTube oder TikTok sind inhaltlich enorm vielfältig aufgestellt und treffen dank ausgefeilter Algorithmen die individuellen Interessen ihrer Nutzer mit hoher Präzision.

In einer Medienlandschaft, die stark durch Aufmerksamkeit und Personalisierung geprägt ist, reicht Verlässlichkeit alleine als Argument vermutlich nicht aus. Entscheidend werden aus meiner Sicht vielmehr überzeugende Inhalte und eine wirksame Verbreitungsstrategie sein, um mit etablierten Angeboten konkurrieren zu können.

1E9: Die Verbreitung von medialen Inhalten ist heute stark fragmentiert. Einzelne Influencer haben in Messenger-Diensten wie Telegram, auf Youtube und Tiktok teilweise ein Millionenpublikum. Viele Medienschaffende denken aber in erster Linie immer noch an die Bild-Zeitung, den Spiegel oder den öffentlich-rechtlichen Rundfunk, wenn es um Meinungsbildung geht. Machen wir uns als Medienleute bezüglich unserer Bedeutung etwas vor?

Nicolas Pröllochs: Ja, da muss man in der Tat zwischen jungen Menschen und Menschen, die mit traditionellen Medien aufgewachsen sind, unterscheiden. Da geht eine Schere stark auseinander. Es gibt Untersuchungen, die zeigen, dass die junge Generation sich sehr, sehr stark über Social Media informiert und traditionelle Medien kaum noch nutzt – weder Fernsehen und Zeitungen schon gar nicht. Hier hat es einen großen Shift gegeben und das ist eine echte Herausforderung für traditionelle Medienunternehmen.

1E9: Und damit auch für die Politik. Im letzten Bundestagswahlkampf wurde ein einziges virales, millionenfach gesehenes Video der Linkspartei stark für deren Wahlerfolg verantwortlich gemacht. Sind in den sozialen Medien Hebel entstanden, die Wahlen wirklich entscheiden können?

Nicolas Pröllochs: Das ist eine schwierige Frage, weil der Kausalzusammenhang zwischen Social-Media-Aktivität und Wahlerfolg schwer herzustellen ist. Allerdings hat man bei der letzten Wahl gesehen, dass die Linkspartei auf Social Media außerordentlich erfolgreich war und viele virale Videos, gerade auf TikTok, hatte. Gleichzeitig hat sie bei jüngeren Wählern extrem gut abgeschnitten. Da liegt zumindest ein Zusammenhang nahe.

Man hat es auch in den USA gesehen, wo Donald Trump auf Social Media stark performt hat und dann bei der Jugend über den Erwartungen lag. Und man sieht, dass gerade die Ränder des politischen Spektrums europaweit im Social Media-Game sehr erfolgreich sind und dort Wähler ansprechen können. Da sind die traditionellen Parteien oft noch nicht auf dem gleichen Level.

1E9: Wie sehen Sie die Entwicklung der sozialen Medien in den nächsten Jahren? Die Zeit der Großraumdiskos, in denen alle gleichzeitig tanzen, scheint vorbei zu sein. Zumindest sieht man gerade an X, dass es zunehmend Brüche entlang politischer Linien gibt. Viele politisch eher linke Nutzer sind zu dezentralen Lösungen wie Bluesky oder Mastodon abgewandert. Wird sich das in Zukunft noch stärker zersplittern?

Nicolas Pröllochs: Es gibt definitiv eine höhere Fragmentierung und es ist gut möglich, dass sich das fortsetzt. Und das ist in vielerlei Hinsicht eine problematische Entwicklung, weil es dann immer mehr Bubbles gibt und immer weniger gemeinsame Informationsgrundlagen. Man sieht diese Zersplitterung ja auch in der traditionellen Medienlandschaft, wo es immer schwieriger wird, einen Common Ground zu finden.

Eine andere Entwicklung ist, dass auf Social Media die Algorithmen immer wichtiger werden. Beim Content-Feed auf X beispielsweise hat es in den letzten Jahren große Veränderungen gegeben und auch TikTok ist damit sehr erfolgreich: Es wird immer weniger wichtig, wem ich wirklich folge, und immer mehr Content, der für mich potenziell interessant sein könnte, wird von KI ausgewählt. Das führt zum Problem, dass diese Algorithmen potenziell sehr großen Einfluss auf die Meinungsbildung haben können, weshalb Transparenz und Offenlegung der Algorithmen super wichtig sind.

1E9: Bald wird die KI nicht nur Inhalte auswählen, sondern sie auch selbst massenhaft produzieren – ununterscheidbar von menschgemachtem Content. Es wird möglich sein, zu jeder menschlichen Äußerung tausende künstlich generierte Gegenmeinungen zu erzeugen und über Bots zu verbreiten. Was blüht uns da als Gesellschaft und wie bereiten wir uns darauf vor?

Nicolas Pröllochs: Das ist in der Tat ein großes Problem, dass die Wahrnehmung von Mehrheiten manipuliert werden kann. Und das wird ja heute schon im Kontext russischer Desinformation vermutet. Ein wichtiger Weg wäre hier die Verifikation von menschlichen Akteuren durch die Plattformen. Aber in absehbarer Zukunft wird es wirklich nicht mehr zu unterscheiden sein wird, ob ein Mensch etwas postet oder eine KI.

1E9: Und zu allem Überfluss sind nun auch die Auswirkungen der Social Media-Nutzung auf die menschliche Psyche zunehmend besser erforscht. Eine Langzeitstudie aus den Niederlanden hat kürzlich gezeigt, dass man durch soziale Medien einsamer wird, egal ob man aktiv oder passiv teilnimmt. Welchen Rat würden Sie den Menschen geben, wie sie mit sozialen Medien umgehen sollten?

Nicolas Pröllochs: Dass die Nutzung von Social Media negative Auswirkungen auf die mentale Gesundheit haben kann, dafür gibt es mittlerweile viel Evidenz. Das ist ja auch etwas, was die meisten Menschen bei sich selbst beobachten können. Ein Tipp wäre, sich bei einem negativen Post einmal bewusst zu überlegen, warum er mir wohl angezeigt wird, warum ich diesen Content eigentlich konsumiere und welchen Content ich eigentlich konsumieren möchte.

Wir hatten eine Studie zum sogenannten Negativity Bias, also der Präferenz für negative Nachrichten, die zeigte, dass Menschen mehr negative als positive Nachrichten anklicken. Da kann ein bewusster Medienkonsum und die Frage, ob man sich wirklich nur schlecht fühlen oder auch positive Dinge über die Welt lesen möchte, eine gute Strategie sein.

1E9: Dann kommt jetzt – nachdem wir viel über Licht und Schatten der sozialen Medien gesprochen haben – eine zugespitze letzte Frage: Sind soziale Medien netto positiv oder negativ für die Menschheit?

Nicolas Pröllochs: Trotz aller Schattenseiten würde ich sagen: Netto positiv.