Social Media, DeepFakes und das alternativlose Revival seriöser, auch öffentlich-rechtlicher Medien

Soziale Medien sind das “Tor zur Hölle” für demokratische Gesellschaften.

DeepFakes sind der Schlüssel, um dieses Tor nicht nur zu öffnen, sondern um es kompromisslos zu zertrümmern und um unsere Demokratie endgültig ihren Widersachern zum Fraß vorzuwerfen.

Sind Soziale Medien das Tor zur Hölle für unsere demokratische Gesellschaft?

Amerikanischer Präsidentschaftswahlkampf 2016: Der 23-jährige Cameron Harris nutzt die extrem aufgeheizte Stimmung und verbreitet über eine einfache Website einen falschen Bericht von einem Elektriker, der in einem Lagerhaus angeblich Kisten voll mit Wahlzetteln gefunden haben soll, auf denen das Kreuz für Hillary Clinton bereits gesetzt war. Im gleichen Wahlkampf verbreitet Michael G. Flynn Junior, der Sohn von Donald Trumps damaligem Sicherheitsberater Michael G. Flynn Senior, über soziale Netzwerke die Nachricht (unter dem Hashtag #Pizzagate), dass die Demokratin Hillary Clinton und ihr Wahlkampfchef John Podesta aus einer Pizzeria in Washington heraus einen Kinderpornoring betreiben würden – und distanziert sich auch nicht davon, als die Meldung längst als Fake News gebrandmarkt ist. Als Folge dieser grundlosen Behauptung wird die Belegschaft der Pizzeria per E-Mail und Telefon belästigt, beschimpft und bedroht. Negativer Höhepunkt der Reaktionen: Das Auftauchen eines bewaffneten Mannes aus North Carolina im Restaurant, der die in einem Tunnelsystem unter der Pizzeria eingesperrten Kinder befreien möchte. Er lässt Kunden und Angestellte fliehen und befasst sich dann 45 Minuten mit der Suche nach den Kindern. Nachdem er nichts findet, ergibt er sich der Polizei. Zwei Beispiele, zwar schon etwas älter, die aber dennoch eindrucksvoll belegen, welche Auswirkungen soziale Medien auf unsere Demokratie haben können. Viele weitere Beispiele sind in den letzten Jahren dazugekommen: Bekannt ist mittlerweile, wie soziale Medien entscheidend mitgeholfen haben, die Volksabstimmung zum EU-Austritt des Vereinigten Königreichs zu beeinflussen. Die brasilianischen Präsidentschaftswahlen 2018 waren von einer intensiven Nutzung sozialer Medien geprägt. Der spätere Präsident Jair Bolsonaro nutzte Plattformen wie Facebook und WhatsApp, um mittels Desinformationskampagnen Unterstützer zu mobilisieren. Bei den Europawahlen 2019 spielten soziale Medien eine wichtige Rolle bei der Mobilisierung von Wählern und der Verbreitung politischer Botschaften. Gleichzeitig gab es erhebliche Bedenken hinsichtlich ausländischer Einflussnahme und der Verbreitung von Desinformationen über soziale Medien. In 2024 rücken die Europawahlen im Juni sowie die amerikanischen Präsidentschaftswahlen im November in den Fokus von vielfältigen Akteuren (Politikern, Parteien, Staaten, Unternehmen), die Social Media als DAS erfolgskritische Instrument zur direkten und skrupellosen Beeinflussung und Manipulation politischer Entscheidungsprozesse für sich entdeckt haben.

Der Grund ist klar: Soziale Medien haben die politische Meinungsbildung radikal verändert. Befürworter verweisen gerne darauf, dass soziale Medien es ermöglichen, Informationen schnell und weitreichend zu verbreiten, was wiederum den Zugang zu Nachrichten und politischen Diskussionen für eine breite Bevölkerung ermöglicht. Dabei sind soziale Medien, so die Fürsprecher, ein “Melting Pot” vieler verschiedener politischer Meinungen und Standpunkte, Ideen und Perspektiven, was, so die Hoffnung, den demokratischen Diskurs stärkt bzw. stärken soll. Social Media ermöglicht damit ganz neue Formen der Partizipation an politischen Meinungsbildungsprozessen. Sie helfen Menschen leichter an politischen Diskussionen teilzunehmen, ihre Meinungen zu äußern, an Umfragen teilzunehmen, sich an Petitionen oder Kampagnen zu beteiligen, oder weitere Unterstützer für politische Aktivitäten zu mobilisieren, sei es für Demonstrationen, Proteste oder Wahlen. Soziale Medien können dadurch eine Kontrollfunktion übernehmen, indem Regierungen, politische Institutionen und Politikerinnen und Politiker dazu gezwungen werden, transparenter zu arbeiten.

Dem gegenüber jedoch Entwicklungen, die die Vermutung nahelegen, dass soziale Medien das sprichwörtliche “Tor zur Hölle” für unsere Demokratie sind. Social Media hat sich als einfach nutzbares Standardwerkzeug für die Verbreitung von Fehlinformationen und Manipulationen, von Hass und Hetze etabliert, um die öffentliche Meinung zu beeinflussen und um das Vertrauen in demokratische Institutionen, Wahlen und demokratische Prozesse zu untergraben. Es scheint aktuell fragwürdig, dass unsere demokratischen Gesellschaften resilient sind und dieser bewusst herbeigeführten Zersetzung unserer demokratischen Gesellschaft entgegenwirken können. Ursache dieser pessimistischen Einschätzung sind vor allem zwei grundlegende Probleme sozialer Medien: 1. die zunehmend völlig enthemmte Kommunikation sowie 2. die gleichzeitig beobachtbare Wucht des sogenannten “Confirmation Bias”.

Social Media spricht den impulsiven Teil des menschlichen Gehirns an. Den Teil, der Dingen Aufmerksamkeit schenkt, die unser Verstand normalerweise ignoriert. Katzenvideos und lustige Memes zum Beispiel. Aber eben auch Hass und Hetze. David Golumbia, Informatiker, Kulturkritiker und Professor an der Virginia Commonwealth University, schlussfolgerte dazu treffend: „Denn für soziale Netzwerke ist es ein Kinderspiel, den rationalen Teile unseres Gehirns zu umschiffen. Stattdessen sprechen sie die emotionale, reaktionäre Seite in uns an, die alles gleich und sofort möchte. […] Doch wenn wir diesen egoistischen Gefühlen den Vorrang geben, geschieht das auf Kosten von gründlicher Überlegung, Planung und Interaktion, aus denen demokratische Politik entsteht. Das bedeutet natürlich nicht, dass eine fundierte Debatte nicht auch online stattfinden kann. Aber es zeigt, dass es einen starken Trend weg von der sachlichen Debatte hin zu starken Emotionen gibt. […] Die Sozialen Medien versuchen, unsere Denkweise zu beeinflussen. Sie halten uns dazu an, schnelles Denken auf Probleme anzuwenden, die wir normalerweise mit Bedacht angehen würden.“ In der Konsequenz erschweren, ja verhindern soziale Medien eine ausgewogene Auseinandersetzung mit Themen und Sachfragen. Der Publizist Carlo Strenger hat dazu geschrieben: „Es gibt starke Anzeichen dafür, dass die überwiegende Mehrzahl der Bürger, welche überhaupt noch an öffentlichen und politischen Fragen interessiert sind, nur noch Medien verfolgen, deren politische und weltanschauliche Position sie ohnehin teilen. Sie lesen, hören und sehen somit fast nur Gleichgesinnte, welche alternative Positionen meist verzerrt und oft als uninteressant oder unwichtig darstellen, so dass sie gar nicht recht in Betracht gezogen werden müssen. […] Medienkonsumenten sind immer weniger willens und immer weniger fähig, sachlich Argumente für oder gegen Positionen abzuwägen, welche zur Diskussion stehen. Entscheidend ist für sie immer weniger, was gesagt wird, sondern wer etwas sagt.“ Es geht um Lagerbildung. Menschen (Politiker, Journalisten, Intellektuelle, Unternehmer), die „meine“ Seite vertreten, sind a priori gut. Menschen, die für die „andere“ Seite stehen, sind a priori schlecht – ihre Meinungen und Standpunkte per se nicht glaubwürdig und Ergebnis der Interessen dunkler Interessengruppen. Diese Spaltung hat insbesondere von den USA Besitz ergriffen, aber auch in Europa und anderen Teilen der Welt nehmen solche Polarisierungen dramatisch zu. Einziger akzeptierter Maßstab zur Beurteilung der Welt werden die eigenen mentalen Weltbilder. Alternative Perspektiven und Ideen werden beiseite gewischt. Im Ergebnis wird es für eine Gesellschaft (im Großen wie im Kleinen) schwierig, Kompromisse zu finden und komplexe Probleme zu diskutieren und zu lösen.

Worauf Strenger oben verweist, ist der sogenannte “Confirmation Bias (deutsch: Bestätigungsfehler)”. Darunter versteht man das psychologische Phänomen, bei dem Menschen dazu neigen, Informationen zu bevorzugen, die ihre bestehenden Überzeugungen unterstützen, während sie solche ablehnen oder ignorieren, die diesen widersprechen. Statt objektiv alle verfügbaren Informationen zu bewerten, suchen sie nach Bestätigung für das, was sie bereits glauben. Wenn z. B. eine Person einer bestimmten politischen Partei angehört und fest davon überzeugt ist, dass diese die besten Lösungen für die aktuellen Probleme des Landes bietet, dann neigt diese Person dazu, Nachrichtenquellen auszuwählen, die diese Partei positiv darstellen, und Beiträge in sozialen Medien zu lesen, die ihre eigenen Ansichten unterstützen. Gleichzeitig könnten sie Nachrichten oder Analysen, die Kritik an ihrer Partei enthalten, ablehnen oder ignorieren. Dies verstärkt wiederum zusätzlich den Bestätigungsfehler, da die Person dazu neigt, nur nach Informationen zu suchen, die ihre bestehenden Überzeugungen bestätigen, und Informationen zu vermeiden, die diese herausfordern könnten. Dies kann zu einer Verstärkung falscher Überzeugungen führen und die Fähigkeit zur objektiven Bewertung politischer Fragen beeinträchtigen. Eine unmittelbare Folge des Confirmation Bias ist die Entstehung sogenannter “Filterblasen”. Der Urvater des Begriffs “Filterblase” (englisch: filter bubble) ist der amerikanische Politaktivist Eli Pariser. Er hat den Begriff mit seinem Bestseller „Filter Bubble“ eingeführt. Der Begriff „Filterblase“ bezieht sich auf das Phänomen, dass Menschen dazu neigen, sich in sozialen Medien (und anderen digitalen Umgebungen) auf Inhalte beschränken, die ihren bestehenden Überzeugungen, Interessen und Vorlieben entsprechen. Verstärkt wird eine Filterblase durch Algorithmen auf Social Media Plattformen, die Inhalte basierend auf früherem Verhalten und Vorlieben eines Benutzers auswählen und anzeigen. Dadurch werden dem Benutzer hauptsächlich Informationen und Standpunkte präsentiert, die seinen bestehenden Ansichten entsprechen, was zu einer Verengung seines Informationshorizonts führen kann.

Ins Spiel kommt an dieser Stelle auch der Dunning-Kruger-Effekt. Dieses psychologische Phänomen beschreibt die Tendenz, dass Menschen mit geringerer Kompetenz in einem bestimmten Bereich dazu neigen, ihre Fähigkeiten und Kenntnisse in genau diesem Bereich zu überschätzen. Sie schätzen sich also selbst als kompetenter ein, als sie tatsächlich sind. Gleichzeitig haben hochkompetente Personen tendenziell eine genauere Einschätzung ihrer eigenen Fähigkeiten und könnten daher dazu neigen, ihre Fähigkeiten zu unterschätzen. Der Ursprung des Dunning-Kruger-Effekts liegt in der Unfähigkeit von Menschen mit geringerer Kompetenz, ihre eigenen Fähigkeiten objektiv zu beurteilen. Dies kann auf mehrere Faktoren zurückzuführen sein. Personen, die wenig über ein bestimmtes Thema wissen, haben oft nicht das Verständnis oder die Fähigkeiten, um ihre eigenen Fehler zu erkennen oder ihre eigenen Grenzen zu verstehen. Einige Bereiche erfordern ein tiefes Verständnis oder umfangreiche Erfahrung, um die damit verbundenen Herausforderungen zu erkennen. Personen mit geringerer Kompetenz können diese Komplexität nicht vollständig erfassen und glauben daher möglicherweise fälschlicherweise, dass sie das Thema vollständig beherrschen. Menschen haben oft ein natürliches Bedürfnis nach Selbstwertgefühl und Selbstsicherheit. Wenn sie sich in einem Bereich unsicher fühlen, neigen sie möglicherweise dazu, ihr Selbstvertrauen zu stärken, indem sie ihre eigenen Fähigkeiten überschätzen. David Dunning und Justin Kruger führten eine Reihe von Experimenten durch, die den Effekt illustrieren. In einem ihrer berühmtesten Experimente baten sie die Teilnehmer, verschiedene Tests durchzuführen, und baten sie dann, ihre eigenen Leistungen einzuschätzen. Diejenigen, die tatsächlich schlecht abschnitten, neigten dazu, ihre Leistungen übermäßig hoch einzuschätzen, während diejenigen, die besser abschnitten, ihre Leistungen eher unterschätzten.

Der Dunning-Kruger-Effekt hat zahlreiche Implikationen für verschiedene Bereiche des Lebens, einschließlich Bildung, Berufswahl, Politik und zwischenmenschlichen Beziehungen. Zum Beispiel kann er erklären, warum einige Menschen trotz mangelnder Qualifikationen und Erfahrungen übermäßiges Vertrauen in ihre Fähigkeiten haben, während andere möglicherweise zögerlich sind, ihre Fähigkeiten einzusetzen, obwohl sie tatsächlich kompetent sind.

Der Dunning-Kruger-Effekt hat auch erhebliche Auswirkungen auf das Verhalten von Menschen in sozialen Medien. In Diskussionen und Debatten in sozialen Medien können Menschen mit geringerer Kompetenz oder Wissen in einem bestimmten Thema dazu neigen, ihre Meinungen und Ansichten übermäßig selbstbewusst zu vertreten, ohne die Komplexität des Themas vollständig zu verstehen. Dies kann zu Konflikten und Desinformation führen, da diese Personen möglicherweise falsche oder unzureichend fundierte Informationen verbreiten. Menschen tendieren dazu, sich mit anderen zu umgeben, die ähnliche Ansichten und Meinungen haben wie sie selbst. In sozialen Medien können Personen mit begrenztem Wissen oder Verständnis in einem bestimmten Bereich dazu neigen, sich in Gruppen oder Communities zu engagieren, die ihre eigenen Überzeugungen bestätigen, was zu einer Verstärkung des Dunning-Kruger-Effekts führen kann. Dies kann die Fähigkeit zur kritischen Reflexion und zum Lernen einschränken. Menschen mit geringerer Kompetenz in einem Thema könnten sich aufgrund des Dunning-Kruger-Effekts dazu verleiten lassen, Fehlinformationen zu verbreiten oder ungenaue Behauptungen aufzustellen, da sie sich überzeugt fühlen, dass sie die richtigen Antworten haben, obwohl dies nicht der Fall ist. Dies kann zu einer Verbreitung von Fehlinformationen und einer Verringerung der Glaubwürdigkeit von Inhalten in sozialen Medien führen. Auf der anderen Seite könnten Experten oder Personen mit umfassendem Wissen in einem bestimmten Bereich dazu neigen, sich in Online-Diskussionen zurückzuhalten oder ihre Meinungen nicht zu äußern, da sie möglicherweise davon ausgehen, dass ihre Expertise von anderen nicht angemessen geschätzt wird oder dass ihre Beiträge nicht willkommen sind. Insgesamt können soziale Medien den Dunning-Kruger-Effekt verstärken, indem sie eine Plattform bieten, auf der Menschen ihre Meinungen und Ansichten leicht verbreiten können, unabhängig von ihrer tatsächlichen Kompetenz oder Kenntnis des Themas.

Eine schöne Zusammenfassung dazu, warum gerade Social Media als Brandbeschleuniger im gesellschaftspolitischen Diskurs wirkt, stammt vom Medienwissenschaftler Bernhard Pörcksen. Er schreibt: „Es sind […] die unmittelbare Sichtbarkeit und Sofortvergleichbarkeit von sozialen Unterschieden und die Transparenz der Differenz, die verstören. Wir sehen Schreckliches und Schönes, Relevantes und Irrelevantes – ein unendlicher Strom beweglicher, leicht zu verbreitender Daten und Dokumente, von lustigen Ice-Bucket-Challenge-Videos bis hin zum Foto eines kleinen syrischen Mädchens, das nach einem Luftangriff blutüberströmt in die Kamera blickt. Es ist die unerträgliche Gleichzeitigkeit des Seins, die so auf einem einzigen Kommunikationskanal erlebbar wird, der Schock des Unvereinbaren.“

DeepFakes sind die „Atombombe“ für demokratische Gesellschaften!

Wenn soziale Medien das “Tor zur Hölle” für demokratische Gesellschaften sind, dann sind DeepFakes das Werkzeug, um dieses Tor aufzureißen, ja regelrecht zu zertrümmern. DeepFakes konfrontieren unsere Gesellschaft mit bislang unbekannten Bedrohungen und Bedrohungsszenarien. DeepFakes können auch zum Totengräber unserer Demokratie werden.

Barack Obama beschimpft Donald Trump: „President Trump is a total and complete Dipshit“. Donald Trump fordert in einem anderen Video die Wähler Belgiens auf, einer Partei die Stimme zu geben, die für den Austritt aus dem Pariser Klimaabkommen ist: „As you know, I had the balls to withdraw from the Paris climate agreement – and so should you“. Berühmte weibliche Hollywood-Stars spielen plötzlich in pornographischen Filmen mit. Alles denkbar! Aber alles Fälschungen!

Als DeepFakes werden gefälschte, aber täuschend echt wirkende Bilder oder Videos von realen Personen bezeichnet. Der Begriff „Deep Fake“setzt sich aus den Schlagworten „Deep Learning“ (einer Technik im Bereich der Künstlichen Intelligenz) und „Fake“ (also Fälschung) zusammen und beschreibt die Erstellung manipulierter audio-visueller Inhalte, v. a. von Videos. Beim „Face Swapping“ ist das Ziel, aus der Eingabe eines Gesichts einer Person, ein Gesichtsbild einer anderen Person mit derselben Mimik, Gesichtsbeleuchtung und Blickrichtung zu erzeugen. Beim „Face Reenactment“ werden Kopfbewegung, Mimik oder Lippenbewegung einer Person manipuliert. Ziel ist es, visuell täuschend echte Videos zu erstellen, bei denen eine Person Aussagen trifft, die sie in der Realität nie getätigt hat. Bei der Synthetisierung von Gesichtsbildern können neue Personen erzeugt werden, die in der Realität nicht existieren. Auch Stimmen können manipuliert werden. Betroffen sind bislang v. a. Politiker oder Prominente, aber auch zunehmend Privatpersonen. Software, um DeepFakes innerhalb von Minuten ohne besonderes Know-How zu erzeugen, gibt es bereits heute kostenlos und frei verfügbar.

DeepFakes können dramatische Folgen haben. Viele Missbrauchsszenarien sind denkbar. Dazu gehören die Manipulation von privaten Videoaufnahmen, die Fälschung von Unfallaufnahmen, oder die Manipulation von Videos aus Kriegs- und Krisengebieten. Da es mittels Deepfake-Verfahren möglich ist, Inhalte mit den spezifischen Charakteristika einer Zielperson zu erstellen und diese Verfahren teilweise bereits sogar in Echtzeit lauffähig sind, stellen sie eine hohe Gefahr für biometrische Systeme dar. Deepfake-Verfahren können außerdem dazu verwendet werden, gezielte Phishing-Angriffe („Spear-Phishing“) durchzuführen, um Informationen und Daten zu gewinnen. Kritisch sind auch demokratische Meinungsbildungsprozesse, z. B. bei Wahlen. Mittels Deepfake-Verfahren ist es potentiell möglich, glaubwürdige Desinformationskampagnen durchzuführen, indem manipulierte Medieninhalte von Schlüsselpersonen (Politikern, Parteien, Staaten) erzeugt und verbreitet werden.

Was würde es für eine demokratische Gesellschaft bedeuten, in der bei jeder Aussage eines Politikers, Wissenschaftlers oder Wirtschaftsführers stets der Vorbehalt im Raum stünde, dass es sich dabei um einen DeepFake handeln könnte? Umgekehrt könnte jeder ein ihn belastendes Video mit dem Hinweis in Frage stellen, dass es sich hier um einen Deep Fake handelt. Unbequeme Wahrheiten lassen sich leicht anzweifeln, wenn in einer Gesellschaft ohnehin nichts mehr als verlässlich gilt.

DeepFakes können, da es sich um audiovisuelle Fälschungen handelt, eine andere Wirkmacht entfalten als herkömmliche Fake News. Dazu sagt Danielle Citron, Jura-Professorin an der University of Maryland: „The marketplace of ideas already suffers from truth decay as our networked information environment interacts in toxic ways with our cognitive biases. Deep fakes will exacerbate this problem significantly.“ Tim Hwang, Direktor der “Harvard-MIT Ethics and Governance of Artificial Intelligence Initiative” wird im gleichen Artikel zitiert: “We have long been able to doctor images and movies, but in the past, if you wanted to make a video of the president saying something he didn’t say, you needed a team of experts. Machine learning will not only automate this process, it will also probably make better forgeries.”

Vielleicht mag die Wirkmacht von Deep Fakes HEUTE jedoch noch relativ gering. Zu irre und selbstentlarvend sind viele Beispiele. In Zeiten, in denen oft nicht mehr klar ist, ob etwas real oder Fiktion/Satire ist, wird aber auch dieses Argument einer fortlaufenden Prüfung unterzogen. Die Situation kann MORGEN schon eine ganz andere sein. Fast blauäugig scheint da die Aussage der New York Times sieht zu sein: “It is possible, however, that some good will come out of the deep fakes menace. Maybe we will better understand that the truth is both precious and endangered. Perhaps we will learn to pause before giving in to internet-stoked spleen. Above all, we have to more fiercely call out and refute manipulative liars — as well as the people who insist on believing their fictions.”

Das Revival seriöser Medienhäuser und des Öffentlich-Rechtlichen Rundfunks (ÖRR)

Eine unmittelbare Konsequenz der zunehmenden Verbreitung von DeepFakes wird die Stärkung und wieder zunehmende Bedeutung von seriösen, vertrauenswürdigen Medien sein. Gerade öffentlich-rechtliche Medien werden ein – in der Wahrnehmung vieler Kritiker sicher unerwartetes – Comeback erfahren. Nur große Medien- oder Verlagshäuser werden zukünftig die personellen Ressourcen und das technische Know-How haben, um DeepFakes zuverlässig zu erkennen – und die Spreu vom Weizen zu trennen. Auch große Medien- oder Verlagshäuser werden hierbei Fehler machen und nicht jedes DeepFake als solches entlarven oder vielleicht auch echtes Material fälschlicherweise als DeepFake kennzeichnen. Das wird – relativ betrachtet – aber immer noch sehr viel besser als sein als das, was Einzelpersonen oder alternative Medien erkennen können. Und das ist entscheidend, denn die Unterscheidung von echten und manipulierten Informationen wird für normale Menschen kaum mehr möglich sein. Orientierung ist notwendig. Und diese können im Grunde nur seriöse, vertrauenswürdige, auch öffentlich-rechtliche Medien sein.