Warum „Man weiß ja gar nicht mehr, was stimmt“ ein Erfolg ist – nur nicht deiner

Dieser Text richtet sich an alle, die beim Nachrichtenlesen, beim Scrollen durch soziale Medien oder im Gespräch mit Freunden manchmal denken, man wisse gar nicht mehr, was stimmt. Die Beispiele stammen aus dem ganz normalen Alltag mit Nachrichtenseiten, Messengern und Kommentarspalten. Mit Desinformation sind hier Falschinformationen gemeint, die jemand mit Absicht verbreitet; wer etwas Falsches ohne böse Absicht weitergibt, verbreitet eine Fehlinformation. Es geht um die Frage, warum ausgerechnet dieser eine Satz so wirksam ist und wem er nützt. Der Artikel erzählt, woher das Wort Desinformation stammt, wie Geheimdienste im Kalten Krieg damit gearbeitet haben, wie eine Industrie den Zweifel zum Geschäftsmodell machte und was die Forschung heute darüber weiß, wo sie sich allerdings auch streitet. Wer das versteht, gewinnt ein Stück Orientierung zurück, das er schon verloren glaubte.

Es ist Donnerstagabend, kurz nach zehn. Deine Partnerin sitzt mit dem Handy auf dem Sofa und liest dir vor. Eine Seite schreibt, das Stromnetz stehe diesen Winter kurz vor dem Zusammenbruch. Eine andere schreibt, die Versorgung sei so sicher wie nie. In der Familiengruppe hat jemand ein Video geteilt, in dem ein Mann mit ernster Stimme erklärt, bei der letzten Wahl in einem Nachbarland seien Stimmzettel verschwunden. Darunter streiten sich zweihundert Kommentare. Ein Schauspieler, der angeblich gestorben ist, hat am Nachmittag selbst ein Foto von seinem Frühstück gepostet.

Sie legt das Handy weg und sagt: „Man weiß ja gar nicht mehr, was stimmt.“

Du nickst. Der Satz klingt vernünftig. Er klingt nach jemandem, der sich nicht so leicht etwas vormachen lässt, nach gesunder Vorsicht, vielleicht sogar nach Weisheit. Wer alles anzweifelt, so scheint es, kann wenigstens nicht hereingelegt werden.

Genau hier liegt der Irrtum. Dieser Satz ist das Ergebnis, auf das ein großer Teil der Desinformation hinarbeitet.

Desinformation zielt auf Erschöpfung

Im Februar 2018 sprach der Sachbuchautor Michael Lewis, geboren 1960, bekannt geworden mit Büchern wie „The Big Short“ und „Moneyball“, für die Nachrichtenagentur Bloomberg mit Steve Bannon. Bannon, geboren 1953, US-amerikanischer Medienunternehmer, war 2017 einige Monate lang Chefstratege im Weißen Haus unter Präsident Donald Trump gewesen, geboren 1946, US-Präsident von 2017 bis 2021 und erneut seit 2025. Lewis gab Bannons Methode in dessen eigenen Worten wieder.

Wer diesen Satz zweimal liest, bleibt an einem Verb hängen: fluten. Das Ziel ist ein Zustand, in dem so viel Widersprüchliches, Lautes und Empörendes gleichzeitig unterwegs ist, dass Menschen aufhören, überhaupt noch etwas für sicher zu halten.

Der Unterschied zwischen einer einzelnen Lüge und diesem Zustand ist entscheidend. Eine Lüge kann man widerlegen. Es dauert vielleicht, es kostet Mühe, aber es geht. Beliebigkeit lässt sich auf diese Weise gar nicht greifen. Wer nichts mehr für sicher hält, prüft auch nichts mehr. Er muss aber trotzdem entscheiden: welche Partei er wählt, welches Produkt er kauft, welchem Arzt er vertraut, was er seinen Kindern erzählt. Und wer nicht mehr unterscheiden kann, was belegt ist und was nicht, entscheidet nach dem, was am besten passt: zur eigenen Wut, zur eigenen Angst, zur eigenen Bequemlichkeit, zu den Leuten, die man mag.

Damit ist der Satz vom Sofa auch ein Erfolg. Nur eben ein Erfolg für die Absender der Flut.

Ein Modell mit Namen: der Feuerwehrschlauch der Falschheit

Was Bannon in einem Satz beschrieb, hatten Fachleute schon vorher genauer untersucht. 2016 veröffentlichte die RAND Corporation, eine US-amerikanische Forschungseinrichtung für Politik- und Sicherheitsfragen, eine Analyse der russischen Staatspropaganda seit dem Georgienkrieg 2008 und der Annexion der Krim 2014. Die Autoren standen vor einem Rätsel: Diese Propaganda verstieß gegen fast alles, was man über wirksame Kommunikation zu wissen glaubte. Sie widersprach sich selbst, sie war offensichtlich unwahr, und sie wirkte trotzdem. Die Forscher nannten das Muster „Firehose of Falsehood“, den Feuerwehrschlauch der Falschheit, und beschrieben vier Merkmale:

1. Große Menge über viele Kanäle. Dieselben Botschaften laufen gleichzeitig im Fernsehen, auf Webseiten, in sozialen Netzwerken und über scheinbar unabhängige Konten.
2. Schnell, pausenlos und wiederholt. Wer zuerst kommt, prägt den ersten Eindruck, und Wiederholung macht vertraut.
3. Keine Bindung an die Wirklichkeit. Ob eine Behauptung stimmt, spielt für ihre Verbreitung keine Rolle.
4. Keine Bindung an Widerspruchsfreiheit. Heute wird das eine erzählt, morgen das Gegenteil, und beides darf nebeneinanderstehen.

Das vierte Merkmal ist das aufschlussreichste. Ein Lügner, der überzeugen will, achtet darauf, dass seine Geschichte zusammenpasst. Wer fluten will, kann darauf verzichten, denn gerade der Widerspruch erzeugt die Erschöpfung.

Der britische Journalist und Fernsehproduzent Peter Pomerantsev, 1977 in Kiew geboren und heute Senior Fellow an der London School of Economics, hat von 2001 bis 2010 überwiegend in Moskau gelebt und dort für das Fernsehen gearbeitet. Seine Erfahrungen beschrieb er 2014 in einem Buch, dessen Titel das Ergebnis dieser Strategie in einen einzigen Satz fasst: „Nothing Is True and Everything Is Possible“, nichts ist wahr und alles ist möglich. Das ist, in der Sprache der Fachleute, der Satz vom Sofa.

Wichtig ist dabei eines: Dieses Muster findet sich in allen Lagern. Staatliche Stellen nutzen es, ebenso Parteien unterschiedlicher Richtungen, Anbieter von Wundermitteln, Seiten, die mit Klicks Geld verdienen, und Einzelne, die einfach Aufmerksamkeit wollen. Die Flut kommt aus vielen Richtungen gleichzeitig, und gerade das macht sie so wirksam.

Ein dokumentierter Fall von Desinformation

Spätestens an dieser Stelle denken manche: Das klingt jetzt selbst nach Verschwörungstheorie, nach großem Plan und dunklen Mächten.

Deshalb lohnt ein Blick auf einen dokumentierten Fall. Im Juni 2024 veröffentlichte das Auswärtige Amt einen technischen Bericht über eine Kampagne, die unter dem Namen „Doppelgänger“ bekannt geworden ist. Ihre Betreiber bauten bekannte deutsche Nachrichtenseiten täuschend echt nach und stellten erfundene Artikel darauf, verbreitet über eine große Zahl unechter Konten in sozialen Netzwerken. Die Europäische Union hat zwei an der Kampagne beteiligte Firmen mit Sanktionen belegt.

Der Bericht ist öffentlich und kann von jedem nachgelesen werden. Darin liegt der ganze Unterschied zu einer Verschwörungserzählung: Hier liegt ein Beleg vor, den man prüfen kann. Eine Verschwörungserzählung verlangt, dass man ihr glaubt.

Grundlagen: Woher Desinformation kommt und was sie von Fehlinformation unterscheidet

Das Handwerk der Desinformation ist älter als das Internet, das ihm vor allem Reichweite und Tempo gegeben hat. Seine Geschichte führt in die Geheimdienstzentralen des Kalten Krieges, in die Archive der Tabakindustrie und schließlich zu einer Forschung, die sich heute darüber streitet, wie groß das Problem eigentlich ist. Wer diese Geschichte kennt, erkennt im Satz vom Sofa ein Muster, das seit Jahrzehnten bewusst erzeugt wird.

Ein Wort aus dem Kalten Krieg

Das Wort selbst stammt aus dem Russischen. „Dezinformazija“ war im sowjetischen Geheimdienst ein Arbeitsbegriff, und 1959 richtete der KGB eine eigene Abteilung dafür ein. Ihre Aufgabe war es, im Ausland gefälschte Dokumente, erfundene Meldungen und gezielt gestreute Gerüchte in Umlauf zu bringen. Die Geheimdienste der verbündeten Staaten des Ostblocks bauten nach diesem Vorbild eigene Abteilungen auf.

Die genaueste Gesamtdarstellung dieser Geschichte stammt von Thomas Rid, 1975 im baden-württembergischen Aach geboren, Politikwissenschaftler und Professor für Strategische Studien an der Johns Hopkins University in Washington, der zuvor am King's College London lehrte. 2020 veröffentlichte er das Buch „Active Measures. The Secret History of Disinformation and Political Warfare“. Der Titel nimmt den Fachbegriff auf, unter dem der KGB solche Operationen führte: aktive Maßnahmen. Rid schildert darin auch Operationen westlicher Dienste in den ersten Jahren des Kalten Krieges, und er zeigt, wie Desinformation in der Regel arbeitete: mit vielen kleinen Fälschungen, mit echten Dokumenten, in die falsche Stellen eingeschmuggelt waren, und mit Menschen im Westen, die das Material gutgläubig weitertrugen.

Ladislav Bittman: Ein Fälscher erklärt sein Handwerk

Wie diese Arbeit von innen aussah, weiß man vor allem von einem Mann, der sie selbst gemacht hatte. Ladislav Bittman (1931–2018), geboren in Prag, war Offizier des tschechoslowakischen Geheimdienstes und in den 1960er Jahren stellvertretender Leiter der dortigen Abteilung für Desinformation. 1964 wirkte er an einer Operation mit, die als „Neptun“ bekannt wurde. Taucher bargen Kisten aus dem Schwarzen See im Böhmerwald, die angeblich seit Kriegsende dort gelegen hatten. Tatsächlich hatte der Geheimdienst sie vorher selbst versenkt und mit gefälschten Dokumenten aus der NS-Zeit bestückt. Sie sollten den Eindruck erwecken, frühere Nationalsozialisten arbeiteten nun als Spione für die Bundesrepublik, und die junge Bundesrepublik als fortdauernde Gefahr erscheinen lassen.

Nach dem Einmarsch der Truppen des Warschauer Pakts in die Tschechoslowakei im August 1968 setzte sich Bittman in die Vereinigten Staaten ab. In seiner Heimat wurde er 1974 in Abwesenheit zum Tode verurteilt. 1972 veröffentlichte er unter dem Titel „The Deception Game“ eine der ersten Insiderdarstellungen der Desinformation, im selben Jahr begann er an der Boston University zu lehren, wo er 1986 an der Journalistenschule ein Zentrum zur Erforschung der Desinformation gründete. Der Mann, der gelernt hatte, wie man täuscht, verbrachte den Rest seines Berufslebens damit, Journalistinnen und Journalisten beizubringen, wie man sich nicht täuschen lässt.

Operation „Infektion“: Wie eine Lüge um die Welt reiste

Wie geduldig diese Arbeit war, zeigt ein Fall, den Rid ausführlich rekonstruiert hat. Im Juli 1983 druckte die indische Zeitung „Patriot“, die von der Sowjetunion finanziert wurde, einen Leserbrief, angeblich von einem anonymen amerikanischen Wissenschaftler. Darin hieß es, das Aidsvirus stamme aus Experimenten mit biologischen Waffen im Labor des Pentagon in Fort Detrick. Zunächst passierte fast nichts. Erst am 30. Oktober 1985 griff die sowjetische „Literaturnaja Gaseta“ die Geschichte auf und berief sich dabei auf den Brief von 1983. Im August 1986 verteilten zwei in der DDR lebende Wissenschaftler auf einer Konferenz der Blockfreien Staaten in Harare eine Broschüre mit derselben These. Ende Oktober 1986 brachte eine britische Sonntagszeitung als erstes großes westliches Blatt einen Artikel darüber. Allein 1987 tauchte die Geschichte rund vierzigmal in sowjetischen Medien auf.

Der Fall zeigt drei Eigenschaften, die bis heute gelten:

• Der Ursprung wird verwischt. Ein Brief in einer kleinen Zeitung wird später als „Quelle“ zitiert, und wer zitiert, verweist auf jemanden, der verwiesen hat.
• Die Verbreitung erledigen andere. Die meisten, die die Geschichte weitertrugen, hatten mit dem Geheimdienst nichts zu tun.
• Die Lüge überlebt ihren Urheber. Die Sowjetunion rückte 1987 von der Behauptung ab, die Geheimdienste von damals gibt es nicht mehr, und die Erzählung kursiert in Abwandlungen bis heute.

Zweifel als Produkt: Tabak, Klima und die Lehre vom gemachten Nichtwissen

Ein zweiter Strang der Geschichte stammt aus der Wirtschaft, und er ist besonders gut dokumentiert, weil Gerichte die internen Papiere der Unternehmen später öffentlich machten. 1969 hielt der Tabakkonzern Brown & Williamson in einem internen Papier fest: „Doubt is our product“, Zweifel ist unser Produkt, weil sich mit Zweifel am besten gegen das Wissen ankämpfen lasse, das die Öffentlichkeit über die Folgen des Rauchens bereits hatte.

Die US-amerikanische Wissenschaftshistorikerin Naomi Oreskes, geboren 1958, Professorin an der Harvard University, und der US-amerikanische Historiker Erik M. Conway, geboren 1965, tätig am Jet Propulsion Laboratory der NASA in Pasadena, haben in ihrem Buch „Merchants of Doubt“ von 2010 nachgezeichnet, wie die Industrie über Jahrzehnte Gegenstudien, Gutachten und Scheinkontroversen in Umlauf brachte. Sie zeigen außerdem, dass dieselben Methoden und zum Teil dieselben Fachleute später in den Debatten über sauren Regen, das Ozonloch und den Klimawandel wieder auftauchten. Das Ziel glich dem der Flut: Wer glaubt, die Wissenschaft sei sich uneinig, sieht keinen Grund, etwas zu ändern.

Für dieses gezielt hergestellte Nichtwissen gibt es einen eigenen Fachbegriff. Der US-amerikanische Wissenschaftshistoriker Robert N. Proctor, geboren 1954, Professor an der Stanford University und Verfasser des Buches „Golden Holocaust“ (2012) über die Geschichte der Zigarette, regte ihn an: 1992 prägte ein Sprachwissenschaftler auf seine Bitte hin das Wort Agnotologie, die Lehre vom Nichtwissen. 2008 gab Proctor gemeinsam mit einer Stanforder Kollegin einen Sammelband unter diesem Titel heraus. Proctors Grundgedanke ist für den Satz vom Sofa zentral: Nichtwissen ist manchmal einfach eine Lücke, die noch niemand gefüllt hat. Manchmal wird es aber hergestellt, mit Absicht, mit Geld und mit großem Geschick.

Information Disorder: Fehlinformation, Desinformation, Malinformation

Ordnung in die Begriffe brachten 2017 zwei Fachleute mit einem Bericht für den Europarat. Eine britische Medienforscherin, damals Forschungsleiterin der Organisation First Draft, die Redaktionen beim Umgang mit falschen Inhalten unterstützte, schrieb ihn gemeinsam mit Hossein Derakhshan, geboren 1975 in Teheran, einem iranisch-kanadischen Blogger und Medienforscher, der von 2008 bis 2014 in Iran inhaftiert gewesen war. Ihr Bericht trägt den Titel „Information Disorder“, auf Deutsch etwa Informationsstörung, und hat die Sprache geprägt, in der heute über das Thema gesprochen wird. Die Autoren unterscheiden drei Formen, je nachdem, ob eine Information falsch ist und ob jemand schaden will:

• Fehlinformation ist falsch, wird aber ohne Absicht zu schaden verbreitet. Die Nachbarin, die eine falsche Warnung weiterleitet, weil sie andere schützen will, verbreitet eine Fehlinformation.
• Desinformation ist falsch und wird mit Absicht verbreitet, um zu täuschen, zu schaden oder zu verdienen.
• Malinformation ist zutreffend, wird aber eingesetzt, um zu schaden, etwa wenn private Details aus dem Zusammenhang gerissen veröffentlicht werden.

Für den Alltag ist eine Beobachtung daraus besonders wichtig, und die Operation „Infektion“ hat sie vorgeführt. Fast jede Desinformation wird auf ihrem Weg zur Fehlinformation. Wer sie erfindet, weiß, was er tut. Wer sie in der dritten oder vierten Weiterleitung bekommt, glaubt meist daran und meint es gut. Der größte Teil der Verbreitung geschieht also durch Menschen ohne jede böse Absicht.

Wo sich die Forschung widerspricht

So eindeutig die Geschichte der Täuschung dokumentiert ist, so umstritten ist die Frage, wie stark sie heute wirkt. An drei Stellen reiben sich die Befunde.

1. Wie verbreitet ist Desinformation? Ein Forschungsteam der Harvard University und der Northeastern University in Boston untersuchte für die Fachzeitschrift „Science“ das Verhalten von mehr als 16.000 registrierten Wählerinnen und Wählern auf Twitter während des US-Präsidentschaftswahlkampfs 2016. Rund ein Prozent der Nutzer kam auf achtzig Prozent aller Kontakte mit Seiten, die Falschmeldungen verbreiteten, und rund ein Promille war für etwa achtzig Prozent der geteilten Falschmeldungen verantwortlich. Die Flut trifft demnach vor allem eine kleine, sehr aktive Gruppe.
2. Wird das Problem übertrieben? Drei Kognitions- und Medienforschende aus Frankreich und Italien warfen 2023 der eigenen Disziplin vor, selbst Fehlinformation über Fehlinformation zu verbreiten. Ihre Einwände lauten: Hohe Klickzahlen beweisen noch keinen Glauben, viele Menschen wissen über ein Thema schlicht wenig, ohne deshalb Falsches für wahr zu halten, und Falschmeldungen erreichen oft Menschen, die ihre Botschaft ohnehin teilen.
3. Können Warnungen schaden? Eine Gruppe von Kommunikationswissenschaftlern aus Amsterdam und Berlin zeigte 2023 in einem Experiment mit mehr als tausend Teilnehmenden, dass allgemeine Warnungen vor der Gefahr von Falschmeldungen die Glaubwürdigkeit zutreffender Nachrichten senkten. Wer ständig hört, überall lauere Desinformation, misstraut am Ende auch dem, was stimmt.

Diese Befunde und die Warnungen von RAND und Pomerantsev passen erstaunlich gut zusammen. Wenn die Flut nur wenige Menschen tatsächlich überzeugt, bleibt ihr wichtigster Effekt der, den Bannon beschrieben hat: der allgemeine Zweifel. Und der dritte Befund zeigt, dass dieser Zweifel aus zwei Richtungen genährt wird, von den Absendern der Flut und von gut gemeinter Dauerwarnung. Beides mündet in denselben Satz: Man weiß ja gar nicht mehr, was stimmt.

Was das für den Satz vom Sofa bedeutet

Damit wird auch klar, warum der Satz „Man weiß ja gar nicht mehr, was stimmt“ so gefährlich ist. Er schaltet genau die Fähigkeit ab, die vor Desinformation schützt: die Fähigkeit, Belegtes von Unbelegtem zu unterscheiden. Wer alles gleich ungewiss findet, behandelt einen Bericht mit offengelegten Quellen genauso wie ein anonymes Video. Den Bericht des Auswärtigen Amts zur Kampagne „Doppelgänger“ kann jeder nachlesen, das Video über die verschwundenen Stimmzettel nennt keinen einzigen nachprüfbaren Ort und keine einzige Zahl. Für den Satz vom Sofa sind beide gleich viel wert. Für die Absender der Flut ist das der ideale Zuhörer, und Proctor würde sagen: Hier ist Nichtwissen erfolgreich hergestellt worden.

Was möglich ist

Hinter dem Satz vom Sofa steckt eine Annahme, die fast niemand ausspricht: dass man bei jeder Meldung selbst herausfinden müsste, ob sie stimmt. Das schafft niemand, auch keine Journalistin und kein Wissenschaftler. Wer es versucht, gibt irgendwann erschöpft auf, und genau damit rechnet die Flut.

Derselbe Donnerstagabend kann auch anders enden. Deine Partnerin liest vor, das Stromnetz, die Stimmzettel, der angeblich tote Schauspieler. Diesmal legt sie das Handy nicht resigniert weg. Sie merkt, dass sich die Meldung über den Schauspieler mit seinem Frühstücksfoto längst erledigt hat und dass beim Video über die Stimmzettel nichts dabeisteht, woran man sich halten könnte: kein Ort, keine Zahl, keine Quelle. Bei den beiden Artikeln zum Stromnetz schaut sie, wer sie geschrieben hat und worauf sie sich berufen, und nur einer der beiden nennt überhaupt eine Stelle, die man nachlesen kann. Das Video schließt sie. Der Abend wird ruhiger, und der Satz vom Sofa fällt nicht.

Profis sortieren zuerst und stellen dabei fest, dass die allermeisten Aussagen gar keine Prüfung verlangen. Den Rest geben sie an denjenigen zurück, der etwas behauptet. Wie das im Alltag aussieht, mit genau zwei Fragen und ohne jede Recherche, ist der Inhalt des kostenlosen Onlinekurses Zwei Fragen; der Kern ist in 30 Minuten geschafft. Wer sich die Orientierung zurückholen möchte, die der Satz vom Sofa aufgegeben hat, findet den Kurs auf zweifragen.de.

„Man weiß ja gar nicht mehr, was stimmt“ ist genau der Satz, für den die Flut gemacht ist.

---

Quellen

1. Altay, Sacha; Berriche, Manon; Acerbi, Alberto: Misinformation on Misinformation. Conceptual and Methodological Challenges. In: Social Media + Society 9 (1), 2023.
2. Auswärtiges Amt: Technischer Bericht zur Desinformationskampagne „Doppelgänger“. Berlin, Juni 2024.
3. Bittman, Ladislav: The Deception Game. Czechoslovak Intelligence in Soviet Political Warfare. Syracuse University Research Corporation, Syracuse 1972.
4. Brown & Williamson: Smoking and Health Proposal. Internes Memorandum, 1969. Archiviert in den Truth Tobacco Industry Documents der University of California, San Francisco.
5. Grinberg, Nir; Joseph, Kenneth; Friedland, Lisa; Swire-Thompson, Briony; Lazer, David: Fake News on Twitter during the 2016 U.S. Presidential Election. In: Science 363 (6425), 2019, S. 374–378.
6. Lewis, Michael: Has Anyone Seen the President? In: Bloomberg Opinion, 9. Februar 2018.
7. New York Times: Lawrence Martin-Bittman, 87, Master of Disinformation, Dies. Nachruf, New York 2018.
8. Oreskes, Naomi; Conway, Erik M.: Merchants of Doubt. How a Handful of Scientists Obscured the Truth on Issues from Tobacco Smoke to Global Warming. Bloomsbury Press, New York 2010.
9. Paul, Christopher; Matthews, Miriam: The Russian „Firehose of Falsehood“ Propaganda Model. RAND Corporation, Santa Monica 2016.
10. Pomerantsev, Peter: Nothing Is True and Everything Is Possible. The Surreal Heart of the New Russia. PublicAffairs, New York 2014.
11. Proctor, Robert N.; Schiebinger, Londa (Hrsg.): Agnotology. The Making and Unmaking of Ignorance. Stanford University Press, Stanford 2008.
12. Rid, Thomas: Active Measures. The Secret History of Disinformation and Political Warfare. Farrar, Straus and Giroux, New York 2020.
13. van der Meer, Toni G. L. A.; Hameleers, Michael; Ohme, Jakob: Can Fighting Misinformation Have a Negative Spillover Effect? How Warnings for the Threat of Misinformation Can Decrease General News Credibility. In: Journalism Studies 24 (6), 2023, S. 803–823.
14. Wardle, Claire; Derakhshan, Hossein: Information Disorder. Toward an Interdisciplinary Framework for Research and Policy Making. Europarat, Straßburg 2017.