Ich begann erst zu verstehen, wie gefährlich die Lage mittlerweile ist, als ich letztes Jahr von Twitter nach San Francisco eingeladen wurde.
Twitters Hauptquartier liegt in einem imposanten Art-déco-Bau aus den 30er-Jahren. Ein nervöser Angestellter führte mich zum Empfang im fünften Stock, wo ich eine Vertraulichkeitsvereinbarung unterzeichnen musste. Dann brachte er mich in einen Konferenzraum. Dort sassen bereits Mitarbeiter verschiedener Teams, die ihrer Erklärung nach die Sicherheit des Twitter-Netzwerks garantieren sollten: Neurowissenschaftler, Politologen, Programmierer. Eine Stimme schaltete sich aus London zu. Alles wurde aufgezeichnet.
Es stellte sich heraus: Diese Leute, die viele als unangreifbare Techgötter sehen, hatten offensichtlich Angst. Denn ihr System war zu einer Waffe geworden; sie selbst nannten es weaponization. Bis heute frage ich mich, was Twitter dazu bewogen hat, sogar Journalisten wie mich nach Kalifornien einzuladen, um ein Problem zu diskutieren, das sie selbst in die Welt gesetzt haben.
Ich glaube mittlerweile, es war ein Zeichen dafür, dass die Götter die Kontrolle verloren hatten. Sie hatten einen Geist aus der Flasche gelassen und können ihn nun nicht mehr einfangen. Aber nicht nur Twitter. Facebook steckt noch viel mehr im Schlamassel. So sehr, dass das grösste Netzwerk der Welt in letzter Zeit mit einer Reihe fast wahnwitziger Änderungen (unter anderem beschnitt Facebook sich soeben freiwillig um sagenhafte 50 Millionen Nutzerstunden – pro Tag) versuchte, die Sache in den Griff zu bekommen. Welche Sache?
Um das Problem zu verstehen, muss man zunächst wissen, was ein soziales Netzwerk eigentlich ist.
Ein soziales Netzwerk ist eine Maschine, die gegen sich selber kämpft. Sie besteht aus drei Elementen. Erstens dem Algorithmus, der auswählt, welche Inhalte wir wann und wo zu sehen bekommen. Er soll nichts anderes als das «Engagement» jedes einzelnen Nutzers maximieren. Das ist die Zeit, die man im sozialen Netzwerk verbringt, und die Intensität, mit der man sich mit den Inhalten auseinandersetzt, sie anklickt, kommentiert und weiterleitet.
Man kann sich den Algorithmus wie eine Formel vorstellen, die mittlerweile so lang und kompliziert geworden ist, dass kein Mensch sie mehr komplett verstehen kann. Der Algorithmus macht für uns Inhalte sichtbar, die dieses Engagement möglichst fördern sollen. Manchmal ruft er aber zu viele Inhalte auf. Daher gibt es zweitens die menschlichen Säuberungsteams, die in einem konstanten Kampf gegen die unerwünschten Nebeneffekte des Algorithmus liegen. «Content-Moderatoren» nennen die Unternehmen ihre Zensoren. Diese filtern unerwünschte Posts heraus – Terrorvideos, Sex, Selbstverstümmelungen oder Morde. Sie sind Richter, die nach vom Unternehmen verfassten, stets geheimen Gesetzestexten arbeiten. Facebook mit seinen rund 20 000 Mitarbeitern beschäftigt rund um die Welt offiziell 7500 Zensoren. Ohne sie würde unser Feed aussehen wie ein Horrorfilm.
Das dritte Element jedes Netzwerkes ist Werbung. Wer auch immer dafür zahlt, kann, egal was es ist, in unseren Feed buchen. Die Kraft des Werbegelds geht über die Kraft des Algorithmus und der Löschtruppen. Weil sich soziale Netzwerke von Werbegeldern ernähren, ist ihr Ziel die Maximierung des Engagements des Users auf der Plattform. Je länger dieser im Netzwerk bleibt, desto mehr Werbung kann es ihm füttern. Und je besser man versteht, was den Benutzer interessiert, desto höher treibt man auch den Wert der Werbung. Und damit die Einnahmen.
Werbung ist, abstrakt gesehen, meist eine positive Nachricht über etwas. Ein Produkt, eine Dienstleistung oder ein Thema. Es kostet eine Menge Geld, Werbung zu verbreiten im Social Network. Die irren Einnahmen der Netzwerke – Facebook erwirtschaftete 2017 über 40 Milliarden Dollar Umsatz – sind Messwert dafür, welcher Aufwand nötig ist, um solche positive Informationen zu verbreiten.
Denn das Netzwerk selber verbreitet von sich aus eher negative und falsche Nachrichten. Das zeigt sich in den Fluten von Fake News und fabrizierten Horrormeldungen, die in Netzwerken die traditionellen Medien so oft übertönen. Aber warum verbreiten sich negative Emotionen schneller und weiter als positive? Kurz gesagt: Netzwerke bevorzugen Inhalte, die man FUD nennt – fear, uncertainty, doubt, auf Deutsch: Angst, Unsicherheit, Zweifel. Wir kennen den Begriff Shitstorm – aber hat jemand schon mal von einem Lovestorm gehört?
Ein Shitstorm ist eine Form der blitzartigen sozialen Synchronisierung von Stimmungen. Hunderte oder gar Millionen Menschen verkünden auf einen Schlag dieselbe Haltung zu einem Thema oder einer Person, wie bei #MeToo. Im Kern sind soziale Netzwerke Instrumente der emotionalen Synchronisierung. Sie sind emotionale Netzwerke. In sozialen Netzwerken geht es um das Liken, um Freunde, um Emojis. Soziale Netzwerke werden kaum genutzt, um wissenschaftliche Arbeiten zu teilen.
1759 notierte Adam Smith eine seltsame Beobachtung in seinem Buch «Die Theorie der ethischen Gefühle»: Menschen lassen sich eher von negativen Gefühlen bewegen als von positiven. Wir haben eher Mitleid, wenn der Nachbar bankrottgeht, als dass wir uns mitfreuen, wenn er im Lotto gewinnt. Die lernenden Algorithmen der Netzwerkbetreiber bilden diese menschliche Eigenschaft einfach ab – und verstärken sie dadurch.
Wie erfolgreich die Netzwerke dabei waren, zeigt die wachsende Nutzerzahl. Allein Facebook hat über zwei Milliarden monatliche Nutzer. Und natürlich gibt es noch Twitter, Instagram, WeChat in Asien, Snapchat, Messenger wie Whatsapp, in denen sich Netzwerke bilden, und zahlreiche lokal populäre Services. In der Schweiz hängt fast die Hälfte der Bevölkerung an Facebook, in manchen Ländern, wo das Unternehmen auch noch den Netzzugang anbietet, nennt man das Internet an sich Facebook. Mittlerweile sind mehr Menschen an Social Media angeschlossen, als es Smartphone-User gibt, und summiert man die Netzwerkaccounts, kommt man auf mehr Profile, als es Menschen gibt auf der Welt. Einfach weil viele bei mehreren Netzwerken sind.
Feedbackloop des Grauens
Die Effekte von Social Media auf unsere physische Realität werden inzwischen immer klarer. Vielleicht erklärt die Logik der Netzwerke zu einem gewissen Teil das Phänomen, dass selbst in friedlichen und florierenden Ländern die öffentlichen Debatten immer aggressiver und gleichzeitig deprimierender werden. FUD wirkt. Ein Feedbackloop des Grauens ist entstanden zwischen physischer und Onlinewelt. Und ein neuer Typus des digitalen Attentäters will Schockwellen durchs Netzwerk senden. Zum Meme werden.
Es gab den Pizzagate-Schützen, der, von Gerüchten im Netzwerk aufgeheizt, hinter einer harmlosen Pizzeria einen von Hillary Clinton unterstützten Pädophilenring vermutete. Hetzjagden auf Social Media führen zu Selbstmorden und physischen Attacken auf Personen oder ganze Volksgruppen. Die «New York Times» hat die ethnischen Säuberungen gegen die muslimische Minderheit der Rohingya in Burma als Effekt unkontrollierter Facebook-Hetze bezeichnet.
Es ist offensichtlich: Manche haben diese Kraft als Waffe entdeckt. Viele begannen schon in der Frühzeit der Netzwerke. Aus mobbenden Teenagern bei MySpace wurden Trolls bei Facebook, die ein Arsenal an Methoden entwickelten, um andere zu erniedrigen. Manche rutschen hinein, weil sie mit dem rauen Ton im Netz nicht zurechtkommen, und fangen an, private Kämpfe zu führen. Andere wurden Profi-Trolls, digitale Söldner, die Störund Hassaktionen auf egal welchem Netzwerk für Profit durchführen.
Bald begannen Staaten wie Russland und China, Trolls für politische Zwecke zu rekrutieren. Die Methoden, wie man die Mechanismen der Netzwerke von Twitter bis Facebook für Attacken nutzt, wurden verfeinert. Bei gezielten Shitstorm-Attacken sprechen sich die Angreifer ab, bevor sie zu einem vereinbarten Zeitpunkt Hassund Denunziationsvideos über Dutzende Netzwerke, in x-fachen Variationen verteilen. Sie kreieren ein gemeinsames Stichwort, einen Hashtag beispielsweise, damit die Attacke zielgerichtet verläuft und steuerbar bleibt. Zugleich fordern sie ihre Follower auf, Kopien der Postings hochzuladen. Dazu kann man noch automatisierte Fakeprofile kaufen, welche die eigene Botschaft multiplizieren.
Das Ziel ist es, «Trend» zu werden, also das Löschteam zu überrennen, den Netzwerkalgorithmus auszutricksen und dazu zu bringen, die eigene Botschaft auch noch weiterzuverbreiten. Shitstorms können heute nach Belieben fabriziert und gekauft werden. Guerilla-Marketing findet zu seiner kriegerischen Bedeutung zurück. Es herrscht Krieg. Das plagt die Netzwerke. Daher war ich bei Twitter bei einem Team namens Security geladen. Allerdings wussten die auch nicht, was tun.
Denn die Quintessenz jedes Netzwerks, die Nutzerprofile, sind aus Perspektive der Onlinekrieger Waffen, durch die man etwas abfeuern kann. Wie Kalaschnikows, billig in der Produktion, weltweit verbreitet.
Die Munition wiederum sind ansteckende Ideen. Die viral gehenden Posts, die Memes. Weltweit tobt ein Wettrüsten darum, wer die explosivsten Ideen kreiert. Die, die beim Gegner am meisten fear, uncertainty und doubt auslösen. Bekannt wurde die Trollfabrik in St. Petersburg, deren gezielte Meme-Fabrikation den US-Wahlkampf beeinflusst hat, Demonstrationen, Schlägereien und Shitstorms auslöste oder beflügelte. Von der Fabrik aus wird bei Facebook, Youtube und Twitter am Fliessband gepostet und auch Werbung gebucht. Denn auch die kann viral gehen, vom Algorithmus aufgegriffen werden. Alle paar Minuten posten die Profile mit den falschen Absenderangaben. Die Fabrik hat offizielle Budgets und führt Tests über die Wirksamkeit der Posts durch, was gar nicht so schwierig ist, denn die Social-Media-Unternehmen liefern Kunden detailliertes Feedback.
Daneben gibt es aber auch private Freischärler, die auf Foren wie 4Chan oder Reddit laufend kostenlos Munition für ihre jeweiligen politischen Lager herstellen. Der Wrestling-Clip beispielsweise, in dem Donald Trump eine Person mit einem CNN-Logo als Kopf niederringt, war schlicht aus einem Forum kopiert. Auch in der Schweiz wird mit Memes gekämpft. Die politische Vereinigung Operation Libero bezeichnet ihre Helfer im Netz als «Online Warriors».
Alle diese Memes-Bauer arbeiten auf den ultimativen Post hin. Gesucht wird eine toxische Idee, die viral geht, den Gegner bricht, in ihm so viel Angst, Verzweiflung, Stress auslöst, dass er kollabiert.
Der Blitzschlag
Als ich Twitter verliess an diesem Sommertag in San Francisco, begann ich zu begreifen: Die Superwaffe des digitalen Zeitalters wird keine wild gewordene künstliche Intelligenz sein. Keine Superdrohne. Die neue Superwaffe wird nicht von Ingenieuren erdacht. Sie besteht aus Worten oder Bildern. Vielleicht wird sie von Dichtern gebaut. Vielleicht von düsteren Poeten wie dem Putin-Zuflüsterer Wladislaw Surkow, der als ein Meister der unsichtbaren Kriegsführung gilt, die Gesellschaften von innen auflöst mit FUD, bis es zum Morden kommt. Die neue Superwaffe wird eine zerstörerische Idee sein, die sich schlagartig durch die Netzwerke verbreitet.
Es wäre wie ein Blitzschlag ins Netzwerk. Etwa drei Milliarden Menschen nutzen Social Media. Die Netzwerkwaffe hätte eine grössere Reichweite als die grössten Atombomben, eine grössere Verbreitung als alle Kleinfeuerwaffen auf der Welt, und sie wäre ansteckender als jedes Virus. Das war es, was die Twitter-Mitarbeiter fürchteten.
Das Magazin