Am 1. August 2018 veranstaltete das Senate Select Committee on Intelligence eine öffentliche Anhörung, in der Experten befragt wurden, wie ausländische Akteure soziale Medien genutzt haben und nutzen, um sich in den politischen Prozess in den USA einzumischen. Die Frage, ob sich russische Einheiten in die amerikanische Politik einmischten, stand nicht zur Debatte. das ist schon fest verankert. Es stand auch außer Frage, ob Operationen mit russischem Einfluss über soziale Plattformen hinweg laufen: Sie sind es. Nur 24 Stunden vor der Anhörung gab Facebook bekannt, dass es zahlreiche gefälschte Seiten gefunden hatte, die sich als linke Aktivisten tarnten. Vielmehr wollte das Komitee, dass Forscher in den Akten Fakten festhalten, die konkret belegen, was über Social Media-Einflussoperationen vor, während und nach den Präsidentschaftswahlen 2016 gelernt wurde. Sie wollten auch wissen, wie wir das verhindern können?
Fünf Experten haben ausgesagt, darunter ich. Wir waren uns alle einig: Dies ist ein Informationskrieg. Diese Operationen dauern an und die Gegner werden sich weiterentwickeln.
Renee DiResta (@noUpside) ist ein Ideengeber für WIRED, den Forschungsdirektor von New Knowledge, und ein Mozilla-Mitarbeiter für Medien, Fehlinformationen und Vertrauen. Sie ist mit dem Berkman-Klein Center in Harvard und dem Data Science Institute an der Columbia University verbunden.
In meinem Zeugnis habe ich dargelegt, dass es sowohl eine kurzfristige Bedrohung - die Entführung von Berichten bei den bevorstehenden Wahlen 2018 - als auch erhebliche langfristige Herausforderungen gibt. Entscheidend ist, dass sowohl die technischen Plattformen als auch die Regierung entscheiden müssen, wie sie auf Informationsvorgänge reagieren, und gleichzeitig unser Engagement für Redefreiheit und den freien Fluss von Ideen beibehalten. Senator James Risch hat es so formuliert: "Die Schwierigkeit ist, wie trennt man die Leute [ausländische Gegner], die dies tun, von den Amerikanern, die das Recht haben, dies zu tun?"
Derzeit liegt die Verantwortung für die Lösung dieses Problems bei den privaten Plattformen, die unsere öffentlichen Plätze kontrollieren. Aber das scheint nicht zu funktionieren. Denn die Beseitigung von Fehlinformationen bei gleichzeitiger Wahrung der Redefreiheit ist eine enorme Herausforderung, unabhängig davon, wie Sie mit den technischen Plattformen umgehen.
Und jetzt kämpfen Regierungsbeamte mit ihrer Rolle in diesem Kampf. Vor der Anhörung veröffentlichte Senator Mark Warner, der stellvertretende Vorsitzende des SSCI, ein Strategiepapier, das Ideen für die Regulierung von Technologien enthielt und sich gleichzeitig mit der Verantwortung der Regierung befasste. Seine Vorschläge waren umfassend und berührten wichtige Themen, einschließlich spezifischer technischer Fragen im Zusammenhang mit Computerpropaganda, den Auswirkungen auf die Verbraucher und dem Mangel an klaren Rollen und Verantwortlichkeiten, die von Plattformen und der Regierung getragen werden. Senator Ron Wyden, einer der Autoren von Section 230 des Communications Decency Act, der Gesetzgebung, die Internetunternehmen davor bewahrt hat, für die auf ihren Plattformen veröffentlichten Informationen haftbar zu sein, war auch in der Anhörung besonders energisch und erklärte: „Diese Pfeifen sind nicht mehr neutral “, und das gab den Plattformen sowohl einen„ Schild als auch ein Schwert “- und sie hatten das Schwert ignoriert.
Letztendlich stellt die Regierung - und die breite Öffentlichkeit - jedoch fest, dass sich Desinformation, Fehlinformation und Social-Media-Hoaxes von einem Ärgernis zu einem Informationskrieg mit hohen Einsätzen entwickelt haben, unsere Rahmenbedingungen für den Umgang mit ihnen jedoch unverändert geblieben sind. Wir diskutieren Counter-Messaging und behandeln dies eher als ein Problem falscher Geschichten als als einen Angriff auf unser Informationsökosystem. Wir befinden uns inmitten eines Wettrüstens, bei dem die Verantwortung für die Integrität des öffentlichen Diskurses weitgehend in den Händen privater sozialer Plattformen liegt und entschlossene Gegner immer wieder neue Wege finden, um Merkmale zu manipulieren und Sicherheitsmaßnahmen zu umgehen. Bei der Bekämpfung von Computerpropaganda und Desinformation geht es nicht darum, die Wahrheit zu vermitteln. Es geht darum, auf Information Warfare zu reagieren - ein Thema der Cybersicherheit - und es muss durch Zusammenarbeit zwischen Regierungen, die für die Sicherheit ihrer Bürger verantwortlich sind, und der Privatwirtschaft, die für die Integrität ihrer Plattformen verantwortlich ist, angegangen werden.
Böswillige Narrative gibt es schon seit sehr langer Zeit, aber die heutigen Einflüsse unterscheiden sich erheblich - die Propaganda wird von Freunden auf beliebten sozialen Plattformen geteilt. Es wird effizient durch Algorithmen erweitert, sodass Kampagnen einen beispiellosen Umfang erreichen. Gegner nutzen das gesamte Ökosystem, um den Eindruck eines Konsenses in der Bevölkerung zu erwecken. Inhalte werden auf Plattformen wie YouTube, Reddit und Pinterest erstellt, getestet und gehostet. Es wird an Twitter und Facebook mit einem ständigen Publikum von Hunderten von Millionen gesendet und richtet sich an die aufnahmefähigsten Personen. Trendalgorithmen sorgen dafür, dass Inhalte viral werden. Dies hat häufig den zusätzlichen Vorteil, dass die Medien in den traditionellen Kanälen, einschließlich Fernsehen, allgemein verbreitet sind. Wenn ein Vorgang erfolgreich ist und der Inhalt weit verbreitet wird oder die Seite oder Gruppe genügend Follower erhält, werden Empfehlungen und Suchmaschinen ihn weiterhin bereitstellen.
Die Internet Research Agency, die russische Trollfarm, die wegen Einmischung in die US-Wahlen angeklagt ist, hat dieses Spielbuch verwendet. Ihr Betrieb begann um das Jahr 2013, dauerte bis zu den Wahlen im Jahr 2016 und nahm 2017 sogar auf einigen Plattformen wie Instagram zu. Der Betrieb erreichte Hunderte Millionen Nutzer über Facebook, Twitter, Vine, YouTube, G +, Reddit, Tumblr und Mittel. Es wurden Websites erstellt, um Inhalte zu verbreiten, von sozialen Themen bis hin zu Bedenken in Bezug auf Krieg, Umwelt und GVO. Twitter-Accounts, die als lokale Nachrichtensender getarnt sind. Petitionen von WhiteHouse.gov wurden kooptiert. Facebook-Events wurden beworben und Aktivisten wurden persönlich über Messenger kontaktiert, um die Operation auf die Straße zu bringen.
Dieses Problem ist eine der bestimmenden Bedrohungen unserer Generation. Einflussnahme-Operationen nutzen unser Engagement für Redefreiheit und den freien Fluss von Ideen.
Der Schwerpunkt der IRA-Kampagne lag auf der Ausnutzung sozialer und insbesondere rassistischer Spannungen. Trotz der Behauptung von YouTube, dass der auf seiner Plattform gefundene Inhalt „nicht auf einen bestimmten Sektor der US-Bevölkerung ausgerichtet ist“, bezog sich die Mehrheit auf Themen, die für die schwarze Community von Bedeutung sind, insbesondere auf Schießereien mit Beteiligung von Offizieren. Hunderttausende Amerikaner mochten Facebook-Seiten mit Namen wie Blacktivist, Heart of Texas und Stop All Invaders. Die Menge an explizit politischen Inhalten, in denen Kandidaten erwähnt wurden, war gering, aber in ihrer Negativität gegenüber der Kandidatur von Sekretär Clinton einheitlich. Zu den Inhalten, die sich an die Linke richteten, gehörten Botschaften, die darauf abzielten, die Wahlbeteiligung unter den schwarzen Wählern zu senken oder Minister Clinton im Vergleich zu Jill Stein oder Senator Bernie Sanders in einem negativen Licht zu sehen. Und fast zwei Jahre nach der Wahl 2016 können nur die sozialen Netzwerke, in denen diese Kampagne stattfand, ihre Wirkung messen.
Die IRA war nicht der einzige Gegner, der amerikanische Bürger online ansprach. Die Kooptation sozialer Netzwerke erlangte 2014 das allgemeine Bewusstsein, als ISIS ein virtuelles Kalifat errichtete. Die Debatte darüber, was zu tun ist, machte deutlich, dass niemand das Sagen hatte. Diese Verwirrung setzt sich fort, auch wenn die Bedrohung zunimmt: Das Wall Street Journal hat kürzlich bekannt gegeben, dass ein privates Geheimdienstunternehmen, die Psy-Group, ihre Fähigkeit vermarktet hat, ähnliche Einflüsse auf die Wahlen 2016 auszuüben.
Soziale Plattformen haben begonnen, Maßnahmen zu ergreifen, um die Verbreitung von Desinformation zu verringern. Diese Schritte, von denen einige von früheren technischen Anhörungen inspiriert wurden, sind ein guter Anfang. Aber wenn sich Plattformfunktionen und -schutz ändern, werden entschlossene Gegner neue Taktiken entwickeln. Wir sollten mit einer Zunahme des Missbrauchs von sozialen Plattformen mit geringeren Ressourcen und einer Zunahme der Nutzung von Peer-to-Peer-verschlüsselten Messaging-Diensten rechnen. Zukünftige Kampagnen werden durch den Einsatz von witzigen oder unwissenden Menschen verstärkt, durch die staatliche Akteure ihre Propaganda filtern. Und wir sollten damit rechnen, dass neue Technologien wie von AI produzierte Videos („Deepfakes“) und Audiodateien eingesetzt werden, um diese Vorgänge zu ergänzen. Dadurch wird es für die Menschen immer schwieriger, dem zu vertrauen, was sie sehen.
Dieses Problem ist eine der bestimmenden Bedrohungen unserer Generation. Influence Operations nutzen Spaltungen in unserer Gesellschaft aus und nutzen Schwachstellen in unserem Informationsökosystem. Sie nutzen unser Engagement für Redefreiheit und den freien Fluss von Ideen. Die Social-Media-Plattformen können und sollten nicht die einzigen Verteidiger der Demokratie und des öffentlichen Diskurses sein.
