Die Algorithmen, die bestimmen, wie wir Informationen online finden, sind wieder in den Nachrichten zu finden - aber Sie müssen die Augen zusammenhalten, um sie zu finden.
"Trump beschuldigt Google, konservative Nachrichten in den Suchergebnissen vergraben zu haben", heißt es in einer Schlagzeile der New York Times vom 28. August. Das Stück zeigt einen bombastischen Präsidenten, eine Reihe bitterer Tweets und Vorwürfe der Zensur. "Algorithmen" werden erwähnt, aber nicht bis zum zwölften Absatz.
Trump hat - wie so viele andere Politiker und Experten - festgestellt, dass Suchmaschinen- und Social-Media-Unternehmen in der Debatte über freie Meinungsäußerung und Online-Zensur geeignete Ziele sind. "Sie haben es für mich und andere RIGGED, so dass fast alle Geschichten und Nachrichten SCHLECHT sind", twitterte der Präsident kürzlich. Er fügte hinzu: „Sie kontrollieren, was wir sehen und was nicht. Dies ist eine sehr ernste Situation - wird angegangen!"
Renee DiResta (@noUpside) ist ein Ideengeber für WIRED, den Forschungsdirektor von New Knowledge, und ein Mozilla-Mitarbeiter für Medien, Fehlinformationen und Vertrauen. Sie ist mit dem Berkman-Klein Center in Harvard und dem Data Science Institute an der Columbia University verbunden.
Trump hat teilweise recht: Sie kontrollieren, was wir sehen können und was nicht. Aber "sie" sind nicht die Führungskräfte, die Google, Facebook und andere Technologieunternehmen führen. "Sie" sind die undurchsichtigen, einflussreichen Algorithmen, die bestimmen, welche Inhalte Milliarden von Internetnutzern als Nächstes lesen, ansehen und teilen.
Diese Algorithmen sind unsichtbar, haben jedoch einen übergroßen Einfluss auf die Gestaltung des Online-Erlebnisses und der gesamten Gesellschaft. Der Videoempfehlungsalgorithmus von YouTube spornt täglich 700.000.000 Stunden an und kann Fehlinformationen verbreiten, Wahlen stören und zu Gewalt anregen. Algorithmen wie diese müssen korrigiert werden.
Aber in diesem Moment wird das Gespräch, das wir führen sollten - wie können wir die Algorithmen reparieren? - stattdessen von Politikern und Experten, die über Zensur heulen und die Moderation von Inhalten als den Niedergang der Redefreiheit im Internet missbrauchen, ausgewählt und verdreht. Es wäre gut, sie daran zu erinnern, dass Redefreiheit nicht freie Reichweite bedeutet. Es besteht kein Anspruch auf algorithmische Verstärkung. Genau das ist das Problem, das behoben werden muss.
Um zu sehen, wie diese Algorithmusverstärkung funktioniert, schauen Sie einfach bei RT oder Russia Today nach, einem staatlichen Propaganda-Outlet in Russland, das auch zu den beliebtesten YouTube-Präsenzen gehört. RT hat mehr als 6 Milliarden Aufrufe auf 22 Kanälen gesammelt, mehr als MSNBC und Fox News zusammen. Laut Neal Mohan, dem Chief Product Officer von YouTube, stammen 70 Prozent der Aufrufe auf YouTube aus Empfehlungen. Die Algorithmen der Website sind also maßgeblich dafür verantwortlich, die Propaganda von RT millionenfach zu verstärken.
Wie? Die meisten RT-Zuschauer machen sich nicht auf die Suche nach russischer Propaganda. Die Videos, die die Blicke auf sich ziehen, sind RTs clickbait-y, Gateway-Inhalte: Videos von hoch aufragenden Tsunamis, Meteoren, die Gebäude angreifen, Haiangriffe, Unfälle in Vergnügungsparks, einige sind Jahre alt, haben aber Kommentare von vor einer Stunde. Dieser Katastrophenporno ist sehr aufregend; Die Videos wurden zig Millionen Mal angesehen und werden wahrscheinlich bis zum Ende angesehen. Aus diesem Grund ist der YouTube-Algorithmus der Ansicht, dass es sich lohnt, den Zuschauern anderer RT-Inhalte Vorschläge zu unterbreiten. Daher kann ein amerikanischer YouTube-Nutzer, der nach Nachrichten sucht, schnell beobachten, wie Russland Hillary Clinton, die Einwanderung und aktuelle Ereignisse aufzeichnet. Diese Videos werden in Autoplay-Wiedergabelisten zusammen mit Inhalten seriöser Nachrichtenorganisationen bereitgestellt, wodurch RT selbst eine erhöhte Legitimität durch Assoziationen erhält.
Das soziale Internet wird durch Algorithmen vermittelt: Empfehlungs-Engines, Suche, Trending, Autocomplete und andere Mechanismen, die vorhersagen, was wir als nächstes sehen wollen. Die Algorithmen verstehen nicht, was Propaganda ist und was nicht, oder was "falsche Nachrichten" sind und was auf Fakten überprüft wird. Ihre Aufgabe ist es, relevante Inhalte zu präsentieren (die natürlich für den Benutzer relevant sind), und sie machen das außerordentlich gut. Tatsächlich sind die Ingenieure, die diese Algorithmen entwickelt haben, manchmal ratlos: „Selbst die Entwickler verstehen nicht immer, warum sie ein Video anstelle eines anderen empfehlen“, sagt Guillaume Chaslot, ein ehemaliger YouTube-Ingenieur, der an der Website mitgearbeitet hat Algorithmus.
Diese undurchsichtigen Algorithmen mit ihrem einzigartigen Zweck - „weiterschauen“- in Verbindung mit Milliarden von Benutzern sind ein gefährliches Rezept. In den letzten Jahren haben wir gesehen, wie schlimm die Folgen sein können. Propaganda wie RT-Inhalte werden weit und breit verbreitet, um die Polarisierung zu desinformieren und zu verschlechtern, insbesondere während demokratischer Wahlen. Die Algorithmen von YouTube können sich auch radikalisieren, indem sie "weisse supremacistische Rants, Holocaustleugnungen und andere störende Inhalte" vorschlagen, schrieb Zeynep Tufekci kürzlich in der Times. "YouTube ist möglicherweise eines der mächtigsten radikalisierenden Instrumente des 21. Jahrhunderts."
Das Problem geht jedoch über YouTube hinaus. Bei der Google-Suche können gefährliche Fehlinformationen gegen Impfstoffe die besten Ergebnisse liefern. Und auf Facebook kann Hassreden gedeihen und den Völkermord befeuern. In einem Bericht der Vereinten Nationen über den Völkermord in Myanmar heißt es: „Die Rolle der sozialen Medien ist von Bedeutung. Facebook war ein nützliches Instrument für diejenigen, die Hass verbreiten möchten, in einem Kontext, in dem Facebook für die meisten Benutzer das Internet ist. Inwieweit Facebook-Posts und -Botschaften zu Diskriminierung und Gewalt in der realen Welt geführt haben, muss unabhängig und gründlich untersucht werden. “
Was können wir dagegen tun? Die Lösung besteht nicht darin, die algorithmische Rangfolge zu verbieten oder die Gesetzgebung darüber zu stören, welche Ergebnisse Google zurückgeben kann. Algorithmen sind ein unschätzbares Werkzeug, um das immense Universum an Informationen online zu verstehen. Es steht eine überwältigende Menge an Inhalten zur Verfügung, um den Feed oder die Suchanfrage einer bestimmten Person zu füllen. Sortieren und Einordnen ist eine Notwendigkeit, und es hat nie Anzeichen dafür gegeben, dass die Ergebnisse systemische parteipolitische Tendenzen aufweisen. Das heißt, unbewusste Voreingenommenheit ist ein Problem in jedem Algorithmus; Aus diesem Grund haben Tech-Unternehmen seit dem Debakel der Facebook Trending News 2016 konservative Vorurteile untersucht. Es gab keine glaubwürdigen Beweise. Aber es gibt ein Vertrauensproblem und ein Unverständnis darüber, wie Rankings und Feeds funktionieren, und das ermöglicht es, dass Politik in böser Absicht Fuß fasst. Die beste Lösung besteht darin, die Transparenz und Internetkompetenz zu verbessern und den Benutzern ein besseres Verständnis dafür zu vermitteln, warum sie das sehen, was sie sehen. Außerdem können diese leistungsstarken kuratorischen Systeme mit einem Verantwortungsbewusstsein für das, was sie zurückgeben, aufgebaut werden.
Es hat positive Schritte in diese Richtung gegeben. Die oben genannten Schadensbeispiele haben im Kongress Untersuchungen ausgelöst, um zu verstehen, wie Tech-Plattformen unsere Gespräche und unseren Medienkonsum beeinflussen. In einer bevorstehenden Anhörung des Senats in der nächsten Woche wird das Senate Intelligence Committee Jack Dorsey von Twitter und Sheryl Sandberg von Facebook bitten, einen Bericht darüber vorzulegen, wie sie insbesondere Schritte zur Bekämpfung der Rechenpropaganda unternehmen.
