Jeder Einkauf, den Sie mit einer Kreditkarte tätigen, jedes Zeitschriftenabonnement und jede ärztliche Verschreibung, die Sie ausfüllen, jede Website, die Sie besuchen und die Sie per E-Mail senden oder empfangen, jede akademische Note, jede Bankeinzahlung, jede Reise, die Sie machen Buch und jede Veranstaltung, an der Sie teilnehmen - all diese Transaktionen und Kommunikationen werden in eine virtuelle, zentralisierte große Datenbank eingehen “, warnt der Kolumnist der New York Times.
Nach den zahlreichen Aussagen von Mark Zuckerberg und der anhaltenden Kritik am Cambridge Analytica-Skandal muss der Autor dieser Times-Kolumne über Facebook sprechen - richtig? Oder vielleicht das umfassendere, werbebasierte Geschäftsmodell des Webs?
Nicht so: Die William Safire-Kolumne "Du bist ein Verdächtiger" wurde 2002 in der Times veröffentlicht - zwei Jahre bevor Facebook gegründet wurde. Und Safire spricht nicht über soziale Netzwerke oder digitale Werbung Das Darpa-Programm (US Defence Advanced Research Projects Agency) schlug vor, große Datenmengen von Amerikanern abzubauen, um potenzielle nationale Sicherheitsbedrohungen zu identifizieren. Die virtuelle große Datenbank sollte dem Verteidigungsministerium gehören, das sie zur Identifizierung hilfreicher Verhaltensmuster verwenden würde aufkommende terroristische Bedrohungen vorherzusagen.
Renee DiResta (@noUpside) ist ein Ideengeber für WIRED, den Forschungsdirektor von New Knowledge, und ein Mozilla-Mitarbeiter für Medien, Fehlinformationen und Vertrauen. Sie ist mit dem Berkman-Klein Center in Harvard und dem Data Science Institute an der Columbia University verbunden.
Heute nehmen wir freiwillig an dem vor 16 Jahren geplanten dystopischen Szenario von Safire teil, bei dem jede Datenmenge an Unternehmen wie Facebook und Google weitergegeben wird. Aber in diesem System sind private Unternehmen unsere Informationsspeicher - so dass wir mit den Konsequenzen einer Welt rechnen müssen, die Unternehmen mit Daten ausstattet, die einst für die Regierung als zu empörend empfunden wurden.
Das Total Information Awareness-Projekt von Admiral John Poindexter war ein Metaprogramm. Es wurde entwickelt, um Signale zu aggregieren, die über andere Programme generiert wurden, die aus Darpas Information Awareness Office ausgeführt werden. Die Programme konzentrierten sich auf eine Reihe von Funktionen, darunter Informationsanalyse, Tools zur Entscheidungsunterstützung, Sprachübersetzung, Data Mining und Mustererkennung. Wenn die Bestandteile kombiniert würden, würden sie ein umfassendes Bild der Menschen und ihres Verhaltens bilden. Ziel war es, Signale zu erkennen, mit denen terroristisches Verhalten erkannt und Angriffe abgewehrt werden konnten. Die Inspiration war die Tatsache, dass die Regierung die Punkte, die die Terroristen vom 11. September hinterlassen hatten, bei der Planung ihres Angriffs nicht in Einklang gebracht hatte.
Die Besorgnis über das Programm war überparteilich und weit verbreitet. Das Cato-Institut warnte vor dem Potenzial einer Überwachungsgesellschaft und äußerte Bedenken hinsichtlich des vierten Verfassungszusatzes. Die ACLU nannte es einen virtuellen Magneten, bei dem die Regierung "so viele Informationen wie möglich über jeden sammeln muss - und heutzutage sind das VIELE Informationen … Nicht nur Regierungsunterlagen aller Art, sondern auch Kranken- und Finanzunterlagen von Einzelpersonen." politische Überzeugungen, Reisegeschichte, Rezepte, Kaufgewohnheiten, Kommunikation (Anrufe, E-Mails und Surfen im Internet), Schulunterlagen, persönliche und familiäre Beziehungen usw. “Der US-Senat, angeführt von den Senatoren Ron Wyden und Byron Dorgan, stimmte einstimmig ab das Programm kurz nach Bekanntgabe zu beenden; Einige der technologischen Grundlagen wurden neu gemischt und an andere Teile der Regierung geschickt, die sich nicht auf die Aktivitäten der US-Bürger konzentrierten.
Aber als Total Information Awareness in Washington, DC, demontiert wurde, entstand ein ähnliches System und begann, im Silicon Valley Fahrt aufzunehmen. Innerhalb weniger Jahre begannen Top-Branchentrendberichte und VC-Blogposts, die Leistungsfähigkeit (und das wirtschaftliche Versprechen) von „Big Data“und „Social Mobile Local“zu beleuchten.
Heutzutage können Sie wahrscheinlich mehrere Unternehmen benennen, die Zugriff auf Daten zu jedem Einkauf mit Kreditkarte, jedem Zeitschriftenabonnement, jeder Website, die Sie besuchen und per E-Mail senden oder empfangen, jeder Reise, die Sie buchen, und jeder Veranstaltung, an der Sie teilnehmen, haben - Alle Arten von Daten, auf die Safire verwiesen hat, die jedoch gesammelt wurden, um Verhaltensmuster zu ermitteln, die eine Vorhersage darüber ermöglichen, auf welche Anzeigen Sie klicken.
Im privaten Sektor begannen sowohl Startups als auch große Unternehmen anzukündigen, wie gut sie Daten sammeln, speichern und abbauen konnten. Es war ein beliebtes Geschäftsmodell. Die Tatsache, dass dies geschah, war kaum ein Geheimnis - personalisierte Anzeigen in Google Mail, universelle Anmeldungen und Retarget-Anzeigen, die uns von Site zu Site folgten, waren selbst für Benutzer mit geringen Kenntnissen ohne weiteres ersichtlich. Die größten Technologieunternehmen der Welt waren erfolgreich, weil sie Produkte herstellten, die die Benutzer liebten - ihre Benutzer entschieden sich freiwillig dafür, ihre Informationen und Verhaltensdaten preiszugeben. Die weit verbreitete Nachverfolgung und Datenaggregation wurde zur Norm, da universelle Anmeldungen, die Verfolgung von Pixeln, das Eindringen in verknüpfte Produkte (z. B. Google Mail) und die Akquisition von Startups es den Tech-Plattformen ermöglichten, mühelos umfassende Benutzerprofile zu erstellen.
Bei einer Kongressanhörung im vergangenen Monat hat Senatorin Maria Cantwell im Austausch mit Facebook-Chef Mark Zuckerberg die Ähnlichkeit zwischen TIA und privatem Informationssammeln herausgestellt:
"Haben Sie von Total Information Awareness gehört?", Fragte Senator Cantwell. "Weißt du, worüber ich rede?"
"Nein, das tue ich nicht", antwortete Zuckerberg.
Es war nicht unvernünftig, dass Zuckerberg noch nie von dem Programm gehört hatte. Immerhin wurde es vorgeschlagen, als er in der High School war. Cantrell erläuterte die Initiative: Data Mining in großem Maßstab mit dem Potenzial für beispiellose Überwachung, Kontrolle und Identifizierung. Sie führte WhatsApp und Palantir als weitere Beispiele für Data Harvester privater Unternehmen an, die sie als "großen Trend im Informationszeitalter" bezeichnete. Ihre Untersuchung, die Parallelen zwischen mehreren Unternehmen und TIA zieht, wirft wichtige Fragen auf: Sektoreinheiten, die ein Maß an Macht anhäufen, das die Amerikaner Darpa verweigerten? Welche Konsequenzen hat dieses Tool außerhalb der Kontrolle der Öffentlichkeit? Und wohin gehen wir von hier aus?
Es gibt natürlich ein paar kritische Unterschiede zwischen Total Information Awareness und den Plattformen, die von Social Media-Riesen betrieben werden. Erstens erklären sich Benutzer freiwillig mit den Nutzungsbedingungen der Unternehmen einverstanden. Die Leute wissen angeblich, was sie im Austausch für kostenlose E-Mails, Nachrichten und Möglichkeiten, Bilder zu teilen und sich mit Freunden zu verbinden, aufgeben. Zweitens sind die Einsätze sehr unterschiedlich: Die Regierung hat die Macht, Sie zu verhaften; Facebook und Google nicht.
Total Information Awareness befasste sich ausschließlich mit der Überwachung und der Frage, wie sie sowohl defensiv als auch offensiv eingesetzt werden kann. Auf Facebook im Frontend geht es um Likes und Fotos sowie um Status-Updates und Community. Google ist eine großartige Suchmaschine und ein beliebter E-Mail-Anbieter. Aber die Backends unserer privaten Unternehmen ähneln unheimlich der TIA, und es gibt dieselben Bedrohungen - aber ohne die öffentliche Kontrolle zu beeinträchtigen. Das ist gefährlich. Jetzt können mehrere Regierungen, nicht nur unsere eigenen, auf einen riesigen Datenbestand zurückgreifen, um unser Verhalten vorherzusagen und auf uns abzuzielen. In der Tat, wie wir erfahren haben, haben andere Nationen es bereits missbraucht, wie beispielsweise Russland, das Präzisionsziele und umfangreiche Datenmengen einsetzte, um amerikanische Bürger zu erreichen.
Die privaten Plattformen, auf denen sich die für ein umfassendes Informationsbewusstsein erforderlichen Datenerfassungs- und Mining-Mechanismen angesammelt haben, sind ironischerweise nicht verpflichtet, sie für die ursprüngliche nationale Sicherheit und Terrorismusbekämpfung zu nutzen, die TIA inspiriert (und angeblich gerechtfertigt) haben - und viele Organisationen für digitale Bürgerrechte tun dies nicht glauben sie sollten. Beunruhigender ist jedoch, dass unsere sozialen Plattformen möglicherweise das Gegenteil bewirken: Sie radikalisieren möglicherweise versehentlich Extremisten. Es scheint zunehmend möglich, dass die Idee, dass soziale Signale frühe Anzeichen für Radikalisierung erkennen oder diejenigen heraussuchen können, die wahrscheinlich empfänglich oder sympathisch sind, eine Rolle spielt. Als Reaktion darauf verwenden unsere Empfehlungs-Engine und Suchfunktionen möglicherweise versehentlich diese Signale, um den Prozess weiter zu vereinfachen - das genaue Gegenteil von Erkennung und Intervention.
