Das Silicon Valley befindet sich mitten im Erwachen, in der beginnenden, aber selektiven Erkenntnis, dass ihre Produkte eingesetzt werden können, um schreckliche Ziele zu erreichen.
In den letzten Monaten hat sich dieses wachsende Unbehagen in den Reihen einiger der größten Unternehmen des Tals zu einem regelrechten Aufstand ausgeweitet. Dies begann im April, als die Google-Mitarbeiter der Beteiligung an einem Pentagon-Programm für künstliche Intelligenz mit dem Namen Project widersprachen Maven. Am Montag schickten die Aktionäre von Amazon einen offenen Brief, in dem sie CEO Jeff Bezos aufforderten, ein Programm zur Entwicklung von Gesichtserkennungssoftware für Regierungen einzustellen, bis eine Überprüfung durch den Verwaltungsrat ansteht. Auch diese Woche, als allgemeines Entsetzen über die neue "Null-Toleranz" -Einwanderungspolitik der Trump-Administration aufkam, die zur Trennung von mehr als 2.000 Kindern von ihren Eltern geführt hat, lehnten Microsoft-Mitarbeiter den Vertrag ihres Unternehmens mit US Immigration and Customs Enforcement ab Verwenden Sie die Azure-Cloud-Dienste von Microsoft.
"Wir sind Teil einer wachsenden Bewegung, die sich aus vielen Branchenmitgliedern zusammensetzt, die sich der großen Verantwortung bewusst sind, dass diejenigen, die leistungsstarke Technologien entwickeln, sicherstellen müssen, dass das, was sie herstellen, zum Wohle und nicht zum Schaden verwendet wird", heißt es in einem offenen Brief an das Unternehmen Internes Message Board Dienstag.
Am selben Tag veröffentlichte Microsoft-Präsident Brad Smith einen Blogbeitrag, in dem er die Regierung aufforderte, die Null-Toleranz-Politik zu beenden. Er wies auch darauf hin, dass Microsoft Kids in Need of Defense mitbegründet hat, eine der größten Interessengruppen für Einwanderer, die daran arbeitet, Kinder und Eltern wieder zusammenzubringen und deren Vorstand Smith selbst vorsitzt. CEO Satya Nadella sandte am Mittwoch ein unternehmensweites Memo, das er auch online veröffentlichte, und versicherte den Mitarbeitern, dass Azure nicht zur Unterstützung der Trennung von Familien in ICE verwendet wurde. Andere Führer des Silicon Valley haben sich öffentlich gegen Trumps Einwanderungspolitik ausgesprochen: Mark Zuckerberg, CEO von Facebook, sammelt Geld für Organisationen, die an der Grenze arbeiten, Tim Cook von Apple nannte die Politik unmenschlich, und Chuck Robbins, CEO von Cisco, forderte Trump auf, die Politik zu beenden Andere.
Die Frage ist nun, ob dies der Beginn einer umfassenderen Reflexion der Rolle ist, die Technologie nicht nur in der Regierungsarbeit, sondern in allen Lebensbereichen spielt. Die innere Empörung im Silicon Valley kann die meiste Macht haben, wenn es darum geht, was an sich selbst kaputt ist.
Sie haben viel Macht in diesen Unternehmen. Verschwenden Sie nicht Ihre Gelegenheit. Es gibt so viele andere Dinge zu ändern
Kathy Pham, Stipendiatin des Berkman Klein Center
Bisher konzentrierten sich die Einwände der Tech-Mitarbeiter hauptsächlich auf die Zusammenarbeit ihrer Unternehmen mit der Regierung bei hochkarätigen Militär- oder Strafverfolgungsprojekten. Der Pushback ist gewaltig: Diane Greene 1, CEO von Google Cloud, kündigte an, dass Google den Vertrag mit dem Verteidigungsministerium nicht verlängern werde. Obwohl Microsoft seinen ICE-Vertrag nicht gekündigt hat, wurde sofort auf die Bedenken seiner Mitarbeiter eingegangen.
Regierungsverträge wie diese sind jedoch nur ein winziger Teil der technischen Probleme. „Mit Ihrer Cloud können Sie sich problemlos gegen DOD, Drohnen oder ICE behaupten. Dies sind einige wirklich leicht greifbare Dinge, gegen die man sich wehren kann. In der Zwischenzeit erledigt Ihr Unternehmen jedoch all diese anderen Dinge, die eine eingehendere Prüfung verdienen “, sagt Kathy Pham, ehemalige Produktmanagerin bei Google und Gründungsmitglied des Product Lead bei United States Digital Service. Als Stipendiatin am Berkman-Klein-Zentrum für Internet und Gesellschaft studiert sie derzeit, wie Technologie zu einer ethischeren Industrie werden kann.
Wo, fragen sie und andere, ist dieses Maß an Besorgnis über die eigenen Richtlinien und Produkte von Silicon Valley, die die Rechte von Menschen aufheben, sie teilen oder ihnen auf andere Weise schaden?
Alltägliche ethische Bedenken
Als Pham zum ersten Mal die Google Maven-Nachrichten las, fragte sie sich, warum Googler erst jetzt realisierten, dass die Produkte des Unternehmens auf schädliche Weise verwendet werden konnten. Wo war der Aufschrei darüber, wie Google Maps für die Überwachung verwendet wird? Ihre Frage spiegelt die Gedanken der Autorin Yasha Levine wider, die auf die Verwendung von Google Maps durch ICE verwies und am Montag meiner Kollegin Nitahsa Tiku sagte: "Macht das Google zu einer Mitschuld an Trumps Einwanderungspolitik? Ich sage ja." Levine ist besorgt über die vielen profanen Methoden, mit denen Technologie von mächtigen Interessen genutzt wird. Heute schrieb er auf Twitter: "Als alle über Cambridge Analytica ausflippten, erinnerte ich die Leute daran, dass mächtige Interessen die ganze Zeit über Technologie nutzen, einschließlich Charles Koch und Co."
Das Problem geht über staatliche Integrationen hinaus und über ein einzelnes Technologieunternehmen hinaus. Wo ist der öffentliche Aufschrei über voreingenommene Suchergebnisse? Die weltliche Überwachungsökonomie? Oder rassistische Gesichtserkennungssoftware? Diese Themen wurden von Wissenschaft und Presse nachhaltig beachtet, haben aber nicht zu Aufständen innerhalb der Unternehmen geführt, die sie nutzen und weiterentwickeln.
Wir haben keine öffentliche Kritik von Google-Mitarbeitern darüber gesehen, wie Google Plus von den Nationalsozialisten übernommen wird, nachdem sie von Twitter und Facebook ausgeschlossen wurden, oder über den Albtraum der Privatsphäre, wie Menschen verfolgt werden. Wir haben nicht einmal viel öffentliche Kritik innerhalb von Facebook über die Rolle gesehen, die seine Plattform bei der Verbreitung falscher politischer Propaganda spielt, wie während der Wahlen in den USA 2016 und weltweit in Orten wie Sri Lanka, obwohl sie so viel externer Kritik ausgesetzt war.
Facebook war gezwungen, auf den Skandal von Cambridge Analytica zu reagieren, und hat seitdem Schritte unternommen, um falsche Nachrichten auf der Website zu bereinigen. Diesen Bemühungen scheint jedoch ein größeres Selbstbewusstsein über den Umfang der Probleme und die Art und Weise zu fehlen, in der die Desinformation auf der Website florierte, indem Funktionen, nicht Fehler, auf der Plattform ausgenutzt wurden. Das mehlige Zeugnis von Zuckerberg im Kongress und das anschließende Schweigen im Tal veranlassten den langjährigen Anwohner und Managementexperten Tom Peters kürzlich, Recode mitzuteilen, dass das Silicon Valley zu einer „moralischen Sackgasse“geworden sei.
Die frühere Facebook-Mitarbeiterin Sandy Parakilas schrieb am Dienstag auf Twitter: "An die Techniker, die die schlechten Entscheidungen getroffen haben, die uns hierher gebracht haben, und die ihren Schrecken über die Richtlinie zur Trennung von Kindern twittern: DAS IST DEINE SCHULD! Vergiss das nie." In einem Follow-up mit WIRED erklärte er, er sei besonders verärgert darüber, dass Technologieführer wie Zuckerberg, deren Design- und Produktauswahl zur Wahl von Donald Trump beitrug, nun gegen seine Richtlinien vorgehen würden, ohne ihre eigene Schuld anzuerkennen.
Um es noch schlimmer zu machen, sagt er: „So wenige von ihnen haben Trump beim Namen genannt. Ich finde es feige, Empörung über die Richtlinie auszudrücken und gleichzeitig weiterhin mit der Verwaltung Geschäfte zu machen, ohne auch nur die Person zu benennen, die direkt dafür verantwortlich ist. “
Selektive Empörung
Warum hat die Tech-Industrie eine lautere Stimme, wenn es um Regierungsaufträge geht, als wenn die Arbeit in der eigenen Küche gekocht wird?
Die Mitarbeiter des Silicon Valley sehen sich als Teil der Lösung der gesellschaftlichen Probleme, nicht als Problem. Und die Geschichte der Regierungs-Technologie-Partnerschaften ist nicht ganz schlecht. Schließlich war das World Wide Web selbst ein staatlich finanziertes Projekt. Die frühen Tage des Tals wurden von der US-Regierung unterstützt. Und viele Partnerschaften zwischen Technologie und Regierung haben bewundernswerte Absichten. Nehmen wir den USDS, der sich wie ein Startup verhält, um technische Probleme schneller zu lösen, als es die Regierungsbürokratie normalerweise zulässt.
Aber die extreme Polarisierung der amerikanischen Politik ist in den Alltag eingedrungen. Jetzt fühlt sich alles politisch an, sogar technisch. Und weil die Trump-Administration so kontrovers und politisch geprägt ist, dass viele Menschen dies ablehnen, ist jedes Bündnis zwischen Regierung und Technologie verdächtig geworden. In Verbindung mit der Kakophonie in den sozialen Medien entsteht ein Umfeld, in dem die Menschen verpflichtet sind, über die Empörung zu sprechen, die den Nachrichtenzyklus beherrscht. Wir haben dasselbe letztes Jahr gesehen, nachdem weiße Supremacisten in Charlottesville marschiert waren: Google und GoDaddy lehnten es ab, Nazi-Websites zu hosten, und AirBnB schloss weiße Supremacistenkonten. (Obwohl es auch hier Grenzen gibt - die Waffenkontrolldebatte hat zum Beispiel nicht die gleiche Aufmerksamkeit von der Technologiewelt erhalten.)
Pham weist darauf hin, dass es auch unter Präsident Barack Obama problematische politische Maßnahmen gab. "[Die Öffentlichkeit] hätte wahrscheinlich auch die Dinge hinterfragen sollen, aber weil er ein viel schmackhafterer Präsident war, haben wir bestimmte Verträge mehr ignoriert", sagt sie. Sie erinnert sich, als sie bei USDS arbeitete, dass ihr Team Obama einen Brief schreiben musste, in dem erklärt wurde, warum eine Sicherheitsverbesserung, die er vornehmen wollte, eine sehr schlechte Idee war.
Ben Thompson, Analyst und Autor im Silicon Valley, der letztes Jahr argumentiert hatte, dass Tech-CEOs die Zusammenarbeit mit Trump nicht einfach ablehnen können, sagt, dass die Null-Toleranz-Politik eine moralische Grenze überschreitet, die es erforderlich macht, dass Tech-Führungskräfte Maßnahmen ergreifen. In seinem einflussreichen täglichen Newsletter vom Mittwoch kommt er zu dem Schluss, dass "die Wahrung der grundlegenden Menschenrechte, die diesen Freiheiten zugrunde liegen, nicht nur eine bürgerliche Verantwortung ist, sondern auch die ultimative treuhänderische Pflicht", oder wie dies oft der Fall war.
Komplizenschaft mit unmoralischer Regierungspolitik ist eine einfache Möglichkeit für Techniker, eine Linie in den Sand zu ziehen. Diese Verträge sind klar definiert und werden von der Presse veröffentlicht. Wir kennen die Geschichte von Unternehmen, die an unmoralischen Regierungshandlungen beteiligt sind - die Leute erinnern sich beispielsweise, wie IBM direkt mit Nazi-Deutschland zusammengearbeitet hat. Es kann schwieriger sein, genau zu bestimmen, wie Algorithmen die Gesellschaft untergraben oder was dagegen zu tun ist.
Und während sie lautstark sind, sind die Mitarbeiter, die über die Zusammenarbeit ihrer Unternehmen mit Regierungsbehörden sprechen, immer noch eine Minderheit. Mehr als 4.000 Google-Mitarbeiter haben eine Petition zur Kündigung des Project Maven-Vertrags unterzeichnet. Das Unternehmen beschäftigt jedoch mehr als 85.000 Mitarbeiter. Am Dienstagabend unterzeichneten mehr als 100 Personen den offenen Brief bei Microsoft - einem Unternehmen mit mehr als 124.000 Mitarbeitern.
Wo deine Stimme am lautesten ist
Viele Mitarbeiter zögern, über Richtlinien in ihrem eigenen Unternehmen zu sprechen, auch wenn sie dies möchten, weil sie dadurch gekündigt oder verklagt werden könnten. In einigen Fällen veröffentlichen Mitarbeiter Nachrichten in internen Foren, wie sie von Microsoft-Mitarbeitern zur Äußerung ihrer Bedenken verwendet werden, und diese werden nicht immer an die Presse weitergeleitet. Ehemalige Mitarbeiter können sich besser äußern.
Außerdem ist es sehr schwierig, sich gegen etwas zu stellen, das Sie oder Ihr Team geschaffen haben, selbst wenn Sie zusehen, wie dieses Ding missbraucht oder missbraucht wird. "Google Maps und Google Tracking sind die Babys der Menschen, ihre Herzen und Seelen sind in ihnen", sagt Pham und wählt zufällig ein Beispiel aus. Gleiches gilt für Newsfeed bei Facebook, dem Produkt, mit dem Russland während der Wahlen Zwietracht säte.
Technische Führungskräfte lehnen sich zunehmend an ihre Mitarbeiter an. Aber auch sie können mehr als nur reden. Zuckerbergs Facebook-Post, in dem die Leute gebeten werden, Geld für Einwanderer zu sammeln, klingt für manche ein wenig hohl, wenn man bedenkt, wie groß sein persönlicher Reichtum ist.
Damit das ethische Erwachen im Silicon Valley Realität werden kann, muss es über das Bandwagoning hinausgehen und sein kritisches Auge auf sich selbst richten.
