Im vergangenen Jahr hat sich Silicon Valley mit dem Umgang mit unseren Daten, unseren Wahlen und unserer Rede auseinandergesetzt. Jetzt gibt es eine neue Sorge: unsere Gesichter. In den letzten Wochen griffen Kritiker Amazon an, weil es Gesichtserkennungstechnologien an lokale Polizeibehörden verkaufte, und Facebook, weil die Europäer damit einverstanden waren, Personen auf ihren Fotos zu identifizieren.
Microsoft hat in letzter Zeit selbst Kritik an der ethischen Verwendung seiner Technologie geübt, als Mitarbeiter gegen einen Vertrag protestierten, wonach US Immigration and Customs Enforcement den Cloud-Computing-Service von Microsoft nutzt. Laut Microsoft beinhaltete der Vertrag keine Gesichtserkennung. Bei der Gesichtsanalyse hat sich gezeigt, dass ein von anderen Unternehmen genutzter Microsoft-Dienst für weiße Männer weitaus genauer ist als für Frauen oder farbige Personen.
In dem Bestreben, die Gesellschaft dabei zu unterstützen, mit der rasanten Entwicklung der Technologie Schritt zu halten, veröffentlicht Microsoft-Präsident Brad Smith heute einen Blog-Beitrag, in dem die staatliche Regulierung der Gesichtserkennung gefordert wird. Smith identifiziert keine spezifischen Regeln; vielmehr schlägt er unter anderem vor, dass die Regierung eine „parteiübergreifende Expertenkommission“einrichtet, um das Thema zu untersuchen und Empfehlungen abzugeben.
Smith wirft eine Reihe von Fragen auf, mit denen sich eine solche Kommission befassen sollte, einschließlich möglicher Einschränkungen der Strafverfolgung oder der Verwendung der Technologie für die nationale Sicherheit. Standards zur Verhinderung von Rassenprofilen; Anforderungen an die Benachrichtigung von Personen bei der Nutzung der Technologie, insbesondere im öffentlichen Raum; und rechtlicher Schutz für Personen, die möglicherweise falsch identifiziert werden. Die Antworten auf diese Fragen werden von Microsoft jedoch nicht detailliert dargestellt.
"In einer demokratischen Republik gibt es keinen Ersatz für die Entscheidungsfindung unserer gewählten Vertreter in Bezug auf die Fragen, die ein Gleichgewicht zwischen öffentlicher Sicherheit und dem Wesen unserer demokratischen Freiheiten erfordern", schreibt Smith. "Die Anerkennung von Gesichtern erfordert, dass der öffentliche und der private Sektor aktiv werden - und handeln."
Wie viele andere Technologien kann die Gesichtserkennung nützlich oder schädlich sein. Internetnutzer tippen auf Dienste von Google, Facebook und anderen, um Personen auf Fotos zu identifizieren. Mit Apple können Benutzer das iPhone X mit ihren Gesichtern entsperren. Microsoft bietet über Windows Hello einen ähnlichen Dienst zum Entsperren von PCs an. Uber verwendet die Gesichtserkennungstechnologie von Microsoft, um die Identität der Fahrer mithilfe der App zu bestätigen. Gesichtsanalyse kann eine Form der Identifizierung in Büros, Flughäfen und Hotels sein.
Es gibt jedoch nur wenige Regeln für die Nutzung der Technologie, weder durch die Polizei noch durch private Unternehmen. In diesem Blog-Beitrag lässt Smith die Aufmerksamkeit einer Regierungsdatenbank auf sich ziehen, in der Teilnehmer an einer politischen Kundgebung teilnehmen, oder er speichert die Überwachung aller Artikel, die Sie durchsuchen, auch derer, die Sie nicht kaufen. In Anbetracht des politischen Stillstands in Washington ist eine Expertenkommission für Microsoft möglicherweise eine bequeme Möglichkeit, die Verantwortung zu übernehmen, ohne das Risiko einzugehen, dass die Regierung die Verwendung von Gesichtserkennungstechnologien durch das Unternehmen oder ein anderes Unternehmen tatsächlich einschränkt. Aber Smith sagt, solche Kommissionen seien weit verbreitet gewesen - im letzten Jahrzehnt 28-mal - mit einigem Erfolg; Er verweist auf die 9/11-Kommission und spätere Änderungen in den Sicherheitsbehörden der Nation.
ERFAHREN SIE MEHR
Der WIRED-Leitfaden für künstliche Intelligenz
Außerhalb der USA wird die Gesichtserkennungstechnologie in China häufig von der Regierung und mit wenigen Einschränkungen eingesetzt. Verdächtige Kriminelle wurden mithilfe der Technologie, die an öffentlichen Orten weit verbreitet ist, in Massen identifiziert.
Nach Ansicht von Smith sollten Microsoft und andere Technologieunternehmen über die gesetzlichen Bestimmungen hinaus mehr Verantwortung für den Einsatz der Technologie übernehmen. Dies beinhaltet Bemühungen, transparent zu handeln, Vorurteile abzubauen und die Technologie langsam und vorsichtig einzusetzen. "Wenn wir mit der Gesichtserkennung zu schnell vorankommen, stellen wir möglicherweise fest, dass die Grundrechte der Menschen verletzt werden", schreibt er. Laut Smith arbeitet Microsoft daran, die ethnischen Unterschiede in seiner Gesichtsanalyse-Software zu verringern.
Die Sorge um den ethischen Einsatz von Technologie ist nicht neu. Aber die zunehmende Macht der künstlichen Intelligenz, unter anderem Gesichter zu scannen, Autos zu fahren und Verbrechen vorherzusagen, hat Forschungsinstitute, Industriegruppen und philanthropische Programme hervorgebracht. Microsoft hat 2016 ein internes Beratungsgremium eingerichtet, das von Smith gesponsert wird und sich mit dem Einsatz künstlicher Intelligenz befasst. In der Veröffentlichung heißt es, dass das Unternehmen Kundenanfragen für die Bereitstellung seiner Technologie abgelehnt hat, "wo wir zu dem Schluss gekommen sind, dass es größere Menschenrechtsrisiken gibt". Microsoft lehnte es ab, Einzelheiten zu abgelehnten Arbeiten zu besprechen.
Der Ansatz von Microsoft wird von Eileen Donahoe, einer außerordentlichen Professorin am Stanford-Zentrum für Demokratie, Entwicklung und Rechtsstaatlichkeit, gelobt. "Microsoft ist der Zeit voraus, wenn es darum geht, ernsthaft über die ethischen Auswirkungen der Technologie, die sie entwickeln, und die menschenrechtlichen Auswirkungen der Technologie, die sie entwickeln, nachzudenken", sagt sie. Donahoe erwartet, dass die Stelle Gespräche bei anderen Technologieunternehmen auslösen wird.
