An einem dampfenden Abend im Mai füllten 9.000 Menschen das Stingaree Stadium an der Texas City High School für die Abschlussfeier. Ein Regenschauer verzögerte die Zeremonien um eine halbe Stunde, aber das Gesichtserkennungssystem des Schulbezirks ließ keinen Schlag aus. Kameras, die entlang der Zaunlinie positioniert waren, ermöglichten es Algorithmen, jedes Gesicht zu überprüfen, das durch das Tor ging.
Als sich das Stadion mit Familien füllte, erhielt das Sicherheitspersonal im Pressefach eine Benachrichtigung, dass das System jemanden auf seiner Beobachtungsliste entdeckt hatte. Es war ein Junge, der aus dem Bezirk ausgewiesen und in eine Kreisdisziplinarschule geschickt worden war, deren Schüler nach den Regeln des Bezirks vom Besuch anderer Campus ausgeschlossen sind.
Weniger als 30 Sekunden, nachdem sich der Junge gesetzt hatte, fragte der Stellvertreter eines Sheriffs nach seinem Namen. Als er antwortete, wurde er aus dem Stadion begleitet und verpasste den Abschluss seiner Schwester. "Mama war verärgert, aber das ist die Regel", sagt Mike Matranga, Exekutivdirektor für Sicherheit im Texas City Independent School District am Ufer der Galveston Bay südlich von Houston.
Matranga erzählt stolz von dem Vorfall, um zu zeigen, wie die Gesichtserkennung Schulen sicherer machen kann. Es zeigt auch, wie die Schulkinder des Landes in eine Debatte über den Wert - und die Risiken - einer AI-verstärkten Überwachung verwickelt wurden.
WIRED identifizierte acht öffentliche Schulsysteme, von ländlichen Gebieten bis hin zu riesigen Stadtvierteln, die im vergangenen Jahr Gesichtserkennungssysteme installiert haben. Es gibt wahrscheinlich noch viel mehr. Die Technologie hat in den letzten Wochen Tausende von Schülern beobachtet, die zur Schule zurückgekehrt sind, und dabei ständig die Gesichter anhand von Beobachtungslisten überprüft, die von Schulbeamten und Strafverfolgungsbehörden erstellt wurden.
Laut den Administratoren sind Gesichtserkennungssysteme wichtige Instrumente, um auf schwerwiegende Vorfälle wie Schießereien zu reagieren oder diese sogar zu verhindern. Die Systeme werden aber auch verwendet, um Schulregeln durchzusetzen oder um die Schüler bequem zu überwachen.
In diesem Frühjahr mussten die Mitarbeiter der Putnam City Schools in Oklahoma überprüfen, ob ein Schüler, der angab, von zu Hause weggelaufen zu sein, in der Schule war. Anstatt die Lehrer zu fragen, bediente sich Cory Boggs, der die IT für den Distrikt leitet, der Gesichtserkennungskameras, um den Schüler schnell zu erkennen. "Es ist eine sehr, sehr effiziente Möglichkeit, eine Gruppe von Menschen zu überwachen", sagt er. Putnam City und Texas City kauften Überwachungssoftware mit dem Namen Better Tomorrow von AnyVision, einem israelischen Startup, das laut Medienberichten in seinem Heimatland israelische Armeekontrollpunkte im Westjordanland beliefert.
Nicht jeder mag die Idee der Gesichtserkennung in Schulen. Letztes Jahr protestierten Eltern in Lockport, New York, gegen Pläne von Schulbeamten, ein Gesichtserkennungssystem im Wert von 1, 4 Millionen US-Dollar zu installieren. "Sobald sie diese Kameras einschalten, wird jeder Student, einschließlich meiner Tochter, von einem System überwacht, das ihren Aufenthaltsort und ihre Assoziationen aufzeichnet", sagt Jim Shultz, der Elternteil eines Lockport-Junior. Der Bezirk sagt, er habe nicht die Absicht, Studenten zu beobachten. Stattdessen sagen Beamte, dass sie unerwünschte Besucher fernhalten wollen, einschließlich suspendierter Studenten und lokaler Sexualstraftäter.
Die Proteste der Eltern, über die zuerst im Lockport Journal berichtet wurde, erregten die Aufmerksamkeit der New York Civil Liberties Union, die Bedenken hinsichtlich der Genauigkeit von Gesichtserkennungsalgorithmen bei dunkleren Hauttönen äußerte. Die NYCLU wies darauf hin, dass der Distrikt vorhatte, suspendierte Studenten, die überproportional schwarz sind, auf seine Beobachtungsliste zu setzen. Ähnliche Sorgen haben dazu beigetragen, Städte wie San Francisco und Oakland zu motivieren, ihren Behörden die Verwendung der Gesichtserkennung zu verbieten. Im Juni befahl das New York State Education Department Lockport, die Tests des Systems einzustellen.
Laut Jason Nance, Professor für Rechtswissenschaften an der Universität von Florida, ist die Gesichtserkennung ein Teil des Trends, die Überwachung und Sicherheit an US-Schulen zu erhöhen, obwohl es an eindeutigen Beweisen mangelt, dass mehr Technologie Kinder sicherer macht. Nances Forschungen haben dokumentiert, wie hochkarätige Schießereien in der Schule die Überwachung intensivieren, wobei die Schüler der Farbe am stärksten belastet werden.
Unternehmen, die Gesichtserkennungssysteme verkaufen, sehen Schulen als wachsenden Markt. Erschießungen wie die Ermordung von 14 Schülern und drei Mitarbeitern der Marjory Stoneman Douglas High School in Parkland, Florida, im vergangenen Jahr haben das Interesse und den Umsatz gesteigert. Max Constant, der Chief Commercial Officer von AnyVision, gibt nicht bekannt, mit wie vielen US-Schulen das Unternehmen zusammengearbeitet hat, sagt jedoch, dass sich seine Arbeit "in der Regel auf Bereiche konzentriert, in denen frühere Tragödien stattgefunden haben". In einer Erklärung gab AnyVision an, die Technologie sei zu Hunderten installiert von Standorten weltweit. "Unsere Technologie katalogisiert oder speichert niemals Aufzeichnungen über überprüfte Personen, und AnyVision ist weiterhin bestrebt, unter Einhaltung der höchsten Datenschutz- und ethischen Standards zu arbeiten", sagte das Unternehmen.
Der WIRED-Leitfaden für künstliche Intelligenz
Supersmart-Algorithmen übernehmen nicht alle Aufgaben. Sie lernen jedoch schneller als je zuvor und erledigen von der medizinischen Diagnostik bis zur Schaltung von Anzeigen alles.
Von Tom Simonite
Das Parkland-Shooting veranlasste ein anderes Technologieunternehmen, RealNetworks, seine Gesichtserkennungssoftware kostenlos für Schulen anzubieten. "Parkland ist passiert", sagte Rob Glaser, "und wir sagten aus Gründen der öffentlichen Wirkung, dass wir es zur Verfügung stellen werden." „Bezirke mit mehr als 1.000 Schulen haben Interesse bekundet.“Mike Vance, Senior Director Product Management von RealNetworks, sagt, dass Dutzende von Schulen die Technologie nutzen, um automatisch Tore für Eltern oder Mitarbeiter zu öffnen oder nach Personen zu suchen, die für sie von Interesse sind, wie zum Beispiel das Thema der Eltern gerichtliche Anordnungen in Sorgerechtsstreitigkeiten. RealNetworks leitet die Schulen, mit denen es zusammenarbeitet, an ein kurzes Best-Practice-Handbuch zur Gesichtserkennung an Schulen weiter, in dem Datenschutz und Transparenz erörtert werden. Das Unternehmen überwacht jedoch nicht, wie Schulen seine Technologie einsetzen.
In diesem Frühjahr reisten drei Panasonic-Ingenieure von Houston und Japan nach West Platte, Missouri, 30 Meilen von Kansas City entfernt. Dort halfen sie bei der Installation eines 200.000-Dollar-Kamerasystems, mit dem der Distrikt seine 600 Schüler überwachen sollte, einschließlich Lizenzen für die Ausstattung von 13 Kameras mit der Gesichtserkennung FacePRO von Panasonic. Die Kameras bewachen in erster Linie die Eingänge der Schule und speisen das IT-Büro der Schule und die örtlichen Strafverfolgungsbehörden ein. Beide erhalten Benachrichtigungen, wenn das System jemanden auf der Beobachtungsliste des Distrikts identifiziert. Das Filmmaterial wird standardmäßig für einen Monat gespeichert, sagt Chad Bradley, CTO von TriCorps Security, dem Unternehmen in Oklahoma City, das die Installation beaufsichtigt hat. Panasonic hat auf Kommentaranfragen nicht geantwortet.
"Es ist eine sehr, sehr effiziente Möglichkeit, eine Gruppe von Menschen zu überwachen."
Cory Boggs, Putnam City, Oklahoma, Schulen
Im ländlichen Osten von Texas installierte der unabhängige Schulbezirk Spring Hill mit 1.900 Schülern in diesem Sommer Kameras und Gesichtserkennungssoftware. Das 400.000-Dollar-System wurde in der Nacht vor der Wiederaufnahme der Schule im August in Betrieb genommen, nachdem ein Schüler eine Bedrohung in den sozialen Medien gemeldet hatte. Die Mitarbeiter haben sein Foto vorsichtshalber auf die Beobachtungsliste der Software gesetzt, obwohl der Vorfall vor Schulbeginn geklärt wurde, sagt Superintendent Wayne Guidry. "Ich denke, unsere Standorte sind viel sicherer", sagt er.
Texas City, eine Ölstadt mit 46.000 Einwohnern, erkannte das Gesicht nach zwei Tragödien vor Ort an. Im Jahr 2017, nachdem der Hurrikan Harvey einige Gebäude des Distrikts beschädigt hatte, genehmigten die Wähler eine Anleihemaßnahme in Höhe von 136 Millionen US-Dollar, um vier neue Schulen, Busse und Sicherheitsverbesserungen zu bezahlen. Tage nach dieser Abstimmung betrat der mutmaßliche Schütze, ein Student, mit einer Schrotflinte und einem Revolver den Kunstblock der Highschool im nahe gelegenen Santa Fe, Texas, und tötete acht Schüler und zwei Lehrer.
Rodney Cavness, der Schulleiter von Texas City, reagierte schnell. Drei Tage nach der Tragödie von Santa Fe engagierte er Matranga, eine in Texas geborene Frau, die Jahre im Geheimdienst verbracht hatte und dem Kandidaten und dann Präsident Obama zugeteilt worden war. "Ich wusste, wir mussten etwas anderes tun", sagt Cavness. "Ich habe einen Experten eingestellt und ihn die Arbeit machen lassen."
Matranga baute ein kleines Team von Militärveteranen auf und machte sich an die Arbeit. Der Distrikt installierte Hunderte weiterer Sicherheitskameras, klebte kugelsichere Folien auf Fenster und härtete Klassenzimmertüren mit Riegeln und einem Fernschließsystem aus. Es wurde in Software investiert, die das Web und die sozialen Medien nach Erwähnungen der Schule durchsucht.
Matranga sagt, er und der Distrikt hätten Ideen aus Berichten des Secret Service über Schulattacken übernommen, die Empfehlungen für die Annahme von Trinkgeldern und die Erstellung von Anti-Mobbing-Programmen enthalten. Der Distrikt verwendet eine App namens P3 Campus, mit der Eltern und Schüler anonyme Berichte an Mitarbeiter senden können. Der Distrikt erhöhte auch seine Anzahl der Sheriff-Abgeordneten von 11 auf 19 und installierte Waffentresore mit AR-15, damit sie einen schwer bewaffneten Angreifer zu gleichen Bedingungen treffen konnten. "Sie treffen überlegene Feuerkraft mit überlegener Feuerkraft", sagt Matranga. Die Schulen in Texas City können jetzt eine Sicherheitsoperation durchführen, die für ein Staatsoberhaupt geeignet ist. Während der Abschlussfeier im Mai warteten an beiden Enden des Stadions vier SWAT-Teamoffiziere außer Sichtweite, Scharfschützen saßen auf den Dächern und an jedem Ende der 50-Yards-Linie befanden sich Schließfächer mit AR-15.
Matranga sagt, das Gesichtserkennungssystem könnte ihm helfen, sich schneller gegen einen potenziellen Schützen zu bewegen - vielleicht bevor er mit dem Schießen beginnt. Das System vergleicht stillschweigend jedes Gesicht mit einer Beobachtungsliste von Personen von Interesse, wie z. B. den Schülern der Disziplinarschule. Der mutmaßliche Schütze in Parkland hatte laut Matranga in der Vergangenheit Verhaltensprobleme und musste sich ungefähr ein Jahr vor seiner Rückkehr mit einem halbautomatischen Gewehr von der Schule zurückziehen. Texas City verfügt nicht über genügend Softwarelizenzen, um die Gesichtserkennung für alle 1.600 Kameras auszuführen. Daher werden die Gebäudeeingänge priorisiert und die Software so umgeschaltet, dass verschiedene Feeds für besondere Ereignisse angezeigt werden, z. B. die Stadionkameras für den Abschluss. Der Distrikt gab 38.000 USD für einen Server aus, um das System zu unterstützen, und zahlt ein jährliches Abonnement von 26.000 USD. "Sie haben Überwachungskameras in Disney World, warum sollten Schulen anders sein?", Fragt Matranga.
"Sobald sie diese Kameras einschalten, wird jeder Schüler, einschließlich meiner Tochter, überwacht."
Jim Shultz, Lockport, New York, Elternteil
Als ein WIRED-Reporter aus der teigigen Septemberhitze im Südosten von Texas in den Lobbybereich von Matrangas Büros trat, stellte das System mehrere Bilder des neuen Gesichts aus verschiedenen Blickwinkeln zusammen. Ein paar Mausklicks fügten das Gesicht der Beobachtungsliste des Systems hinzu. Als eine Kamera den Reporter entdeckte, der zurück in die Lobby ging, ertönte eine Sirene. Matranga, die drei anderen Mitglieder seines Sicherheitsteams und die 19 Sheriff-Stellvertreter des Distrikts erhielten Benachrichtigungen.
Der Reporter wurde bald darauf von der Beobachtungsliste gestrichen. Die Schüler der Disziplinarschule des Distrikts bleiben zusammen mit den vor Ort registrierten Sexualstraftätern. Dies gilt auch für einen Mann, der von den Strafverfolgungsbehörden vom Schulgelände begleitet wurde und eine strafrechtliche Verwarnung erhielt, nachdem er sich mit seinem Ex-Partner, einem Elternteil an der High School, gestritten hatte. Sie stellte Matrangas Team sein Foto zur Verfügung. Andere Bilder auf der Beobachtungsliste stammten von einer Klingelkamera. Matrangas Mitarbeiter fügten sie hinzu, um einem Anwohner zu helfen, der sich darüber beklagte, dass ein Kind in der Nähe ihres Hauses herumgehangen und ihre Überwachungskamera geleckt hatte. Bisher hat das System keinen Treffer registriert.
Eine weitere Person auf der Beobachtungsliste von Texas City ist Mandalyn Salazar, obwohl sie es erst wusste, als WIRED sie kontaktierte. Sie arbeitet ehrenamtlich mit Familien im Schulsystem von Texas City. Letzten Monat hat sie sich mit Matranga am Rande einer Schulratssitzung gestritten. Er und Salazar sagen beide, die Begegnung gipfelte darin, dass sie Matranga ein Arschloch nannte, und Salazar wurde mitgeteilt, dass sie verhaftet würde, wenn sie zum Schulbesitz zurückkehren würde.
Salazar kann sich nicht erinnern, darüber informiert worden zu sein, dass ihr Bild in das Gesichtserkennungssystem des Distrikts aufgenommen wurde. Matranga sagt, sein Team habe dies mit ihrem Facebook-Profilfoto getan. "Sie ist irrational und sie ist instabil", sagt er. "Das sind die Leute, auf die wir achten müssen." Salazar wird ein Jahr lang auf der Beobachtungsliste bleiben, sagt Matranga.
Für Salazar war es ein Zeichen für den schleichenden Autoritarismus des Distrikts, ihr Gesicht auf die Beobachtungsliste zu setzen, ohne es ihr mitzuteilen. "Das zu tun, ohne mich zu benachrichtigen, ist nicht akzeptabel, und ich sollte das Recht haben, es anzufechten", sagt sie. „Mit wie vielen anderen Menschen haben sie das gemacht?“Sie macht sich Sorgen um Familien in Teilen des Distrikts, in denen die meisten Studenten arm und schwarz sind und die es möglicherweise nicht mögen, die Verwaltung herauszufordern. "Viele der Eltern sind nicht gebildet und fühlen sich möglicherweise ängstlich."
Superintendent Cavness sagt, dass die Gemeinde und sein Studienbeirat mit den Sicherheitsverbesserungen und der Verwendung der Gesichtserkennung des Distrikts einverstanden sind. Als die Glocke an der Texas City High School an einem Freitag um 14.50 Uhr läutete, schwärmten die Teenager zwischen den Klassen und tauschten freundliche Kopfschlösser und komplexe Handschläge aus, ohne sich um die Kamera zu kümmern, die über Treppenhäusern und Flurkreuzungen strategisch positioniert war.
Laut Isabela Johnston, Seniorin an der Texas City High School und Präsidentin des Clubs für politischen Aktivismus, unterstützen nicht alle Schüler die erhöhte Sicherheit. Anfang des Jahres schrieb sie einen Leitartikel in der Schulzeitung Sting City Press, in dem sie auf Bedenken der ACLU hinsichtlich der Wirksamkeit und der rassistischen Vorurteile von Gesichtserkennungssystemen hinwies. Im April befragte Johnston mehr als 300 Schüler zu den neuen Sicherheitsmaßnahmen für Schulen. Viele sagten, Gesichtserkennung und AR-15s auf dem Campus ließen sie sich unsicher fühlen. Mehr als 40 Prozent gaben an, dass sich die Atmosphäre in der Schule im Vergleich zu den Vorjahren verschlechtert habe.
Das Lernen im Schatten von gehärteten Türen, Waffentresoren und Kameras, die mit Gesichtserkennungsalgorithmen ausgestattet sind, kann stressig sein, sagt Johnston. "Ich fühle mich nicht unbedingt sicherer oder gefährlicher, aber es ist eine ständige Erinnerung daran, dass etwas passieren könnte", sagt sie. "Ich habe gehört, dass viele meiner Kollegen dasselbe gesagt haben: Wir werden ständig daran erinnert, dass dies eine Möglichkeit ist."
"Ich fühle mich nicht unbedingt sicherer oder gefährlicher, aber es ist eine ständige Erinnerung daran, dass etwas passieren könnte."
Isabela Johnston, Senior der Texas City High School
In Texas City ist diese Erinnerung aufgrund des Anschlags, bei dem im vergangenen Jahr 10 Schüler und Angestellte an der High School in Santa Fe, einer 20 Minuten entfernten kleineren Stadt, getötet wurden, lebendig. Nach dieser Tragödie meldete sich James Grassmuck, der zwei Kinder im Santa Fe Independent School District hat, darunter eines an der High School, freiwillig für ein neu geschaffenes Sicherheitsausschuss. Letzten Winter kandidierte er erfolgreich für einen Sitz in der Schulbehörde; Zu seiner Plattform gehörte das Versprechen, Gesichtserkennung zu installieren.
Dieses System ist jetzt betriebsbereit und Teil von mehr als 2 Millionen US-Dollar an Sicherheitsupgrades seit den Dreharbeiten. Laut Grassmuck war die Gesichtserkennung attraktiv, weil sie weniger sichtbar ist als andere Sicherheitsmaßnahmen, wie Metalldetektoren und neue Zäune, und die örtliche Gemeinde unterstützt hat. "Ich habe keine einzige Beschwerde gehört", sagt er und fügt hinzu, "aber wir sind in einer etwas anderen Situation."
Im ganzen Land verspüren Administratoren und Gesetzgeber den Druck, irgendetwas gegen die Möglichkeit von Massenerschießungen zu unternehmen. Prominente Angriffe lösen häufig die Freigabe neuer lokaler, staatlicher oder bundesstaatlicher Gelder für die Schulsicherheit aus. Einen Monat nach den Parkland-Schüssen im vergangenen Jahr verabschiedete der Kongress das Gesetz gegen Gewalt an Schulen, das Mittel für Schulsicherheitstraining und Infrastruktur bereitstellte. "Jedes Mal, wenn wir so eine hochkarätige Veranstaltung wie Columbine oder Newtown gesehen haben, werden wir sofort Gesetze sehen, die mehr Geld für Überwachungssysteme und Polizeibeamte bereitstellen", sagt Nance, der Professor in Florida.
Weiter lesen
Das Neueste über künstliche Intelligenz, vom maschinellen Lernen bis zur Bildverarbeitung und mehr
Bei diesen Arten von Finanzierungsmaßnahmen werden in der Regel keine spezifischen Technologien erwähnt, sodass die Schulen die Möglichkeit haben, Gesichtserkennung zu erwerben. In West Platte stimmten die Wähler einer Anleiheinitiative zu, die es dem winzigen Landkreis ermöglichte, die 200.000 USD teure Aufrüstung zu bezahlen, sagte Bradley, der Berater, der das System installiert hatte. Ende 2014 bewilligten die Wähler des Staates New York 2 Milliarden US-Dollar für technologische Verbesserungen, einschließlich „High-Tech-Sicherheitsfunktionen“. Laut E-Mails der NYCLU entschieden sich die Beamten in Lockport, ihre Zuweisung zu verwenden, um nach dem Kauf ein Gesichtserkennungssystem von SN Technologies zu erwerben Erhalten einer kostenlosen Bedrohungsanalyse, die von einem Berater mit finanziellen Beziehungen zum Unternehmen angeboten wird. SN Technologies lehnte es ab, bestimmte Fragen zur Beziehung des Beraters zu beantworten.
Ein weiterer Ort, an dem Kameras mit Gesichtserkennung in Kürze ihre Beobachtungen veröffentlichen werden, ist Fulton County, Georgia, ein Vorort von Atlanta, Schulbezirk mit 95.000 Schülern. Im Jahr 2017 hat der Distrikt sein Kamerasystem mit einer Software der Motorola-Division Avigilon erweitert, die eine „Erscheinungsbildsuche“ermöglicht und die Suche nach Personen anhand der Farbe ihres Hemdes oder ihrer Frisur ermöglicht. Paul Hildreth, der Technologiedirektor des Distrikts, vergleicht den Vorgang mit Googeln und sagt, er habe Administratoren bei der Untersuchung von Kämpfen und Vandalismus geholfen.
