Automatische Kfz-Kennzeichenlesekameras sind umstritten genug, wenn sie von den Strafverfolgungsbehörden eingesetzt werden, da sie ein Panoptikum für den Transit in einer Stadt bilden können. Jetzt hat ein Hacker einen Weg gefunden, ein Beispiel dieser Macht - zur Sicherheit und zur Überwachung - in die Hände von jemandem zu geben, der einen Tesla und ein paar hundert Dollar übrig hat.
Auf der heutigen Defcon-Hackerkonferenz debütierte der Sicherheitsforscher Truman Kain mit dem Surveillance Detection Scout. Der Heimwerkercomputer passt in die Mittelkonsole eines Tesla Model S oder Model 3, wird an den USB-Anschluss des Armaturenbretts angeschlossen und verwandelt die eingebauten Kameras des Fahrzeugs - dieselben Armaturenbrett- und Rückfahrkameras, die eine 360-Grad-Ansicht für Teslas Autopilot und bieten Sentry-Funktionen - ein System, das Kennzeichen und Gesichter im Laufe der Zeit erkennt, verfolgt und speichert. Das Tool verwendet Open-Source-Bilderkennungssoftware, um automatisch eine Warnmeldung auf dem Tesla-Display und dem Telefon des Benutzers anzuzeigen, wenn wiederholt dasselbe Nummernschild angezeigt wird. Wenn das Auto geparkt ist, kann es in der Nähe befindliche Gesichter verfolgen, um zu sehen, welche wiederholt erscheinen. Kain sagt, die Absicht sei es, eine Warnung zu geben, dass sich jemand darauf vorbereitet, das Auto zu stehlen, daran herumzubasteln oder in das nahe gelegene Haus des Fahrers einzudringen.
Oder klicken Sie hier, um das Video anzusehen.
Trotz der offensichtlichen Datenschutzbedenken wirft Kain seine Erfindung in erster Linie als hilfreiches Werkzeug für Tesla-Besitzer auf, die im Paranoia-Spektrum überdurchschnittlich gut abschneiden. "Es verwandelt Ihren Tesla in eine Überwachungsstation mit KI", sagt Kain. "Es soll ein weiterer Satz von Augen sein, um Ihnen zu helfen und Ihnen mitzuteilen, dass Sie über mehrere Tage hinweg ein Nummernschild gesehen haben, oder sogar mehrere Male auf einer einzigen Reise."
Kain, ein Berater der Sicherheitsfirma Tevora, ist sich auch des Kriechfaktors seiner Kreation nicht bewusst. Er sagt, der Surveillance Detection Scout demonstriere die Art der Überwachung, die die Daten, die selbstfahrende Autos bereits sammeln, ermöglichen könnten. Wenn eine große Gruppe von Surveillance Detection Scout-Benutzern ihre Kennzeichenerkennungsdaten kombinieren würde - eine Funktion, die Kain bewusst aus der Software herausgenommen hat -, könnte das System eine Crowdsourcing-Version derselben leistungsstarken Überwachung erstellen, die von kommerziellen automatischen Kennzeichenlesesystemen bereitgestellt wird, deren Verwendung durch die Polizei in einigen Staaten verboten wurde. "Ich könnte jeden in den USA sehen, Tausende von Autos in diesem Surveillance Scout-Netzwerk", sagt Kain. "Ich denke, da gibt es ein echtes ethisches Problem."
Ein Panoptikum in Ihrer Konsole
Der Surveillance Detection Scout-Prototyp, dessen Software Kain auf Github zur Verfügung gestellt hat, zeichnet das Video von drei Kameras eines Tesla auf und analysiert es auf einem 700-Dollar-Nvidia-Jetson-Xavier-Minicomputer. Es verwendet ein Open-Source-Framework für neuronale Netze namens Darknet als Engine für maschinelles Lernen, ALPR Unconstrained für die Erkennung von Kennzeichen und Facenet für die Verfolgung von Gesichtern. Beide Programme sind kostenlos auf Github verfügbar. Das System verwendet außerdem das Google Open Images-Dataset als Trainingsdaten.
"Ich mache keine hochmoderne KI", sagt Kain. "Ich verwende nur das, was bereits frei verfügbar ist, von der Stange." Die Software identifiziert sogar die Marke und das Modell der Autos, die sie sieht, basierend auf Nummernschildsuchen auf dem Dienst FindByPlate.com. (Kain sagt, es ist weitaus schwieriger, Kennzeichen mit tatsächlichen Namen zu verknüpfen, und er beabsichtigt nicht, diese Daten in sein Tool aufzunehmen.)
Kain sagte, er habe sich letztes Jahr die Idee für seinen Follower-Erkennungsmechanismus ausgedacht, nachdem er letztes Jahr auf der Defcon einen Vortrag über Gegenüberwachung besucht hatte. Seit er sein Tesla Model 3 gekauft hatte, hatte er darüber nachgedacht, wie viele Gigabyte Videos es sammelte und löschte, und seine Videoaufzeichnungen stündlich überschrieben. "Ich hatte ein bisschen FOMO und dachte darüber nach, wie das ganze Video vergangen ist, wenn ich nichts damit anfange", sagt Kain.
Nachdem Kain von einem auf Github verfügbaren Tool namens Tesla USB erfahren hatte, mit dem Tesla-Besitzer ihre Videos unbegrenzt auf einem externen Laufwerk speichern können, kam er auf die Idee, diese Speicherkapazität mit der Bilderkennung zu kombinieren, um seinem Auto Funktionen zu verleihen, die denen der Nest-Kamera ähneln sein Zuhause, das sogenannte "bekannte Gesichtserkennung" umfasst. Das Gesichtserkennungselement seines Werkzeugs fungiert nicht nur als Kennzeichenverfolgung, sondern auch als Erweiterung des vorhandenen Sentry-Sicherheitssystems von Tesla, das die Aufzeichnung startet, wenn jemand Ihr Auto berührt und einen Alarm auslöst, wenn er versucht, in das Fahrzeug einzubrechen.
Durch das Zusammennähen eines Patchworks aus öffentlichem Code kann die 4-Zoll-Würfelbox von Kain Nummernschilder und Gesichter aus dem Videostream des Autos erkennen und den Autobesitzer warnen, wenn sie wiederholte Schilder oder Gesichter in diesen Daten entdeckt. Es verwendet das Software-Integrationstool If This Then That, um Warnungen zu senden. Standardmäßig benachrichtigt das System den Fahrer, wenn innerhalb von fünf Minuten für jede Minute dasselbe Auto folgt. Kain sagt jedoch, dass die Einstellungen an die Vorlieben des Fahrers angepasst werden können. Laut Kain haben die Benachrichtigungen eine Verzögerung von etwa einer Minute, da die Kameras von Tesla eine Videodatei aufzeichnen müssen. Und vorerst müssen Benutzer ihren eigenen Webserver einrichten, damit dies funktioniert. Kain gibt jedoch an, dass er in Zukunft möglicherweise einfachere webbasierte Anmeldungen auf seinem eigenen Server anbieten wird.
"Eine Überwachungskamera auf Rädern"
Kain schlägt einige Szenarien vor, in denen sein System etwas Gutes bewirken könnte: vertrauliche Quellen, die sich mit einem Journalisten treffen, oder andere, die Grund zu der Annahme haben, dass sie von Snoops verfolgt oder angegriffen werden. "Wenn es hilft, jemanden in Sicherheit zu bringen, ist das großartig", sagt Kain. "Wenn es mich wissen lässt, dass sich jemand um mein Auto schleicht, ist das auch großartig."
Andy Greenberg ist ein WIRED-Sicherheitsjournalist und Autor des kommenden Buches Sandworm: Eine neue Ära des Cyberwar und die Jagd nach den gefährlichsten Hackern des Kremls.
Der Surveillance Detection Scout sieht sich jedoch nicht nur mit ethischen, sondern auch mit rechtlichen Fragen konfrontiert, sagt Joseph Lorenzo Hall, Cheftechnologe des Zentrums für Demokratie und Technologie. In Arkansas, Georgia, Maine und New Hampshire würde es wahrscheinlich durch staatliche Gesetze gegen automatische Lizenzplatz-Lesegeräte, auch für den privaten Gebrauch, illegal sein. Seine Gesichtserkennungsmerkmale machen es in Illinois illegal.
Abgesehen von Gesetzen argumentiert Hall, dass Kains Erfindung unbeabsichtigte Konsequenzen und schwerwiegende Auswirkungen auf die Privatsphäre haben könnte. Konfrontationen könnten durch Fehlalarme entstehen, wenn ein Fahrer fälschlicherweise glaubt, von jemandem verfolgt zu werden, der zufällig das gleiche Pendelverhältnis hat. "Ich mache mir Sorgen um das subjektive Urteil, das ein Mensch aus diesem technologischen System ziehen würde", sagt Hall. "Das könnte dazu führen, dass Leute aneinander ziehen, wenn es wirklich nichts zu befürchten gibt."
Hall befürchtet auch allgemeiner, dass das System eine weit verbreitete Form der AI-fähigen Überwachung darstellt, insbesondere wenn seine Benutzer den Code von Kain geändert haben, um ihre Daten miteinander zu teilen. "Sie werden sehr umfangreiche Aufzeichnungen über die Bewegungen der Menschen haben", sagt Hall. "Es handelt sich im Wesentlichen um eine Überwachungskamera auf Rädern, die niemandem auf diese Tatsache aufmerksam macht und Teile der Wege der Menschen durch die Städte, in denen sie leben, aufzeichnet."
Noch beunruhigender, so Hall, wäre das Potenzial für die Strafverfolgung, Zugang zu den Daten zu erhalten, entweder durch einen Anreiz für die Fahrer - genau wie die örtliche Polizei in einigen Städten die Überwachungskameras des Amazonasrings subventioniert hat, um die Menschen zu ermutigen um Tipps zu teilen - oder indem Sie Benutzer dazu zwingen, diese mit Vorladungen zu teilen.
Kain ist sich dieser Bedenken bewusst und hat sein System teilweise so aufgebaut, dass die Möglichkeiten der Videoüberwachung von selbstfahrenden Autos aufgezeigt werden, bevor ein zwielichtiges kommerzielles Startup dies zuerst tun kann - eines, bei dem die Daten möglicherweise zwischen den Benutzern aggregiert und nicht getrennt werden. Eine neue Ära der allgegenwärtigen, selbstfahrenden Erfassung von Fahrzeugvideodaten steht vor der Tür, und ein Großteil davon könnte in zentralisierten Repositories landen.
Er gibt aber auch zu, dass jemand seinen Code leicht ändern kann, um den Datenaustausch zwischen Benutzern zu ermöglichen, und so einen großen Schritt in Richtung der Zukunft macht, vor der er warnt. "Es wäre für jemanden trivial, das einzubauen, wenn er über Entwicklungserfahrung verfügt", sagt Kain. "Ist es ein rutschiger Hang? Möglicherweise."
