In diesem Monat war Kalifornien der erste Bundesstaat, in dem Bots dazu aufgefordert wurden, sich offen als automatisierte Online-Konten zu identifizieren.
Am 1. Juli, neun Monate nach der Unterzeichnung des Gesetzes, trat der kalifornische Gesetzentwurf SB 1001 ("Bolstering Online Transparency" oder BOT) in Kraft. Nach der neuen Regel müssen sich alle Bots, die versuchen, das Abstimmungs- oder Kaufverhalten der Einwohner Kaliforniens zu beeinflussen, auffällig ausweisen. Der Eigentümer oder Ersteller des Bots ist dafür verantwortlich, das Konto in prominenter Weise als automatisiert zu kennzeichnen. Die Plattform selbst ist vom Haken. (Um zu sehen, wie das Gesetz in der Praxis aussehen könnte, besuchen Sie @ Bot_Hertzberg - ein Bot, der vom SB 1001-Autor und dem kalifornischen Senator Bill Hertzberg erstellt wurde, um die Notwendigkeit der neuen Regel zu demonstrieren. „I AM A BOT“, heißt es in der Biografie auf Twitter. Automatisierte Konten wie meine dienen dazu, Benutzer falsch zu informieren und auszunutzen. “)
Renee DiResta (@noUpside) ist ein Ideengeber für WIRED, den Forschungsdirektor von New Knowledge, und ein Mozilla-Mitarbeiter für Medien, Fehlinformationen und Vertrauen. Sie ist mit dem Berkman-Klein Center in Harvard und dem Data Science Institute an der Columbia University verbunden.
Bots wurden verwendet, um Benutzer irrezuführen. Follower-Zählungen, Likes und Retweets künstlich aufblasen; und Konsens über spaltende Themen herzustellen. In den Jahren 2015 und 2016 wurden sie häufig verwendet, um Themen auf Twitter in den Trend zu versetzen, was den falschen Eindruck erweckte, dass bestimmte Geschichten von großer Bedeutung waren. Für seine Befürworter ist das Bot-Gesetz eine Atempause in Zeiten des Online-Chaos, eine dringend benötigte Abwehr gegen Desinformation, Fehlinformation und Filterblasen, die auf den heutigen weitläufigen Social-Media-Plattformen existieren. Für die Aufsichtsbehörden ist es eine Chance, etwas zu unternehmen, um die Manipulation der sozialen Medien weniger für alle zugänglich zu machen, während die USA zu einer neuen Wahl aufbrechen.
Aber bei genauerer Betrachtung ist Kaliforniens Bot-Rechnung hohl. Es ist auffällig und faszinierend, aber es tut sehr wenig, um die Probleme der Online-Kommunikation zu lösen. Die ursprüngliche Absicht des Gesetzes, bösartige Bot-Aktivitäten in den Mittelpunkt zu rücken und das öffentliche Bewusstsein zu stärken, ist vornehm. Tatsächlich weist das Gesetz jedoch drei Hauptmängel auf: Mehrdeutigkeit, eingeschränkte Plattformverantwortung und fehlgeleitete Durchsetzung.
Die Mehrdeutigkeit des Gesetzes beruht auf mehreren Definitionsproblemen, die schwer zu fassen sind. Erstens wird die Frage „Was ist ein Bot?“Nicht vollständig beantwortet. Der Gesetzestext definiert einen Bot als „ein automatisiertes Online-Konto, bei dem alle oder im Wesentlichen alle Aktionen oder Posts dieses Kontos nicht das Ergebnis einer Person sind Dies erinnert leicht an Twitter, aber diese weite Definition schließt auch Chatbots für den Kundenservice ein.
Noch wichtiger ist, was bedeutet "wesentlich"? Bösartige Bots werden häufig für einen bestimmten Prozentsatz der Zeit automatisiert, unabhängig davon, ob dies innerhalb eines Tages oder über den gesamten Lebenszyklus erfolgt. Dies gilt insbesondere dann, wenn der Betreiber das Konto so „altern“möchte, dass es nicht so aussieht, als wäre es für einen bestimmten Zweck erstellt worden. Das Konto wird dann jedoch von einem menschlichen Bediener übernommen, wenn es Zeit ist, eine Beeinflussungsoperation auszuführen. Zum Beispiel werden Russlands berüchtigte Konten der Internet Research Agency oft unachtsam als „Bots“bezeichnet. In Wirklichkeit wurden ihre effektivsten und bekanntesten Rollen größtenteils von Menschen verwaltet. Persona-Konten, die direkt von Personen geführt werden, sind ein weitaus entmutigenderes Problem als rein automatisierte Bots, wenn es darum geht, Online-Einflussvorgänge zu verringern.
Das höchst zweideutige Gesetz ist auf Gespräche zugeschnitten, die zu Käufen oder Stimmabgaben anregen, aber es definiert nicht genau, was es bedeutet, eine Stimme bei einer Wahl zu beeinflussen. Ist das Teilen legitimer Nachrichten oder Wahlorte eine Form von Einfluss? Schließlich sind nicht alle automatisierten Online-Konten bösartig. Einige sind einfach Nachrichten- oder Informationsverbreitungsdienste, während andere von Künstlern erstellt werden.
Das Definieren der Grenzen von „Einfluss“, „politischen Fragen“und „automatisierten Konten“war eine Herausforderung für Plattform-Policy-Teams und Gesetzgeber. Diese ungenauen Bezeichnungen plagen weiterhin die Gesetzgebungsbemühungen, da der Kongress und andere Staaten ihre eigenen Bot-Rechnungen nach den kalifornischen Bemühungen modellieren. Letzte Woche hat Senator Feinstein eine Gesetzesvorlage eingeführt, die Kampagnen, Parteien und in einigen Fällen auch PACs untersagt, politische Bots zur Beeinflussung einer Kampagne einzusetzen. Die Gesetzesvorlage würde soziale Plattformen erfordern, um eine Bot-Offenlegungsrichtlinie durchzusetzen. Aber auch in diesem Fall umfasst die Definition eines Bots in der Gesetzesvorlage - ein "automatisiertes Softwareprogramm oder ein automatisierter Prozess, der die Identität menschlicher Aktivitäten online vortäuschen oder replizieren soll" - weit mehr als politische Twitter-Bots.
ABONNIEREN
Abonnieren Sie WIRED und bleiben Sie mit Ihren Lieblingsautoren für Ideen auf dem Laufenden.
Der zweite große Mangel des kalifornischen Gesetzes ist das Versäumnis, die Plattformverantwortung zu übernehmen. Frühe Gesetzesentwürfe erforderten Online-Plattformen, um die Offenlegung von Bots zu erleichtern und den Benutzern die Möglichkeit zu geben, sie zu melden. Möglicherweise musste Twitter ein „Bot-Abzeichen“ähnlich dem „verifizierten“Häkchen einführen und ein Berichts-Framework implementieren.
Es wurde diskutiert, ob alle Plattformen - große und kleine - für die Umsetzung dieser Bot-Disclosure-Frameworks verantwortlich sein sollten. Die Frameworks könnten für große Plattformen wie Twitter technisch möglich sein, für Startups und kleine Plattformen jedoch unmöglich. Letztendlich hat sich das kalifornische Gesetz davon entfernt, die Verantwortung für die Offenlegung in die Hände der Plattformen zu legen. Stattdessen liegt diese Verantwortung nun beim Schöpfer des Bots. Können wir wirklich erwarten, dass Personen, die bösartige Bots bauen, ihre Kreationen freiwillig als solche identifizieren? Ist es naiv zu erwarten, dass Plattformen mit großen und potenziell einflussreichen Bot-Populationen sich freiwillig und ohne Aufsicht selbst überwachen?
In geringerem Umfang existiert dieses Problem auch in der Bundesversion. Jeder, der eine "Social-Media-Website" besitzt (definiert als "ein Tool, eine Website, eine Anwendung oder ein anderes Medium, das Benutzer im Internet verbindet, um in einen Dialog zu treten, Informationen auszutauschen, zusammenzuarbeiten und zu interagieren"), muss sich etwas einfallen lassen Ein Plan, bei dem Bot-Besitzer sich selbst identifizieren müssen. Dies stellt kleine Plattformen vor potenzielle Herausforderungen.
Der dritte Fehler des kalifornischen Gesetzes sind seine zweideutigen Durchsetzungsmechanismen. Die Landesregierung ist nicht in der Lage, Bots proaktiv oder sogar rückwirkend zu identifizieren. Die Strafenstruktur wird durch das kalifornische Gesetz gegen unlauteren Wettbewerb definiert, das "dem Generalstaatsanwalt eine umfassende Durchsetzungsbefugnis zur Erhebung von Bußgeldern von bis zu 2.500 USD pro Verstoß sowie gerechte Abhilfemaßnahmen einräumt." Die Verwendung einer zu weit gefassten Sprache im Zusammenhang mit "Intent" und "Bot" kann für kleine Websites mit automatisierten Marketing-Tools wie Chatbots hohe Bußgelder bedeuten. Kalifornien würde eher harmlose als wirklich schädliche Menschen bestrafen.
Inwieweit das Gesetz auch außerhalb Kaliforniens anerkannt wurde, ist unklar. Es scheint keinen plötzlichen Zustrom von gekennzeichneten automatisierten Konten auf Twitter zu geben, seitdem diese veröffentlicht wurden.
Das kalifornische Bot-Gesetz ist nicht ohne Grund: Als es durch den kalifornischen Senat ging, wurde das Bewusstsein für die Verbreitung von Bots im Internet geschärft. Es schafft einen Rahmen, auf den die Generalstaatsanwaltschaft zurückgreifen kann, um bestimmte Fälle von böswilliger Bot-Nutzung zu beheben. Da es jedoch erforderlich ist, dass Entwickler ihre eigenen Bots identifizieren, fehlen dem Gesetz letztendlich die Zähne, die es für seine Wirksamkeit benötigen würde. Da die fortschrittlichen Technologiegesetze Kaliforniens regelmäßig zur Information über die Bemühungen des Bundes herangezogen werden - und in diesem Fall die aufkommende Gesetzgebung bereits beeinflusst haben -, ist dies ein Problem.
