Als das öffentliche Schulsystem von Boston im vergangenen Dezember neue Startzeiten ankündigte, fanden einige Eltern die Stundenpläne inakzeptabel und schoben sie zurück. Der Algorithmus, mit dem diese Zeiten festgelegt wurden, wurde von MIT-Forschern entwickelt, und ungefähr eine Woche später schickte Kade Crockford, Direktor des Technology for Liberty-Programms an der ACLU von Massachusetts, eine E-Mail mit der Bitte, einen Kommentar abzugeben, der die Entscheidungsträger aufruft um nachdenklicher und demokratischer zu sein, wenn sie überlegen, mithilfe von Algorithmen Richtlinien zu ändern, die sich auf das Leben der Bewohner auswirken. Kade, der auch Director's Fellow am Media Lab und ein Kollege von mir ist, widmet sich immer den Schlüsselthemen der digitalen Freiheiten und ist großartig darin, Dinge zu kennzeichnen, auf die ich achten sollte. (Zu der Zeit hatte ich keinen Kontakt zu den MIT-Forschern, die den Algorithmus entworfen haben.)
Ich habe ein paar Änderungen an ihrem Entwurf vorgenommen und ihn an den Boston Globe verschickt, der ihn am 22. Dezember 2017 unter der Überschrift "Machen Sie den Algorithmus nicht dafür verantwortlich, was die Schulbeamten in Boston verlangt haben." In der op-ed haben wir die Änderungen weiter kritisiert, aber wir haben argumentiert, dass die Leute nicht den Algorithmus kritisieren sollten, sondern den politischen Prozess der Stadt, der vorschreibt, wie die verschiedenen Anliegen und Interessen optimiert werden sollen. An diesem Tag beschlossen die Boston Public Schools, die Änderungen nicht umzusetzen. Kade und ich haben viel Spaß gehabt und es einen Tag genannt.
Die protestierenden Familien, Kade und ich haben getan, was wir für fair hielten, und nur die Informationen gegeben, die wir damals hatten. Einen Monat später ergab sich ein differenzierteres Bild, das meiner Meinung nach Einblicke bietet, wie Technologie eine Plattform für die Interaktion mit Richtlinien bieten kann und sollte - und wie Richtlinien eine Vielzahl von Eingaben widerspiegeln können, die von den betroffenen Personen generiert wurden. In einer Zeit, die sich für die Demokratie besonders düster anfühlt und in der der Einsatz von Technologie in der Gesellschaft immer unkontrollierter wird, hat mir diese Lektion ein besseres Verständnis dafür vermittelt, wie wir Algorithmen angemessener in die Gesellschaft einführen können. Vielleicht gibt es uns sogar ein Bild davon, wie eine Demokratie 2.0 aussehen könnte.
Ein paar Monate später fragten mich Arthur Delarue und Sébastien Martin, Doktoranden im MIT Operations Research Center und Mitglieder des Teams, das Bostons Busalgorithmus aufgebaut hatte, nach dem Kommentar im Boston Globe. In einer sehr höflichen E-Mail sagten sie mir, dass ich nicht die ganze Geschichte habe.
Kade und ich trafen uns im selben Monat mit Arthur, Sebastien und ihrem Berater, MIT-Professor Dimitris Bertsimas. Eines der ersten Dinge, die sie uns zeigten, war ein Foto der Eltern, die gegen die vom Algorithmus entwickelten Zeitpläne protestiert hatten. Fast alle waren weiß. Die Mehrheit der Familien im Bostoner Schulsystem sind nicht weiß. Weiße Familien machen nur etwa 15 Prozent der öffentlichen Schulbevölkerung in der Stadt aus. Offensichtlich war etwas nicht in Ordnung.
Die MIT-Forscher hatten mit den Boston Public Schools an der Anpassung der Klingelzeiten gearbeitet, einschließlich der Entwicklung des Algorithmus, mit dem das Schulsystem die politischen Kompromisse zwischen verschiedenen Klingelzeiten und insbesondere deren Auswirkungen auf den Schulbus verstand und quantifizierte Zeitpläne. Hauptziel war es, Kosten zu senken und optimale Termine zu generieren.
Das MIT-Team beschrieb, wie der preisgekrönte Originalalgorithmus, der sich auf Planung und Routing konzentrierte, als Kostenberechnungsalgorithmus für die Boston Public Schools Transportation Challenge begann. Die Boston Public Schools hatten jahrzehntelang versucht, die Startzeiten zu ändern, waren jedoch verwirrt über die Optimierungen und die Möglichkeit, den Stundenplan zu verbessern, ohne die Kosten zu verdreifachen, weshalb sie zunächst die Transportation Challenge organisierten. Das MIT-Team hat als erstes einen Weg gefunden, um all diese Faktoren in Einklang zu bringen und eine Lösung zu finden. Bis dahin war die Berechnung der Kosten für das komplexe Bussystem ein so schwieriges Problem, dass es die Berücksichtigung von Änderungen der Klingelzeiten behinderte.
Nach der Transportation Challenge arbeitete das Team weiterhin mit der Stadt zusammen. Im vergangenen Jahr hatten sie an einem Community-Engagement-Prozess teilgenommen und mit dem Bostoner Schulsystem zusammengearbeitet, um auf dem ursprünglichen Algorithmus aufzubauen und neue Funktionen hinzuzufügen einen Plan für neue Schulanfangszeiten zu erstellen. Sie berücksichtigten die Gerechtigkeit - die bestehenden Anfangszeiten waren ungerecht, vor allem für Familien mit niedrigem Einkommen - sowie die jüngsten Untersuchungen zum Teenagerschlaf, die zeigten, dass ein früher Schulbeginn negative gesundheitliche und wirtschaftliche Folgen für Schüler haben kann. Sie versuchten auch, Sonderpädagogikprogramme zu priorisieren und zu verhindern, dass kleine Kinder die Schule zu spät verlassen. Sie wollten all dies tun, ohne das Budget zu erhöhen oder sogar zu reduzieren.
Durch Umfragen wussten das Schulsystem und die Forscher, dass einige Familien in jeder Schule mit jeder Veränderung unzufrieden sein würden. Sie hätten dem Algorithmus zusätzliche Einschränkungen hinzufügen können, um einige Ausreißersituationen einzuschränken, z. B. das Beenden des Schultags an einigen Schulen um 13.30 Uhr, was für einige Eltern besonders ärgerlich war. Die Lösung, die sie vorschlugen, erhöhte die Zahl der Schüler, die nach 8 Uhr morgens in die Schule kamen, erheblich und verringerte die Zahl der Grundschüler, die nach 16 Uhr entlassen wurden, so dass sie nach Einbruch der Dunkelheit nicht mehr nach Hause mussten. Insgesamt war es für die Mehrheit der Menschen viel besser. Obwohl sie sich bewusst waren, dass einige Eltern nicht glücklich sein würden, waren sie nicht auf den Umfang der Reaktionen von verärgerten Eltern vorbereitet, die Startzeiten und Busfahrpläne hatten, die ihnen nicht gefielen.
Die Optimierung des Algorithmus für mehr „Gerechtigkeit" bedeutete auch, dass viele der geplanten Änderungen gegen Familien mit Privilegien "voreingenommen" waren. Meiner Ansicht nach hat die Tatsache, dass ein Algorithmus Entscheidungen traf, auch die Menschen verärgert. Und die Familien, die mit dem neuen Zeitplan zufrieden waren Die Familien, die verärgert waren, marschierten auf das Rathaus zu, um die geplanten Änderungen rückgängig zu machen. Die ACLU und ich unterstützten die Eltern der Aktivisten zu dieser Zeit und nannten das Schulsystem und die Stadt "schlecht" Schließlich gaben der Bürgermeister und die Stadt dem Druck nach und töteten jahrelange Arbeit und was die erste wirklich positive Veränderung im Busverkehr in Boston seit Jahrzehnten gewesen sein könnte.
Ich bin mir zwar nicht sicher, ob privilegierte Familien ihre guten Anfangszeiten aufgeben würden, um armen Familien freiwillig zu helfen, aber ich denke, wenn die Leute verstanden hätten, wofür der Algorithmus optimiert ist - Schlafgesundheit von Schülern, die Grundschüler vor Einbruch der Dunkelheit nach Hause bringen, Unterstützung für Kinder mit besonderen Bedürfnissen, Senkung der Kosten und Erhöhung des Eigenkapitals insgesamt - sie wären sich einig, dass der neue Zeitplan insgesamt besser war als der vorherige. Aber wenn etwas sehr plötzlich persönlich wird, fühlen sich die Menschen stark und protestieren.
Es erinnert mich ein wenig an eine Studie der Scalable Cooperation Group im Media Lab, die auf früheren Arbeiten von Joshua Greene basiert und zeigte, dass die Menschen das Opfer eines selbstfahrenden Autos ihres Passagiers unterstützen würden, wenn es Leben retten würde eine große Anzahl von Fußgängern, aber dass sie persönlich niemals ein Passagier-opferndes selbstfahrendes Auto kaufen würden.
Technologie steigert die Komplexität und unsere Fähigkeit, die Gesellschaft zu verändern, und verändert die Dynamik und Schwierigkeit von Konsens und Governance. Aber die Idee, Kompromisse einzugehen, ist natürlich nicht neu. Es ist ein grundlegendes Merkmal einer funktionierenden Demokratie.
Während die Forscher an dem Algorithmus und dem Plan arbeiteten und sich mit den Eltern und der Schulleitung trafen, waren sich die Eltern nicht aller Faktoren bewusst, die zur endgültigen Optimierung des Algorithmus führten. Die zur Verbesserung des Gesamtsystems erforderlichen Kompromisse waren nicht klar, und die potenziellen Gewinne klangen vage im Vergleich zu den sehr spezifischen und persönlichen Auswirkungen der Änderungen, die sie betrafen. Und als die Nachricht die nächtlichen Nachrichten erreichte, gingen die meisten Details und das Gesamtbild im Rauschen verloren.
Eine Herausforderung im Fall der Busroutenänderungen an den Boston Public Schools war die etwas düstere Natur des Algorithmus. Das Zentrum für deliberative Demokratie hat einen Prozess namens deliberative Polling angewendet, bei dem eine statistisch repräsentative Gruppe von Bewohnern einer Gemeinde über mehrere Tage zusammenkommt, um politische Ziele zu erörtern und zu erörtern, in der Hoffnung, einen Konsens darüber zu erzielen, wie eine Politik gestaltet werden sollte. Wenn die Einwohner von Boston die Prioritäten, die für den Algorithmus festgelegt wurden, leichter hätten verstehen und sie aussortieren können, hätten sie wahrscheinlich besser verstanden, wie die Ergebnisse ihrer Überlegungen in die Politik umgesetzt wurden.
