Zu den meistverkauften Büchern in der Kategorie Epidemiologie bei Amazon gehören mehrere Anti-Impfstoff-Bände. Einer hat einen zuversichtlich aussehenden Arzt auf dem Cover, aber der Autor hat keinen Arzt - eine schnelle Google-Suche zeigt, dass er ein medizinischer Journalist beim "ThinkTwice Global Vaccine Institute" ist. Blättern durch eine einfache Stichwortsuche nach "Impfstoff" In den Top-Level-Büchern von Amazon finden Sie Anti-Vax-Literatur, die in Kategorien von Notfallpädiatrie über Geschichte der Medizin bis hin zu Chemie prominent als „Bestseller Nr. 1“ausgezeichnet wurde. Das erste Pro-Impfstoff-Buch erscheint auf Platz 12 der Liste. Das Buch mit dem unverblümten Titel „Impfstoffe haben Rachels Autismus nicht verursacht“ist das einzige Impfstoff-Buch auf der ersten Seite der Suchergebnisse. Der Autor, der Kinderarzt Peter Hotez, Professor für Pädiatrie und Molekulare Virologie und Mikrobiologie am Baylor College of Medicine, twitterte mehrmals über das Ausmaß des Missbrauchs und die brigadierende Überprüfung durch Amazon, gegen die er seit seiner Veröffentlichung kämpfen musste.
Renee DiResta (@noUpside) ist ein Ideengeber für WIRED, den Forschungsdirektor von New Knowledge, und ein Mozilla-Mitarbeiter für Medien, Fehlinformationen und Vertrauen. Sie ist mit dem Berkman-Klein Center in Harvard und dem Data Science Institute an der Columbia University verbunden.
In der Kategorie Onkologie bei Amazon schlägt ein Buch mit dem Bestseller-Label Saft als Alternative zur Chemotherapie vor. Was den Begriff "Krebs" insgesamt betrifft, so scheint koordiniertes Review-Brigadieren dafür gesorgt zu haben, dass "The Truth About Cancer", eine Ansammlung von Behauptungen, die sich unter anderem auf Verschwörungen der Regierung beziehen, 1.684 Reviews und Platzierungen auf der Titelseite genießt. Bei satten 96 Prozent der Bewertungen handelt es sich um 5 Sterne - ein Maß, das viele Amazon-Kunden als Proxy für Qualität verwenden. Ein Blick auf Reviewmeta, eine Website, die Kunden dabei unterstützen soll, zu beurteilen, ob Bewertungen legitim sind, lässt jedoch vermuten, dass über 1.000 in Bezug auf Zeitrahmen, Sprache und Überprüferverhalten misstrauisch sind.
Nach dem Abstieg in Boulevardzeitungen und Webforen haben Fehlinformationen und Verschwörungen im Gesundheitsbereich ein neues Megaphon in den Kurations-Engines gefunden, die massive Plattformen wie Amazon, Facebook und Google antreiben. Such-, Trend- und Empfehlungsalgorithmen können so gesteuert werden, dass Randideen als Mainstream erscheinen. Hinzu kommt eine Asymmetrie der Leidenschaft, die dazu führt, dass die Communitys viel Content erstellen, sodass mehr Algorithmen zur Verfügung stehen… und anscheinend auch reale Konsequenzen haben.
Die Weltgesundheitsorganisation (WHO), die Zentren für die Kontrolle und Prävention von Krankheiten und der US-Kongress haben kürzlich die Auswirkungen von Fehlinformationen gegen Impfstoffe auf die öffentliche Gesundheit in Frage gestellt. Nachforschende Journalisten und Wissenschaftler haben eine Facette dieses Problems untersucht: Welche Kurationsalgorithmen tun, um Gesundheitsfehlinformationen online zu unterdrücken oder zu verbreiten? Was sie finden, ist nicht ermutigend.
In den letzten zehn Jahren sind wir zunehmend auf algorithmische Kuration angewiesen. In einer Zeit der Überfrachtung mit Inhalten prägen Suchergebnisse und eingestufte Feeds alles von den Artikeln, die wir lesen, über die Produkte, die wir kaufen, bis hin zu den Ärzten oder Restaurants, die wir auswählen. Empfehlungsmotoren beeinflussen neue Interessen und die Bildung sozialer Gruppen. Trendalgorithmen zeigen uns, worauf andere Menschen achten. Sie haben die Macht, soziale Gespräche und gelegentlich soziale Bewegungen anzutreiben.
Kurationsalgorithmen sind weitgehend amoralisch. Sie wurden entwickelt, um uns Dinge zu zeigen, die wir statistisch gesehen wahrscheinlich sehen wollen, Inhalte, die Menschen wie wir als ansprechend empfunden haben - selbst wenn es sich um Dinge handelt, die faktisch unzuverlässig oder potenziell schädlich sind. In sozialen Netzwerken werden diese Algorithmen in erster Linie optimiert, um das Engagement zu fördern. Bei Amazon sind sie dazu gedacht, Einkäufe voranzutreiben. Amazon hat auf jeder Produktseite verschiedene Arten von Empfehlungs-Engines: Vorschläge für "Kunden, die auch für" eingekauft haben, unterscheiden sich von "Kunden, die diesen Artikel gekauft haben, haben auch". Es gibt "gesponserte" Produkte, bei denen es sich im Wesentlichen um Anzeigen handelt. Und es gibt "häufig zusammen gekauft", eine Funktion, die Produkte über Kategorien hinweg verbindet (oft sehr nützlich, gelegentlich etwas störend). Wenn Sie die Plattform verlassen, ohne etwas zu kaufen, kann eine E-Mail einen Tag später folgen, die noch mehr Produkte vorschlägt.
Amazon prägt viele unserer Konsumgewohnheiten. Es beeinflusst, was Millionen von Menschen jeden Tag kaufen, sehen, lesen und hören. Es ist die De-facto-Produktsuchmaschine des Internets - und aufgrund der Hunderte von Millionen Dollar, die täglich durch die Website fließen, ist der Anreiz, diese Suchmaschine zu spielen, hoch. Es kann unglaublich lukrativ sein, es für ein bestimmtes Produkt auf die erste Ergebnisseite zu schaffen.
Unglücklicherweise können viele Kurationsalgorithmen auf vorhersehbare Weise gespielt werden, insbesondere wenn Popularität eine Schlüsseleingabe ist. Bei Amazon erfolgt dies häufig in Form zweifelhafter Konten, die so koordiniert werden, dass überzeugende positive (oder negative) Bewertungen abgegeben werden. Manchmal kaufen Verkäufer sofort oder setzen auf andere Weise Anreize für Überprüfungsbetrug. Das ist ein Verstoß gegen die Nutzungsbedingungen von Amazon, aber die Durchsetzung ist nachlässig. Manchmal, wie bei der Anti-Vax-Bewegung und einigen Gemeinschaften mit alternativen Gesundheitsproblemen, koordinieren sich große Gruppen von wahren Gläubigen, um ihren bevorzugten Inhalt auf die erste Seite der Suchergebnisse zu katapultieren. (Amazon bestreitet diese Charakterisierung und sagt, dass sie sorgfältig polizeiliche Überprüfungen durchführt. 1)
Amazon-Bewertungen scheinen in den Ranking-Algorithmen des Unternehmens eine herausragende Rolle zu spielen. (Das Unternehmen wird dies nicht bestätigen.) Kunden berücksichtigen die Anzahl der Sterne und das Volumen der Bewertungen, wenn sie entscheiden, welche Produkte sie kaufen möchten. Sie gelten als Stellvertreter für Qualität. Hohe Bewertungen können zu versehentlicher kostenloser Werbung führen: Die Video-Plattform Prime Streaming von Amazon wurde mit einer Begrüßungsseite gestartet, auf der Vaxxed, Andrew Wakefields Film über die Verschwörungstheorie, dass Impfstoffe Autismus verursachen, prominent vorgestellt wurde.
Vielleicht verschärft Amazon das Problem, indem die Ersteller von Inhalten ihre eigenen Kategorien und Stichwörter auswählen können. Während ich diesen Artikel schrieb, experimentierte ich mit dem Auflistungstool für Kindle-Bücher. Die Schlüsselwörter und Kategorien sind vollständig selbst ausgewählt.
Bei einer Produktbasis von Amazon ist es wahrscheinlich eine Herausforderung für das Unternehmen, jegliche Art von Überprüfungsprozessen durchzuführen. Dies ist wahrscheinlich der Grund, warum Quacksalber als "Onkologie" oder "Chemie" eingestuft werden. Es ist eine kleine Erinnerung daran, dass Amazon nicht gerade ein Buchladen oder eine Bibliothek ist.
Es gibt kein Patentrezept für die Online-Lösung von Gesundheitsfehlinformationen. Die Guardian-Journalistin Julia Carrie Wong fasste die Situation in den sozialen Medien gegen Vax kürzlich in einem Tweet zusammen: „Wir haben eine Datenlücke, eine Enthusiasmuslücke, schlechte Empfehlungsalgorithmen, gezielte Werbung, koordinierte Belästigung und Echokammern. Es ist ein riesiges Chaos in Bezug auf jedes Problem mit Social Media, mit sehr realen Konsequenzen. “
Es ist ein komplexes und heikles Problem, und auch Amazon leidet darunter. Es gibt Bedenken, dass die Lösung dieses Problems zur Zensur führen könnte. Aber es gibt eine große Kluft zwischen dem vollständigen Entfernen des Inhalts oder der Ablehnung des Verkaufs von Büchern und dem Überdenken der Erweiterung und Kategorisierung. Amazon kann anfangen, wenn es darum geht, Pseudowissenschaften zu empfehlen und zu kategorisieren, die erhebliche Auswirkungen auf das Leben einer Person (oder auf die öffentliche Gesundheit) haben können. In den letzten Monaten haben YouTube und Facebook begonnen, ihre Richtlinien zu ändern, um gesundheitliche Fehlinformationen und verschwörerische Gemeinschaften zu bekämpfen: YouTube hat den Anti-Vax-Inhalt sowohl verteufelt als auch herabgestuft, und Facebook hat eine Erklärung abgegeben, die impliziert, dass dies wahrscheinlich folgen wird. Laut Google gibt es seit langem eine Richtlinie für die Suche mit dem Namen "Ihr Geld oder Ihr Leben", die feststellt, dass Personen, die nach Informationen zu äußerst aussagekräftigen Themen suchen, verpflichtet sind, diese Ergebnisse einem höheren Sorgfaltsstandard zu unterwerfen. Benutzer, die bei Amazon Gesundheitsbücher kaufen möchten, sollten denselben Standard erhalten.
Keine große Plattform ist vor Problemen mit spielbaren Algorithmen gefeit. Aber gerade Amazon - mit seinem riesigen Publikum und seinen außergewöhnlichen Einnahmen - ist bemerkenswert, wie wenig es sich trotz zahlreicher Untersuchungen zu Quacksalbereien und Überprüfungsmanipulationen im Laufe der Jahre verändert hat. Das Problem wird einfach ignoriert und auf den nächsten Presszyklus gewartet.
