Wenn Sie 2 Jahre alt sind, weiß Ihre Mutter mehr über Sie als Sie selbst. Mit zunehmendem Alter beginnen Sie, Dinge über Ihren Verstand zu verstehen, die selbst sie nicht weiß. Aber dann, sagt Yuval Noah Harari, tritt ein anderer Konkurrent dem Rennen bei: "Sie haben diese Firma oder Regierung, die hinter Ihnen her sind, und sie sind weit hinter Ihrer Mutter her, und sie sind hinter Ihnen her." Amazon wird bald wissen, wann Sie Glühbirnen benötigen, bevor sie ausbrennen. YouTube weiß, wie du lange auf den Bildschirm starrst, wenn es in deinem Interesse ist, damit aufzuhören. Ein zukünftiger Werbetreibender kennt möglicherweise Ihre sexuellen Vorlieben, bevor diese für Sie klar sind. (Und sie werden sie bestimmt kennen, bevor Sie es Ihrer Mutter gesagt haben.)
Ich hatte die Gelegenheit, mit Harari, dem Autor von drei meistverkauften Büchern, und Tristan Harris zu sprechen, der das Center for Humane Technology leitet und maßgeblich dazu beigetragen hat, dass "Zeit gut angelegt" der vielleicht umstrittenste Satz ist Silicon Valley im Jahr 2018. Sie sind zwei der klügsten Leute in der Welt der Technik und sie sprachen beredt über Selbsterkenntnis und wie Menschen es schwerer machen können, sich zu hacken. Wie Harari sagte: "Wir sind jetzt nicht nur mit einer technologischen Krise, sondern mit einer philosophischen Krise konfrontiert."
Bitte lesen oder schauen Sie sich das Ganze an. Dieses Transkript wurde aus Gründen der Klarheit überarbeitet.
Nicholas Thompson: Tristan, erzähl mir ein bisschen was du tust und dann Yuval, erzähl du es mir auch.
Tristan Harris: Ich bin Direktor des Zentrums für Humane Technologie, in dem wir uns darauf konzentrieren, Technologie mit einem klarblickenden Modell der menschlichen Natur neu auszurichten. Davor war ich Designethiker bei Google und habe die Ethik der menschlichen Überzeugung studiert.
Yuval Noah Harari: Ich bin Historiker und versuche zu verstehen, woher die Menschheit kommt und wohin wir gehen.
NT: Fangen wir damit an, zu hören, wie ihr euch kennengelernt habt, weil ich weiß, dass das schon eine Weile her ist. Wann haben Sie sich das erste Mal getroffen?
YNH: Komischerweise wurden wir auf einer Expedition in die Antarktis von der chilenischen Regierung zum Kongress der Zukunft eingeladen, um über die Zukunft der Menschheit zu sprechen, und ein Teil des Kongresses war eine Expedition in die chilenische Basis in der Antarktis, um die globale Erwärmung zu beobachten mit unseren eigenen Augen. Es war immer noch sehr kalt und es waren so viele interessante Leute auf dieser Expedition
TH: Viele Philosophen und Nobelpreisträger. Und ich denke, wir haben uns besonders mit Michael Sandel verbunden, der ein wirklich erstaunlicher Philosoph der Moralphilosophie ist.
NT: Es ist fast wie eine Reality-Show. Am liebsten hätte ich das Ganze gesehen. Sie schreiben über verschiedene Dinge, Sie sprechen über verschiedene Dinge, aber es gibt viele Ähnlichkeiten. Und eines der Schlüsselthemen ist die Vorstellung, dass unser Verstand nicht so funktioniert, wie wir es manchmal glauben. Wir haben nicht so viel Entscheidungsfreiheit im Kopf, wie wir vielleicht bisher geglaubt haben. Tristan, warum redest du nicht darüber und dann springt Yuval ein und wir gehen von dort aus.
TH: Ja, ich habe tatsächlich eine Menge davon aus einem der frühen Vorträge von Yuval gelernt, in denen er über Demokratie spricht, als „Wo sollen wir Autorität in eine Gesellschaft bringen?“Und wo sollen wir sie in die Meinungen und Gefühle der Menschen einbringen.
Aber mein ganzer Hintergrund: Ich habe die letzten 10 Jahre damit verbracht, Überzeugungsarbeit zu studieren, angefangen als ich ein Zauberkind war, wo man lernt, dass es Dinge gibt, die auf alle menschlichen Gedanken wirken. Es ist egal, ob sie promoviert haben, ob sie Kernphysiker sind, in welchem Alter sie sind. Es ist nicht so, Oh, wenn du Japanisch sprichst, kann ich dir diesen Trick nicht antun, es wird nicht funktionieren. Es funktioniert bei jedem. Irgendwie gibt es also diese Disziplin, in der es um universelle Heldentaten für alle Menschen geht. Und dann war ich im Persuasive Technology Lab in Stanford, das Ingenieurstudenten beibringt, wie Sie die Prinzipien der Überzeugung auf Technologie anwenden. Könnte Technologie menschliche Gefühle, Einstellungen, Überzeugungen und Verhaltensweisen hacken, um die Menschen mit Produkten zu beschäftigen? Und ich denke, das ist das, was wir beide teilen, dass der menschliche Verstand nicht die sichere Enklavenwurzel der Autorität ist, die wir glauben, und wenn wir es so behandeln wollen, müssen wir verstehen, was zu tun ist zuerst geschützt werden.
YNH: Ich denke, dass wir uns jetzt wirklich nicht nur einer technologischen Krise, sondern einer philosophischen Krise gegenübersehen. Weil wir unsere Gesellschaft, sicherlich die liberale Demokratie mit Wahlen und dem freien Markt und so weiter, auf philosophischen Ideen aus dem 18. Jahrhundert aufgebaut haben, die nicht nur mit den wissenschaftlichen Erkenntnissen des 21. Jahrhunderts, sondern vor allem mit der Technologie, die wir jetzt haben, unvereinbar sind zu unserer Verfügung. Unsere Gesellschaft baut auf den Ideen auf, die der Wähler am besten kennt, dass der Kunde immer Recht hat, dass die letztendliche Autorität, wie Tristan sagte, bei den Gefühlen der Menschen liegt und dies voraussetzt, dass menschliche Gefühle und menschliche Entscheidungen diese heilige Arena sind, die kann nicht gehackt werden, was nicht manipuliert werden kann. Letztendlich spiegeln meine Entscheidungen, meine Wünsche meinen freien Willen wider und niemand kann darauf zugreifen oder es berühren. Und das war niemals wahr. Aber wir haben im 19. und 20. Jahrhundert keine hohen Kosten für den Glauben an diesen Mythos gezahlt, weil niemand eine Technologie hatte, um dies tatsächlich zu tun. Nun, Leute - manche Leute - Unternehmen, Regierungen spielen die Technologie, um Menschen zu hacken. Das vielleicht wichtigste am Leben im 21. Jahrhundert ist, dass wir jetzt hackbare Tiere sind.
Einen Menschen hacken
NT: Erklären Sie, was es bedeutet, einen Menschen zu hacken und warum das, was jetzt getan werden kann, sich von dem unterscheidet, was vor 100 Jahren getan werden konnte.
YNH: Einen Menschen zu hacken bedeutet zu verstehen, was in dir auf der Ebene des Körpers, des Gehirns und des Geistes passiert, damit du vorhersagen kannst, was die Menschen tun werden. Sie können verstehen, wie sie sich anfühlen, und natürlich können Sie, sobald Sie verstanden und vorausgesagt haben, in der Regel auch manipulieren, steuern und sogar ersetzen. Und natürlich kann es nicht perfekt gemacht werden und es war bis zu einem gewissen Grad auch vor einem Jahrhundert möglich. Der Niveauunterschied ist jedoch erheblich. Ich würde sagen, der wahre Schlüssel ist, ob jemand Sie besser verstehen kann, als Sie sich selbst verstehen. Die Algorithmen, die versuchen, uns zu hacken, werden niemals perfekt sein. Es gibt keine Möglichkeit, alles perfekt zu verstehen oder alles vorherzusagen. Du brauchst nicht perfekt, du musst nur besser sein als der durchschnittliche Mensch.
NT: Und sind wir jetzt da? Oder haben Sie Angst dorthin zu kommen?
YNH: Ich denke, Tristan könnte antworten, wo wir jetzt besser sind als ich, aber ich denke, wenn wir jetzt nicht da sind, nähern wir uns sehr, sehr schnell.
TH: Ich denke ein gutes Beispiel dafür ist YouTube. Sie öffnen das YouTube-Video, das Ihr Freund Ihnen nach Ihrer Mittagspause sendet. Sie kehren zu Ihrem Computer zurück und Sie denken, dass es in Ordnung ist. Ich weiß, dass ich manchmal zwei oder drei Videos anschaue und mich dann damit beschäftige, aber diesmal wird es wirklich anders. Ich werde nur dieses eine Video anschauen und dann passiert das irgendwie nicht. Sie wachen drei Stunden später aus einer Trance auf und sagen: „Was zum Teufel ist gerade passiert?“Und weil Sie nicht bemerkt haben, dass Sie einen Supercomputer auf Ihr Gehirn gerichtet haben. Wenn Sie dieses Video öffnen, aktivieren Sie Googles Milliarden-Dollar-Rechenleistung und sie haben sich angesehen, was jemals 2 Milliarden menschliche Tiere dazu gebracht hat, auf ein anderes Video zu klicken. Und es weiß viel mehr darüber, was der perfekte Schachzug sein wird, um gegen Ihren Verstand zu spielen. Wenn Sie sich Ihren Kopf als ein Schachbrett vorstellen und den perfekten Zug zum Spielen kennen, schaue ich mir nur dieses eine Video an. Auf dem Schachbrett sind jedoch nur so viele Züge zu sehen. Aber der Computer sieht Ihren Verstand und sagt: „Nein, nein, nein. Ich habe schon eine Milliarde Simulationen dieses Schachspiels auf diesen anderen menschlichen Tieren gespielt, die YouTube gesehen haben. “Und es wird gewinnen. Denken Sie darüber nach, wann Garry Kasparov gegen Deep Blue verliert. Garry Kasparov kann so viele Züge auf dem Schachbrett sehen. Aber er kann nicht über einen bestimmten Punkt hinaus sehen, wie eine Maus in einem Labyrinth so viele Bewegungen vor sich sehen kann, aber ein Mensch kann sehen, wie sich mehr vorwärts bewegt, und dann kann Garry noch mehr Bewegungen vor sich sehen. Aber wenn Garry gegen IBM Deep Blue verliert, ist das für alle Zeiten ein Schachmatt gegen die Menschheit, weil er der beste menschliche Schachspieler war. Es ist also nicht so, dass wir die menschliche Handlungsfähigkeit vollständig verlieren und du zu YouTube kommst. Es macht dich für den Rest deines Lebens süchtig und du verlässt nie den Bildschirm. Aber überall, wo Sie im Internet surfen, zeigt ein Supercomputer auf Ihr Gehirn, spielt Schach gegen Ihren Verstand, und es wird viel öfter gewinnen als nicht.
"Überall, wo Sie das Internet einschalten, gibt es im Grunde genommen einen Supercomputer, der auf Ihr Gehirn zeigt und Schach gegen Ihren Verstand spielt, und der wird viel öfter gewinnen als nicht."
Tristan Harris
NT: Sprechen wir über diese Metapher, denn Schach ist ein Spiel mit einem Gewinner und einem Verlierer. Aber YouTube wird - ich hoffe, bitte, Gods of YouTube - dieses spezielle Video auch Leuten empfehlen, von denen ich hoffe, dass es aufschlussreich und aufschlussreich sein wird. Also ist Schach wirklich die richtige Metapher? Ein Spiel mit Sieger und Verlierer.
TH: Nun, die Frage ist, was ist das Spiel, das gerade gespielt wird? Also, wenn das gespielte Spiel war, Hey Nick, geh zwei Stunden in einem Raum meditieren und dann komm zurück zu mir und sag mir, was du jetzt wirklich in deinem Leben willst. Und wenn YouTube mit 2 Milliarden menschlichen Tieren rechnet, basierend auf jedem, der schon immer Ukulelespielen lernen wollte, kann es sagen: "Hier ist das perfekte Video, das ich später unterrichten muss, das großartig sein kann." Das Problem ist, dass es nicht ist Eigentlich ist es wichtig, was Sie wollen, es ist nur wichtig, was Sie als nächstes auf dem Bildschirm hält. Die Sache, die am besten funktioniert, um ein junges Mädchen am längsten dazu zu bringen, sich ein Diätvideo auf YouTube anzusehen, ist, hier ein Video über Magersucht zu sagen. Wenn Sie eine Person auf ein Video über die Nachrichten vom 11. September schicken, nur ein auf Fakten basierendes Nachrichtenvideo, ist das Video, das als nächstes abgespielt wird, das InfoWars-Video von Alex Jones.
NT: Was passiert mit diesem Gespräch?
TH: Ja, ich denke, es wird wirklich davon abhängen! Das andere Problem ist, dass Sie diese Dinge auch irgendwie hacken können, und es gibt Regierungen, die tatsächlich die Funktionsweise des Empfehlungssystems manipulieren können. Und so sagte Yuval, dass diese Systeme irgendwie außer Kontrolle geraten und Algorithmen dahin laufen, wo 2 Milliarden Menschen ihre Zeit verbringen. Siebzig Prozent dessen, was die Leute auf YouTube sehen, basieren auf Empfehlungen des Algorithmus. Die Leute denken, dass das, was du dir auf YouTube ansiehst, eine Wahl ist. Die Leute sitzen da, sie sitzen da, sie denken, und dann wählen sie. Das stimmt aber nicht. Siebzig Prozent von dem, was die Leute sehen, sind die empfohlenen Videos auf der rechten Seite, was 70 Prozent von 1, 9 Milliarden Nutzern bedeutet, das ist mehr als die Anzahl der Anhänger des Islam, über die Anzahl der Anhänger des Christentums, über das, was sie sich ansehen Täglich 60 Minuten lang auf YouTube - das ist die durchschnittliche Zeit, die Menschen auf YouTube verbringen. Sie haben also 60 Minuten Zeit und 70 Prozent sind mit Computern belegt. Die Maschine ist außer Kontrolle geraten. Denn wenn Sie der Meinung sind, dass die 9/11-Verschwörungstheorien auf Englisch schlecht sind, versuchen Sie es mit 9/11-Verschwörungen auf Burmesisch, Sri Lanka und Arabisch. Es ist eine Art digitaler Frankenstein, der an all diesen Hebeln zieht und Menschen in all diese verschiedenen Richtungen lenkt.
NT: Und Yuval, wir sind auf diesen Punkt eingegangen, indem Sie gesagt haben, dass Sie dies für die Demokratie ängstigt. Und Sie machen sich Sorgen, ob Demokratie überleben kann, oder ich glaube, Sie sagen, der Satz, den Sie in Ihrem Buch verwenden, lautet: Demokratie wird ein Puppenspiel. Erkläre das.
YNH: Ja, ich meine, wenn es sich nicht an diese neuen Realitäten anpasst, wird es nur ein emotionales Puppenspiel. Wenn Sie mit der Illusion weitermachen, dass menschliche Entscheidungen nicht gehackt und manipuliert werden können, und wir ihnen einfach vollkommen vertrauen können und dies die Quelle aller Autorität ist, dann erhalten Sie sehr bald ein emotionales Puppenspiel.
Und dies ist eine der größten Gefahren, mit denen wir konfrontiert sind, und es ist wirklich das Ergebnis einer Art philosophischen Verarmung, wenn man philosophische Ideen aus dem 18. Jahrhundert als selbstverständlich ansieht und sie nicht mit den Erkenntnissen der Wissenschaft aktualisiert. Und es ist sehr schwierig, weil du zu Leuten gehst - die Leute wollen diese Botschaft nicht hören, dass sie hackbare Tiere sind, dass ihre Entscheidungen, ihre Wünsche, ihr Verständnis davon, wer ich bin, was meine authentischsten Bestrebungen sind, das können tatsächlich sein gehackt und manipuliert. Kurz gesagt, meine Amygdala arbeitet vielleicht für Putin. Ich will das nicht wissen. Das will ich nicht glauben. Nein, ich bin ein Free Agent. Wenn ich vor etwas Angst habe, dann wegen mir. Nicht, weil mir jemand diese Angst eingeimpft hätte. Wenn ich etwas wähle, ist dies mein freier Wille. Und wer bist du, der du mir noch etwas sagst?
NT: Nun, ich hoffe, dass Putin bald für meine Amygdala arbeitet, aber das ist ein Nebenprojekt, an dem ich arbeite. Aber nach dem, was Sie in Ihrem ersten Buch geschrieben haben, scheint es unvermeidlich, dass wir an einem Punkt angelangt sind, an dem der menschliche Verstand gehackt werden kann und Computer, Maschinen und KI uns besser verstehen. Aber es ist sicherlich nicht unvermeidlich, dass dies zu negativen Ergebnissen führen würde - zu Verschwörungstheorien vom 11. September und einer gebrochenen Demokratie. Haben wir also den Punkt ohne Wiederkehr erreicht? Wie vermeiden wir den Punkt der Nichtrückkehr, wenn wir dort nicht angekommen sind? Und was sind die wichtigsten Entscheidungspunkte auf dem Weg?
YNH: Da ist nichts unvermeidlich. Ich meine, die Technologie selbst wird sich entwickeln. Sie können nicht einfach alle Forschungsarbeiten in der KI stoppen und Sie können nicht alle Forschungsarbeiten in der Biotechnologie stoppen. Und die beiden gehören zusammen. Ich denke, dass die KI jetzt zu viel Aufmerksamkeit erhält, und wir sollten gleichermaßen darauf achten, was an der Biotech-Front passiert, denn um Menschen zu hacken, braucht man Biologie und einige der wichtigsten Werkzeuge und Erkenntnisse, die nicht vom Computer stammen Wissenschaft, sie kommen aus der Gehirnforschung. Und viele der Leute, die all diese erstaunlichen Algorithmen entwickeln, haben einen Hintergrund in Psychologie und Hirnforschung, weil Sie versuchen, diese zu hacken. Aber was sollen wir realisieren? Wir können die Technologie auf viele verschiedene Arten einsetzen. Ich meine, zum Beispiel verwenden wir jetzt KI hauptsächlich, um Einzelpersonen im Dienst von Unternehmen und Regierungen zu überwachen. Es kann aber auch in die entgegengesetzte Richtung gedreht werden. Wir können dieselben Überwachungssysteme verwenden, um die Regierung im Dienste des Einzelnen zu kontrollieren und zum Beispiel Regierungsbeamte zu überwachen, dass sie nicht korrupt sind. Die Technologie ist dazu bereit. Die Frage ist, ob wir bereit sind, die dafür erforderlichen Tools zu entwickeln.
"Kurz gesagt, meine Amygdala arbeitet vielleicht für Putin."
Yuval Noah Harari
TH: Ich denke, einer der Hauptpunkte von Yuval ist, dass die Biotechnologie es Ihnen ermöglicht, einen Sensor mit Merkmalen dieser Person zu verbinden, die sie selbst nicht kennen, und dass sie das menschliche Tier zunehmend rückentwickeln. Eines der interessanten Dinge, die ich verfolgt habe, ist auch, wie Sie diese Signale ohne einen invasiven Sensor ermitteln können. Und wir haben vor einer Sekunde darüber gesprochen. Es gibt eine sogenannte Euler'sche Videovergrößerung, bei der Sie eine Computerkamera auf das Gesicht einer Person richten. Wenn ich dann einen Supercomputer hinter die Kamera stecke, kann ich tatsächlich eine mathematische Gleichung ausführen, und ich kann die Mikro-Blutpulse in Ihrem Gesicht finden, die ich als Mensch nicht sehen kann, aber die der Computer sehen kann, damit ich sie auswählen kann Erhöhen Sie Ihre Herzfrequenz. Was kann ich damit machen? Ich kann Ihren Stresslevel abrufen, weil mir die Herzfrequenzvariabilität Ihren Stresslevel gibt. Ich kann darauf hinweisen - es gibt eine Frau namens Poppy Crum, die in diesem Jahr einen TED-Vortrag über das Ende des Pokerface hielt. Wir hatten die Idee, dass es ein Pokerface geben kann, wir können unsere Emotionen tatsächlich vor anderen Leuten verbergen. Aber es geht um die Erosion dessen, dass wir eine Kamera auf Ihre Augen richten und sehen können, wann sich Ihre Augen erweitern, was tatsächlich kognitive Belastungen erkennt - wenn Sie Schwierigkeiten haben, etwas zu verstehen, oder wenn Sie es leicht haben, etwas zu verstehen. Wir können dies basierend auf Ihrer Herzfrequenz und Ihrer Augendilatation kontinuierlich anpassen. Wissen Sie, eines der Dinge bei Cambridge Analytica ist die Idee - Sie wissen, es dreht sich alles um das Hacken von Brexit und Russland und allen anderen US-Wahlen -, die darauf beruhte, wenn ich Ihre fünf großen Persönlichkeitsmerkmale kenne, wenn ich Ich kenne die Persönlichkeit von Nick Thompson durch seine Offenheit, Gewissenhaftigkeit, Extrovertiertheit, Verträglichkeit und Neurotik, die mir Ihre Persönlichkeit verleihen. Und basierend auf Ihrer Persönlichkeit kann ich eine politische Botschaft so einstellen, dass sie perfekt für Sie ist. Nun war der ganze Skandal da, dass Facebook diese Daten losließ, um sie von einem Forscher zu stehlen, der dafür sorgte, dass Leute Fragebögen ausfüllten, um herauszufinden, was die fünf großen Persönlichkeitsmerkmale von Nick sind. Aber jetzt gibt es eine Frau namens Gloria Mark von der UC Irvine, die recherchiert hat, dass Sie die fünf wichtigsten Persönlichkeitsmerkmale der Menschen allein anhand ihrer Klickmuster mit einer Genauigkeit von 80 Prozent ermitteln können. Also wieder das Ende des Pokerface, das Ende der verborgenen Teile Ihrer Persönlichkeit. Wir werden in der Lage sein, AIs auf menschliche Tiere zu richten und immer mehr Signale von ihnen einschließlich ihrer Mikroausdrücke herauszufinden. Wenn Sie grinsen und all diese Dinge, haben wir auf all diesen Handys Gesichts-ID-Kameras. Wenn Sie also eine enge Schleife haben, in der ich die politischen Botschaften in Echtzeit an Ihre Herzfrequenz, Ihre Augenweite und Ihre politische Persönlichkeit anpassen kann. Das ist keine Welt, in der du leben willst. Es ist eine Art von Dystopie.
YNH: In vielen Zusammenhängen können Sie das nutzen. Es kann in der Klasse verwendet werden, um herauszufinden, ob einer der Schüler die Nachricht nicht erhält, ob der Schüler gelangweilt ist, was eine sehr gute Sache sein könnte. Es könnte von Anwälten genutzt werden, wie wenn Sie einen Deal aushandeln und wenn ich sehe, was sich hinter Ihrem Pokerface verbirgt und Sie nicht, ist das ein enormer Vorteil für mich. So kann es in einem diplomatischen Umfeld geschehen, in dem sich zwei Ministerpräsidenten treffen, um den israelisch-palästinensischen Konflikt zu lösen, und einer von ihnen hat ein Gehör und ein Computer flüstert ihm ins Ohr, was der wahre emotionale Zustand ist. Was passiert im Gehirn im Kopf der Person auf der anderen Seite des Tisches? Und was passiert, wenn die beiden Seiten dies haben? Und Sie haben eine Art Wettrüsten. Und wir haben absolut keine Ahnung, wie wir mit diesen Dingen umgehen sollen. Ich habe ein persönliches Beispiel gegeben, als ich in Davos darüber sprach. Deshalb habe ich darüber gesprochen, dass meine gesamte Herangehensweise an diese Themen von meiner Erfahrung mit dem Herauskommen geprägt ist. Als ich 21 war, wurde mir klar, dass ich schwul war, und seitdem wurde ich von diesem Gedanken heimgesucht. Was habe ich in den letzten fünf oder sechs Jahren gemacht? Ich meine, wie ist das möglich? Ich spreche nicht von etwas Kleinem, das Sie nicht über sich selbst wissen - jeder hat etwas, das Sie nicht über sich selbst wissen. Aber wie kannst du das überhaupt nicht über dich wissen? Und dann ist der nächste Gedanke ein Computer, und ein Algorithmus hätte mir sagen können, dass ich mit 14 Jahren so einfach war, als ob ich dem Fokus meiner Augen gefolgt wäre. Ich weiß nicht, ich gehe am Strand spazieren oder sehe sogar fern und da ist - was war in den 1980er Jahren, Baywatch oder so - und da ist ein Mann in einem Badeanzug und da ist ein Mädchen in einem Badeanzug und welches wie meine Augen gehen. So einfach ist das. Und dann denke ich: Wie wäre mein Leben gewesen, wenn ich gewusst hätte, als ich 14 war? Zweitens, wenn ich diese Informationen von einem Algorithmus erhalten habe? Ich meine, wenn es etwas unglaublich Unglaubliches für das Ego gibt, ist dies die Quelle dieser Weisheit über mich selbst, ein Algorithmus, der meinen Bewegungen folgt?
Koks gegen Pepsi
NT: Und es gibt ein noch gruseligeres Element, über das Sie in Ihrem Buch schreiben: Was wäre, wenn Coca-Cola es zuerst herausgefunden hätte und Ihnen Cola mit hemdlosen Männern verkauft hätte, als Sie nicht einmal wussten, dass Sie schwul sind?
YNH: Genau! Coca-Cola gegen Pepsi: Coca-Cola weiß das über mich und zeigt mir einen Werbespot mit einem Mann ohne Hemd; Pepsi weiß das nicht über mich, weil sie diese ausgefeilten Algorithmen nicht verwenden. Sie gehen mit den normalen Werbespots mit dem Mädchen im Bikini. Und natürlich kaufe ich Coca-Cola und weiß nicht einmal warum. Am nächsten Morgen, wenn ich in den Supermarkt gehe, kaufe ich Coca-Cola, und ich denke, das ist meine freie Wahl. Ich habe mich für Cola entschieden. Aber nein, ich wurde gehackt.
NT: Das ist also unvermeidlich.
TH: Das ist das ganze Thema. Das ist alles, worüber wir reden. Und wie vertraust du etwas, das diese Signale von dir abzieht? Wenn ein System asymmetrisch ist - wenn Sie mehr über mich wissen als ich über mich selbst, haben wir normalerweise einen Namen dafür. Wenn Sie sich zum Beispiel mit einem Anwalt befassen, geben Sie Ihre ganz persönlichen Daten an einen Anwalt weiter, damit dieser Ihnen weiterhelfen kann. Aber dann haben sie diese Gesetzeskenntnisse und sie kennen Ihre anfälligen Informationen, sodass sie Sie damit ausnutzen können. Stellen Sie sich einen Anwalt vor, der all diese persönlichen Informationen nahm und an einen anderen verkaufte. Aber sie werden von einer anderen Beziehung regiert, der Treuhandbeziehung. Sie können ihre Lizenz verlieren, wenn sie Ihrem Interesse nicht wirklich dienen. Und ebenso ein Arzt oder ein Psychotherapeut. Sie haben es auch. Es stellt sich also die große Frage, wie wir Informationen über uns weitergeben und sagen: „Ich möchte, dass Sie das nutzen, um mir zu helfen.“Auf wessen Autorität kann ich also garantieren, dass Sie mir helfen?
YNH: Mit dem Anwalt gibt es diese formale Einstellung. OK, ich stelle Sie als Anwalt ein, das sind meine Informationen. Und das wissen wir. Aber ich gehe nur die Straße runter, da schaut mich eine Kamera an. Ich weiß nicht einmal, dass es passiert.
TH: Das ist der doppelte Teil. Wenn Sie wissen möchten, was Facebook ist, stellen Sie sich einen Priester in einem Beichtstuhl vor, der die Geständnisse von 2 Milliarden Menschen angehört hat. Aber sie beobachten Sie auch den ganzen Tag über, was Sie anklicken, welche Anzeigen von Coca-Cola oder Pepsi, oder den hemdlosen Mann und die hemdlosen Frauen, und all Ihre Gespräche, die Sie mit allen anderen in Ihrem Leben führen - denn sie haben Facebook Messenger, sie haben auch diese Daten - aber stellen Sie sich vor, dass dieser Priester in einem Geständnisstand, sein gesamtes Geschäftsmodell, den Zugang zum Geständnisstand an eine andere Partei verkaufen soll. So kann dich jemand anders manipulieren. Denn nur so verdient der Priester in diesem Fall Geld. Sie verdienen also auf keine andere Weise Geld.
NT: Es gibt große Unternehmen, die diese Daten haben werden, Sie haben Facebook erwähnt, und es wird Regierungen geben. Um was machst du dir mehr Sorgen?
YNH: Es ist das gleiche. Ich meine, sobald Sie einen bestimmten Punkt überschritten haben, spielt es keine Rolle mehr, wie Sie es nennen. Dies ist die Entität, die tatsächlich regiert, wer auch immer über diese Art von Daten verfügt. Ich meine, auch wenn in einem Umfeld, in dem Sie noch eine formelle Regierung haben und diese Daten in den Händen eines Unternehmens sind, kann das Unternehmen, wenn es möchte, entscheiden, wer die nächsten Wahlen gewinnt. Es ist also nicht wirklich eine gute Wahl. Ich meine, es gibt eine Wahl. Wir können ein anderes politisches und wirtschaftliches System entwerfen, um diese immense Konzentration von Daten und Macht in den Händen von Regierungen oder Unternehmen, die sie nutzen, zu verhindern, ohne verantwortlich zu sein und ohne transparent zu sein, was sie tun. Ich meine, die Nachricht ist nicht in Ordnung. Es ist vorbei. Die Menschheit ist im Mülleimer der Geschichte.
NT: Das ist nicht die Botschaft.
YNH: Nein, das ist nicht die Botschaft.
NT: Puh. Die Augen haben aufgehört, sich zu erweitern.
YNH: Die eigentliche Frage ist, dass wir die Leute dazu bringen müssen, zu verstehen, dass dies real ist. Das passiert. Es gibt Dinge, die wir tun können. Und wie Sie wissen, haben Sie die Zwischenwahlen in ein paar Monaten. Stellen Sie ihnen in jeder Debatte, wenn ein Kandidat die potenziellen Wähler persönlich oder im Fernsehen trifft, die folgende Frage: Was ist Ihr Plan? Was ist Ihre Meinung zu diesem Thema? Was wirst du tun, wenn wir dich wählen? Wenn sie sagen "Ich weiß nicht, wovon du sprichst", ist das ein großes Problem.
TH: Ich denke, das Problem ist, dass die meisten von ihnen keine Ahnung haben, wovon wir sprechen. Und das ist eines der Probleme, da ich denke, dass die politischen Entscheidungsträger, wie wir gesehen haben, in diesen Fragen nicht sehr gut ausgebildet sind.
NT: Es geht ihnen besser. Es geht ihnen dieses Jahr so viel besser als letztes Jahr. Beim Anhörungen im Senat, den letzten Anhörungen mit Jack Dorsey und Sheryl Sandberg, gegenüber den Anhörungen in Zuckerberg oder den Anhörungen in Colin Stretch gab es Verbesserungen.
TH: Es ist wahr. Es gibt aber noch viel mehr. Ich denke, diese Fragen eröffnen einfach einen ganzen Bereich von Möglichkeiten. Wir wissen noch nicht einmal, welche Dinge wir vorhersagen können. Wie wir bereits erwähnt haben, einige Beispiele, die wir kennen. Aber wenn Sie eine geheime Methode haben, etwas über eine Person zu wissen, indem Sie eine Kamera auf sie und die KI richten, warum sollten Sie das veröffentlichen? Es gibt also eine Menge Dinge, die über uns bekannt sind und die uns im Moment manipulieren, von denen wir noch nicht einmal wissen. Und wie fangen wir an, das zu regulieren? Ich denke, dass die Beziehung, die wir regieren wollen, ist, wenn ein Supercomputer auf Sie zeigt, dass diese Beziehung durch eine Reihe von Gesetzen geschützt und geregelt werden muss.
Benutzer, schütze dich
NT: Und so gibt es drei Elemente in dieser Beziehung. Da ist der Supercomputer: Was macht er? Was macht es nicht? Es ist die Dynamik, wie es gezeigt wird. Welche Regeln gelten für das, was gesammelt werden kann, welche Regeln gelten für das, was nicht gesammelt werden kann und was gespeichert werden kann? Und da bist du. Wie trainierst du dich zum Handeln? Wie trainierst du dich, um Selbstbewusstsein zu haben? Lassen Sie uns also über alle drei dieser Bereiche sprechen, möglicherweise beginnend mit der Person. Was sollte der Mensch in Zukunft tun, um in dieser Dynamik besser zu überleben?
TH: Eine Sache, die ich dazu sagen würde, ist, dass ich Selbstbewusstsein für wichtig halte. Es ist wichtig, dass die Leute wissen, worüber wir sprechen, und dass wir gehackt werden können. Aber es ist keine Lösung. Sie haben Millionen von Jahren der Evolution hinter sich, die Ihren Geist anleiten, um bestimmte Urteile und Schlussfolgerungen zu ziehen. Ein gutes Beispiel dafür ist, wenn ich einen VR-Helm aufsetze und jetzt plötzlich in einem Raum bin, in dem es einen Felsvorsprung gibt, ich bin am Rand einer Klippe, ich weiß bewusst, dass ich hier in einem Raum sitze mit Yuval und Nick, das weiß ich bewusst. Also habe ich das Selbstbewusstsein zugelassen - ich weiß, dass ich manipuliert werde. Aber wenn du mich drückst, will ich nicht fallen, oder? Weil ich Millionen von Jahren Evolution hinter mir habe, die mir sagen, dass Sie mich von einem Felsvorsprung stoßen. Auf die gleiche Weise, wie Sie sagen können - Dan Ariely macht diesen Witz tatsächlich zum Verhaltensökonom -, wirkt sich diese Schmeichelei auf uns aus, auch wenn ich Ihnen sage, dass ich es wieder gut mache. Nick, ich liebe deine Jacke gerade. Ich finde, es ist eine großartige Jacke für dich. Es ist eine wirklich tolle Jacke.
NT: Ich habe es tatsächlich herausgesucht, weil ich gestern Ihre Kohlendioxid-Ausatmung studiert habe …
TH: Genau, wir manipulieren uns jetzt …
Der Punkt ist, dass es sich immer noch gut anfühlt, auch wenn Sie wissen, dass ich das nur erfasse. Die Schmeichelei fühlt sich gut an. Deshalb ist es wichtig, dass wir dies als eine neue Ära betrachten, als eine Art neue Erleuchtung, in der wir uns auf eine ganz andere Weise sehen müssen, und das heißt nicht, dass das die ganze Antwort ist. Es ist nur der erste Schritt, den wir alle machen müssen -
NT: Der erste Schritt ist also zu erkennen, dass wir alle verwundbar und hackbar sind.
TH: Richtig, verletzlich.
NT: Aber es gibt Unterschiede. Yuval ist weniger hackbar als ich, weil er zwei Stunden am Tag meditiert und kein Smartphone benutzt. Ich bin super hackbar. Also, was sind die anderen Dinge, die ein Mensch tun kann, um weniger hackbar zu sein?
YNH: Sie müssen sich also so gut wie möglich kennenlernen. Es ist keine perfekte Lösung, aber jemand rennt hinter dir her, du rennst so schnell du kannst. Ich meine, es ist ein Wettbewerb. Also, wer kennt dich am besten auf der Welt? Wenn du 2 Jahre alt bist, ist es deine Mutter. Schließlich hoffen Sie, ein Stadium im Leben zu erreichen, in dem Sie sich noch besser kennen als Ihre Mutter. Und dann rennt plötzlich diese Firma oder Regierung hinter dir her, und sie sind weit hinter deiner Mutter her, und sie sind hinter dir her. Sie werden gleich zu Ihnen kommen - dies ist der kritische Moment. Sie kennen dich besser, als du dich selbst kennst. Also renn weg, renn ein bisschen schneller. Und es gibt viele Möglichkeiten, schneller zu laufen und sich selbst ein bisschen besser kennenzulernen. Meditation ist also eine Möglichkeit. Und es gibt Hunderte von Meditationstechniken, verschiedene Arten, mit verschiedenen Menschen zu arbeiten. Sie können zur Therapie gehen, Sie können Kunst benutzen, Sie können Sport betreiben, was auch immer. Was auch immer für dich funktioniert. Aber es wird jetzt viel wichtiger als je zuvor. Sie wissen, es ist der älteste Ratschlag im Buch: Kennen Sie sich. Aber in der Vergangenheit hattest du keine Konkurrenz. Wenn Sie im alten Athen lebten, kam Sokrates und sagte: „Kennen Sie sich. Es ist gut, es ist gut für dich. “Und du hast gesagt:„ Nein, ich bin zu beschäftigt. Ich habe diesen Olivenhain, mit dem ich mich befassen muss - ich habe keine Zeit. “Also gut, Sie haben sich nicht besser kennengelernt, aber es gab niemanden, der mit Ihnen konkurrierte. Jetzt haben Sie ernsthafte Konkurrenz. Sie müssen sich also besser kennenlernen. Aber das ist wie die erste Maxime. Zweitens sollten Sie als Einzelperson erkennen, dass Sie nicht viel allein tun können, wenn wir darüber sprechen, was mit der Gesellschaft geschieht. Treten Sie einer Organisation bei. Wenn Sie sich wirklich Sorgen machen, schließen Sie sich diese Woche einer Organisation an. 50 Menschen, die zusammenarbeiten, sind eine weitaus mächtigere Kraft als 50 Menschen, von denen jeder ein Aktivist ist. Es ist gut, Aktivist zu sein. Es ist viel besser, Mitglied einer Organisation zu sein. Und dann gibt es noch andere erprobte und erprobte Methoden der Politik. Wir müssen zu dieser chaotischen Sache zurückkehren, politische Vorschriften zu treffen und Entscheidungen zu treffen. Es ist vielleicht das Wichtigste. In der Politik geht es um Macht. Und hier ist jetzt die Macht.
"Das System an sich kann erstaunliche Dinge für uns tun. Wir müssen es nur umkehren, damit es unseren Interessen dient, egal was das ist und nicht den Interessen des Unternehmens oder der Regierung."
Yuval Noah Harari
TH: Ich werde das ergänzen. Ich glaube, es besteht die Versuchung, OK zu sagen, wie können wir uns schützen? Und wenn sich dieses Gespräch in mein Smartphone verlagert, ohne mich zu hacken, werden Dinge angezeigt wie: Oh, ich werde mein Telefon auf Graustufen einstellen. Oh, ich schalte Benachrichtigungen aus. Was jedoch fehlt, ist, dass Sie in einem sozialen Gefüge leben. Wir gehen raus. Mein Leben hängt von der Qualität der Gedanken, Überzeugungen und des Lebens anderer Menschen ab. Wenn also jeder um mich herum eine Verschwörungstheorie glaubt, weil YouTube 1, 9 Milliarden menschliche Tiere nimmt und das Spielfeld kippt, damit jeder Infowars sieht, hat YouTube übrigens 15 Milliarden Empfehlungen von Alex Jones InfoWars abgegeben, und das ist eine Empfehlung. Und dann 2 Milliarden Aufrufe - wenn nur einer von tausend Leuten diesen 2 Milliarden Aufrufe glaubt, sind das immer noch 2 Millionen Leute.
YNH: Mathematik ist nicht unsere Stärke.
TH: Und wenn das 2 Millionen Menschen sind, dann sind das immer noch 2 Millionen neue Verschwörungstheoretiker. Wenn du sagst, hey, ich bin ein Kind, ich bin ein Teenager und ich möchte mich nicht um die Anzahl der Likes kümmern, die ich bekomme, also werde ich aufhören, Snapchat oder Instagram zu benutzen. Ich möchte nicht von meinem Selbstwert in Bezug auf Vorlieben gehackt werden. Ich kann sagen, dass ich diese Dinge nicht verwenden möchte, aber ich lebe immer noch in einem sozialen Gefüge, in dem all meine anderen sexuellen Möglichkeiten, sozialen Möglichkeiten, die Übertragung von Hausaufgaben, wo die Leute über diese Dinge sprechen, wenn sie nur Instagram verwenden, muss ich teilnehmen in diesem sozialen Gefüge. Ich denke, wir müssen die Konversation abheben von: Wie stelle ich sicher, dass ich nicht gehackt werde? Es ist nicht nur ein individuelles Gespräch. Wir wollen, dass die Gesellschaft nicht gehackt wird, was auf den politischen Punkt und die Art und Weise, wie wir als Gruppe politisch mobilisieren, um die gesamte Branche zu verändern, hinausläuft. Ich meine, für mich denke ich an die Tech-Industrie.
NT: Das ist der erste Schritt in dieser dreistufigen Frage. Was kann der Einzelne tun? Kenne dich selbst, mache die Gesellschaft widerstandsfähiger, mache die Gesellschaft weniger hackbar. Was ist mit der Übertragung zwischen dem Supercomputer und dem Menschen? Was sind die Regeln und wie sollten wir darüber nachdenken, wie wir die Fähigkeit des Supercomputers einschränken können, Sie zu hacken?
YNH: Das ist eine große.
TH: Das ist eine große Frage.
NT: Deshalb sind wir hier!
YNH: Im Wesentlichen denke ich, dass wir uns damit abfinden müssen, dass wir es nicht vollständig verhindern können. Und es liegt nicht an der KI, sondern an der Biologie. Es ist nur die Art von Tieren, die wir sind, und die Art von Wissen, das wir jetzt über den menschlichen Körper haben, über das menschliche Gehirn. Wir haben einen Punkt erreicht, an dem dies wirklich unvermeidlich ist. Und Sie brauchen nicht einmal einen biometrischen Sensor. Sie können einfach eine Kamera verwenden, um meinen Blutdruck zu bestimmen. Was passiert jetzt und dadurch, was passiert mir emotional? Ich würde also sagen, wir müssen unsere Welt völlig neu erfassen. Und deshalb habe ich zunächst gesagt, dass wir unter philosophischer Verarmung leiden, dass wir immer noch an den Ideen des 18. Jahrhunderts festhalten, die für zwei oder drei Jahrhunderte gut sind, die sehr gut waren, aber einfach nicht ausreichen zu verstehen, was gerade passiert. Und deswegen denke ich auch, dass bei all dem Gerede über den Arbeitsmarkt und dem, was sie heute studieren sollten, das in 20 bis 30 Jahren für den Arbeitsmarkt relevant sein wird, Philosophie für mich vielleicht eine der besten Wetten ist.
NT: Manchmal scherze ich, dass meine Frau Philosophie und Tanz am College studiert hat, was zu der Zeit wie die zwei schlimmsten Berufe schien, weil man in beiden Berufen auch keinen Job bekommen kann. Aber jetzt sind sie wie die letzten beiden Dinge, die durch Roboter ersetzt werden.
TH: Ich denke, dass Yuval Recht hat. Ich denke, oft lässt dieses Gespräch die Leute zu dem Schluss kommen, dass es an der menschlichen Entscheidung oder den Gefühlen des menschlichen Geistes nichts gibt, das es wert ist, respektiert zu werden. Und ich denke nicht, dass das der Punkt ist. Ich denke, der Punkt ist, dass wir eine neue Art von Philosophie brauchen, die eine bestimmte Art von Denken oder kognitiven Prozessen oder konzeptuellen Prozessen oder sozialen Prozessen anerkennt, die wir wollen. Wie zum Beispiel [James] Fishkin, Professor an der Stanford University, der sich mit absichtlicher Demokratie befasst und gezeigt hat, dass, wenn Sie eine zufällige Stichprobe von Personen in einem Hotelzimmer für zwei Tage erhalten und Experten hinzukommen und sie über eine Reihe von Dingen informieren Wenn sie ihre Meinung über Probleme ändern, von polarisiert zu weniger polarisiert wechseln, können sie zu mehr Übereinstimmung kommen. Und da gibt es eine Art von Prozess, den Sie in einen Papierkorb werfen und sagen können, dass dies ein sozialer kognitiver Sinnesprozess ist, den wir vielleicht anhand dieses Prozesses abtasten möchten, im Gegensatz zu einem entfremdeten, einsamen Menschen, dem Fotos von seinen Freunden gezeigt wurden den ganzen Tag Spaß ohne sie zu haben, und dann schlagen wir sie mit russischen Anzeigen. Wir wollen wahrscheinlich kein Signal von dieser Person abtasten - nicht, dass wir nicht von dieser Person wollen, aber wir wollen nicht, dass dieser Prozess die Grundlage für unsere kollektiven Entscheidungen ist. Weißt du, wir stecken immer noch in einem Geist-Körper-Anzug, wir kommen nicht raus, also lernen wir besser, wie wir ihn so verwenden, dass die höheren Engel unserer Natur zum Vorschein kommen. die reflektierenderen Teile von uns. Ich denke, was Technologiedesigner tun müssen, ist diese Frage zu stellen. Als gutes Beispiel, um es praktisch zu machen, nehmen wir noch einmal YouTube. Also, was ist der Unterschied zwischen einem Teenager - nehmen wir das Beispiel von: Sie sehen sich das Ukulelen-Video an. Es ist eine sehr häufige Sache auf YouTube. Es gibt viele Ukulele-Videos, wie man Ukulele spielt. Was ist in dem Moment los, in dem andere Ukulelen-Videos empfohlen werden? Nun, es gibt tatsächlich den Wert, dass jemand lernen möchte, wie man Ukulele spielt, aber der Computer weiß das nicht, er empfiehlt einfach mehr Ukulele-Videos. Aber wenn es wirklich wüsste, dass du, anstatt nur zu sagen, unendlich mehr Ukulelenvideos anzuschauen, könnte es heißen, und hier sind deine 10 Freunde, die wissen, wie man Ukulelen spielt, von denen du nicht wusstest, wie man Ukulelen spielt, und du kannst geh mit ihnen rumhängen. Es könnte im Grunde genommen diese Entscheidungen ganz oben auf die Speisekarte des Lebens setzen.
YNH: Das System an sich kann erstaunliche Dinge für uns tun. Wir müssen es nur umkehren, damit es unseren Interessen dient, was auch immer das ist und nicht den Interessen des Unternehmens oder der Regierung. OK, jetzt, da wir erkennen, dass unser Gehirn gehackt werden kann, brauchen wir ein Antivirus für das Gehirn, genau wie wir eines für den Computer haben. Und es kann auf der Basis der gleichen Technologie arbeiten. Nehmen wir an, Sie haben einen KI-Kumpel, der Sie rund um die Uhr überwacht. Was schreibst du? Was siehst du? Alles. Aber diese KI dient Ihnen als treuhänderische Verantwortung. Und es lernt Ihre Schwächen kennen, und wenn es Ihre Schwächen kennt, kann es Sie vor anderen Agenten schützen, die versuchen, Sie zu hacken und Ihre Schwächen auszunutzen. Also, wenn Sie eine Schwäche für lustige Katzenvideos haben und eine enorme Menge Zeit, eine übermäßige Menge Zeit damit verbringen, nur zuzuschauen - Sie wissen, dass es nicht sehr gut für Sie ist, aber Sie können einfach nicht aufhören zu klicken, dann die KI wird eingreifen, und wann immer diese lustigen Katzenvideos versuchen, die KI aufzurufen, sagt nein nein nein nein. Und es wird Ihnen vielleicht nur eine Nachricht zeigen, dass jemand versucht hat, Sie zu hacken. Während Sie diese Nachrichten über jemanden erhalten, der gerade versucht hat, Ihren Computer mit einem Virus zu infizieren, kann dies zum Ende führen. Ich meine, das Schwierigste für uns ist es, unsere eigenen Schwächen und Vorurteile zuzugeben, und das kann in alle Richtungen gehen. Wenn Sie eine Voreingenommenheit gegen Trump oder gegen Trump-Anhänger haben, so würden Sie jede Geschichte, wie weit hergeholt und lächerlich sie auch sein mag, sehr leicht glauben. Also, ich weiß nicht, Trump denkt, die Welt ist flach. Trump ist dafür, alle Muslime zu töten. Sie würden darauf klicken. Das ist deine Voreingenommenheit. Und die KI wird das wissen und es ist völlig neutral und dient keiner Einheit da draußen. Es lernt nur deine Schwächen und Vorurteile kennen und versucht dich davor zu schützen.
NT: Aber wie erfährt es, dass es eine Schwäche und eine Voreingenommenheit ist? Und nicht etwas, das du wirklich magst?
TH: Hier brauchen wir meines Erachtens einen reichhaltigeren philosophischen Rahmen. Denn wenn Sie das haben, dann können Sie das zu diesem Verständnis bringen. Wenn also ein Teenager da sitzt und in diesem Moment das Diätvideo anschaut, wird ihm das Magersuchtvideo gezeigt. Stellen Sie sich statt eines 22-jährigen männlichen Ingenieurs vor, der nach Stanford ging, einen Informatiker, der überlegte: Was kann ich ihnen zeigen, dass das wie das Perfekte ist? Sie hatten einen 80-jährigen Kinderentwicklungspsychologen, der bei den besten Kinderentwicklungspsychologen studierte und überlegte, was für einen Teenager im Alter von 13 Jahren normalerweise ein Gefühl der Unsicherheit, der Identitätsentwicklung und des Experimentierens ist. Was wäre das Beste für sie? Wir denken, dies ist wie der gesamte Rahmen menschlicher Technologie, und wir denken, dies ist die Sache: Wir müssen uns den Spiegel vorhalten, um zuerst unsere Schwachstellen zu verstehen. Und Sie gestalten ausgehend von dem, wofür wir anfällig sind. Aus praktischer Sicht stimme ich dieser Idee eines KI-Kumpels voll und ganz zu, aber wenn wir uns vorstellen, dass wir in der Realität leben, der beängstigenden Realität, von der wir gerade sprechen. Es ist nicht so, dass dies eine Science-Fiction-Zukunft ist. Dies ist der aktuelle Zustand. Wir überlegen also, wie wir zu einem tatsächlichen Zustand navigieren können, den wir wollen. Wir möchten wahrscheinlich nicht, dass ein KI-Kumpel eine solche optionale Sache ist, die sich manche Leute, die reich sind, leisten können, und andere, die sich nicht leisten können Das können wir nicht, wir möchten wahrscheinlich, dass es in die Art und Weise eingebrannt wird, wie Technologie funktioniert, damit es eine treuhänderische Verantwortung für unsere besten, subtilen, mitfühlenden und verletzlichen Interessen hat.
NT: Also werden wir von der Regierung gesponserte KI-Kumpels haben? Wir werden Konzerne haben, die uns KI-Kumpels verkaufen, diese aber subventionieren. Es sind also nicht nur die Reichen, die wirklich gute KI-Kumpels haben?
TH: Hier kommt das Geschäftsmodell-Gespräch ins Spiel.
YNH: Eine Sache ist, die Art und Weise zu ändern: Wenn Sie an eine Universität oder ein College gehen und Informatik lernen, ist es ein wesentlicher Bestandteil des Kurses, etwas über Ethik und die Ethik des Codierens zu lernen. Und ich finde es wirklich sehr verantwortungslos, dass man nicht fertig ist, einen Abschluss in Informatik und Codierung hat und all diese Algorithmen entwerfen kann, die jetzt das Leben der Menschen prägen, und dass man einfach keinen Hintergrund hat ethisch und philosophisch darüber nachzudenken, was Sie tun. Sie dachten nur in rein technischer oder in wirtschaftlicher Hinsicht. Und das ist eine Sache, die es von Anfang an in den Kuchen schafft.
NT: Nun lass mich dich etwas fragen, das ein paar Mal aufgetaucht ist, worüber ich mich gewundert habe. Wenn Sie also das Beispiel der Ukulele gegeben haben, über das Sie gesprochen haben, sollten Sie vielleicht Freunde aufsuchen, die Ukulele spielen, und sie offline besuchen. Und in Ihrem Buch sagen Sie, dass einer der entscheidenden Momente für Facebook kommen wird, wenn ein Ingenieur erkennt, dass es für die Person und die Gemeinschaft besser ist, wenn sie ihren Computer verlassen. Und was macht Facebook dann damit? Aus moralischer Sicht scheint es, dass eine Plattform, wenn sie erkennt, dass es für Sie besser ist, offline zu gehen und jemanden zu sehen, Sie ermutigen sollte, dies zu tun. Aber dann verlieren sie ihr Geld und werden überholt. Wie kommt man also tatsächlich an den Punkt, an dem der Algorithmus, die Plattform, jemanden in diese Richtung drängt?
TH: Deshalb ist dieses Geschäftsmodellgespräch so wichtig und auch, warum die Rolle von Apple und Google so wichtig ist, weil sie vor dem Geschäftsmodell all dieser Apps stehen, die Ihre Zeit stehlen und die Aufmerksamkeit maximieren möchten.
Also Android und iOS, um dies nicht zu technisch oder zu einem branchenbezogenen Gespräch zu machen, aber sie sollten theoretisch - auf dieser Ebene haben Sie nur das Gerät, für wen sollte das sein? Wessen bestem Interesse dienen sie? Wollen sie die Apps so erfolgreich wie möglich machen? Und machen Sie die Zeit, die süchtig macht, maximiert, Sie wissen, Einsamkeit, Entfremdung und sozialer Vergleich all das Zeug? Oder sollte diese Schicht ein Treuhänder sein, als der KI-Kumpel zu unseren tiefsten Interessen, zu unserem physisch verkörperten Leben, zu unseren physisch verkörperten Gemeinschaften. Als ob wir diesem Instrument nicht entkommen könnten und es sich herausstellen würde, dass es die schlimmste Strafe ist, wenn wir Menschen innerhalb der Gemeinschaft sind und direkten Kontakt haben. Es gibt einen Grund, warum Einzelhaft die schlimmste Strafe ist. Und wir haben eine Technologie, die im Grunde genommen die Isolation maximiert, weil sie die Zeit maximieren muss, die wir auf dem Bildschirm bleiben. Ich denke also, eine Frage ist, wie Apple und Google ihr gesamtes Unternehmen dazu bewegen können, die lokale treuhänderische Verantwortung gegenüber der Gesellschaft zu verkörpern. Und was wir als humane Technologie betrachten, das ist die Richtung, in die sie gehen können. Facebook könnte sein Geschäftsmodell auch dahingehend ändern, dass es sich mehr um Zahlungen und Transaktionen handelt, die auf dem Austausch von Dingen basieren, an denen sie gerade arbeiten, mit den Blockchain-Dingen, an denen sie theoretisch arbeiten, und auch um Messenger-Zahlungen. Wenn sie von einem werbebasierten Geschäftsmodell zu Mikrozahlungen übergehen, können sie das Design einiger dieser Dinge tatsächlich ändern. Und es könnte ganze Teams von Ingenieuren bei News Feed geben, die nur darüber nachdenken, was für die Gesellschaft am besten ist, und dann würden die Leute immer noch folgende Fragen stellen: Wer ist Facebook, um zu sagen, was für die Gesellschaft gut ist? Aber aus dieser Situation kommt man nicht heraus, denn sie prägen, was 2 Milliarden menschliche Tiere jeden Tag denken und fühlen.
NT: Das bringt mich zu einem der Dinge, über die ich Ihre Gedanken am meisten hören möchte, nämlich, dass Apple und Google dies im letzten Jahr zu einem gewissen Grad getan haben. Und Facebook hat. Ich glaube, jede Führungskraft in jedem Technologieunternehmen hat im letzten Jahr irgendwann „Zeit gut angelegt“gesagt. Wir hatten ein großes Gespräch darüber und die Leute haben 26 Billionen dieser Bücher gekauft. Denken Sie tatsächlich, dass wir in diesem Moment in die richtige Richtung gehen, weil Veränderungen stattfinden und die Leute nachdenken? Oder haben Sie das Gefühl, dass wir immer noch in die falsche Richtung gehen?
YNH: Ich denke, dass wir in der Technologiewelt in dem Sinne in die richtige Richtung gehen, dass die Leute die Einsätze realisieren. Die Menschen erkennen die immense Macht, die sie in ihren Händen haben - ich spreche von Menschen in der Technologiewelt -, sie erkennen den Einfluss, den sie auf die Politik, auf die Gesellschaft, auf und auf haben. Und die meisten von ihnen reagieren, denke ich, nicht auf die bestmögliche Art und Weise, aber mit Sicherheit auf die verantwortungsvolle Art und Weise, um zu verstehen, ja, wir haben diese enorme Auswirkung auf die Welt. Das haben wir vielleicht nicht geplant. Aber dies geschieht und wir müssen sehr sorgfältig überlegen, was wir damit machen sollen. Sie wissen nicht, was sie damit anfangen sollen. Niemand weiß es wirklich, aber zumindest ist der erste Schritt getan, das Geschehen zu erkennen und Verantwortung zu übernehmen. Der Ort, an dem wir eine sehr negative Entwicklung sehen, ist auf globaler Ebene, weil das ganze Gespräch bisher wirklich eine Art internes Silicon Valley, Kalifornien, USA-Gespräch war. Aber in anderen Ländern ist etwas los. Ich meine, all die Gespräche, die wir bisher geführt haben, beruhten auf den Ereignissen in liberalen Demokratien und auf den freien Märkten. In einigen Ländern haben Sie vielleicht überhaupt keine Wahl. Sie müssen nur alle Ihre Informationen teilen und Sie müssen nur das tun, was der von der Regierung gesponserte Algorithmus Ihnen vorschreibt. Es ist also ein völlig anderes Gespräch und eine andere Art von Komplikation ist das KI-Wettrüsten, das es vor fünf Jahren oder sogar vor zwei Jahren nicht gab. Und jetzt ist es vielleicht die oberste Priorität an vielen Orten der Welt, dass in der KI ein Wettrüsten stattfindet, und wir, unser Land, müssen dieses Wettrüsten gewinnen. Und wenn Sie in eine Wettrüstensituation eintreten, wird es sehr schnell zu einem Wettlauf nach unten, weil Sie dies sehr oft hören können. OK, es ist eine schlechte Idee, dies zu tun, das zu entwickeln, aber sie tun es und es gibt Sie haben einen Vorteil und wir können nicht zurückbleiben. Wir sind die Guten. Wir wollen es nicht tun, aber wir können nicht zulassen, dass die Bösen vor uns sind, also müssen wir es zuerst tun. Und du fragst die anderen Leute, sie werden dasselbe sagen. Und dies ist eine äußerst gefährliche Entwicklung.
TH: Es ist ein Gefangenendilemma. Es ist eine multipolare Falle. Ich meine, jeder Schauspieler - niemand möchte Schlachtbot-Drohnen bauen. Aber wenn ich denke, dass du es tust, obwohl ich es nicht will, muss ich bauen und du baust es. Und wir beide halten sie fest.
NT: Und sogar auf einer tieferen Ebene, wenn Sie etwas Ethik in Ihre Schlachtbot-Drohnen einbauen wollen, aber es wird Sie verlangsamen.
TH: Richtig. Und eine der Herausforderungen - eines der Dinge, über die wir meiner Meinung nach gesprochen haben, als wir uns das erste Mal getroffen haben, war die Ethik der Geschwindigkeit, der Taktrate. Denn je schneller - wir konkurrieren im Wesentlichen darum, wer schneller sein kann, um dieses Zeug herzustellen, aber schneller bedeutet, dass es mit größerer Wahrscheinlichkeit gefährlich und mit geringerer Wahrscheinlichkeit sicher ist. Im Grunde genommen rasen wir so schnell wie möglich, um die Dinge zu erschaffen, bei deren Erschaffung wir wahrscheinlich so langsam wie möglich sein sollten. Und ich denke, Sie kennen sich mit dem Hochfrequenzhandel an den Finanzmärkten aus. Sie möchten nicht, dass Menschen ganze Berge in die Luft jagen, damit sie diese Kupferkabel verlegen und damit einen Handel von Mikrosekunden schneller durchführen können. Sie konkurrieren also nicht einmal, wenn Sie eine Adam-Smith-Version dessen kennen, was wir schätzen, oder so ähnlich. Sie konkurrieren im Grunde genommen darum, wer Berge in die Luft jagen und Transaktionen schneller machen kann. Wenn Sie den Hochfrequenzhandel zu dem hinzufügen, wer Menschen schneller programmieren kann und wer Kulturkriege auf der ganzen Welt effektiver manipuliert, wird dies zu einer Art Wettlauf auf den Abgrund des totalen Chaos. Ich denke, wir müssen sagen, wie wir das verlangsamen und ein vernünftiges Tempo schaffen können, und ich denke, es geht auch um eine humane Technologie, statt eines Kinderentwicklungspsychologen, jemanden zu fragen, wie Sie den Psychologen kennen, was die Uhr ist Raten menschlicher Entscheidungen, bei denen wir tatsächlich dazu neigen, nachdenkliche Entscheidungen zu treffen? Sie wollen wahrscheinlich nicht, dass sich eine ganze Gesellschaft zu etwas entwickelt, das wirklich wichtig ist, und 100 Entscheidungen pro Stunde trifft. Was ist also die richtige Taktrate? Ich denke, wir müssen tatsächlich eine Technologie haben, die uns zu solchen Entscheidungsprozessen führt.
Wird das Problem besser oder schlimmer?
NT: Also zurück zur ursprünglichen Frage. Sie sind etwas optimistisch in Bezug auf einige der kleinen Dinge, die an diesem sehr kleinen Ort passieren? Aber zutiefst pessimistisch über die völlige Vernichtung der Menschheit?
TH: Ich denke, dass Yuvals Argument richtig ist, Sie wissen, dass es eine Frage zu US-Technologieunternehmen gibt, die größer sind als viele Regierungen - Facebook kontrolliert die Gedanken von 2, 2 Milliarden Menschen. Mark Zuckerberg ist Chefredakteur von 2, 2 Milliarden Gedanken. Aber es gibt auch Regierungen der Welt oder, sorry, nationale Regierungen, die einem anderen Regelwerk unterliegen. Ich denke, die Tech-Unternehmen wachen sehr, sehr langsam auf. Und bis jetzt, wissen Sie, ist es zum Beispiel beim Thema "Zeit, die gut verbraucht ist" angebracht, den Leuten zu helfen, weil sie anfällig dafür sind, wie viel Zeit sie verbringen, und ein Limit für die Zeit festzulegen, die sie verbringen. Damit ist jedoch keines dieser größeren Probleme gelöst, wie man Gedanken an eine Demokratie programmieren kann, wie psychische Gesundheit und Entfremdung bei Teenagern weit verbreitet sein können, was dazu führt, dass sich die Selbstmordrate bei Teenagern für Mädchen in den letzten acht Jahren verdoppelt. Sie wissen also, dass wir eine viel umfassendere Sicht und Umstrukturierung der Technologiebranche benötigen, um darüber nachzudenken, was für die Menschen gut ist. Und es wird einen unangenehmen Übergang geben, ich habe diese Metapher verwendet, es ist wie beim Klimawandel. Es gibt bestimmte Momente in der Geschichte, in denen eine Wirtschaft von etwas gestützt wird, das wir nicht wollen. Das größte Beispiel dafür ist die Sklaverei im 19. Jahrhundert. Es gab einen Punkt, an dem die Sklaverei die gesamte Weltwirtschaft stützte. Man konnte nicht einfach sagen, dass wir das nicht mehr wollen. Lassen Sie es uns einfach aus der Wirtschaft heraussaugen. Die ganze Wirtschaft wird zusammenbrechen, wenn Sie das getan haben. Aber als das britische Empire beschloss, die Sklaverei abzuschaffen, mussten sie 60 Jahre lang jedes Jahr 2 Prozent ihres BIP aufgeben, und sie konnten diesen Übergang über einen Übergangszeitraum hinweg vollziehen, und deshalb setze ich Werbung oder menschliches Programmieren nicht gleich Wesen zur Sklaverei. Ich bin nicht. Aber es gibt eine ähnliche Struktur der gesamten Wirtschaft, wenn man die Börse betrachtet, wie ein riesiger Teil des Wertes, der von diesen Systemen angetrieben wird, die auf Werbeprogrammen basieren, die auf Menschen und Tieren basieren. Wenn wir dieses Modell, das Werbemodell, herausnehmen wollten, können wir uns diesen Übergang eigentlich nicht leisten. Aber es könnte unangenehme Jahre geben, in denen Sie sich im Grunde auf diesem langen Übergangspfad befinden. Ich denke, in diesem Moment müssen wir es viel schneller machen als in anderen Situationen, weil die Bedrohungen dringender sind.
NT: Yuval, stimmen Sie zu, dass dies eines der Dinge ist, über die wir nachdenken müssen, wenn wir versuchen, das Weltsystem in den nächsten Jahrzehnten zu reparieren?
YNH: Es ist eines der Dinge. Aber auch hier ist das Problem der Welt, der Menschheit nicht nur das Werbemodell. Ich meine, die grundlegenden Tools wurden entworfen - Sie hatten vor 10 oder 20 Jahren die klügsten Leute auf der Welt, die dieses Problem gelöst haben: Wie bringe ich Leute dazu, auf Anzeigen zu klicken? Einige der klügsten Menschen überhaupt, das war ihre Aufgabe, dieses Problem zu lösen. Und sie haben es gelöst. Und dann wurden die Methoden, die sie anfangs verwendeten, um uns Unterwäsche und Sonnenbrillen zu verkaufen, und die Ferien in der Karibik und ähnliche Dinge, entführt und bewaffnet, und jetzt werden sie verwendet, um uns alle möglichen Dinge zu verkaufen, einschließlich politischer Meinungen und ganzer Ideologien. Und jetzt steht es nicht mehr unter der Kontrolle des Technologieriesen im Silicon Valley, der diese Methoden entwickelt hat. Diese Methoden sind da draußen. Selbst wenn Sie Google und Facebook dazu bringen, es komplett aufzugeben, ist die Katze aus dem Sack. Die Leute wissen bereits, wie es geht. Und in dieser Arena gibt es ein Wettrüsten. Also ja, wir müssen dieses Werbegeschäft herausfinden. Es ist sehr wichtig. Aber es wird das menschliche Problem nicht lösen. Und ich denke jetzt ist der einzige wirklich effektive Weg, dies zu tun, auf globaler Ebene. Und dafür brauchen wir eine globale Zusammenarbeit bei der Regulierung der KI, bei der Regulierung der Entwicklung der KI und der Biotechnologie, und wir bewegen uns natürlich in die entgegengesetzte Richtung der globalen Zusammenarbeit.
TH: Ich stimme tatsächlich zu, dass es diesen Begriff der Spieltheorie gibt. Sicher, Facebook und Google könnten das, aber das spielt keine Rolle, denn die Katze ist aus dem Sack, und die Regierungen werden es tun, und andere Tech-Unternehmen werden es tun, und Russlands Tech-Infrastruktur wird es tun. Wie verhindern Sie das?
Nicht um es zurückzubringen, nicht um die Sklaverei in ähnlicher Weise gleichzusetzen, aber als das britische Empire beschloss, die Sklaverei abzuschaffen und ihre Abhängigkeit davon für ihre Wirtschaft zu subtrahieren, waren sie tatsächlich besorgt, dass Frankreichs Wirtschaft diesbezüglich immer noch tun wird Lass dich von der Sklaverei antreiben und sie werden weit an uns vorbei fliegen. Aus Wettbewerbssicht können wir das also nicht tun, aber sie haben es in eine universelle globale Menschenrechtsfrage verwandelt. Das hat länger gedauert, aber ich denke, das ist, wie Yuval sagt, ich stimme zu, dass es ein globales Gespräch über die menschliche Natur und die menschliche Freiheit ist. Wenn es so etwas gibt, aber zumindest Arten von menschlicher Freiheit, die wir bewahren wollen und die meiner Meinung nach eigentlich im Interesse aller liegt, dann ist es nicht unbedingt die gleiche Fähigkeit, dies zu erreichen, weil die Regierungen sehr mächtig sind. Aber wir werden uns in diese Richtung bewegen, indem wir ein globales Gespräch darüber führen.
NT: Beenden wir dies mit einem Rat an jemanden, der dieses Video sieht. Sie haben gerade ein Video von Alex Jones gesehen und der YouTube-Algorithmus hat sich geändert und ihn hierher geschickt, und sie sind irgendwie an diesen Punkt gekommen. Sie sind 18 Jahre alt und möchten ihr Leben dafür einsetzen, dass die Dynamik zwischen Maschinen und Menschen nicht ausbeuterisch wird und wir weiterhin ein erfülltes Leben führen. Was sollen sie tun oder welchen Rat würden Sie ihnen geben?
YNH: Ich würde sagen, lernen Sie sich viel besser kennen und machen Sie sich so wenig Illusionen wie möglich. Wenn Ihnen ein Wunsch in den Sinn kommt, sagen Sie nicht einfach, dass dies mein freier Wille ist. Ich habe das gewählt, deshalb ist es gut, ich sollte es tun. Entdecken Sie viel tiefer. Zweitens, wie gesagt, tritt einer Organisation bei. Es gibt sehr wenig, was Sie als Einzelperson alleine tun können. Das sind die beiden wichtigsten Ratschläge, die ich jemandem geben könnte, der uns jetzt beobachtet.
