Was auch immer die zukünftige Rolle von Computern in der Gesellschaft sein mag, Jeff Dean wird das Ergebnis maßgeblich beeinflussen. Als Leiter der weitläufigen Google-Forschungsgruppe für künstliche Intelligenz steuert er Arbeiten, die zu allem beitragen, von selbstfahrenden Autos über Haushaltsroboter bis hin zu Googles Online-Werbegeschäft.
WIRED sprach mit Dean in Vancouver auf der weltweit führenden KI-Konferenz NeurIPS über die neuesten Erkundungen seines Teams und darüber, wie Google versucht, ihnen ethische Grenzen zu setzen.
WIRED: Sie haben einen Forschungsvortrag über den Bau neuer Arten von Computern für das maschinelle Lernen gehalten. Welche neuen Ideen testet Google?
Jeff Dean: Einer nutzt maschinelles Lernen für die Platzierung und Weiterleitung von Schaltkreisen auf Chips. Nachdem Sie eine Reihe neuer Schaltkreise entworfen haben, müssen Sie diese auf effiziente Weise auf den Chip setzen, um den Flächen- und Stromverbrauch sowie viele andere Parameter zu optimieren. Normalerweise machen menschliche Experten das über viele Wochen.
Sie können ein Modell des maschinellen Lernens haben, das im Wesentlichen lernt, das Spiel der Chipplatzierung zu spielen, und dies ziemlich effektiv. Wir können gleichwertige oder bessere Ergebnisse erzielen als menschliche Experten. Wir haben mit einer Reihe verschiedener interner Google-Chips gespielt, beispielsweise mit TPUs (Googles benutzerdefinierten Chips für maschinelles Lernen).
W: Stärkere Chips waren für die jüngsten Fortschritte in der KI von zentraler Bedeutung. Aber Facebooks KI-Chef sagte kürzlich, dass diese Strategie bald gegen eine Wand stoßen wird. Und einer Ihrer Top-Forscher in dieser Woche hat das Feld aufgefordert, neue Ideen zu erforschen.
JD: Es gibt noch viel Potenzial für effizientere und umfangreichere Computersysteme, insbesondere solche, die auf maschinelles Lernen zugeschnitten sind. Und ich denke, die Grundlagenforschung, die in den letzten fünf oder sechs Jahren durchgeführt wurde, hat noch viel Raum, um auf die Art und Weise angewendet zu werden, wie es sein sollte. Wir werden mit unseren Google-Produktkollegen zusammenarbeiten, um viele dieser Dinge in die Praxis umzusetzen.
Wir schauen uns aber auch an, was die nächsten großen Probleme sind, wenn man bedenkt, was wir heute können und was nicht. Wir wollen Systeme bauen, die sich auf eine neue Aufgabe verallgemeinern lassen. Es wird interessant und wichtig sein, Dinge mit viel weniger Daten und mit viel weniger Berechnungen tun zu können.
W: Eine weitere Herausforderung bei NeurIPS sind ethische Fragen, die von einigen KI-Anwendungen aufgeworfen werden. Google hat vor 18 Monaten nach Protesten gegen ein Pentagon-KI-Projekt namens Maven eine Reihe von KI-Ethik-Grundsätzen angekündigt. Wie hat sich die KI-Arbeit bei Google seitdem verändert?
JD: Ich denke, es gibt in ganz Google ein viel besseres Verständnis darüber, wie wir diese Prinzipien in die Tat umsetzen. Wir haben einen Prozess, durch den Produktteams, die in irgendeiner Weise über maschinelles Lernen nachdenken, frühzeitig Meinungen einholen können, bevor sie das gesamte System entworfen haben. Wie sollten Sie Daten erfassen, um sicherzustellen, dass sie nicht voreingenommen sind?
Weiter lesen
Das Neueste über künstliche Intelligenz, vom maschinellen Lernen bis zur Bildverarbeitung und mehr
Offensichtlich haben wir auch die in den Grundsätzen verankerten Forschungsrichtungen weiter vorangetrieben. Wir haben eine Menge Arbeit in Bezug auf Voreingenommenheit und Fairness sowie Privatsphäre und maschinelles Lernen geleistet.
W: Die Prinzipien schließen die Arbeit an Waffen aus, ermöglichen aber Regierungsgeschäfte - einschließlich Verteidigungsprojekte. Hat Google seit Maven neue Militärprojekte gestartet?
JD: Wir freuen uns, mit Militär- oder anderen Regierungsbehörden auf eine Weise zusammenzuarbeiten, die unseren Grundsätzen entspricht. Wenn wir also dazu beitragen möchten, die Sicherheit der Mitarbeiter der Küstenwache zu verbessern, würden wir gerne daran arbeiten. Die Cloud-Teams tendieren dazu, sich darauf einzulassen, denn das ist wirklich ihr Geschäftsbereich.
W: Mustafa Suleyman, Mitbegründer von DeepMind, dem Londoner AI-Startup, das Teil von Alphabet und ein wichtiger Akteur in der maschinellen Lernforschung ist, ist kürzlich zu Google gewechselt. Er sagte, er werde mit Ihnen und Kent Walker, Googles führendem Rechts- und Richtlinienbeauftragten, zusammenarbeiten. Woran wirst du mit Suleyman arbeiten?
JD: Mustafa hat eine breite Perspektive in Bezug auf AI-Politikfragen. Er war ziemlich in die KI-Prinzipien und den Überprüfungsprozess von Google involviert, daher denke ich, dass er sich die meiste Zeit seiner Zeit darauf konzentrieren wird: KI-Ethik und politikbezogene Arbeit. Ich möchte Mustafa wirklich lieber kommentieren, was er konkret machen wird.
Ein Bereich, an dem Kents Gruppe arbeitet, ist die Frage, wie wir die KI-Prinzipien verfeinern sollten, um Teams, die darüber nachdenken, etwas wie Gesichtserkennung in einem Google-Produkt zu verwenden, ein wenig mehr Anleitung zu geben.
W: Sie gaben diese Woche eine Keynote darüber, wie maschinelles Lernen der Gesellschaft helfen kann, auf den Klimawandel zu reagieren. Welche Möglichkeiten gibt es? Was ist mit dem manchmal hohen Energieverbrauch von maschinellen Lernprojekten selbst?
JD: Es gibt viele Möglichkeiten, maschinelles Lernen auf verschiedene Aspekte dieses Problems anzuwenden. Mein Kollege John Platt war einer von mehr als 20 Autoren eines kürzlich erschienenen Papiers, das sich mit diesen befasst - es umfasst mehr als 100 Seiten. Maschinelles Lernen könnte beispielsweise dazu beitragen, die Effizienz im Verkehr zu verbessern oder die Klimamodellierung genauer zu gestalten, da herkömmliche Modelle sehr rechenintensiv sind und die räumliche Auflösung einschränken.
Ich mache mir im Allgemeinen Sorgen um CO2-Emissionen und maschinelles Lernen. Aber es ist ein relativ bescheidener Teil der Gesamtemissionen [und] einige der Arbeiten zum maschinellen Lernen des Energieverbrauchs, die ich gesehen habe, berücksichtigen nicht die Energiequelle. In Google-Rechenzentren können wir das ganze Jahr über zu 100 Prozent Energie für all unsere Computeranforderungen verbrauchen.
W: Welche Forschungsbereiche werden Ihr Team außerhalb des Klimawandels im nächsten Jahr ausweiten?
