Schrift:
Ansicht Home:
DER SPIEGEL

ZukunftZuckerbergs Zweifel

Der rasante Fortschritt überfordert Gesellschaft und Politik. Davon profitieren Populisten wie Donald Trump. Die Vordenker im Silicon Valley arbeiten an noch größeren Umbrüchen – und sorgen sich erstmals wegen der Konsequenzen. Von Thomas Schulz
Facebook erreicht fast zwei Milliarden Menschen, macht zehn Milliarden Dollar Gewinn pro Jahr. Doch wenn der Konzern seinen 13. Geburtstag feiert, wie vor wenigen Wochen, dann läuft das so ab: Es gibt Kaffee und Kuchen in der Konzernzentrale, in einem Raum mit beruhigenden Farben und dämpfendem Teppich, Mark Zuckerberg sitzt im Kreis mit besonders eifrigen Facebook-Nutzern. Alle erzählen, was sie bewegt, Tränen fließen, und Zuckerberg sagt: "Die ganze Welt ist zerstritten, nie waren Freunde wichtiger als heute."
Was ist das? Seifenoper? Therapiegruppe?
Zuckerberg spricht laut, die Stimme fest, mit einem leicht kehligen Unterton wie bei Kermit, dem Frosch. Das Kinn ist gereckt, das Kreuz athletisch durchgedrückt, der Händedruck fest und nicht selten gefolgt von einem Griff an die Schulter. Jeder Gesprächspartner wird fixiert. Zuckerberg ist, in jeder Faser, ein Anführer, jetzt.
Was für eine Verwandlung. Kein Vergleich zu dem unsympathischen Nerd früherer Jahre, so nuschelig und gebeugt, so ungelenk in der Öffentlichkeit. Geblieben ist nur die Uniform: immer ein graues T-Shirt, blaue Jeans, schwarze Nike-Turnschuhe. Sich morgens keine Gedanken über Kleidung zu machen, verschaffe ihm Zeit für Wichtigeres, sagt Zuckerberg. Für solche Fragen: "Was können wir tun, um die Welt wieder enger zusammenzubringen?"
Es ist eine große Frage, weil Facebook zuletzt erheblich dazu beigetragen hat, die Welt zu spalten: weil es riesige Echokammern schafft, die die Meinungsvielfalt untergraben, und den Nährboden liefert für Fake News, die ungestört um den halben Planeten rasen.
Die Vorwürfe wiegen schwer: Facebook trage Mitschuld an der Wahl von Donald Trump, sei mitverantwortlich für die aktuelle Krise der Demokratie. Zuckerberg wollte diesen Zusammenhang erst nicht wahrhaben, er erklärte Facebooks Einfluss auf die politische Meinungsbildung durch Fake News zur "verrückten Idee".
Die Reaktion war falsch, das sah Zuckerberg später ein, aber sie war nicht überraschend. Dass sie, die sich immer für die Guten hielten, auf der falschen Seite stehen könnten, sprengt das Selbstverständnis, das die Digitalkonzerne so vehement in die Welt projizieren. Ihre immer und immer wieder verbreitete Überzeugung vom Silicon Valley als globalem Motor des Fortschritts – und dem Fortschritt als ewiger Schwester des Guten.
Mit dieser Botschaft haben die Technologen im Silicon Valley der Politik in den vergangenen Jahren die Rolle des gesellschaftlichen Antreibers abgerungen und sich und der Welt hohe Ziele gesteckt: die Menschheit vernetzen, globale Verkehrsprobleme lösen, zum Mars fliegen, den Krebs besiegen.
Ihr Glaubensbekenntnis ist, dass Technologie die moderne Gesellschaft zusammenhalte; dass der Fortschritt nicht nur eine wirtschaftliche, sondern eine enorme kulturelle und politische Kraft sei – und deswegen ständig vorangetrieben werden müsse. Im Zweifelsfall ohne Rücksicht auf Konsequenzen. Denn es sei ja gewiss, dass die Vorteile stets deutlich überwögen. Dass es nicht nötig sei, lange über die Schattenseiten des Fortschritts, des eigenen Tuns nachzudenken.
Diese Sicht auf sich selbst und die Welt funktionierte wunderbar – bis zum 8. November 2016, dem Tag der Wahl Donald Trumps zum Präsidenten der USA. Seitdem sind sie zu Zweiflern geworden im Silicon Valley, gespeist aus einer bitteren Erkenntnis: Der Fortschritt schafft viele Gewinner, aber auch viele Trump-Wähler, Le-Pen-Sympathisanten und AfD-Unterstützer. "Move fast and break things" wählte Facebook einst als Firmenmotto, aber offenbar wurde zu viel zerbrochen. Twitter machte Trump erst möglich, und die Twitter-Mitarbeiter quält dieser Gedanke jeden Tag.
Ein düsteres Gefühl breitet sich aus: Die Grundregel von stetig zunehmender Freiheit und wachsendem Wohlstand wird bedroht von genau den Kräften, die sie ermöglicht haben, von Technologie, Globalisierung und Fortschritt.
Zu dieser Situation haben viele ökonomische und politische Faktoren geführt. Die Mittelklasse muss kämpfen und verliert oft, Industrien verschwinden, neue Mächte entstehen.
Dazu geführt haben aber auch Angst, Unsicherheit und Überforderung. Die Menschen mögen keine Veränderungen, jedenfalls nicht zu viele, zu schnell. 1990 war das Leben nicht so viel anders als 1970 – aber was hat die Gegenwart noch mit 1990 gemein?
Die Tech-Vordenker rätseln nun, wie es weitergehen soll: noch schneller, bis der technologische Fortschritt endlich seine Versprechen einlöst, dass alle besser leben? Damit möglichst bald diese schöne neue Welt erreicht wird: in der wir weniger arbeiten müssen, weil uns Maschinen produktiver machen; in der wir länger leben, weil Software hilft, den Krebs zu heilen; in der wir weniger gestresst sind, weil sich Pflegeroboter um die Alten kümmern.
Oder muss die Geschwindigkeit gedrosselt werden, bis die Menschen weniger überfordert sind? Denn wer sich bedroht fühlt, will Zäune hochziehen und neigt zu starken Anführern.
Die Optimisten wollen weiterrennen, ihr Argument geht so: Wissen ist Freiheit, Fortschritt ist Wohlstand. Wenn sich die Zweifler durchgesetzt hätten, gäbe es keine Mondlandung, kein vereinigtes Europa. Es ist ein gutes Argument, historisch belegbar. Aber welches Tempo ist erlaubt, wenn die Gegenreaktionen so heftig sind, dass die Fundamente der Demokratien wackeln?
Es sind große Fragen und vor allem drängende: Denn die nächsten Umbrüche stehen unmittelbar bevor. Die künstliche Intelligenz, lange verbannt in das Reich von Science-Fiction, ist auf dem Weg, die dominierende Technologieplattform zu werden, für alles. Ein Einschnitt, mindestens so groß wie die Erfindung des Internets.
Abstiegsängste und soziale Ungleichheit, echte und gefühlte, treiben die Spannungen rund um die Welt. Bald wird es Roboter geben, die Taxis lenken und Gabelstapler und Laster – und wie viele Jobs fallen dabei weg? Die Arbeit wird sich verändern, für jeden, aber nicht jeder wird profitieren. Was kommt, ist ein potenzieller Brandbeschleuniger für noch mehr Ungleichheit, und an den extremen Rändern warten sie nur darauf zu zündeln.
Andererseits: Kluge Maschinen ermöglichen eine neue Medizin, auch hier ist eine Revolution unterwegs. Kranke Gene lassen sich verändern, der Krebs kann besiegt werden. Was sind das für tolle Zeiten! Aber vielleicht lassen sich auch Supermenschen basteln, und die neuen Therapien können eine Million Dollar kosten, gesund sind vielleicht nur die Reichen. Was sind das nur für Zeiten?
Hier sind drei Meldungen von einem beliebigen Montag im Februar, einem einzigen Tag nur.
Die US-Arzneimittelbehörde gibt grünes Licht, genetisch modifizierte Immunzellen klinisch zu testen: Die Zellen zerstören Krebs, in ersten Versuchen wurden Kleinkinder von Leukämie geheilt.
Ein Start-up präsentiert einen Algorithmus, der an der Stimme erkennt, ob Menschen an Alzheimer oder Depressionen leiden.
Uber arbeitet an fliegenden Autos.
Wer glaubt, all das sei Teil des normalen Wandels, nur ein Nebenschauplatz der zahllosen Wirrungen auf dem Planeten, hat nicht verstanden, was passiert. Die Digitalisierung ist nur der Nährboden, beschleunigt werden alle Bereiche. Alles beeinflusst alles, wer kann da noch den Überblick behalten? Niemand, sagen Psychologen, weil die Evolution den Menschen über Zehntausende Jahre auf linearen, langsamen Fortschritt eingestellt hat.
Es scheint, als komme die Menschheit bei ihrem eigenen Tempo nicht mehr mit, wenn nur Jahre oder Monate bleiben, um sich Umbrüchen und Verwerfungen anzupassen. Abgehängt wird auch die Politik: teils unwillens, teils unfähig, den Wandel zu gestalten und zu legitimieren.
Das ist dramatisch, denn grundlegender können die Fragen nicht sein, die gestellt werden: Was ist wahr? Wie kommunizieren wir? Wie arbeiten wir? Wie lange leben wir, und wie tief dürfen wir in unsere eigene Biologie eingreifen? Was für Geschöpfe sind wir? Können wir Maschinen nach unserem Ebenbild bauen?
Wer Antworten sucht, muss dorthin schauen, wo sie dem Rest der Welt längst um drei Schritte enteilt sind: in die Konzernzentralen und Forschungslabore im Silicon Valley.

I. Facebook

Die Hoffnung: Die Menschheit vernetzt sich und rückt enger zusammen. Eine neue, offene Weltgemeinschaft entsteht.
Die Angst: Es ist nicht mehr klar, was Fake ist und was Fakt. Echokammern spalten die Gemeinschaft, der Hass hat eine globale Plattform.

2015 hat Facebook seine neue Unternehmenszentrale bezogen, das modernste Firmengebäude der Welt soll es sein, nichts weniger. Das ganze Dach ein enormes Biohabitat, 15 Meter hohe Panoramafenster mit dem Blick auf die blaue Bucht von San Francisco, in langen Hallen quetscht sich Programmierer an Programmierer: Fabrikatmosphäre für die Massenproduktion von Algorithmen.
Fast zwei Milliarden Nutzer hat Facebook, dazu kommen noch WhatsApp und Instagram, ebenfalls an der Milliardengrenze. Was für eine Medienmacht! Und es ist ganz reale Macht, auch wenn sie das hier nie laut aussprechen. "Facebook ist ein Technologieunternehmen", sagt Zuckerberg. Aber Facebook ist längst mehr: das Fenster zur Welt für sehr viele Menschen, Nachrichtenquelle für fast die Hälfte der Amerikaner.
Natürlich weiß Zuckerberg das, aber die Tech-Elite hatte es sich in den vergangenen Jahren ebenso selbstgerecht wie bequem eingerichtet als Gegenentwurf zu den Investmentbankern und Finanzmagnaten, die zuvor die Geschicke der Welt steuerten, die sich Masters of the Universe nannten und ungeniert mit ihrem Einfluss prahlten.
Die Tech-Welt dagegen wollte und will anders sein: freundliche Nerds im Kapuzenpulli, nur aufs Hacken konzentriert, selbst über den Urinalen hängen bei Facebook noch Programmiertipps. Und draußen lockt Kalifornien, manche gehen morgens noch schnell surfen drüben in Santa Cruz, Marihuana ist legal, alles Gemüse bio. What a life! Save the world!
Die neuen Masters of the Universe haben die Auseinandersetzung mit ihrem Einfluss auf Wirtschaft, Kultur, Gesellschaft und Politik lange gescheut. Doch das funktioniert nicht mehr. Nicht, wenn die Nachricht, der Papst unterstütze offiziell Donald Trump, fast eine Million Mal in wenigen Tagen auf Facebook geteilt wird. Eine Lüge, wie so vieles, was sich in diesen Tagen ausbreitet über Facebook, Twitter, Google, Reddit. "Fake News töten unseren Geist", sagt Apple-Chef Tim Cook. Was für ein Satz!
Und nun?
"Es sind schwere Zeiten für unser Land, die Welt ist unruhig", sagt Sheryl Sandberg, Facebooks Nummer zwei und die politische Vordenkerin. Sie ist smart, sie denkt strategisch. Heute trägt sie Jeans und graue Lackstiefeletten, sie schaut einem tief in die Augen und hat keine Hemmungen, Besucher zu umarmen. "Wir müssen weiter tun, worin wir gut sind: menschliche Verbindungen schaffen", sagt Sandberg. "Deswegen stehe ich jeden Tag auf."
Das klingt so engagiert und emphatisch, so überzeugend und richtig. Genauso wie das neue "Mission-Statement" des Konzerns, Zuckerberg hat es vor einigen Wochen verfasst, 5740 Wörter lang: "Das Wichtigste, was wir in diesen Zeiten bei Facebook tun können, ist, die soziale Infrastruktur zu entwickeln, die den Menschen die Macht gibt, eine globale Gemeinschaft zu bauen, die für uns alle funktioniert."
Wie seltsam: Konzernmanager entwerfen die Prinzipien, nach denen unsere Gesellschaft funktionieren soll.
Aber ohne solch inhaltliche Leitlinien, ohne internen moralischen Kompass, lässt sich die zentrale Frage nicht beantworten, die Facebook, die das ganze Silicon Valley nun zu beantworten versucht: Wie kann man die guten Seiten der Technologie maximieren? "Unser Job bei Facebook ist, den Menschen zu helfen, den größten positiven Einfluss zu haben und die Seiten zu minimieren, wo Technologie und soziale Medien zu Spaltung und Isolation beitragen", sagt Zuckerberg.
Immerhin, da blitzen zwischen den Zeilen Zweifel auf. Zuckerbergs Zweifel. Nicht alles ist automatisch gut.
Das Erfolgskonzept von Facebook basiert darauf, seinen Nutzern nur zu zeigen, was sie interessiert. Die Algorithmen messen, was gelesen, geteilt, kommentiert wird. Je mehr, desto besser. Das Problem dabei: Je mehr die Nutzer mit den Inhalten übereinstimmen, desto mehr engagieren sie sich. Und je mehr sie sich engagieren, desto mehr bekommen sie ähnliche Inhalte angezeigt.
So entstehen Echokammern und Filterblasen. Eine Welt ohne Widersprüche, in der die eigene Meinung immer wieder bestätigt und amplifiziert wird, als einzig richtige erscheint. Eine algorithmisch kuratierte Wirklichkeit, die Einfluss auf die politische Meinungsbildung hat.
Facebook zeichne nur die Wirklichkeit ab, so wie man sich mit Freunden umgebe und Medien konsumiere, die den eigenen Ansichten nahestünden, sagt Adam Mosseri, Vice President News Feed, einer der wichtigsten Manager des Konzerns, verantwortlich für alles, was Facebook-Nutzer zu sehen bekommen. Mosseris verglastes Büro steht wie ein Aquarium zwischen den langen Schreibtischreihen, vor der Tür drängeln sich Ingenieure und warten darauf, vorgelassen zu werden.
"Wir können den Nutzern nicht andere Meinungen aufzwingen, wir können keine politischen Diskussionen gewichten, und es ist nicht unsere Rolle zu sagen: Dies sind die wichtigen Informationen des Tages, schau sie dir an", meint Mosseri. Er sagt es freundlich, fast sanft. In den vergangenen Wochen hat Mosseri viele Debatten führen müssen, "über das, was wir tun und lassen sollten", der Ton sei oft "feindselig" gewesen, aber er findet das "gesund".
Mosseri sorgt sich um die Echokammern – das macht er deutlich –, aber er spricht auch immer wieder von Grenzen, die es für Facebook nicht zu überschreiten gelte, von Verzerrungen, die es zu vermeiden gelte, von der Rolle Facebooks als neutraler Plattform, die nichts und niemanden beeinflussen dürfe. Aber was ist, wenn so viele die Plattform eben genau dazu nutzen: um zu verzerren, Grenzen zu überschreiten, zu beeinflussen? Wächst mit dem Einfluss des Konzerns nicht auch die moralische Verantwortung, der Druck, Positionen neu zu überdenken?
"Wir müssen schneller werden, klüger und bessere Entscheidungen treffen", sagt Mosseri. Die vergangenen Monate haben den Druck deutlich erhöht. Facebook habe die Verantwortung, "Fake News möglichst auf null zu reduzieren". Deswegen gebe es nun neue Instrumente, damit erfundene, falsche Nachrichten sich nicht viral verbreiten, aus dem News Feed herausgehalten werden und die Erfinder nicht mehr daran verdienen können.
Aber die Verantwortung ginge nicht so weit, selbst die Lügen herauszufiltern. "Wir können nicht für fast zwei Milliarden Menschen entscheiden, was wahr ist", sagt Mosseri. "Facebook darf nicht die einzige Quelle der Wahrheit sein, das ist eine heikle Position." Die besser die Medien ausfüllen sollten.
Auch wenn es manchmal so klingt: Zyniker sind sie hier im Silicon Valley nicht. Die großen Weltverbesserungspläne der Konzerne sind nicht lediglich hohle PR-Masche. Die allermeisten Programmierer und Ingenieure hier glauben an ihre Mission, die Zivilisation voranzubringen. Facebook hat einen Vice President for Social Good, eine Art Chef-Gutmenschen, und fördert Gruppen, die Behinderten, Selbstmordgefährdeten und Umweltschützern helfen.
Aber warum schaffen sie es dann nicht, offensichtliche Lügen zu eliminieren? Was ist das für ein Kleinmut auf einmal? Facebook marschiert voran in allen Ländern der Erde – aber wenn es um Wahrheit und Demokratie geht, dann wird es schwierig, wird es kompliziert, sind die Hände gebunden? Nackte Brüste werden herausgefiltert, aber wenn jemand Flüchtlinge in die Gaskammer schicken will, kann er seine Ansichten auf Facebook verbreiten?
Volksverhetzung und Onlinemobbing seien schwer zu erkennen für Maschinen, sagt Mosseri. Und dazu spiele "Kontext" eine große Rolle: Die Algorithmen verstehen keine Ironie, erkennen nicht, was nur Zitat ist. Facebook wolle kein Zensor sein, "wer hier Fehler macht, muss sie teuer bezahlen". Es ist eine unbefriedigende Antwort, Mosseri weiß das, "wir brauchen bessere Instrumente".
Doch das kann noch dauern, und darin liegt das Problem der Philosophie der Tech-Konzerne: Erfunden wird im Laufschritt, oft ohne zu wissen, wo genau es hingeht. Das macht die Prozesse schnell und geht gut, solange sich Fehler einfach ausbügeln lassen. Und über allem liegt ein Furnier aus Arroganz: alles besser wissen zu wollen und sich von niemandem etwas sagen zu lassen. Doch Tempo und Arroganz ergeben eine explosive Kombination, wenn die Einsätze höher werden, wenn es darum geht, Antworten auf gesellschaftliche Krisen zu finden.

II. Airbnb

Die Hoffnung: Alle profitieren von neuen Technologien. Das Leben wird billiger, abwechslungsreicher, gemeinschaftlicher.
Die Angst: Neue Technologien produzieren viele Verlierer. Das Leben wird teurer und schwieriger. Neue Konflikte entstehen.
Das Unternehmensmotto von Airbnb, der Onlineplattform für Übernachtungen, ist: "Belong anywhere". Als Trump den Einreisebann für Bürger aus sieben überwiegend muslimischen Ländern verkündete, versprach Airbnb kostenlose Übernachtungsmöglichkeiten für vom Einreisestopp Betroffene und schaltete einen Pro-Einwanderungs-Spot beim Super Bowl, halb Amerika schaute zu.
"Es war ein Reflex, ein nackter Moment, wenn die Welt einen unverstellten Blick bekommt, wer du wirklich bist", sagt Chris Lehane, Politikchef von Airbnb. Zumindest, wer sie sein wollen: die Guten in einer oft schlechten Welt.
Die Offensivtaktik ist jedoch nicht selbstlos.
Airbnb bietet weltweit drei Millionen Übernachtungsmöglichkeiten in Privatwohnungen an. Für Reisende ist das oft billiger und spannender als Hotels, für Vermieter eine zusätzliche Einnahmequelle. Fast zwei Millionen Menschen weltweit nutzten Airbnb allein in der vergangenen Silvesternacht.
Viele sehen jedoch ein anderes Airbnb: einen Tourismusriesen, der Stadtteile verändert, weil viele Wohnungen nur noch tageweise vermietet werden. Der dazu beiträgt, dass Wohnraum gerade in den bereits überlaufenen Metropolen wie New York und Berlin weiter verknappt wird, dass Mieten steigen und die Gentrifizierung zunimmt.
Die einen jubeln über den Wandel, den Airbnb gebracht hat: Das Leben sei besser geworden. Und die anderen protestieren gegen den Wandel, den Airbnb bringt: Das Leben sei schlechter geworden.
Aber kann es nicht auch ohne Verlierer gehen? "Wir diskutieren jeden Tag, wie man das machen kann", sagt Lehane. Etwa über Steuern, die Airbnb zahlt, neue Finanzmittel für die Städte. Lokale Airbnb-Teams in Dutzenden Städten verhandeln mit Stadtverwaltungen, Lobbys, Gegnern, einer "flächendeckenden Organisation wie für einen US-Präsidentschaftswahlkampf, nur auf globaler Ebene".
Lehane war sechs Jahre lang Berater von Bill Clinton, anschließend Pressesprecher von Al Gore, er ist Teil eines anschwellenden Trecks von Washington nach San Francisco: Amazon hat den ehemaligen Pressesprecher von Barack Obama abgeworben, Uber seinen ehemaligen Wahlkampfchef und Apple die ehemalige Leiterin der amerikanischen Umweltbehörde. Die Tech-Konzerne stellen sich darauf ein, den Kampf um den Fortschritt in der politischen Arena auszutragen. Um trotz Opposition zu wachsen.
Das ist in den vergangenen zwölf Monaten erheblich schwerer geworden, "durch die massiven sozioökonomischen Umwälzungen", weil "sich Technologie schneller entwickelt, als wir es je erlebt haben, viel schneller als Regierungen und Gesellschaft es verdauen können", sagt Lehane. Nun sei es an der Zeit für das Silicon Valley, "gesellschaftliche Verantwortung zu übernehmen". Wirklich "zu durchdenken, was die Konsequenzen von Technologie sind". Zu diskutieren, "was für die Gesellschaft am besten ist".
Und wenn nicht? "Dann werden die Konsumenten mit den Füßen abstimmen." Airbnb ist 30 Milliarden Dollar wert, in spätestens zehn Jahren sollen es 100 Milliarden sein. Das wird nur klappen, wenn man sich nicht zu viele Feinde schafft.
Lehane sagt deswegen solche Sätze: "Wir brauchen Regulierung." Neue Gesetze für neue Dinge. Aber die Vordenker des Silicon Valley liefen inzwischen so weit vorneweg, Technologie rase so schnell voran, "dass es für die Politik oft schwer ist, diese Prozesse zu verstehen". Also muss nach dieser Logik selbst Verantwortung übernehmen, wer den Fortschritt vorantreibt. "Diese Gespräche haben begonnen", sagt Lehane.
Warum nicht stattdessen das Tempo drosseln, bis Gesellschaft und Politik wieder verstehen, was passiert? "So funktioniert die Welt nicht", sagt Lehane. "Die Evolution lässt sich nicht stoppen, es wird immer weiter vorwärtsgehen, Neues entdeckt, erfunden werden."

III. Künstliche Intelligenz

Die Hoffnung: Maschinen unterstützen den Menschen in allen Bereichen. Das Leben wird leichter und besser für alle. Der Mensch muss weniger arbeiten.
Die Angst: Maschinen bedrohen den Menschen in allen Bereichen. Das Leben wird besser für wenige. Viele Menschen finden keine Arbeit mehr.

Tatsächlich ist von Verlangsamung keine Spur, im Gegenteil, längst wird mit allen Kräften an noch größerer Beschleunigung gearbeitet, und das Werkzeug dazu ist die künstliche Intelligenz.
"Wir sind vor allem anderen ein Künstliches-Intelligenz-Unternehmen", sagt Google-Chef Sundar Pichai. "Künstliche Intelligenz ist der Kern von allem, was wir tun", sagt Microsoft-Chef Satya Nadella.
Popkultur und Hollywood haben den Begriff in den vergangenen Jahren stark verwaschen, Maschinen mit Bewusstsein und Terminator-Armeen sind weit entfernt, wahrscheinlich unerreichbar. Worum es geht, ist dies: Maschinen, die lernen und ableiten, die Entscheidungen treffen, die nicht explizit vorgegeben sind. Die nicht wie ein Mensch kreativ denken und handeln, aber immerhin Auto fahren können.
Lange galt künstliche Intelligenz als totes Feld, aber nun sind die Sprünge riesig, vor allem dank einer speziellen Methodik: Deep Learning. Dabei wird mit künstlichen neuronalen Netzen das menschliche Gehirn simuliert. Es ist eine fundamental andere Art, Computer zu programmieren, ein Wahrscheinlichkeitsmodell. Statt der Maschine genau zu sagen, was sie zu tun hat, zeigt man ihr Beispiele, trainiert sie, und sie lernt daraus.
Das klingt kompliziert, aber Deep Learning ist relativ simpel anzuwenden, die Handwerkszeuge kann sich jeder Informatikstudent aus dem Internet herunterladen.
Der KI-Boom ist kaum mehr als drei Jahre alt, und doch lesen sich die Nachrichten der vergangenen Monate so: Eine Maschine wurde mit Chorälen von Johann Sebastian Bach trainiert und hat daraus gelernt, Barockmusik im selben Stil zu komponieren. Eine Software lernt, Lippen zu lesen, und erkennt 93,4 Prozent aller Wörter richtig, menschliche Lippenleser kommen höchstens auf gut 50 Prozent. IBM trainiert eine Maschine, aufgrund der Patientenakte wahrscheinliche Diagnosen zu treffen. Und auch dies: Chinesische Wissenschaftler präsentierten ein neuronales Netz, das angeblich Kriminelle allein an ihrem Gesicht erkennen soll. Der Mensch wird von einer Maschine nach Phänotyp sozial klassifiziert. Also doch düstere Hollywoodvisionen?
"Künstliche Intelligenz wird in jeder Anwendung sein, daran gibt es keinen Zweifel", sagt Frank Chen. In den Neunzigerjahren forschte Chen für IBM an lernender Software, nun ist er Partner bei Andreessen Horowitz, der einflussreichsten Wagniskapitalfirma der Welt. Wo Andreessen Horowitz seine Milliarden verteilt, marschiert die Welt hin, 4000 Unternehmen aus allen Branchen suchen hier jedes Jahr Rat.
Frank Chen sieht die neue Welt so: "Lastwagenfahrer ist einer der am weitesten verbreiteten Jobs, und vielleicht schon in 5 Jahren, spätestens aber in 15 Jahren wird es diesen Job nicht mehr geben." Weil der Roboter am Steuer sicherer und ökonomischer ist.
Das selbstfahrende Auto ist das stärkste Symbol dafür, wie schnell heute Realität wird, was gerade noch Science-Fiction schien. Es ist das beste Symbol für die enormen Vorteile des Fortschritts: weniger Verkehrstote, mehr Freiheit und Komfort im Leben. Und für seine Unwägbarkeiten: "Der menschliche Bediener verschwindet aus allem, was sich bewegt", sagt Frank Chen. Hoffnung? Horrorszenario?
"Künstliche Intelligenz ist ein Werkzeug wie jede Technologie, es kommt darauf an, wie der Mensch sie verwendet", sagt Yann LeCun, KI-Chef von Facebook, ein fröhlicher Mann in blauem Polohemd und mit dicker Brille. "Und derzeit ist KI ein Hammer für viele Nägel." LeCun ist eine Koryphäe, er studierte in Paris und lehrt in New York, seit 2013 forscht er für Facebook.
"Ohne künstliche Intelligenz würde Facebook heute nicht funktionieren", sagt LeCun. Algorithmen lernen die Vorlieben der Nutzer, bald sollen sie flüssige Unterhaltungen mit dem Computer möglich machen. Anwendungen sind allerdings zweitrangig, LeCun forscht vor allem an Grundlagen: dass Maschinen lernen, die Welt zu beobachten, zu verstehen und daraus schließen zu können, was die Konsequenz einer Handlung ist. So wie Babys irgendwann lernen, dass Objekte zu Boden fallen, wenn man sie loslässt.
LeCun spricht viel von Babys, sie sind ein gutes Vorbild, wie sich menschliche Intelligenz entwickelt und immer besser darin wird, eine Situation zu analysieren und daraus abzuleiten, was in der Zukunft passiert. "Das ist die Essenz der Intelligenz", sagt LeCun. Seine Forschung zielt am Ende darauf, das Gehirn nachzubauen.
Wann Maschinen menschenähnliche Intelligenz erreichen werden, ist umstritten, vielleicht in 20 Jahren, vielleicht in 100, die meisten Forscher aber halten es prinzipiell für möglich.
Erreichen sie diesen Punkt erst einmal, könnten sie sich selbst verbessern und zu einer neuen Superintelligenz heranwachsen, so argumentiert der Oxford-Philosoph Nick Bostrom. Viele Experten stimmen ihm zu. Das klingt verrückt? Mag sein, doch Google veröffentlichte im Januar diese Nachricht: Die Konzernforscher haben eine KI-Software entwickelt, die selbstständig neue, bessere KI-Software programmiert. Ein digitales Perpetuum mobile.
Die großen Digitalkonzerne gründeten einen Ethikrat, der sicherstellen soll, dass KI nicht missbraucht wird. So etwa: Es gibt Start-ups, die Maschinen darauf trainieren, Terroristen aufgrund von Hautfarbe und anderen körperlichen Merkmalen zu erkennen. "Eine schlimme Idee", sagt LeCun. Ganz zu schweigen von intelligenten Waffensystemen.
Die führenden KI-Vordenker sind nun bemüht, der Technologie einen humanistischen Rahmen zu geben. Auf einer Konferenz verabschiedeten sie 23 Prinzipien, die sicherstellen sollen, dass die Technologie stets zum Nutzen der gesamten Menschheit eingesetzt wird.
Das wird schwer, denn kluge Maschinen sind in vielen Routinejobs schon jetzt besser als der Mensch. Erst wurden Kassierer und Sachbearbeiter ersetzt, dann Steuerberater und Banker. Banker? Goldman Sachs hatte bis vor Kurzem noch 600 Aktienhändler auf dem Börsenparkett, nun sind es 2. Algorithmen machen die Arbeit der anderen 598. Eine halbe Million Mitarbeiter drohe in den kommenden Jahren allein in der britischen Finanzindustrie durch Software ersetzt zu werden, schätzt die Beratungsfirma Deloitte.
Die Beispiele sind endlos. Frank Chen zitierte öffentlich den KI-Forscher Geoffrey Hinton: "Wir sollten umgehend aufhören, Radiologen auszubilden." Weil Maschinen Röntgenbilder besser analysieren können. Chen wird attackiert für solche Sätze, es schreckt ihn nicht: "Es sind polarisierende Zeiten, aber der enorme Nutzen der Technologie ist unbestreitbar."
Die Story der Optimisten im Silicon Valley geht so: Die Maschine ergänzt den Menschen mehr, als sie ihn ersetzt. Bislang ist die Automatisierung ja stets gut ausgegangen. Der Geldautomat hat die Bankangestellten nicht überflüssig gemacht, im Gegenteil, es wurde billiger für die Banken, mehr Filialen zu eröffnen und damit auch mehr Personal einzustellen.
Viele Studien zeichnen ein ähnliches Bild. Die Beratungsfirma McKinsey etwa schätzt, dass in den nächsten 40 Jahren eine Mehrheit der Arbeitsabläufe automatisiert wird. Dass aber bis dahin nur fünf Prozent aller Jobs komplett von Maschinen übernommen werden. Dass der Mensch also eine Maschine nur zur Seite gestellt bekommt und noch gebraucht wird, meistens jedenfalls.
Aber es kann auch so laufen: Unternehmen setzen Maschinen ein, wo immer sie können, und davon profitieren immer weniger Gutverdiener und Aktionäre, die einem wachsenden Heer von Unterbeschäftigten und Arbeitslosen gegenüberstehen.
In der amerikanischen Öl- und Gasindustrie sind seit 2014 zwischen 50 000 und 80 000 gute, hoch bezahlte Jobs von Facharbeitern verloren gegangen, schätzen Energieexperten, obwohl die Geschäfte wieder laufen. Viele Ölförderanlagen werden nun extern bedient, von weit entfernten Steuerungszentralen voller Monitore.
Welch Ironie: Trump bekämpft den Freihandel und die Globalisierung, aber es sind nicht die Chinesen, die seinen Wählern den Job wegnehmen, sondern Technologie, made in America.
Der Fortschritt wird ganze Berufsbilder vernichten, das bezweifelt kein Experte mehr, aber sie werden durch neue ersetzt werden. Das war bislang immer so, und wahrscheinlich wird es auch dieses Mal am Ende so sein. Der Programmierer ist der Facharbeiter der Zukunft, Ersatz für all die Mechaniker, Autobauer, Lkw-Fahrer. Die Frage ist nur: Wann ist am Ende? In 10 Jahren? In 20?
Bis es so weit ist, kann es holprig werden, sagt Andrew McAfee, Ökonom am Massachusetts Institute of Technology (MIT), er erforscht seit Jahren die Auswirkungen von Technologie auf Wirtschaft und Gesellschaft. Strukturelle Arbeitslosigkeit sei in den westlichen Industrienationen für einige Zeit wahrscheinlich.
Eine gesunde Gesellschaft kann einige schwere Jahre des Wandels verkraften, denn es wird viele Gewinner geben, der Lebensstandard steigt, für die meisten.
Aber eine ungesunde, verunsicherte Gesellschaft? Wie lange lässt sich der Fortschrittsoptimismus durchhalten, wenn der Druck jeden Tag zunimmt, von den Verlierern von heute, bevor es die Gewinner von morgen gibt? Weniger Jobs bedeutet Lohndruck nach unten, wachsende Ungleichheit, eine dezimierte Facharbeiterschaft. Eine höllisch gefährliche Dynamik.
Geert Wilders, der niederländische Rechtspopulist, hat die Automatisierungsangst längst als Waffe entdeckt und sammelt damit Wählerstimmen. Etwa bei den Hafenarbeitern in Rotterdam, wo die Container schon lange von Robotern verladen werden. "Hafenarbeiter wählen Wilders nicht, weil sie rassistisch, sondern weil sie wütend sind", sagt der Chef der Hafenarbeitergewerkschaft. Die Zahl der Arbeitsplätze im Hafen hat sich in den vergangenen zehn Jahren nicht verringert. Aber die Angst reicht, um die Stimmung zu treiben.

IV. Medizin

Die Hoffnung: Eine digitale, datenbasierte Computermedizin entsteht. Vielleicht kann der Mensch dank neuer Therapien bald Jahrzehnte länger leben.
Die Angst: Die Gentechnik macht grenzenlose Eingriffe in das Erbgut des Menschen möglich. Krebs wird heilbar, aber nur für eine Elite. Gesundheit wird zum Symbol der Ungleichheit.

Der Mensch müsse zum Cyborg werden, die Fähigkeit entwickeln, direkt mit Maschinen zu kommunizieren, um nicht von künstlicher Intelligenz obsolet gemacht zu werden. Das sagt kein irrer Verschwörungstheoretiker, sondern Elon Musk, Chef von Tesla und SpaceX, ein Tech-Visionär, aber einer, dessen Visionen sich oft erfüllen. Musks jüngste Firma soll neuronale Chips herstellen. Eingepflanzt ins menschliche Gehirn, sollen sie Menschen ermöglichen, Maschinen per Gedanken zu steuern.
Musks Ansichten mögen extrem sein, aber es besteht kein Zweifel daran, dass digitale Technologie das Verständnis der menschlichen Biologie bereits grundlegend verändert. Viele Forscher sind überzeugt, am Beginn einer medizinischen Revolution zu stehen. Wirksame Therapien gegen Alzheimer scheinen in greifbare Nähe zu rücken. Gene können manipuliert werden. Software erkennt Krebszellen und erfindet neue Moleküle für neue Medikamente. Roboter operieren automatisch und präzise.
Die Gentherapie, lange abgetan als zu ungenau, zu kompliziert, wird durch Computer präzise und einfacher, lässt taube Mäuse wieder hören und könnte Krankheiten wie die Sichelzellenanämie heilen. KI-Systeme erkennen Autismus in Gehirn-Scans von Babys, Ärzte diagnostizieren ihn meist erst Jahre später.
Die Technologiekonzerne haben die digitalisierte Medizin als neues Milliardengeschäft identifiziert. Google arbeitet an futuristischen Therapien. Microsoft baut eine Abteilung für Krebsforschung auf.
So kann die neue Präzisionsmedizin schon heute aussehen: Mediziner am Dana-Farber Krebsinstitut in Boston entnahmen Leukämiepatienten Krebszellen und kombinierten sie mit tumorbekämpfenden Immunzellen, um daraus individuelle Impfstoffe zu erstellen. 12 von 17 Patienten mit einem Durchschnittsalter von 63 Jahren konnte durch die personalisierte Impfung geholfen werden.
Immunonkologie nennt sich dieses Feld, Start-ups und Pharmakonzerne rangeln um die Vorherrschaft, investieren Milliarden und suchen neue Kooperationen. Solche etwa: Der deutsche Traditionskonzern Merck, gegründet 1668 als Apotheke in Darmstadt, arbeitet neuerdings eng zusammen mit Palantir, gegründet 2004 im Silicon Valley, um große Datenmengen zu analysieren, vor allem für amerikanische Geheimdienste. Palantir, heißt es, hatte Anteil daran, dass Osama Bin Laden aufgespürt werden konnte.
Die Firma hat ihren Sitz nur wenige Hundert Meter von der Stanford University entfernt, ein hässlicher Zweckbau, der Eingang ohne Firmenschild, nur Sicherheitsschleusen und eine amerikanische Flagge am Empfang. "Wir wollen die Demokratie effizienter machen, den Terrorismus zu bekämpfen war das erste Ziel, nun suchen wir nach neuen", sagt Alexander Karp, der Mitgründer von Palantir, hager und scheu, die schwarzen Locken gehen langsam in Grau über.
Karp hat seine "prägenden Jahre" in Frankfurt verbracht, um über "Aggression in der Lebenswelt" zu promovieren, er spricht fließend Deutsch, nennt sich "einen einstigen Neo-Marxisten", halb ironisch.
Palantir ist Milliarden Dollar wert und sucht sich seine Kunden selbst aus: "Wir wollen das menschliche Befinden verbessern und arbeiten nur mit Institutionen, die das gleiche Ziel haben", sagt Karp. "Arrogant, aber interessant", fand das Merck-Chef Stefan Oschmann, Karp und er trafen sich am Flughafen in München. Sie mochten sich, ein seltsames Paar, bei ihrem "ersten Date": Oschmann, der promovierte Tiermediziner im Nadelstreifenanzug mit Einstecktuch, und Karp, der promovierte Philosoph in Jeans und T-Shirt.
"Wir stehen am Beginn einer grundlegenden Revolution, nie zuvor in der Geschichte der Medizin ist so viel passiert", sagt Oschmann und malt eine steile Kurve auf eine große Tafel in einem engen, kalten Konferenzraum im Palantir-Hauptquartier: Sie zeigt die Zahl der überlebenden Krebspatienten über die Zeit. Je mehr Zeit vergeht, desto mehr senkt sich die Kurve zu Boden. So war es in der Vergangenheit mit der Chemotherapie, am Ende starben die meisten Krebspatienten.
Die Immunonkologie ändert das nun, die Kurve flacht ab, lange bevor sie den Boden erreicht, denn viele Patienten werden geheilt. Die Frage ist nun, wie es noch mehr werden können, aber es ist eine komplizierte Frage. Die Antwort liegt tief versteckt in den Daten, und finden soll sie Palantir, so wie das Unternehmen auch gut versteckte Terroristen findet. Das ist das Dilemma dieser Zeit: Mit derselben Technologie lässt sich spionieren oder die Krebstherapie revolutionieren.
Was könnte ein besseres Beispiel sein für die Kraft des Fortschritts als eine radikal bessere Medizin? Ein besserer Beweis, dass wir nur schneller rennen müssen, um die in diesen Tagen gärenden Konflikte hinter uns zu lassen?
Andererseits: Die digitale Datenmedizin verändert auch die Gesundheitssysteme. Und was hat größere soziale Sprengkraft als ungleiche medizinische Versorgung? Vielleicht kann der Mensch dank all der neuen Therapien bald Jahrzehnte länger leben, aber nur Millionäre können sich das leisten.
Als größte medizinische Entdeckung des Jahrhunderts wird das neue gentechnische Werkzeug mit dem Kürzel Crispr gefeiert, entdeckt vor gerade vier Jahren, aber so simpel und billig, dass seine Einsatzmöglichkeiten schon jetzt fantastisch erscheinen: Bei Hunden verdoppelten Forscher die Muskelmasse. Mit einer ähnlichen Technik schufen sie Kühe ohne Hörner.
Wie leicht ließe sich ein menschlicher Embryo so genetisch verändern? Sehr leicht, sagen Experten wie Jennifer Doudna, Biochemikerin an der University of California in Berkeley und Miterfinderin der Technologie. "Jeder Wissenschaftler mit Ahnung von Molekularbiologie kann das", sagt Doudna. Chinesische Forscher experimentieren bereits mit Crispr an menschlichen Embryonen.
Die Chancen – und die Gefahren – sind groß. Crispr würde die Menschheit für immer umformen. Denn verändern Forscher das Erbgut menschlicher Embryonen, betrifft diese Veränderung auch die Keimbahn: Das manipulierte Genom wird über Ei- und Samenzellen weitergegeben. Neue Generationen könnten damit länger leben, produktiver, klüger sein. Und überwiegend blond.

V. Die Zukunft

Es ist seltsam: Das revolutionäre Potenzial all dieser neuen Technologien liegt so unverkennbar in der Luft, könnte so elektrisierend sein, aber ausgerechnet jetzt entwickelt die Politik keine Visionen mehr, wo es hingehen soll.
In der zweiten Hälfte des 20. Jahrhunderts war der Mond das Ziel, ein vereinigtes Europa, die 35-Stunden-Woche. Längst nicht alles war gut, nicht alles funktionierte, aber immerhin: Es ging um mehr, als den Status quo einzufrieren. Bislang stolpert die Menschheit weitgehend ziellos durch das 21. Jahrhundert.
Und so haben es AfD und Trump und Le Pen leicht mit ihrem rückwärtsgewandten, düsteren Blick: Alles ist schlecht, überall sind Verlierer, dreht die Uhren zurück.
Warum gelingt es nicht, dem ein leuchtendes Bild entgegenzusetzen, nach vorn zu schauen? Die Populisten zu entwaffnen, mit einem klaren Entwurf, die Zukunft zu gestalten, die Umbrüche zu meistern? Die Instrumente sind da, um produktiver und weniger zu arbeiten, ein besseres und ein längeres Leben zu schaffen.
Stattdessen bleibt es Elon Musk überlassen, die Menschheit zum Mars schicken zu wollen. Es ist Mark Zuckerberg, der solche Sätze sagt: "Wir müssen die Infrastruktur bauen, damit die Zivilisation die nächste Stufe erreicht und wir die Stammesfehden der Gegenwart hinter uns lassen können." Hartnäckig halten sich im Silicon Valley Gerüchte, Zuckerberg plane eine Präsidentschaftskandidatur für 2024, aber warum sollte er das tun? Facebook zu leiten ist bereits eine politische Karriere, eine längere, stärker globale als jedes Amt.
Im Silicon Valley zweifelt niemand daran: Eine Zeitenwende hat begonnen, so enorm wie die Industrialisierung. Und man wundert sich, dass sich die Politik dennoch schwertut, über die nächste Legislaturperiode hinauszudenken. Oder dass sie die Antwort auf den rasenden Wandel in der Flucht in ein neues Biedermeier zu sehen scheint.
"Wir fordern die Gesetzgeber auf, sich jetzt mit der Zukunft zu beschäftigen", sagt Frank Chen, der KI-Experte. Aber es überwiegt das Gefühl, dass nichts passieren wird oder das Falsche, und deswegen beginnen die kalifornischen Fortschrittsvordenker nun selbst an politischen Instrumenten zu basteln: Sie bringen groß angelegte Feldversuche auf den Weg, wie ein universelles Grundeinkommen funktionieren könnte. Sie entwerfen Konzepte für ein neues Bildungssystem, in dem sich Arbeitnehmer immer wieder für neue Berufe ausbilden lassen, um mit den Maschinen mitzuhalten.
Was für eine verhängnisvolle Entwicklung: wenn die Zukunft allein von Unternehmern geformt wird, von einer kleinen Elite, die versessen darauf ist, ihren Fußabdruck auf der Welt zu hinterlassen.
Nicht einzelne Milliardäre, sondern Parlamente müssen entscheiden, wie wir leben. Doch dazu muss die Politik zunächst anerkennen, dass Wandel, Fortschritt, Technologisierung die Spielregeln verändern und den Einsatz erhöhen. Dass es sich keine Gesellschaft mehr leisten kann, die Zukunft zu ignorieren, weil in 5 Jahren mehr passieren wird als in den vergangenen 20 Jahren.
Politische Antworten müssen schneller gefunden werden, aber es dürfen keine reflexhaften, kleinteiligen sein, wie etwa eine europäische Suchmaschine zu fordern, um den Einfluss der US-Konzerne zu kontern. Das lässt sich zu leicht als Ablenkung durchschauen, um die eigentliche Frage zu vermeiden: wie sich Werte anpassen müssen an eine Welt, in der Informationen überall und Daten alles sind.
Ohne den Staat wird es nicht gehen, das ahnen inzwischen auch die größten Tech-Optimisten. Es müssen politische Instrumente her, um den Wandel zu gestalten, denn zu stoppen ist er nicht. Vielleicht so: Unternehmen, die Menschen durch Maschinen ersetzten, zahlen eine Robotersteuer, damit die Verwerfungen nicht in einer einzigen großen Welle kommen.
Die Idee stammt von Bill Gates, und der will den Fortschritt nicht bekämpfen, sondern ihn langfristig sichern. Er sagt: "Wenn die Menschen Angst vor dem Fortschritt haben, statt sich zu freuen, dann bekommen wir ein richtiges Problem."

Über den Autor

Thomas Schulz, 43, berichtet seit Anfang 2009 als Wirtschaftskorrespondent für den SPIEGEL aus den USA. Nach knapp fünf Jahren in New York wechselte er 2013 nach San Francisco und schreibt seitdem regelmäßig über das Silicon Valley und die Folgen der Digitalisierung für Wirtschaft und Gesellschaft.
Von Thomas Schulz

DER SPIEGEL 14/2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung