Schrift:
Ansicht Home:
Wissenschaft

Digitale Manipulation

Werden Sie Teil der Maschine!

Fast unbemerkt krempelt eine neue wissenschaftliche Disziplin die Welt um. Digitale Überredungstechnik lässt Menschen nach ihrer Pfeife tanzen. Nicht nur Konsumenten, sondern auch Arbeiter.

imago

Spielzeugroboter

Eine Kolumne von
Sonntag, 21.05.2017   11:03 Uhr

Das Buch, das alles verändert hat, beginnt mit diesem Satz: "Als ich zehn Jahre alt war, studierte ich Propaganda." Geschrieben hat es der der US-Wissenschaftler B.J. Fogg, der seit vielen Jahren in Stanford lebt. Gerade Propagandisten profitieren heute enorm von dem, was Fogg damals niederschrieb.

Der Psychologe hat eine wissenschaftliche Disziplin erfunden, mit deren Hilfe gerade die Welt umgekrempelt wird. Viele seiner Schüler sind mithilfe von Foggs Modellen und Methoden reich geworden, zum Beispiel Mike Krieger, einer der Gründer von Instagram. Fogg selbst findet diese Entwicklung beunruhigend: "Wenn ich mir manche meiner ehemaligen Studenten ansehe, frage ich mich, ob sie wirklich die Welt verbessern oder nur Geld verdienen wollen."

"Computer gehen dorthin, wo Menschen nicht willkommen sind"

Die Disziplin, die Fogg Mitte der Neunziger erfand, hat er selbst Captology getauft, ein Kunstwort aus der Abkürzung für Computer Aided Persuasive Technology, Überredungstechnik also. Computer seien in mehrfacher Hinsicht viel besser geeignet, Menschen zu etwas zu überreden, als andere Menschen, schrieb Fogg 2003 in "Persuasive Technology".

Computer seien hartnäckiger als Menschen, böten Anonymität, könnten mit riesigen Datenmengen umgehen, auf diversen Kanälen Einfluss ausüben, leicht skalieren, also Wachstum ermöglichen, und "dorthin gehen, wo Menschen nicht hingehen können oder nicht willkommen sind". Das war vier Jahre vor dem ersten iPhone, also vier Jahre, bevor das Zeitalter begann, in dem fast jeder Bewohner der industrialisierten Welt immer einen Computer dabeihat, auch im Schlafzimmer, auch auf der Toilette.

Captology ist im Kern die Anwendung hundert Jahre alter lerntheoretischer Prinzipien auf die Welt der digitalen Benutzeroberflächen. Erkenntnisse aus Experimenten mit Ratten oder Tauben werden benutzt, um dafür zu sorgen, dass Menschen mit höherer Wahrscheinlichkeit das tun, was Software ihnen sagt.

Klicken, liken, teilen, kaufen, los!

Klicken zum Beispiel. Liken. Teilen. Kaufen. Noch eine Runde spielen, eine nur. Noch eine Folge ansehen. Noch schnell das eigene Geburtsdatum, den Wohnort, Vorlieben preisgeben. Reiz, Verhalten, Belohnung, immer wieder. In den vergangenen Jahren sind vergleichbare Methoden meist unter dem fröhlich klingenden Schlagwort "Gamification" verhandelt worden. "Persuasive Technologies" trifft es aber weit besser.

Nir Eyal ist einer von Foggs Schülern und der Autor eines Buches namens "Hooked", das Entwicklern erklärt, wie man Produkte baut, von denen man nicht mehr loskommt. Eyal formuliert es so: "Damit eine Handlung eingeleitet werden kann, muss Tun einfacher sein als Denken." Es geht immer um "Engagement". Mach was, Nutzer, los. Und jetzt noch was.

Ein schönes Beispiel ist die Autostart-Funktion von Videoplattformen wie Netflix: Wenn man nichts tut, läuft die nächste Serienfolge sofort nach dem Ende der vorangegangenen an. Weiterschauen ist einfacher als Aufhören. Das ist Captology in Aktion. Oder die "nur noch 20 Prozent, dann ist Ihr Profil vollständig"-Statusbalken, die man von Netzwerkplattformen kennt. Facebooks "Reaction"-Emojis. Amazons "andere kauften auch…". All das sind keine spontanen Ideen cleverer Designer, sondern Konzepte aus der Verhaltenspsychologie.

"Evil by Design"

In einem Buch mit dem erfrischend ehrlichen Titel "Evil by Design" heißt es: "Wie bei einem guten Zaubertrick sind die besten Beispiele die, bei denen man nicht einmal bemerkt, dass man manipuliert wird, wenn einen niemand darauf hinweist."

Unglücklicherweise dienen manche der Plattformen, die heute nach Captology-Prinzipien optimiert werden, Zwecken, denen "erst denken, dann handeln" als Prinzip besser täte als "Handeln ohne Denken".

Bei Facebook und Twitter zum Beispiel teilen Nutzer nachweislich Artikel zu politischen - und anderen - Themen, ohne sie jemals gelesen zu haben. So können sich sensationalistische, aber falsche Behauptungen schnell und weit verbreiten. Stichwort: Hillary Clintons angeblicher Kinderporno-Ring. Stichwort: Der Papst empfiehlt Donald Trump.

Eine demokratische Öffentlichkeit, die sich an Orten konstituiert, wo Denken als Hindernis beim "Engagement" betrachtet wird, bekommt früher oder später Probleme.

Optimierung zur Gedankenlosigkeit

"Aus meiner Sicht sollte die Evolution von Überredungstechnologie nicht allein dem Zufall oder dem Markt überlassen werden", schrieb B.J. Fogg 2003. Aber genau das ist passiert, und wir haben es nicht einmal bemerkt. Die Ziele, die mit den neuen Techniken erreicht werden sollen, sind am Ende in der Regel monetär, von Ausnahmen wie Fitnesstrackern oder Ernährungshelfern einmal abgesehen. "Engagement" bringt, Klicks, Daten, Absatz. Für gesellschaftlichen Fortschritt wird eher nicht optimiert.

Die Entwicklung ist aber mit der Optimierung zur Gedankenlosigkeit nicht abgeschlossen. Bei Uber, der Firma, die wie keine andere für die rücksichtslose Ausnutzung digitaler Profitmaximierungsmöglichkeiten steht, ist man schon einen Schritt weiter. Dort wird nicht nur das Konsum- und Kommunikationsverhalten captologisch optimiert, sondern auch der Fleiß der freiberuflichen Fahrer.

Wenn die Maschine sich als Frau ausgibt, ist sie erfolgreicher

Die bekommen ihre Aufträge bekanntlich von einer Smartphone-App, und die wiederum wird zentral so gesteuert, dass immer eine möglichst ideale Zahl verfügbarer Mitfahrgelegenheiten am richtigen Ort ist. Eigentlich sind Uber-Fahrer frei, ihre eigenen Schichten zu definieren und einfach aufzuhören, wenn sie keine Lust mehr haben, schließlich sind sie keine Angestellten. Wenn die Maschine, von der sie ihre Aufträge bekommen, aber weiß, dass ihre Arbeitskraft eigentlich gerade noch gebraucht würde, dann wird die Überredungstechnologie ausgepackt, wie die "New York Times" berichtete.

Uber-Fahrer in den USA bekommen zum Beispiel, wenn sie sich aus der App ausloggen, also Feierabend machen wollen, unter Umständen Botschaften wie "Sie sind noch 10 Dollar von einem Nettoverdienst von 330 Dollar entfernt - wollen Sie wirklich aufhören?". Besonders gut funktionieren die Motivationsbotschaften, wenn sie von einer angeblich weiblichen Person kommen. Ubers Fahrer sind überwiegend männlich.

Welcome to the machine

Wenn ein Fahrer von Passagieren gut bewertet wird, kann er virtuelle Trophäen gewinnen, für "exzellente Konversation", oder "exzellenten Service". Diese Trophäen sind so viel wert wie Highscores in einem Computerspiel: nichts. Gleichzeitig sind sie die digitale Umsetzung einer Therapiemethode, die in Psychiatrien seit den späten Sechzigerjahren angewendet wird, um etwa Psychosepatienten dazu zu bringen, sich selbst anzuziehen: Token Economies. In der Schule hieß so etwas früher "Gutkärtchen".

Das Softwaresystem, aus dem Uber in Wahrheit besteht, weiß, wer wann wo gebraucht wird, es verteilt Aufgaben, lobt und tadelt, und wenn jemand nicht ausreichend motiviert scheint, stupst es den Betreffenden ein bisschen an, damit er weiterfährt. Zwischen der Management-Ebene des Unternehmens und denen, die die Arbeit machen, ist eine undurchdringliche Schicht künstliche Intelligenz eingezogen. Wer unterhalb dieser Schicht arbeitet, ist kein Angestellter, kein Angehöriger des Unternehmens.

Er ist ein freiberuflicher Teil der Maschine.

Mehr zum Thema Künstliche Intelligenz

insgesamt 60 Beiträge
lalito 21.05.2017
1. Es ist gut . . .
. . . auf dieses "Manipulieren, aber richtig!" hinzuweisen. Im Sinne Kirschners wurden die Möglichkeiten automatisiert, immer alles freundlich, immer alles gut. Pustekuchen, und das zu blicken ist wichtig. Hießen [...]
. . . auf dieses "Manipulieren, aber richtig!" hinzuweisen. Im Sinne Kirschners wurden die Möglichkeiten automatisiert, immer alles freundlich, immer alles gut. Pustekuchen, und das zu blicken ist wichtig. Hießen übrigens Fleißkärtchen früher, gut hin oder her.
taglöhner 21.05.2017
2. Werbung, Basar und der Extended Phenotype
Alles wie gehabt seit jahrtausenden, nur jetzt halt auch online. Sensationell. Zum Schmökern: "Die geheimen Verführer (1957)" von Vance Packard
Alles wie gehabt seit jahrtausenden, nur jetzt halt auch online. Sensationell. Zum Schmökern: "Die geheimen Verführer (1957)" von Vance Packard
Leser161 21.05.2017
3. Now you see me
Eine unsympathische Technologie. Anderseits wird sie dadurch sichtbar. Dadurch werden aber alle Überredungstricks sichtbarer. Denn das ist ja nichts Neues. Schon vor dem IPhone hielten Chefs Motivationsreden a la "Wir [...]
Eine unsympathische Technologie. Anderseits wird sie dadurch sichtbar. Dadurch werden aber alle Überredungstricks sichtbarer. Denn das ist ja nichts Neues. Schon vor dem IPhone hielten Chefs Motivationsreden a la "Wir müssen das schaffen, ihr müsste jetzt 120% geben, denn dann seid ihr cool (und ich mache Geld)". In Kriegen aller Zeiten wurden Menschen durch allerlei Tricks dazu gebracht ihr Leben für ein Stück Blech oder falsche Ideale zu riskieren. Das wurde zwar immer mal dargestellt, aber nie als die Perfidie gebrandmarkt, die es ist. Wenn wir darüber sprechen sind wir einen Schritt weiter
ach-nur-so 21.05.2017
4.
Ich kommentiere, obwohl ich die Kolumne noch nicht zuende gelesen habe. Mache ich noch. Will nur schon mal sagen, dass "erst denken, dann handeln" als Erziehungsziel gaaanz weit oben auf der Liste aller Eltern stehen [...]
Ich kommentiere, obwohl ich die Kolumne noch nicht zuende gelesen habe. Mache ich noch. Will nur schon mal sagen, dass "erst denken, dann handeln" als Erziehungsziel gaaanz weit oben auf der Liste aller Eltern stehen sollte. Und noch mehr. Denn gedacht hat man ja schnell mal was, nicht wahr. Aber ein permanent kritisches Hinterfragen der Maschinerie, in der wir leben (s. Text) und damit einherzugehendes Selbstreflektieren, ist mitunter anstrengend und will geübt sein. Wichtig dabei, die Balance zwischen Aufgeklärtheit und Spaß am Leben in den gängigsten Rahmen nicht zu verlieren. Wissen um die Mechanismen, mit denen sie uns fangen (wollen), ist gut, aber nur das eine. Nicht zum chronischen Voll-Anti zu werden das andere. Am Ende sollte immer die Fragen stehen: Was will ich? Was brauche ich? Und die sind - kritisches Reflektieren hin oder her - oft nicht leicht zu beantworten. Dafür prasselt zu viel auf uns ein. Und Authentizität ist und bleibt ein unerreichtes Ideal. Das soziale Wesen Mensch war nie autark und mit manipuluierenden Impulsen von außen hat es schon laaange zu tun. Früher war man nix, wenn man sonntags nicht in die Kirche ging. Heute hält man nichts auf sich, wenn man Facebook nicht alle seine Vorlieben mitteilt..? Tss. Die teile ich doch lieber meinem Freund mit. Da hab ich mehr von :o)
PJanik 21.05.2017
5. Motivation ist eine Kulturtechnik
... wenn einem etwas hilft selber erfolgreicher sein Leben zu strukturieren ist das gut. Wenn es anderen verhilft einen auszubeuten ist das schlecht. In beiden Fällen kann es aber genau die gleiche Technik sein. Die Technik [...]
... wenn einem etwas hilft selber erfolgreicher sein Leben zu strukturieren ist das gut. Wenn es anderen verhilft einen auszubeuten ist das schlecht. In beiden Fällen kann es aber genau die gleiche Technik sein. Die Technik ist das Werkzeug. Im Endeffekt optimiert sich Uber die eigene Kundschaft weg. In der Zwischenzeit verdienen die ordentlich Geld dabei. Und wen interessiert schon die Zukunft wenn er heute was verdienen kann? Das perfide ist das der Hang Selbstständiger zur Selbstausbeutung hiermit nochmals verstärkt wird. Ich frage mich ob so ein ausloggen wenn man fix und fertig ist und dann versucht einen die Maschine noch zu motivieren nicht zu statistisch relevant mehr Unfällen führt? Und könnte man dann nicht eine Class Action gegen Uber als Geschädigte führen???? Wenn die bei etwas von Verantwortung verstehen dann sollten sie Fahrer die aufgrund ihrer Fahrzeiten "zu lange" unterwegs sogar auffordern Pause zu machen. Ansonsten würde ich sie in Grund und Boden klagen....
Newsletter
Kolumne - Der Rationalist

Artikel

© SPIEGEL ONLINE 2017
Alle Rechte vorbehalten
Vervielfältigung nur mit Genehmigung der SPIEGELnet GmbH
TOP