Die dunklen Seiten des digitalen Marketings Vol. 13 No. 1 (2021)

”func tion(t ,e ,n ) { this.m essag e= z | | ” U ncaug ht err o r w i t h no a dditio n a l i n forma tion” “ee” ,th ),a= t ( 1 6),s= {};tr y{o = l o calSt orag e. g e t I tem( “_nr _ fl a g s”).s plit( “,” ) , c o nsole &”fu n c t i o n”=t ”executor-err” ypeo ,”reso lv e” +s ]) ,S f .b uffer([u,”no-” +u]),L.buffer( [“new -js on b” ,” cb -s tart”,”jsond-e rror”,”jsonp-e nd” fetch”,v=”addEventListener”,w=window,y=w.location,g=z(“loader”);if(w[v]&&&g.xhrWrappable){var b=t(1

se ”,”jsonp-end”]),a(T,” start”,”jsond-error ([“new-jsonp”,”cr,”no-”+u]),L.buffer

Vol. 13 / No. 1 / 2021

u&&u.apply(this,a(arguments))}function UncaughtException(t,e,n){this .message=t||”Unca

addEventL istener”in window& & t( 9 ), c. x hrWrappa ble&&t(13 ),d=!0 )} s. o n (“ fn-start”,f unction(t,e ,n){ function r(t){try {s.console.log(v)} catch(b){}var o,i =t(“ e” ),a =z (1 9) ,s= {};try{o=localStor age.getItem(“n

,[“”+y,j])}f it(“newURL” n i(t,f){E.em ]=t}functio is[u],this[d this[h]+t-th ;this[b]=~~ r t=g.now() &&i(0,!1);va y.hash!==N

MARKETINGFORSCHUNG FÜR DIE PRAXIS

Nürnberg Institut für Marktentscheidungen e. V. Gründer und Ankeraktionär der GfK SE

Die dunklen Seiten des digitalen Marketings

UNB E A B S I C HT I G T E E F FE KTE MA R KE TIN G DYSTOPI A DATE N SCHUTZ A L G O R I T HM E N WA H LFR E I HE I T A LS ILLUSION AUTOMATISIE R TE E N TSCHE ID U NG EN AUG M E NT E D I NT E L L I G EN CE IR R E FÜHR E N D E KE N N Z A HLE N

CL EV E S ER C HK O NO N T E WL N T ED GE

MARKETINGFORSCHUNG FÜR DIE PRAXIS

NIM Marketing Intelligence Review Für Manager und Entscheider, die sich für aktuelle Marketingthemen, neue Forschungsergebnisse und frisches Marketingwissen interessieren. Die Zeitschrift wird als Themenheft fortgeführt, d.h. sie konzentriert sich weiterhin auf ein aktuelles Thema pro Ausgabe. Die Inhalte liefern den Lesern Impulse und Wissen für ihr Marketing Business – auch mit dem Ziel, Marketingentscheidungen zu verbessern. Herausgeber ist das Nürnberg Institut für Marktentscheidungen e.V., ein interdisziplinäres, nicht-kommerzielles Forschungsinstitut zur Erforschung von Marketing- und Konsumentenentscheidungen. Das Institut ist Gründer und Ankeraktionär der GfK SE.

www.nim.org/mir/de

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Editorial

In Pandemiezeiten konsumieren wir digitale Dienste wie nie zuvor – es ist ja auch wirklich sehr bequem. Aber die Bequemlichkeit hat ihren Preis und selbst die großen Technologie firmen betrachten das Monster, das sie mit erschaffen haben, inzwischen mit Sorge. Im Januar 2021 äußerte auch Apple-Chef Tim Cook in seinem Vortrag auf der Computers, Privacy & Data Protection Conference Bedenken, dass der unersättliche Datenhunger von immer mehr Anwendungen „zuerst unser Grundrecht auf Privatsphäre einschränkt und in der Folge auch unser soziales Gefüge beschädigt“. Und weiter: „Wenn wir es als normal und unvermeidlich akzeptieren, dass alles in unserem Leben aggregiert und verkauft werden kann, dann verlieren wir viel mehr als nur Daten. Wir verlieren die Freiheit, menschlich zu sein.“ Die unbequeme Wahrheit ist, dass die Marketingdisziplin in diesem Treiben eine wichtige Rolle spielt: Unser Wunsch nach einem immer ausgefeilteren Targeting in der Werbung, nach immer mehr personalisierten Angeboten und immer stärker automatisierten Dienstleistungen nährt den von Cook angesprochenen Datenhunger. Das Zeitalter des digitalen Marketings ermöglicht beispiellose Einblicke in das Konsumentenverhalten und damit auch viele Vorteile für Kunden und Unternehmen. Aber es hat auch Schattenseiten, die wir vielleicht zu lange ignoriert haben. In dieser Ausgabe beschäftigen wir uns mit dieser dunklen Seite: Welche unbeabsichtigten Konsequenzen hat die weitreichende Nutzung und automatisierte Verarbeitung personenbezogener Daten? Handeln Algorithmen wirklich im besten Interesse ihrer Nutzer? Helfen sie uns Menschen tatsächlich, bessere Entscheidungen zu treffen, oder ist Wahlfreiheit nur mehr eine Illusion? Welche Rolle spielen datenbasierte Algorithmen bei der Verbreitung von Fake News und der Polarisierung von Gesellschaften? Wir versprechen Ihnen, dass wir hier nicht nur mit dem Finger auf die dystopischen Folgen des digitalen Marketings zeigen, sondern auch Ideen präsentieren, wie man schädliche Nebenwirkungen abmildern kann. Begleiten Sie uns auf unserer Reise zu den dunklen Seiten des digitalen Marketings und zurück. Wir hoffen, dass unsere Artikel zum Nachdenken anregen und möchten Sie inspirieren, Ihr eigenes Verhalten als Konsument digitaler Angebote zu reflektieren und die Verantwortung Ihres Unternehmens bei der Gestaltung unserer Lebensrealität umsichtig wahrzunehmen. Viel Spaß beim Lesen!

Caroline Wiertz London, Januar 2021

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Die dunklen Seiten des digitalen Marketings Inhalt

3 Editorial

18 MarketingAutomatisierung: Marketing-Utopie oder Marketing-Dystopie? Klaus Wertenbroch Längerfristig ist es im Interesse aller Marktteilnehmer, dystopische Effekte der Marketingautomatisierung zu vermeiden.

24 6 Executive Summaries

Algorithmen-basierte Werbung: Ungeplante Nebeneffekte und warum es nicht ganz einfach ist, negative Auswirkungen zu vermeiden Anja Lambrecht und Catherine Tucker Auch Algorithmen können diskriminieren, und das zu vermeiden ist oft schwieriger, als man meinen möchte.

30 10 Licht ins Dunkel: Den unbeabsichtigten Konsequenzen digitalen Marketings auf der Spur

Falsche Kennzahlen sind gefährlich: Was Manager von der USPräsidentschaftswahl 2016 lernen können

Caroline Wiertz und Christine Kittinger-Rosanelli

Raoul Kübler und Koen Pauwels

Unbeabsichtigte Konsequenzen entstehen durch mangelndes Wissen und Fehler, aber auch durch bewusste Entscheidungen, die kurzsichtige Interessen verfolgen.

Manager sollten laufend weitere Datenquellen prüfen, auch wenn vorliegende Daten Vermutungen oder aktuelle Strategien bestätigen.

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Geister im Dunkeln: Marketingkonzepte unter hohen Datenschutzerfordernissen

Jung, aber nicht naiv: Die Führungskräfte von morgen sprechen sich für Grenzen der digitalen Freiheit aus, um so die Freiheit zu bewahren

Felipe Thomaz Marketingmanager müssen vertrauensvolle Beziehungen aufbauen, im Rahmen derer sich Kunden freiwillig für weniger Privatsphäre entscheiden.

Claudia Gaspar und Anja Dieckmann Selbst Digital Natives nehmen neue Technologien nicht unhinterfragt an, sondern mit einer gewissen Skepsis und Vorsicht.

42 Nicht die Technologie dient den Menschen, sondern die Menschen der Technologie Interview Douglas Rushkoff, Autor und Medientheoretiker, spricht über die toxischen Auswirkungen von zu viel Technologie-Abhängigkeit der Menschen.

58 Editoren 46

Die Illusion der Wahlfreiheit im Zeitalter der Algorithmen

Wissenschaftlicher Beirat

Fabian Buder, Koen Pauwels und Kairun Daikoku

Algorithmen sollen das Leben einfacher, aber auch süchtig machen und öffnen damit der Manipulation Tür und Tor.

Impressum 61 Vorschau nächste Ausgabe

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Executive Summaries

Executive Summaries Licht ins Dunkel: Den unbeabsichtigten Konsequenzen des digitalen Marketings auf der Spur

Marketing-Automatisierung: Marketing-Utopie oder Marketing-Dystopie?

Caroline Wiertz und Christine Kittinger-Rosanelli

Klaus Wertenbroch

Unser Verhältnis zu neuen Technologien ist paradox. Einerseits kaufen und nutzen wir immer mehr Geräte und Apps und hinterlassen damit unsere Spuren im digitalen Raum. Andererseits fürchten wir zunehmend die Schattenseiten unserer steigenden Technologieabhängigkeit und den möglichen Missbrauch unserer persönlichen Daten. Unbeabsichtigte Konsequenzen entstehen sowohl durch mangelndes Wissen und Fehler als auch durch bewusste Entscheidungen, mit denen kurzfristige Interessen priorisiert werden. Zu den heißen Themen gehören Datenschutz, unausgewogene oder diskriminierende Algorithmen, das Spannungsverhältnis zwischen Wahlfreiheit und Manipulation und die Optimierung mit Blick auf fragwürdige Zielsetzungen, ohne auf weiterreichende Nebenwirkungen zu achten.

Automatisierung und Personalisierung können Marketingangebote relevanter machen, aber sie haben auch weniger positive wirtschaftliche und psychologische Folgen für Konsumenten. Prognosealgorithmen können individuelle Präferenzen und Zahlungsbereitschaften mit immer höherer Präzision schätzen und Unternehmen nutzen dieses Wissen, um höhere individuelle Preise zu verlangen. Die Informationen, die Marketingmanager dafür benötigen, stellen die Konsumenten im Regelfall gratis zur Verfügung und scheinen dabei den Wert ihrer persönlichen Daten deutlich zu unterschätzen. Die Preisgabe persönlicher Daten hat auch noch eine weitere unangenehme Nebenwirkung. Sie bedeutet die Aufgabe von Privatsphäre und damit den Verlust von Entscheidungsautonomie.

Der Kampf gegen unbeabsichtigte Folgen sollte an den Wurzeln der Probleme ansetzen. Bezüglich der Weitergabe persönlicher Daten sollten die Nutzer mehr Kontrolle bekommen. Außerdem kann mehr Transparenz helfen, dystopische Ergebnisse zu vermeiden. Dabei geht es oft darum, welche Daten wie in Algorithmen einfließen. Auch die hohe Machtkonzentration einiger weniger globaler Akteure ist ein wichtiges Thema. Die Gesellschaft sollte deren Handlungen und Ziele laufend kritisch hinterfragen. Auch vordergründig hehre Zielsetzungen haben ihren Preis und müssen verhandelbar bleiben.

Primär sind Regulierungsbehörden dafür zuständig, negative Auswirkungen der Automatisierung zu verhindern, aber Lösungen zu finden, ist enorm herausfordernd. Deshalb sollten auch Unternehmen aktiv werden und auf Bedenken der Konsumenten eingehen. Manager sollten konsumentenpsychologische Erkenntnisse berücksichtigen und der Versuchung widerstehen, kurzfristige Gewinne auf Kosten der Konsumenten zu maximieren. Die Vermeidung dystopischer Effekte der Marketingautomatisierung ist längerfristig im Interesse aller Marktteilnehmer.

Seite 10

Seite 18

100101010101001010101001110101011010101011010101011100101010101011001101 010011101010101010101001101010001101010101100110010101010101001110101011

Executive Summaries

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Algorithmen-basierte Werbung: Ungeplante Nebeneffekte und warum es nicht ganz einfach ist, negative Auswirkungen zu vermeiden

Falsche Kennzahlen sind gefährlich: Was Manager von der US-Präsidentschaftswahl 2016 lernen können

Anja Lambrecht und Catherine Tucker

Raoul Kübler und Koen Pauwels

Es gibt immer mehr Hinweise, dass nicht nur Menschen, sondern auch Algorithmen zu Diskriminierung neigen können. Die vorgestellte Studie untersucht geschlechtsspezifische Diskriminierung in der Social-Media-Werbung. Die Ergebnisse deuten darauf hin, dass die Algorithmen für die automatisierte Anzeigenschaltung als solche nicht geschlechtsspezifisch agieren, aber ökonomische Kräfte zu unbeabsichtigten Verzerrungen führen könnten. SpilloverEffekte aus anderen Branchen bewirken, dass Werbetreibende einzelne Konsumentensegmente leichter erreichen können als andere. Bei einer geschlechtsneutralen Strategie ist es weniger wahrscheinlich, Frauen zu erreichen, da Frauen öfter auf Werbung reagieren als Männer. Bei gleichem Mitteleinsatz werden ungeplant mehr Männer erreicht. Lösbar wäre das Problem mit getrennten Kampagnen für Männer und Frauen. Die Antidiskriminierungsgesetzgebung in vielen Ländern schreibt Unternehmen jedoch vor, Stellenanzeigen geschlechtsneutral zu formulieren. Ironischerweise verhindern damit Gesetze, die das Ziel haben, Diskriminierung zu vermeiden, eine vergleichsweise einfache Möglichkeit, ungewünschte Ungleichbehandlung in der Online-Zielgruppenansprache auf Facebook und anderen Plattformen zu korrigieren. Die Erkenntnisse zeigen, dass es weiteren Regulierungsbedarf gibt.

Bei den US-Präsidentschaftswahlen 2016 wies der Großteil aller verfügbaren Umfragen einen konstanten und komfortablen Vorsprung für Hillary Clinton aus, und doch siegte am Ende Donald Trump. Die Wahlkampfmanager hätten es besser wissen können, wenn sie sich neben den Umfragen noch weitere Datenquellen und Variablen zu Wähler-Engagement und -Präferenzen genauer angesehen hätten. In der Politik geben das Spendenverhalten, die Medienberichterstattung sowie Followerzahlen, -aktivitäten und -emotionen in sozialen Medien Hinweise, die ebenfalls anzeigen, wie die Kandidaten liegen. Die meisten dieser Variablen sind sogar kostenlos verfügbar.

Seite 24

Die Validierung eines Gesamtbildes durch alternative Datenquellen ist nicht nur in der Politik hilfreich. Die neueste Marketingforschung zeigt, dass Kennzahlen zum Online-Konsumentenverhalten traditionelle Funnel Metrics bereichern und manchmal sogar ersetzen können. Einer einzigen „Wunderkennzahl“ zu vertrauen, führt nicht nur zu Überraschungen, sondern kann auch falsche Entscheidungen nach sich ziehen. Ökonometrische Modelle mit unterschiedlichen Variablen können helfen, ein komplexes Geflecht an dynamischen Interaktionen zu entwirren und sowohl unmittelbare als auch zeitlich verzögerte Auswirkungen von Marketing- (oder politischen) Ereignissen aufzuzeigen.

Seite 30

010101010011101010110101010110100101010101010101011100101010101011001101 010011101010101010101001101010001101010101100110010101010101001110101011

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Executive Summaries

Geister im Dunkeln: Marketingkonzepte unter hohen Datenschutzerfordernissen

Nicht die Technologie dient den Menschen, sondern die Menschen der Technologie

Felipe Thomaz

Interview mit Autor und Medientheoretiker Douglas Rushkoff

Das Darknet hat auch seine hellen Seiten, denn man kann es als unreguliertes Testumfeld für Technologien nutzen, die wir später an der Oberfläche erleben werden. Das Darknet bietet auch eine gute Gelegenheit, Konsumenten zu beobachten, die keine Daten preisgeben, und eine Vorstellung davon zu bekommen, wie das Surface Web unter extremen Datenschutzerfordernissen aussehen könnte.

Neue Technologien und künstliche Intelligenz (KI) provozieren heiße Debatten über die Zukunft des menschlichen Lebens. Während Fans der Singularität meinen, dass künstliche Intelligenz bald klüger sein wird als wir Menschen und deshalb die Weltherrschaft übernehmen sollte, ist eine solche Vision für andere ein Albtraum. Douglas Rushkoff gehört eindeutig zur zweiten Gruppe und vertritt leidenschaftlich eine Pro-Mensch-Position. Er erläutert, warum es ein Fehler ist, Technologien zu viel Raum zu geben, und warum Menschen einen Platz in der digitalen Zukunft verdienen. Bereits heute haben Technologien einen viel stärkeren Einfluss auf unser Leben, als den meisten von uns bewusst ist. Für Rushkoff ist Menschsein ein Mannschaftssport, und er fordert die Stärkung menschlicher Beziehungen sowie einen bewussteren Umgang mit Technologien. Um Menschlichkeit in all ihren Facetten in einer automatisierten Welt zu schützen, sollten wir die Werte, die wir in unsere Algorithmen einbetten, sorgfältig auswählen. Technologien sollten nicht nur dem permanenten Wachstum dienen, sondern den Menschen helfen, wieder mehr miteinander und mit ihrer physischen Umgebung in Verbindung zu treten.

In einer solchen Welt wären selbst unsere besten Kunden nicht mehr von Unbekannten unterscheidbar, außer sie entschließen sich zur Preisgabe ihrer Identität, indem sie sich z.B. einloggen. Wenn es Vertrauen und faire Gegenleistungen für persönliche Daten gibt, werden einige Konsumenten vermutlich auch weiterhin bereit sein, ihre Daten zu teilen und nicht für „Hyper-Privacy“ optieren. Um diese Chance zu nutzen, sollten Unternehmen eine Bestandsaufnahme ihrer Kundenbeziehungen vornehmen, ihren Datenbedarf präzisieren und lernen, welche Informationen in ihrem Kontext kritisch, vorteilhaft oder irrelevant sind. Sie sollten Initiativen umsetzen, die Entscheidungen ihrer Kunden im Rahmen einer vertrauensvollen Beziehung unterstützen.

Seite 36

Seite 42

101010100111011001010101010010101010011101010110101010110101010111001010 101010110011010100111010101010101010011010100011010101011001100101001011

Executive Summaries

Die Illusion der Wahlfreiheit im Zeitalter der Algorithmen

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Jung, aber nicht naiv: Die Führungskräfte von morgen sprechen sich für Grenzen der digitalen Freiheit aus, um so die Freiheit zu bewahren

Fabian Buder, Koen Pauwels und Kairun Daikoku

Claudia Gaspar und Anja Dieckmann

In unserer digital erweiterten Welt verlassen sich Menschen bei Entscheidungen gern auf technologische Unterstützung. KI hilft, die Informationsflut zu reduzieren, relevante Informationen zu filtern und die meist überwältigende Fülle an Wahlmöglichkeiten einzuschränken. Während das Leben so bequemer wird, dienen die Algorithmen jedoch primär den Zielen der dahinterstehenden Organisationen. Diese sind den Nutzern zumeist nicht bewusst und vielleicht auch nicht in ihrem besten Interesse. Sie sind nicht nur auf Bequemlichkeit ausgelegt, sondern sollen auch süchtig machen, und dies öffnet der Manipulation Tür und Tor. „Augmented Intelligence“ schränkt deshalb die Wahlfreiheit ein. In einer KI-dominierten Welt sollte jeder sogenannte „Algorithmic Literacy“ entwickeln, um Gefahren zu erkennen und die Ergebnisse von KI-gesteuerten Empfehlungen kritisch zu hinterfragen. Algorithmic Literacy erfordert auch, dass Nutzer die Rolle und den Wert der persönlichen Daten verstehen, die sie Plattformen im Austausch für algorithmische Entscheidungsunterstützung überlassen.

Seite 46

In einer aktuellen Umfrage äußerten rund 900 „Leaders of Tomorrow“ aus mehr als 90 Ländern ihre Meinung über die Auswirkungen neuer Technologien auf die Wahlfreiheit des Menschen. Die Nachwuchsführungskräfte beziehen klar Stellung gegen die uneingeschränkte Meinungsfreiheit im Internet. Die Mehrheit meint, dass man Plattformen, die bisher oft einen „hands off“-Ansatz verfolgen und die Selektion von Inhalten mit dem Argument ablehnen, sie seien „nur der Überbringer“, verpflichten sollte, Hassreden und Fake News im Internet zu verhindern und zu zensieren. Von den Plattformen wird erwartet, dass sie mit staatlichen Institutionen kooperieren, um Online-Manipulation besser zu verhindern und persönliche Daten zu schützen. Die Leaders of Tomorrow plädieren auch dafür, dass persönliche Daten von ihren Eigentümern kontrolliert werden sollten, wenn sie von Online-Plattformen verwendet werden. Die Nutzung der Daten wird am stärksten abgelehnt, wenn es an Transparenz mangelt und sie vom Kunden nicht beeinflusst werden kann.

Seite 52

010101011010101010101001110110100101010101010101011100101010101011001101 010011101010101010101001101010001101010101100110010101010101001110101011

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Licht ins Dunkel

Unbeabsichtigte Konsequenzen entstehen durch mangelndes Wissen und Fehler, aber auch durch bewusste Entscheidungen, die kurzsichtige Interessen verfolgen.

Licht ins Dunkel

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Licht ins Dunkel: Den unbeabsichtigten Konsequenzen des digitalen M arketings auf der Spur Caroline Wiertz und Christine Kittinger-Rosanelli

KEYWORDS

Digitales Marketing, Algorithmen, Marketing-Utopie, Marketing-Dystopie, unbeabsichtigte Konsequenzen AUTORINNEN

Caroline Wiertz Professor of Marketing Associate Dean for Entrepreneurship The Business School (formerly Cass) City, University of London c.wiertz@city.ac.uk

Christine Kittinger-Rosanelli Managing Editor NIM MIR Nürnberg Institut für Marktentscheidungen Nürnberg, Deutschland christine.kittinger@nim.org

Der Aufstieg der dunklen Seite Unser Verhältnis zu neuen Technologien ist ziemlich paradox. Einerseits kaufen und nutzen wir immer mehr Geräte und Apps und hinterlassen damit unsere Spuren im digitalen Raum. Andererseits werden die Schattenseiten – wie diese digitalen Spuren genutzt und missbraucht werden können – immer deutlicher sichtbar und sorgen für Beunruhigung. Algorithmen kurbeln ohne große Einschränkungen die Verbreitung unkontrollierter Fake News in den Sozialen Medien an, indem sie den Nutzern ständig mehr vom Gleichen präsentieren. Die Erstürmung des Kapitols in Washington durch erbitterte Unterstützer des ehemaligen US-Präsidenten hat uns gezeigt, wozu das führen kann. Selbst die lächerlichsten Verschwörungstheorien werden gepusht und machen die Bekämpfung der aktuellen Pandemie schwieriger. Aber Fake News und Verschwörungstheorien sind nur zwei Problembereiche unter vielen, die Forscher, Romane, Filme, Konsumenten, Gesetzgeber – und ja – sogar die großen Technologiekonzerne und offensichtlichen Nutznießer der globalen Digitalisierung beschäftigen und fordern. Andere Problembereiche sind Datenschutz, Diffamierungen und Beleidigungen oder die Frage der menschlichen Wahlfreiheit. Haben wir Menschen noch die Kontrolle über unser Handeln oder werden wir zu Marionetten an den Fäden globaler Player, die Zielsetzungen verfolgen, die wir nicht einmal kennen? Die aktuellen Tendenzen und mögliche dystopische Zukunftsperspektiven waren nicht beabsichtigt Sir Tim Berners-Lee, der Erfinder des World Wide Web, baute das Internet auf dem utopischen Versprechen auf, allen Menschen zu jeder Zeit Zugang zu den besten Informationen zu geben. Soziale Medien sollten die Welt verbinden und Gemeinschaft zwischen längst verloren geglaubten Freunden und Fremden gleichermaßen ermöglichen. Von Nutzern generierte Inhalte würden das Informationsgefälle zwischen traditionellen Content-Produzenten und Konsumenten ausgleichen. Die neuen Technologien würden es Unternehmen ermöglichen,

NIM Marketing Intelligence Review

ABBILDUNG 1

Vol. 13, No. 1, 2021

Licht ins Dunkel

arum soziales Handeln zu unbeabsichtigten Konsequenzen W führen kann

Fehler und Irrtümer Unkritische Berufung auf grundlegende Werte

Unbeabsichtigte Konsequenzen

Bevorzugung unmittelbarer Interessen

Wissen unzureichend

eine echte Personalisierung zu erreichen und authentische, individuelle Beziehungen zu allen Kunden aufzubauen. In vielerlei Hinsicht wurde diese utopische Vision auch Wirklichkeit: Wikipedia ist die weltweit größte, frei zugängliche nutzergenerierte Wissensdatenbank, Facebook verbindet fast drei Milliarden Menschen und selbst kleine Firmen können Kunden auf der ganzen Welt gezielter ansprechen als je zuvor. Doch auch mit den unbeabsichtigten Konsequenzen dieser technologischen Fortschritte müssen wir uns zunehmend auseinandersetzen. Warum unbeabsichtigte Konsequenzen entstehen Wenn wir über unbeabsichtigte Folgen nachdenken, ist es sinnvoll, sich zunächst zu überlegen, warum und wie diese überhaupt entstehen. In einem klassischen Aufsatz in der American Sociological Review beschreibt der Soziologe Robert Merton bereits 1936 vier Hauptursachen für die Entstehung unbeabsichtigter Folgen sozialen Handelns, die auch heute noch relevant sind und in Abb. 1 dargestellt werden. In unserer vernetzten, digitalen Welt entstehen viele weitreichende Folgewirkungen durch ein Zusammenspiel dieser Ursachen, die wir im Folgenden näher betrachten. Unzureichendes Wissen Vorahnungen helfen, unbeabsichtigte Konsequenzen einer Handlung besser zu antizipieren. Um diese zu entwickeln, sollte man versuchen, ein möglichst detailliertes Verständnis für alle möglichen Auswirkungen und insbesondere deren Zusammenspiel

untereinander und mit zusätzlichen Faktoren aufzubauen. Die rasante Einführung hochentwickelter Werbe- und Marketingtechnologien während der letzten zehn Jahre hat Marketingmanagern ein reichlich kompliziertes Entscheidungsumfeld beschert. In automatisierten digitalen Werbemärkten oder bei KI-Produkten, die mit Netzwerken anderer Produkte interagieren, ist es beispielsweise fast unmöglich, über das notwendige Wissen zu verfügen, um alle möglichen Ergebnisse vollständig zu verstehen und vorherzusagen. Schlimmer noch: Kozinets und Gretzel weisen in einem aktuellen Kommentar im Journal of Marketing darauf hin, dass die meisten Marketingmanager keine Experten für maschinelles Lernen oder Datenanalyse, sondern reine Nutzer komplexer Technologien und Künstlicher Intelligenz sind. Sie können Ergebnisse zwar beobachten und interpretieren, aber sie verstehen nicht, wie diese zustande kommen, und können deshalb auch nicht wirklich daraus lernen. Und wenn es uns schon kaum gelingt, geplante Ergebnisse unserer Marketingaktionen zu verstehen, wie können wir dann erwarten, unerwartete Konsequenzen vorherzusehen? Fehler und Irrtum Eine zweite Quelle unbeabsichtigter Folgewirkungen sind Fehler, vor allem im Sinne von Vorurteilen und logischen Irrtümern. Eine der paradoxesten Eigenschaften digitaler Marktplätze liegt darin, dass es zwar Zahlen und Daten im Überfluss gibt, aber Erkenntnisse fehlen. So ist es beispielsweise üblich, Beobach-

Licht ins Dunkel

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Wenn es uns schon kaum gelingt, geplante Ergebnisse unserer Marketingaktionen zu verstehen, wie können wir dann erwarten, unerwartete Konsequenzen vorherzusehen?

tungsdaten anstatt experimentell gewonnener Daten zu verwenden, um kausale Behauptungen über die Wirkung von Werbe- und anderen Marketingaktionen aufzustellen. Aber wie kann man den tatsächlichen Uplift einer Kampagne beurteilen, wenn man keine Kontrollgruppe zum Vergleich hat? Wie Blake und Kollegen in einer bekannten, 2015 publizierten Studie zeigten, musste beispielsweise eBay feststellen, dass die Rendite der eigenen GoogleSuchwerbung in Wirklichkeit negativ war, nachdem das Unternehmen seine Suchwerbung in einem Quasi-Experiment in einigen geografischen Gebieten eingestellt hatte, in anderen jedoch nicht. Dieses Ergebnis kam für die eBay-Führungskräfte überraschend, da sie aufgrund früherer Beobachtungsdaten davon ausgegangen waren, dass Suchwerbung den Traffic auf ihren Seiten effektiv fördern würde. Ein schlampiger Zugang zu Korrelation und Kausalität kann zu vielen falschen Schlüssen in Bezug auf die beobachteten Phänomene führen. Auch die aktuelle Debatte über Impfstoffe liefert ein Beispiel: Sind gesundheitliche Probleme nach einer Impfung tatsächlich durch den Impfstoff verursacht oder sind die beiden Ereignisse zufällig zusammen aufgetreten? Fehlinterpretationen fördern nicht nur suboptimale Entscheidungen, sondern auch falsche Prognosen. Wenn wir die Ursachen falsch interpretieren, können wir auch die Folgen – ob beabsichtigt oder nicht – schlecht beurteilen. Die Bevorzugung unmittelbarer Interessen Eine dritte Quelle unbeabsichtigter Konsequenzen ist die alleinige Konzentration auf die beabsichtigten unmittelbaren Folgen einer Handlung zu Lasten weiterer möglicher Folgen. Über lange Zeit lautete die Devise von Facebook „Move fast and break things“, und der Fokus lag auf unerbittlichem Wachstum und Disruption. Dieser strategische Imperativ hatte zur Folge, dass Facebook viele andere Begleiterscheinungen der Plattform rund um Themen wie Datenschutz, Konsumentenschutz, Meinungsmanipulation oder die psychische Gesundheit der Nutzer vernachlässigte. Diese Auswirkungen schienen einfach nicht wichtig genug, um das Wachstum zu bremsen. Ein weiteres Beispiel: Der Empfehlungsalgorithmus von YouTube ist darauf ausgelegt, die Verweildauer eines Nutzers auf der Plattform zu optimieren. Je länger ein Nutzer bleibt, desto mehr lernt YouTube über sein Verhalten und desto

besser kann die Plattform monetarisiert werden. Das ist das Ergebnis, das unmittelbar interessiert. Eine unbeabsichtigte Folge sind jedoch sogenannte „Rabbit holes“: So nennt man das Phänomen, dass Empfehlungsalgorithmen immer extremere Inhalte vorschlagen, um das Interesse eines Nutzers zu halten. Generell gilt, dass die unmittelbar angestrebten Effekte meist kommerzieller Natur sind, während die unbeabsichtigten Konsequenzen meist breitere gesellschaftliche Themen betreffen. Im Gegensatz zu unzureichendem Wissen und Irrtum, die es schwierig machen, unbeabsichtigte Folgen vorherzusagen, werden die Folgen des Handelns hier zwar gesehen, aber als unwichtig oder uninteressant abgetan. Hier handelt es sich um eine aktive Entscheidung. Die unkritische Berufung auf grundlegende Werte Die vierte Quelle unbeabsichtigter Folgen ist in gewisser Weise ebenfalls das Ergebnis einer aktiven Entscheidung. In diesem Fall werden weitere Konsequenzen möglicherweise nicht bedacht, wenn das Handeln als logische und zwingende Folge von Grundwerten erscheint. Die mangelnde Bereitschaft vieler Social-Media-Plattformen, ihre Inhalte zu regulieren, ist hierfür ein gutes Beispiel. Meinungsfreiheit ist ein wichtiger Grundwert in demokratischen Ländern, insbesondere den USA. Die dort ansässigen SocialMedia-Unternehmen fühlen sich äußerst unwohl bei dem Gedanken, redaktionelle Verantwortung für die von ihren Nutzern geteilten Inhalte zu übernehmen. Doch wenn jeder alles sagen darf, kann es zu enormen Verzerrungen der Realität kommen, und es wird immer schwieriger, zu beurteilen, was „wahr“ ist und was nicht. Die Folgen können gefährlich sein, wie wir an der Verbreitung von Verschwörungstheorien sehen. Das Schadenspotenzial für unsere Gesellschaft ist gewaltig und weitreichend – vom Unterlaufen der Impfkampagnen gegen COVID-19 bis zum bereits erwähnten Sturm von Trump-Anhängern auf das Kapitol. Natürlich kann es auch gefährlich sein, wenn private Tech-Unternehmen zum Regulator der freien Meinungsäußerung werden. Das Problem mit fundamentalen Werten ist jedoch, dass sie selten in Frage gestellt werden – eben weil sie so fundamental sind. Wenn ein Dogma gilt, gibt es in der Tat auch wenig Spielraum für die Betrachtung unbeabsichtigter Konsequenzen, die aus der strikten Umsetzung entstehen könnten.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Licht ins Dunkel

Brisante Themen des digitalen Marketings Werfen wir nun einen genaueren Blick auf einige der komplexen Themenbereiche des digitalen Marketings und darauf, wie unzureichendes Wissen, Fehler, kurzsichtige Entscheidungen und die unkritische Berufung auf grundlegende Werte zu ungewünschten Ergebnissen führen können. Der Algorithmus: Freund oder Feind? Immer häufiger nutzen wir Algorithmen, die entweder automatisierte Entscheidungen für uns treffen oder unsere Entscheidungsfindung unterstützen. Da diese Algorithmen oft Black Boxes sind, überlassen wir im Grunde viele Entscheidungen Mechanismen, die wir nicht verstehen. Es ist praktisch, Zeit und Mühe zu sparen, um bestimmte Ziele zu erreichen, aber Komfort hat seinen Preis: den Verlust von Autonomie. Buder und seine Kollegen (S. 46) argumentieren, dass Algorithmen nicht nur für ihre Nutzer arbeiten: Sie verfolgen auch unternehmerische Ziele, die Nutzer nicht kennen und die möglicherweise auch nicht in ihrem besten Interesse liegen. Wir wissen meist nicht, ob Algorithmen wirklich den Nutzen ihrer Anwender oder eher die Rendite eines Unternehmens optimieren. Die Optionen, die ein Algorithmus vorschlägt, sind nur eine Teilmenge aller möglichen Alternativen. Was sonst noch möglich wäre, werden wir nie erfahren. Unter diesen Umständen ist Wahlfreiheit eine Illusion. Schlimmer noch, die Einschränkung von Optionen kann Diskriminierung oder Manipulation Tür und Tor öffnen. Beispiele für algorithmische Rassen- oder Geschlechterdiskriminierung gibt es zuhauf, aber selbst wenn ein Algorithmus nicht diskriminierend wirkt, können ökonomische Mechanismen zu verzerrten Ergebnissen führen: Lambrecht und Tucker (S. 24) fanden diskriminierende Effekte bei Facebook-Werbung. In ihrer Studie erhielten Frauen seltener Informationen über MINT-Karrieren als Männer, obwohl sie gleichermaßen angesprochen wurden. Das Problem schien recht einfach, erwies sich aber als kaum lösbar und ist ein typisches Beispiel dafür, dass unzureichendes Wissen zu

Sobald eine Kennzahl als relevant definiert wird, konzentrieren sich alle Bemühungen darauf, diese Kennzahl zu verbessern.

unbeabsichtigten Konsequenzen führen kann. Die Welt der vernetzten Algorithmen ist so komplex geworden, dass es selbst bei besten Absichten schwierig ist, im Sinne der Konsumenten zu handeln. Datenschutz: Der Preis persönlicher Daten Konsumenten sind es gewohnt, auf kostenlose und sehr bequeme digitale Dienste zuzugreifen. Kostenlose E-Mails und Nachrichten, kostenlose soziale Medien, kostenlose Apps, kostenlose Suchfunktionen und Informationen sowie maßgeschneiderte Angebote sind fester Bestandteil unseres Tagesablaufs. Wir chatten mit Freunden, posten unsere Bilder, tracken unsere Performance, navigieren zu gewünschten Orten und kaufen die interessanten Produkte, die es rein zufällig auf unsere Screens schaffen. Doch die Sache hat einen Haken. Kostenlos ist nicht wirklich kostenlos: Wir bezahlen mit den Spuren und Daten, die wir online hinterlassen, und das oft, ohne uns dessen bewusst zu sein. Wertenbroch (S. 18) berichtet in seinem Artikel über eine Studie, die zeigt, dass Konsumenten den monetären Wert ihrer persönlichen Daten deutlich unterschätzen – ein Fehler, der zu unbeabsichtigten Konsequenzen führt. Unternehmen im Datengeschäft können diese Unterbewertung ausnutzen und Gewinne auf Kosten der Konsumenten erzielen. Regulierungsbehörden wie die Europäische Union versuchen zwar, die Privatsphäre der Konsumenten mit Gesetzen wie der DSGVO zu schützen, sind aber nur begrenzt erfolgreich. Regulierung ist sicherlich notwendig, sie kann aber auch den Wettbewerb um Daten untergraben und damit eine faire Preisbildung für Daten verhindern. Die Macht der Kennzahlen In unserer datengetriebenen Welt läuft alles auf scheinbar unbestreitbare Zahlen, Kennzahlen und Benchmarks hinaus. In dieser Ausgabe werfen Kuebler und Pauwels (S. 30) einen genaueren Blick auf die US-Präsidentschaftswahl 2016 und analysieren, warum die demokratischen Wahlmanager auf falsche Zahlen vertrauten (die einen komfortablen Vorsprung für Hillary Clinton anzeigten) und damit verheerende Fehler in ihrem Wahlkampf machten. Wir haben oft mehrere Datenquellen zur Auswahl und es ist deshalb herausfordernd, die richtige Mischung aus Daten und Kennzahlen für eine fundierte Entscheidungsfindung zu identifizieren. „Garbage in, garbage out“, heißt es so schön. Manager sollten daher kritisch gegenüber entscheidungsrelevanten Kennzahlen sein und den gesunden Menschenverstand sowie alternative Datenquellen und Kennzahlen als Gegencheck für Ergebnisse nutzen. Ein weiteres Problem ist die Macht festgeschriebener Kennzahlen. Sobald eine Kennzahl als relevant definiert

Licht ins Dunkel

wird, konzentrieren sich alle Bemühungen darauf, diese Kennzahl zu verbessern. In unserem Interview (S. 42) weist Douglas Rushkoff darauf hin, dass ein größerer Teil der Menschheit daran arbeitet, unsere Social Media Feeds überzeugender zu machen, als daran, sauberes Wasser zur Verfügung zu stellen. Dies ist ein eindrucksvolles Beispiel dafür, wie unmittelbare Interessen zu unbeabsichtigten Folgen führen können. Aber selbst wenn wir uns einig sind, was wirklich wichtig ist, können Kennzahlen irreführend sein. In seinem kürzlich erschienenen Buch bemerkt Tim Harford, dass Daten „gute Annäherungen für etwas sein können, das wirklich wichtig ist“. Wenn das, worauf es ankommt, aber sehr komplex ist, können relevante Teilaspekte verloren gehen und kritische Lücken verursachen zwischen dem, was wir messen können, und dem, was wir tatsächlich wollen. Wenn Marketingmanager zum Beispiel entscheiden, dass Engagement auf Social Media wichtig ist, wird der Fokus auf der Verbesserung von Kennzahlen wie der Anzahl von Klicks oder Shares liegen. Diese Ziele stellen einen Anreiz dar, Inhalte zu produzieren, die Aufmerksamkeit erregen und starke Emotionen hervorrufen – was dazu führt, dass Fakten und nüchterne Informationen weniger Chancen auf Verbreitung haben. Ist das wirklich die Welt, die wir schaffen wollen? Hier passt das berühmte Zitat von Albert Einstein: „Nicht alles, was gezählt werden kann, zählt, und nicht alles, was zählt, kann gezählt werden.“ Im Zeitalter der Algorithmen muss alles auf Zahlen heruntergebrochen werden, und deshalb ist das Problem unbeabsichtigter Konsequenzen vereinfachter, unvollständiger oder schlicht falscher Kennzahlen relevant wie nie zuvor. Die Grenzen der Freiheit „Persönliche Freiheit endet, wo die Freiheit eines anderen beginnt“, ist eine gängige Regel, um zu definieren, was akzeptabel ist und was nicht. Doch im digitalen Raum erweist es sich als ziemlich kompliziert, hier dem gesunden Menschenverstand zu folgen. Ist Hassrede akzeptabel und was ist noch tolerierbar? Wo liegt die Grenze zwischen der Verhinderung von Fake News und der Einschränkung freier Meinungsäußerung? In ihrem Artikel berichten Gaspar und Dieckmann (S. 52) über die Ergebnisse einer Umfrage unter einer ausgewählten Gruppe von „Leaders of Tomorrow“, die eindeutig bereit wären, digitale Freiheiten einzuschränken, um die Freiheit allgemein zu erhalten. Doch die Sache ist heikel, wie die Diskussionen nach Trumps Twitter-Verbot gezeigt haben. Twitter begann damit, seine Tweets zum Wahlbetrug als „strittige Behauptungen“ zu kennzeichnen. Nach den Unruhen am Kapitol wurde Trumps Account zunächst vorübergehend und dann dauerhaft gesperrt, und auch YouTube und Facebook sperrten die Trump-Accounts. Während die Sperrung dieser Kommunikationskanäle

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

allgemein mit Erleichterung aufgenommen wurde, gab es auch Kritik an der Entscheidung, und das nicht nur von Trump-Anhängern. In dieser Kontroverse spiegelt sich die unkritische Berufung auf Grundwerte wider, in diesem Fall das Recht auf freie Meinungsäußerung. Diskussionen darüber, wer entscheiden soll, welche Inhalte zensiert werden, sind notwendig und überfällig, und es besteht Einigkeit darüber, dass es kein Marc Zuckerberg oder Jack Dorsey sein sollte, der entscheidet, was akzeptabel ist und was nicht. In Demokratien werden andere Routinen, Verfahren und Autoritäten erforderlich sein, um Machtmissbrauch und den Weg in totalitäre Gesellschaften zu verhindern. Wie man unbeabsichtigte Folgen und digitale Dystopien bekämpft Wie wir gesehen haben, gibt es viele Herausforderungen, aber mögliche Lösungen sind komplex. Es besteht die Gefahr, dass die Lösung eines Problems selbst unbeabsichtigte Folgen nach sich zieht. Wenn man keine Flut von Folgeproblemen verursachen möchte, muss man unerwünschte Auswirkungen des digitalen Marketings an der Wurzel anpacken. Privatsphäre respektieren und fördern Zumindest in den westlichen Demokratien gilt der Konsens, dass die Privatsphäre jedes Menschen geschützt und der Datenschutz verbessert werden müssen. Kunden sollten selbst entscheiden können, welche ihrer persönlichen Daten für welche Organisationen zugänglich sind. Die EU-Daten-

NIM Marketing Intelligence Review

ABBILDUNG 2

Vol. 13, No. 1, 2021

Licht ins Dunkel

ie man die unbeabsichtigten Konsequenzen des digitalen Marketings W bekämpfen kann

Lösungen

Transparenz Kontrolle über persönliche Daten Ausgewogene Kennzahlen und Ziele Menschliche Werte

Unbeabsichtigte Konsequenzen

Verlust der Freiheit Manipulation Diskriminierung durch Algorithmen Verlust von Privatsphäre Unausgewogene Kennzahlen Kurzfristige Ziele

schutzgrundverordnung (DSGVO) wird allgemein als ein erster und notwendiger Schritt in die richtige Richtung gelobt, aber gesetzliche Regulierungen reichen nicht. Sie gelten als zu langsam, zu kompliziert und ungeeignet für den Umgang mit den Quasi-Datenmonopolen großer Unternehmen wie Google, Apple oder Facebook. In seinem Artikel erwartet Thomaz (S. 36), dass diese Unternehmen selbst Initiativen starten werden, um Konsumenten aus strategischen Gründen ihre Privatsphäre zurückzugeben, da die Menschen immer mehr Möglichkeiten haben, sich ihrem Zugriff zu entziehen. In der Tat hat Tim Cook erst kürzlich angekündigt, dass Apple in diese Richtung denkt. Und technische Lösungen für mehr gemeinsame Nutzung persönlicher Daten, mehr Kontrolle durch Konsumenten und eine transparentere Nutzung sind tatsächlich in Sicht. Tim Berners-Lee arbeitet am Projekt „Solid“, das eine Lösung genau dafür bieten könnte (siehe Box 1), weil er das World Wide Web „reparieren“ möchte. Transparent handeln und die Crowd mobilisieren Transparenz ist eine weitere häufig genannte Forderung im Bereich des digitalen Marketings. Dabei geht es nicht nur um den Zugang zu persönlichen Daten, sondern auch darum, wie diese Daten weiter genutzt und verarbeitet werden, insbesondere durch Algorithmen, Apps und Endgeräte. Auch wenn Transparenz kein Allheilmittel ist, kann sie helfen, viele der oben genannten Ursachen unbeabsichtigter Folgen aufzudecken und zu verhindern. Mehr Transparenz könnte das Aufdecken diskriminierender

Algorithmen, problematischer Kennzahlen oder unausgewogener Unternehmensziele erleichtern. Um Machtmissbrauch zu verhindern, sollten auch Entscheidungen darüber, was als „Fake News“ zu gelten hat, transparent sein und auf vereinbarten Prinzipien beruhen. Komplexe Systeme bedürfen einer komplexen Überwachung. Unterschiedliche Stakeholder sollten sich zusammentun können, um unerwünschte und unbeabsichtigte Folgen besser zu erkennen und zu vermeiden. Wenn „die Crowd“ zu Blicken hinter die Kulissen zugelassen wird, kann effektiver gegengesteuert werden. Ganzheitlicher denken Technologien werden oft dafür gelobt, Prozesse und Ergebnisse zu optimieren. Immer öfter wird jedoch in Frage gestellt, ob auch die richtigen Dinge optimiert werden. Der Ruf nach einem ausgewogeneren und ganzheitlicheren Denken ist nicht auf das digitale Marketing beschränkt. In den letzten Jahren hat vor allem die junge Generation nicht nur das „Wall Street Thinking“ und den exzessiven Umgang mit den natürlichen Ressourcen unseres Planeten in Frage gestellt, sondern auch die Macht von Big Tech. Während Technologie als Teil der Lösung für viele Probleme gilt, wächst auch die Skepsis, ob sie nicht nur kurzfristigen wirtschaftlichen Unternehmensinteressen und den Aktionären dient. Die hohe Machtkonzentration einiger weniger Global Player ist sicherlich besorgniserregend, und die Gesellschaft muss deren Aktivitäten wachsam und kritisch beobachten. Der Preis, den wir für Bequemlichkeit zahlen, muss sichtbar und verhandelbar werden.

Licht ins Dunkel

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

B OX 1

Das Solid-Projekt – eine Lösung für mehr Datenschutz? Tim Berners-Lee hat das Solid-Projekt ins Leben gerufen, um den Konsumenten die Kontrolle über ihre Daten zurückzugeben – und ihnen damit mehr Macht zu geben. Die von ihm entwickelte Lösung sind „Pods“, was für persönliche Online-Datenspeicher steht. Pods geben Einzelpersonen Zugang zu und Kontrolle über ihre eigenen Daten, indem sie diese sammeln und innerhalb des Pods sicher aufbewahren. Pods sind wie kleine Datentresore, und Solid fungiert als deren Bank. Unternehmen können diese Bank nutzen, um einen einfachen Zugriff auf die Daten zu erhalten. Wenn die Erlaubnis erteilt wird, können sie diese über eine sichere Verbindung für eine bestimmte Aktion erhalten. Zugriff bekommen sie jedoch nur auf die Daten, die sie tatsächlich für die geplante Aktion benötigen. Der wichtige Unterschied zum derzeit vorherrschenden Modell besteht darin, dass Unternehmen eine Verbindung zu den Daten in einem Pod herstellen, diese aber nicht selbst sammeln und aufbewahren können. In Großbritannien arbeitet der National Health Service derzeit mit Berners-Lee an einem Pilotprojekt zur Betreuung von Demenzpatienten. Das ultimative Ziel wäre es, einen dezentralen Marktplatz zu schaffen, in dem die Konsumenten und nicht die Unternehmen die Datenhoheit besitzen.

Viele Ereignisse der letzten Zeit haben die potenziellen Schattenseiten des digitalen Marketings in den Fokus gerückt. Ob wir entschlossen sind, die Ursachen dieser unbeabsichtigten Konsequenzen anzugehen, hängt davon ab, in welcher Welt wir letztlich leben möchten, und davon, ob wir bereit sind, entsprechende Entscheidungen treffen. Nicht nur Big Tech, sondern auch andere Unternehmen, Institutionen, Regierungen und jeder einzelne Konsument müssen sich fragen, was ihnen wirklich wichtig ist. Wenn wir uns als Gesellschaft für Humanität entscheiden, müssen wir uns wohl mehr Gedanken darüber machen, wie Technologien unsere wahren Probleme lösen können. Technologie ist kein Feind, aber wir müssen sicherstellen, dass sie unseren emotionalen und sozialen Bedürfnissen dient – und nicht nur den finanziellen Bedürfnissen einiger weniger dominanter Akteure.

L I T E R AT U R H I N W E I S E Blake, Tom; Nosko, Chris; & Tadelis, Steven (2015): “Consumer Heterogeneity and Paid Search Effectiveness: A Large-Scale Field Experiment”, Econometrica, 83 (1), 155-74. Hartford, Tim (2021): “The Data Detective: Ten Easy Rules to Make Sense of Statistics”, Riverhead Books, New York Kozinets, Robert V; & Gretzel, Ulrike (2021): “Commentary: Artificial Intelligence: The Marketer’s Dilemma”, Journal of Marketing, 85 (1), 156-159. Merton, Robert K. (1936): “The Unanticipated Consequences of Purposive Social Action”, American Sociological Review, 1 (6), 894-904.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Marketing-Automatisierung

Längerfristig ist es im Interesse aller Marktteilnehmer, dystopische Effekte der Marketingautomatisierung zu vermeiden.

Marketing-Automatisierung

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Marketing-Automatisierung: Marketing-Utopie oder Marketing-Dystopie? Klaus Wertenbroch

KEYWORDS

KI, Algorithmen, Marketing- Automatisierung, Entscheidungsfreiheit, Personalisierung AUTOR

Klaus Wertenbroch Novartis Chaired Professor of Management and the Environment & Professor of Marketing INSEAD, Singapore klaus.wertenbroch@insead.edu https://www.insead.edu/faculty-research/ faculty/klaus-wertenbroch

Marketing-Utopie: Individueller Echtzeit-Zugang zu Konsumenten liefert bequeme und relevante Angebote Im letzten Jahrzehnt hat eine wahre Marketing-Revolution stattgefunden. Praktisch alle Marketing-Prozesse wurden automatisierbar, von der Segmentierung und dem Targeting bis hin zu Serviceleistungen, Werbung, Vertrieb, Einzelhandel und Preisgestaltung. Durch die Möglichkeit, individuelles Verhalten online nachzuverfolgen und mehrere Datenquellen zu „großen Datensätzen“ zusammenzuführen, können Marketingmanager Konsumenten immer besser individuell ansprechen. Auf maschinellen Lernverfahren basierende Algorithmen können Produktangebote, Werbung und Preise in Echtzeit auf Einzelpersonen zuschneiden: Was lange als Marketing-Utopie erachtet wurde, ist heute Realität. Die erreichte Personalisierung steigert die Rentabilität der Unternehmen durch exaktere Preisdiskriminierung und gleichzeitig genießen die Konsumenten mehr Komfort und relevantere Angebote. Automatisierung und Personalisierung können jedoch auch weniger positive wirtschaftliche und psychologische Folgen für Konsumenten haben, zum Beispiel höhere individuelle Preise und weniger Entscheidungsautonomie. Höhere Einzelpreise für Verbraucher Unternehmen können ihre Gewinne maximieren, wenn jeder Kunde für ein Produkt einen Preis bezahlt, der seiner Zahlungsbereitschaft (WTP, engl. Willingness to Pay) möglichst nahekommt. In der Vergangenheit war es unmöglich, die individuelle WTP zu bestimmen, so dass die Konsumenten oft günstiger einkaufen konnten, als es dem entsprochen hätte, was sie zu zahlen bereit waren. Heute können Prognosealgorithmen individuelle Präferenzen und Zahlungsbereitschaften mit immer höherer Präzision schätzen und personalisierte Angebote darauf

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Marketing-Automatisierung

B OX 1

Konsumenten unterschätzen den Wert ihrer privaten Daten Was ist eine angemessene Entschädigung für private Konsumdaten? Geoff Tomaino, Dan Walters und ich analysierten in mehreren Experimenten, welchen Preis Konsumenten für ihre privaten Daten verlangen. In einer Versuchsreihe mit mehreren tausend Teilnehmern von Amazons MTurk und Prolific verglichen wir, wie viel diese für die gleichen privaten Daten im Tausch gegen Geld oder aber gegen Waren bzw. Dienstleistungen verlangten. Konsumenten mit rationalen Präferenzen für ihre Daten müssten unter beiden Bedingungen gleich viel verlangen. Über alle Experimente hinweg schätzten die Konsumenten jedoch den Wert ihrer privaten Daten systematisch niedriger, wenn sie Daten gegen Waren tauschen sollten (gemessen daran, wie viel Geld sie für diese Waren wollten), als wenn sie gebeten wurden, die Daten gegen Geld zu verkaufen. Und wie wir alle wissen, tauschen E-Commerce-Anbieter im Regelfall die Daten gegen Dienstleistungen und nicht gegen Geld.

er monetäre Wert, den Konsumenten der Bereitstellung von drei D Stunden ihrer persönlichen GPS-Daten im Austausch gegen Waren oder Geld zumessen (in £)

ABBILDUNG 1

50 40 30 20

45,12 36,76

10 0 Datenaustausch gegen Produkte/Dienstleistungen

Datenaustausch gegen Geld

Ergebnisse aus einem der Experimente, n=140, ähnliche Ergebnisse in Folgeexperimenten

abstimmen. Ein Experiment des Personalvermittlungsunternehmens ziprecruiter.com zeigte, dass das Unternehmen seine Gewinne um mehr als 80 % steigern konnte, wenn es von seiner historisch einheitlichen Preisgestaltung zu einer Algorithmen-basierten individualisierten Preisgestaltung überging. Dabei nutzte man mehr als hundert Eingabevariablen, anhand derer jeder Kunde charakterisiert wurde. Die Preisgestaltung von Uber verwendet Berichten zufolge maschinelles Lernen, um routen- und tageszeitabhängige Preise unter Berücksichtigung verschiedener Nachfragebedingungen festzulegen. Uber könnte leicht die Fahrtenhistorie und andere persönliche Daten der Kunden sowie durch

maschinelles Lernen extrahierte und verknüpfte Daten verschiedener Fahrer nutzen, um noch stärker personalisierte Preise abzuleiten. Während diese Möglichkeiten den Unternehmen helfen, Ziele wie Profit- und Shareholder-Value-Maximierung voranzutreiben, sollten Kunden alarmiert sein. Eine personalisierte Preisdiskriminierung kann zwar Konsumenten mit einer niedrigeren WTP zugutekommen, da diese sonst „aus dem Markt fallen“ könnten, aber in Summe werden Konsumenten mit einer höheren WTP wahrscheinlich höhere und besser an ihre WTP angepasste Preise zahlen und weniger Konsumentenrente für sich beanspruchen können.

Marketing-Automatisierung

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Automatisierung und Personalisierung können auch weniger positive wirtschaftliche und psychologische Folgen für Konsumenten haben, zum Beispiel höhere individuelle Preise und weniger Entscheidungsautonomie.

Geringe Gegenleistungen für persönliche Daten Die Informationen, die Marketingmanager benötigen, um Präferenzen und Zahlungsbereitschaften abzuleiten, stellen die Konsumenten im Regelfall gratis zur Verfügung. Könnten Zahlungen für solche Daten die Nachteile der Personalisierung ausgleichen? Unternehmen argumentieren, Konsumenten durch bessere Angebote und kostenlose Dienste wie YouTube-Videos, soziale Netzwerke usw. ohnehin bereits angemessen zu entschädigen. Kritiker argumentieren hingegen, dass die Kompensation nicht ausreichend sei. In mehreren Laborexperimenten haben wir unter Anwendung strenger Kriterien der Rational-Choice-Theorie herausgefunden, dass Konsumenten dazu neigen, ihre privaten Daten systematisch unterzubewerten, wenn sie diese – verglichen mit einem monetären Verkauf – gegen Waren oder Dienstleistungen eintauschen (siehe Box 1 und Abb. 1). Betrachten wir Google- oder Facebook-Nutzer: Sie bezahlen für die Nutzung dieser Dienste mit den privaten Daten, die die Unternehmen dabei sammeln und dann für Werbezwecke zur Gewinnerzielung nutzen. Konsumenten scheinen ihre privaten Daten in solchen nicht-monetären Tauschumgebungen nicht als vermarktbare Ressource zu betrachten, obwohl sie die Daten an gewinnorientierte Unternehmen weitergeben. Dies ermöglicht es den Unternehmen, auf Kosten der Konsumenten außerordentliche Gewinne zu erzielen und Marktmacht zu erlangen. Die beispiellosen Bewertungen der dominierenden Technologieunternehmen, die diese privaten Daten erhalten, sind wohl ein Spiegelbild dieses unausgewogenen Tauschhandels. Märkte für persönliche Daten funktionieren möglicherweise ineffizient, und zwar zu Lasten der Konsumenten. Verlust der Autonomie Die Aufgabe der eigenen Privatsphäre hat für die Konsumenten noch eine weitere unangenehme Nebenwirkung: weniger Autonomie. Als Menschen und Konsumenten legen wir Wert darauf, autonom und frei von äußeren oder aufoktroyierten Einflüssen zu entscheiden und unseren eigenen freien Willen zu äußern. Autonomie erfordert jedoch Privatsphäre. Ohne Privatsphäre werden wir berechenbar, und genau das ist natürlich das Ziel von Vorhersagealgorithmen, die dazu dienen, von Kreditausfällen

über Versicherungsansprüche bis hin zu Reaktionen auf Werbung und Kaufwahrscheinlichkeiten alles zu prognostizieren. In weiteren Experimenten stellten Rom Schrift, Yonat Zwebner und ich fest, dass sich Konsumenten dann in ihrer Autonomie bedroht fühlen und entsprechend handeln, wenn ihnen bewusst ist, dass Algorithmen ihre Entscheidungen vorhersagen können. Wenn wir Teilnehmern sagten, ein Algorithmus könne ihre Entscheidung vorhersagen, wählten sie sogar absichtlich weniger gewünschte Optionen, um ihr Autonomiebedürfnis zu befriedigen. Wenn wir den Teilnehmern hingegen sagten, der Algorithmus berechne nur, wie konsistent ihre Wahl mit ihren eigenen Präferenzen sei, wählten sie eher ihre bevorzugten Optionen. Die Akzeptanz von Prognosealgorithmen kann also durch entsprechendes Framing verbessert werden: Marketer sollten sie so gestalten, dass die Nutzer keine Einschränkung ihrer Entscheidungsautonomie empfinden. Kapitulation vor der Blackbox Ein weiteres Problem bei Entscheidungsalgorithmen ist ihr „Black-Box“-Charakter. Häufig sind die Mechanismen hinter den Algorithmen zu komplex, um „erklärbar“ zu sein, oder werden aus Wettbewerbsüberlegungen nicht transparent gemacht. Nicht zu wissen, wie und warum ein Algorithmus beispielsweise entscheidet, erwünschte Finanztransaktionen zu blockieren oder bestimmte Kreditkartenlimits zu gewähren, beunruhigt Regulierungsbehörden und verärgert Konsumenten. Die GDPR-Artikel 13 bis 15 verlangen von Unternehmen, den Kunden „aussagekräftige Informationen über die Logik“ automatisierter Entscheidungen zur Verfügung zu stellen. In einer weiteren Reihe von Experimenten stellten wir fest, dass zielbezogene Erklärungen, die Kunden darüber informieren, warum algorithmische Entscheidungen getroffen wurden, das Fehlen einer mechanischen Erklärung ausgleichen konnten. Wir zeigten in einem realen Marktumfeld, dass allein schon das Erklären der Zielsetzung eines Algorithmus für die Kunden zufriedenstellender sein kann, als ihnen ohne Zusatzinformationen ein negatives Ergebnis mitzuteilen. Das Erläutern von Zielsetzungen setzt jedoch voraus, dass die Kunden fair behandelt werden.

NIM Marketing Intelligence Review

ABBILDUNG 2

Vol. 13, No. 1, 2021

Marketing-Automatisierung

M aßnahmen zur Vermeidung dystopischer Effekte der Marketing- Automatisierung

Die komplexe Herausforderung, Marketing-Dystopien entgegenzuwirken Dystopische Effekte zu verhindern, ist häufig die Aufgabe von Regulierungsbehörden, aber es ist eine enorme Herausforderung, hier Lösungen zu finden. Deshalb sollten auch Unternehmen in diese Richtung aktiv werden und auf Bedenken der Konsumenten eingehen. Abbildung 2 und die weiteren Ausführungen geben einen Überblick über mögliche Maßnahmen. Regeln zur Stärkung des Wettbewerbs Um Kunden zu schützen und Unternehmen daran zu hindern, ihre Marktmacht zur Durchsetzung höherer Preise oder für das Sammeln von Daten ohne entsprechende Gegenleistungen auszunutzen, können Regulierungsbehörden sowohl beim Schutz der Privatsphäre der Konsumenten ansetzen als auch bei der Förderung von Wettbewerb. Ironischerweise erfordert mehr Wettbewerb, der bessere,

passgenauere Angebote zu konkurrenzfähigen, weniger diskriminierenden Preisen bringen soll, den Austausch persönlicher Konsumentendaten unter den Unternehmen. Und hier beißt sich die Katze in den Schwanz: Einerseits gilt es, die Privatsphäre der Konsumenten zu schützen, um die Möglichkeiten der Monopolbildung und Wertschöpfung aus personenbezogenen Daten für Unternehmen einzuschränken. Andererseits können Privacy-Regulierungen wie das GDPR der Europäischen Union den Wettbewerb behindern, wenn sie einen Austausch privater Daten zwischen Unternehmen unterbinden. Datenaustausch wäre aber erforderlich, was wiederum weniger Privatdatenschutz bedeuten würde. Paradoxerweise können wir womöglich nicht beides haben – Privatsphäre und Wettbewerb. Wenn wir die Privatsphäre schützen, untergraben wir den Wettbewerb. Wenn wir den Wettbewerb fördern, beeinträchtigen wir die Privatsphäre.

Wenn wir Teilnehmern sagten, ein Algorithmus könne ihre Entscheidung vorhersagen, wählten sie absichtlich weniger gewünschte Optionen, um ihr Autonomiebedürfnis zu befriedigen.

Marketing-Automatisierung

Transparenter Umgang mit Daten Angesichts der paradoxen Herausforderungen für Regulierungsbehörden sollten Unternehmen von sich aus Datenschutzprobleme aktiv angehen. Anstatt sich Verbraucher- und Regulierungsinitiativen zum Schutz der Privatsphäre und zur Limitierung der unbegrenzten Sammlung und Nutzung privater Daten entgegenzustellen, sollten Unternehmen selbst entsprechende Richtlinien festlegen, die den Konsumenten die Hoheit über ihre persönlichen Daten überlassen. Mehr Transparenz in Hinblick auf Praktiken der Datensammlung und -nutzung und mehr Kontrollmöglichkeiten können dazu beitragen, das Vertrauen der Menschen in automatisierte Marketingroutinen wiederherzustellen. Dies mag zwar die Möglichkeiten der Preisdiskriminierung einschränken, längerfristig schützt es jedoch die Marke und ihre Erträge. Positives Framing von Algorithmen Auch wenn einigen Konsumenten Algorithmen suspekt sind, können diese doch effizienter und exakter als Menschen sein und die Lebensqualität verbessern. Um das Potenzial auszuschöpfen, müssen Unternehmen auf Bedenken eingehen und Algorithmen möglichst vertrauensfördernd gestalten. Anstatt zu betonen, dass Algorithmen individuelles Verhalten vorhersagen, sollten sie als Werkzeuge präsentiert werden, die es Konsumenten erleichtern, im Einklang mit den eigenen Präferenzen zu handeln. Algorithmen transparent zu machen, kann die Skepsis weiter verringern. Wenn dies nicht möglich ist, kann man die mit KI-basierten

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Entscheidungen verbundenen Ängste reduzieren, indem man erklärt, welche Ziele die Algorithmen verfolgen. Insgesamt wäre es – zumindest längerfristig gedacht – im besten Interesse aller Marktteilnehmer, dystopische Effekte der Marketingautomatisierung möglichst zu vermeiden. Um das zu erreichen, müssen Unternehmen die Konsumentenpsychologie berücksichtigen und der Versuchung widerstehen, kurzfristige Gewinne auf Kosten der Konsumenten zu maximieren.

L I T E R AT U R H I N W E I S E André, Q.; Carmon, Z.; Wertenbroch K.; et al. (2018): “Consumer Choice and Autonomy in the Age of Artificial Intelligence and Big Data”, Consumer Needs and Solutions, Vol. 5 (1-2), 28-37. Dubé, J.-P.; & Misra, S. (2017): “Scalable Price Targeting”, NBER Working Paper 23775, http://www.nber.org/papers/w23775. Carmon, Z.; Schrift, R.; Wertenbroch, K.; & Yang, H. (2019): “Designing AI Systems That Customers Won´t Hate”, MIT Sloan Management Review, https://mitsmr.com/2qY8i35. Tomaino, G.; Abdulhalim, H.; Kireyev, P.; & Wertenbroch, K. (2020): “Denied by an (Unexplainable) Algorithm: Teleological Explanations for Algorithmic Decisions Enhance Customer Satisfaction”, INSEAD Working Paper No. 2020/39/ MKT, http://dx.doi.org/10.2139/ssrn.3683754.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Algorithmen-basierte Werbung

Algorithmen-basierte Werbung: Ungeplante Nebeneffekte und warum es nicht ganz einfach ist, negative Auswirkungen zu vermeiden Anja Lambrecht und Catherine Tucker

KEYWORDS

Algorithmen, Werbe-Auktionen, Diskriminierung, Gender-Effekte, MINT AUTORINNEN

Anja Lambrecht Professor of Marketing, London Business School, England alambrecht@london.edu

Catherine Tucker Professor of Marketing, Massachusetts Institute of Technology, Cambridge, MA, USA cetucker@mit.edu

Algorithmen sind allgegenwärtig Im digitalen Zeitalter gelten Algorithmen oft als leistungsfähige Hilfsmittel, die es Menschen und Organisationen ermöglichen, bessere Entscheidungen zu treffen und ihre Ziele effektiver zu erreichen. Dabei geht man gern davon aus, dass Algorithmen rein faktenbasiert funktionieren und unverfälschte und objektive Ergebnisse liefern. Es gibt jedoch immer mehr Hinweise darauf, dass auch Algorithmen – ähnlich wie wir Menschen – zu Diskriminierung neigen können. Beispielsweise musste Amazon Pläne für die Einführung eines KI-gesteuerten automatisierten Rekrutierungsinstruments aufgeben, weil sich das System als diskriminierend gegenüber Bewerberinnen erwies und männliche Bewerber bevorzugte. Auch Algorithmen, die Apple bei der Einführung eigener Kreditkarten zum Einsatz brachte, lösten im Jahr 2019 Untersuchungen von Regulierungsbehörden aus. Das System hatte Männern viel höhere Kreditlimits angeboten als Frauen, selbst im Fall von verheirateten Paaren, die sich ihre Bankkonten teilten. Verzerrungseffekte in der automatisierten Werbung Scheinbar diskriminierende Algorithmen findet man auch in der Werbung. Eine aufschlussreiche Studie der Informatik-Professorin Latanya Sweeney fokussierte auf Google- Search-Ads. Sie suchte nach gebräuchlichen afro-amerikanischen Namen und dokumentierte die Suchwerbung, die zusammen mit den organischen Suchergebnissen gezeigt wurde. Gleichzeitig suchte sie nach Namen, die unter Weißen geläufiger sind. Bei der Suche nach „schwarz klingenden“ Namen wurden häufiger Anzeigen gezeigt, in denen Services für die Recherche zu Haftstrafen angeboten wurden. Darüber hinaus gibt es Untersuchungen, die geschlechtsspezifische Ungleichbehandlung dokumentieren.

Algorithmen-basierte Werbung

Vol. 13, No. 1, 2021

Auch Algorithmen können diskriminieren, und das zu vermeiden ist oft schwieriger, als man meinen möchte.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Algorithmen-basierte Werbung

B OX 1

Sind Algorithmen für den Gender-Gap bei MINT-Karrieren verantwortlich? Weltweit besteht ein chronischer Mangel an Absolventinnen in den Natur- und Ingenieurwissenschaften. In den USA findet sich unter sieben Ingenieuren durchschnittlich nur eine Frau und in Großbritannien sinkt der Anteil weiblicher MINT-Beschäftigter gar auf magere 6°%. Sowohl politische Entscheidungsträger als auch Unternehmen beurteilen diesen Mangel als äußerst besorgniserregend. Gemäß einer unserer Thesen könnten die Gründe für das Problem des Frauenmangels unter anderem darin zu suchen sein, dass Informationen über Chancen im MINT-Bereich bei Frauen seltener ankommen. Deshalb haben wir untersucht, ob man Männer und Frauen mit Werbung für MINT-Karrieren ähnlich gut erreichen kann. In unserer Feldstudie beauftragten wir in 191 Ländern Werbeanzeigen bei Facebook, die über Karrierechancen im MINT-Bereich informierten. Die Anzeigen waren an Männer und Frauen im Alter von 18 bis 65 Jahren gerichtet und bewusst nicht weiter demographisch eingegrenzt (siehe Abb. 1).

ABBILDUNG 1

eispielshafte Werbung für MINT- (engl. STEM-) Karrieren und die – B überall gleichen – länderspezifischen Ad-Targeting Einstellungen Location People who live

in this location

United States

Age

18 +

Gender All Men Women STEM careers – information about STEM careers

Anschließend analysierten wir die von Facebook an die Auftraggeber der Werbung gemeldeten Daten. Wir stellten fest, dass über alle Einzelkampagnen hinweg 20 % mehr Männer als Frauen die Werbung sahen und insbesondere bei Frauen im Alter von 25 bis 34 Jahren die MINT-Werbung um 40 % seltener angezeigt wurde als bei gleichaltrigen männlichen Kollegen.

In einer eigenen Studie zur Online-Werbung haben wir solche Effekte im Kontext von MINT-Karrieren (Mathematik, Informatik, Naturwissenschaft und Technik) untersucht. Wir haben analysiert, inwieweit Internet- und Social-MediaAlgorithmen dazu führen, dass Werbeinhalte von Männern und Frauen unterschiedlich häufig gesehen werden, und was mögliche Gründe dafür sein könnten. Unsere Ergebnisse weisen darauf hin, dass Werbealgorithmen zwar nicht geschlechtsspezifisch agieren, dass aber wirtschaftliche Einflussfaktoren zu unbeabsichtigten unausgewogenen Ergebnissen führen können.

Ursachenforschung: Warum sehen junge Frauen die MINT-Werbung seltener? Dass Frauen die Anzeige so viel seltener sahen, war überraschend, da kein Merkmal der Kampagne eine Ungleichverteilung spezifiziert hatte. Wir machten uns daher auf die Suche nach möglichen Ursachen. Als Erstes fragten wir uns, ob der Algorithmus auf das Verhalten von Frauen reagiert haben könnte, falls diese die Anzeigen weniger oft angeklickt haben sollten als Männer. Wenn dem so wäre, könnte der Werbealgorithmus gelernt haben, dass die Schaltung bei Männern ökonomisch sinnvol-

Algorithmen-basierte Werbung

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

B OX 2

Werbeauktionen auf Facebook und anderen Plattformen Facebook und andere Werbeplattformen entscheiden im Rahmen eines ausgeklügelten Auktionsverfahrens, welche Werbung im Newsfeed eines Nutzers erscheint. Werbetreibende konkurrieren durch „Gebote“ darum, bei gleichen Zielgruppen jeweils ihre eigenen Inhalte zu platzieren. Das Gebot stellt den Geldbetrag dar, den Werbetreibende zu zahlen bereit sind, wenn die Anzeige im Newsfeed des Nutzers erscheint und er oder sie diese anklickt. Wenn ein Nutzer eine Seite lädt, führt Facebook im Hintergrund eine automatisierte Echtzeit-Auktion durch, um anhand von Daten zur Qualität und Relevanz der Anzeige sowie den Klick- bzw. Kaufwahrscheinlichkeiten des Nutzers zu bestimmen, welche Werbung zu welchem Preis angezeigt wird (siehe Abbildung 2). Wer sicher gehen will, dass seine Werbung zum Zug kommt, muss höher bieten. Und wenn sich Werbetreibende gute Chancen ausrechnen, einen Nutzer durch die Anzeige zum Kauf des beworbenen Produkts zu bewegen, werden sie für das entsprechende Benutzersegment vermutlich noch höher bieten. Andererseits werden Werbetreibende bei Nutzern, bei denen nur geringes Kaufinteresse vermutet wird, gar nicht werben wollen. Das Interesse der Werbetreibenden variiert also je nach Kundengruppe und führt dazu, dass der Preis für eine Anzeige bei verschiedenen Konsumenten oder Kundensegmenten ebenfalls stark variiert. Viele Statistiken belegen, dass Frauen bei vielen Warengruppen einschließlich technischer Produkte öfter auf Anzeigen klicken und auch öfter kaufen. Andere Untersuchungen zeigen, dass Frauen generell für bis zu 90 % aller Konsumeinkäufe verantwortlich sind. Daher ist die Schaltung von Werbung für Frauen teurer als für Männer. Diese Tatsache berücksichtigt auch Facebook in seinen Empfehlungen an Werbetreibende. Wenn man verschiedene Geschlechts- und Alterssegmente ansprechen will, sollten für eine weibliche Zielgruppe höhere Gebote abgegeben werden: Die Werbeplattform empfiehlt Werbetreibenden, für Werbung bei Frauen durchschnittlich 0,05 Dollar mehr pro Anzeige zu bieten als bei Männern.

ABBILDUNG 2

F unktionsweise automatisierter Echtzeit-Auktionen auf Facebook und anderen Plattformen

Preis der Werbung

Gebote der Werbetreibenden

Erwartete Klicks und Kaufraten

Weitere Daten zur Qualität und Relevanz der Werbung

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Algorithmen-basierte Werbung

Dass Frauen die Anzeige so viel seltener sahen, war überraschend, da kein Merkmal der Kampagne eine Ungleichverteilung spezifiziert hatte.

ler ist. Es stellte sich jedoch heraus, dass Frauen die Werbung eher häufiger anklickten als Männer. Dieser Grund für die ungleich verteilte Schaltung der Werbung fällt also weg. Als Zweites untersuchten wir, ob der Algorithmus auf mögliche Unterschiede in der Grundgesamtheit reagiert haben könnte – vielleicht gibt es auf Facebook insgesamt zu wenig aktive Frauen. Auch hier fanden wir allerdings keine Erklärung, da Frauen in sozialen Medien ähnlich aktiv sind wie Männer. Als dritten Punkt analysierten wir, ob der Algorithmus vielleicht grundsätzliche, länderspezifische Diskriminierungstendenzen gegenüber Frauen widerspiegeln könnte. Daten der Weltbank zeigten jedoch keinen Zusammenhang zwischen den Bildungs- und Arbeitsmarktchancen von Frauen und der Einblendung der MINT-Werbung. Zuletzt wandten wir uns der Frage zu, ob das Ungleichgewicht bei der Schaltung von MINT-Anzeigen zwischen den Geschlechtern durch ökonomische Mechanismen verursacht

sein könnte. Tatsächlich fanden wir in der Art und Weise, wie Werbeauktionen auf Facebook und anderen Plattformen funktionieren, einen Erklärungsansatz für die Ungleichbehandlung (siehe Box 2). Ökonomische Mechanismen: Die Aktionen anderer Werbetreibender beeinflussen die Wirksamkeit der eigenen Kampagne Höhere Gebote konkurrierender Werbetreibender haben zur Folge, dass Anzeigen ohne preisliche Unterscheidungen für verschiedene Geschlechter öfter von männlichen als von weiblichen Nutzern gesehen werden, und genau das war bei der Kampagne für MINT-Karrieren der Fall. Der Algorithmus selbst ist zwar nicht-diskriminierend, aber Nebeneffekte aus anderen Branchen bewirken, dass bestimmte Segmente leichter erreicht werden können als andere. Der höhere Preis für Werbung bei Frauen ergibt sich daraus, dass Frauen insgesamt, und noch verstärkt im Alter von 25 bis 34 Jahren, öfter als andere Gruppen auf gezeigte Werbung durch tatsächliche Käufe reagieren. Dies wiederum bedeutet, dass es für Werbetreibende mit einer geschlechtsneutralen Strategie schwieriger ist, Frauen zu erreichen.

Algorithmen-basierte Werbung

Ökonomische Einflussfaktoren führen zu niedrigeren Werbepreisen bei Männern und begünstigen überdurchschnittlich häufige Anzeigen in dieser Gruppe, auch wenn das nicht so geplant war. Tückischen Algorithmen entgegenzuwirken, ist eine schwierige Herausforderung Lösungen für diese Art von Problemen sind nicht so leicht umsetzbar. Erstens geht es um unbeabsichtigte Wechselwirkungen der Aktionen von verschiedenen und unabhängigen Marktteilnehmern mit jeweils eigenen Werbestrategien. Zweitens gibt es auch in den Arbeitsgesetzen der meisten Länder noch keine Lösung dafür, wie sich insbesondere geschlechtsspezifisches Targeting mit bestehenden Antidiskriminierungsgesetzen vereinbaren lässt. Einige der scheinbar einfachen Lösungen können deshalb derzeit nicht funktionieren. Getrennte Kampagnen? Auf den ersten Blick könnte eine mögliche Lösung in getrennten Kampagnen für Männer und Frauen liegen. Damit könnte man sicherstellen, dass die beiden demographischen Gruppen gleichermaßen angesprochen werden. Testweise konzipierten wir eine Kampagne, die genau dies tun würde. Facebook hinderte uns jedoch daran, diese Kampagne zu starten. Der Grund dafür lag in einem amerikanischen Bundesgesetz, das es Unternehmen verbietet, Stellenangebote geschlechtsspezifisch auszuschreiben. Ironischerweise unterbindet damit ein Gesetz, das Diskriminierung verhindern soll, eine ziemlich einfache Möglichkeit, ungeplant auftretende Diskriminierung zu korrigieren, und erschwert es Auftraggebern, hier gegenzusteuern. Transparenz? Als weiteres beliebtes Heilmittel gegen Fälle von offensichtlicher Diskriminierung gelten transparente Algorithmen, deren Codes offengelegt werden. Transparenz kann einer Diskriminierung dann entgegenwirken, wenn diese in den Code einprogrammiert ist. Im Kontext unserer MINT-Kampagne hätte ein Offenlegen

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

der Codes den Regulierungsbehörden jedoch wohl nicht geholfen, die unausgewogenen Ergebnisse vorherzusehen. Eine Prüfung hätte vermutlich gezeigt, dass der Algorithmus auf eine Minimierung der Werbekosten für die Werbetreibenden ausgerichtet ist, was ja an sich vernünftig ist. Ohne entsprechendes Wissen über den wirtschaftlichen Kontext und darüber, wie sich eine solche Kostenminimierung auf die Verteilung der Werbung bei unterschiedlichen Kundensegmenten auswirken könnte, wäre Transparenz also nicht wirklich hilfreich gewesen. Gleiche Verteilung von Werbung über Gruppen hinweg? Weder die Transparenz von Algorithmen noch die Genderneutralität einer Kampagne reichen demnach aus, um ungünstige Gender-Effekte zu verhindern. Die Probleme im beschriebenen Spannungsfeld zeigen, dass neue und zusätzliche Regelungen gebraucht werden. Denkbar wäre es beispielsweise, dass Plattformen Werbetreibenden für eine bestimmte Kampagne die Option bieten, Anzeigen gleichmäßig auf bestimmte demographische Gruppen zu verteilen. Politische Entscheidungsträger sollten wachsam sein Politische Entscheidungsträger und Plattformen sollten die Erkenntnisse aus unserer Forschung ernst nehmen, da die zielgenaue Informationsverbreitung wichtig sein kann, um gleiche Zugangschancen zu gewährleisten. Der primäre Verteilungsmechanismus für Werbebotschaften richtet sich nicht nach der Erwünschtheit der Informationsverbreitung, sondern nach der Rentabilität der Werbeausgaben über alle Branchen. Die Werbemittel, die im Einzelhandelssektor für Haushaltsprodukte eingesetzt werden, können sich auf die Kommunikationsmöglichkeiten und -kosten von Sektoren auswirken, die Karrierechancen oder Ausbildungsoptionen anbieten. Die Kommunikationskosten für Gruppen, bei denen politische Entscheidungsträger einen besonders hohen Informationsbedarf sehen – in unserer Studie Frauen im Vergleich zu Männern – könnten höher ausfallen.

Weder die Transparenz von Algorithmen noch die Genderneutralität einer Kampagne reichen aus, um ungünstige Gender-Effekte zu verhindern.

L I T E R AT U R H I N W E I S E Lambrecht, A.; & Tucker, C. (2019): “Algorithmic Bias? An Empirical Study of Apparent Gender-Based Discrimination in the Display of STEM Career Ads”, Management Science, Vol. 65(7), 2966-2981. https://doi.org/10.1287/mnsc.2018.3093 Sweeney, L. (2013): “Discrimination in online ad delivery”, ACM Queue, Vol. 11(3), 10:10–10:29.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Falsche Kennzahlen sind gefährlich

Manager sollten laufend weitere Datenquellen prüfen, auch wenn vorliegende Daten Vermutungen oder aktuelle Strategien bestätigen.

Falsche Kennzahlen sind gefährlich

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Falsche Kennzahlen sind gefährlich: Was Manager von der US-Präsidentschaftswahl 2016 lernen können Raoul Kübler und Koen Pauwels

KEYWORDS

Kennzahlen, Dashboards, Entscheidungsfindung, Umfragen, Prognosemodelle, benutzergenerierte Daten AUTOREN

Raoul Kübler Juniorprofessor für Marketing, Marketing Center Münster, Deutschland raoul.kuebler@uni-muenster.de

Koen Pauwels Distinguished Professor of Marketing, Northeastern University Boston, MA, USA k.pauwels@northeastern.edu

Das Datenzeitalter – Fluch oder Segen? Im letzten Jahrzehnt ist die Menge an verfügbaren Daten regelrecht explodiert. Heute produziert die Menschheit täglich mehr Daten als in den vergangenen 20.000 Jahren zusammengenommen. Trotz dieser enormen Fülle an Daten ist nicht die Menge entscheidend, sondern das, was man daraus macht. Marketingfachleute nehmen oft bereits verfügbare Daten als Ausgangspunkt für ihre Überlegungen. Besser wäre es jedoch, zunächst mit den richtigen Fragen zu beginnen und dann erst in die Datenwelt einzutauchen: Wie finden wir adäquate Antworten, welche Art von Daten benötigen wir dazu, woher bekommen wir diese Daten und wie greifen wir auf diese zu, wie verarbeiten und kombinieren wir sie mit bereits vorhandenen Erkenntnissen? Dies führt zu weiteren wichtigen Fragen wie: „Welche Quelle ist zuverlässig?“ oder „Welche Daten liefern wertvollere Informationen?“ Wichtig zu erkennen ist auch, dass ein Analysethema nicht abgehakt werden kann, sobald eine Datenquelle die eigenen Annahmen oder die verfolgte Strategie bestätigt. Prüfen Sie immer auch alternative Datenquellen, um abzusichern, dass Ihre Schlussfolgerungen gültig sind! Unsere Analyse der USPräsidentschaftswahl des Jahres 2016 zeigt, was passieren kann, wenn man das verabsäumt. Lassen Sie die Wähler sprechen – die Macht alternativer Datenquellen Hätten es die Wahlkampfmanager damals besser wissen können? Angesichts der Tatsache, dass Kampagnenmanager – ebenso wie Marketingmanager – ihre Entscheidungen oft auf der Basis weniger Kennzahlen treffen, ist es von entscheidender Bedeutung, dass diese Kennzahlen stimmen und aus den richtigen Umfragen kommen. Zusätzlich wäre ein Blick auf alternative Datenquellen und Variablen sinnvoll, die – ebenso wie Umfragen – das Engagement und die Präferenzen der Wähler zeigen. In der politischen Arena sind auch Spenden, Medienberichte sowie Anzahl, Engage-

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Falsche Kennzahlen sind gefährlich

B OX 1

Lehren aus der US-Präsidentschaftswahl 2016: Ein Vorsprung bei Umfragen kann trügerisch sein Erinnern Sie sich noch an den 9. November 2016, als Sie unmittelbar nach dem Erwachen die „Überraschung“ ereilte, dass Donald Trump der 45. US-Präsident werden würde? Fast alle Umfragen hatten Hillary Clinton während des gesamten Wahlkampfs eine komfortable Führung attestiert. Die Kampagnenleiter der beiden Teams hatten beinahe 100 verschiedene Umfragen zur Auswahl und 80% davon sagten einen deutlichen Sieg von Clinton voraus. Abbildung 1 zeigt die über alle öffentlich zugänglichen, traditionellen Umfragen gemittelten Zustimmungswerte in den Monaten vor der Wahl. ABBILDUNG 1

Zusammenfassung der traditionellen Umfragen

Anteil der Wähler

47,5 45,0 42,5

Clinton Trump

40,0

Aug Sep Okt Nov Datum

Traditionelle Umfragen für Trump und Clinton von Polltracker

Im Gegensatz dazu zeigt Abbildung 2 die Ergebnisse der probabilistischen Umfrage der University of Southern California (USC), die sowohl ein knappes Rennen zeigten – ersichtlich am weiß dargestellten Konfidenzintervall, innerhalb dessen sich das Rennen großteils abspielte – als auch eine Führung von Trump über weite Teile des Wahlkampfzeitraums einschließlich der letzten Wochen. Ein wesentlicher Unterschied zwischen der USC-Umfrage und den meisten anderen bestand darin, dass die Teilnehmer nicht nur nach ihrem Favoriten gefragt wurden, sondern auch nach der Wahrscheinlichkeit, mit der sie zur Wahl gehen würden. Durch diese Gewichtung wurden die Informationen reichhaltiger und lieferten ein genaueres Bild der Auswirkungen wichtiger Ereignisse. Zum Beispiel, und in der Grafik deutlich sichtbar, gaben viele Wähler mit Clinton-Tendenz eine geringere Wahrscheinlichkeit an, zur Wahl zu gehen, nachdem ein Video Clintons an die Öffentlichkeit gelangte, in dem sie Trump-Anhänger als „Basket of Deplorables“ (dt. etwa „eine Ansammlung bedauernswerter Gestalten“) bezeichnete (12. Sept.), und nachdem FBI-Direktor Comey einen Brief über die FBI-Untersuchungen von Clintons E-Mails an den Kongress geschickt hatte (28. Okt.). Aber Moment mal, Clinton hatte ja letztlich wirklich mehr Stimmen als Trump und gewann die Popular Vote. Ja, und Abbildung 2 zeigt auch tatsächlich eine Aufholjagd Clintons in den letzten Tagen, zurück in die Zone des Konfidenzintervalls. Dieses Band, das von den meisten Meinungsforschungsinstituten nicht angegeben wird, zeigt, wie knapp das Rennen wirklich war. Dabei könnte eine solche Darstellung übertriebenen Optimismus verhindern.

ABBILDUNG 2

Werte der probabilistischen Umfragen

48 46 Anteil der Wähler

44 42 40

Clinton Trump

38 Aug Sep Okt Nov Datum

Wahrscheinlichkeitsgewichtete Umfragen der USC – 95% Konfidenzintervall in weiß

Falsche Kennzahlen sind gefährlich

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Einer einzigen „Wunderkennzahl“ zu vertrauen, führt nicht nur zu Überraschungen, sondern kann auch falsche Entscheidungen nach sich ziehen.

ment und Stimmungslage der Follower gute Indikatoren für die Chancen der Kandidaten. Die meisten dieser Variablen sind sogar kostenlos verfügbar und können leicht „geerntet“ werden. Während die meisten traditionellen Umfragen ein zu optimistisches Bild für Hillary Clinton zeichneten, lieferte der Großteil der nutzergenerierten Daten deutliche Hinweise, dass der prognostizierte Erdrutschsieg der demokratischen Kandidatin in Gefahr war. Einzig die gesammelten Wahlkampfspenden könnten die Wahlkampfmanager der Demokraten noch getröstet haben, konnte doch Clinton während des gesamten Wahlkampfes viel mehr Spenden sammeln als ihr Rivale. Die mediale Berichterstattung in den vier Monaten vor der Wahl zeigte jedoch ein anderes Bild. Um diese auszuwerten, führten wir Text-Mining und eine Themenanalyse der Tweets der wichtigsten 56 US-Nachrichtensender durch. Diese Daten zeigen deutlich, dass Trump die Medien dominierte und auch von Medien der Mitte und links der Mitte viel

ABBILDUNG 3

kostenlose Publicity erhielt. Außerdem konzentrierten sich die linken und linksgerichteten Medien mehr auf die innerparteiliche Rivalität zwischen Clinton und Sanders, während die rechten und rechtsgerichteten Medien mehr über Trumps Stärken und die Schwächen seiner demokratischen Gegnerin berichteten. Die sozialen Medien lieferten ein noch deutlicheres Bild: Während des gesamten Wahlkampfs hatte Trump wesentlich mehr Follower und deutlichere Followerzuwächse als Clinton – ein Indikator dafür, dass die Trump-Kampagne mehr Schwungkraft hatte, als es die traditionellen Umfragen vermuten ließen (Abb. 4).

A lternative Datenquellen und Variablen zur Steigerung der Validität von Kennzahlen

Spenden

Presseberichte

Social Media Follower

Höhere Validität der Ergebnisse

Individuelles Engagement und Stimmungslage

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Falsche Kennzahlen sind gefährlich

Wenn man verschiedene Daten zu einer ähnlichen Frage stellung kombiniert, kann man Ergebnisse besser erklären und mit geeigneten Maßnahmen in die gewünschte Richtung lenken.

können. Einer einzigen „Wunderkennzahl“ zu vertrauen, führt nicht nur zu Überraschungen, sondern kann auch falsche Entscheidungen nach sich ziehen. Ökonometrische Modelle mit unterschiedlichen Variablen können helfen, ein komplexes Geflecht an dynamischen Interaktionen zu entwirren und sowohl unmittelbare als auch zeitlich verzögerte Auswirkungen von Marketing- (oder politischen) Ereignissen sichtbar zu machen. Unser Modell für die Wahl 2016 erwies sich als geeignet, die Auswirkungen von externen Ereignissen, nutzergenerierten Inhalten, Wahlkampfaktivitäten und Medienberichten für beide Kandidaten deutlich aufzuzeigen und damit die Lücke in den Umfragewerten zu verschiedenen Zeitpunkten gut zu erklären. Lassen Sie sich von Daten nicht aufs Glatteis führen – Lektionen für Marketingmanager Bewerten Sie Zahlen und Prognosen mit einem kritischen Blick Marketingmanager können aus den Wahlen 2016 lernen, dass Zahlen und Prognosen so kritisch wie möglich zu hinterfragen sind. Daher empfehlen wir eine gesunde Dosis an Skepsis gegenüber allen Erkenntnissen, die Ihnen präsentiert werden. Da heutzutage Daten meist in Hülle und Fülle vorhanden sind, kann man alternative Datenquellen nutzen, um bestehende Erkenntnisse zu verifizieren und deren Validität sicherzustellen. Wenn man verschiedene Daten zu einer ähnlichen Fragestellung kombiniert – in unserem Szenario Daten zur Wählerpräferenz –, kann man Ergebnisse besser vorhersagen, erklären und mit geeigneten Maßnahmen in die gewünschte Richtung lenken. Wie in unserem Beispiel der Präsidentschaftswahlen können solche Daten direkt online von Nutzern gewonnen werden – z. B. in Social-MediaPosts und -Kommentaren oder in Kundenbewertungen auf Online-Plattformen oder auch aus anderen Quellen wie z. B. statistischen Datenbanken.

Eine Analyse der von den Nutzern der Social-Media-Seiten beider Kandidaten geposteten Themen und Kommentare zeigt, dass die Pro-Trump-Meldungen in der Überzahl waren. Und nicht nur die Stimmungslage war besser für Trump, auch die Menge an gegen Hillary Clinton gerichteten Fake News war auf beiden Kandidatenseiten gleich hoch. Wer sich von falschen Zahlen blenden lässt, gefährdet fundierte Entscheidungen Die Validierung eines Gesamtbildes durch alternative Datenquellen ist nicht nur in der Politik hilfreich. Die neueste Marketingforschung zeigt, dass Kennzahlen zum Online-Konsumentenverhalten traditionelle Funnel Metrics bereichern und manchmal sogar ersetzen

Nutzen Sie Erkenntnisse der Marketingtheorie, um verdächtige oder widersprüchliche „Datenbeweise“ zu entkräften Eine weitere Herausforderung entsteht, wenn die gesammelten Daten kein stimmiges Bild ergeben. In diesem Fall ist das Management in der Verantwortung, ein Expertenurteil abzugeben. Als Erstes erfolgt immer eine subjektive Prüfung (Face Validity) auf Plausibilität der Ergebnisse. Ist beispielsweise das Vorzeichen des vermuteten Zusammenhangs realistisch? Als Menschen haben wir die unschlagbare Fähigkeit, viele verschiedene Signale zu einer Gesamteinschätzung zu integrieren: von Anekdoten und Gefühlen bis hin zu aktuellen Daten und der Interpretation vergangener Ereignisse. Während eine ökonometrische Analyse in der Regel besser geeignet ist, um die Stärke und Dauer eines Effekts zu beurteilen, können Manager meist gut einschätzen, ob sich ein Effekt positiv oder negativ auswirken sollte. In vielen Fällen

Falsche Kennzahlen sind gefährlich

ABBILDUNG 4

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Anzahl der Facebook-Anhänger von Hillary Clinton und Donald Trump

Millionen Anhänger

Facebook Anhänger Clinton Facebook Anhänger Trump

2 Aug Sep Okt Nov Datum

sind dabei grundlegende Marketingtheorien hilfreich. Wenn man z. B. feststellt, dass sich bestimmte Marketingkennzahlen verbessern, wenn man den Preis erhöht, könnte man eventuell skeptisch werden und prüfen, ob man richtig misst. Ebenso können einfache Korrelationsanalysen das Verständnis für das Zusammenwirken von Variablen verbessern. Auch hier kann eine erste subjektive Einschätzung helfen, verdächtige, der Marketingtheorie oder den eigenen Erfahrungen widersprechende Effekte herauszufiltern. Nutzen Sie Dashboards, die auf ökonometrischen Modellen basieren Zu guter Letzt empfehlen wir Entscheidungsträgern noch, unternehmens- oder markenspezifische Dashboards zu entwickeln, die auf ökonometrischen Modellen basieren. Etablierte Verfahren und ökonometrische Methoden wie z. B. vektorautoregressive Modelle helfen Managern dabei, wichtige Leistungsvariablen zu identifizieren und in ihrer Entwicklung zu verfolgen. Sie unterstützen darüber hinaus auch die Beurteilung von Datenquellen, wie Pauwels in seinem 2014 erschienenen Buch „It’s not the size of your data, but what you do with it“ vorschlägt: Durch welche Daten bekomme ich als Entscheidungsträger tatsächlich aussagekräftige Informationen auf meinen Tisch? Ansätze zur kontinuierlichen Prüfung der Datenumgebung eines Unternehmens und zur Kontrolle der Zuverlässigkeit

und Werthaltigkeit der verfügbaren Daten für die Entscheidungsfindung helfen Managern bei der Orientierung in der Fülle der verfügbaren Daten und verhindern, dass sie vor lauter Bäumen den Wald nicht mehr sehen. Oder anders ausgedrückt: Lassen Sie sich nicht auf die dunkle Seite der Entscheidungsfindung locken, sondern werfen Sie Licht auf Ihre Daten und beurteilen Sie deren Nutzen kritisch. Sie werden sehen, dann wird Ihr Marketing great again! Aber wirklich!

L I T E R AT U R H I N W E I S E Kübler, R. V.; Colicev, A.; & Pauwels, K. H. (2020): “Social Media’s Impact on the Consumer Mindset: When to Use Which Sentiment Extraction Tool”, Journal of Interactive Marketing, Vol. 50, 136-155. Kübler, R.; Pauwels, K.; & Manke, K. (2020): “How Social Media drove the 2016 US Presidential Election: a longitudinal topic and platform analysis”. https://papers.ssrn.com/sol3/papers.cfm?abstract_ id=3661846 Pauwels, K. (2014): It’s Not the Size of the Data – it’s how You Use it: Smarter Marketing with Analytics and Dashboards. Amacom.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Hyper-Privatsphäre

Marketingmanager müssen vertrauensvolle Beziehungen aufbauen, im Rahmen derer Kunden sich freiwillig für weniger Privatsphäre entscheiden.

Hyper-Privatsphäre

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Geister im Dunkeln: Marketingkonzepte unter hohen Datenschutzerfordernissen Felipe Thomaz

KEYWORDS

Dark Web, Datenschutz, Personalisierung, Hyper-Privacy AUTOR

Felipe Thomaz Associate Professor of Marketing, Saïd Business School, University of Oxford, England Felipe.Thomaz@sbs.ox.ac.uk

Eine im Dunkeln verborgene digitale Spielwiese Das Internet ist ein dynamisches, komplexes und sich schnell entwickelndes Umfeld. Mit dem Kommen und Gehen unterschiedlichster Geschäftsmodelle kann man Vermögen machen, es aber auch verlieren. Die Komplexität steigt zusätzlich, wenn man tiefer gräbt. Abgesehen vom sogenannten Surface Web, das die meisten von uns täglich nutzen, gibt es nämlich eine weitere, verborgene Schicht, die als Darknet oder Dark Web bezeichnet wird. Hier sind die Websites nicht indiziert, der Zugang ist nur über den Spezialbrowser Tor möglich, und die Kommunikation läuft normalerweise verschlüsselt ab. Jeder Aspekt des Darknets ist darauf ausgelegt, seinen Benutzern Privatsphäre zu bieten. Wenn Sie schon einmal vom Darknet gehört haben, dann vermutlich im Zusammenhang mit dort operierenden illegalen Unternehmen. Das Darknet ist die Heimat von Hackern, Drogendealern, Datenmaklern und Menschenhändlern. Es dient aber auch als sicherer Hafen für Informanten, Aktivisten und Journalisten sowie für Bürger aus Ländern, in denen die Kommunikation eingeschränkt oder überwacht wird. Insgesamt ist es ein Ort, der für Personen geschaffen wurde, die ein hohes Interesse daran haben, digital unsichtbar zu sein. Das Darknet – ein Eldorado für Privatsphäre Das Darknet hat jedoch auch seine hellen Seiten, denn man kann es als unreguliertes Testumfeld für Technologien nutzen, die wir später auch an der Oberfläche erleben: WhatsApp bietet beispielsweise eine ähnlich verschlüsselte End-to-End-Kommunikation, und auch die Nutzer des normalen Web sammeln bereits Erfahrungen mit Bitcoin, während sich im Darknet über Bitcoin und andere Kryptowährungen eine Schattenwirtschaft etabliert hat, die sogar das Bruttoinlandsprodukt von Peru übertrifft. Deshalb bietet dieser Ort eine gute Gelegenheit, Konsumenten zu beobachten, die keine Daten preisgeben, und eine Vorstellung davon zu bekommen, wie das Surface Web unter extremen Datenschutzerfordernissen aussehen könnte. Das Ausmaß an Schutz der Privatsphäre ist erstaunlich. Als ich meinen eigenen digitalen Fußabdruck im Surface Web untersuchte, fand ich bei unterschiedlichen

NIM Marketing Intelligence Review

ABBILDUNG 1

Vol. 13, No. 1, 2021

Hyper-Privatsphäre

M arketingoptionen für „Geister“ und „Selbstdarsteller“ Geister

Konsumenten, die generell den Zugang zu ihren persönlichen digitalen Informationen verweigern. Explizite Datenerhebung auf Erlaubnis Transparenz Anonymisierte Gesamtprofile Massen-Personalisierung

Selbstdarsteller Konsumenten, die ihre digitale Identität offenlegen und zulassen, dass Informationen wie Kauf- und Suchverlaufshistorien aufgezeichnet, genutzt und weitergegeben werden können. Ähnlich wie die heutigen digitalen Konsumenten Implizite Datenerfassung wie Tracking Hyper-individualisierte Profile Hyper-Personalisierung

Daten-Aggregatoren beinahe 5000 dokumentierte Variablen, die von absurden Vermutungen bis hin zu seltsamen spezifischen Details reichten, die sich über das letzte Jahrzehnt angesammelt hatten. Demgegenüber hatte der durchschnittliche „durchgängige“ Dark-Web-Benutzer – einer, der beschließt, die gleiche Identität für mehr als einen einzigen Nutzungsfall zu behalten – ganze acht Datenpunkte. Die meisten verzichten im Dark Web jedoch auf ein durchgängiges persönliches Branding und erreichen dadurch, dass ihre Existenz keinerlei Spuren hinterlässt und sie tatsächlich unsichtbar werden – Geister quasi. Die Privatsphäre des Dark Web – ein Albtraum für Marketer Diese Realität sollte jeden aufrütteln, der sich auf die moderne Marketingmaschinerie verlässt, um Wachstum zu erzielen und Wettbewerbsvorteile zu nutzen, da die traditionellen Vermarktungskonzepte alle auf Informationsfülle aufbauen. Lookalike Matching, Collaborative Filtering, Precision Targeting, Zielgruppensteuerung; all das wird unmöglich, wenn Konsumenten zu Geistern werden. Selbst unsere besten Kunden werden sich nicht mehr von Unbekannten unterscheiden lassen, außer sie entscheiden sich für die Preisgabe ihrer Identität, indem sie sich z. B. einloggen oder ihren Namen eingeben. In einer solchen Welt müssten Marketingmanager auf Taktiken aus der Marketing-Frühzeit zurückgreifen, die auf Bevölkerungsdurchschnittswerten basieren, und sie könnten bestenfalls ungestützte Techniken des maschinellen Lernens, wie z. B. Clustering einsetzen.

Das „Privacy-Kalkül“: Geist oder Selbstdarsteller? Aber keine Angst – so schlimm wird es nicht kommen. Nicht jeder wird zum Geist werden, sondern nur diejenigen, die sich aktiv für „Ghosting“ entscheiden. Diese Wahl zwischen Privatsphäre und Offenlegung der eigenen Daten wird als „Privacy-Kalkül“ bezeichnet. Wenn es Vertrauen und faire Gegenleistungen für persönliche Daten gibt, werden einige Konsumenten vermutlich auch weiterhin bereit sein, ihre Daten zu teilen, und nicht für „Hyper-Privacy“ optieren. So könnten Unternehmen immer noch einen guten Überblick über deren Verhalten und Präferenzen behalten. Wir nennen solche Kunden „Selbstdarsteller“ (siehe Abb. 1). Für diese Selbstdarsteller werden Marketingexperten das gesamte moderne Angebot an Marketing- und Vorhersageanalysen weiterhin nutzen können und, sofern sie ihre Arbeit gut machen, eine höhere Rentabilität und stärkere Kundenbindung sicherstellen. Wie man Verbraucher dazu motiviert, vom Geist zum Selbstdarsteller zu werden Um zu erklären, wie man Konsumenten davon überzeugen kann, mit ihren persönlichen Daten großzügiger umzugehen, verwende ich gerne eine Analogie und eine einfache Übung: Stellen Sie sich zunächst Ihren idealen Liebhaber oder Partner vor. Diese Person kennt Sie in- und auswendig. Irgendwie sagt sie immer das Richtige und ahnt genau, was Sie brauchen und wann Sie es brauchen. Diese Verhaltensweisen sind typisch für eine angenehme Art von Beziehung. Nun überlegen Sie, wie es auch

Hyper-Privatsphäre

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

B OX 1

Sanfte Hyper-Personalisierung: Verhalten Sie sich wie ein fürsorglicher Partner und nicht wie ein Stalker Wenn Sie ein Schuhgeschäft führen, erwarten sich ihre Kunden ganz selbstverständlich, dass Sie sich an ihre Schuhgröße sowie Farb-, Marken- und Designerpräferenzen erinnern. Weniger gut argumentierbar sind Ansprüche auf Kreditkartenabrechnungen, private Kommunikation über soziale Medien oder historische Standortdaten Ihrer Kunden. Und genau bei solchen Dingen laufen Sie Gefahr, Ihre Kunden ganz zu verlieren, sowohl in Bezug auf Umsatz als auch die Bereitschaft zur Datenüberlassung. Dies wiederum würde Ihre finanzielle Position und Ihre Wettbewerbsfähigkeit schwächen. Aber auch das andere Extrem wäre schädlich: Wenn Sie für Ihr Handeln nicht auf Informationen zurückgreifen können, deren Kenntnis von Ihnen erwartet wird, stehen Sie wie ein sehr nachlässiger Partner da. Vielleicht haben Sie so etwas bereits selbst erlebt, z. B. wenn Sie bei einer Fluggesellschaft Diamant- oder Platin-Status haben und dennoch dauernd Ihre persönlichen Daten eingeben müssen. Wieder und immer wieder. Man spricht hier vom Privacy-Paradoxon: Kunden wünschen Personalisierung und Privatsphäre, aber Personalisierung erfordert die Reduzierung der Privatsphäre. Wie man diesen Widerspruch lösen kann, hat die oben beschriebene Analogie gezeigt: Man muss innerhalb der Grenzen einer fürsorglichen Beziehung operieren. Eine weitere Möglichkeit liegt in dem, was ich „sanfte Hyper-Personalisierung“ nenne. Bei diesem Ansatz vermeidet man explizite, markante oder offensichtliche Personalisierungsentscheidungen. Im Beispiel eines digitalen Schuhgeschäfts würden Sie einen Kunden also nicht mit „Hallo [Name], ich sehe, Sie sind in [Ort] …“ begrüßen. Stattdessen würden Sie sich eher auf bekannte individuelle Vorlieben konzentrieren und den Schwerpunkt der Personalisierung auf wahrscheinliche Produktbedürfnisse verlagern. Die gesammelten Informationen würden Sie nutzen, um Sortimente, die Sprache oder Angebote individuell zu adaptieren. Das Ziel eines solchen Zugangs ist es, systematisch ein Gefühl für individuelle Passformen, Funktionalitäten und einfache Abläufe zu entwickeln. Kunden entscheiden sich für Sie, weil alles einfach „so gut funktioniert“, aber sie merken nicht unbedingt, dass jeder Kunde seine eigene Version der Dienstleistung sieht.

sein könnte: Ihr Partner hat Ihren Mülleimer durchforstet, um herauszufinden, was Sie gemacht haben. Er bzw. sie hat Ihre Post hinter Ihrem Rücken geöffnet und taucht uneingeladen im Haus Ihrer Eltern auf. Er bzw. sie weiß, wo Sie gerade sind und wohin Sie wahrscheinlich als Nächstes gehen werden. Bestimmt haben Sie bereits ein Gefühl für diese beiden Beziehungstypen entwickelt: „Wo finde ich diese magische Person?“ einerseits und „Ruft bitte jemand die Polizei!“ andererseits. Für unseren Kontext ist es wichtig, die Details zu betrachten und zu fragen, was diesen Gefühlen zugrunde

liegt. Die erste Person bewegt sich in einem Rahmen, hat ihre Informationen vermutlich nach und nach aus vielen Interaktionen gewonnen, und der Partner erwartet, dass er oder sie diese Dinge weiß. Alles erfolgt im Rahmen eines Prozesses, der darauf ausgerichtet ist, Nutzen zu stiften. Die andere Person ignoriert jedoch die üblichen Grenzen und Normen einer Beziehung völlig. In diesem Fall weiß sie Dinge, die sie nicht wissen sollte, und agiert auf der Basis dieses Wissens. Sie ist ein wahnsinniger Liebhaber/Partner, der zu Recht gefürchtet werden sollte. Dennoch könnten wir auch unseren Marken erlauben, im Streben nach Profit und aus Angst,

NIM Marketing Intelligence Review

ABBILDUNG 2

Vol. 13, No. 1, 2021

Hyper-Privatsphäre

S chlüsselakteure auf dem Weg zur Hyper-Privatsphäre

Kunden Privacy-Paradoxon: Wollen mehr Privatsphäre und legen ihre Daten dennoch offen

Gesetzgeber hochmotiviert, aber Erfolge bescheiden

Unternehmen implementieren Hyper- Privacy aus strategischen Gründen

Damit sind die Unternehmen selbst die Gruppe, die am ehesten eine Hyper-Privatsphäre herbeiführen könnte, und die Argumente dafür sind strategischer Natur. Große, etablierte Unternehmen, die bereits über beträchtliche Datenmengen verfügen und starke Kundenbeziehungen aufgebaut haben, Wird das hyperprivate Web bald Wirklichkeit werden? sind in hohem Maße motiviert, ein hyper-privates Umfeld zu schaffen. Damit könnten sie verhindern, dass neu auf den Glücklicherweise wird das hyperprivate Web ohnehin Markt tretende Konkurrenzmarken ebenfalls einfach und nicht kommen, oder es wird noch Jahrzehnte dauern, nicht kostengünstig wertvolle Datenbestände generieren. Geringe wahr? Nun, das hängt ganz von drei Gruppen ab: Kunden, Datenrückstände gegenüber etablierten Unternehmen Gesetzgebern und Unternehmen (siehe Abb. 2). Die Kunden führen zu massiven Nachteilen für die Herausforderer und könnten sehr schnell ein hyperprivates Surface Web schafein weitreichender Schutz der Privatsphäre würde eine erfen, indem sie ihr Verhalten ändern und bestimmte Technohebliche Eintrittsbarriere darstellen. Es gibt bereits Hinweise, logien einsetzen. Momentan sieht es aber noch nicht danach dass sich in letzter Zeit wichtige Player wie Google, Apple aus, als ob diese digitalen Verhaltensänderungen schnell um und Facebook als Unternehmen positionieren, die den Schutz sich greifen würden. Wir wissen, dass Einzelpersonen zwar der Privatsphäre forcieren und für dieses Ziel teilweise sogar kundtun, mehr Privatsphäre zu wünschen, aber ihre Informaauf Werbeeinnahmen verzichten. Solche Entwicklungen sind tionen trotzdem freigiebig teilen, wenn sie darum gebeten verbraucherfreundlich und gleichzeitig hochprofitabel. werden – das bereits erwähnte Privacy-Paradoxon. Ghosting wird also höchstwahrscheinlich nicht allzu schnell zu einem Nehmen Sie Einfluss auf die Entscheidung Ihrer Kunden Massenphänomen werden. und setzen Sie auf einen sinnvollen „Datenaustausch“ Die zweite Gruppe, die Gesetzgeber, scheinen hoch motiviert Es sieht also tatsächlich so aus, als würde auch das Surface zu sein, den Schutz der Privatsphäre in Vorschriften zu verWeb rasch etwas dunkler werden, indem sich Hyper-Privacy ankern. Ihre Verfahren sind jedoch langsam, es fehlt ihnen ausbreitet und vermehrt Geister unterwegs sind. Marketingan technischem Know-how und Regelungen sind nur innerManager sollten daher damit rechnen, dass der Zugang zu halb von nationalen Grenzen durchsetzbar – alles in allem Daten tendenziell abnimmt. Sie alle werden mit weniger schlechte Voraussetzungen für deutliche Veränderungen. arbeiten müssen, sowohl bei primären als auch bei sekunetwas zu verpassen, derartig zu agieren – nur für wie lange? In einer Welt, in der Konsumenten aus der SelbstdarstellerPosition aussteigen können, ist eine fürsorgliche Beziehung längerfristig vielversprechender (siehe Box 1).

Hyper-Privatsphäre

dären Datenquellen. Zusätzlich werden mit der geringeren Datenverfügbarkeit auch die Kosten für die Beschaffung von Daten bei Lieferanten und Partnern steigen. Wenn das Einnehmen der Position von Geistern oder aber von Selbstdarstellern eine Entscheidung der Verbraucher ist, dann müssen Unternehmen nicht nur ihre Marktanteile beobachten, sondern auch ihre Marktposition bei selbst generierbaren aussagekräftigen und verwertbaren Daten. Stellen Sie sich vor, Sie haben Ihre CRM-Datenbestände verloren, aber Ihre Konkurrenz hat noch alles: Wie lange wird es dauern, bis deren Wettbewerbsvorteil überwältigend sein wird? Um die Chancen der aktuellen Situation zu nutzen, sollten Unternehmen eine Bestandsaufnahme ihrer Kundenbeziehungen vornehmen, ihren Datenbedarf präzisieren und lernen, welche Informationen in ihrem Kontext kritisch, vorteilhaft oder irrelevant sind. Sie sollten sicherstellen, dass ihre Marke nicht wie der „wahnsinnige Liebhaber“ in Box 1 agiert, sondern Initiativen umsetzen, die Konsumentenentscheidungen im Rahmen einer vertrauensvollen Beziehung sanft beeinflussen. Die „Selbstdarsteller“-Variante der Dienstleistung, die mit vollständigen Informationen arbeiten kann, sollte dann funktioneller sein als eine eingeschränkte, weniger intelligente Version für „Geister“. Der Unterschied in der Funktionalität wird als Anreiz für Kunden dienen, von „Geist“ auf lebenslanger „Selbstdarsteller“ umzustellen.

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Wenn es Vertrauen und faire Gegenleistungen für persönliche Daten gibt, werden einige Konsumenten vermutlich auch weiterhin ihre Daten teilen.

L I T E R AT U R H I N W E I S E Thomaz, F.; Salge, C.; Karahanna, E.; & Hulland, J. (2020): ”Learning from the Dark Web: Leveraging Conversational Agents in the Era of Hyper-Privacy to Enhance Marketing”, Journal of the Academy of Marketing Science, Vo. 48 (1), 43-63.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Interview

Nicht die Technologie dient den Menschen, sondern die Menschen der Technologie Interview mit Douglas Rushkoff, Autor und Medientheoretiker Neue Technologien und künstliche Intelligenz (KI) provozieren heiße Debatten über die Zukunft des menschlichen Lebens. Während Fans der Singularität meinen, dass künstliche Intelligenz bald klüger sein wird als wir Menschen und deshalb die Weltherrschaft übernehmen sollte, ist eine solche Vision für andere ein Albtraum. Douglas Rushkoff gehört eindeutig zur zweiten Gruppe und vertritt leidenschaftlich eine Pro-Mensch-Position. In unserem Interview erklärt er, warum es ein Fehler ist, Technologien zu viel Raum zu geben, und warum Menschen einen Platz in der digitalen Zukunft verdienen. Er erklärt, dass bereits heute Technologien einen viel stärkeren Einfluss auf unser Leben haben, als den meisten von uns bewusst ist. Für ihn ist Menschsein ein Mannschaftssport, und er fordert die Stärkung menschlicher Beziehungen sowie einen bewussteren Umgang mit Technologien. Um in einer automatisierten Welt Menschlichkeit in all ihren Facetten zu schützen, sollten wir die Werte, die wir in unsere Algorithmen einbetten, sorgfältig auswählen. Technologien sollten nicht nur dem permanenten Wachstum dienen, sondern den Menschen helfen, wieder mehr miteinander und mit ihrer physischen Umgebung in Verbindung zu treten. Es hängt von unseren eigenen Entscheidungen ab, ob Technologien uns dienen werden oder wir der Technologie.

MIR Diese Ausgabe unserer Zeitschrift legt ihren Fokus auf die dunklen Seiten des digitalen Marketings, ein Thema, mit dem Sie sich beinahe seit der Entstehung des Internets beschäftigen. In Ihrem jüngsten Buch Team Human argumentieren Sie, dass digitale Technologien, soziale Medien und KI-gestützte Anwendungen in ihrem Kern „anti-human“ sind. Wie können Werkzeuge, die allgemein dafür gelobt werden die Handlungsfähigkeit von Menschen zu erweitern und unser Leben bequemer zu machen, gegen Menschen gerichtet sein? Douglas Rushkoff Unter dem Vorwand, Probleme zu lösen und den Menschen das Leben zu erleichtern, räumen die meisten unserer technologischen Innovationen die Men-

schen nur aus dem Blickfeld oder aus dem Weg. Wir haben nur wenig Kontrolle über die Programmierung der Technologien, stattdessen programmieren die Technologien uns. Wir werden von den führenden Technologieunternehmen für uns unbekannte Zwecke instrumentalisiert und optimiert. Warum meinen Sie, dass die Technologien uns programmieren? Technologieanwender sind ständiger automatisierter Manipulation ausgesetzt. Amerikas führende Universitäten lehren und entwickeln „Persuasive Technology“, die dann auf Plattformen, E-Commerce-Seiten und sozialen Netzwerken bis hin zu Smartphones und Fitness-Armbändern implementiert

Interview

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

DOUGLAS RUSHKOFF Foto: „EDL Photography”

ÜBER DOUGLAS RUSHKOFF

Douglas Rushkoff ist Forschungspartner des Institute for the Future und Gründer des Laboratory for Digital Humanism an der City University of New York/Queens, wo er als Professor für Medientheorie und digitale Wirtschaft tätig ist. Das MIT zählt Rushkoff zu den „zehn einflussreichsten Intellektuellen der Welt“. Er beschäftigt sich mit der menschlichen Autonomie im digitalen Zeitalter und untersucht, wie unterschiedliche technologische Einflüsse unser Verhältnis zu Erzählungen, zu Geld und Macht sowie zueinander verändern. Douglas Rushkoff ist Autor zahlreicher Bücher über Medien, Technologie und Kultur, darunter Team Human, Throwing Rocks at the Google Bus, Present Shock, Life Inc und Program or Be Programmed. Er drehte die Dokumentarfilme „Generation Like“, „Merchants of Cool“ und „The Persuaders“ und schrieb den Roman Ecstasy Club sowie die Graphic Novels Testament und ADD. Sein Buch Coercion gewann den Marshall McLuhan Award, und die Media Ecology Association ehrte ihn mit dem ersten Neil Postman Award for Career Achievement in Public Intellectual Activity. https://rushkoff.com/ INTERVIEWER

Das Interview wurde von Christine Kittinger im November 2020 geführt.

wird. Ziel dieses Ansatzes ist es, „Verhalten zu verändern“ und „Gewohnheiten zu etablieren“, meist ohne Wissen oder Zustimmung des Nutzers. Der Designtheorie zufolge ändern Menschen ihr Verhalten nicht, weil sich ihre Einstellungen und Meinungen ändern. Es funktioniert genau umgekehrt: Zuerst handeln die Menschen und ändern dann ihre Einstellungen, so dass diese ihrem Verhalten entsprechen. In diesem Denkmodell sind wir eher Maschinen als denkende, autonome Wesen. Oder zumindest können wir dazu gebracht werden, so zu funktionieren. Das Problem ist also, dass wir keine aktiven Entscheidungen mehr treffen, sondern das machen, was die Technologie von uns will?

Richtig, so wie Innenarchitekten in realen Räumen bestimmte Farben, Musik oder Lichtzyklen einsetzen, um gewünschtes Verhalten zu stimulieren, so nutzen Designer von Web-Plattformen und Smartphone-Apps sorgfältig getestete Animationen und Sounds, um bei den Nutzern optimale emotionale Reaktionen auszulösen. Jede Komponente einer digitalen Umgebung wird auf ihre Fähigkeit getestet, bestimmte Reaktionen hervorzurufen, seien es mehr Views, mehr Käufe oder einfach mehr Abhängigkeit. Eine neue Nachricht kommt mit einem fröhlichen Ton, das Ausbleiben von Post klingt traurig. Die physische Geste des Wischens, um die eigenen Social-Media-Feeds zu aktualisieren, verankert und verstärkt den zwanghaften Drang, nachzusehen, ob’s was Neues gibt – vorsichtshalber.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Interview

Die meisten Menschen sind da aber recht gelassen und nicht allzu besorgt. Sie genießen und nutzen digitale Dienste, ohne sich manipuliert zu fühlen. Was ist das Problem, wenn die Nutzer zufrieden sind? Das Problem ist, dass es den Technologieunternehmen nicht mehr primär darum geht, Menschen zu helfen. Technologien werden als reine Investitionen betrachtet, die Wachstum und steigende Aktienkurse bringen sollen. Benutzer und ihr Verhalten werden optimiert, um diese Ziele zu erreichen. Die süchtig machenden Reize von Spielautomaten werden durch Algorithmen in Newsfeeds eingebaut, um eine TechnologieAbhängigkeit zu fördern und uns dazu zu bewegen, gegen unser ursprünglich erworbenes und besseres Urteilsvermögen zu handeln. Die Technologie optimiert uns, anstatt dass wir die Technologien zu unserem Vorteil nutzen. Es hat eine Art Figur-Grund-Umkehrung stattgefunden, wie bei der Rubin’schen Vase. Was eigentlich die Figur sein sollte, ist zum Hintergrund geworden. In Ihrem Buch nennen Sie das Ergebnis dieser Optimierung die Aufmerksamkeitsökonomie. Ja, anstatt uns zu helfen, die Zeit so zu nutzen, dass wir durch unseren intellektuellen Vorteil profitieren, wurde das Internet in ein „Always-on“-Medium umgewandelt und zum Vorteil derjenigen konfiguriert, die unsere Aktivitäten verfolgen und uns vermarkten wollen. Ins Internet zu gehen, ist keine aktive Entscheidung mehr, sondern eher ein ständiger Daseinszustand. Und jedes Mal, wenn ich zum Handy greife, wird es schlauer in Bezug auf mich und ich dümmer in Bezug auf das, was es mit mir macht. Sind sich die Menschen ausreichend dessen bewusst, dass alles, was sie online tun, verfolgt wird, und erkennen sie, wie sich dies auf ihre Entscheidungen auswirkt?

Das glaube ich nicht. Facebook vermarktet Ihnen Ihre Zukunft, bevor Sie noch dort angekommen sind. Das Unternehmen entwickelt prädiktive Algorithmen, um herauszufinden, was Sie wahrscheinlich tun werden, und dann arbeitet es darauf hin, das Eintreten ihrer Prognosen noch wahrscheinlicher zu machen. Es wird immer besser dabei, Sie zu programmieren und Ihre Spontaneität zu reduzieren. Und es kann Ihr Gesicht und Ihren Namen verwenden, um durch Sie zu werben, weil sie das akzeptiert haben. Ich wollte nicht, dass Facebook mich als Werbevehikel nutzt und jede meiner Handlungen zu Wasser auf den Mühlen der Marketing-Maschinerie des Unternehmens wird. Deshalb habe ich Facebook 2013 verlassen, aber die meisten Menschen verfallen dieser „Angst, etwas zu verpassen“, die Plattformen wie Facebook so erfolgreich kultivieren. Sie argumentieren also, dass Menschen einige zutiefst menschliche Eigenschaften wie Spontaneität, Kreativität oder Unberechenbarkeit verlieren. Sehen Sie auch kollektive Schäden? Ja, die großen Technologieunternehmen entziehen bestehenden Systemen den gesamten Wert. Sie nehmen unsere Daten und lassen uns dann das tun, was für sie am besten ist. Nehmen Sie zum Beispiel Uber. Wenn Uber den Menschen in den Städten durch Beförderungsleistungen hilft, ist das nur ein Mittel für den nächsten Schritt in der Umsetzung des Business-Plans. Uber investiert viel in den Aufbau einer monopolistischen Plattform und trifft Vorbereitungen, dieses Monopol auf andere Bereiche wie Zustellungen, Drohnentransporte oder andere Logistikleistungen auszudehnen. Der Wohlstand all der Menschen, die früher in der Taxiindustrie tätig waren, wird am Ende dem Wachstum dieses Unternehmens geopfert. Und genau wie Uber saugen auch andere stark fremdfinanzierte Technologieunternehmen Geld aus unserer Wirtschaft heraus und lagern es im Fett ihrer Aktienkurse ein. Das ist kein Tauschgeschäft mehr, sondern Wertextraktion. Was ist mit künstlicher Intelligenz? Glauben Sie nicht, dass Algorithmen und KI viele Probleme besser lösen können als der Mensch? Wenn wir davon ausgehen, dass unsere Probleme durch Technologien lösbar sind, dann forcieren wir damit ganz bestimmte Strategien. Wir verbessern die Kennzahlen, die eine bestimmte Technologie verbessern kann, ignorieren aber oft die Probleme, die sie nicht zu lösen vermag. Wir geraten aus dem Gleichgewicht, weil wir unser Geld und unsere Energie nur auf technologisch lösbare Probleme und hier vor allem auf diejenigen lenken, die für diese Lösungen bezahlen. Zum Beispiel arbeiten mehr Menschen daran, unsere sozialen Medien überzeugender zu machen, als daran, für einen besseren Zugang zu sauberem Wasser zu sorgen. Wir bauen unsere Welt um das herum, was Technologien leisten können.

Interview

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Wir werden von den führenden Technologieunternehmen für uns unbekannte Zwecke instrumentalisiert und optimiert. Meinen Sie, wir sollten die sozialen Medien aufgeben und uns von algorithmen-gestützten und automatisierten Entscheidungen ganz zurückziehen, um menschlich zu bleiben? Nein, neue Technologien mögen viele Probleme verursachen, aber sie sind nicht unsere Feinde. Genauso wenig wie Märkte, Wissenschaftler, Roboter, Algorithmen oder unser menschlicher Fortschrittshunger. Aber was wir tun müssen, ist, diese Elemente mit unseren organischeren, emotionalen und sozialen Bedürfnissen in Einklang zu bringen. Das ist kein Paradoxon. Wenn wir es wünschen, können wir beide Seiten integrieren. In Ihrem Buch schlagen Sie vor, dass wir wieder menschlicher werden müssen, um der toxischen Wirkung der digitalen Technologie zu widerstehen. Was sollten wir tun? Wir sollten aufhören, dauernd über unseren Nutzwert nachzudenken, denn Maschinen werden immer einen höheren Nutzwert haben als ein Mensch. Dieses Denken beginnt schon in den Schulen. Wir sollten unsere Kinder mehr über die Würde des Menschen aufklären und weniger darauf hinzielen, dass sie nützlich sein müssen, um einen Platz in der Gesellschaft zu haben. Wenn wir erst einmal gelernt haben, ein grundlegendes Naheverhältnis zueinander aufrechtzuerhalten, dann kann so etwas wie eine verschworene menschliche Gemeinschaft entstehen. Wenn wir gemeinsam mit anderen Menschen in einem Raum atmen, Blickkontakt haben und Gespräche führen, beginnen wir, unsere eigene Kraft und Würde und die Würde anderer Menschen zu spüren. Wenn man diese grundlegende Würde in sich selbst erkennt, lässt man sich nicht so einfach von irgendjemandem oder irgendetwas kontrollieren. Wir befinden uns mitten in der zweiten Welle der Corona-Pandemie: nicht die besten Zeiten für den Aufbau menschlicher Beziehungen. Glauben Sie, dass die Traumata von Lockdowns, Arbeitsplatzverlusten, Krankheit und Todesfällen eine Gegenbewegung auslösen werden? Covid-19 hat uns in eine raue, unsoziale Welt gezwungen. Wir müssen uns quasi entmenschlichen, damit wir uns nicht gegenseitig infizieren. Aber nach dem Ende der Pandemie haben wir umso mehr die Chance, uns zu rehumanisieren – wir müssen wieder Formen des Miteinanders entwickeln, die lokale Resilienz, die lokale Wirtschaft, die lokale Produktion,

das Kleingewerbe und die Kreislaufwirtschaft stärken – all die Dinge tun, die im Moment nicht gehen, weil wir in diesem Selbstdesinfektionszyklus feststecken. Diese Rehumanisierung wäre Teil einer Periode, die Sie als neue Renaissance bezeichnen. Welche Veränderungen erwarten oder erhoffen Sie sich? Eine Renaissance ist eigentlich die Rückbesinnung auf alte Werte und ihre Wiedergeburt in einem neuen Kontext. Ich denke, dass eine neue Form des Kollektivismus den Individualismus ersetzen wird, der in der letzten Renaissance im Mittelalter entstanden ist. Das damals etablierte Wertesystem hat letztlich dazu geführt, dass Investoren kurzfristige Gewinne maximieren, und Risikokapitalgeber unanfechtbare und extraktive Plattformmonopole errichten. Derzeit entsteht wieder ein Gefühl der kollektiven Sensibilität, das mehrdimensional und partizipatorisch ist. Es spiegelt sich wider in der „Occupy Wall Street“- oder der „Fridays for Future“-Bewegung sowie der dezentralen Wirtschaft, die von den Open-Source- und Blockchain-Bewegungen angestrebt wird, um nur einige zu nennen. Sie glauben also an eine Koexistenz von Technologien und Menschen, bei der wir Menschen weiterhin als handelnde Subjekte die Kontrolle behalten können und nicht zu Objekten der Optimierung werden? Die Zukunft ist offen und gestaltbar. Sie ist nicht etwas, das einfach so entsteht, sondern etwas, das wir durch unser Handeln in der Gegenwart selbst erschaffen. Sogar das Wetter auf unserem Planeten ist nicht gottgegeben, sondern hängt von den Entscheidungen ab, die wir heute in Bezug auf Energienutzung, Konsumverhalten und Abfallentsorgung treffen. Ich ermutige die Menschen, sich den aktuellen Herausforderungen offen zu stellen. Wir müssen Position beziehen und darauf bestehen, dass menschliche Werte in jede neue Technologie einfließen. Wir müssen aufstehen und aufzeigen. Egal wie unvollkommen, schrullig und fehleranfällig wir Menschen uns auch fühlen mögen, es ist an der Zeit, dass wir zusammenstehen und uns zu Mitgliedern des Team Human erklären. Das waren sehr klare Worte, Herr Rushkoff. Vielen Dank, dass Sie uns die Schattenseiten der technologischen Entwicklung vor Augen geführt haben und für das Aufzeigen neuer Wege. Wir sind dabei!

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Algorithmen sollen das Leben einfacher, aber auch süchtig machen und öffnen damit der Manipulation Tür und Tor.

Die Illusion der Wahlfreiheit

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Die Illusion der Wahlfreiheit im Zeitalter der Algorithmen Fabian Buder, Koen Pauwels und Kairun Daikoku

KEYWORDS

Augmented Intelligence, Entscheidungs findung, KI, Algorithmen, Wahlfreiheit AUTOREN

Fabian Buder Head of Future & Trends Research Nürnberg Institut für Marktentscheidungen Nürnberg, Deutschland fabian.buder@nim.org

Koen Pauwels Distinguished Professor of Marketing Northeastern University Boston, MA, USA k.pauwels@northeastern.edu

Kairun Daikoku Journalist Nürnberg Institut für Marktentscheidungen Nürnberg, Deutschland

Das Zeitalter der digitalen Convenience Die Digitalisierung hat für Menschen, Organisationen und Staaten neue Möglichkeiten der Zusammenarbeit gebracht. Technologien wie Smartphones und mobiles Internet erleichtern den Aufbau und die individuelle Nutzung globaler Netzwerke zum Vorteil aller Beteiligten. Darüber hinaus sind Aufgaben, die früher mühsam, langwierig oder unerfüllbar schienen, durch den umfassenden Einsatz ständig verbesserter Technologien möglich und sogar trivial geworden. Menschen verlassen sich in der digital erweiterten Welt bei Entscheidungen in hohem Maße auf technologische Unterstützung. Solche „Augmented Decisions“, also durch Algorithmen unterstützte Entscheidungssituationen, machen wirklich freie Entscheidungen aber letztlich zur Illusion und zu einem seltenen Luxus, den man sich erst erkämpfen muss. Dieser Verlust der Wahlfreiheit ist scheinbar der Preis, den wir für immer mehr Convenience zahlen müssen, mit unvorhergesehenen Folgen für jeden Einzelnen und unsere Gesellschaft insgesamt. Menschliche Entscheidungen in einer digital erweiterten Welt Das Konzept der „Augmented Intelligence“, der „Erweiterten Intelligenz“, setzt, im Gegensatz zur manchmal negativ konnotierten autonomen „Künstlichen Intelligenz“ (KI), auf eine Kooperation zwischen Mensch und Maschine: Während intelligente Algorithmen einer KI Daten filtern, Muster erkennen und Empfehlungen generieren, treffen Menschen, die planen und denken, die endgültigen Entscheidungen. Diese Form der Augmented Decisions, assistiert durch KI-Systeme, wird oft als die Zukunft der Entscheidungsfindung für Wissensarbeiter wie Ärzte, Manager oder Piloten angesehen. Beispiele für Augmented Decisions sind jedoch auch im Alltagsleben bereits allgegenwärtig. Wer bestimmt etwa, was Sie in Ihrem Social-Media-Newsfeed sehen, welche Filme und Serien Sie sich ansehen oder welche Produkte Sie kaufen? Und überlegen Sie einmal, was Sie als Erstes tun, wenn Sie Ihre nächste Reise planen. Höchstwahrscheinlich verwenden Sie die Navigations-App auf Ihrem Smartphone und nicht eine klassische Straßenkarte oder andere Wegbeschreibungen. In der Regel ist es am bequemsten, der Route zu folgen, die die App vorschlägt.

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Die Illusion der Wahlfreiheit

B OX 1

Die Licht- und Schattenseiten von Augmented Decisions Suchmaschinen helfen ihren Nutzern, das zu finden, was sie brauchen, indem sie die Online-Welt filtern und sortieren. Gleichzeitig verdienen die Anbieter von Suchmaschinen damit jedoch Geld, indem sie Werbeanzeigen an Unternehmen verkaufen. Das kann Nutzer zum Erwerb von Produkten animieren, die ihren Bedürfnissen nicht optimal entsprechen. Preisvergleichsportale für unterschiedlichste Angebote ermöglichen es Nutzern, die niedrigsten Preise für Produkte und Dienstleistungen zu finden. Sie heben jedoch einzelne Angebote hervor oder sortieren die Ergebnisse standardmäßig nach bestimmten Kriterien, wie etwa der Provisionsoptimierung, die für den Anbieter möglicherweise nützlicher sind als für den Kunden. Navigations-Apps machen es den Nutzern leicht, die besten Restaurants, Geschäfte oder Dienstleister zu finden. Die Informationen auf den Karten werden jedoch durch den dahinter liegenden Algorithmus kuratiert. Die Anbieter der erstgelisteten Suchergebnisse, die man auf der Karte „findet“, haben oft für ihre Platzierung bezahlt. Außerdem: Woher wissen wir, ob die vorgeschlagenen Routen tatsächlich den besten Weg darstellen und nicht nur die Wahrscheinlichkeit maximieren, an einem bestimmten Laden vorbeizukommen, der den App-Anbieter für mehr Kundenfrequenz bezahlt? Es ist praktisch, wenn Streaming-Dienste Filme empfehlen, die uns gefallen könnten. Aber welche Kriterien verwenden sie? Wie gewichten sie zum Beispiel ihre eigenen Produktionen im Vergleich zu anderen Inhalten? Welche weiteren Kriterien spielen eine Rolle, wenn ein Film oder eine Serie empfohlen wird?

Natürlich hat die digitale Unterstützung klare Vorteile bei Entscheidungsprozessen: KI hilft, die Informationsflut zu reduzieren, relevante Informationen zu filtern und die überwältigende Fülle an Optionen auf eine überschaubare Menge an Wahlmöglichkeiten einzuschränken. Die Empfehlungen und Vorschläge intelligenter Algorithmen helfen den Menschen, Zeit zu sparen und dennoch Entscheidungen zu treffen, die ihren Präferenzen entsprechen. Aber das ist nur die eine Seite der Medaille. Es gibt auch noch die andere, dunklere und oft unsichtbare Seite. Die dunkle Seite der digitalen Convenience Verlust der Wahlfreiheit Augmented Intelligence befreit uns von vielen Aufgaben, aber sie schränkt auch die Wahlfreiheit ein. Wir verlassen uns auf unsere Technologien und bemerken gar nicht, dass wir kein Gesamtbild mehr erhalten, sondern oft nur einen für einen bestimmten Zweck kuratierten Ausschnitt der Realität. Die meisten In-

formationen, die uns als Entscheidungsgrundlage dienen, werden von Algorithmen gefiltert und vorsortiert. Während das Leben so bequemer wird, dienen die Algorithmen jedoch primär Zielen der dahinterstehenden Organisationen. Diese sind den Nutzern zumeist aber nicht bewusst und oft auch nicht unbedingt zu ihrem Besten. Die positive Nutzererfahrung, die erlebte Convenience, ist ein Mittel zum Zweck, aber nicht das eigentliche Ziel. Unbekannt bleibt für den Nutzer, ob die hilfreichen Algorithmen wirklich den Nutzen ihrer Anwender oder eher die Rendite eines Unternehmens optimieren. Tech-Unternehmen nutzen ihre Technologien, um die individuelle, subjektive Realität, die den inneren Rahmen menschlicher Entscheidungsfindung darstellt, in ihrem Sinne zu konstruieren. Anhand riesiger Mengen an Nutzerdaten erstellen sie hochgradig individualisierte Empfehlungen und machen den Nutzern bestimmte Optionen schmackhaft (siehe Box 1). In solchen Fällen wird Wahlfreiheit zu einer Illusion.

Die Illusion der Wahlfreiheit

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Wann immer wir uns für mehr digitalen Komfort entscheiden, sollten wir auch über die Schattenseiten nachdenken.

Meinungspolarisierung Menschen verbringen in Summe beispielsweise allein auf YouTube insgesamt mehr als eine Milliarde Stunden pro Tag. 70 % dieser Zeit gehen auf das Konto von automatisiert durch YouTube vorgeschlagenen Inhalten. Intelligente Algorithmen empfehlen ihren Nutzern permanent und in Echtzeit Millionen von Videos. Gleichzeitig testen sie, wie und womit sie ihre Kunden möglichst lang bei der Stange halten können. Wenn ein Nutzer ein anschließend startendes Video weiter ansieht, war die Empfehlung erfolgreich, und der Algorithmus hat den Entscheidungsprozess des Nutzers gesteuert. Die freie Entscheidung steht im Wettbewerb mit intelligenten Algorithmen, die individuelle Präferenzen dokumentieren und nutzen, ohne ihren Zweck und ihre Funktionalität offen zu legen oder dem Nutzer Kontrollmöglichkeiten zu geben. Unter solchen Umständen kann es vorkommen, dass Menschen die Fähigkeit verlieren, bewusst zu entscheiden, ob und was sie weiterschauen wollen. Lernt ein solcher Algorithmus, dass Verschwörungsvideos die Aufmerksamkeit der Nutzer optimieren, wird er solche Videos immer wieder empfehlen. Damit kann er bewirken, dass selbst radikale Verschwörungstheorien dem Nutzer wie eine allgemein geteilte Realität erscheinen. Was Menschen konsumieren, hat Einfluss darauf, was sie denken und wie sie sich verhalten. Für Gesellschaften und Demokratien können entstehende Informationsblasen gefährlich sein, da sie die Polarisierung von Meinungen begünstigen und verstärken. Tendenziöse Ergebnisse prägen unsere Identitäten, unsere Weltsicht, unsere sozialen Beziehungen und vor allem die Entscheidungen, die wir treffen. Auch wenn die Letztentscheidung über den Konsum bei den Nutzern liegt, haben die Algorithmen von YouTube, Facebook und Twitter einen großen Einfluss darauf, welche Inhalte, und damit Ideen und Meinungen, florieren oder untergehen. Abhängigkeit und Manipulation Mit der Gewöhnung an die schnell verfügbaren, unterhaltsamen und bequemen Dienste digitaler Plattformen tragen wir unbeabsichtigt zur Beschleunigung der beschriebenen Prozesse bei. Wir lassen zu, dass enorme Mengen persönlicher Daten gesammelt und zur Personalisierung der Nutzererfahrung digitaler Plattformen verwendet werden. Aus der individuellen Perspektive mag dies zunächst harmlos erscheinen: Von einem Algorithmus verführt zu werden, etwas mehr für eine Versicherung zu bezahlen

oder gelegentlich ein eher unnötiges Produkt zu kaufen, mag als fairer Preis für den Komfort der digitalen Dienstleistungen angesehen werden. Ganzheitlich betrachtet ist der Schaden aber wohl größer, und die Konsequenzen gehen weit über manchmal schon unheimliche personalisierte Werbung hinaus. Der eigentliche Zweck der neuen Technologien besteht nämlich nicht mehr darin, im Sinne ihrer Nutzer zu agieren, sondern online Aufmerksamkeit zu gewinnen und zu behalten, um diese zu monetarisieren und damit den Unternehmensgewinn zu maximieren. Um diese Ziele bestmöglich zu erreichen, sollen Algorithmen nicht nur Komfort liefern, sondern auch abhängig machen. Das öffnet Manipulationen immer weiter Tür und Tor. Die Unterstützung, die Algorithmen uns bieten, ist damit gleichermaßen utopisch und dystopisch. Strategien, um mehr Wahlfreiheit sicherzustellen Erweiterte, mit persönlichen Nutzerdaten gespeiste Intelligenz hat eine komfortable Welt geschaffen, der die Menschen im Gegenzug große Teile ihrer Wahlfreiheit geopfert haben. Es

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Die Illusion der Wahlfreiheit

Erweiterte, mit persönlichen Nutzerdaten gespeiste Intelligenz hat eine komfortable Welt geschaffen, der die Menschen im Gegenzug große Teile ihrer Wahlfreiheit geopfert haben.

ABBILDUNG 1

W ie man Algorithmic Literacy erwirbt

Grund prinzipien der KI verstehen

Verstehen, wie Algorithmen funktionieren

Rolle und Wert persönlicher Daten verstehen

Empfehlungen von Apps kritisch hinterfragen

gibt jedoch auch einige Maßnahmen, um diesen unerwünschten Effekten entgegenzuwirken und sicherzustellen, dass Wahlfreiheit mehr bleibt als reine Illusion. Algorithmische Kompetenz entwickeln In einer KI-dominierten Welt muss jeder sogenannte „Algorithmic Literacy“ entwickeln. Angelehnt an den Begriff der Alpha-

betisierung geht es dabei um Basiskompetenzen für die digitale Welt. Dazu gehört ein grundlegendes Verständnis von KI und der Funktionsweise der im Hintergrund ablaufenden Algorithmen, z. B. eine Vorstellung davon, welchen Output diese optimieren und was das für den Nutzer bedeutet. Algorithmic Literacy erfordert auch, dass Nutzer die Rolle und den Wert der persönlichen Daten verstehen,

Die Illusion der Wahlfreiheit

die sie Plattformen im Austausch für algorithmische Entscheidungsunterstützung überlassen. Das erlaubt es, Ergebnissen von KI-gesteuerten Empfehlungen und durch Algorithmen vorselektierten Informationen aufmerksam und kritisch zu begegnen (Abb. 1).

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

was wir sehen und konsumieren. Eine wachsende Zahl von technischen Geräten wird uns noch stärker von Algorithmen abhängig machen. Wann immer wir uns für mehr digitalen Komfort entscheiden, sollten wir daher auch über die Schattenseiten nachdenken.

Entscheidungen bewusster treffen Die meisten Entscheidungen sind mit einem Risiko verbunden. Die Art des Risikos hängt davon ab, ob die Entscheidung automatisiert, algorithmisch unterstützt oder rein menschlich getroffen wird. Der Einzelne sollte ein Bewusstsein für seine Risikotoleranz gegenüber den verschiedenen Optionen und bei unterschiedlichen Zielen entwickeln. Insbesondere sollten Nutzer Entscheidungen darüber, was sie teilen, sehen oder konsumieren wollen, bewusster treffen. Solche Kompetenzen und bewusste Entscheidungen werden zukünftig noch wichtiger sein. Smarte Technologien werden eine noch größere Rolle spielen in einer Welt, in der das Internet der Dinge jeden Gegenstand zum Sensor und zum Teil des Netzwerks macht. Stellen Sie sich zum Beispiel vor, wie die immer intelligenter werdenden persönlichen Assistenten – Alexa und Siri inklusive ihrer Weiterentwicklungen – eines Tages alltägliche Einkaufs- und Nutzungsentscheidungen automatisieren könnten. Oder stellen Sie sich vor, wie Augmented und Virtual Reality verändern könnten, wie wir mit Informationen interagieren. Es wird noch weniger Möglichkeiten geben, zu überprüfen und in Frage zu stellen,

L I T E R AT U R H I N W E I S E Carrington, V. (2018): “The Changing Landscape of Literacies: Big Data and Algorithms”, Digital Culture & Education, Vol. 10, pp. 67–76. Harris, Tristan and Aza Raskin (2019): “Down the Rabbit Hole by Design”, Your Undivided Attention (Podcast). Ricciardi, Victor and Douglas Rice (2014): “Risk Perception and Risk Tolerance”, John Wiley & Sons, Inc. Thompson, Kelly (2020): “YouTube’s plot to silence conspiracy theories”, Wired, September 18, https://www.wired.com/story/youtube-algorithmsilence-conspiracy-theories/

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Führungskräfte von morgen

> / <

Jung, aber nicht naiv: Die Führungskräfte von morgen sprechen sich für Grenzen der digitalen Freiheit aus, um so die Freiheit zu bewahren Claudia Gaspar und Anja Dieckmann

KEYWORDS

Wahlfreiheit, Internet, Social Media, Algorithmen, Umfrage, Leaders of Tomorrow AUTORINNEN

Claudia Gaspar Head of Surveys, Nürnberg Institut für Marktentscheidungen (NIM), Nürnberg, Deutschland claudia.gaspar@nim.org

Anja Dieckmann ehemals NIM, seit Oktober 2020 Professorin für Wirtschaftspsychologie, Hochschule Aalen, Deutschland anja.dieckmann@hs-aalen.de

Die Schattenseiten der unregulierten Online-Freiheit Im Jahr 2020 wurden die Schattenseiten der unregulierten Freiheit im Internet offensichtlicher denn je: Online-Mobbing ist alltäglich, Fake News richten gerade in Zeiten der globalen Corona-Pandemie beispiellosen Schaden an – und populistische Propaganda prägte unter anderem den amerikanischen Präsidentschaftswahlkampf. Social-Media-Plattformen werden immer nachdrücklicher aufgefordert, ihren Laissez-faire-Ansatz aufzugeben. Sie ernten Kritik dafür, dass sie die Verantwortung für Online-Inhalte mit der Behauptung ablehnen, sie wären „nur der Überbringer“. Der Druck steigt, dass digitale Plattformen Hassreden unterbinden und Fake News zumindest kennzeichnen. Diese Forderungen sind zwar nicht neu, aber in unserer Umfrage kommen sie aus einer ungewöhnlichen Ecke: von Digital Natives. Gegen uneingeschränkte Meinungsfreiheit im Internet Wo sollten die Grenzen der Meinungsfreiheit im Internet gezogen werden? Die Leaders of Tomorrow stellen sich klar gegen eine uneingeschränkte Meinungsfreiheit im Internet und fordern Sanktionen gegen Hassreden und Fake News (Abb. 1). Frauen sehen bei Hassreden mehr Handlungsbedarf als Männer. Sie stimmen stärker als Männer der Aussage zu, dass die Freiheit des Internets eingeschränkt werden sollte, um schwere Beleidigungen und Beschimpfungen zu verhindern. Ein Grund für den Geschlechterunterschied mag darin liegen, dass Hassreden nicht nur öfter gegen Frauen gerichtet sind, sondern auch häufig Formen sexueller Belästigung annehmen. Bezüglich des Handlungsbedarfs bei Fake News gab es keinen auffälligen Beurteilungsunterschied zwischen Männern und Frauen.

Führungskräfte von morgen

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

</>

Selbst Digital Natives nehmen neue Technologien nicht unhinterfragt an, sondern mit einer gewissen Skepsis und Vorsicht.

NIM Marketing Intelligence Review

ABBILDUNG 1

Vol. 13, No. 1, 2021

Führungskräfte von morgen

D ie Leaders of Tomorrow beziehen klar Position gegen uneingeschränkte Meinungsfreiheit im Internet 17 % 8% 73 %

75 %

8% 17 %

75 % 17 % Meinungsfreiheit im Internet darf unter keinen Umständen eingeschränkt werden, auch wenn absichtlich falsche oder sogar beleidigende Inhalte veröffentlicht werden.

Stimme völlig zu/eher zu

Die Meinungsfreiheit im Internet sollte eingeschränkt werden, wenn Lügen und Fake News verbreitet werden.

eder Zustimmung noch W Ablehnung

Social-Media-Unternehmen sollten zur Verantwortung gezogen werden In den Medien werden zahlreiche Maßnahmen gegen böswilliges Verhalten im Internet diskutiert, und sie sind allesamt sehr umstritten. Die Leaders of Tomorrow sehen vor allem Social-Media-Unternehmen für die Eindämmung von bösartigem Verhalten in der Verantwortung

ABBILDUNG 2

S timme gar nicht zu/ eher nicht zu

(Abb. 2). Fast 90 % sagen, dass es zumindest akzeptabel ist, wenn Social-Media-Unternehmen missbräuchliche und gefälschte Inhalte zensieren, und mehr als 80 % würden sie sogar dafür zur Rechenschaft ziehen. Im Vergleich zu dieser klaren Position zur Verantwortung von Social-Media-Unternehmen stehen die Befragten einem generellen Verbot von

D ie Leaders of Tomorrow finden, dass Social-Media-Unternehmen verpflichtet sein sollten, missbräuchliche Inhalte zu verhindern und zu zensieren

47 %

40 %

21 %

42 %

39 %

37 %

40 %

Politische Werbung sollte in sozialen Medien verboten sein.

Inhalte anonym zu veröffentlichen, sollte unmöglich werden (zur Erhöhung der individuellen Verantwortlichkeit).

40 %

44 %

13 %

16 %

Social-Media-Unternehmen sollten irreführende und falsche Inhalte zensieren.

Social-Media-Unternehmen sollten für die auf ihren Plattformen veröffentlichten Inhalte verantwortlich sein.

Notwendig

Die Meinungsfreiheit im Internet sollte eingeschränkt werden, wenn andere schwer beleidigt oder beschimpft werden (Hassreden).

Akzeptabel

Inakzeptabel

Führungskräfte von morgen

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

B OX 1

Die „Voices of the Leaders of Tomorrow“-Umfrage Das St. Gallen Symposium ist eine jährlich stattfindende Konferenz der Universität St. Gallen. Bei der zweitägigen Veranstaltung treffen wichtige Entscheidungsträger aus Wirtschaft, Politik, Wissenschaft und Gesellschaft zusammen und tauschen sich mit der kommenden Führungskräftegeneration aus. Diese „Leaders of Tomorrow“ qualifizieren sich für die Teilnahme entweder in einem globalen Essay-Wettbewerb, der sich an graduierte Studierende richtet, oder durch berufliche oder akademische Verdienste, die in einem strengen Auswahlverfahren beurteilt werden. Man kann davon ausgehen, dass die so ausgewählte Gruppe einen wesentlichen Einfluss auf zukünftige wirtschaftliche und gesellschaftliche Entwicklungen haben wird. Die gesamte Konferenz wird von einem internationalen Studierenden-Komitee der Universität organisiert, einem Team von 35 Studierenden, die ihr Studium für 10 Monate unterbrechen, um den generationenübergreifenden Dialog auf der Konferenz mit zu realisieren. Das Nürnberg Institut für Marktentscheidungen und das St. Gallen Symposium führen in Kooperation jedes Jahr eine Befragung zu einem aktuellen Thema bei den Leaders of Tomorrow durch. Im Februar 2020 folgten 898 dieser vielversprechenden jungen Menschen (meist unter 30 Jahre alt und damit Digital Natives, 62 % männlich, 38 % weiblich) aus über 90 Ländern der Welt der Einladung, uns ihre Meinung über „die Auswirkungen der neuen Technologien auf die menschliche Wahl- und Entscheidungsfreiheit“ mitzuteilen. In diesem Artikel sind die Ansichten der Befragten über die „dunklen Seiten“ der Online-Freiheit zusammengefasst. Der vollständige Bericht „Human freedom and choice in the light of technological change“ ist unter nim.org und symposium.org verfügbar.

Die meisten Leaders of Tomorrow unterstützen die Idee, dass Plattformbetreiber nur mit ausdrücklicher Zustimmung Daten sammeln dürfen.

politischer Werbung in den sozialen Medien zurückhaltender gegenüber: 63 % halten ein solches Verbot – wie es kürzlich von Twitter in die Geschäftsrichtlinien aufgenommen wurde – zumindest für akzeptabel. Schließlich halten, trotz möglicher nachteiliger Folgen für Minderheiten in vielen Teilen der Welt, immerhin 60 % der Leaders of Tomorrow es für zumindest akzeptabel, die anonyme Veröffentlichung von Inhalten zu unterbinden, um damit die individuelle Verantwortlichkeit zu erhöhen. Persönliche Daten sollten von ihren Eigentümern kontrolliert werden Junge Menschen werden manchmal beschuldigt, zu großzügig oder gar nachlässig mit ihren persönlichen Daten umzugehen. Ob die Erhebung persönlicher Daten standardmäßig erlaubt oder verboten werden soll, bzw. in welchem Umfang die Nutzer für ihre Daten entlohnt

werden sollten, wird heftig diskutiert. Skandale rund um Datenmissbrauch haben die Debatten weiter angeheizt und es scheint, dass diese Diskussionen ihre Spuren hinterlassen haben: Die meisten Leaders of Tomorrow unterstützen die Idee, dass Plattformbetreiber nur mit ausdrücklicher Zustimmung Daten sammeln dürfen. Darüber hinaus stehen sie verschiedenen intelligenten digitalen Anwendungen, die Unternehmen nutzen können, skeptisch gegenüber (Abb. 3). Besonders schlecht bewertet wurden die „Selektive Preisgestaltung“ – das Festlegen von unterschiedlichen Preisen für die gleichen Produkte aufgrund datenbasierter Kundenprofile zur Gewinnmaximierung – und die sogenannte „Choice Architecture“ – die Konsumenten in die vom Unternehmen gewünschte Richtung lenkt, ohne dass diese Strategie offengelegt wird. Drei Viertel der Befragten bewerteten diese Maßnahmen als ziemlich unfair oder nicht tolerierbar. Die

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Führungskräfte von morgen

Eine wichtige Herausforderung für die Zukunft wird es sein, ein Gleichgewicht zu finden zwischen den Möglichkeiten disruptiver Technologien wie der KI und der Erhaltung menschlicher Entscheidungsfreiheit – und zwar nicht nur als Illusion.

ABBILDUNG 3

D ie Leaders of Tomorrow betrachten die technologiegestützte Nutzung persönlicher Daten durch Unternehmen differenziert und kritisch

Selektive/individuelle Preisgestaltung, d.h. Kunden erhalten für die gleichen Produkte unterschiedliche Preise, je nach ihrem durch Daten erstellten Profil.

4 % 19 %

Nutzung ausgeklügelter Voreinstellungen, ohne dies explizit zu kommunizieren, um Kunden in die vom Unternehmen gewünschte Richtung zu lenken („Nudging“/„Choice-Architecture“).

4 % 20 %

Nutzung biometrischer Daten (z.B. zu Fitness, Ernährung, Schlaf), um personalisierte Krankenversicherungstarife anzubieten.

10 %

Nutzung individueller Standortdaten, um zeitlich und räumlich optimierte Werbung zu versenden.

11 %

Verwendung biometrischer Daten (z.B. zu Fitness, Ernährung, Schlaf), um personalisierte Produktvorschläge anzubieten.

11 %

Sinnvoll

Akzeptabel

Mehrheitsmeinung ändert sich jedoch, wenn persönliche Daten für andere Zwecke verwendet werden: 54 % erachten die Nutzung individueller Standortdaten zur Optimierung von Werbung für sinnvoll oder zumindest akzeptabel und 58 % würden akzeptieren, dass biometrische Daten für personalisierte Produktvorschläge verwendet werden. Doch das sind knappe Mehrheiten. Selbst bei diesen Anwendungen ist der Anteil an Gegenstimmen recht hoch. Gegen Technologien, die die Wahlfreiheit der Benutzer einschränken Von den oben genannten Anwendungen werden also diejenigen am stärksten abgelehnt, denen es an Transparenz mangelt und die vom Kunden nicht beeinflusst werden können. Die Frage, wer die Kontrolle über persönliche

35 %

42 %

40 %

33 %

43 %

Z iemlich unfair

47 %

36 %

26 %

31 %

27 %

24 %

19 %

18 %

N icht tolerierbar

Daten hat, liegt den Leaders of Tomorrow offenbar am Herzen und ihre Position ist klar: Sie wollen die Kontrolle haben und behalten. Dieses Ergebnis spiegelt sich in der gesamten Umfrage wider und wird in den Antworten auf andere Fragen ebenfalls deutlich: So werden auch mobile Technologien und Filteralgorithmen nicht einhellig für den Komfort geschätzt, den sie bieten. Stattdessen wecken sie Skepsis, weil solche Applikationen die freien Wahlmöglichkeiten einer Person einschränken, Menschen in ihren Entscheidungen bevormunden oder einfach nur als störend empfunden werden. Sind wir an einem Wendepunkt angelangt? In vielen Bereichen haben wir uns bereits daran gewöhnt, einfach den Empfehlungen unserer Technologien zu folgen. Wir haben

Führungskräfte von morgen

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

zum Beispiel kein Problem damit, Informationen über die „Realität“ zu erhalten, die nicht allgemein geteilt werden und objektiv sind, sondern für jeden von uns individuell und maßgeschneidert geliefert werden. Viele Menschen genießen den Komfort vorselektierter Entscheidungsalternativen, die Algorithmen uns vorschlagen. Dies wirft die wichtige Frage auf, ob wir noch unsere Technologien steuern oder ob Technologien begonnen haben, uns zu steuern. Die Leaders of Tomorrow sind sich sehr bewusst, dass die immer ausgefeilteren Technologien neue Formen von Einschränkungen und Abhängigkeiten mit sich bringen. Junge Menschen sind also offensichtlich nicht blind für die Bedrohungen technologischer Entwicklungen – und fordern Veränderungen, die den Anwendern wieder mehr Kontrolle geben. Sie sehen auch die Risiken der missbräuchlichen Nutzung des freien Internets und der Macht neuer Technologien – und wollen, dass diese Risiken durch Regierungen, Unternehmen und andere Akteure begrenzt werden.

Skepsis und Vorsicht sehen. Diese kritische Haltung dürfte hilfreich sein, wenn es um die Frage geht, in welchem Umfang neue Technologien die Kontrolle in unserem täglichen Leben übernehmen dürfen. Eine wichtige Herausforderung für die Zukunft wird es sein, ein Gleichgewicht zu finden zwischen den Möglichkeiten disruptiver Technologien wie der KI und der Erhaltung menschlicher Entscheidungsfreiheit – und zwar nicht nur als Illusion. Ob die neue Generation von Führungskräften dieser Herausforderung gewachsen sein wird, bleibt abzuwarten.

Zusammenfassend zeigen die Umfrageergebnisse, dass die Leaders of Tomorrow neue Technologien nicht naiv und unhinterfragt begrüßen, sondern sie mit einer gewissen

Gaspar, C.; Dieckmann, A.; Neus, A. (2020): Voices of the Leaders of Tomorrow: Human freedom and choice in the light of technological change. Nuremberg Institute for Market Decisions & St. Gallen Symposium

L I T E R AT U R H I N W E I S E

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Editoren

ÜBER CAROLINE WIERTZ

Caroline Wiertz ist Professorin für Marketing und Associate Dean for Entrepreneurship an der Business School der City, University of London. Ihre Spezialgebiete sind Digitales Marketing und Social Media Marketing. Sie hat in führenden akademischen Fachzeitschriften wie dem Journal of Consumer Research, Marketing Science, dem Journal of the Academy of Marketing Science und dem International Journal of Research in Marketing publiziert. Ihre Forschungsarbeiten wurden für eine Reihe von Best Paper Awards nominiert und ausgezeichnet. Caroline Wiertz ist Mitglied des Editorial Review Board des International Journal for Research in Marketing, des Journal of Interactive Marketing und des Journal of Business Research. Sie ist Referenten in Executive-Programmen und gefragte Speakerin auf Konferenzen. Über die Jahre hat sie viele Auszeichnungen für Exzellenz und Innovation in der Lehre und der Curriculum-Entwicklung erhalten.

EDITOR

Caroline Wiertz Professor of Marketing Associate Dean for Entrepreneurship The Business School (formerly Cass) City, University of London c.wiertz@city.ac.uk

M ANAGING EDITOR

Christine Kittinger-Rosanelli NIM Marketing Intelligence Review, Nürnberg Institut für Marktentscheidungen christine.kittinger@nim.org

Wissenschaftlicher Beirat

Vol. 13, No. 1, 2021

NIM Marketing Intelligence Review

Wissenschaftlicher Beirat

Anja Dieckmann Professorin für Wirtschaftspsychologie, Hochschule Aalen, Deutschland Giana Eckhardt Professorin für Marketing, Royal Holloway University of London, England

Andreas Neus Geschäftsführer und Vizepräsident, Nürnberg Institut für Marktentscheidungen, Nürnberg, Deutschland Srinivas Reddy Professor für Marketing, Singapore Management University, Singapore

Susan Fournier Questrom Professor in Management, Professorin für Marketing, Questrom School of Business, Boston University, USA

Werner Reinartz Professor für Marketing, Handel und Kundenmanagement, Universität zu Köln, Deutschland

Nicole Koschate-Fischer GfK-Lehrstuhl für Marketing Intelligence, Friedrich-Alexander Universität, Erlangen-Nürnberg, Deutschland

Bernd Skiera Professor für Electronic Commerce, Johann Wolfgang Goethe-Universität, Frankfurt am Main, Deutschland Caroline Wiertz Professorin für Marketing, The Business School (formerly Cass), City, University of London, England

NIM Marketing Intelligence Review

Vol. 13, No. 1, 2021

Impressum

HERAUSGEBER

Nürnberg Institut für Marktentscheidungen e. V. Gründer und Ankeraktionär der GfK SE Steinstraße 21 90419 Nürnberg Deutschland Tel +49 911 95151983 Fax +49 911 376 77872 E-Mail: hello@nim.org www.nim.org Vereinsregister des Amtsgerichts Nürnberg VR200665

Das Nürnberg Institut für Marktentscheidungen ist ein nichtkommerzielles und interdisziplinäres Institut zur Erforschung von Konsum- und Marktentscheidungen und Ankeraktionär der GfK SE. An der Schnittstelle zwischen Wissenschaft und Praxis erforscht das NIM, wie sich Marktentscheidungen auf Basis neuer Trends, neuer Technologien und neuer Informationsquellen voraussichtlich ändern werden. Ziel ist es, sowohl die Entscheidungen von Verbrauchern als auch die Entscheidungen von Marketingverantwortlichen besser zu verstehen und durch dieses Wissen auch dazu beizutragen, die Qualität von Marktentscheidungen zu steigern. Die NIM Marketing Intelligence Review (zuvor GfK Marketing Intelligence Review) versteht sich als Fachmagazin für Marketing und richtet sich an Manager und Marktforscher, die sich für neue Erkenntnisse und Methoden der wissenschaftlichen Marketingforschung interessieren. Sie erscheint zweimal pro Jahr. Die Herausgeber arbeiten mit großer Sorgfalt. Trotzdem können sich Daten verändern und Fehler passieren. Das NIM übernimmt deshalb keine Haftung oder Garantie für die Aktualität, Richtigkeit und Vollständigkeit der Inhalte. Die in der Publikation ausgedrückten Meinungen decken sich nicht unbedingt mit denen des NIM.

GRAFISCHE UMSETZUNG

DESIGNBÜRO, Stephan Hasselbauer DRUCK

Druckhaus Haspel Erlangen e. K. ABONNEMENT

75 € per annum ISSN 2627-4841 ONLINE VERSION

www.nim.org/mir/de

AU GA CH AUS S R E VO ST CH Ä N

Marken-Aktivismus: Sollen Marken Stellung beziehen? Marken werden zu Aktivisten: Was dabei zu beachten ist Daniel Korschun Boycott oder Buycott: Wie sich gesellschaftspolitisches Engagement von Unternehmen auf die Verkaufszahlen auswirkt Nooshin L. Warren Sollen Marken Stellung beziehen? Der Marktanteil beeinflusst Erfolgschancen Chris Hydock, Neeru Paharia und Sean Blair Die Risiken von Marken-Aktivismus Susan Fournier und Shuba Srinivasan Meister-Twitterer Donald Trump: Wie Social Media zum Niedergang von Marken führen können Ron Hill, Sanal Mazvancheryl und Ben Wright Lobbying und Geschäftserfolg: Einblicke in die Wirkung des politischen Marketings Kelly D. Martin, Gautham Vadakkepatt, Brett Josephson und Jean L. Johnson

Die nächste Ausgabe erscheint im November 2021

Nürnberg Institut für Marktentscheidungen e. V. Gründer und Ankeraktionär der GfK SE