INGRID GUARDIOLA
ALGORITMES
La nova servitud voluntària A les xarxes socials som receptors, però també emissors d’informació. El discurs ja no s’adapta a la veritat, sinó a les circumstàncies de cadascú, sobretot si tenim en compte que l’algoritme personalitza les interfícies. Potser aquesta és la principal diferència respecte al model de manipulació de l’opinió pública del segle XX. Les xarxes socials ens obliguen a deslligar l’opinió pública de la democràcia; a parlar de mitjans de propagació en comptes de mitjans de comunicació.
162
Dream baby dream forever. Suicide, Dream baby dream
Imatges de Quién sabe dónde i La máquina de la verdad, programes pioners de la telerealitat a Espanya durant la dècada dels noranta
El Món d’Ahir
INTERNET HA TORNAT A POSAR la veritat al centre del debat públic. Es parla de fake news i de postveritat com si fossin categories noves, pròpies de la nostra era de tecnologia digital connectada. Ara que el crim de les noies d’Alcàsser ha retornat de la mà de Netflix, és bo recordar el paper que van tenir els mitjans en la comunicació i evolució del cas. Paco Lobatón i Nieves Herrero van participar en un circ mediàtic sense precedents que ens recorda aquella sentència de Guy Debord de La societat de l’espectacle (1967): «En el món realment capgirat, allò que és verdader és un moment d’allò que és fals.» De fet, mentre la televisió espanyola esbudellava el cas d’Alcàsser en una ostentació única de pornografia, aquell mateix 1992 Mark Achbar i Peter Wintonick adaptaven al format documental Manufacturing Consent, el llibre de Noam Chomsky i Edward S. Herman que abordava els diferents models de propaganda estructural dels mitjans de comunicació dels Estats Units basats en els grans conglomerats mediàtics promoguts per la ideologia neoliberal. El mateix any el dramaturg Steve Tesich, arran de la guerra de l’Iraq i de la venda d’armes a l’Iran (l’Irangate), va encunyar la paraula postveritat per referir-se al consens públic d’arrel emocional que hi va haver en la implicació governamental en dues operacions de teatre bèl·lic de greus conseqüències internacionals. Avui es parla de la veritat com si tant ella com la mentida només fossin una qüestió de discurs, com si es tractés d’un procediment que l’únic que pretén és ser verificat, bé sigui a través d’un qüestionari per poder marcar verdader o fals, o bé a mans del vot popular, o de l’autoritat mediàtica de torn, com en aquells concursos de televisió de començaments dels noranta en què la veritat era anunciada pel presentador o per una màquina (La máquina de la verdad, també del 1992). La veritat, entesa com un procés de verificació lúdic, té poc a veure amb els seus precedents filosòfics. La verificació sempre és transitòria i repetitiva, procedimental. En última instància, és qüestió de gratificació, i per això la nostra atenció en aquests rituals roman activa i, fins i tot, segrestada. Sempre en volem més: un altre repte, una altra prova, una altra incògnita per desvelar. El més curiós de tot és que, després que es doni la verificació, no fem res d’aquesta informació, no té cap incidència profunda o a llarg termini sobre les nostres vides. L’internet de les xarxes socials ens ofereix una allau d’informacions indigerible. En aquest context, el soroll forma part natural de la comunicació. Per combatre’l, les fake news (soroll en estat pur) s’han imposat com una eina de selecció natural de l’atenció pública perquè basen la seva notorietat en l’escàndol i en el seu desmentiment posterior. La seva ona expansiva dels últims anys ha tingut un doble impacte en el desplaçament de la veritat: d’una banda, com hem dit, ha fet que la reduïm a un procés de verificació d’informacions globals, que no tenen cap implicació en el nostre entorn immediat, territorial o polític; i, de l’altra, ha desenvolupat diferents mecanismes de censura online que han acabat escombrant no solament notícies susceptibles de ser falses, sinó tot allò que podia resultar incòmode per a les empreses propietàries de les xarxes i els seus fiadors.
164
Ingrid Guardiola
Es parla de fake news com si hi hagués unes true news, mentre que els noticiaris cinematogràfics, des dels seus orígens a principis del segle XX, sempre van estar vinculats a la reconstrucció o escenificació dels fets. De fet, la millor manera d’arribar a alguna veritat (tot i que sempre parcial) és des de l’anàlisi sistemàtica dels discursos públics. Aquesta perspectiva et convida a desgranar tots els mecanismes de construcció de la ideologia de qualsevol discurs, a entendre el seu caràcter posicionat i artificiós, a dominar-ne el codi. Com si tota afirmació sobre el món no fos més que una hipòtesi que ens servís com a punt de partida, no d’arribada. A més a més, el discurs oficial i hegemònic dels mitjans sempre és excloent, deixa fora més veus que les que inclou. Així, la pregunta més operativa no seria aquella que ens convida a pensar si una cosa és veritat o mentida, sinó per què llegim com llegim la realitat i quines són les derivacions ètiques d’abordar la realitat amb tot el seu caràcter complex i ficcional, amb tot el seu arsenal retòric, amb tot el seu substrat ideològic. A les xarxes socials som receptors, però també emissors d’informació. El discurs, llavors, ja no s’adapta a la veritat, sinó a les circumstàncies de cadascú, sobretot si tenim en compte que l’algoritme personalitza la interfície en funció de cada usuari. Potser aquesta és la principal diferència respecte al model de manipulació de l’opinió pública dels mitjans de comunicació de masses del segle XX. Les xarxes socials ens obliguen a deslligar l’opinió pública de la democràcia; a parlar de mitjans de propagació en comptes de mitjans de comunicació. Al llibre Irresistible (2017), Adam Alter explica per què les xarxes socials creen tanta addicció, i un dels motius que dona és l’alt protagonisme que hi té la incertesa de la resposta que provocaran les informacions que hi deixem, i com la resposta dels altres ens suposa gratificació, és a dir, un plaer derivat del reconeixement aliè. Les hormones de la felicitat llavors s’activen, de la mateixa manera que, en sentit contrari, la falta de resposta ens genera malestar i inseguretat. De fet, l’any 2014, en un experiment acadèmic cinc neurocientífics van concloure que Facebook activava la mateixa part del cervell que la ludopatia o l’addicció a les drogues. La veritat, doncs, ja no té a veure amb l’ordre del discurs, sinó amb la resposta dels altres, amb la seva reactivitat; una reactivitat que no és neutra o conseqüència dels mèrits, perquè està altament influenciada
Es parla de fake news com si hi hagués unes true news, mentre que els noticiaris cinematogràfics, des dels seus orígens a principis del segle XX, sempre van estar vinculats a la reconstrucció o escenificació dels fets.
165
Algoritmes: la nova servitud voluntària
per l’algoritme que estructura la interfície de les xarxes en funció dels teus patrons de comunicació i consum, d’allò que ja és un tema recurrent (how to…), d’un tema del moment (trending topic) o d’alguna cosa escandalosa (ens atreu més allò que surt de les convencions socials o del que tenim integrat i tolerem). Aquesta gratificació determinada per l’imaginari algorítmic estructura la comunicació des d’un vessant emocional. A més a més, implica un xantatge implícit, ja que els likes i els comentaris donen visibilitat a la informació i, per tant, si en reps n’acabes donant perquè la màquina expenedora de gratificació social no s’aturi. L’any 1955 els sociòlegs Paul Lazarsfeld i Elihu Katz van afirmar, a Personal Influence, la importància dels grups de comunicació i dels líders d’opinió en la formació i transformació dels judicis de la massa. El que no preveien Lazarsfeld i Katz és que el que acabarien proliferant són uns líders que, a diferència dels que ells mencionaven (gent especialitzada en àmbits diferents), podrien parlar de tot de la mateixa manera: sense veu pròpia. Em refereixo als influencers i als youtubers, especialistes a aparèixer i donar consells estilístics i emocionals i, en general, grans professionals de l’empatia omnidireccional dins la confraria digital global. Les marques que difonen han quedat tan integrades en ells mateixos que és impossible saber què és publicitat i què és un estil propi de vida. De fet, el desgast de l’exposició pública permanent és tan gran, que molts d’ells tenen una vida professional molt curta, sumits en depressions i atrapats per un context tòxic on com més fràgil ets, més et premia l’algoritme, tal com la premsa internacional va recollir en diversos articles el 2018. A les xarxes socials, la comunicació és regulada per un sistema de subscripció a canals o per peticions d’amistat. La subscripció o els follows (seguiments de comptes aliens) impliquen una relació sempre asimètrica, ja que divideixen la societat online entre seguits i seguidors, entre líders i aquells que fan d’amplificadors de les opinions majoritàries. Malgrat això, el seguidor treu pit i intenta sortir de la seva condició subalterna tot fent ostentació d’una vida rica en estímuls, contextos i relacions. De fet, el fake world és a les xarxes socials el que el naturalisme és a la pintura realista.
ELIHU KATZ i PAUL FELIX LAZARSFELD: Personal Influence: The Part Played by People in the Flow of Mass. Glencoe (Illinois): The Free Press, 1955
El follower treu pit i intenta sortir de la seva condició subalterna tot fent ostentació d’una vida rica en estímuls, contextos i relacions. De fet, el fake world és a les xarxes socials el que el naturalisme és a la pintura realista.
167
Algoritmes: la nova servitud voluntària
Però els autèntics prescriptors de les plataformes (Amazon, Spotify, YouTube…) són els algoritmes. Els suggeriments es mouen en una doble direcció: la que s’adequa més als teus patrons de consum, i la dels més venuts. Però només allò que ja és massiu pot esdevenir massiu. L’algoritme confirma de forma autoreferencial la mateixa massa i el seu gust general, el qual esdevé un nou universal. És a dir, aquestes aplicacions personalitzen i massifiquen. Les prescripcions de contingut al voltant de les nostres preferències les generen filtres bombolla, un diàleg entotsolat amb nosaltres mateixos, feliçment abandonats a la nostra pròpia radicalització. El capitalisme actual orienta la seva economia cap a la informació, que ha trobat en internet el seu millor aliat. D’aquí que puguem parlar de semiocapitalisme o de capitalisme psíquic; és a dir, del fet que els signes produeixen valor, però també les idees, els pensaments, els estats emocionals. Tots ells circulen per les xarxes socials com la seva mercaderia privilegiada, en què hi ha uns pocs que controlen el codi i una massa de masses que és controlada per ell. En la tecnologia mòbil connectada res no es destrueix, tot es transforma en dades; la teva opinió, la teva expressió, les teves afliccions inscrites en el llenguatge són datificades. El procés de datificació va ser descrit per primera vegada l’any 2013 per Meyer-Schönberger i Cukier per parlar de la transformació de l’acció social a dades quantificades en línia que permeten un seguiment i unes anàlisis predictives en temps real. La colonització del capitalisme psíquic és mental: no solament treu partit dels nostres estats d’ànim, sinó que, a través dels algoritmes, ens indueix a un estat mental, ens mobilitza l’ànima cap a direccions concretes. El 2012, Facebook va fer un experiment amb més de 700.000 perfils de la seva xarxa per veure com canviava el comportament dels seus usuaris si feien aparèixer informació positiva o negativa als seus time lines. Tothom va oblidar-se’n de seguida, fins que van començar a sorgir escàndols com el de Cambridge Analytica (2018), en què es va saber que l’empresa havia violat els termes i condicions de l’aplicació i havia obtingut informació de milions d’usuaris per crear anuncis polítics en la campanya presidencial dels Estats Units del 2016 que va donar la victòria a Donald Trump. La penalització que Facebook va fer a Cambridge Analytica va costar a l’empresa de Zuckerberg 6.000 milions de dòlars a la borsa. El capitalisme de plataformes té això: entén que la informació (dades) és poder, independentment de com s’hagi obtingut. Cambridge Analytica (implicada en el referèndum del Brexit i en les últimes eleccions de Nigèria, la República Txeca, l’Índia, o en la d’Argentina, que va donar la victòria a Macri) és una de les més de 300 empreses que es dediquen al microtargeting polític des de la mineria de dades, és a dir, ras i curt, a fer encaixar el missatge polític a l’usuari: a modificar el comportament electoral de les masses connectades a les xarxes socials a través de fake news o de la parcel·lació de la realitat tot buscant persones permeables als canvis d’opinió. N’hi diuen, amb tot el cinisme, escolta social (social listening), un eufemisme que emmascara un procés de monitorització de xarxes socials i internet que permet identificar comentaris, converses, opinions, preferències, dades d’usuaris, clients potencials... L’algoritme esdevé, aleshores, l’autèntic líder d’opinió. Aquests algoritmes ens conviden al
El Món d’Ahir
168
Ingrid Guardiola
conductisme integrat: tot és modificació de l’ànim a través de la gestió de la informació, tot el que era comunicació ara és persuasió. Com ha escrit el professor Siva Vaidhyanathan, Facebook ha passat de ser el sistema operatiu dels nostres ordinadors a convertir-se en el sistema operatiu de les nostres vides. Totes aquestes crítiques han portat Facebook a canviar l’algoritme i a penalitzar el clickbait per tal d’evitar les fake news i els escàndols globals. En el Manifest que Zuckerberg va escriure el 16 de febrer del 2017, va deixar clar que la seva empresa, a partir d’aleshores, premiaria les «interaccions socialment significatives i el temps ben invertit», però ¿com es tradueix això algorítmicament? Una manera d’evitar les fake news ha estat premiar els vídeos i continguts nadius (allotjats al propi canal), però això també té una lectura negativa, ja que el contingut nadiu fa que no et desplacis de l’aplicació, augmenta la teva fidelitat, impedeix que fugis cap a un altre enllaç, s’assegura que generis dades (capital) dins de l’empresa. A més a més, l’opció del live (emissió de continguts en directe) de vegades pot funcionar com una autèntica «bomba informàtica»; per exemple, el 17 de març del 2019, Brenton Tarrant va ser acusat de terrorisme quan va emetre per Facebook l’atac a una mesquita de Christchurch (Nova Zelanda). La violència i la seva exhibició van indestriablement unides, formen part de l’alliçonament públic i de l’adoctrinament polític. Com diu la tecnosociòloga Zeynep Tufekci, estem ensenyant als algoritmes d’autoaprenentatge que tendim a clicar més aquells vídeos que defensen opinions radicals o enganyoses. Sentiments com la indignació o l’eufòria també ens fan clicar més, sobretot tenint en compte que, com hem dit, el context de les xarxes socials es basa més en les emocions que en els arguments. La mirada es torna feixista quan pren per nociu allò que ens fa diferents. Quan l’odi s’instaura com a context, és molt fàcil passar del lurking (espionatge digital amb actituds passives) al judici, i del judici al càstig. Tots ens vigilem a tots amb una mirada que oscil·la indiferentment entre allò que és lúdic i allò que és punitiu. En el capítol sobre El secret del Soy Cámara (el programa del CCCB), Jorge Luis Marzo recorda Maquiavel i el fet que, per establir una relació de dependència entre governants i governats, el que importa no és tenir el secret, sinó dir que el tens. L’imaginari algorítmic funciona una mica així: tota una indústria milionària gira al voltant del que anomenen «publicitat programàtica», que són decisions preses pels algoritmes, molts dels quals ja estan basats en processos d’autoaprenentatge a través de l’entrenament de xarxes neuronals que recullen tota la informació que aboquem a diari en aquests espais online. Però el problema no són solament els algoritmes, o les fake news, sinó sobretot l’alarmant pèrdua de sentit crític, l’augment de la servitud voluntària de l’ésser humà i la incapacitat per imaginar un futur diferent en el que el sociòleg Ulrich Beck anomenava «un món en fuga» (a runaway world), un món que no expressa més que el seu desig de dormir. Una relectura del Discurs de la servitud voluntària o el contra un, que La Boétie va escriure al segle XVI, ens permet constatar la seva vigència. La Boétie es pregunta quina és la raó de ser dels tirans, què els fa possibles. El tirà tipus que descriu, bé podrien ser avui les grans companyies com Apple, Facebook, Microsoft, Google, Amazon o Alibaba, i els seus guardians i arquers, els
169
ÉTIENNE DE LA BOÉTIE: De la servitude volontaire, ou Le contr’un Publicat per primer cop l’any 1574 i editat l’any 1836 a Brussel·les per Adolphe Rechastelet
Algoritmes: la nova servitud voluntària
algoritmes. «¿D’on heu tret tots aquests ulls que us espien, si no de vosaltres mateixos?», es pregunta La Boétie dirigint-se al poble. Certament, el capitalisme de plataformes basat en la mineria de dades i l’autoaprenentatge de les màquines no necessita cap instrument disciplinari, en té prou amb la gestió matemàtica de la gratificació. La Boétie diu que Cirus, després d’apoderar-se de Sardes, capital de Lídia, en comptes d’enviar l’exèrcit a aturar la insurrecció popular, va preferir muntar-hi prostíbuls, tavernes i jocs públics, tot en favor dels ciutadans, un model gratuït d’oci (les empreses tecnològiques n’hi diuen freemium, com si t’alliberés d’alguna cosa que mai és qüestionada perquè només n’analitzem les conseqüències, no les causes). Per a l’autor francès, els teatres, els jocs, els espectacles, els gladiadors, els animals exòtics, les medalles, les grans exhibicions i altres drogues (tot allò que avui dia podem trobar a internet), eren per als pobles antics els esquers de la servitud, el preu de la seva llibertat, els instruments de la tirania. No hem canviat gaire. Però La Boétie també ens diu que el tirà no és res sense la submissió de la gent, que no ens n’hauríem d’estranyar ni de lamentar, sinó assumir el mal amb resignació i reservar-nos per a un futur millor. Per fer-ho, necessitem que la imaginació i el desig no estiguin hipotecats pels algoritmes ni per cap altra forma de servitud voluntària. El que converteix el món en un simulacre, en un fake, no és internet, és la covardia.
Il·lustració de Run Design
Necessitem que la imaginació i el desig no estiguin hipotecats pels algoritmes ni per cap altra forma de servitud voluntària. El que converteix el món en un simulacre, en un fake, no és internet, és la covardia.
El Món d’Ahir
170
Ingrid Guardiola