‘Mașinăria de minciuni’ de Philip N. Howard, apărută în 2020 și publicată în România în 2023 de Editura Paralela 45 în traducerea lui Claudiu Neacșu este o carte care m-a interesat din primul moment în care am auzit despre ea. Subiectul este relevant și din punctul meu de vedere profesional și al angajării sociale și al înțelegerii lumii în care trăim. Am studiat și eu influența Internetului și a rețelelor de socializare și am scris și eu destul de mult despre acest subiect. Despre cât de actuală și cât de relevantă este cartea ne poate sta mărturie această știre apărută astăzi, 7 martie 2024, data când scriu această recenzie:
‘Întrebaţi în ce măsură consideră că alegerile din 2024 (europarlamentare, locale, parlamentare și prezidenţiale) vor fi afectate de dezinformare şi ştiri false, 34.2% spun că în foarte mare măsură, 37% în mare măsură, 19.4% în mică măsură, iar 7% deloc. 2.3% nu ştiu sau nu răspund.’
Acest text a fost copiat de pe Ziare.com Sondaj INSCOP: ‘Mai mult de jumătate dintre români votează mereu același partid. Peste 45 la sută cred că alegerile nu sunt corecte.’ – https://ziare.com/alegeri/alegeri-romani-partid-voteaza-sondaj-1856836?
Peste 71% dintre români considera că dezinformarea și știrile false vor influența alegerile din 2024. În cuvintele lui Philip N. Howard este vorba despre ‘mașinăriile de minciuni’.
Cine este Philip N. Howard? Născut la 9 decembrie 1970 la Montreal, este sociolog și cercetător în comunicații, expert în domeniul impactului tehnologiilor informaționale asupra democrației și inegalității sociale. A studiat modul în care noile tehnologii informaționale sunt utilizate atât în angajamentul civic, cât și în controlul social în țări din întreaga lume. Este profesor de Studii Internet la Institutul de Internet și la colegiul Balliol de la Universitatea din Oxford. Din martie 2018 până în martie 2021, deci și în perioada când această carte a fost scrisă și publicată, a fost director al Programului pentru Democrație și Tehnologie de la Institutul de Internet Oxford. În această calitate, Howard a contribuit la peste 130 de rapoarte despre propagandă computațională, comunicare politică, interferență electorală și abuzarea mediilor de socializare de către politicieni și guverne străine. A fost invitat să depună mărturie despre interferențele electorale în fața Parlamentului Regatului Unit, a Comisiei Europene și a Senatului SUA.
Ce sunt ‘mașinăriile de minciuni’ din titlu? Iată o definire oarecum formală:
‘Dacă aş fi constrâns să ofer o definiție formală a maşînăriei de minciuni, aș spune că această carte se referă la mecanismele sociale şi tehnice de punere a unei afirmații neadevărate în slujba ideologiei politice.’ (pag.14)
‘O maşinărie de minciuni încorporează un sistem de oameni şi tehnologii care distribuie mesaje false în slujba unei agende politice. Sistemul implicat poate include mai multe tipuri de organizații, persoane și relații (de la angajați plătiți, la voluntari înscrişi în diferite asociații și până la grupuri de afinitate care produc conținut şi îl distribuie prin intermediul rețelelor de familie şi de prieteni). Persoanele care produc acest conținut au fie un stimulent politic, fie unul financiar pentru a depune un astfel de efort – lucrează pentru partidele politice ori sunt consultanţi politici şi lobbisti ai grupurilor de interese dintr-un domeniu al economiei. Însă cei mai importanți oameni din aceste rețele sunt cetăţenii care fac greşeala de a da mai departe o informație eronată provenită dintr-o sursă de ştiri necorespunzătoare, de la un utilizator fals sau de la un agent politic de faţadă, către nişte rețele mai largi de cetățeni şi alegători reali.’ (pag.39)
Observați că noi, utilizatorii Internetului, suntem direct implicați, suntem într-un fel, voit sau nu, parte din mașinărie. Pentru a preveni situația în care devenim canale de comunicare și de amplificare a dezinformărilor, trebuie să înțelegem cum funcționează acestea. Philip N. Howard le demontează și le expune structura și dedică un capitol amplu fiecăreia dintre cele trei componente principale:
‘Maşinăriile de minciuni au trei componente principale. Și, dacă examinăm piesele şi înțelegem cum funcționează împreună, putem concepe modalități de a le demonta sau chiar de a le împiedica să fie construite. Prima componentă o reprezintă producătorul de minciuni, care serveşte o ideologie sau interesele elitelor politice. Acest producător este adesea un candidat politic, o echipă de campanie, un partid politic sau o agenție a unui guvern autoritar, dar poate fi și un actor politic marginal mânat de intenția de a perturba viața publică. A doua componentă constă în distribuitorul de minciuni: algoritmul pe care firmele de social media îl furnizează pentru răspândirea conținutului. Rețelele sociale precum Facebook, Instagram, Twitter şi WhatsApp – precum şi datele pe care le colectează despre preferințele noastre politice – reprezintă sistemul de distribuție a minciunilor politice. Cea de-a treia componentă-cheie este promotorul de minciuni, de obicei o firmă de consultanță, un lobbist sau un mercenar politic care obține profit din vânzarea, amplificarea şi promovarea dezinformării. Marile maşinării de minciuni au sisteme de producție, distribuţie şi marketing care depăşesc granițele internaționale….’ (pag. 25)
În viziunea lui Howard, mașinăriile de minciuni sunt structuri socio-tehnologice, preluând comandamente sociale sau personale cum sunt dorința de comunicare și asociere, cauze ecologice sau legate de drepturile cetățenești și imperative politice, în special în perioadele electorale, și promovându-le prin intermediul mijloacelor de comunicare, acces la informație și difuzare a mesajelor făcute posibile de revoluția internetica. Ce facem însă atunci când în loc de informație este propagată dezinformația?
‘În concluzie, mecanismul pe care trebuie să-l înțelegem și să-l restructurăm implică atât oamenii, cât şi tehnologia. Unii oameni generează dezinformări politice; platformele de socializare precum Facebook, Instagram şi Twitter le răspândesc. Unii politicieni transmit mesaje negative; Twitter propagă mai departe furia şi indignarea cauzată de respectivele mesaje. Desigur, mulți jurnaliști continuă să facă jurnalism de înaltă calitate, iar numeroși politicieni au idei pozitive şi constructive despre politicile publice. Însă jurnalismul longeviv şi de înaltă calitate, precum și ideile noi și interesante despre politicile publice nu sunt diseminate la fel de mult că ştirile extremiste, conspiraționiste şi senzaționale, deşi lipsite de conținut. Oare, dacă am analiza întregul mecanism, cu părțile sale sociale şi tehnice, l-am putea reproiecta să sprijine normele democratice?’ (pag.50)
Pentru a exemplifica mecanismele componente ale mașinăriilor de minciuni – producția, distribuirea și promovarea dezinformației – autorul imaginează două firme imaginare, una în Polonia, cealaltă în Brazilia, care furnizează servicii de consultanță: Imitacja și Imitação. Este vorba despre nume și companii fictive, dar după modelul lor există zeci sau sute de firme reale în toată lumea. Multe acționează în umbră și cu greu se poate afla ceva despre activitatea lor, altele sunt faimoase și au imagini publice foarte vizibile.
Una dintre componentele care s-au dovedit extrem de puternice în campanii de dezinformare bine organizate sunt boții. Diversitatea și modul lor de acțiune sunt descrise în detalii și sunt în mare parte actuale și astăzi, chiar daca evoluția boților a înregistrat un salt calitativ semnificativ în ultimii ani prin utilizarea Inteligenței Artificiale generative.
‘Un bot sau botnet – termeni care provin de la robot şi network – reprezintă o colecție de programe care fac să comunice între ele mai multe dispozitive, pentru a îndeplini nişte sarcini. Un bot poate lua forma unui utilizator fals, fiindcă înmagazinează o serie de afirmaţii şi răspunsuri prestabilite, pe care le expediază către conturile din rețeaua sa imediată. O colecție de boți, lucrând în mod concertat ca un botnet, expediază cascade masive de conținut către o rețea extinsă de utilizatori umani … Având puterea de a se replica și de a trimite rapid mesaje, boții perturbă în mod eficient o conversație dintr-o rețea de utilizatori sau încetinesc serverele unei platforme şi consumă lățimea de bandă a unui utilizator. O altă problemă, mai periculoasă, este că boții au capacitatea de a trece drept persoane reale, în rețelele noastre sociale. Este deja dificil să-ți protejezi propria identitate online şi s-o verifici pe-a altcuiva, dar boții introduc un nivel suplimentar de incertitudine în ceea ce priveşte interacțiunile pe care le avem în social media.’ (pag. 94-95)
Cartea fiind scrisa și apărută în 2020, cele două cazuri faimoase de utilizare a mașinăriilor de minciuni în scopuri politice și specific electorale menționate aparțin mijlocului deceniului precedent. Este vorba despre referendumul despre Brexit din Marea Britanie și despre alegerile prezidențiale americane din 2016. Sunt expuse mecanismele tehnologice, elementele de inventivitate introduse de aceste campanii cum ar fi microtargetarea, expunerea selectivă și propaganda computațională, dar și cadrul legal și abaterile de la normele electorale care au fost expuse în aceste ocazii. Toți acești factori au contribuit în mod decisiv, în opinia autorului, la rezultatele finale ale proceselor electorale. O consecință și mai gravă, poate, și de termen lung este erodarea încrederii electoratului în legătură cu procesele politice și scăderea influenței, până la dispariție, a mijloacelor de informare profesioniste.
‘Numeroși factori au dus la răspândirea extrem de rapidă a ştirilor false, cu efecte diverse în diferite țări. Jurnalismul, în special presa scrisă, s-a transformat radical, de la apariția presei online și a unor platforme precum Google şi Facebook. Cel mai profesioniste agenții de ştiri din fiecare țară trebuie acum să concureze cu producătorii de conținut – naționali şi internaționali – care produc ştiri neserioase, respectiv comentarii generatoare de senzațional, conspiraționiste, extremiste și incendiare, ambalate sub formă de ştire.’ (pag. 198)
‘Referitor la profesionalism, aceste canale de difuzare a informației ignoră cele mai bune practici, precum şi standardele jurnalismului adevărat. Ele nu furnizează informații clare despre autorii, editorii, reporterii şi beneficiarii reali ai ştirilor. Omit chiar şi informațiile elementare privind transparența, evitând responsabilitatea vizavi de finanțarea activității lor, și nici nu publică vreodată dezmințiri. Din punct de vedere stilistic, folosesc un limbaj bazat pe emoții, cu expresii menite să incite la revoltă, hiperbole, atacuri la persoană, titluri înşelătoare, majuscule excesiv folosite, generalizări şi erori dăunătoare, imagini neclare, grafică provocatoare şi meme mobilizatoare. Toate sunt lipsite de credibilitate, bazându-se pe minciuni şi teorii ale conspirației, folosite strategic. Astfel de organizații pun în circulație o poveste fără a consulta în prealabil mai multe surse şi, evident, nu verifică faptele. Sursele însele sunt rareori echilibrate sau demne de încredere. Subiectivitatea acestor instituții variază de la texte cu o uşoară tentă ideologică până la relatări exagerat de partizane. În mod frecvent, sunt prezentate drept ştiri nişte articole de opinie, eseuri sau comentarii pe marginea unor subiecte arzătoare. În fine, aceste organizații creează deseori site-uri întregi de știri contrafăcute, imitând culorile şi modalitățile de promovare folosite de mass-media profesionistă. Asta implică imitarea imaginii (fonturi, mărci, stil literar etc.). Comentariile sunt deghizate în ştiri, făcând trimitere la diferite agenții de presă și surse credibile, iar titlurile au un ton jurnalistic, articolele conținând data calendaristică, ora difuzării şi locația.’ (pag. 148-149)
În lumea în care rolul editorului ca dispecer controlor de calitate al informației a dispărut și orice dispozitiv conectat la Internet (cu operator uman sau automat) poate genera conținut sau ceva ce seamănă a conținut, concurența este extrem de dificilă și zgomotul informațional derutează utilizatorii.
‘Absența editorilor umani din fluxurile noastre de ştiri facilitează, de asemenea, manipularea rețelelor sociale de către actorii politici. Am constatat că liderii politici din multe democrații tinere folosesc în mod activ automatizarea, pentru a răspândi dezinformări şi ştiri false. Se pare că rețelele de socializare au trecut de la statutul de infrastructură firească pentru împărtăşirea nemulțumirilor colective și coordonarea angajamentului civic la cel de tehnică de calcul pentru controlul social exercitat de consultanți politici abili şi dictatori lipsiți de scrupule.’ (pag.205)
Se poate observa o orientare destul de clară a criticilor din carte spre politicienii și instituțiile care aparțin populismului de dreapta. Fenomenul însă are o distribuire destul de echilibrată pe eșichierele politice globale și de el beneficiază și guverne autoritare cu orientare de stânga (China, Venezuela) precum și state care aparțin spațiului dictatorial islamic (Iran, mai recent și Turcia). Posibil ca într-o ediție revizuită în 2023 imaginea prezentată să fi fost ceva mai nuanțată. Dar chiar și în 2020, Philip N. Howard scrie:
‘Rusia şi China sunt, cu siguranță, superputeri atunci când vine vorba despre lansarea unor campanii de dezinformare. Însă ne putem aştepta ca și alte regimuri să-şi dezvolte capacitatea de a influența opinia publică la nivel global. Turcia, Iranul şi Venezuela îşi utilizează deja maşinăriile de minciuni în probleme-cheie privind drepturile omului şi afacerile internaționale. Guvernele autoritare tind să învețe unele de la altele, iar noi am văzut tot mai multe astfel de regimuri aplicând aceste tehnici. În 2017, existau 28 de țări având organisme formale – agenții guvernamentale secrete, grupuri de lobby, partide politice sau staffuri de campanie – capabile să folosească algoritmii din social media pentru a distribui informații false. Doar un an mai târziu, atunci când a fost făcut acelaşi inventar, numărul acestor țări crescuse la 48. Apoi, în 2019, am găsit 70 de astfel de state. Având în vedere că tot mai mulți actori politici îşi dau seama că pot fi ținta altora, numărul guvernelor străine și al politicienilor care pompează resurse pentru a produce maşinării de minciuni nu va face decât să crească.’ (pag. 200)
Rusia lui Putin este și în acest context un caz special. Howard identifică unele dintre primele ‘premiere tehnologice’ în domeniul boților în activitățile organizate sau sponsorizate de neo-naționalismul și imperialismul rus, încă dinainte de 2010. Influențarea campaniei electorale prezidențiale americane în 2016 este atribuită în mare măsură tot Rusiei. Rusia nu este lider tehnologic în multe domenii în zilele noastre, dar iată unul în care poate revendica cu succes pionieratul.
O problema a cărții, și în fapt a majorității cărților despre tehnologiile avansate în contextul evenimentelor curente, este faptul că descrie o realitate foarte dinamică, una caracterizată de schimbări rapide. Chiar și exemplele politice din carte par a aparține unui trecut mai îndepărtat decât numărul de ani scurși. În 2024 avem de-a face cu o nouă campanie prezidențială americană, și lumea a trecut prin încă una în 2020. În Brazilia s-a schimbat de două ori în mod radical regimul politic și chiar și în Polonia a avut loc o schimbare completă de direcție. Și mai vizibile sunt însă progresele tehnologice. Philip N. Howard a sesizat bine impactul posibil al Inteligenței Artificiale și îi dedică un număr de paragrafe corecte, însă depășite de evenimente. Saltul calitativ în AI care a avut loc în ultimii doi ani are perspective amețitoare pentru perfecționarea mașinăriilor de minciuni. Nu doar că boții devin din ce în ce mai experți în a simula comportamentul, vorbirea și modul de a gândi al oamenilor, dar și fabricarea de ‘documente’ care să sprijine sau chiar să reprezinte miezul știrilor false constituie un salt calitativ îngrijorător în epoca Inteligenței Artificiale generative.
Ultimul capitol al cărții m-a dezamăgit puțin. În el, Philip N. Howard încearcă să propună niste soluții de viitor, și pregătește un fel de climax, promițând să dezvăluie aici ‘cum salvăm democrația’. Mi-a plăcut că a început prin a sugera că viitorul nu ar trebui să restrângă comunicațiile (deci nu introducerea unor filtre cenzoriale sau sugrumarea surselor ar fi soluția) ci să le extindă. Ceea ce propune în continuare este un grup de cinci măsuri care ar avea ca scop să scoată informația de sub presupusul control al marilor firme IT și transferarea acestora în biblioteci publice transparente, accesibile tuturor. Ar transforma asta mașinăriile de minciuni în mașinării ale adevărului și transparenței? Întrebarea este cum ar putea avea loc o asemenea tranziție de la situația reală și complexă în care ne aflăm astăzi. Alegătorii sunt cei pe care îi vedem în rezultatele alegerilor și utilizatorii Internetului sunt cei pe care-i citim în postări. Textul capitolului este plin de exprimări ca ‘ar trebui’, ‘sunt necesare’, ‘avem nevoie de …’,etc. Am impresia însă că ceea ce propune Philip N. Howard în acest capitol ne bagă într-o situație de gen ‘Catch 22’. Presupunând că suntem de acord cu acest plan, în cine să avem încredere pentru a legifera și executa un asemenea proces de tranziție? În aceleași parlamente și aceiași politicieni aleși în funcții executive cu ajutorul mașinăriilor de minciuni? Ce interes ar avea aceștia să distrugă sau să schimbe radical sistemul care a pus puterea în mâinile lor? Nu am alte propuneri de soluții minune pentru viitor, dar aș începe de la reducerea, dacă nu încetarea, demonizării ‘marilor firme IT’ care sunt astăzi posesoarele uriașelor baze de date despre utilizatorii aplicațiilor de medii de socializare și ai altor aplicații. Acestea au făcut fără îndoială greșeli și au folosit și folosesc în mod nu foarte transparent datele despre utilizatori și algoritmii de prelucrare ale acestora. Scopul lor însă a fost intotdeuna clar și declarat – profitul. Acesta este capitalismul, fără profit o afacere nu se poate menține și dezvolta. De 20 de ani și mai bine, ca utilizatori, nu plătim nimic pentru Facebook sau Google. Personal am mai multă încredere în motivațiile liderilor marilor companii IT (cu o excepție) decât în cele al politicienilor.
Câteva cuvinte despre această ediție a cărții. Traducerea lui Claudiu Neacșu mi s-a părut foarte bună, cu o singura observație: m-a deranjat folosirea repetata a expresiei ‘social media’. Mie nu-mi sună deloc românește. Eu prefer să folosesc ‘medii de socializare’ – echivalent românesc corect și nu cu mult mai lung. Cele 240 de pagini de text sunt însoțite de un aparat critic de încă 38 de pagini incluzând un Glosar, note și bibliografie. Formația științifică a autorului este evidentă și rigoarea este la locul ei, mai ales că argumentațiile sunt susținute în multe locuri de date statistice ale căror sursa și moment în timp sunt importante, tocmai într-o discuție despre adevărul informării pe Internet.
‘Mașinăria de minciuni’ este o carte pasionantă despre un subiect fierbinte. Chiar dacă este ușor depășită ca evenimente și tehnologie în unele detalii, structura este clară și demonstrația cât se poate de elocventă. Situația complicata a lumii în care trăim se datorează în considerabilă măsură folosirii greșite sau cu rea intenție a progreselor uluitoare în ceea ce privește accesul și viteza de transmitere a informației din ultimele decenii. Mai este posibil să frânăm procesul de degradare a informării și a dezbaterii publice și să transformăm mașinăriile de minciuni în mașinării de adevăr și transparență? Răspunsul nu este clar, dar trebuie să încercam. La fel ca și în alte domenii critice ale lumii contemporane – înarmarea nucleara, echilibrul climatic și ecologic – pericolele sunt imediate, reale și imposibil de ignorat.