Yuval Noah Harari nu se sfiește să facă afirmații răspicate, surprinzătoare, provocatoare. Intelectualul israelian născut în 1976, profesor în departamentul de istorie al Universității Ebraice din Ierusalim, autorul a trei cărți de mare succes și popularitate apărute în traducere și în limba română la Editura Polirom (‘Sapiens. Scurtă istorie a omenirii’; ‘Homo Deus. Scurtă istorie a viitorului’; ’21 de lecții pentru secolul XXI’) este și un oaspete solicitat al emisiunilor de televiziune, și utilizează cu pricepere și formatul podcast sau cel al dialogurilor filmate și postate pe Internet, având ca parteneri alte celebrități media, de la Natalie Portman până la Mark Zuckerberg. De multe ori își punctează aparițiile publice sau articolele pentru ziarele și revistele de mare circulație cu fraze-ghilotină care se transformă repede în titluri sau citate. ‘Tehnologia înlesnește tirania’ apare în titlul (‘Why Technology Favors Tyranny’) unui articol apărut în numărul din octombrie 2018 al revistei ‘The Atlantic’ într-un grupaj care are și el o temă menită să atragă atenția: ‘Este democrația pe moarte?’ (‘Is Democracy Dying?’). Articolul este interesant în sine și abordează câteva subiecte și dezbate idei pe care, de-a lungul timpului, le-am adus în discuție și în rubrica CHANGE.WORLD. Au trecut doi ani de la publicare, s-au întâmplat multe evenimente de atunci, inclusiv o pandemie globală care a accelerat unele procese descrise sau prevăzute de Harari în articolul său, și cred că este un moment potrivit pentru a reveni asupra acestei problematici și a dezbate afirmația istoricului de la Ierusalim. Am păstrat titlul, însă mi-am permis să-i adaug un semn de întrebare.
Viziunile pesimiste prevalează astăzi cam în toate prevederile despre viitor. Ce deosebire față de atitudinea optimist-utopică cu care eram obișnuiți să abordăm viitorul în copilărie și adolescență, când mulți dintre noi ne-am îndrăgostit de sci-fi! Tehnologia urma să fie controlată riguros de oamenii viitorului, iar problemele sociale fie deja își găsiseră soluțiile, eventual prin ‘progresul’ spre socialism și comunism, fie erau atenuate și în curs de rezolvare, prin intermediul tehnologiilor avansate. Până și roboții erau prietenoși, devotați și aveau simțul umorului. Ce s-a întâmplat de atunci? Una dintre diferențele dintre viziunile despre viitor din trecut și realitățile de astăzi este faptul că, pe măsură ce roboții se perfecționează și Inteligența Artificială (AI) se maturizează, mașinile primesc sarcini din ce în ce mai complexe, și nu de natură mecanică, devenind competitori ai speciei umane în domenii legate de gândire și mai puțin de abilitați fizice. În 1997, calculatorul Deep Blue al lui IBM l-a învins într-o partidă istorică pe campionul mondial en titre, Gary Kasparov. De atunci încoace campionatele mondiale de șah ale calculatoarelor au devenit la fel de interesante și de mare nivel ca și cele ale oamenilor. Programul AlphaZero, care a câștigat competiția în 2017, avea însă o calitate specială. Învățase șah singur, spre deosebire de toți adversarii săi care fuseseră programați. În cât timp? În patru ore. Generalizarea poate fi făcută imediat. Dacă un calculator poate atinge în mod autonom un nivel competitiv de campion într-un domeniu ca șahul, atunci acest lucru se poate întâmpla în multe alte domenii de activitate care implică activități intelectuale – medicină, administrație, finanțe etc. Abia ne obișnuiserăm cu ideea că robotii și programele digitale vor înlocui muncitorii de pe liniile de asamblare sau șoferii de vehicule, și iată că și o mare parte dintre profesiile ‘intelectuale’ par a fi amenințate. Tensiunile sociale rezultate din eliminarea a sute de milioane de locuri de muncă par inevitabile. Cine va profita de aceste schimbări?
Harari abordează în continuare subiectul posibilei ‘revolte a mașinilor’, scenariu care i se pare puțin probabil în deceniile următoare. Amenințarea principală o consideră a veni din altă parte. Progresele spectaculoase ale Inteligenței Artificiale permit acestora să propună decizii care, cel puțin teoretic, sunt superioare celor luate de oameni. Fie că este vorba despre alegerea unei viitoare profesii sau a școlii unde să fie trimiși copiii, sau de decizii privind cariera profesională la mijlocul vieții, sau de investiții financiare de care poate depinde siguranța economică a familiei, programele AI pot face recomandări competente. Care este problema? Competența aceasta se bazează pe datele pe care programele AI le au la dispoziție despre noi. Acestea includ capacitățile noastre fizice și intelectuale, gusturile și preferințele personale, ambițiile și angoasele de care câteodată nu suntem nici noi conștienți. Problema este că aceste date despre noi, ceea ce se numește în termeni de specialitate ‘profilul’ nostru, sunt culese prin analiza unor acțiuni și a unor date pe care le furnizăm uneori voluntar, alteori semi-voluntar (știm că Facebook sau Google înregistrează interacțiunile noastre, ‘like’-urile și căutările, dar ‘nu ne pasă’), și de multe ori fără știrea noastră (de exemplu, prin analiza fizionomiei). Dar dacă aceste informații cad în mâinile unor criminali sau ale unor servicii de ordine aservite unor sisteme politice care nu ne sunt pe plac (sau noi lor)?
Poate că este vorba despre întâmplare și noroc, sau poate că nu. De-a lungul istoriei, tiranii și dictaturile nu s-au împăcat prea bine cu avansurile tehnologice. Unii dintre ei poate că s-au temut de acestea, în alte cazuri descoperitorii și oamenii de știință au ezitat să-și pună talentele în slujba unor cauze sau sisteme nedrepte. Mihail Gorbaciov recunoaște în memoriile sale că unul dintre factorii centrali în pierderea de către Uniunea Sovietica a competiției geopolitice, care s-a numit în a doua jumătate a secolului trecut ‘războiul rece’, a fost decalajul tehnologic în domenii precum electronica, informatica, telecomunicațiile, genetica. Unele fuseseră declarate ‘științe burgheze’ în perioada stalinistă, și chiar daca sovieticii au renunțat după Hrușciov la aceste etichetări și au încercat să recupereze întârzierea, aceste schimbări de direcție au avut loc prea târziu. Investițiile uriașe în tehnologie militară și prioritatea acordată industriilor grele și energofage au făcut ca decalajul să nu poată fi recuperat până la căderea sistemului comunist, în ultimele decenii ale secolului trecut.
Situația aceasta se schimbă însă în ultimele decenii. Cea mai bună dovadă o reprezintă progresele uriașe făcute de China în domeniul Inteligenței Artificiale și, în general, în activitățile și economia legata de informatică. China este astăzi incontestabil a doua putere economică și tehnologică în aceste domenii și și-a propus să devină numărul unu mondial până în anul 2030. Aceasta țintă ambițioasă este inclusă în programul președintelui Xi, care este pentru China ideologie de stat. Universitățile și centrele de cercetare asociate din China, cum ar fi Institutul de Automatizări din Beijing au devenit centre de excelență, lideri științifici în domeniul AI. Sistemul economic chinez permite libera inițiativă și concurența, ceea ce stimulează dezvoltarea economică și garantează susținerea statului pentru întreprinzătorii care joacă după regulile stabilite și colaborează cu sistemul. Platforma City Brain, de exemplu, este un fel de centru informatic care colectează și prelucrează date de la senzori distribuiți într-o așezare urbană, de la camere video cu identificarea fizionomiilor până la cardurile care detectează tranzacțiile personale sau numerele de înmatriculare ale vehiculelor. Fiecare telefon personal este legat la sistem. Aplicațiile pot fi extrem de diverse și de utile – planificarea semafoarelor și a fluxului de circulație pe străzi și autostrăzi, identificarea bagajelor pierdute de turiști, a copiilor rătăciți și a situațiilor de urgență. Într-o pandemie, sistemul poate identifica pe cei care încalcă condițiile de carantină și poate contribui la anchete epidemiologice. Același sistem poate fi însă folosit și pentru scopuri polițienești și chiar și de supraveghere ideologică. Poate, și după multe informații și mărturii ar fi fost deja folosit în provincia Xinjiang din nord-vestul Chinei, unde autoritățile centrale sunt acuzate de reprimarea etnică și culturală a minorității musulmane uighure. Capacitățile de supraveghere personală în scopuri politice sunt practic nelimitate, și le-au depășit de mult pe cele imaginate de Orwell. Amenințarea este globală. Devenită deja o mare putere AI, China își exporta în toată lumea prin companiile sale de succes produsele cu capabilități de supraveghere personală și sistemele software asociate. Orice conducător autoritar populist și orice regim polițienesc la care vă puteți gândi este un client potențial.
Aplicațiile AI și folosirea datelor personale în scopuri care se află în afara controlului utilizatorilor este o problemă în toată lumea. În țările democratice, structurile politice dau o șansă de a restrânge intruziunea în datele personale ale utilizatorilor. Uniunea Europeană aplică reguli stricte (dar nu perfecte) de protejare a utilizatorilor. În țările cu regimuri politice totalitare, limitele sunt cele impuse de sistem. Ca și în alte domenii legate de drepturile omului, atunci când este vorba despre garantarea spațiului privat și a datelor personale cuvintele sunt aceleași, dar înțelesurile lor sunt diferite. Este necesară o revizuire a Cartei Drepturilor Omului și a legislațiilor care să includă definirea dreptului cetățenilor de a-și proteja datele personale și de a limita utilizările acestora. O astfel de revizuire ar putea fi baza unui răspuns și la problema tranzacțiilor de date personale și a utilizării acestora în scopuri comerciale de către aplicații cum sunt rețelele sociale. Aș minți daca aș spune că sunt optimist în ceea ce privește atingerea rapidă a acestui scop. Suntem însă într-o fază în care, ca societate, începem să înțelegem noua economie bazată pe date personale și valoarea acestora, ca și implicațiile politice ale controlului acestui tip de informație. Yuval Noah Harari trage un serios semnal de alarmă legat de aceste pericole, de concentrarea datelor personale în prea puține centre cu interese comerciale sau politice. Mesajul său este simplu. Dacă nu vrem ca noi și urmașii noștri să trăim în dictaturi digitale, este momentul să începem să acționăm.
(Articolul a apărut iniţial in revista culturală ‘Literatura de Azi’ – http://literaturadeazi.ro/)