Sfârșitul lumii a fost imaginat și prezis într-un număr infinit de scenarii și profeții. În ultimii ani li s-a adăugat o nouă categorie, a cărei sursă nu trebuie căutată nici în cărțile sfinte ale diferitelor religii, și nici măcar în filmele de anticipație cu tentă distopică. Apocalipsa nu este neapărat însoțită de ploi de pucioasă, nu este rezultatul vreunei conflagrații atomice, și nici planeta nu ne este bombardată de meteoriți. Este vorba despre pericolele, reale sau presupuse, prezente sau extrapolate spre viitor ale Inteligenței Artificiale (Artificial Intelligence – A.I.). Campionul acestor predicții este Ray Kurzweil și despre scenariile sale am scris deja în articole ale rubricii CHANGE.WORLD. Li s-au adăugat recent două nume cunoscute din domenii de expertiză diferite, dar suficient de reputate și bine informate într-o vastă gamă de subiecte pentru ca opiniile lor să merite să fie cunoscute și aduse în discuție. Este vorba despre Henry Kissinger și Timothy Snyder. Să vedem cum privesc ei viitorul interacțiunii dintre inteligența umană și mașinile gânditoare create de aceasta.
Henry Kissinger împlinește în aceste zile 96 de ani. Născut în 1923, s-a refugiat împreună cu familia sa în Statele Unite în 1938, pentru a scăpa de persecuțiile rasiale, preludiu al Holocaustului, din Germania sa natală. Și-a făcut serviciul militar în timpul celui de-al doilea război mondial în serviciile de informații ale armatei americane, și apoi în forțele de ocupație americane din Germania postbelică. După eliberarea din armată, a studiat științe politice la Harvard și a început o strălucită carieră care a combinat academia cu poziții de consultant al unor organizații influente și al unor politicieni cunoscuți, ca Nelson Rockefeller și Richard Nixon. Odată cu alegerea lui Richard Nixon ca președinte al S.U.A., devine consilier pentru securitate națională, post pe care îl va deține până în 1975, iar între 1973 și 1977 deține și funcția de secretar de stat (ministru de externe) în administrațiile președinților Nixon și Ford. Este considerat arhitectul politicii externe a lui Richard Nixon, care combina ‘realpolitik’ cu o linie conservatoare. Controversele l-au însoțit în tot timpul carierei sale. Unii istorici îl consideră cel mai eficient secretar de stat american de la al doilea război mondial încoace, autor printre altele al deschiderii față de China și de Europa Răsăriteană (inclusiv România), alții subliniază eșecurile sale, între care cel mai răsunător a fost acordul cu Vietnamul de Nord, care a pus capăt intervenției americane și războiului din Vietnam, dar a dus în mai puțin de doi ani la căderea Vietnamului de Sud sub control comunist. După ce s-a retras din viața politică activă, Kissinger s-a reîntors la cariera de consilier și a fost extrem de activ în calitate de conferențiar și de autor de cărți și articole de opinii in diferite domenii, de la relațiile internaționale până la… inteligența artificială.
Articolul pe care Kissinger îl dedică acestei teme a apărut în iunie 2018 în revista americană ‘Atlantic Monthly’, sub titlul ‘How Enlightment Ends’ (‘Cum se sfârșește Epoca Luminilor’) (1). Punctul de plecare îl constituie o știre care făcuse vâlvă cu câteva luni înainte de publicarea articolului. Fusese anunțată punerea în funcțiune a unei mașini gânditoare (de fapt program software) numită AlphaGo, capabilă să învingă marii maeștri ai acestui joc strategic de o complexitate care depășește cu multe ordine de mărime complexitatea jocului de șah. Ceea ce era însă remarcabil la Alpha Go era nu numai faptul că stăpânea măiestria jocului și secretele victoriei, ci mai ales faptul că le învățase în mare parte singură. Alpha Go fusese învățată doar regulile de bază ale jocului, restul realizase prin proces de ‘self-learning’, ceea ce o plasează fără îndoială în categoria sistemelor A.I. În câteva zile de rulare, mașina străbătuse în goană traseul pe care maeștrii jocului îl parcurseseră în mai bine de trei mii de ani. Intrigat de aceste dezvăluiri, Kissinger, care recunoaște că nu este un expert în materie, a purces cu ajutorul unor prieteni ‘de meserie’ la studiu. Descoperirile sale inițiale nu includ nimic ce nu știam deja. Folosirea Internetului pune accentul pe găsirea și procesarea informației mai mult decât pe punerea sa in context. Mașinile de căutare dotate cu inteligență artificială încearcă să optimizeze operațiile, personalizând rezultatele, dar influența lor nu este lipsită de considerente comerciale, care includ transmiterea informațiilor personale unor terțe părți.
De aici încep întrebările, cărora Kissinger le oferă și răspunsurile sale. Modul de lucru internetic ar adânci solitudinea. Este o afirmație discutabilă, ținând cont de faptul că multe proiecte legate de Internet sau bazate pe această tehnologie sunt rezultatul unei munci de echipă, proiecte de colaborare înlesnite sau chiar posibile doar prin intermediul Internetului. Un alt punct critic semnalat de Kissinger este lipsa de criterii etice ale algoritmilor de decizie A.I. Aici există un spațiu de discuții, dar întrebările sunt ceva mai complexe decât triviala problemă pe care o ia Kissinger ca argument prin exemplu: ‘cum decide o mașină cu șofer autonom să evite un accident, dacă trebuie să aleagă între moartea unui bunic sau a unui nepot?’. Scuze, domnule Kissinger, cu tot respectul, dar asta este o întrebare stupidă. Cum decide o ființă umană in aceleași condiții? Există criterii etice de necontestat într-o asemenea situație?
Henry Kissinger crede că civilizația noastră nu va trece cu ușurință și poate chiar nu va supraviețui, sub forma sa de organizare actuală, epocii de expansiune a Inteligenței Artificiale. El menționează trei zone speciale de interes și de îngrijorare: sistemele A.I. ar putea interpreta greșit instrucțiunile umane, din cauza lipsei de context în care procesează informația; vor apărea schimbări în modul de gândire a oamenilor, care vor încerca să se adapteze schimbărilor aduse de mașini (ca exemplu, teoriile jocurilor de șah și go s-au îmbogățit prin noi strategii sau tipuri de mișcări care nu fuseseră inventate de maeștrii jocurilor înainte de confruntările cu mașinile); și în final, mașinile ar putea deveni atât de perfecționate încât nu vor mai putea explica oamenilor logica acțiunilor lor, sau omenirea nu va mai putea fi capabilă să înțeleagă logica mașinilor create pentru a o servi. Zice Kissinger, în fiecare perioadă a istoriei, omenirea a avut uneltele intelectuale pentru a cunoaște și explica lumea din jur: religia în Evul Mediu, rațiunea în Iluminism, istoria în secolul 19, ideologiile în secolul 20. Ce vom face dacă ne va lipsi limbajul pentru a explica un univers format din mașini care depășesc cu mult capacitățile fizice și intelectuale umane? Chiar dacă raționamentul lui Kissinger are lacune, el ridică probleme care merită să fie dezbătute.
Tymothy Snyder s-a născut în 1969, an în care Henry Kissinger era deja demnitar în administrația controversatului președinte Richard Nixon. Cariera sa academică a început însă tot prin studii și o bursă la Harvard (după cele de la Oxford). Este un istoric și politolog reputat, specializat în problemele europene, în special ale Europei Răsăritene, autor al unor cărți de referință, dar și de succes publicistic. Una dintre ele, ‘Thinking in the Twentieth Century’ (‘Gândirea Secolului XX’) a fost scrisă împreună cu Tony Jundt, al cărui continuator este considerat și se consideră, în ultima perioada a vieții acestuia, în care era grav bolnav și incapacitat de boala ALS (cea de care a suferit și Stephen Hawking). Eseul ‘What Turing Told Us About the Digital Threat to a Human Future’ (‘Ce ne-a spus Turing despre pericolele digitale pentru viitorul omenirii’) (2) a apărut în numărul din 9 mai 2019 al revistei ‘New York Review of Books’. Articolul pleacă de la faimosul test al lui Turing care are ca scop determinarea capacității de a gândi a mașinilor, un test de multe ori interpretat în mod greșit, așa numitul ‘joc al imitației’. Un anchetator (C), aflat în spatele unui paravan opac, încearcă să determine prin întrebări puse unui bărbat (A) și unei femei (B), dacă (A) este bărbat sau femeie. Apoi, locul bărbatului este luat de o mașină. În momentul in care mașina reușește să-l convingă pe anchetator că este om și femeie, ea câștigă jocul imitației și poate fi considerată la paritate cu gândirea umană. Plecând de la acest test, Snyder atribuie celor trei ‘personaje’ din scenariul lui Turing diferite atribute civilizaționale, și se joacă cu rolurile lor, imaginând noi variații la scenariile cunoscute și dezbătute. Concluziile sunt surprinzătoare.
Să examinăm unul dintre exemple. În scenariul lui Turing personajul (B) este întotdeauna o femeie, ea participă la joc, este subiect, dar nu poate câștiga niciodată. Jocul se desfășoară între (A), care este un bărbat sau o mașină, și (C), anchetatorul fără sex și fără corporalitate, un simbol al curiozității și inteligenței umane. (A) omul spune întotdeauna adevărul, răspunzând unei chemări morale existențialiste, dar (A) mașina nu este obligată să se supună acelorași reguli. Ce se întâmplă însă dacă, precum în povestirea „Evidence” („Dovada”) a lui Isaac Asimov, rolurile bărbatului și al femeii se inversează, și apare elementul mașinilor gânditoare? Cele trei legi ale roboticii imaginate de Asimov încearcă să traseze un cod moral și o ordine de priorități în deciziile roboților, care [1] nu produce rău oamenilor, [2] ascultă de ordinele oamenilor , [3] își protejează propria existența. Ceea ce lipsește însă este definirea a ceea ce înseamnă ‘bine’ și ‘rău’. Anchetatorul din povestirea lui Asimov (care este în acest caz o femeie) trebuie să decidă dacă judecătorul trecut prin trauma morții soției sale este om sau poate un robot care i-a luat locul. Acesta va trece testul doar mințind, adoptând o tactică specifică mașinilor în testul inițial al lui Turing. Scopul moral, ‘binele’, poate fi atins doar folosind un procedeu ‘rău’. Ce se va întâmpla însă dacă mașinile, ajunse la un stadiu de inteligență egal sau depășindu-l pe cel al oamenilor, își asumă responsabilitatea de a decide pentru omenire ce este bine și ce este rău?
Povestea are o continuare, eroii avansând pe scara socială până la poziții politice de decizie pentru soarta lumii. Deja însă sunt în pericol să depășesc numărul de cuvinte pe care le tolerează stimații mei editori de la ‘Literatura de Azi’. Vă invit deci la lectură. Textele integrale ale celor două articole pot fi găsite la următoarele adrese:
(1) – theatlantic.com/magazine/archive/2018/06/henry-kissinger-ai-could-mean-the-end-of-human-history/559124/
(2) – nybooks.com/daily/2019/05/06/what-turing-told-us-about-the-digital-threat-to-a-human-future/