Despre Inteligența Artificială (AI) vorbește toată lumea. De la pandemie – când toți devenisem experți în virusologie – încoace, nu am avut parte de un subiect care să fie pe buzele și în mințile tuturor, de la profesioniștii IT la scenariștii de la Hollywood, de la politicienii din Senat și organizații internaționale la cercurile pensionarilor din parcuri, traversând frontiere, vârste, și clase socio-economice. Toată lumea are o părere, întrebări, angoase. Mai ales angoase, alimentate și de complexitatea unui domeniu care combină științele și tehnologiile cele mai înaintate și de declarațiile și scrierile unor personalități cu prestigiu (de multe ori, justificat) de experți în aceste domenii. Avem motive întemeiate să ne temem de AI? În acest articol, voi încerca să răspund câtorva întrebări, să deschid câteva fire de discuție și să clarific o parte dintre neînțelegeri. Multe alte subiecte vor rămâne deschise.
(sursa imaginii: https://www.forbes.com/sites/bernardmarr/2023/06/02/the-15-biggest-risks-of-artificial-intelligence/)
Avertismentele vin de la vârful piramidei experților care se ocupă de dezvoltarea tehnologică și o încadrează în contextul istoric al prezentului. Raymond Kurzweil (născut în 1948) este un informatician, scriitor, inventator și futurist american. În cartea sa din 2005 despre inteligența artificială și viitorul umanității, „Singularitatea este aproape: când oamenii transcend biologia”, Kurzweil dezvoltă termenul „singularitate”. Autorul american expune ‘legea accelerării randamentelor’, care prezice o creștere exponențială a tehnologiilor precum computerele, genetica, nanotehnologia, robotica și inteligența artificială. Odată ce singularitatea a fost atinsă, Kurzweil spune că inteligența mașinilor va fi infinit mai puternică decât toată inteligența umană combinată, iar dezvoltarea tehnologică va fi necontrolabilă și ireversibilă. El prezice această dată: 2045. În realitate progresele tehnologice ar putea fi mai rapide decât le-a prezis Kurzweil. Capabilitățile mașinilor gânditoare dotate cu inteligență artificială i-au surprins chiar și pe unii dintre creatorii lor. Nici una dintre lucrările științifice sau cărțile sci-fi nu a prezis cu precizie felul în care ChatGPT a reușit în decurs de mai puțin de un an să schimbe întreaga discuție despre AI, aducând o parte din capabilitățile generative și conversaționale ale entităților dotate cu auto-învățare pe calculatoarele personale și telefoanele tuturor. Astăzi specialiștii re-evaluează predicțiile și consideră că o parte dintre trăsăturile singularității ar putea deveni reale înainte de sfârșitul acestui deceniu. Desigur, nici aici nu va fi totul precum scrie în cărți.
(sursa imaginii: YouTube)
Săptămânalul ‘The Economist’ a organizat o discuție dintre doi experți de top proveniți din domenii diferite. Mustafa Suleyman (născut în 1984) este un cercetător și antreprenor britanic în AI, care a fost co-fondatorul și liderul tehnic al firmei DeepMind, o companie de inteligență artificială achiziționată de Google și deținută acum de Alphabet. Actuala sa afacere se numește Inflection AI. Yuval Noah Harari (născut în 1976) este un autor israelian, istoric și profesor la Departamentul de Istorie de la Universitatea Ebraică din Ierusalim. Este autorul bestsellerurilor de știință popularizată „Sapiens: Scurtă istorie a omenirii” (2014), „Homo Deus: Scurtă istorie a viitorului” (2016) și „21 Lecții pentru secolul XXI” (2018), publicate în România de editura Polirom. Scrierile sale examinează trecutul și viitorul omenirii cu accent pe liberul arbitru, conștiință, inteligență, fericire și suferință. Editoarea-șefă a revistei i-a adresat prima întrebare lui Mustafa Suleyman – ‘care sunt progresele recente și prognoza pentru următorul deceniu în domeniul AI?’ Suleiman a început prin a răspunde că progresele din ultimii 5 ani sunt excepționale în ceea ce privește capacitatea de decizie și mai ales creativitatea sistemelor dotate cu inteligență artificială. Acestea s-au dovedit capabile nu doar de inventivitate, ci și de empatie în interacțiunea lor cu ființele umane. În viitorii zece ani, consolidarea acestor progrese va duce la crearea de sisteme care vor putea acorda consiliere financiară sau administra singure portofolii de investiții, vor crea tratamente medicale revoluționare adaptate fiecărui pacient în parte și vor putea ajuta – din nou personalizat – elevii în procesul de învățare și pregătire al temelor de casa. Toate acestea se bazează pe creșterea exponențială a capacității de calcul și a vitezei de acces la toate bazele de date prezente și viitoare ale omenirii. Când microfonul s-a îndreptat spre Yuval Harari cu întrebarea ‘ce concluzii trageți din aceste evoluții prezente și viitoare?’, răspunsul a venit imediat: ‘Este sfârșitul istoriei umane, așa cum o cunoaștem. Nu este și sfârșitul istoriei, va exista istorie, Universul va continua să se existe, dar va fi istoria altcuiva, nu a speciei noastre.’ Dramatic, nu-i așa?
(sursa imaginii: YouTube)
Schimbând teritoriul angoaselor de la scara istorică la cea a problemelor socio-economice actuale, următoarea întrebare a fost legată de efectele progreselor AI asupra piețelor globale și naționale ale forței de muncă. Subiectul a fost abordat și într-o masă rotundă care a avut loc săptămână trecută, organizată și moderată de Elon Musk, cu participarea lui Greg Brockman (cofondatorul lui OpenAI – creatorii lui ChatGPT), Max Tegmark (cercetător la MIT) și a lui Benjamin Netanyahu (prim-ministrul israelian) având ca teme, printre altele, ritmul masiv al dezvoltării AI, viitoarea singularitate AI, siguranța AI, necesitatea regulației AI. Este una dintre primele ocazii în care am avut prilejul să asistăm la un dialog dintre unul dintre politicienii conducători de stat și experții tehnici din domeniu. Și Netanyahu și-a exprimat îngrijorarea în legătură cu efectele pe termen scurt și mediu. Dacă practic orice meserie și orice activitate umană va fi influențată de progresele tehnologice, dacă mașinile vor executa multe sarcini – mecanice sau din domeniul gândirii și al creației – mai bine decât oamenii, ce se va întâmpla cu activitățile productive și cu locurile de muncă? Yuval Harari observa că orice revoluție tehnologică aduce cu sine asemenea schimbări. Revoluția agricolă din comuna primitivă a pus capăt împărțirii omenirii în vânători și culegători. Tiparul a distrus profesia scribilor de manuscrise și Internetul a schimbat radical bibliotecile. În același timp, pe termen scurt, șomajul este extrem de periculos. Au fost suficienți câțiva ani de șomaj peste 25% pentru ca democrata și liberala republică germană de la Weimar să alunece în coșmarul dictaturii naziste. Nu există un răspuns bun în acest moment, dar politicienii trebuie să fie preveniți. Pe termen lung, omenirea se va obișnui, probabil, cu un ritm de muncă complet diferit și cu alte feluri de activități. În definitiv, în viziunea Raiului, nimeni nu trebuie să trudească și scopul istoriei nu este nici pe departe șomaj 0%. Procesul va trebui însă să fie administrat în mod corespunzător.
(sursa imaginii: https://kardashev.fandom.com/wiki/Technological_Singularity)
Chiar există pericolul ca omenirea să fie înlăturată de pe scena istoriei de mașini? Nu ar fi o noutate în istoria planetei. Dimpotrivă. Entitățile cu inteligențe superioare le-au înlocuit succesiv pe cele mai puțin inteligente de la dominația planetei. Chiar dacă nu au fost complet distruse, ecosistemele precedente au căpătat un loc inferior în ierarhiile ecologice și lanțurile alimentare. Vegetația a înlocuit dezolarea deșertului pustiu. Animalele au apărut mai întâi în mediul marin și apoi pe uscat și au făcut din mediul vegetal principala lor sursă de hrană. Dinozaurii au fost înlocuiți de mamifere. Homo Sapiens domină de câteva zeci de mii de ani planeta și o schimbă radical. Există un consens între experți că inteligența mașinilor o va depăși în câțiva ani sau în puține decenii pe cea omenească. Capacitățile lor de calcul, decizie, creativitate vor fi uluitoare. Din punctul de vedere al entităților AI de peste câteva decenii, inteligența umană va părea la fel de primitivă și de înceată precum ni se pare astăzi inteligența arborilor sau a animalelor inferioare. Trei scenarii sunt posibile: unul pozitiv în care mașinile gânditoare vor fi totdeauna sub controlul oamenilor în scopuri legate de supraviețuirea omenirii și îmbunătățirea condițiilor de trai; și două negative – unele dintre mașinile gânditoare vor cădea în mâinile dictatorilor care le vor transforma în arme; sau cel în care evoluția mașinilor gânditoare va scăpa controlului uman. Ce se poate face pentru ca doar primul scenariu să devina realitate? Este aceasta posibil?
Veștile bune sunt că răspunsurile aparțin domeniilor tehnologiei și ale regulației și legislației – toate aflate (încă?) sub controlul deplin al omenirii. Veștile mai puțin bune sunt că suntem departe de a fi de acord ce trebuie făcut și de avea planuri concrete – chiar la nivel național, să nu mai vorbim de nivel global. Sistemele AI au făcut progrese uriașe în domeniile deciziilor și creativității, dar nu sunt încă autonome. Avem (încă?) în mână butoanele care le declanșează și le opresc sau cablul care – când este scos din priză – le taie alimentarea cu electricitate. Este necesară cu maximă urgență stabilirea unor domenii care să fie interzise aplicațiilor AI sau în care cercetarea să se facă sub control strict, inclusiv control internațional. De exemplu, interzicerea folosirii ‘boților’ AI în scopuri electorale. Interzicerea impersonalizărilor în care entitățile AI se maschează ca operatori umani și generarea unor teste puternice, similare testelor Turing, care să detecteze și să izoleze asemenea aplicații. Știm însă că datorită capacităților de auto-învățare, aplicațiile AI vor ști, mai devreme sau mai târziu să ‘păcălească’ orice test. Trebuie să punem în funcțiune propriile noastre aplicații AI în acest scop. Pentru a recăpăta încrederea care stă la baza coeziunii oricărui sistem social, trebuie să fim capabili să distingem inteligența artificială de cea naturala.
(sursa imaginii: https://innovationatwork.ieee.org/ten-ways-ai-regulations-and-standards-will-evolve-in-2022/)
Yuval Harari folosește o metaforă fascinantă și terifiantă totodată. El spune că dacă o rasă de extratereștri ar amenința planeta, atunci omenirea ar găsi căile de a se uni pentru a lupta contra pericolului. Așa – zice el – trebuie să considerăm amenințarea ca AI să cada în mâini rele sau să capete autonomie în condițiile în care bunăstarea rasei umane nu mai este scopul ei principal. Eforturile legislative și regulatorii au început în multe țări, dar un efort internațional pare dificil, dacă nu imposibil, de antamat în condițiile noului ‘război rece’ dintre Statele Unite și aliații săi, pe de-o parte, China și aliații ei, inclusiv regimurile totalitare cele mai extremiste, de partea cealaltă. Nu există însă altă șansă decât a continua să insistăm continuu în această direcție. Moratoriile sau propunerile de înghețare a cercetărilor și dezvoltărilor tehnologice nu vor funcționa, în condițiile competiției globale și a neîncrederii reciproce, fiecare tabără fiind conștientă că partea cealaltă nu se va opri. Și totuși, la fel ca în cazul proliferării nucleare și a cursei înarmării din anii ’50-’60, soluțiile sunt încă la îndemâna conducătorilor lumii, a oamenilor de știință și a tehnologilor. Există precedente: cursa înarmărilor a dus la ‘destindere’ și la tratate internaționale care au limitat pericolul atomic; biotehnologia a decis să limiteze și să sisteze anumite direcții considerate periculoase în genetică sau clonare. Timpul însă nu așteaptă. Este cam un minut înainte de miezul nopții.
(Articolul a apărut iniţial în revista culturală ‘Literatura de Azi’ – http://literaturadeazi.ro/)