The Catcher In The Sand

Câteodată mi se împlinesc previziunile. Chiar și cele bune. Așa stau lucrurile cu una dintre prorocirile mele făcute la începutul acestui an în articolul ‘2023 – Anul care va fi‘ al rubricii CHANGE.WORLD. Scriam atunci că voi fi foarte surprins dacă nici unul dintre Premiile Nobel din domeniile științei din acest an nu va fi decernat unei descoperiri și tehnologii legate de combaterea pandemiei COVID-19 și, în special, de producția de vaccinuri. Prorocirea aceasta avea să se împlinească în acest an, încă din prima zi a săptămânii anunțurilor, odată cu publicarea numelor celor doi laureați ai premiului pentru fiziologie sau medicină.

(sursa imaginii: pennmedicine.org/news/news-releases/2023/october/katalin-kariko-and-drew-weissman-win-2023-nobel-prize-in-medicine)

Numele celor doi câștigători sunt Katalin Karikó și Drew Weissman. Cercetarea pentru care au fost premiați a avut loc la Universitatea din Pennsylvania începând cu sfârșitul anilor ’90, și rezultatele au fost publicate în anul 2005. Anunțul oficial menționează că premiul este acordat „pentru descoperirile lor referitoare la modificările bazei nucleozide care au permis dezvoltarea de vaccinuri ARNm eficiente împotriva COVID-19”. Traseul parcurs de această descoperire, ca și biografiile celor doi savanți nu au fost însă lipsite de obstacole. Karikó s-a născut în Ungaria în 1955, a studiat și și-a luat doctoratul la Universitatea din Szeged, unde și-a făcut lucrările postdoctorale la Centrul de Cercetare Biologică. După câțiva ani, universitatea a rămas fără bani și postul respectiv a fost eliminat, ceea ce a determinat-o să emigreze, în anul 1985, împreună cu familia sa. Colaboratorul ei, americanul Weissman, născut în 1959, este primul profesor al catedrei Roberts în cercetarea vaccinurilor, director al Institutului Penn pentru Inovație ARN și profesor de medicină la Perelman School of Medicine, de la Universitatea din Pennsylvania (Penn). În 2006, Weissman și Karikó au co-fondat firma RNARx. Obiectivul lor a fost de a dezvolta noi terapii bazate pe ARN. În 2020, tehnologia lor ARN modificat a devenit componenta de bază a vaccinurilor Pfizer/BioNTech și Moderna, implementate în întreaga lume împotriva pandemiei COVID-19.

(sursa imaginii: www.nobelprize.org/prizes/medicine/2023/press-release/)

Care este ideea centrală a contribuției celor doi savanți? În celulele vii, informațiile genetice codificate în ADN sunt transferate către ARN-ul mesager (ARNm), care este folosit ca matriță pentru producția de proteine. În anii 1980, au fost introduse metode eficiente de producere a ARNm fără cultură celulară, numite transcripție in vitro. Acest pas decisiv a accelerat dezvoltarea aplicațiilor biologiei moleculare în mai multe domenii. Problema principală era reacția de respingere, anti-inflamatorie a organismului în contact cu ARN-ul mesager. Experiențele complementare, cea de biolog a lui Katalin Karikó și cea de imunolog a lui Drew Weissman, i-au condus pe cei doi la propunerea de a introduce ARN modificat, similar celui produs natural în celulele mamare. Reacția inflamatorie este minimă. După 15 ani de la publicarea acestor rezultate, vaccinurile produse de firmele BioNTech și Moderna au salvat milioane de vieți și au redus efectele bolii în zeci sau poate sute milioane de cazuri de contaminare cu COVID-19. Vaccinurile bazate pe această tehnologie au un ciclu de dezvoltare și de testare mult mai scurt decât vaccinurile tradiționale pe bază de virus, proteine și vectori, care necesită o cultură celulară la scară largă. Ele pot fi considerate și ca o platformă care facilitează considerabil producția de vaccinuri împotriva variantelor COVID sau ale altor boli.

Biografia lui Katalin Karikó nu a fost deloc ușoară, cariera ei constând dintr-o serie de confruntări cu împotrivirile și respingerile. După ce a părăsit Ungaria, a început pentru ea viața – nu foarte ușoară –, cea a unei tinere femei emigrante venită din Europa comunistă. Instituțiile americane preferă absolvenții universităților americane, și chiar dintre acestea, le preferă pe cele cu nume. De patru ori cercetările sale au fost oprite și ea a rămas fără fonduri și chiar fără post. La începutul anilor 2000 a fost chiar în pericol de a fi deportată, până când și-a reglementat situația legală cu autoritățile de imigrație. Ani de zile a trecut de la un post de cercetare prost plătit la altul și uneori chiar a dormit în biroul ei. În 2013, a fost forțată să se retragă din Penn și apoi a făcut naveta pentru a lucra la BioNTech. Nu a renunțat însă niciodată. Nici mama ei nu a renunțat vreodată la speranța că fiica sa va câștiga în cele din urmă un Nobel. Din păcate, a murit cu doi ani în urmă, înainte de a-i vedea victoria. ” … în fiecare toamnă asculta și îmi spunea: „Știi, s-ar putea să primești anul acesta”. iar eu replicam: „Mamă, nici măcar nu am putut obține o subvenție”.

(sursa imaginii: https://physicsworld.com/a/pierre-agostini-ferenc-krausz-and-anne-lhuillier-win-2023-nobel-prize-for-physics/)

Multe dintre jaloanele biografiei lui Katalin Karikó pot fi regăsite și în cea a lui Ferencz Krausz, unul dintre cei trei câștigători ai Premiului Nobel pentru Fizică. Krausz (născut tot în Ungaria în 1962) este expert în știința attosecundei. Attosecunda este a trilioana parte din a trilioana parte dintr-o secundă. Krausz este director la Institutul de Optică Cuantică „Max Planck” și profesor de fizică experimentală la Universitatea „Ludwig Maximilian” din München, Germania. Și-a început studiile la Universitatea Eötvös Loránd din Budapesta, iar masteratul și doctoratul și le-a luat la Universitatea Tehnologică din Viena. Ceilalți doi laureați sunt francezii Pierre Agostini (născut în 1941) fizician experimental și profesor emerit la Universitatea de Stat din Ohio, cunoscut pentru munca sa de pionierat în fizica laserului câmpului puternic și știința attosecundei, și Anne L’Hullier (născută în 1958) de la Universitatea Lund din Suedia, expertă în interacțiunea dintre câmpurile laser scurte și intense cu atomii. Comunicatul Comitetului Nobel menționează că premiul este acordat „pentru metode experimentale care generează impulsuri de lumină de attosecunde pentru studiul dinamicii electronilor în materie”. Pierre Agostini, Ferenc Krausz și Anne L’Huillier au demonstrat o modalitate de a crea impulsuri de lumină extrem de scurte care pot fi folosite pentru a măsura procesele rapide în care electronii se mișcă sau schimbă energie. Cu alte cuvinte, cei trei savanți europeni au creat uneltele care permit verificarea unor teorii ale fizicii fundamentale, care au loc în intervale de timp atât de scurte, încât ele erau demonstrate doar teoretic, prin metode matematice.

(sursa imaginii: https://edition.cnn.com/2023/10/04/europe/nobel-prize-chemistry-quantum-dots-bawendi-brus-ekimov-intl-scn/index.html)

Și în tripletul de savanți care a câștigat în acest an Premiul Nobel pentru Chimie se află un cercetător născut și format într-o țară fostă comunistă. Este vorba despre Alexei Ekimov (născut în 1945), un fizician rus expert în stări solide care a descoperit, în 1981, nanocristalele semiconductoare cunoscute sub numele de puncte cuantice. Din 1999, Ekimov trăiește și lucrează în Statele Unite în calitate de cercetător științific pentru Nanocrystals Technology, o companie cu sediul în statul New York. Premiul îl va împărți cu Moungi G. Bawendi (născut în 1961 la Paris, fiul unui matematician tunisian) de la M.I.T. și cu Louis E. Brus, chimist american născut în 1943, de la Universitatea Columbia din New York. Fiecare din acești trei savanți a adus o contribuție însemnată la descoperirea și dezvoltarea punctelor cuantice, nanoparticule atât de mici, încât dimensiunea lor le determină proprietățile. Aceste cele mai mici componente ale nanotehnologiei, printre multe alte lucruri, pot fi găsite acum în aparatura de larg consum precum televizoarele și lămpile cu LED-uri și, de asemenea, pot ghida chirurgii atunci când îndepărtează tumorile. Încă de la începutul anilor 1980, Alexei Ekimov a reușit să creeze efecte cuantice dependente de dimensiune în sticla colorată. Culoarea provenea din nanoparticule de clorură de cupru, iar Ekimov a demonstrat că dimensiunea particulelor afecta culoarea sticlei prin efecte cuantice. Câțiva ani mai târziu, Louis Brus a fost primul om de știință din lume care a demonstrat efectele cuantice dependente de dimensiune în particulele care plutesc liber într-un fluid. În fine, în 1993, Moungi Bawendi a revoluționat producția chimică de puncte cuantice, obținând particule aproape perfecte. Această calitate superioară a fost necesară pentru ca acestea să poată fi utilizate în aplicații.

(sursa imaginii: www.livemint.com/news/nobel-prize-2023-five-things-to-know-about-the-prizes-and-their-creator-11696227391772.html)

Biografiile savanților care au obținut premiile Nobel în disciplinele tehnice au generat și vor continua să genereze discuții. Alexei Ekimov este născut în Rusia. Ungaria se mândrește, desigur, cu numele celor doi savanți maghiari care au câștigat premii în acest an. Aceste premii aduc la 14 numărul Premiilor Nobel câștigate de savanți născuți în Ungaria, 12 dintre ele fiind în domenii științifice. Trebuie observat însă că toți laureații, aproape fără excepție, au lucrat și și-au publicat descoperirile pentru care au fost premiați în afara Ungariei. Este emigrarea un fel de condiție a succesului? Fenomenul nu este nici măcar limitat la Ungaria sau la țările Europei de Est. Cei trei savanți francezi care au primit premii Nobel în acest an lucrează sau predau la universități din afara Franței. Cui aparțin până la urma premiile lor? Voi spune că, în primul rând, le aparțin lor însuși, geniului științific și inteligenței tehnologice ale fiecăruia dintre ei. Apoi, merite incontestabile, cred, au și universitățile și centrele de cercetare care le-au asigurat condițiile de lucru, le-au înlesnit activitățile și le-au publicat rezultatele. În fine, o condiție esențială mi se pare libertatea de a comunica și de a colabora cu savanți din toată lumea. Întâmplarea nașterii într-un loc sau altul pe planetă și originea etnică îmi par a fi elemente secundare și lipsite de importanță. Clasamentele de laureați ai Premiilor Nobel după țări sunt la fel de puțin importante ca și clasamentele pe medalii de la Olimpiade. Laurii aparțin celor ale căror frunți au trudit pentru ei.

(Articolul a apărut iniţial în revista culturală ‘Literatura de Azi’ – http://literaturadeazi.ro/)

În articolul meu de săptămâna trecută, din cadrul rubricii CHANGE.WORLD, am discutat pe larg despre pericolele dezvoltării necontrolate a aplicațiilor Inteligenței Artificiale (AI), despre avertismentele experților în domeniu, ale istoricilor și sociologilor și despre măsurile foarte necesare și urgente de limitare a riscurilor. Întrebarea firească pusă de cei care sunt expuși acestor probleme este de ce, în condițiile în care aceste tehnologii implică atâtea riscuri, ele continuă să fie dezvoltate și extinse? Merită progresele realizate până acum și promisiunile viitoare riscurile pe care ni le asumăm? Răspunsul la aceasta întrebare este DA. Scris cu majuscule. Voi încerca în cele care urmează să argumentez.

(sursa imaginii: https://towardsdatascience.com/the-art-and-science-of-building-ai-48f320d66da6)

Un lucru trebuie menționat de la început. Inteligența Artificială beneficiază de progresele semnificative înregistrate în ultimele decenii de alte domenii: micro și nano-electronica și tehnologiile de transfer de date. Un singur cip cu o suprafață de câțiva centimetri pătrați poate include astăzi puterea de calcul a întregii planete din deceniul 9 al secolului XX (anii ’80). Viteza și capacitatea de transfer a informației a crescut cu 12 ordine de mărime în patru decenii. Avansul fizicii și în special calculul cuantic amplifică aceste realizări pentru anumite categorii de aplicații și în rezolvarea unor probleme specifice. Nu toate aceste progrese sunt însă legate de AI, dintre acelea care trebuie incluse în categoriile AI cu riscurile aferente. Altele însă sunt chiar specializate în AI – de exemplu, cipurile proiectate și produse de Nvidia și de competitorii săi (AMD și câteva firme chineze). Aceste progrese au accelerat spectaculos în ultimul deceniu capabilitățile de învățare ale mașinilor și au permis dezvoltarea explozivă a domeniului Inteligenței Artificiale generative, capabile să creeze pe bază de modele prestabilite, îmbunătățite sau create, la rândul lor, de mașini, diferite forme de comunicare textuală, sonoră sau vizuală, să construiască obiecte, să scrie programe de calculator sau să imagineze modalități și forme viitoare de exprimare. Se apreciază că, în 2023, 99% dintre domeniile științifice au fost într-un fel sau altul influențate de AI și în special de tehnicile de învățare profundă (deep learning) ale mașinilor. Ultimii ani au fost martorii unui progres semnificativ în domeniul interfețelor de acces la calculatoare. O parte semnificativă din munca de codificare, rezervată până acum programatorilor și inginerilor de sistem cu diplome în domenii legate de științele de calcul poate fi acum automatizată prin intermediul interfețelor tip ChatGPT.

(sursa imaginii: https://alphafold.ebi.ac.uk/)

Una dintre caracteristicile neliniștitoare ale acestui progres tehnologic accelerat este faptul că nici măcar programatorii care au creat și codificat mecanismele AI nu au o înțelegere completă a felului în care mașinile gânditoare și programele scrise de ei funcționează. Un exemplu este aplicația AlphaFold a lui GoogleDeepMind. Formele în care proteinele se răsucesc după ce sunt produse într-o celulă sunt determinante pentru funcțiile pe care le vor avea, dar oamenii de știință încă nu știu cum se pliază proteinele. AlphaFold, creat în 2021, oferă un model care a învățat singur să prezică structura unei proteine numai din secvența sa de aminoacizi. De când a fost lansat, AlphaFold a produs o bază de date cu peste 200 de milioane de structuri de proteine prezise, care a fost deja folosită de peste 1,2 milioane de cercetători. De exemplu, Matthew Higgins, un biochimist de la Universitatea din Oxford, a folosit AlphaFold pentru a afla forma unei proteine din țânțari care este importantă pentru parazitul malariei pe care îl transportă aceste insecte și a reușit să combine predicțiile de la AlphaFold pentru a afla care părți ale proteinei ar fi cel mai ușor de atacat cu un medicament. O altă echipă a folosit AlphaFold pentru a găsi, în doar 30 de zile, structura unei proteine care influențează modul în care un tip de cancer la ficat se răspândește, deschizând astfel ușa pentru proiectarea unui nou tratament adecvat pacienților. Dar … „Nu înțelegem complet cum a creat AI această structură”, declara Pushmeet Kohli, unul dintre inventatorii AlphaFold, care acum conduce echipa Google DeepMind „AI for Science”. Chiar dacă până în acest moment rezultatele sunt numai pozitive, situațiile în care aplicațiile iau decizii autonome care nu sunt înțelese nici măcar de creatorii lor îngrijorează. Yuval Noah Harari proiecta un asemenea scenariu în domeniul financiar, folosind ca punct de referință criza financiară din anii 2007-2008. Atunci un grup ultra-specializat de experți crease niște produse financiare speculative în domeniul imobiliar, bazându-se pe o matematică pe care nu o înțelegea nimeni în afară de ei. Rezultatul a fost catastrofal pentru economia globală. Astăzi vorbim despre consilieri financiari AI, dar nici măcar cei care scriu programele nu pretind că înțeleg complet cum iau decizii mașinile AI. Nu este vorba despre o situație similară, cu riscuri similare pentru sistemul bancar internațional?

(sursa imaginii: www.forbes.com/sites/garydrenik/2023/01/11/large-language-models-will-define-artificial-intelligence/)

Unele dintre progresele semnificative (și angoasele aferente) ale AI se referă la domeniul modelelor lingvistice mari (large language models – LLM) care i-a determinat să intre în grevă pe scenariștii de la Hollywood și a generat îngrijorare în rândul profesorilor speriați de perspectiva temelor de casă în format de eseu pe care elevii le-ar putea obține de-a gata de la ChatGPT, înlocuind laborioasa muncă de documentare în biblioteci sau chiar de pe Internet. Un sistem LLM poate genera propoziții cu sens, prezicând următorul cel mai bun cuvânt dintr-o secvență. Nu este însă nici pe departe singura aplicație. Modelele moleculare generative sunt capabile să construiască molecule, atom cu atom, legătură cu legătură. Sistemele LLM folosesc un amestec de statistici auto-învățate și trilioane de cuvinte din texte culese de pe internet pentru a scrie în moduri care imită în mod plauzibil un om. Instruite pe baze de date vaste de medicamente cunoscute și proprietățile lor, modelele pentru „proiectare moleculară” pot afla ce efecte au structurile moleculare imaginate. În mod similar, pot fi imaginate noi antibiotice sau materiale din care să se fabrice bateriile electrice ale viitorului. În acest ultim domeniu, Universitatea din Liverpool a raportat recent un succes semnificativ. Se căuta un material nou, mai ușor, mai economic, cu randament și stabilitate cel puțin la fel de bune în fabricarea bateriilor. Dintre cele peste 200 000 de structuri cristaline stabile propuse, aplicațiile AI au redus grupul celor care urmau să fie testate în laborator la doar cinci, economisind semnificativ timp și fonduri. Candidatul final, un material care combină litiu și sulfură și clorat de cupru, urmează să fie supus unor riguroase teste de stabilitate și fezabilitate. Similar și chiar mai mult, în domeniul medical, substanțele chimice proiectate de algoritmi vor trebui, de asemenea, să fie supuse testelor obișnuite în lumea reală pentru a putea fi evaluate eficacitatea, non-toxicitatea, efectele secundare.

(sursa imaginii: www.datacenterdynamics.com/en/news/nvidia-plans-most-energy-efficient-supercomputer-ever-will-use-it-to-build-a-digital-twin-of-the-earth/)

Progrese semnificative au fost înregistrate în ultimii ani și în alte domenii. GitHub, platforma și serviciul bazat în ‘nor’ pentru proiectarea și controlul versiunilor de software, consideră că folosirea unor aplicații bazate pe LLM precum ‘Copilot’ îi ajută pe programatori să scrie un cod cu o viteză crescută cu 55%. Pangu-Weather, o aplicație AI proiectată de compania chineza Huawei, poate face predicții meteorologice cu o săptămână în avans de mii de ori mai rapid și mai ieftin decât randamentul actual, fără nicio scădere semnificativă a preciziei. FourCastNet, un model construit de Nvidia, poate genera astfel de prognoze în mai puțin de două secunde și este primul model AI care prezice ploaia cu precizie, la o rezoluție spațială mare, ceea ce reprezintă o informație importantă pentru prezicerea dezastrelor naturale, cum ar fi inundațiile rapide. Ambele modele AI sunt antrenate pentru a prezice vremea prin auto-învățare din date observaționale sau din rezultatele simulărilor de la supercomputer. Și acesta este doar începutul. Nvidia a anunțat deja planuri de a construi un model geamăn digital al Pământului, numit „Earth-2”, despre care compania speră că va putea prezice schimbările climatice la un nivel mai regional, cu câteva decenii în avans. La Geneva, unde se află cel mai mare și mai puternic accelerator de particule din lume – Large Hadron Collider (LHC) –, algoritmii AI au fost propuși pentru a corela cantitatea imensă de informații primite de echipe specializate în ramuri diferite ale fizicii, inclusiv cu informațiile cosmologice. Se apreciază că, într-o oră de funcționare, acceleratorul creează o cantitate de informație echivalentă celei generate de Facebook într-un an. Precedentul există aici, unde, în 2012, tehnici de învățare a mașinilor au ajutat la descoperirea bosonului Higgs, o particulă de bază în modelul standard acceptat astăzi al mecanicii cuantice.

(sursa imaginilor: www.infoclutch.com/installed-base/artificial-intelligence-data-limitations/)

Recunoașterea și înțelegerea progreselor trebuie să fie însoțite de aprecierea și acceptarea limitelor. Modelele AI au demonstrat că pot prelucra date și automatiza calculele și unele lucrări de laborator. AI este extrem de utilă pentru a ajuta oamenii de știință să completeze golurile în cunoștințe, dar modelele încă se luptă să depășească marginile a ceea ce este deja cunoscut. Aceste sisteme sunt bune la interpolare – conectarea punctelor –, dar mai puțin la extrapolare, adică să imagineze unde ar putea fi situat următorul punct. Gradul de autonomie care li se acordă trebuie să fie controlat cu rigurozitate, pentru a rămâne în marja de siguranță și în afara zonelor de risc. Potențialul este uriaș: la fel cum telescoapele și microscoapele le permit oamenilor de știință să vadă mai mult din Univers, modelele probabilistice, bazate pe date, utilizate în AI le vor permite din ce în ce mai mult oamenilor de știință să modeleze și să înțeleagă mai bine sistemele complexe. Devine posibilă și o importantă schimbare metodologica în avansul științei. Domenii precum știința climei și biologia structurală se află deja în punctul în care oamenii de știință știu că au loc procese complicate, dar până acum cercetătorii au încercat în principal să înțeleagă acele subiecte folosind modele, reguli, ecuații și simulări de sus în jos (top-down). Inteligența Artificială poate ajuta oamenii de știință să abordeze problemele de jos în sus (bottom-up), să măsoare mai întâi o mulțime de date și să folosească mai târziu algoritmi pentru a găsi regulile, modelele, ecuațiile și înțelegerea științifică. Oamenii de știință sunt totdeauna precauți în adoptarea de modele noi de gândire și explorare. În cazul Inteligenței Artificiale, progresul este inevitabil, iar lărgirea orizonturilor produsă de aceasta abia începe.

(Articolul a apărut iniţial în revista culturală ‘Literatura de Azi’ – http://literaturadeazi.ro/)

Despre Inteligența Artificială (AI) vorbește toată lumea. De la pandemie – când toți devenisem experți în virusologie – încoace, nu am avut parte de un subiect care să fie pe buzele și în mințile tuturor, de la profesioniștii IT la scenariștii de la Hollywood, de la politicienii din Senat și organizații internaționale la cercurile pensionarilor din parcuri, traversând frontiere, vârste, și clase socio-economice. Toată lumea are o părere, întrebări, angoase. Mai ales angoase, alimentate și de complexitatea unui domeniu care combină științele și tehnologiile cele mai înaintate și de declarațiile și scrierile unor personalități cu prestigiu (de multe ori, justificat) de experți în aceste domenii. Avem motive întemeiate să ne temem de AI? În acest articol, voi încerca să răspund câtorva întrebări, să deschid câteva fire de discuție și să clarific o parte dintre neînțelegeri. Multe alte subiecte vor rămâne deschise.

(sursa imaginii: https://www.forbes.com/sites/bernardmarr/2023/06/02/the-15-biggest-risks-of-artificial-intelligence/)

Avertismentele vin de la vârful piramidei experților care se ocupă de dezvoltarea tehnologică și o încadrează în contextul istoric al prezentului. Raymond Kurzweil (născut în 1948) este un informatician, scriitor, inventator și futurist american. În cartea sa din 2005 despre inteligența artificială și viitorul umanității, „Singularitatea este aproape: când oamenii transcend biologia”, Kurzweil dezvoltă termenul „singularitate”. Autorul american expune ‘legea accelerării randamentelor’, care prezice o creștere exponențială a tehnologiilor precum computerele, genetica, nanotehnologia, robotica și inteligența artificială. Odată ce singularitatea a fost atinsă, Kurzweil spune că inteligența mașinilor va fi infinit mai puternică decât toată inteligența umană combinată, iar dezvoltarea tehnologică va fi necontrolabilă și ireversibilă. El prezice această dată: 2045. În realitate progresele tehnologice ar putea fi mai rapide decât le-a prezis Kurzweil. Capabilitățile mașinilor gânditoare dotate cu inteligență artificială i-au surprins chiar și pe unii dintre creatorii lor. Nici una dintre lucrările științifice sau cărțile sci-fi nu a prezis cu precizie felul în care ChatGPT a reușit în decurs de mai puțin de un an să schimbe întreaga discuție despre AI, aducând o parte din capabilitățile generative și conversaționale ale entităților dotate cu auto-învățare pe calculatoarele personale și telefoanele tuturor. Astăzi specialiștii re-evaluează predicțiile și consideră că o parte dintre trăsăturile singularității ar putea deveni reale înainte de sfârșitul acestui deceniu. Desigur, nici aici nu va fi totul precum scrie în cărți.

(sursa imaginii: YouTube)

Săptămânalul ‘The Economist’ a organizat o discuție dintre doi experți de top proveniți din domenii diferite. Mustafa Suleyman (născut în 1984) este un cercetător și antreprenor britanic în AI, care a fost co-fondatorul și liderul tehnic al firmei DeepMind, o companie de inteligență artificială achiziționată de Google și deținută acum de Alphabet. Actuala sa afacere se numește Inflection AI. Yuval Noah Harari (născut în 1976) este un autor israelian, istoric și profesor la Departamentul de Istorie de la Universitatea Ebraică din Ierusalim. Este autorul bestsellerurilor de știință popularizată „Sapiens: Scurtă istorie a omenirii” (2014), „Homo Deus: Scurtă istorie a viitorului” (2016) și „21 Lecții pentru secolul XXI” (2018), publicate în România de editura Polirom. Scrierile sale examinează trecutul și viitorul omenirii cu accent pe liberul arbitru, conștiință, inteligență, fericire și suferință. Editoarea-șefă a revistei i-a adresat prima întrebare lui Mustafa Suleyman – ‘care sunt progresele recente și prognoza pentru următorul deceniu în domeniul AI?’ Suleiman a început prin a răspunde că progresele din ultimii 5 ani sunt excepționale în ceea ce privește capacitatea de decizie și mai ales creativitatea sistemelor dotate cu inteligență artificială. Acestea s-au dovedit capabile nu doar de inventivitate, ci și de empatie în interacțiunea lor cu ființele umane. În viitorii zece ani, consolidarea acestor progrese va duce la crearea de sisteme care vor putea acorda consiliere financiară sau administra singure portofolii de investiții, vor crea tratamente medicale revoluționare adaptate fiecărui pacient în parte și vor putea ajuta – din nou personalizat – elevii în procesul de învățare și pregătire al temelor de casa. Toate acestea se bazează pe creșterea exponențială a capacității de calcul și a vitezei de acces la toate bazele de date prezente și viitoare ale omenirii. Când microfonul s-a îndreptat spre Yuval Harari cu întrebarea ‘ce concluzii trageți din aceste evoluții prezente și viitoare?’, răspunsul a venit imediat: ‘Este sfârșitul istoriei umane, așa cum o cunoaștem. Nu este și sfârșitul istoriei, va exista istorie, Universul va continua să se existe, dar va fi istoria altcuiva, nu a speciei noastre.’ Dramatic, nu-i așa?

(sursa imaginii: YouTube)

Schimbând teritoriul angoaselor de la scara istorică la cea a problemelor socio-economice actuale, următoarea întrebare a fost legată de efectele progreselor AI asupra piețelor globale și naționale ale forței de muncă. Subiectul a fost abordat și într-o masă rotundă care a avut loc săptămână trecută, organizată și moderată de Elon Musk, cu participarea lui Greg Brockman (cofondatorul lui OpenAI – creatorii lui ChatGPT), Max Tegmark (cercetător la MIT) și a lui Benjamin Netanyahu (prim-ministrul israelian) având ca teme, printre altele, ritmul masiv al dezvoltării AI, viitoarea singularitate AI, siguranța AI, necesitatea regulației AI. Este una dintre primele ocazii în care am avut prilejul să asistăm la un dialog dintre unul dintre politicienii conducători de stat și experții tehnici din domeniu. Și Netanyahu și-a exprimat îngrijorarea în legătură cu efectele pe termen scurt și mediu. Dacă practic orice meserie și orice activitate umană va fi influențată de progresele tehnologice, dacă mașinile vor executa multe sarcini – mecanice sau din domeniul gândirii și al creației – mai bine decât oamenii, ce se va întâmpla cu activitățile productive și cu locurile de muncă? Yuval Harari observa că orice revoluție tehnologică aduce cu sine asemenea schimbări. Revoluția agricolă din comuna primitivă a pus capăt împărțirii omenirii în vânători și culegători. Tiparul a distrus profesia scribilor de manuscrise și Internetul a schimbat radical bibliotecile. În același timp, pe termen scurt, șomajul este extrem de periculos. Au fost suficienți câțiva ani de șomaj peste 25% pentru ca democrata și liberala republică germană de la Weimar să alunece în coșmarul dictaturii naziste. Nu există un răspuns bun în acest moment, dar politicienii trebuie să fie preveniți. Pe termen lung, omenirea se va obișnui, probabil, cu un ritm de muncă complet diferit și cu alte feluri de activități. În definitiv, în viziunea Raiului, nimeni nu trebuie să trudească și scopul istoriei nu este nici pe departe șomaj 0%. Procesul va trebui însă să fie administrat în mod corespunzător.

(sursa imaginii: https://kardashev.fandom.com/wiki/Technological_Singularity)

Chiar există pericolul ca omenirea să fie înlăturată de pe scena istoriei de mașini? Nu ar fi o noutate în istoria planetei. Dimpotrivă. Entitățile cu inteligențe superioare le-au înlocuit succesiv pe cele mai puțin inteligente de la dominația planetei. Chiar dacă nu au fost complet distruse, ecosistemele precedente au căpătat un loc inferior în ierarhiile ecologice și lanțurile alimentare. Vegetația a înlocuit dezolarea deșertului pustiu. Animalele au apărut mai întâi în mediul marin și apoi pe uscat și au făcut din mediul vegetal principala lor sursă de hrană. Dinozaurii au fost înlocuiți de mamifere. Homo Sapiens domină de câteva zeci de mii de ani planeta și o schimbă radical. Există un consens între experți că inteligența mașinilor o va depăși în câțiva ani sau în puține decenii pe cea omenească. Capacitățile lor de calcul, decizie, creativitate vor fi uluitoare. Din punctul de vedere al entităților AI de peste câteva decenii, inteligența umană va părea la fel de primitivă și de înceată precum ni se pare astăzi inteligența arborilor sau a animalelor inferioare. Trei scenarii sunt posibile: unul pozitiv în care mașinile gânditoare vor fi totdeauna sub controlul oamenilor în scopuri legate de supraviețuirea omenirii și îmbunătățirea condițiilor de trai; și două negative – unele dintre mașinile gânditoare vor cădea în mâinile dictatorilor care le vor transforma în arme; sau cel în care evoluția mașinilor gânditoare va scăpa controlului uman. Ce se poate face pentru ca doar primul scenariu să devina realitate? Este aceasta posibil?

Veștile bune sunt că răspunsurile aparțin domeniilor tehnologiei și ale regulației și legislației – toate aflate (încă?) sub controlul deplin al omenirii. Veștile mai puțin bune sunt că suntem departe de a fi de acord ce trebuie făcut și de avea planuri concrete – chiar la nivel național, să nu mai vorbim de nivel global. Sistemele AI au făcut progrese uriașe în domeniile deciziilor și creativității, dar nu sunt încă autonome. Avem (încă?) în mână butoanele care le declanșează și le opresc sau cablul care – când este scos din priză – le taie alimentarea cu electricitate. Este necesară cu maximă urgență stabilirea unor domenii care să fie interzise aplicațiilor AI sau în care cercetarea să se facă sub control strict, inclusiv control internațional. De exemplu, interzicerea folosirii ‘boților’ AI în scopuri electorale. Interzicerea impersonalizărilor în care entitățile AI se maschează ca operatori umani și generarea unor teste puternice, similare testelor Turing, care să detecteze și să izoleze asemenea aplicații. Știm însă că datorită capacităților de auto-învățare, aplicațiile AI vor ști, mai devreme sau mai târziu să ‘păcălească’ orice test. Trebuie să punem în funcțiune propriile noastre aplicații AI în acest scop. Pentru a recăpăta încrederea care stă la baza coeziunii oricărui sistem social, trebuie să fim capabili să distingem inteligența artificială de cea naturala.

(sursa imaginii: https://innovationatwork.ieee.org/ten-ways-ai-regulations-and-standards-will-evolve-in-2022/)

Yuval Harari folosește o metaforă fascinantă și terifiantă totodată. El spune că dacă o rasă de extratereștri ar amenința planeta, atunci omenirea ar găsi căile de a se uni pentru a lupta contra pericolului. Așa – zice el – trebuie să considerăm amenințarea ca AI să cada în mâini rele sau să capete autonomie în condițiile în care bunăstarea rasei umane nu mai este scopul ei principal. Eforturile legislative și regulatorii au început în multe țări, dar un efort internațional pare dificil, dacă nu imposibil, de antamat în condițiile noului ‘război rece’ dintre Statele Unite și aliații săi, pe de-o parte, China și aliații ei, inclusiv regimurile totalitare cele mai extremiste, de partea cealaltă. Nu există însă altă șansă decât a continua să insistăm continuu în această direcție. Moratoriile sau propunerile de înghețare a cercetărilor și dezvoltărilor tehnologice nu vor funcționa, în condițiile competiției globale și a neîncrederii reciproce, fiecare tabără fiind conștientă că partea cealaltă nu se va opri. Și totuși, la fel ca în cazul proliferării nucleare și a cursei înarmării din anii ’50-’60, soluțiile sunt încă la îndemâna conducătorilor lumii, a oamenilor de știință și a tehnologilor. Există precedente: cursa înarmărilor a dus la ‘destindere’ și la tratate internaționale care au limitat pericolul atomic; biotehnologia a decis să limiteze și să sisteze anumite direcții considerate periculoase în genetică sau clonare. Timpul însă nu așteaptă. Este cam un minut înainte de miezul nopții.

(Articolul a apărut iniţial în revista culturală ‘Literatura de Azi’ – http://literaturadeazi.ro/)