Eu: ChatGPT, te rog scrie o telenovelă despre consiliul de administrație al unei companii de Inteligență Artificială care își demite CEO-ul, apoi îl repune în funcție, apoi o parte din consiliu este concediată! Toate acestea trebuie să aibă loc în 5 zile.
ChatGPT (după câteva secunde): Aici este. Se numește „A doua venire a lui Sam Altman stârnește noi temeri despre Apocalipsa AI”.
Dialogul este imaginar. Dar posibil. Ce s-a întâmplat cu câteva zile în urmă la OpenAI pare însă, într-adevăr, o telenovelă. Să analizăm. Titlul articolului propus de ChatGPT în dialogul imaginat este real, preluat de la unul dintre articolele dedicate subiectului, de revista WIRED.
(sursa imaginii: https://slate.com/technology/2022/12/chatgpt-openai-artificial-intelligence-chatbot-whoa.html)
Faptele. Vineri 17 noiembrie, consiliul de administrație al lui OpenAI l-a concediat pe co-fondatorul și directorul executiv (CEO) Sam Altman, declarând că nu mai are încredere în el, deoarece „nu a fost în mod constant sincer în comunicările sale cu consiliul de administrație, împiedicându-l pe acesta să-și exercite responsabilitățile”. Nu au fost oferite exemple ale acestui presupus comportament și aproape nimeni de la companie nu a știut nimic despre concediere până chiar înainte că aceasta să fie anunțată public. CEO-ul Microsoft, Satya Nadella, și alți investitori nu au primit nicio notificare prealabilă. Cei patru directori, reprezentând majoritatea consiliului de administrație format din șase persoane, l-au exclus și pe președintele lui OpenAI, Greg Brockman, din consiliu. Brockman și-a prezentat imediat demisia, în solidaritate cu Altman. La scurt timp după ce a fost concediat, în aceeași vineri, Altman a postat pe X (fostul Twitter) că a „adorat” timpul petrecut la OpenAI, perioadă care a fost „transformatoare” pentru el. Microsoft, cel mai mare investitor al lui OpenAI, a anunțat rapid că l-a angajat pe Altman să conducă cercetarea AI, împreună cu Brockman. La începutul săptămânii următoare, peste 700 dintre cei 770 de angajați ai companiei au semnat o scrisoare prin care solicitau consiliului de administrație să demisioneze și, de asemenea, să-l reintegreze pe fostul director executiv. Dacă ultimatumul lor nu era îndeplinit, ei amenințau că îl vor urma pe Altman la Microsoft, care se oferise să-i angajeze pe toți. În trei zile, doi directori temporari au fost numiți succesiv la conducerea firmei, doar pentru a renunța în scurt timp. Până marți seara, Altman era din nou la cârmă. Lui urmează să i se alăture un consiliu recent reconstituit, care va include figuri noi, precum fostul co-CEO Salesforce, Bret Taylor, și fostul secretar al Trezoreriei SUA, Lawrence Summers. Nadella, șeful lui Microsoft, și-a exprimat, de asemenea, dorința de a fi ținut la curent, având în vedere investiția substanțială a lui Microsoft în OpenAI, spunând că nu mai vrea „surprize”. S-ar putea să vedem un reprezentant al lui Microsoft alăturându-se consiliului la un moment ulterior.
(sursa imaginii: www.reuters.com/technology/sam-altman-return-openai-ceo-2023-11-22/)
Cine este Sam Altman? Are 38 de ani și a fost considerat un copil-minune al tehnologiei înainte de a termina școala primară. A crescut în statul american Missouri, unde, la vârsta de opt ani, a primit primul său computer și a învățat rapid nu doar cum să-l folosească, ci și cum să-l programeze. Altman a urmat școala primară la St. Louis și a declarat pentru The New Yorker, într-un interviu din 2016, că computerul l-a ajutat să se împace cu sexualitatea lui (este în mod deschis gay) și să comunice cu părinții săi în perioada adolescenței sale. S-a înscris la Universitatea Stanford, renumita instituție din California, pentru a studia informatica, dar a renunțat la studii după doar doi ani, călcând pe urmele predecesorilor care au abandonat studiile devenind superstaruri din domeniul tehnologiei, precum Bill Gates și Mark Zuckerberg, care ambii își abandonaseră studiile la Harvard înainte de a deveni doi dintre cei mai influenți inventatori din istorie. Prima șa aventură postuniversitară a fost o aplicație pentru smartphone numită Loopt, care le permitea utilizatorilor să-și anunțe, în timp real, în mod selectiv, locația altor persoane. Aproximativ 30 de milioane de dolari au fost strânși pentru a lansa compania. A urmat OpenAI, întemeiată împreună cu Elon Musk (care conducea deja SpaceX și Tesla la acea vreme) în 2015, cei doi bărbați oferind finanțarea alături de Amazon și Microsoft, în total un miliard de dolari. OpenAI fost condusă ca o organizație non-profit, cu scopul nobil de a dezvolta AI, asigurându-se în același timp că nu va distruge omenirea. Până acum, misiunea s-a îndeplinit – dar dacă Altman e de crezut, riscul de atunci a devenit foarte real. În timpul mandatului său, OpenAI a încetat să mai fie o organizație non-profit și a crescut la o valoare estimată de până la 29 de miliarde de dolari, totul datorită succesului remarcabil al instrumentelor sale AI generative – ChatGPT, pentru text, și DALL-E, pentru imagini. Șeful Microsoft, Satya Nadella, l-a descris pe Altman drept un „antreprenor incredibil”, care pariază mult și pariază corect, ceea ce, având în vedere succesul lui OpenAI, este greu de contestat.
(sursa imaginii: https://digitalfloats.com/what-is-chatgpt/)
Ce se ascunde în spatele comunicatelor oficiale? După unele relatări preluate de agenții de presă precum Reuters, OpenAI „lucra la un model avansat atât de puternic, încât a alarmat personalul”. Informațiile ajunse publice spun că noul model Q* – pronunțat „Q-Star” – a alimentat temerile legate de siguranță și că unii dintre participanții la proiect și-au exprimat îngrijorările consiliului înainte de demiterea Sam Altman, avertizând că ar putea amenința omenirea, a raportat Reuters. Modelul este capabil să rezolve probleme de matematică de bază, ceea ce, adăugat la ritmul de dezvoltare a sistemului, i-a alarmat pe unii cercetători în domeniul siguranței. Abilitatea de a rezolva probleme de matematică este considerată ca un salt semnificativ în AI. Dacă situația nu părea suficient de nebunească, OpenAI a lansat ChatGPT cu capabilități vocale pentru toți utilizatorii în scurta perioadă în care Altman era demis din funcția de CEO. Funcția fusese restricționată anterior doar la utilizatorii care plăteau pentru serviciul de abonament de 20 USD pe lună al lui OpenAI, ChatGPT Plus. Cu această capabilitate, dezvoltatorii de software de la OpenAI au făcut un alt pas mare spre obiectivul lor de „multimodalitate”, oferind chatbot-ului posibilitatea de a susține o conversație cu utilizatorii. Ideea este că un chatbot poate fi și mai puternic dacă poate accepta intrări și poate oferi ieșiri în mai multe medii, cum ar fi voce, text și imagini. Cine știe când va învăța să miroasă?
(sursa imaginii: www.linkedin.com/pulse/deep-learning-unleashing-power-neural-networks-ai-jasneet-kaur)
Problemele firmei s-ar putea să fie însă mai degrabă structurale, și nu tehnice. Există o tensiune evidentă între misiunea nonprofit a consiliului de administrație și dorințele comerciale ale directorilor și investitorilor implicați în unitatea pentru profit a lui OpenAI. Aceasta este, de asemenea, consecința creșterii rapide a companiei în dimensiune și influență, reflectând puterea în creștere a industriei AI. „A durat șase săptămâni pentru a trece ChatGPT de la zero la 100 de milioane de utilizatori. World Wide Web a avut nevoie de șapte ani pentru a ajunge la o asemenea amploare”, declara Davis Shrier, profesor la Colegiul Imperial din Londra. „Șapte ani sunt suficient timp pentru ca creierul uman să ajungă să înțeleagă tehnologia. Șase săptămâni abia e un interval suficient de timp pentru a programa o ședință de consiliu.” În ciuda puterii supreme pe hârtie a consiliului de administrație, complexitatea și amploarea operațiunilor OpenAI „au depășit în mod clar” capacitatea directorilor de a supraveghea compania, spune Shrier. El consideră că asta este alarmant, având în vedere nevoia reală și imediată de a gestiona riscurile tehnologiei AI. Proiecte precum OpenAI „cu siguranță nu sunt proiecte științifice. Nu mai sunt doar companii de software”, spune el. „Acestea sunt întreprinderi globale, cu un impact semnificativ asupra modului în care gândim, cum votăm, cum ne conducem companiile, cum interacționăm unul cu celălalt. Și, ca atare, avem nevoie de un mecanism de guvernare matur și robust.” Strategia lui Altman de a strânge miliarde de dolari și de a colabora cu un gigant tehnologic precum Microsoft pentru a dezvolta Inteligența Artificială din ce în ce mai avansată, admițând, de asemenea, că nu a înțeles pe deplin unde ar putea duce aceasta, a fost greu de aliniat cu temerile lui declarate de evenimente la nivel de extincție. Nu cu mult timp în urmă, Altman ceruse în mod repetat guvernelor să-l reglementeze pe el și compania sa pentru binele omenirii: „Cea mai mare teamă a mea este că noi – domeniul, tehnologia, industria – provocăm un prejudiciu semnificativ lumii”, a declarat Altman la o audiere a Congresului din luna mai, spunând că dorește să lucreze cu guvernele pentru a preveni asta.
Autoritățile regulatorii din întreaga lume vor urmări cu atenție ce se întâmplă în continuare la OpenAI. În timp ce Altman negocia marți să se întoarcă la OpenAI, Comisia Federală pentru Comerț din SUA vota pentru a acorda personalului autorităților regulatorii competențe de a investiga companiile care vând servicii bazate pe Inteligență Artificială, permițându-le să le oblige legal să furnizeze documente, mărturii și alte dovezi. Drama din sala de consiliu a lui OpenAI s-a desfășurat, de asemenea, într-un moment esențial al negocierilor cu privire la actul de referință al AI al Uniunii Europene – o lege care ar putea da tonul pentru reglementări din întreaga lume. Unul dintre principalele puncte deschise în negocierile UE este dacă producătorii așa-numitelor modele de fundație, cum ar fi GPT-4 de la OpenAI, ar trebui să fie reglementați sau dacă legislația ar trebui să se concentreze pe aplicațiile pe care modelele de bază sunt folosite pentru a le crea. Argumentul pentru evidențierea modelelor de bază este că, în calitate de sisteme AI cu multe capacități diferite, acestea vor ajunge să susțină multe aplicații diferite. Un exemplu este reprezentat de felul în care GPT-4 alimentează chatbot-ul OpenAI, ChatGPT. Săptămâna aceasta, Franța, Germania și Italia au declarat că susțin „autoreglementarea obligatorie prin coduri de conduită” pentru modelele de fundații, potrivit unui document comun raportat pentru prima dată de Reuters – sugerând că lui OpenAI și altora li se poate încredința încrederea că își păstrează propria tehnologie. Dar pentru susținătorii unui regim de reglementare mai robust pentru IA, evenimentele din ultimele zile arată că autoreglementarea este insuficientă pentru a proteja societatea. „Ce s-a întâmplat cu această dramă din jurul lui Sam Altman ne arată că nu ne putem baza pe directori executivi vizionari, ci trebuie să avem reglementări”, spune Brando Benifei, unul dintre cei doi parlamentari ai Parlamentului European care conduc negocierile privind noile reguli. „Aceste evenimente ne arată că nu există încredere și previzibilitate în guvernarea acestor întreprinderi.”
(sursa imaginii: www.entrepreneur.com/business-news/microsoft-invests-billions-in-openai-creator-of-chatgpt/443513)
Relația dintre OpenAI și Microsoft ia o turnură dramatică. Privită retrospectiv, ideea că întreaga forță de muncă a OpenAI să se alăture lui Microsoft pare ceva ce nici ChatGPT nu ar îndrăzni niciodată să imagineze. Sigur, ar fi fost o lovitură fantastică pentru Microsoft să obțină crema fondului de talente în cercetarea AI. Dar ar fi fost extrem de costisitor, iar mulți dintre acești angajați OpenAI sunt implicați în subansambluri de detaliu, cum ar fi proiectarea interfeței, managementul produsului și relațiile cu inginerii, adică o mulțime de poziții redundante cu cele deja existente la Microsoft. În plus, produsele OpenAI concurează cu toate aplicațiile Copilot pe care Microsoft le lansează pe baza tehnologiei OpenAI. Dar cel mai nebunesc lucru dintre toate ar fi fost simplul fapt că OpenAI, creat literalmente pentru a împiedica companii precum Microsoft să domine tehnologia AI, și-ar fi livrat talentul de elită – inteligența și informația acumulată – în mâinile gigantului evaluat la peste un trilion de dolari. Microsoft nu ar avea niciun fel de scrupule în a înghiți OpenAI, deși probabil că un procent mare de cercetători OpenAI s-ar fi mutat la alte start-up-uri AI în ascensiune sau și-ar fi încercat propriile puteri pentru a începe altele noi. Apropierea dintre OpenAI și Microsoft începe să semene din ce în ce mai mult cu o tentativă a gigantului informatic de a pune stăpânire pe inventatorii cei mai de succes din domeniul AI. Va fi interesant de urmărit și de relatat.
(Articolul a apărut iniţial în revista culturală ‘Literatura de Azi’ – http://literaturadeazi.ro/)