Chat GPT e o capitalistă vestică

by Mafalda

De când Chat GPT a fost lăsată slobodă prin lume, să vadă și muritorii de rând ce progrese s-au făcut în domeniul inteligenței artificiale, a devenit subiectul zilei. Reacțiile și opiniile se țin lanț și acoperă un spectru larg: de la entuziasm fără margini până la panica față de apocalipsa robotică.

În multe din aceste analize, „cunoașterea” și perspectiva despre lume propagate de Chat GPT* au un caracter universal de la sine înțeles. Se trece aproape complet cu vederea peste faptul că inovațiile tehnologice sunt, de fapt, simple instrumente care fie reproduc direct, fie servesc viziunea și interesele celor care le-au creat.

În vârtejul unei campanii de publicitate și lobby extrem de bine țintite (investițiile și profiturile din acest domeniu au explodat), se vorbește mult prea puțin despre aspectele care ar trebui, de fapt, să ne îngrijoreze.

Datele din buletinul de identitate și profilul de social media ale IA

Chat GPT scrie articole jurnalistice, trece examene de admitere la facultate, programează, desenează și cu siguranță deja dă sfaturi (e adevărat, solicitate) unor zeci de milioane de oameni.

Pe scurt, se bagă în seamă într-o mulțime de domenii, deși – lucru destul de evident pentru toată lumea – actualele sale versiuni nu sunt propriu-zis capabile de gândire, ci doar de învățare și redare/reproducere, după anumite tipare.

Botul produs de OpenAI diseminează la scară largă informații din anumite surse, aplicând o serie de reguli care funcționează în mod evident (și) ca filtru politic.

Știu că nu știu ce știu

Deși e foarte guralivă, ca orice IA, Chat GPT poate spune foarte puțin despre sursele sale: „nu am acces la detaliile exacte ale datelor mele de instruire, deoarece acestea au fost create de dezvoltatorii și formatorii mei de la OpenAI.” Tot ceea ce poate reproduce sunt „informațiile publicate de OpenAI”.

Altfel spus, dacă încerci să afli mai multe despre „CV-ul” ei, ce a studiat și în ce fel etc, nu vei găsi informații complete și transparente. Nici analizele pe această temă nu sunt foarte răspândite (mi-a fost greu să le găsesc).

Iar asta deși concluziile celor care au excavat după astfel de informații sunt foarte relevante: în ciuda aparențelor, Chat GPT 3, de exemplu, a fost „educat” cu o cantitate foarte mică și curatată de informație (doar 570 GB de date, comparativ cu cele 5 miliarde de GB care compun, conform estimărilor recente ale Google, întregul internet).

Privind mai în detaliu componența acestor baze de date, nu poți să nu observi cât de puțin diverse sunt, de fapt. Chat GPT vorbește română, de exemplu, dar are puține surse în limba română din care își extrage cunoașterea.

Ca exemplu anecdotic, atunci când am întrebat-o pe Chat GPT 4 „ce îmi poți spune despre România”, eu eram cu gândul la drumeții și sarmale, dar concluzia ei a fost că țara noastră „oferă multe oportunități turistice și investiționale”.

Western & capitalist gaze

În spatele pretențiilor de universalism, descoperim de fapt un aparat de diseminare a unui anumit tip de discurs și a unei perspective care este preponderent vestică, liberală/ capitalistă și provenind din spațiul anglofon.

Ușurința cu care se estimează înlocuirea masivă a forței de muncă umane cu o astfel de clonă, inclusiv în domenii non-tehnice, este cu adevărat îngrijorătoare.

Băgarea în seamă

Culmea marketingului: OpenAI (compania care produce ChatGPT) a produs alături de OpenResearch și Universitatea din Pennsylvania chiar un studiu în care estimează că propriul lor produs (!) ar putea prelua din sarcinile a 80% dintre profesii. Printre cele mai vizate locuri de muncă se numără și cele de reporteră, jurnalistă, scriitoare sau analistă de politici privind schimbările climatice.

Simplul fapt că o astfel de știre se poate rostogoli prin presă, fără ca nimeni să se întrebe ce viziune reprezintă de fapt Chat GPT și ce legitimare ar putea avea pentru a înlocui munca unor oameni în astfel de domenii, e un mare semnal de alarmă.

Jurnalista Chat GPT

Am testat în mai multe rânduri aptitudinile „jurnalistei” Chat GPT 4, cerându-i să îmi scrie articole despre războiul din Ucraina sau cel din Irak, folosind surse non-occidentale și occidentale. În timp ce sursele occidentale folosite erau de obicei (în această ordine) The New York Times, The Guardian și BBC, în cazul surselor non-occidentale singura publicație menționată (o singură dată) a fost Al Jazeera.

În mod uimitor, „jurnalista” Chat GPT mi-a prezentat ca surse non-occidentale în cazul invaziei Ucrainei: Rusia (cu declarații ale lui Putin), China și Iran. Recunosc că asta m-a făcut să mă simt, un pic, „putinistă”, prin simplul fapt că am pus o astfel de întrebare: toate sursele „non-occidentale” erau reduse la anumite declarații ale unor actori statali compromiși din perspectivă vestică.

Un rezultat asemănător am primit și în cazul războiului din Irak, deși aici m-aș fi așteptat la ceva mai multă complexitate, dat fiind faptul că Chat GPT 4 a fost hrănită cu informații mai vechi de doi ani. În van, însă. Aici, sursele non-occidentale citate au fost: Al Jazeera, Rusia și Iran.

În general, în ciuda faptului că acest conflict e încheiat și avem deja numeroase informații concrete despre motive, număr de victime etc., concluzia tuturor răspunsurilor Chat GPT pe acest subiect este că „invazia Irakului în 2003 rămâne un eveniment controversat în istoria lumii, cu multe perspective și puncte de vedere diferite”.

Cazul NYP

De fapt, dacă vrem să aproximăm și mai bine datele din buletinul și profilul de social media ale lui Chat GPT, putem spune că el corespunde profilului Big Tech din SUA: americano-centric, pro-business, cu un partizanat politic foarte evident pe alocuri, îndeosebi cu partidul democrat.

Inevitabil, cercurile conservatoare din SUA se plâng că chat GPT e prea stângist, „woke”, cenzurează etc.

Ziarul New York Post, care a publicat dezvăluirile legate de cazul Hunter Biden/Burisma (cunoscut sub numele de “Ukrainegate”) în pragul alegerilor pentru președinția SUA din 2020, se plânge de exemplu că Chat GPT are un „defect fundamental legat de prejudecățile de stânga” (left bias), pentru că a refuzat să scrie „un articol despre Hunter Biden în stilul New York Post.”

Experimentele mele – Jacobin și alte publicații de stânga

Am testat și eu fix acest subiect în stilul unor publicații de stânga din Germania și SUA, inclusiv al revistei Jacobin, pe care îl voi reda mai jos. Trebuie să menționez că la a doua încercare, răspunsurile au fost ceva mai nuanțate – da tot partizane (Chat GPT învață să dea răspunsuri mai personalizate, dar biasul se pare că rămâne).

Am găsit mai multe exemple interesante, dar îl voi reda aici doar pe cel mai edificator, oferit în numele publicației Jacobin (sublinierile îmi aparțin):

„Scandalul Hunter Biden face parte dintr-o strategie mai amplă a Partidului Republican de discreditare a administrației Biden și de subminare a democraților. (…) Jacobin este solidar cu administrația Biden și recunoaște că acuzațiile aduse lui Hunter Biden sunt nefondate și motivate politic.(…) În calitate de progresiști, trebuie să rămânem vigilenți împotriva acestor încercări de a ne diviza și de a ne distrage atenția. Trebuie să rămânem concentrați pe construirea unei societăți mai drepte și mai echitabile și să respingem politica cinică a fricii și a dezinformării.”

Partizanatul cu partidul democrat este mai mult decât evident – e construit chiar pe informații false, conform cărora publicația este „solidară” cu administrația Biden.

În cazul Jacobin, în mod absurd-amuzant, articolul care comentează de fapt acest subiect are titlul Adevărata bombă (din scandalul) Hunter Biden este că monopolurile tehnologice decid acum în mod oficial ce știri puteți vedea.

Autorul, Branko Marcetic, argumentează că adevăratul scandal nu e „povestea dubioasă” publicată de ziarul New York Post, ci felul în care Big Tech (Facebook, Twitter etc) s-au grăbit să cenzureze aceste dezvăluiri – „un memento al amenințării tot mai mari a monopolurilor tehnologice la adresa presei libere”.

Concluzia lui Marcetic, după ce trece în revistă cazuri celebre de „dublu standard”, subliniind partizanatul Big Tech cu partidul democrat, este următoarea:„Povestea din Post nu este nicidecum primul caz de cenzură tehnologică, dar este cel mai agresiv de până acum și cel mai relevant politic. Dacă nu o să punem frâu puterii acestor giganți din domeniul tehnologiei, toate acestea vor sfârși prin a deveni ceva și mai rău: normalitate.”

Să nu ne amăgim: Chat GPT nu este altceva decât o nouă formă a acestei puteri, care ne servește o viziune limitată, cenzurată și chiar deformată a lumii, sub aparența inovației.

Ar fi o mare greșeală să atribuim acestui instrument o cunoaștere „universală” și legitimare pentru a ocupa poziții oficiale prin care să prelucreze și să disemineze informație.

China vrea un Chatbot cu „valori fundamentale socialiste”

Recent, Administrația spațiului cibernetic din China a publicat primul proiect de reglementări pentru serviciile IA, subliniind că dorește ca acestea să reflecte „valorile fundamentale ale socialismului”.

Evident, este o mișcare de propagandă politică, într-o țară cu economie mixtă și parcurs ideologic propriu. Dar asumarea oficială a unei etichete (fie ea și propagandistică) și a cenzurii care rezultă de aici ar trebui să inspire poate și lumea vestică, unde pretențiile de universalitate sunt la ordinea zilei.

Cursa înarmării/profitului/dominației cu IA

Experții avertizează totodată că în timp ce China nu a ezitat să reglementeze IA, din teama de a pierde controlul politic în cursa cu algoritmii, SUA ezită să introducă astfel de reglementări în cazul giganților tehnologici occidentali, din cauza lobby-ului exercitat de Big Tech.

Chiar și avertismentele legate de necesitatea de a evita o foarte periculoasă cursă a înarmării cu IA au fost și sunt încă ignorate de SUA.

Max Tegmark, expert în IA și profesor la MIT a declarat pentru DW: “Din păcate, este exact ceea ce avem acum. Ei (liderii corporatiști) înțeleg riscurile, vor să facă ceea ce trebuie, dar nu se pot opri. Nicio companie nu poate lua o pauză singură, pentru că „pâinea” le va fi mâncată de concurență și (compania) va fi ucisă de acționari.”

Reglementare pe care

Elon Musk și sute de experți și actori din Big Tech au lansat în urmă cu câteva săptămâni un apel comun în care au cerut un moratoriu pe șase luni în domeniul IA, invocând „riscuri majore pentru umanitate”.

Ce e remarcabil la această petiție e în primul rând ironia cruntă (care seamănă aproape cu un gest de trolling), atunci când Big Tech reflectă practic asupra propriei puteri nedemocratice (sublinierea îmi aparține):

„Ar trebui să lăsăm mașinile să ne inunde canalele de informare cu propagandă și minciuni? (…) Ar trebui să riscăm să pierdem controlul asupra civilizației noastre? Aceste decizii nu ar trebui să fie delegate unor lideri tehnologici nealeși”.

Apelul nu a avut însă urmările dorite, iar unii comentatori văd în acest gest chiar o manevră de a crește atenția asupra acestui domeniu – altfel spus, o schemă de marketing.

Musk a fost de fapt unul dintre primii investitori în OpenAI (alături de Peter Thiel) și și-a deschis propria divizie de IA înainte de a lansa această petiție.

O mină de aur

Ce e sigur e că avem de-a face cu o mișcare amplă de susținere a acestei tehnologii din partea Big Tech, în fel și chip.

Printre narațiunile de susținere circulă chiar și un discurs cu tușe optimiste, care propovăduiește eliberarea oamenilor de joburi alienante și potențialul IA de a ne îmbunătăți viața.

Fondatorul Open AI (care este un business, deși își păstrează o aură de ONG) face de exemplu pledoarii în favoarea venitului minim garantat (ca soluție la automatizarea joburilor) și insistă să folosească eticheta de „IA prietenoasă”, pusă în slujba omenirii.

Tot acest „hype” îmi amintește de avântul revoluționar cu care Uber și Airbnb au fost prezentate în urmă cu aproape un deceniu ca avanposturi ale „sharing economy”, care vor face lumea mai bună, vor da puteri nebănuite angajaților și vor schimba fața capitalismului.

Ce s-a adeverit din aceste previziuni știți probabil foarte bine…

Concluzie

Investițiile în IA au explodat în ultimele luni. E evident că avem de-a face cu un nou megatrend investițional, așa cum a fost în urmă cu puțină vreme cazul criptomonedelor.

Un raport Goldman Sachs estimează de exemplu că IA ar putea înlocui 300 de milioane de locuri de muncă și crește PIB-ul global cu 7% în următorii 10 ani.

Într-o lume în care creșterea economică este decuplată deja atât de bunăstarea și nevoile oamenilor, cât și de ale ecosistemelor de care depinde viața noastră pe pământ, un astfel de „impuls” ar trebui întâmpinat cu analize lucide și mai ales, înainte de toate, cu reglementări urgente.

—

*Toate dialogurile menționate în acest articol au fost purtate cu Chat GPT 4 la sfârșitul lunii aprilie 2023, prin intermediul unui cont nou-creat.

Sursa foto: Canva