Democrațiile liberale pregătesc terenul pentru o derivă tehno-autoritară, oferind companiilor private o putere centralizată și ferită de tragerea la răspundere asupra infrastructurii AI. Având în vedere daunele sociale și politice extinse asociate platformelor de social media care nu răspund de acțiunile lor, nu ar trebui oare să știm mai bine ce se întâmplă?, se întreabă Project Syndicate.
<< Algoritmii nu sunt neutri din punct de vedere valoric. Și totuși, de mai bine de un deceniu, le-am permis marilor companii de tehnologie să îi folosească drept porți de acces către ecosistemul nostru informațional, fără a cere în schimb transparență sau responsabilitate. Consecințele au variat de la amplificarea conținutului polarizant și senzaționalist, la publicitatea personalizată subtilă, proliferarea comportamentelor monopoliste și forme de influență asupra discursului public, care sunt contrare deliberării democratice.
Deși am învățat pe pielea noastră ce se întâmplă atunci când infrastructura critică de informații este cedată, fără supraveghere, intereselor corporatiste, acum repetăm aceeași greșeală cu chatboții AI – iar miza ar putea fi mult mai mare. Chatboții nu se limitează la selecta informațiile existente, ci le generează și le structurează. Facebook și Google decideau ce articole de știri să vezi, în timp ce instrumente precum ChatGPT, Claude și Gemini sintetizează acele informații în răspunsuri care sună ca și cum ar fi unele de autoritate.
Această distincție contează, deoarece trecerea de la rolul de curator la cel de editor face ca influența nejustificată să fie și mai greu de observat și totodată mai periculoasă. Încă o dată, cedăm o putere fără precedent asupra infrastructurii informaționale viitoare către corporații private, fără a cere supraveghere independentă, și astfel riscăm ca un număr mic de părți interesate să devină porțile principale de acces la informație pentru o parte mare și în creștere a populației.
Chatboții actuali nu sunt doar modele lingvistice mari (LLM-uri). Ei se bazează pe mai multe straturi algoritmice opace, care influențează dezvoltarea și implementarea modelului, iar fiecare strat poate fi un punct de intrare pentru platforme sau alte entități care să modeleze informația în funcție de interesele lor.
Există cel puțin cinci straturi în ceea ce poate fi numit «stiva influenței algoritmice». Primul este selecția datelor de antrenament. În procesul de a decide ce date sunt incluse sau excluse în timpul antrenării, platformele iau decizii opace cu privire la surse, la modul de a pondera diferite perspective și la ce conținut să fie filtrat. Aceste alegeri modelează apoi viziunea asupra lumii pe care o are model. De exemplu, în octombrie 2025, Elon Musk a lansat Grokipedia pentru a furniza date de antrenament pentru chatbot-ul său Grok. O enciclopedie controlată de corporație, scopul său este de a oferi o alternativă «anti-woke» la Wikipedia și modelul său de guvernanță comunitară, care a servit mult timp drept o sursă de informații de încredere pe internet.
Al doilea strat este învățarea prin consolidare cu feedback uman și AI, procesul care a transformat modelele lingvistice mari (LLM) din generatoare de text imprevizibile în «asistenți» utilizabili. În această etapă «post-antrenament» a dezvoltării unui model, evaluatori umani notează rezultatele pentru a ghida sistemul către comportamente dorite, precum utilitatea sau politețea. Deocamdată, aceste evaluări umane rămân o parte majoră, dar în mare parte invizibilă, a industriei AI. Totuși, ele sunt din ce în ce mai des înlocuite de «profesori» AI specializați, care ar trebui să alinieze modelul de bază cu principii predefinite, codificate într-o «constituție».
Al treilea strat este căutarea pe web. Atunci când chatboții caută informații online sau accesează baze de date digitale, sistemele de tip retrieval-augmented-generation (RAG) decid ce informații să fie folosite pentru a genera răspunsul modelului. Această funcție reflectă modul de operare al motoarelor de căutare tradiționale, care prioritizează anumite surse în detrimentul altora. Și, la fel ca în cazul motoarelor de căutare, introducerea de reclame în răspunsurile chatboților – pe care ChatGPT a anunțat-o pentru 2026 – va ridica preocupări suplimentare privind obiectivitatea.
Al patrulea strat îl reprezintă system prompts. Deoarece acestea intră în acțiune atunci când un chatbot generează un răspuns, ele permit platformelor să modifice comportamentul chatbot-ului fără a fi necesar reantrenarea sa. De exemplu, deoarece system prompt-ul lui Grok a fost făcut public anul trecut, știm că include directive precum «nu evitați să faceți afirmații care sunt politic incorecte». (ChatGPT, Claude și Gemini folosesc de asemenea system prompts, dar acestea rămân secrete.)
Ultimul strat îl constituie filtrele de siguranță. Înainte ca o interogare să ajungă la model, filtrele de intrare determină dacă aceasta este „acceptabilă”. În mod similar, după ce modelul generează un răspuns, filtrele de ieșire pot modifica, cenzura sau „igieniza” conținutul înainte să îl vezi. Deși platformele au motive legitime să blocheze anumite interogări (cum ar fi cele care cer instrucțiuni pentru a construi o bombă), faptul că aceste filtre sunt opace ridică întrebări. Dezvoltatorii de modele ar putea crea infrastructura pentru o cenzură sistematică, fără ca noi să știm. Filtrele de „siguranță” ale chatboților chinezi cenzurează toate referirile la masacrul din Piața Tiananmen.
Interesele politice și corporative modelează deja această stivă de influență algoritmică, în timp ce chatboții sunt deja folosiți la scară globală. După a doua inaugurare a lui Donald Trump, Apple și-a actualizat instrucțiunile de antrenare AI pentru a evita etichetarea susținătorilor MAGA ca fiind „radicali” sau „extremi”. Vara trecută, Reuters a descoperit că Meta și-a modificat liniile directoare interne pentru AI, relaxând protecțiile care împiedicau chatboții să facă declarații rasiste sau să se angajeze în comportamente de „flirt” cu minori, printre altele. În mai anul trecut, Grok a început să amplifice afirmații nefondate și scoase din context despre „genocidul alb” în Africa de Sud (Musk însuși este un sud-african alb). Deși compania a dat vina pe „modificări neautorizate”, astfel de „erori” sunt comune și toate par să fie consecvente ideologic cu propriile opinii ale lui Musk.
Manipularea politică prin chatboți s-a dovedit deja eficientă. Un studiu publicat în 2025 în Nature a arătat că chatboții antrenați să argumenteze în favoarea unui anumit candidat puteau influența cu ușurință alegătorii moderați și indeciși (cohorte care decid majoritatea alegerilor).
Spre deosebire de sistemele autoritare, care exercită un control explicit asupra informației, democrațiile depind de pluralitatea surselor și de ecosisteme informaționale transparente și responsabile. A permite putere centralizată și necontabilizată asupra infrastructurii AI înseamnă a invita o alunecare tehno-autoritară, pentru că este ușor de văzut cum fiecare strat al stivei de influență algoritmică poate fi instrumentalizat pentru a amplifica sau suprima anumite puncte de vedere fără a fi nevoie de cenzură deschisă.
În decembrie anul trecut, Comisia Europeană a amendat X cu 120 de milioane de euro (138 de milioane de dolari) pentru „încălcarea obligațiilor de transparență prevăzute de Legea serviciilor digitale”. Previzibil, X și susținătorii săi au prezentat această măsură ca un atac la libertatea de exprimare. Dar transparența este esențială pentru apărarea libertății de exprimare. Fără ea, nu putem ști cine este cenzurat sau ce influențe sunt exercitate asupra mass-mediei pe care o consumăm cu toții.
Ascensiunea rețelelor sociale ne-a învățat ce se întâmplă atunci când responsabilitatea rămâne în urmă față de adoptarea tehnologiilor. Nu ne putem permite să repetăm aceleași greșeli cu sisteme care dețin o putere și mai mare asupra cunoașterii publice. >>
Oligarhii din tehnologie trebuie puși la punct. Drumul în această direcție a fost deschis
