Mountainhead, un film despre magnați din tehnologie care au luat-o razna și vorbesc într-un jargon corporatist fără oprire, este un semn al vremurilor.
Există o scenă în Mountainhead, captivantul film al creatorului serialului Succession, Jesse Armstrong, în care patru moguli din industria tehnologiei, care se exprimă într-un limbaj încărcat de jargon, dintre care doi concurează pentru titlul de cel mai bogat om din lume, discută despre cum ar putea profita de haosul global mortal pe care unul dintre ei l-a provocat în mod direct. Ei admiră „perturbarea” (disruption).
După ce au orchestrat o lovitură de stat în Argentina, iau în calcul una și în Statele Unite, pretinzând că o fac în beneficiul umanității, despre care cred că în curând se va „contopi cu mașina”. Partea absurdă este că nimic din toate acestea nu pare pe deplin absurd. Pentru că în societatea noastră s-a petrecut ceva foarte ciudat.
Miliardarii din Mountainhead sunt niște monștri. Adunați pentru un weekend într-un conac luxos, ei urmăresc cum o nouă funcție de videoclipuri deepfake bazată pe inteligență artificială, lansată de unul dintre ei, declanșează un val de revolte, lovituri de stat și crize în întreaga lume. Ei privesc decesele ca pe o „epurare” utilă și fac planuri despre cum să ajungă la „următorul nivel”, manifestând un dispreț vesel față de oricine nu face parte din mica lor castă de supraoameni ai tehnologiei.
Tipii aceștia sunt atât de izolați de restul lumii, încât și-au dezvoltat propriul limbaj. Aplică logica capitalului de risc la orice, inclusiv la o tentativă de omor de-a dreptul comică, pe care o abordează prin sesiuni de brainstorming, teste, iterații și schimbări de strategie, ca și cum ar dezvolta un produs minim viabil (minimum viable product).
Până și o boală în stadiu terminal devine un KPI (indicator-cheie de performanță): unul dintre ei, care deține o mare parte din infrastructura globală de cloud, își descrie cancerul astfel: „Per total, este un mare plus… Înțelepciune: +50%. Scop și sens în viață: ambele au crescut considerabil.”
Mountainhead nu este un film extraordinar — să nu vă așteptați la rafinamentul de primă clasă al serialului Succession — însă este o reflecție fascinantă a epocii în care trăim. Acum două decenii, cultura populară îl imagina pe miliardarul din tehnologie drept Tony Stark, alias Iron Man. Astăzi primim un amestec între Lex Luthor și Darth Vader — iar totul pare mai degrabă un documentar.
Când anume au devenit geniile tehnologiei personajele negative?
Titlul filmului trimite la romanul The Fountainhead al lui Ayn Rand și la eroul său, Howard Roark, arhitectul genial care refuză să-și compromită viziunea de dragul mediocrității mulțimii. Nu este foarte departe de imaginea pe care mulți dintre noi o aveam cândva despre Silicon Valley. Lăsați geniile să construiască, iar pe inovatori să producă schimbări radicale. Guvernul este lent, birocrații „nu înțeleg”, iar oamenii excepționali sunt cei care văd viitorul.
Multă vreme, aceasta nu a fost o perspectivă nerezonabilă.
Bill Gates a fost tocilarul care a contribuit la aducerea unui computer pe fiecare birou. Steve Jobs putea fi dificil, dar a creat instrumente extraordinar de utile pentru toată lumea. Jeff Bezos vindea cărți pe internet. Mark Zuckerberg conecta studenții între ei. Elon Musk a contribuit la crearea PayPal, apoi s-a apucat să construiască automobile electrice și rachete reutilizabile.
Desigur, Microsoft s-a confruntat cu un proces antitrust istoric. Jobs era un excentric și cu siguranță nu un model de angajator. Amazon a afectat grav librăriile independente. Însă povestea de ansamblu era, în mod covârșitor, una a progresului. Acești oameni nu controlau încă, în mod personal, o mare parte din infrastructura globală de stocare în cloud, nu decideau ce țări să aibă acces la sateliți esențiali și nu împingeau omenirea spre o stare de nebunie colectivă.
Am studiat informatica (da, am un master) și am crezut întotdeauna că tehnologia este, în mare măsură, o forță a binelui. Istoria îmi oferea toate motivele să cred asta. În ultimele trei sau patru secole, energia cu abur, electricitatea, sistemele de salubritate, antibioticele, aviația, telecomunicațiile și informatica au transformat existența umană. Datorită progresului tehnologic, oamenii trăiesc mai mult, sunt mai sănătoși, mai liberi și mai prosperi.
A fost, per ansamblu, un bilanț profund pozitiv.
Fizica nucleară ne-a oferit bomba atomică, dar și energia nucleară și tehnologii medicale care salvează vieți. Mașinile provoacă accidente mortale, dar au oferit și o libertate extraordinară de mișcare. Internetul a adus fraude, pornografie și dezinformare, însă a oferit, de asemenea, unei mari părți a omenirii acces la aproape întreaga cunoaștere umană.
O parte din ceea ce pare diferit astăzi este că, într-o epocă dominată de cultura celebrității, prea mulți dintre mogulii din tehnologie par să fi deraiat.
Mark Zuckerberg a ajuns în fața Congresului SUA, încercând stângaci să evite întrebările despre modul în care Facebook utilizează datele personale ale oamenilor. Peter Thiel, unul dintre primii investitori în Facebook și cofondator al PayPal, consideră că libertatea și democrația sunt incompatibile și a sprijinit inițiative de creare a unor comunități aflate în afara jurisdicției guvernelor. Larry Ellison, miliardar și cofondator al Oracle, încearcă să-l ajute pe Donald Trump să controleze mass-media în schimbul unui acces extrem de valoros și al unor favoruri politice. Deloc în regulă.
Și apoi este Elon Musk, poate cel mai spectaculos exemplu dintre toți.
L-a numit „pedo guy” („pedofil”) pe un scafandru britanic implicat în salvarea copiilor blocați într-o peșteră, doar pentru că acesta i-a criticat propunerea de a folosi un submarin în miniatură. A publicat pe Twitter un mesaj despre retragerea companiei Tesla de la bursă la prețul de 420 de dolari pe acțiune — o aparentă aluzie la consumul de marijuana — fapt care a atras intervenția Comisiei pentru Valori Mobiliare și Burse din SUA (SEC).
A cumpărat Twitter pentru 44 de miliarde de dolari, a intrat în sediul companiei purtând o chiuvetă de bucătărie (kitchen sink), a concediat cea mai mare parte a angajaților, a redenumit platforma în X și a transformat-o într-un spațiu aproape lipsit de reglementare, dominat de conținut toxic.
Iar în 2020, părând să sugereze că ar sprijini o lovitură de stat în Bolivia pentru a-și proteja interesele legate de litiu, Musk a scris pe Twitter: „Vom organiza lovituri de stat împotriva cui vrem noi! Obișnuiți-vă cu ideea.”
O fi fost o glumă? Nu mai pare deloc amuzant, atunci când Musk cheltuiește peste un sfert de miliard de dolari pentru a-l ajuta pe Donald Trump să câștige alegerile prezidențiale și este răsplătit cu conducerea așa-numitului Departament pentru Eficiență Guvernamentală (Department of Government Efficiency). Din această poziție, el și apropiații săi reduc drastic puterea autorităților de reglementare, desființează agenții federale și concediază zeci de mii de funcționari publici, aparent după bunul plac.
(Desigur, desigur, „eficiență”. Încerci în zilele acestea să afli ce se întâmplă cu rambursarea ta de taxe? Ghici ce? Nu mai e cineva pe acolo cu care să poți vorbi.)
Un milionar excentric poate fi pitoresc. Un miliardar excentric care crede că stăpânește lumea este însă un pericol. La fel pot deveni și companiile sale uriașe.
Amazon controlează acum o parte semnificativă a infrastructurii globale de cloud, de care depind guverne și companii din întreaga lume. Facebook este un colos lipsit de chip, care influențează ceea ce miliarde de oameni văd, citesc și ajung să creadă. Musk controlează infrastructură satelitară capabilă să influențeze desfășurarea războaielor. În film, această putere este folosită în mod abuziv de „băieții din tech”. Privind echivalentele lor din viața reală, chiar pare atât de improbabil?
Dar este prea simplu să punem totul pe seama unor miliardari excentrici. S-a petrecut ceva mai profund. Percepția noastră despre cei care construiesc tehnologia s-a schimbat exact în momentul în care s-a schimbat și percepția noastră despre tehnologie.
Rețelele sociale urmau să conecteze lumea. În schimb, este evident că îi fac pe copii dependenți și deprimați și îi transformă pe adulți în cele mai rele versiuni ale lor. Drept urmare, democrațiile au devenit mai polarizate și, în unele cazuri, aproape imposibil de guvernat.
Inteligența artificială ar putea contribui la vindecarea unor boli, la accelerarea descoperirilor științifice, la revoluționarea educației și la generarea unei prosperități extraordinare. Dar ar putea, de asemenea, să elimine sute de milioane de locuri de muncă și profesii întregi și să distrugă orice speranță de a mai ști ce se întâmplă cu adevărat.
Acum câțiva ani, capacitatea de a genera imagini realiste era impresionantă. Astăzi este înfricoșătoare. Imaginați-vă dacă orice provocator cu un cont premium ar putea crea un număr nelimitat de videoclipuri false în care membri ai unor minorități apar revoltându-se și jefuind orașe din Statele Unite și, pentru câțiva dolari în plus plătiți unor platforme lipsite de scrupule, ar putea distribui aceste materiale direct către grupări naționaliste albe. Sau dacă milioane de israelieni ar fi făcuți să creadă, peste noapte, că Autoritatea Palestiniană a invadat Tel Aviv. Sau că Turcia a atacat Grecia.
Aceasta este, în esență, catastrofa imaginată în Mountainhead. Și pare surprinzător de plauzibilă — poate la doar un an sau doi distanță. Așadar, este posibil ca acest moment tehnologic să fie cu adevărat diferit. În cazul tehnologiilor anterioare, efectele negative erau, în general, consecințe secundare ale unor invenții a căror utilitate fundamentală era evidentă. Dar dacă acești algoritmi câștigă mai mulți bani tocmai făcându-ne mai furioși, mai este furia un efect secundar sau este chiar produsul?
Nu știm dacă inteligența artificială îi va elibera în principal pe oameni de munca repetitivă și obositoare sau dacă va transforma o mare parte dintre ei în persoane inutile din punct de vedere economic. Nu știm dacă va extinde cunoașterea umană sau dacă va distruge însăși infrastructura informațională a lumii reale, de care această cunoaștere depinde.
Soluția nu poate fi oprirea progresului tehnologic. Dar soluția nu mai poate fi nici să avem încredere, pur și simplu, în presupusele genii.
Acesta a fost vechiul „pact” al Silicon Valley: lăsați inovatorii să construiască, iar societatea va beneficia. Însă aceste sisteme au devenit prea puternice, prea indispensabile și prea bizare pentru a rămâne niște regate private, conduse în mare măsură după temperamentul, ideologia și capriciile unei mâini de oameni, dintre care unii par să aibă nevoie urgentă de ajutor pentru propriul lor complex mesianic.
