Singurul leac este acela de a impune schimbări la nivelul stimulentelor pe care le au companiile de AI, argumentează Tristan Harris, pentru The Economist.
<< Pe măsură ce platformele de social media au început să domine în ultimul deceniu, societatea a fost transformată. În primele zile, acea transformare a fost prezentată ca un bine fără preceden de către companiile de social media, inclusiv Facebook, Instagram și Twitter – până la urmă, ele conectau lumea așa cum nu se mai văzuse niciodată. Sloganul Twitter din 2014 era scurt și optimist: „What’s Happening?”, la Instagram era „Capture and Share the World’s Moments.”. Pagina de conectare la Facebook declara: „Facebook helps you connect and share with the people in your life”.
Dar, după cum a spus odată Charlie Munger, răposatul partener de afaceri al lui Warren Buffett: „arată-mi stimulentele și îți voi arăta rezultatul”. Acele sloganuri ascundeau o structură de stimulente distorsionată în cadrul platformelor de social media – un motor invizibil care avea să conducă experiența psihologică a miliarde de oameni. Au ieșit la iveală realități mai întunecate. Pe măsură ce social media și-a întărit controlul asupra existenței noastre zilnice, am fost martori la scurtarea constantă a duratei de atenție, transformarea discursului politic într-unul dominat de indignare și creșteri mari ale singurătății și anxietății. Platformele de social media au favorizat polarizarea, împingând daunele online în spațiul offline, uneori cu rezultate tragice și fatale.
Am început să mă îngrijorez de efectele dăunătoare ale rețelelor de socializare în urmă cu mai bine de un deceniu, când eram etician de design la Google. Mi-a devenit clar că acestea erau concepute pentru a ne capta și menține atenția și pentru a valorifica instinctele noastre subconștiente, toate acestea fără a lua în considerare ramificațiile pe termen lung. Stimulentele perverse din modelul de afaceri al rețelelor de socializare — maximizarea bazelor de utilizatori și a angajamentului — făceau ca societatea să devină mai dependentă, distrasă, în căutare de validare, indignată și polarizată.
Acum, lumea se confruntă cu o nouă tehnologie emergentă – AI-ul generativ. Este obișnuit să auzim oameni afirmând că este pur și simplu prea devreme pentru a spune cum va afecta societatea. Dar eu cred că putem prezice rezultatul acum, la fel cum cei care au privit suficient de atent au fost capabili să prezică rezultatul cu rețelele de socializare, examinând stimulentele care conduc dezvoltarea și implementarea tehnologiei.
Rețelele de socializare au reprezentat primul nostru contact la scară largă cu inteligența artificială – mai exact, „curation AI” care pur și simplu alegea ce postări, videoclipuri și tweet-uri să ajungă la ochii și urechile utilizatorilor. Curation AI era programat cu un stimulent simplu: să crească angajamentul pe platformă, pentru a genera venituri din publicitate. După cum se dovedește, utilizarea angajamentului ca stimulent poate crea disfuncții profunde în societate, cultură și politică. Zece ani de conviețuire cu Curation AI și stimulentele sale actuale au fost suficienți pentru a reconfigura fluxurile de informații globale, a rupe realitatea comună și a alimenta crize de sănătate mintală fără precedent în rândul tinerilor.
Societatea începe acum al doilea său contact cu inteligența artificială – AI-ul generativ sau de „creație.” O nouă clasă de tehnologii este lansată, de la chatboti care generează text și copiloți AI care generează cod, până la imagini deepfake și generatoare de audio cu clonare vocală. Deși companiile de tehnologie promovează AI-ul generativ drept un zeu al creșterii productivității și al altor beneficii, consecințele sale s-au dovedit deja a fi tulburătoare și chiar distructive. Escrocheriile financiare împotriva persoanelor în vârstă au fost îmbunătățite cu clone vocale ale celor dragi; aplicațiile de „nudificare” sunt folosite ca arme împotriva adolescenților; iar conținutul audio deepfake este utilizat pentru a șantaja oameni de toate vârstele.
Inteligența artificială generativă amplifică disfuncțiile preexistente din ecosistemul digital. Acest lucru se întâmplă deoarece reduce considerabil fricțiunile și face mult mai ușoară crearea de conținut. Imagini care necesitau abilități avansate de Photoshop pentru a fi construite pot fi acum create aproape instantaneu cu o propoziție simplă, de exemplu. Campaniile de dezinformare politică care necesitau implicarea multor oameni pot fi generate și implementate la scară largă, cu o țintire chirurgicală precisă a alegătorilor, folosind doar câțiva agenți umani.
Ce determină o tehnologie potențial periculoasă precum inteligența artificială generativă să crească într-un ritm atât de rapid? Răspunsul poate fi găsit, din nou, în stimulentele perverse aflate în joc – în special presiunea de a fi primul pe piață.
În ciuda avertismentelor venite atât din partea angajaților, cât și a cercetătorilor externi, multe companii de vârf din domeniul inteligenței artificiale se grăbesc să lanseze produse AI riscante, nesigure și chiar neetice, în speranța de a domina piața. În acest proces, ele minimalizează efectele negative și transferă responsabilitatea către guverne și public pentru a găsi soluții la problemele create de produsele lor AI.
Guvernele au puterea de a interveni și de a schimba stimulentele. Totuși, reprezentanții aleși se confruntă cu o provocare veche: tehnologiile emergente au fost din punct de vedere istoric dificil de reglementat, începând cu apariția căilor ferate și a telegrafului. Acest lucru se datorează parțial faptului că noile tehnologii sunt adesea prost înțelese. De asemenea, pionierii tehnologici fac de obicei eforturi mari pentru a minimiza supravegherea. Astăzi, declarațiile făcute cu jumătate de inimă, chiar cu rea-credință, de către directorii executivi din industria AI despre deschiderea lor către reglementare sunt urmate în mod obișnuit de eforturi intense și bine finanțate de lobby care ajută la crearea unui impas politic.
Politicienii trebuie să găsească o cale de ieșire din acest impas. Giganții tehnologici trebuie să fie trași la răspundere pentru daunele cauzate de produsele lor, nu doar încurajați să inoveze. Până acum, companii precum Meta, Google, Amazon și Microsoft au avut puțină responsabilitate pentru acțiunile lor. Aceste companii trebuie să fie supuse unui cadru de răspundere care să le expună la pierderi financiare semnificative, în cazul în care sunt găsite responsabile pentru daune. Doar atunci vor lua siguranța mai în serios atât în procesul de dezvoltare AI, cât și „în aval”, odată ce aceasta este implementată. Responsabilitatea are puterea de a introduce noi stimulente în fundația afacerilor AI.
În urmă cu un deceniu, în cazul rețelelor de socializare, lumea a adoptat o abordare de tipul văzând și făcând în privința modului în care acea tehnologie va schimba societatea. Rezultatele au fost devastatoare. În cazul inteligenței artificiale, nu ne putem permite să fim de acord cu sloganurile și campaniile de marketing. Ce motivează cercetarea, dezvoltarea și implementarea AI este deja clar: un stimulent periculos de a avansa rapid. Dacă dorim un rezultat mai bun de această dată, nu putem aștepta încă un deceniu – sau chiar încă un an – pentru a acționa. >>
Cum folosește propaganda rusă inteligența artificială pentru a rescrie știri reale
