Guvernanța inteligenței artificiale trebuie să țină seama de toate aspectele, de la cerințele materiale ale tehnologiei până la efectele acesteia asupra comunităților, întreprinderilor, pieței muncii, mediului și competiției strategice. În acest scop, este esențial un cadru bazat pe încredere susținută prin verificare, un cadru mai cuprinzător decât reglementările naționale și mai flexibil decât un tratat internațional clasic, notează o analiză Project Syndicate.
<< O modalitate de a reprezenta epoca inteligenței artificiale este imaginea unei curbe abrupte și a unei pante line. Curba urcă aproape vertical: modelele de inteligență artificială devin rapid mai ieftine, mai performante, mai accesibile și tot mai profund integrate în producție, cercetare, educație, finanțe, administrație, securitate și război. Sub această curbă se află panta, care urcă mult mai lent. Ea reprezintă capacitatea societății de a absorbi schimbarea.
Panta cuprinde adaptarea regimurilor de reglementare, a cadrului juridic și a competențelor administrațiilor publice. Ea include, de asemenea, modificările aduse programelor școlare, modelelor de afaceri, fluxurilor de lucru și locurilor de muncă. Totodată, se referă la capacitatea cetățenilor de a funcționa în acest nou context, inclusiv la abilitatea lor de a distinge adevărul de simulare, persuasiunea de manipulare și asistența de dependență. Ea reprezintă metabolismul social prin care șocul tehnologic este absorbit și integrat într-o ordine funcțională.
Desigur, și revoluțiile tehnologice și industriale anterioare pot fi reprezentate printr-o astfel de curbă și o astfel de pantă. Tehnologiile au evoluat și s-au răspândit mai rapid decât au putut să se adapteze reglementările, modelele de afaceri, sistemele de educație, piețele muncii și stilurile de viață. Tranzițiile au fost adesea dificile și niciodată automate. Totuși, decalajul dintre curbă și pantă era mai redus. Prin viteza și amploarea sa, transformarea determinată de inteligența artificială pare să facă parte dintr-o categorie cu totul aparte.
Dezbaterea privind modul în care ar trebui gestionată această tranziție se reduce, de regulă, la întrebarea privind nivelul de reglementare care realizează „echilibrul optim” între inovare și siguranță. Nu dorim să-i punem progresului o frână birocratică, dar nici să lăsăm societățile să suporte singure și într-un ritm accelerat consecințele unei tehnologii care transformă în mod fundamental felul în care înțelegem munca, cunoașterea, puterea, responsabilitatea și capacitatea de a formula judecăți.
Însă această întrebare este prea restrictivă. Reglementarea are, fără îndoială, un rol esențial, dar, de una singură, nu echivalează cu guvernanța. Pentru a vorbi cu adevărat despre guvernanță, trebuie să identificăm condițiile necesare care să permită societăților să conviețuiască cu inteligența artificială fără a fi copleșite de aceasta.
Primul pas este să încetăm să privim inteligența artificială ca pe ceva intangibil – o tehnologie eterică, care există undeva în „cloud” și furnizează orice i se cere printr-un prompt. În realitate, inteligența artificială depinde de volume uriașe de capital, de cipuri de ultimă generație, de sisteme de securitate cibernetică, de lanțuri de aprovizionare și de personal cu înaltă calificare. Ea se bazează, de asemenea, pe centre de date de mari dimensiuni, care generează zgomot, lumină și căldură și necesită terenuri, autorizații, precum și cantități foarte mari de energie electrică și apă.
Comunitățile care găzduiesc infrastructura fizică a acestei tehnologii, considerată adesea lipsită de materialitate, sunt acum nevoite să facă față unor perturbări majore și să suporte costuri ridicate, pe măsură ce terenurile lor sunt achiziționate, rețelele electrice sunt suprasolicitate, iar resursele de apă sunt epuizate și poluate. În acest context, trebuie luate decizii dificile privind reglementările de urbanism, prețul energiei electrice și protecția mediului.
Însă guvernanța inteligenței artificiale nu reprezintă doar o provocare la nivelul comunităților locale. Tehnologia devine tot mai mult un element central al infrastructurii puterii naționale: identificarea și selectarea țintelor militare, operațiunile cibernetice, analiza informațiilor, cercetarea științifică, automatizarea industrială, supravegherea, modelarea financiară și influențarea proceselor politice. Cine controlează cele mai avansate modele de inteligență artificială, cele mai performante cipuri, cele mai mari capacități de calcul și cei mai buni specialiști deține nu doar un avantaj comercial, ci și unul strategic.
Acest fapt nu le scapă Statelor Unite și Chinei, care concurează intens pentru supremația în domeniul inteligenței artificiale. Fiecare consideră că o eventuală rămânere în urmă ar însemna o vulnerabilitate militară, economică sau politică. La fel ca în cazul armelor nucleare, miza este percepută ca fiind una existențială. O asemenea situație favorizează secretomania, neîncrederea, acțiunile preventive și accelerarea necontrolată a dezvoltării.
Riscurile sunt amplificate de faptul că inteligența artificială este mult mai răspândită decât tehnologia nucleară, este integrată mult mai profund în activitatea comercială și are un spectru de aplicații incomparabil mai larg. În plus, rezultatele pe care le produce sunt dificil de verificat, iar odată ce aceste capabilități sunt codificate în software, proliferarea lor devine relativ ușoară.
Guvernanța inteligenței artificiale trebuie să ia în considerare toate aceste aspecte, de la cerințele materiale ale tehnologiei până la efectele sale asupra indivizilor, comunităților, întreprinderilor, pieței muncii, mediului, securității naționale și competiției strategice internaționale. În acest scop, este esențială instituirea unei arhitecturi cuprinzătoare bazate pe încredere fundamentată pe verificare, mai amplă decât simpla reglementare națională a inteligenței artificiale și mai flexibilă decât un tratat internațional clasic.
Acordul de la Paris privind schimbările climatice, adoptat în 2015, oferă un model util. Acesta a creat un cadru dinamic, bazat pe angajamente voluntare, presiune reciprocă, actualizări periodice, mecanisme credibile de măsurare și o participare largă. Totuși, un acord similar în domeniul inteligenței artificiale trebuie să țină seama și de o lecție esențială desprinsă din regimurile de neproliferare: acolo unde încrederea politică este redusă, ea trebuie completată prin testare, stabilirea unor limite și mecanisme riguroase de verificare.
Cadrul rezultat ar combina flexibilitatea diplomației climatice cu rigoarea mecanismelor de control specifice domeniului nuclear. Angajamentele, adaptate în permanență evoluțiilor tehnologice, ar fi însoțite de mecanisme capabile să evalueze credibilitatea și impactul acestora. În același timp, acțiunea statelor ar trebui completată de asumarea unor responsabilități clare de către companii.
Un „Acord de la Paris pentru inteligența artificială” ar putea stabili definiții comune pentru modelele de frontieră, praguri care să declanșeze un nivel sporit de supraveghere, obligația de raportare a incidentelor, standarde comune de evaluare, măsuri de protecție a parametrilor modelelor, reguli privind utilizarea acestora în sectoarele sensibile și testarea independentă a sistemelor care prezintă riscuri pentru securitatea cibernetică, siguranța biologică, infrastructurile critice sau procesul decizional militar. Toate aceste elemente ar urma să fie revizuite și consolidate periodic de organisme tehnice care înțeleg evoluția tehnologiei și de organisme politice capabile să impună consecințe atunci când angajamentele asumate nu sunt respectate.
Desigur, nu toate aplicațiile inteligenței artificiale necesită același nivel de supraveghere. Un instrument cu funcționalitate limitată, utilizat în contexte cu risc redus, necesită doar un control minimal. În schimb, un model de frontieră capabil să influențeze securitatea cibernetică, proiectarea sistemelor biologice, operațiunile militare sau autonomia infrastructurilor critice trebuie să fie supus unor cerințe mult mai stricte și, în situații extreme, chiar unor măsuri de intervenție.
Unii ar putea susține că un asemenea cadru ar frâna inovarea. Însă nimeni nu s-ar urca într-un avion și nimeni nu ar accepta administrarea unui medicament nou dacă siguranța lor ar depinde exclusiv de buna-credință a producătorilor. În aceste domenii, reglementarea nu elimină riscul, ci îl aduce la un nivel pe care societatea îl poate accepta și gestiona. Același principiu este valabil și în cazul inteligenței artificiale.
Un astfel de cadru nu poate fi prezentat ca un proiect european, ca un instrument american sau ca o alianță îndreptată împotriva Chinei. Legitimitatea sa depinde de caracterul său incluziv, astfel încât statele aflate în avangarda tehnologică, puterile de rang mediu și economiile în curs de dezvoltare să aibă toate posibilitatea de a participa la definirea regulilor. De asemenea, universitățile, companiile și organizațiile societății civile trebuie să fie implicate în acest proces.
Curba progresului tehnologic va continua să devină tot mai abruptă. Nu o putem aplatiza prin decrete și nici nu o putem ascunde prin discursuri. Putem însă decide dacă această ascensiune va avea loc în absența unei guvernanțe sau în cadrul unei arhitecturi instituționale capabile să țină pasul cu ritmul schimbării. >>
Cu un picior în NATO: Ucraina devine o piesă esențială a industriei europene de apărare
