Toată lumea are o teorie despre inteligența artificială. Unii cred că tehnologia evoluează către superinteligență – o inteligență artificială puternică care va aduce schimbări epocale, depășind orice tehnologie anterioară. Alții se așteaptă ca aceasta să stimuleze productivitatea și descoperirile științifice, dar să urmeze o traiectorie mai neuniformă și potențial mai puțin spectaculoasă, scriu Jake Sullivan și Tal Feldman într-o analiză din Foreign Affairs.
<< Oamenii nu sunt de acord nici cu privire la ușurința cu care pot fi replicate descoperirile revoluționare. Unii susțin că rivalii vor urma rapid (adică vor imita rapid), în timp ce alții cred că recuperarea decalajului va deveni mai lentă și mai costisitoare, oferind celor care au luat inițiativa un avantaj durabil. Și în timp ce mulți sunt siguri că China este hotărâtă să învingă Statele Unite la frontieră, alții insistă că aceasta se concentrează pe implementarea tehnologiei existente, încercând în același timp să distileze și să reproducă inovațiile americane de vârf odată ce acestea apar.
Fiecare argument politic încrezător se bazează pe ipoteze ascunse cu privire la care dintre aceste povești este adevărată. Cei care acordă prioritate inovației de frontieră presupun că descoperirile revoluționare se vor cumula și vor fi dificil de reprodus, în timp ce cei care se concentrează pe răspândirea sistemelor americane în străinătate presupun adesea contrariul. Dacă aceste ipoteze sunt greșite, strategiile construite pe baza lor vor irosi resurse și ar putea costa Statele Unite avantajul pe care-l au.
A paria totul pe o singură poveste este tentant, dar periculos. Washingtonul nu are nevoie de o altă predicție despre era IA. Are nevoie de o modalitate de a face alegeri în condiții de incertitudine – una care să asigure avantajul Statelor Unite în multiple viitoruri posibile și să se adapteze pe măsură ce se conturează era IA.
OPT LUMI
Indiferent de modul în care se va desfășura în cele din urmă viitorul IA, strategia SUA ar trebui să înceapă cu o definiție clară a succesului. Washingtonul ar trebui să utilizeze IA pentru a consolida securitatea națională, prosperitatea generală și valorile democratice atât în țară, cât și în rândul aliaților. Atunci când este aliniată cu binele public, IA poate stimula progresul științific și tehnologic pentru a îmbunătăți viețile; poate ajuta la abordarea provocărilor globale, cum ar fi sănătatea publică, dezvoltarea și schimbările climatice; și poate susține și extinde avantajele militare, economice, tehnologice și diplomatice ale Statelor Unite față de China. Statele Unite pot face toate acestea gestionând responsabil riscurile foarte reale pe care le creează IA.
Provocarea este cum să ajungem acolo. Pentru a face explicite ipotezele ascunse și pentru a testa strategiile în raport cu diferite scenarii de viitor, cei care se gândesc la strategia IA ar trebui să ia în considerare un cadru simplu. Acesta se bazează pe trei întrebări: Progresul IA va accelera către superinteligență sau va stagna pentru o perioadă îndelungată? Descoperirile vor fi ușor de copiat sau va fi dificil și costisitor să se ajungă la nivelul lor? Și China se află într-adevăr într-o cursă pentru frontieră sau își investește resursele în altă parte, plecând de la premisa că poate imita și comercializa mai târziu? Fiecare întrebare are două răspunsuri plauzibile. Luând în considerare fiecare combinație, se obține o matrice tridimensională – o diagramă 2×2×2 cu opt lumi posibile.
Prima axă este natura progresului IA. La un capăt se află superinteligența: o IA care depășește cu mult capacitățile umane și este capabilă de autoîmbunătățire recursivă, învățându-se singură să devină din ce în ce mai inteligentă și inventând din ce în ce mai multe lucruri noi. La celălalt capăt se află inteligența limitată și neuniformă: aplicații științifice, economice și militare impresionante, dar fără o ruptură singulară cu istoria. Este limitată deoarece progresul pe care îl înregistrează ajunge în cele din urmă la limite, cel puțin pentru o perioadă. Și este neuniformă deoarece este inegală; sistemele pot atinge performanțe incredibile în domenii precum matematica sau codarea, dar se confruntă cu dificultăți în ceea ce privește judecata, creativitatea sau anumite aplicații fizice. Dacă progresul duce la superinteligență, chiar și un avantaj mic ar putea fi decisiv, justificând investiții masive în domenii de frontieră. Dacă este limitată și neuniformă, canalizarea resurselor nelimitate către proiecte ambițioase este mai puțin convingătoare decât prioritizarea adoptării și difuzării.
A doua axă este ușurința de a recupera decalajul – problema urmăririi rapide. Într-o lume, recuperarea decalajului este ușoară. Descoperirile pot fi copiate rapid prin spionaj; scurgeri de informații, în care parametrii interni ai unui model antrenat sunt furați sau divulgați; antrenament inovator pe hardware mai vechi; sau distilarea modelului, în care un sistem mai puțin capabil este antrenat să imite unul mai avansat. În cealaltă lume, recuperarea este dificilă: capacitatea de frontieră depinde de întreaga stivă tehnologică – hardware proprietar, expertiză instituțională, seturi de date vaste și adesea unice, un ecosistem vibrant de talente și factori structurali care nu pot fi prevăzuți. Modelul sau stratul software poate fi ușor de copiat, dar calitatea și amploarea hardware-ului, infrastructurii și capitalului uman din spatele antrenamentului și inferenței pot fi mult mai dificil de reprodus. Când recuperarea este ușoară, competiția se referă mai mult la difuzare, la integrarea sistemelor americane în străinătate înainte ca rivalii să își poată răspândi propriile sisteme. Când este dificilă, difuzarea rămâne importantă, dar strategia pune un accent mai mare pe apărarea fundamentelor capacității de frontieră, adică a inputurilor și a know-how-ului care permit avansarea în timp. Pe întreaga axă, întrebarea nu este dacă IA se răspândește, ci cât de repede, către cine și în ce condiții.
A treia axă este strategia Chinei. La o extremă, Beijingul se îndreaptă agresiv către frontieră, finanțând programe de formare masive și laboratoare concurente. La cealaltă extremă, Beijingul nu se îndreaptă agresiv, ci acordă prioritate adoptării și difuzării și produce ocazional modele mari pentru a semnala progresul și a stimula Statele Unite să se concentreze asupra frontierei. China poate să nu aibă un plan național perfect coerent – într-adevăr, diferite instituții din țară pot acționa în mod diferit –, dar la nivel de sistem, comportamentul Chinei se va apropia în continuare fie de o cursă, fie de lipsa acesteia. Această dimensiune a cadrului se concentrează asupra Chinei deoarece, în prezent, aceasta este principalul concurent al Statelor Unite la frontieră. Dacă apar alți actori, matricea ar trebui ajustată pentru a reflecta și calculele lor de cursă.
Realitatea este, desigur, mai complicată decât orice diagramă. S-ar putea adăuga mai multe axe, iar fiecare axă ar putea fi tratată ca un spectru. China ar putea urma o cale de mijloc în cercetarea și dezvoltarea de frontieră. Recuperarea decalajului ar putea fi doar oarecum dificilă. IA ar putea fi cu adevărat puternică, dar ar putea avea încă anumite limitări. Deși luarea în considerare a rezultatelor binare poate facilita planificarea strategică, factorii de decizie politică pot totuși să țină seama de posibilitățile intermediare gândind probabilistic de-a lungul fiecărei axe. O strategie de investiții parțială a Chinei, de exemplu, crește șansele ca Beijingul să urmeze îndeaproape Statele Unite sau chiar să reducă în mod neașteptat decalajul.
În cele din urmă, propriile decizii ale factorilor de decizie politică pot modela viitorul IA, cel puțin la margine. Acțiunile SUA pot face recuperarea mai dificilă sau mai ușoară, în special prin înăsprirea sau relaxarea controalelor asupra exporturilor. Faptul că China va accelera sau va încetini va depinde în parte de modul în care Beijingul evaluează ritmul progresului IA și dificultatea recuperării. Totuși, prin includerea incertitudinii în cadrul politic, factorii de decizie politică vor fi cel puțin obligați să se confrunte cu propriile ipoteze și să planifice mai multe viitoruri, nu doar unul.
SURSELE PUTERII IA
Înainte de a trece la acest exercițiu de planificare, merită să ne oprim și să ne punem două întrebări: Cine stabilește de fapt strategia SUA în domeniul IA? Și de ce instrumente dispune Washingtonul pentru a modela traiectoria IA? La urma urmei, guvernul nu deține laboratoarele de vârf ale țării și nu decide ce construiesc acestea. Nu poate stabili obiective de producție sau direcționa fluxurile de investiții așa cum o face Beijingul. Cu toate acestea, alegerile politice și semnalele transmise de Washington influențează în mod semnificativ ecosistemul IA, chiar dacă indirect.
Multe politici americane se traduc printr-o subvenție implicită pentru industria IA internă. Controlul exporturilor și restricțiile de investiții au limitat accesul Chinei la cipuri avansate și capital american. Acestea au crescut valoarea firmelor americane și aliate, limitând concurenții lor cei mai puternici și canalizând capitalul privat către acestea.
Așteptările amplifică acest efect. Când înalți oficiali descriu leadershipul în domeniul IA ca o prioritate națională, companiile și investitorii anticipează o reglementare favorabilă, o simplificare administrativă și o coordonare mai strânsă cu guvernul. Aceste ipoteze influențează gradul de risc asumat de firme și direcțiile în care investitorii își plasează pariurile – poate chiar mai mult decât ar face-o o alocare bugetară lentă din partea Congresului.
Sprijinul direct al Washingtonului completează aceste semnale. Creditele fiscale pentru cercetare și dezvoltare, investițiile în infrastructură, subvențiile federale pentru cercetare și o serie de decizii ale puterii executive – privind autorizațiile, imigrația și multe altele – influențează în mod colectiv unde și cum crește capacitatea IA. Între timp, achizițiile și parteneriatele federale devin ele însele un semnal semnificativ al cererii, pe măsură ce agențiile încep să testeze și să adopte sisteme de IA la scară largă. Dacă difuzarea devine la fel de importantă din punct de vedere strategic ca și descoperirile de frontieră, Washingtonul ar putea fi nevoit să utilizeze mai multe dintre instrumentele de care dispune, oferind partenerilor o alternativă de încredere la stiva de IA a Beijingului și colaborând cu instituții precum Development Finance Corporation pentru a finanța implementarea în străinătate în locuri unde piața singură nu poate acoperi nevoile. Acest lucru include și reflecția asupra gradului de deschidere sau închidere al sistemelor americane de IA. Statele Unite trebuie să decidă dacă să se bazeze pe modele proprietare strict controlate sau să promoveze alternative open-source ca modalitate de a modela adoptarea globală.
Cu toate acestea, sectorul privat rămâne motorul acestei curse, iar stimulentele sale nu sunt întotdeauna în concordanță cu interesele țării. Multe laboratoare de vârf din Statele Unite pariază pe superinteligență, investind resurse în programe de formare masive, mai degrabă decât în implementarea sigură sau difuzarea pe scară largă. Unii ar prefera să construiască și să opereze infrastructura pentru programe de formare la scară largă în străinătate, atrași de reguli mai permisive, energie mai ieftină și capital suplimentar. Gestionarea acestei tensiuni va rămâne una dintre cele mai dificile sarcini ale Washingtonului.
Punctul forte al Statelor Unite nu a fost niciodată planificarea centralizată, ci utilizarea unei combinații de instrumente pentru a orienta un sistem descentralizat către obiective comune. Acesta creează stimulente politice, modelează așteptările și atrage capitalul către obiectivele naționale. Modul în care aceste instrumente pot fi utilizate pentru a menține leadershipul SUA în domeniul IA depinde de viitorul care se va contura în cele din urmă. Unele politici care au sens într-un scenariu pot fi contraproductive în altul. Dar câteva priorități vor rămâne valabile în majoritatea scenariilor – elemente esențiale ale puterii naționale de care vor avea probabil nevoie majoritatea versiunilor viitorului IA, chiar dacă importanța lor relativă variază de la o lume la alta.
Puterea de calcul rămâne fundamentul capacității IA. Controlul asupra cipurilor, centrelor de date și energiei necesare pentru funcționarea acestora determină cine poate instrui și implementa sistemele care stabilesc ritmul progresului. Robotica și producția avansată extind această putere în lumea fizică, transformând inteligența digitală în capacitate productivă. Nimic din toate acestea nu poate dura fără o bază industrială și științifică solidă. Statele Unite au nevoie de cercetare fundamentală atât pentru a avansa tehnologiile actuale, cât și pentru a explora noi abordări ale dezvoltării IA; de talente, atât autohtone, cât și atrase din întreaga lume; de capacitatea de producție necesară pentru a construi la scară largă; și de energia care menține totul în funcțiune. Dacă firmele de IA nu au acces suficient la energie electrică, în special, acest blocaj ar putea limita progresul general.
Gestionarea riscurilor, adesea considerată o constrângere deoarece poate încetini implementarea și limita experimentarea, poate fi o sursă de stabilitate și legitimitate. Este ceea ce împiedică prăbușirea concurenței din cauza escaladării neintenționate a accidentelor, a utilizării abuzive deliberate a sistemelor de IA sau a pierderii controlului rezultate din implementarea sistemelor al căror comportament oamenii nu îl mai pot controla în mod fiabil. La fel de important este să se asigure că protocoalele de siguranță și sprijinul politic intern se dezvoltă suficient de repede pentru a ține pasul cu creșterea capacităților. Unele scenarii viitoare oferă Washingtonului spațiu pentru a construi această bază; altele comprimă calendarul.
Apoi, se pune problema difuzării – răspândirea și adoptarea sistemelor de IA în străinătate. Sistemele care se vor înrădăcina vor decide ale cui valori și idealuri de guvernanță definesc ordinea digitală și care țară sau țări vor obține cele mai mari câștiguri economice și strategice. Beijingul tratează deja guvernanța IA ca pe un export strategic, utilizând sistemele, standardele și modelele sale de reglementare pentru a modela modul în care alte țări utilizează și supraveghează tehnologia. Washingtonul demonstrează convingere în ceea ce privește difuzarea în teorie, dar trebuie încă să o dovedească în practică.
Aliații și partenerii SUA sunt ultima piesă esențială a acestui puzzle. Colaborarea cu parteneri de încredere multiplică capacitatea americană și îmbunătățește șansele ca sistemele democratice – și nu cele autoritare – să definească forma erei IA.
LUMEA UNU
Cele trei axe – superinteligența versus inteligența limitată și fragmentată, ușurința versus dificultatea de a ajunge din urmă progresele altora și o Chină care se îndreaptă cu viteză spre frontieră versus o China care nu o face – creează opt lumi posibile. Sarcina factorilor de decizie politică este de a completa această matrice cu o serie de opțiuni politice rezonabile în fiecare dintre ele.
În primul rând, să luăm în considerare o lume în care superinteligența este realizabilă, tehnologia este greu de imitat rapid, iar China se îndreaptă cu viteză maximă spre frontieră. Această lume arată și se simte ca un amestec între o cursă a înarmărilor și o cursă spațială: competiția ar deveni o luptă pentru a ajunge și a asigura prima frontieră. Miza ar fi imensă. Cine dezvoltă și controlează cele mai avansate sisteme ar putea obține avantaje tehnologice, economice și militare durabile. La extremitatea acestui scenariu, unii susțin că, odată ce începe autoîmbunătățirea recursivă, avantajul ar putea face ca recuperarea semnificativă să fie nu doar dificilă, ci efectiv imposibilă. Acest cadru tratează această posibilitate ca un caz limită de tipul „greu de recuperat”.
Statele Unite ar putea fi nevoite să ia în considerare un Proiect Manhattan 2.0, care ar implica mobilizarea resurselor publice, o coordonare extraordinară între guvern și industrie și un nivel de secretizare mai tipic programelor militare, necesitând potențial noi autorități sau utilizarea extinsă a Legii producției de apărare din 1950, care acordă președintelui autoritate largă pentru a reglementa industria în scopul apărării naționale. Un astfel de efort ar obliga factorii de decizie să aleagă între centralizarea dezvoltării într-o singură entitate pentru a asigura o supraveghere strictă a securității sau menținerea concurenței între mai multe laboratoare de frontieră, plecând de la premisa că experimentarea paralelă ar da rezultate mai rapide.
În aceste condiții, Washingtonul ar înăspri controalele asupra exporturilor până la limitele aplicabilității. Fiecare nivel al lanțului de aprovizionare cu semiconductori ar fi supus unor regimuri mai stricte, iar coordonarea cu aliații ar fi esențială pentru a preveni eludarea. Ponderea modelelor (parametrii numerici care determină comportamentul unui sistem), datele de instruire și centrele de date ar trebui să fie protejate împotriva furtului și sabotajului.
Gestionarea riscurilor cu China, bazată pe un interes comun de a evita pierderea controlului uman asupra superinteligenței, ar deveni prioritară. Cu cât sistemele avansează mai repede, cu atât cresc șansele de accidente și escaladări neintenționate, deoarece sistemele autonome interacționează în moduri pe care niciuna dintre părți nu le poate anticipa pe deplin. O măsură plauzibilă ar fi un acord de restricție reciprocă, care să limiteze dezvoltarea, în timp ce atât Beijingul, cât și Washingtonul construiesc sisteme de siguranță care să țină pasul. Dar un astfel de acord ar fi fragil și greu de menținut, având în vedere neîncrederea reciprocă, provocările legate de verificare și potențialele câștiguri obținute prin încălcarea acordului și accelerarea cursei.
Deoarece recuperarea decalajului este dificilă și succesul Chinei nu este inevitabil în această lume, Statele Unite s-ar putea trezi într-o fereastră îngustă în care au ajuns primele la superinteligență. În acel moment, Washingtonul s-ar confrunta cu o decizie: dacă să ia măsuri pentru a împiedica alții să atingă aceeași capacitate. Scenariul opus este la fel de important: dacă Beijingul ajunge primul la frontieră, Washingtonul ar trebui să fie pregătit să gestioneze și să atenueze daunele. Și dacă ambele puteri depășesc pragul, ar trebui să reducă riscul prin măsuri de protecție clare, comunicare și reținere, lucrând în același timp pentru a preveni pierderea controlului și adoptarea superinteligenței de către state rebele sau actori non-statali.
A DOUA LUME
Într-o altă lume, superinteligența este încă realizabilă și este încă dificil să se ajungă din urmă noile tehnologii, dar China nu se îndreaptă cu pași rapizi către frontieră. În acest scenariu, Statele Unite ating un moment unipolar al IA. Chiar dacă Beijingul ar urmări o strategie de investiții parțiale în frontieră, dificultatea de a recupera decalajul ar garanta practic că Statele Unite ar rămâne singure la vârful tehnologic, cu o șansă reală de a defini structura lumii care va urma. Întrebarea centrală nu ar mai fi cum să câștige cursa, ci cum să exercite și să gestioneze un avantaj.
La nivel industrial, dezvoltarea IA ar putea progresa într-un ritm mai măsurat. Deși cheltuielile pentru cercetare și dezvoltare ar trebui să rămână suficient de ridicate pentru a atinge superinteligența, probabil că nu ar fi necesară o mobilizare de tipul Proiectului Manhattan. Statele Unite ar trebui să mențină securitatea frontierelor – protejând modelele, calculele și talentele cheie – permițând în același timp ecosistemului de inovare să funcționeze în mod dinamic. În mod deosebit, pe măsură ce piața se maturizează și unele companii de IA eșuează, Chinei nu ar trebui să i se permită să cumpere proprietatea intelectuală a acestora.
Acest viitor ar face multe alte țări să se simtă neliniștite. Concentrarea unei astfel de puteri transformatoare într-o singură țară ar ridica îndoieli cu privire la faptul dacă Washingtonul ar conduce în mod responsabil sau ar urmări un interes național mai restrâns. Sarcina Statelor Unite ar fi aceea de a construi și menține o ordine democratică a IA care să genereze încredere în leadershipul american la frontieră – o întreprindere similară cu cea cu care s-a confruntat Washingtonul în 1945, dar mult mai dificilă în peisajul politic și geopolitic actual. Fără un rival imediat la apogeul superinteligenței, Statele Unite ar putea exercita mai confortabil o reținere unilaterală, ritmând eforturile de dezvoltare de frontieră pentru a asigura menținerea siguranței. Difuzarea ar fi strategică și selectivă: extinderea accesului securizat la aliați și parteneri, prevenind în același timp proliferarea necontrolată.
Pe plan intern, Statele Unite ar putea să se concentreze pe construirea unui nou contract social. Dacă IA ar aduce câștiguri enorme în materie de productivitate și capacitate, provocarea ar fi aceea de a canaliza aceste câștiguri către o prosperitate generală, consolidând în același timp reziliența societății la perturbările provocate de IA. O reglementare sensibilă ar asigura siguranța și responsabilitatea fără a împiedica progresul.
Desigur, nu se poate garanta că acest moment unipolar va fi permanent. Dacă Statele Unite ar atinge superinteligența, China ar intra probabil peste noapte în modul de cursă, iar alte puteri nu ar rămâne inactive pentru mult timp. Washingtonul ar trebui să decidă cum să răspundă și cum să-și folosească poziția pentru a modela modul și locul în care se răspândește tehnologia.
A TREIA LUME
O a treia posibilitate este o lume a proliferării totale: superinteligența poate fi atinsă, este ușor de recuperat, iar China este în cursă. Descoperirile ar fi rapide, dar și copierea lor ar fi rapidă. În această lume, sarcina Statelor Unite ar fi mai mult de reziliență, adică pregătirea sistemelor cibernetice, de biosecuritate, de infrastructură și de apărare ale națiunii pentru a rezista întregii game de amenințări generate de IA.
Alegerea între a concura sau a urma rapid ar deveni o alegere strategică. Dacă descoperirile s-ar multiplica rapid, avantajul obținut prin atingerea primei poziții ar putea fi de scurtă durată, dar lăsarea altora să ajungă acolo mai întâi, chiar și pentru o perioadă scurtă, ar crea totuși o fereastră semnificativă de vulnerabilitate. Și dacă progresul ar continua să se acumuleze rapid, a ajunge primul ar conta și mai mult, deoarece cel care ar acționa primul ar începe să urce primul pe curbă. Calea optimă probabilă ar fi să concurezi defensiv, menținând cheltuieli ridicate pentru cercetare și dezvoltare și capacitatea de a fi în avangardă, în timp ce avansurile ar fi însoțite de noi niveluri de securitate și reziliență.
Ecosistemul inovării în sine s-ar confrunta cu stres. Un singur campion național ar oferi o valoare redusă în materie de securitate, deoarece orice ar construi ar fi copiat rapid, iar susținerea multor firme private care lucrează la tehnologii de vârf ar fi dificilă dacă investitorii ar vedea profiturile dispărând pe măsură ce inovațiile sunt copiate rapid. Multe dintre aceste companii ar eșua pe măsură ce superinteligența devine o marfă. Firmele care inovează pentru a construi modele de afaceri mai bune pentru a capta valoare ar avea succes, dar firmele care inovează pentru a construi modele de IA mai bune ar putea să nu aibă succes.
Gestionarea riscurilor ar câștiga în importanță, și nu numai în ceea ce privește gestionarea escaladării și a erorilor de calcul. Pentru a atenua amenințarea proliferării necontrolate către actori non-statali și state rebele, Statele Unite ar trebui să construiască noi niveluri de cooperare globală, atât cu aliații, cât și cu China, pentru a încetini sau a împiedica actorii iresponsabili să obțină acces la tehnologie. Deși un acord comun de restricție între SUA și China ar fi în continuare dificil de aplicat, conștientizarea de către cele două țări a pericolului crescut în acest scenariu ar putea face un acord mai viabil.
Controlul exporturilor ar putea fi în continuare util, dar eficacitatea acestuia ar depinde de motivul pentru care recuperarea decalajului este ușoară. Dacă China ar dezvolta o alternativă viabilă de calcul, atunci controlul cipurilor ar deveni practic inutil, iar concurența s-ar muta către implementarea globală. Dacă ușurința de a recupera decalajul ar proveni din alți factori (cum ar fi distilarea modelelor, furtul sau răspândirea rapidă a noilor algoritmi și a cunoștințelor practice), atunci controlul cipurilor ar fi mai puțin convingător decât în alte scenarii, dar ar rămâne util ca instrument pentru a câștiga timp și a încetini difuzarea.
A PATRA LUME
Dacă superinteligența ar putea fi atinsă, recuperarea decalajului ar fi ușoară, iar China nu ar fi într-o cursă, Statele Unite s-ar afla într-o fereastră unipolară trecătoare. Statele Unite ar putea atinge prima superinteligența artificială, dar altele ar putea urma rapid odată ce ar începe cursa. Având în vedere că China nu încearcă să inoveze prea repede, logica de a reține un impuls major către frontieră ar fi ceva mai convingătoare, mai ales dacă acest lucru ar putea evita scenariul proliferării totale. Totuși, această cale ar fi riscantă: China ar putea concura în secret sau un alt actor ar putea avansa dincolo de capacitățile americane.
Dacă Statele Unite ar continua să concureze, ar trebui să decidă cum să-și folosească avantajul. Washingtonul ar putea încerca să folosească fereastra îngustă pentru a-i împiedica pe alții să ajungă la frontieră. Alternativ, ar putea folosi chiar și o perioadă scurtă de superinteligență necontestată pentru a-și consolida propriile apărări și pe cele ale aliaților și pentru a lucra la implementarea unor măsuri de protecție împotriva pierderii controlului și a scenariilor de proliferare nelimitată.
Deoarece Beijingul nu ar concura, ar urma probabil o strategie diferită, poziționându-se pentru a comercializa descoperirile americane, integrând sistemele chineze la nivel global prin exporturi de IA la prețuri reduse și conectând IA la lumea fizică prin robotică. Acest lucru ar face din difuzare o competiție importantă. Statele Unite ar trebui să investească în robotică și producție avansată pentru a transforma descoperirile digitale în aplicații fizice și industriale și să acționeze decisiv pentru a răspândi sisteme sigure și democratice în străinătate înainte ca China să umple vidul.
A CINCEA LUME
Superinteligența nu mai este luată în considerare în următoarea serie de lumi posibile. Într-unul dintre aceste scenarii, este dificil să se ajungă din urmă tehnologiile revoluționare, iar China se află în cursa către frontieră. Statele Unite și China ar intra într-o cursă acerbă a inovației. Deși miza ar fi mare, aceasta ar fi mai mică decât în scenariile de superinteligență. Ar rămâne important să se investească în cercetare și dezvoltare, chiar dacă nu la niveluri de urgență, și să se susțină aceste cheltuieli cu o politică industrială pe termen lung care să construiască o robotică durabilă și capacități avansate de producție. Factorii de decizie politică ar trebui să fie conștienți de faptul că piețele judecă adesea greșit momentele de cotitură – investitorii pot intra în panică și declara o „bulă” înainte ca IA să-și atingă potențialul maxim, sau pot continua să cheltuiască mult timp după ce tehnologia a ajuns la maturitate. Gestionarea riscurilor ar trebui să se concentreze mai puțin pe pierderea controlului și mai mult pe utilizarea abuzivă în aplicații biologice, cibernetice sau militare.
Importanța difuzării și implementării ar crește semnificativ. Statele Unite ar trebui să promoveze adoptarea agresivă a IA în industria internă și în armată și să acționeze rapid pentru a răspândi sistemele americane și ale aliaților în străinătate. Chiar și modelele care nu sunt de ultimă generație – atunci când sunt bine integrate, au prețuri accesibile sau sunt asociate cu o infrastructură robustă – ar putea captura o cotă de piață masivă, așa cum Beijingul știe bine din experiența trecută. Securitatea modelelor și a centrelor de date ar rămâne importantă, deoarece recuperarea decalajului nu ar fi ușoară, iar modelele de frontieră ar rămâne esențiale pentru securizarea sistemelor americane și ale aliaților, dar sarcina principală ar fi aceea de a introduce rapid în uz pe scară largă sisteme capabile, creând familiaritate și dependență înainte ca alternativele chineze să se impună. Controlul exporturilor ar rămâne important pentru a încetini avansul Chinei, dar Statele Unite ar trebui să fie atente să nu împiedice implementarea în străinătate.
A ȘASEA LUME
Într-o lume fără superinteligență, în care recuperarea decalajului este dificilă și în care China nu se află în cursă, Statele Unite ar deține un avantaj confortabil și ar avea o fereastră semnificativă pentru a-și consolida avantajul, utilizând IA pentru a dezvolta noi medicamente care salvează vieți, pentru a extinde educația și pentru a revitaliza industriile americane rămase în urmă. China nu ar renunța neapărat complet la IA, dar Beijingul și-ar limita investițiile în dezvoltarea de modele de frontieră într-o asemenea măsură încât ar ieși efectiv din cursa pentru capacități de vârf. În schimb, China s-ar concentra pe aplicații și pe comercializarea descoperirilor americane. Între timp, Washingtonul s-ar putea concentra pe siguranță, responsabilitate și asigurarea faptului că beneficiile generate de IA se traduc în prosperitate pe scară largă.
Pe plan internațional, Statele Unite ar avea spațiu pentru a dezvolta o viziune pozitivă pentru o lume infuzată cu IA, primind parteneri în ecosistemul său de IA și oferind acces la modele, date și infrastructură, dar păstrând elementele critice ancorate în țară. Scopul nu ar fi acela de a difuza sistemele americane cât mai larg și rapid posibil, ci de a se asigura că sistemele care se răspândesc sunt sigure și aliniate valorilor democratice.
A ȘAPTEA LUME
Penultimul scenariu prevede o IA limitată și inegală, o recuperare ușoară și China care se îndreaptă cu viteză spre frontieră. În această lume, Statele Unite și China se angajează într-o cursă de difuzare. Deoarece descoperirile ar fi ușor de imitat, nicio țară nu ar putea monopoliza inteligența pentru mult timp; avantajul ar veni din dezvoltarea și comercializarea mai rapidă decât rivalii.
Capitalul privat ar fi mai greu de controlat. Dacă tehnologia ar fi ușor de copiat, investitorii ar investi probabil mai puțin, văzând un randament redus. Dar Statele Unite ar trebui totuși să participe la cursă; sistemele care se răspândesc mai întâi ar modela mediul global și ar trebui să reflecte valorile americane. Și pentru că China ar participa la cursă, Statele Unite ar trebui să inoveze în același ritm sau mai repede pentru a împiedica Beijingul să compromită avantajele americane în materie de securitate cibernetică, biosecuritate, militară și informații.
Difuzarea ar deveni nu doar o componentă a strategiei de IA, ci un pilon central al politicii externe a SUA. China își promovează deja în mod sistematic tehnologia pe piețele externe, adesea combinând-o cu finanțare și proiecte de dezvoltare la scară largă. Statele Unite ar avea motive întemeiate să fie îngrijorate de faptul că infrastructura digitală mondială ar putea fi construită pe modele chinezești care pot exfiltra date, monitoriza comunicațiile și desfășura operațiuni de influență de amploare. Washingtonul ar trebui să încorporeze difuzarea IA în politica sa externă, extinzând competențele și capitalul disponibil al instituțiilor precum Development Finance Corporation pentru a ajuta firmele americane și aliate să construiască centre de date, rețele și sisteme adaptate regional în întreaga lume. Acest lucru ar necesita o conducere americană concentrată nu pe profitul pe termen scurt, ci pe crearea unei lumi care funcționează într-o măsură mult mai mare pe sisteme americane decât pe cele chinezești.
Dacă copierea ar fi ușoară și proliferarea inevitabilă, secretul ar oferi puține beneficii. O strategie mai bună ar fi să se ofere versiuni sigure ale sistemelor cheie în regim open-source sau cu licență largă, asigurându-se că acestea vor fi utilizate pe platforme americane sau aliate. În această lume, controlul exporturilor ar oferi mai puține beneficii și, în unele cazuri extreme, ar putea chiar să submineze cursa difuzării, deoarece China ar putea să le ocolească în mod fiabil prin replicarea rapidă a tehnologiilor americane.
A OPTA LUME
În lumea finală, IA ar semăna cu multe tehnologii importante din trecut. Statele Unite ar conduce în domeniul inovării, dar progresele ar fi ușor de copiat. Acest parazitism ar face mai dificilă mobilizarea investițiilor private pentru mari progrese în domenii de frontieră și, în absența Chinei din cursă, rațiunea de securitate națională pentru cheltuielile publice ar deveni mai puțin cuprinzătoare. În schimb, investițiile în IA ar urma veniturile prognozate din difuzare. Modelele open-source ar domina probabil.
Cursa pentru leadershipul în domeniul IA ar fi, de asemenea, în primul rând o cursă pentru difuzare. Ar semăna cu competițiile anterioare, cum ar fi cea pentru 5G, care a fost determinată de implementare și amploare. Sarcina Washingtonului ar fi să se asigure că sistemele americane și aliate de încredere devin infrastructura implicită pentru industria globală, lăsând mai puțin spațiu Beijingului pentru a stabili o alternativă viabilă și ieftină.
DE LA SCENARII LA STRATEGIE
Strategia în era IA va fi mai puțin legată de prezicerea unui singur rezultat sau a unei singure politici corecte și mai mult de gândirea în probabilități. Pentru a utiliza această matrice, factorii de decizie politică ar trebui să înceapă prin selectarea unui scenariu de bază – lumea pe care o consideră cea mai probabilă. Fiecare propunere politică majoră ar trebui testată în raport cu acest scenariu de bază: politica are sens în lumea în care credem că ne aflăm? Factorii de decizie politică trebuie, de asemenea, să determine ce se poate face pentru a evita sau a atenua cele mai grave rezultate posibile în lumile în care Statele Unite sunt cele mai expuse și miza este cea mai mare, cum ar fi în Lumea Unu – chiar dacă nu consideră că aceste lumi sunt cele mai probabile. De acolo, ar trebui să se protejeze, aliniind strategia la scenariul de bază, făcând-o în același timp rezistentă în cele mai dificile lumi. Aceasta înseamnă identificarea politicilor care funcționează în mai multe lumi, care pot fi inversate dacă viitorul prevăzut se schimbă și care ar fi dăunătoare dacă scenariul de bază se dovedește fals.
Pentru fiecare dintre cele opt lumi, guvernul ar trebui să aibă un plan gata de executare, care poate fi adaptat pe măsură ce condițiile se schimbă. Acest lucru necesită ca instituțiile să gândească probabilistic. Consiliul Național de Securitate ar trebui să utilizeze matricea pentru a testa politica SUA în raport cu viitoruri alternative. Iar comunitatea de informații ar trebui să urmărească semnalele de mișcare de-a lungul celor trei axe (cum ar fi ritmul progresului la frontieră, viteza cu care sunt replicate noile capacități sau schimbările în investițiile chineze) și să actualizeze probabilitățile fiecărui viitor în consecință. Înaltii oficiali din domeniul securității naționale ar trebui să fie pregătiți să recomande ajustări ale politicii atunci când începe să pară că o lume diferită este cea mai probabilă. Sarcina nu este de a face previziuni perfecte, ci de a echilibra riscurile și recompensele, de a ajusta prioritățile pe măsură ce probabilitățile se schimbă, de a redesena matricea în funcție de circumstanțe și de a stabili sistemele și procesele necesare pentru a face aceste lucruri.
Acest cadru nu este destinat doar factorilor de decizie. El oferă, de asemenea, o modalitate practică pentru oricine de a se angaja în dezbateri despre IA și geopolitică. Aceste discuții se termină prea des cu două părți care vorbesc fără să se asculte reciproc; ele ar putea deveni mai productive dacă participanții ar stabili clar care este viitorul presupus. Se așteaptă ca IA să evolueze rapid către ceva transformator sau să se stabilizeze? Descoperirile revoluționare se vor răspândi rapid sau vor rămâne greu de replicat? Și China se îndreaptă cu pași rapizi către frontieră sau se poziționează pentru a urma și a comercializa? Punerea acestor întrebări și reprezentarea argumentelor fiecărei părți în matrice revelează adesea dacă dezacordurile se referă într-adevăr la recomandările de politică sau la viitorul presupus.
Scopul acestui cadru nu este de a prevedea lumea finală, ci de a disciplina strategia în fața incertitudinii – de a face ipotezele explicite și de a le testa în raport cu alternativele. Cadrul este, de asemenea, menit să evolueze. Există mai multe dimensiuni ale progresului IA decât cele trei axe prezentate aici; unele dintre întrebările care par cele mai pertinente astăzi pot fi rezolvate în cele din urmă, iar altele noi vor apărea. Dacă devine evident că superinteligența este la îndemână, de exemplu, posibilitatea unui progres mai limitat va deveni irelevantă, iar matricea ar putea include o nouă axă care să ia în considerare două noi posibilități: superinteligența benefică și superinteligența periculoasă. Alți actori în afară de China ar putea deveni, de asemenea, mai importanți, pe măsură ce peisajul tehnologic se schimbă. Ceea ce contează este să existe un cadru politic care să se poată adapta pe măsură ce se acumulează dovezi.
Geopolitica în era IA nu va fi simplă. Dar fără o modalitate disciplinată de gândire, strategia se va prăbuși sub greutatea presupunerilor și agendelor ascunse. Prin cartografierea lumilor posibile și a alegerilor pe care acestea le impun, acest cadru oferă o modalitate de a vedea prin ceață. Sarcina factorilor de decizie politică este acum clară: să trateze IA nu ca o poveste unică, ci ca un peisaj în schimbare. Dacă liderii americani vor învăța să gândească în acest fel, ei vor defini orice eră a IA va apărea. Dacă nu, alții o vor face în locul lor. >>
