Sistemele americane de avertizare nucleară nu sunt pregătite pentru inteligența artificială, notează o analiză Foreign Affairs.
De la începutul erei nucleare, factorii de decizie și strategii au încercat să prevină situația în care o țară ar folosi din greșeală arme nucleare. Însă potențialul pentru accidente rămâne la fel de mare ca în timpul Războiului Rece. În 1983, un sistem sovietic de avertizare timpurie a indicat, în mod eronat, că un atac nuclear american asupra Uniunii Sovietice era în curs; un asemenea avertisment ar fi putut declanșa un contraatac sovietic catastrofal. Soarta tragică a fost evitată doar pentru că supraveghetorul aflat de serviciu, Stanislav Petrov, a stabilit că alarma era falsă. Dacă nu ar fi făcut-o, conducerea sovietică ar fi avut motive să lanseze asupra Statelor Unite cele mai distructive arme din lume.
Proliferarea rapidă a inteligenței artificiale a agravat amenințările la adresa stabilității nucleare. Una dintre temeri este că un stat deținator de arme nucleare ar putea delega decizia de a le folosi către mașini. Statele Unite, însă, au introdus măsuri de siguranță pentru a se asigura că oamenii continuă să ia decizia finală privind lansarea unui atac. Potrivit Strategiei Naționale de Apărare din 2022, un om va rămâne „în buclă” pentru orice decizie de a folosi — sau de a opri folosirea — unei arme nucleare. Iar președintele american Joe Biden și liderul chinez Xi Jinping au căzut de acord, în declarații paralele, că „trebuie să existe control uman asupra deciziei de a folosi arme nucleare”.
Totuși, IA prezintă un alt risc insidios pentru securitatea nucleară. Face mai ușoară crearea și răspândirea deepfake-urilor — videoclipuri, imagini sau înregistrări audio modificate convingător, folosite pentru a genera informații false despre persoane sau evenimente. Iar aceste tehnici devin tot mai sofisticate. La câteva săptămâni după debutul invaziei ruse în Ucraina, în 2022, un deepfake larg distribuit îl arăta pe președintele ucrainean Volodimir Zelenski spunându-le ucrainenilor să depună armele; în 2023, un alt deepfake i-a făcut pe oameni să creadă, în mod fals, că președintele rus Vladimir Putin a întrerupt televiziunea de stat pentru a declara o mobilizare totală. Într-un scenariu mai extrem, un deepfake l-ar putea convinge pe liderul unui stat nuclear că este în desfășurare un prim atac al unui adversar, sau o platformă de informații sprijinită de IA ar putea lansa alarme false despre o mobilizare — sau chiar despre un atac cu bombă murdară — al unui adversar.
Administrația Trump dorește să valorifice IA pentru securitatea națională. În iulie, a publicat un plan de acțiune care cere ca IA să fie folosită „agresiv” în întregul Departament al Apărării. În decembrie, departamentul a lansat GenAI.mil, o platformă cu instrumente de IA pentru angajați. Dar, pe măsură ce administrația integrează IA în infrastructura de securitate națională, va fi esențial ca factorii de decizie și proiectanții de sisteme să fie atenți la rolul pe care îl joacă mașinile în fazele timpurii ale deciziilor nucleare. Până când inginerii vor putea preveni problemele inerente IA, precum halucinațiile și „spoofingul” — prin care modelele lingvistice mari prezic tipare sau fapte inexacte — guvernul SUA trebuie să se asigure că oamenii continuă să controleze sistemele de avertizare timpurie nucleară. Alte state deținătoare de arme nucleare ar trebui să facă la fel.
Crize în cascadă
Astăzi, președintele Donald Trump folosește un telefon pentru a accesa deepfake-uri; uneori le redistribuie pe rețelele sociale, la fel ca mulți dintre consilierii săi apropiați. Pe măsură ce liniile dintre informația reală și cea falsă se estompează, crește posibilitatea ca astfel de deepfake-uri să contamineze decizii de securitate națională cu miză maximă — inclusiv cele privind armele nucleare.
Dacă dezinformarea reușește să inducă în eroare președintele SUA chiar și pentru câteva minute, rezultatul ar putea fi dezastruos pentru lume. Conform legii americane, un președinte nu trebuie să se consulte cu nimeni pentru a ordona folosirea armelor nucleare, fie într-un atac de represalii, fie într-un prim atac. Oficialii militari americani sunt pregătiți să desfășoare avioanele, submarinele și rachetele terestre care transportă focoase nucleare. O rachetă balistică intercontinentală americană își poate atinge ținta în mai puțin de o jumătate de oră — și, odată lansată, nimeni nu o mai poate opri. Atât forțele nucleare americane, cât și cele ruse sunt pregătite de „lansare la avertizare”, ceea ce înseamnă că pot fi desfășurate imediat ce sunt detectate rachete inamice în drum spre ele. Asta lasă doar câteva minute unui lider pentru a evalua dacă un atac nuclear al unui adversar a început. (Conform politicii actuale a SUA, președintele are opțiunea de a amâna decizia până după ce arma nucleară a adversarului lovește Statele Unite.) Dacă sistemul american de avertizare timpurie detectează o amenințare, oficialii americani vor încerca să verifice atacul atât prin surse clasificate, cât și neclasificate. Ei pot analiza datele prin satelit privind activitatea de la instalații militare cunoscute, monitoriza declarațiile recente ale liderilor străini și verifica rețelele sociale și sursele de știri externe pentru context și mărturii de la fața locului. Ofițerii militari, funcționarii publici și numiții politici trebuie apoi să decidă ce informații transmit pe lanțul ierarhic și cum sunt prezentate.
Dezinformarea generată de IA ar putea declanșa crize în cascadă. Dacă sistemele de IA sunt folosite pentru a interpreta datele de avertizare timpurie, acestea ar putea „halucina” un atac care nu este real — punând oficialii americani într-o poziție similară cu cea în care s-a aflat Petrov acum patru decenii. Deoarece logica internă a sistemelor de IA este opacă, oamenii rămân adesea fără explicații privind motivul pentru care IA ajunge la o anumită concluzie. Cercetările arată că persoanele cu un nivel mediu de familiaritate cu IA tind să se conformeze rezultatelor generate de mașini, în loc să verifice biasul sau alertele false, chiar și în probleme de securitate națională. Fără instruire extinsă, instrumente și proceduri operaționale care să țină cont de punctele slabe ale IA, consilierii factorilor de decizie de la Casa Albă ar putea ajunge să presupună — sau cel puțin să ia în considerare serios — că informațiile generate de IA sunt corecte.
Deepfake-urile difuzate prin media deschise sunt aproape la fel de periculoase. După vizionarea unui videoclip deepfake, un lider american ar putea, de exemplu, să interpreteze greșit testele de rachete ale Rusiei ca începutul unor lovituri ofensive sau să confunde exercițiile cu muniție reală ale Chinei cu un atac asupra aliaților SUA. Deepfake-urile ar putea crea pretexte pentru război, mobiliza sprijin public pentru un conflict sau răspândi confuzie.
Un ochi critic
În iulie, administrația Trump a publicat un plan de acțiune privind IA, care cerea utilizarea agresivă a instrumentelor bazate pe IA în întregul Departament al Apărării, cea mai mare birocrație din lume. IA s-a dovedit utilă pentru a face anumite părți ale armatei mai eficiente. Învățarea automată facilitează programarea întreținerii distrugătoarelor navale. Tehnologia IA integrată în muniții autonome, precum dronele, le poate permite soldaților să se retragă din prima linie. Iar instrumentele de traducere bazate pe IA îi ajută pe ofițerii de informații să analizeze date despre țări străine. IA ar putea fi chiar utilă în alte sarcini standard de colectare a informațiilor, cum ar fi identificarea diferențelor dintre fotografii ale bombardierelor parcate pe aerodromuri de la o zi la alta.
Implementarea IA în sistemele militare nu trebuie să fie totală sau deloc. Există domenii care ar trebui să fie interzise pentru IA, inclusiv sistemele de avertizare timpurie nucleară și comanda și controlul, în care riscurile de halucinație și spoofing depășesc beneficiile pe care le-ar putea aduce software-ul bazat pe IA. Cele mai bune sisteme IA se bazează pe seturi de date verificate încrucișat și cuprinzătoare. Sistemele de avertizare timpurie nucleară nu dispun de niciuna dintre acestea, deoarece nu au existat atacuri nucleare de la cele asupra Hiroshimei și Nagasaki. Orice sistem de detectare nucleară bazat pe IA ar trebui probabil să fie antrenat pe date existente despre teste de rachete și urmărire spațială, plus date sintetice. Inginerii ar trebui să programeze apărări împotriva halucinațiilor sau a evaluărilor inexacte ale nivelului de încredere — obstacole tehnice semnificative.
Poate fi tentant să înlocuiești verificările făcute de personal înalt calificat cu instrumente IA sau să folosești IA pentru a combina diverse surse de date pentru a accelera analiza, dar eliminarea ochilor umani critici poate duce la erori, bias și neînțelegeri. La fel cum Departamentul Apărării cere control uman semnificativ asupra dronelor autonome, ar trebui să ceară ca fiecare element al tehnologiei de avertizare timpurie și de informații nucleare să îndeplinească un standard și mai ridicat. Instrumentele de integrare a datelor bazate pe IA nu ar trebui să înlocuiască operatorii umani care raportează despre rachetele balistice care se apropie. Eforturile de confirmare a unui avertisment timpuriu privind o lansare nucleară din datele satelitare sau radar ar trebui să rămână doar parțial automatizate. Iar participanții la teleconferințele critice de securitate națională ar trebui să ia în considerare numai date verificate și nemodificate.
În iulie 2025, Departamentul Apărării a solicitat fonduri de la Congres pentru a adăuga tehnologii noi la sistemele de comandă, control și comunicații nucleare. Guvernul SUA ar fi cel mai bine deservit dacă ar limita integrarea IA și a automatizării la securitatea cibernetică, procesele administrative și analitice și la sarcinile simple, precum asigurarea faptului că alimentarea de rezervă pornește atunci când este nevoie.
O strategie „vintage”
Astăzi, pericolul unui război nuclear este mai mare decât a fost de zeci de ani. Rusia a amenințat că va folosi arme nucleare în Ucraina, China își extinde rapid arsenalul, Coreea de Nord are acum capacitatea de a trimite rachete balistice intercontinentale către Statele Unite, iar politicile de prevenire a proliferării slăbesc. Pe acest fundal, este cu atât mai important ca oamenii — nu mașinile antrenate pe date slabe sau incomplete — să fie cei care evaluează acțiunile, intențiile și scopurile unui adversar.
Serviciile de informații trebuie să devină mai bune la urmărirea provenienței informațiilor generate cu ajutorul IA și să standardizeze modul în care le transmit factorilor de decizie atunci când datele sunt augmentate sau sintetice. De pildă, atunci când Agenția Națională de Informații Geospațiale folosește IA pentru a genera informații, adaugă o notă explicativă în raport dacă respectivul conținut este generat de mașină. Analiștii de informații, factorii de decizie și echipele lor ar trebui instruiți să manifeste mai mult scepticism și verificare factuală față de conținutul care nu poate fi verificat imediat — la fel cum multe companii sunt acum vigilente față de atacurile de tip spear phishing cibernetic. Iar agențiile de informații au nevoie de încrederea factorilor de decizie, care ar putea fi mai înclinați să creadă ceea ce le arată propriile lor ochi și dispozitive — adevărat sau fals — decât ceea ce indică o evaluare de informații.
Experții și tehnologii ar trebui să continue să caute modalități de a eticheta și încetini fluxul de informații, imagini și videoclipuri frauduloase care circulă pe rețelele sociale și care pot influența factorii de decizie. Dar, având în vedere dificultatea de a controla informația din surse deschise, devine cu atât mai important ca informațiile clasificate să fie corecte.
Actualizările aduse de administrația Trump posturii nucleare a Statelor Unite, în cadrul Strategiei Naționale de Apărare, ar trebui să protejeze împotriva riscurilor probabile și greu de gestionat pe care informațiile generate de IA le prezintă pentru armele nucleare, reafirmând că o mașină nu va lua niciodată o decizie de lansare nucleară fără control uman. Ca prim pas, toate statele deținătoare de arme nucleare ar trebui să cadă de acord că doar oamenii vor lua deciziile privind folosirea armelor nucleare. Apoi ar trebui îmbunătățite canalele de comunicare în timpul crizelor. Există o linie telefonică directă între Washington și Moscova, dar nu și între Washington și Beijing.
Politica și postura nucleară ale Statelor Unite s-au schimbat puțin încă din anii 1980, când liderii se temeau că Uniunea Sovietică va ataca pe neașteptate. Factorii de decizie de atunci nu și-ar fi putut imagina câtă dezinformare va ajunge astăzi pe dispozitivele personale ale celor responsabili de armele nucleare. Atât ramura legislativă, cât și cea executivă ar trebui să reexamineze politicile privind postura armelor nucleare, create pentru Războiul Rece. Factorii de decizie ar putea, de pildă, să impună ca viitorii președinți să se consulte cu liderii Congresului înainte de a lansa un prim atac nuclear sau să prevadă o perioadă de timp în care profesioniștii din domeniul informațiilor să valideze datele pe baza cărora se ia decizia. Deoarece Statele Unite dispun de capabilități solide de lovitură de răspuns, acuratețea ar trebui să primeze în fața vitezei.
IA are deja potențialul de a-i păcăli pe factorii-cheie de decizie și pe membri ai lanțului de comandă nuclear, făcându-i să vadă un atac care, de fapt, nu există. În trecut, doar dialogul autentic și diplomația au prevenit neînțelegerile dintre statele înarmate nuclear. Politicile și practicile ar trebui să protejeze împotriva riscurilor insidioase legate de informații care, în cele din urmă, ar putea duce la apocalipsă.
Se naște o lume nouă. Contururile geopoliticii din secolul XXI devin mai clare în 2026
