<< Praful de pușcă. Motorul cu ardere internă. Avionul. Acestea sunt doar câteva dintre tehnologiile care au schimbat pentru totdeauna fața războiului. Acum, lumea se confruntă cu o altă transformare care ar putea redefini puterea militară: dezvoltarea inteligenței artificiale (IA) >>, scrie Foreign Affairs.
<< Îmbinarea IA cu războiul poate suna ca o ficțiune științifico-fantastică, dar IA este în centrul a aproape tuturor progreselor în tehnologia de apărare, astăzi. Acesta va modela modul în care armatele recrutează și antrenează soldați, modul în care își desfășoară forțele și modul în care luptă. China, Germania, Israel și Statele Unite au folosit, toate, IA pentru a crea vizualizări în timp real ale câmpurilor de luptă active. Rusia a desfășurat IA pentru a realiza videoclipuri deepfake și a răspândi dezinformarea cu privire la invazia sa în Ucraina. Pe măsură ce războiul ruso-ucrainean continuă, ambele părți ar putea folosi algoritmi pentru a analiza cantități mari de date open-source care provin din rețelele sociale și de pe câmpul de luptă, permițându-le să-și calibra mai bine atacurile.
Statele Unite sunt cea mai importantă putere tehnologică a lumii și, teoretic, ascensiunea IA oferă armatei americane oportunități uriașe. Dar, de acum, prezintă riscuri. Armatele de frunte devin adesea prea încrezătoare în capacitatea lor de a câștiga războaie viitoare și există semne că Departamentul Apărării al SUA ar putea cădea victima automulțumirii. Deși liderii superiori ai apărării din SUA au petrecut zeci de ani vorbind despre importanța tehnologiilor emergente, inclusiv IA și sistemele autonome, acțiunea pe teren a fost dureros de lentă. De exemplu, U.S. Air Force și U.S. Navy și-au unit forțele începând din 2003 pentru a crea prototipurile X-45 și X-47A: aeronave semiautonome, clandestine, fără echipaj, capabile să efectueze atacuri militare și de supraveghere. Dar mulți lideri militari le-au considerat amenințări la adresa avionului de luptă F-35, iar forțele aeriene au renunțat la program. Marina a finanțat apoi un prototip și mai impresionant, X-47B, capabil să zboare la fel de precis ca o navă pilotată de oameni. Dar, de asemenea, marina a văzut prototipurile ca amenințări la adresa avioanelor cu echipaj și, în cele din urmă, s-a dat înapoi, înainte, în schimb, cu o aeronavă neînarmată, fără echipaj, cu capacități mult mai limitate.
Acțiunea lentă a Statelor Unite este în contrast puternic cu comportamentul Chinei, cel mai puternic rival geopolitic al Washingtonului. În ultimii câțiva ani, China a investit aproximativ aceeași sumă ca și Statele Unite în cercetare și dezvoltare IA, dar integrează mai agresiv tehnologia în strategia, planificarea și sistemele sale militare – poate pentru a învinge Statele Unite într-un război viitor. A dezvoltat o dronă avansată, semiautonomă cu arme pe care o integrează în forțele sale, spre deosebire de modul în care Washington a aruncat X-45, X-47A și X-47B. Rusia dezvoltă, de asemenea, tehnologie militară activată de IA care ar putea amenința forțele adverse și infrastructura critică (deocamdată absentă din campania sa împotriva Ucrainei). Dacă Washingtonul nu face mai mult pentru a integra IA în armata sa, acesta s-ar putea considera depășit.
Dar, deși rămânerea în urmă pe segmentul IA ar putea pune în pericol puterea SUA, accelerarea nu este lipsită de riscuri. Unii analiști și dezvoltatori se tem că progresele IA ar putea duce la accidente grave, inclusiv eșecuri algoritmice care ar putea cauza victime civile pe câmpul de luptă. Există experți care chiar au sugerat că încorporarea inteligenței mașinilor în comanda și controlul nuclear ar putea face accidente nucleare mai probabile. Acest lucru este puțin probabil – majoritatea puterilor nucleare par să recunoască pericolul amestecării IA cu sistemele de lansare – și în acest moment, cea mai mare preocupare a Washingtonului ar trebui să fie faptul că se mișcă prea încet. Dar unii dintre cei mai importanți cercetători ai lumii cred că Departamentul de Apărare ignoră problemele de siguranță și fiabilitate asociate cu inteligența artificială, iar Pentagonul trebuie să-și ia în serios preocupările. Valorificarea cu succes a IA necesită ca armata americană să inoveze într-un ritm care este atât sigur, cât și rapid, o sarcină mult mai ușor de spus decât de făcut.
Administrația Biden face pași pozitivi în direcția acestui obiectiv. A creat Grupul Național de Resurse de Cercetare în Inteligență Artificială, care este însărcinat cu răspândirea accesului la instrumente de cercetare care vor ajuta la promovarea inovației AI atât pentru armată, cât și pentru economia generală. De asemenea, a creat poziția de ofițer șef digital și inteligență artificială în Departamentul Apărării; acel ofițer va fi însărcinat să se asigure că Pentagonul crește și își accelerează eforturile de IA.
Dar în condițiile în care Casa Albă vrea să se miște cu viteză responsabilă, trebuie luate măsuri suplimentare. Washingtonul va trebui să se concentreze pe a se asigura că cercetătorii au acces la date mai bune și mai multe ale Departamentului de Apărare, care vor alimenta algoritmi eficienți. Pentagonul trebuie să se reorganizeze, astfel încât agențiile sale să poată colabora cu ușurință și să-și împărtășească constatările. De asemenea, ar trebui să creeze stimulente pentru a atrage mai multe talente STEM și trebuie să se asigure că personalul său știe că nu vor fi penalizați dacă experimentele lor eșuează. În același timp, Departamentul Apărării ar trebui să deruleze proiecte de succes printr-o serie de teste riguroase de siguranță înainte de a le implementa. În acest fel, Statele Unite pot dezvolta rapid o panoplie de noi instrumente IA, fără a-și face griji că vor crea pericole inutile.
Inovația tehnologică a fost de multă vreme esențială pentru succesul militar al Statelor Unite. În timpul Războiului Civil American, președintele SUA Abraham Lincoln a folosit sistemul impresionant de telegraf al Nordului pentru a comunica cu generalii săi, a coordona strategia și a muta trupele, ajutând Uniunea să învingă Confederația. La începutul anilor 1990, Washington a desfășurat noi muniții ghidate de precizie în războiul din Golful Persic pentru a alunga Irakul din Kuweit.
Dar istoria arată că inovația militară nu este doar procesul de creare și utilizare a noii tehnologii. În schimb, presupune reelaborarea modului în care statele recrutează trupe, își organizează armatele, planifică operațiunile și stabilesc strategii. În anii 1920 și 1930, de exemplu, Franța și Germania au dezvoltat tancuri, camioane și putere aeriană. În timpul celui de-al Doilea Război Mondial, Germania a folosit potențialul combinat al acestor inovații (împreună cu radioul) pentru a-și desfășura blitzkrieg-urile infame: lovituri ofensive agresive care și-au copleșit rapid inamicii. Franța, în schimb, și-a investit majoritatea resurselor în Linia Maginot, o serie de forturi de-a lungul graniței franco-germane. Liderii francezi credeau că au creat o graniță de nepătruns care ar împiedica orice încercare de invazie germană. În schimb, naziștii au manevrat pur și simplu în jurul liniei trecând prin Belgia și pădurea Ardenne. Cu cele mai bune unități concentrate în altă parte, comunicare slabă și planuri învechite de luptă, Franța a căzut rapid.
Nu este o coincidență că Franța nu a jucat cartea noilor sisteme militare. Franța a fost un învingător al Primului Război Mondial, iar puterile militare de conducere renunță adesea la inovație și se opun schimbărilor perturbatoare. În 1918, marina britanică a inventat primul portavion, dar puterea maritimă dominantă a lumii a tratat aceste nave mai ales ca observatoare pentru navele sale tradiționale de luptă, mai degrabă decât ca baze mobile pentru ofensive. Japonia, în schimb, și-a folosit portavioanele pentru a aduce avioane de atac direct în luptele sale. Drept urmare, marina britanică a luptat împotriva japonezilor în Pacific și, în cele din urmă, Japonia a trebuit să fie împinsă înapoi de o altă putere în ascensiune: Statele Unite. Înainte și pe parcursul celui de-al Doilea Război Mondial, Marina SUA a experimentat cu noi tehnologii, inclusiv portavionul, în moduri care au ajutat-o să devină forța decisivă în Atlantic și Pacific.
Dar astăzi, Statele Unite riscă să fie mai mult ca Regatul Unit – sau chiar Franța. Departamentul Apărării pare să fie părtinitor în favoarea capabilităților testate și adevărate față de noile instrumente, iar ritmul său de inovare a încetinit: timpul necesar pentru a muta tehnologia nouă din laborator și pe câmpul de luptă a trecut de la aproximativ cinci ani, pe medie, la începutul anilor 1960 până la un deceniu sau mai mult în prezent. Uneori, Pentagonul pare că și-a târât picioarele pe IA și sistemele autonome, deoarece se teme că adoptarea acestor tehnologii ar putea necesita schimbări perturbatoare care ar amenința părțile existente, de succes ale forțelor armate, ca povestea cu X-45, X-47A X-47B și ilustrează clar. Unele proiecte s-au chinuit chiar să iasă de pe planșa de desen. Experimente multiple au arătat că Loyal Wingman, o aeronavă fără echipaj care folosește inteligența artificială, poate ajuta grupurile de aeronave să-și coordoneze mai bine atacurile. Dar armata americană nu a implementat încă serios această tehnologie, chiar dacă există de ani de zile. Nu este de mirare că Comisia Națională de Securitate pentru Inteligența Artificială a concluzionat în 2021, în raportul său final, că Statele Unite „nu sunt pregătite să se apere sau să concureze în epoca IA”.
Dacă Statele Unite nu reușesc să dezvolte IA eficientă, s-ar putea găsi la cheremul unor adversari din ce în ce mai sofisticați. China, de exemplu, folosește deja inteligența artificială pentru a juca un conflict viitor asupra Taiwanului. Beijingul intenționează să folosească inteligența artificială în combinație cu arme cibernetice, război electronic și robotică pentru a face ca un asalt amfibiu asupra Taiwanului să aibă mai multe șanse de a reuși. Investește în sisteme bazate pe inteligență artificială pentru a urmări vehiculele submarine și navele marinei americane și pentru a dezvolta capacitatea de a lansa atacuri de roi cu avioane cu costuri reduse și de mare volum. Dacă Statele Unite ale Americii nu au capacități avansate de inteligență artificială, se vor trezi inevitabil în mișcare într-un ritm mai lent – și, prin urmare, ar fi mai puțin capabile să ajute Taiwanul să evite o invazie.
O afacere riscantă
Având în vedere miza, sfera instituțională a apărării are dreptate să se îngrijoreze de ritmul inovației în domeniu al Washingtonului. Dar în afara guvernului, mulți analiști au teama opusă: dacă armata se mișcă prea repede pe măsură ce dezvoltă arme IA, lumea ar putea experimenta accidente mortale – și poate chiar catastrofale.
Nu este nevoie de un expert pentru a vedea riscurile IA: roboții ucigași au fost un element de bază al culturii pop de zeci de ani. Dar science fiction nu este cel mai bun indicator al pericolelor reale. Sistemele de arme complet autonome, în stil Terminator, ar necesita inteligență la nivel înalt, despre care chiar și previziunile optimiste sugerează că este la mai mult de jumătate de secol distanță. Un grup de analiști a realizat un film despre „Slaughterbots”, roiuri de sisteme autonome care ar putea ucide la scară largă. Dar orice actor guvernamental sau nonstatal care dorește să provoace acel nivel de ravagii ar putea îndeplini aceeași sarcină mai fiabil și mai ieftin, folosind arme tradiționale. În schimb, pericolul IA provine din implementarea sistemelor algoritmice, atât pe câmpul de luptă, cât și în afara acesteia, într-un mod care poate duce la accidente, defecțiuni sau chiar escaladare neintenționată. Algoritmii sunt proiectați pentru a acționa rapid și decisiv, ceea ce poate provoca greșeli în situații care necesită o analiză atentă (dacă nu rapidă). De exemplu, în 2003, sistemul automat al unei rachete sol-aer MIM-104 Patriot a identificat greșit o aeronavă prietenoasă ca adversar, iar operatorii umani nu au operat corecția, ducând la moartea, prin friendly fire, a unui pilot de F-18 american. Cercetările arată că, cu cât o situație este mai solicitantă și stresantă din punct de vedere cognitiv, cu atât este mai probabil ca oamenii să se supună judecăților IA. Asta înseamnă că într-un mediu de luptă în care multe sisteme militare sunt automatizate, aceste tipuri de accidente s-ar putea multiplica.
Oamenii, desigur, fac și ei erori fatale, iar încrederea în IA poate să nu pară în mod inerent a fi o greșeală. Dar oamenii pot fi prea încrezători în ceea ce privește acuratețea mașinilor. În realitate, chiar și algoritmii IA foarte buni ar putea fi mai predispuși la accidente decât oamenii. Oamenii sunt capabili să ia în considerare nuanțe și contexte atunci când iau decizii, în timp ce algoritmii IA sunt antrenați să emită verdicte clare și să funcționeze în seturi specifice de circumstanțe. Dacă li se încredințează lansarea de rachete sau folosirea de sisteme de apărare aeriană în afara parametrilor lor normali de funcționare, sistemele AI ar putea să funcționeze defectuos și să lanseze lovituri neintenționate. Atunci ar putea fi dificil pentru țara atacatoare să-și convingă adversarul că loviturile au fost o greșeală. În funcție de dimensiunea și amploarea erorii, rezultatul final ar putea fi un conflict în creștere.
Acest lucru are implicații înfricoșătoare. Este puțin probabil ca mașinile compatibile cu inteligența artificială să primească vreodată puterea de a lansa atacuri nucleare, dar algoritmii ar putea face în cele din urmă recomandări factorilor de decizie cu privire la lansarea unei arme ca răspuns la o alertă dintr-un sistem de apărare aeriană de avertizare timpurie. Dacă IA a dat undă verde, soldații care supraveghează și verifică de două ori aceste mașini ar putea să nu poată să-și examineze în mod adecvat ieșirile și să monitorizeze mașinile pentru potențiale erori în datele de intrare, mai ales dacă situația se mișca extrem de rapid. Rezultatul ar putea fi inversul unui incident infam din 1983 în care un locotenent al forțelor aeriene sovietice a salvat lumea când, suspectând corect o alarmă falsă, a decis să anuleze o directivă de lansare nucleară dintr-un sistem automat de avertizare. Acel sistem a confundat lumina reflectată de nori cu o rachetă balistică.
Rapid, dar nu ușor
Statele Unite se confruntă așadar cu riscuri în conflict din cauza inteligenței artificiale. Dacă se mișcă prea încet, Washingtonul ar putea fi depășit de concurenții săi, punând în pericol securitatea națională. Dar dacă se mișcă prea repede, poate compromite siguranța și poate construi sisteme IA care generează accidente mortale. Deși primul este un risc mai mare decât cel din urmă, este esențial ca Statele Unite să ia în serios preocupările legate de siguranță. Pentru a fi eficientă, IA trebuie să fie sigură și de încredere.
Deci, cum poate Washington să găsească un fel de zonă Goldilocks pentru inovație? Poate începe prin a gândi dezvoltarea tehnologică în termeni de trei faze: invenție, incubare și implementare. Pentru fiecare sunt adecvate viteze diferite. Nu este gravă mișcarea rapidă în primele două faze, iar armata americană ar trebui să dezvolte și să experimenteze rapid cu noi tehnologii și concepte operaționale. Dar va trebui să abordeze temeinic problemele de siguranță și fiabilitate în timpul implementării.
Pentru a atinge acest echilibru, armata americană va trebui să se asigure că personalul său se ocupă mai bine de toate datele Departamentului de Apărare. Aceasta include conținut open-source disponibil pe internet, cum ar fi imagini din satelit și informații despre adversari și capacitățile lor militare. Include, de asemenea, date despre eficacitatea, compoziția și capacitățile instrumentelor ale armatei americane.
Departamentul Apărării are deja multe unități care colectează astfel de date, dar informațiile fiecărei unități sunt izolate și stocate în moduri diferite. Pentru a adopta mai eficient IA, Pentagonul va trebui să se bazeze pe eforturile sale continue de a crea o infrastructură de date comună. Departamentul face un pas important prin integrarea responsabilităților de date și IA sub egida ofițerului șef de inteligență digitală și artificială. Dar această reorganizare nu va reuși decât dacă noul oficial are autoritatea de a depăși barierele birocratice în calea adoptării IA atât în serviciile militare, cât și în alte părți ale Pentagonului.
Oferirea de date mai bune cercetătorilor va ajuta, de asemenea, asigurarea că fiecare algoritm este supus unor teste riguroase de siguranță. Examinatorii, de exemplu, ar putea introduce în mod deliberat o gamă largă de informații complexe sau complet incorecte într-un sistem IA pentru a vedea dacă acesta creează o ieșire defectuoasă, cum ar fi o directivă de a lovi o aeronavă prietenoasă. Această testare va ajuta la crearea unei idei de bază despre cât de fiabile și precise sunt sistemele AI, stabilind o marjă de eroare de care eventualii operatori o pot ține cont. Acest lucru îi va ajuta pe oameni să știe când să pună la îndoială ce le spun mașinile, chiar și în scenarii de înaltă presiune.
Producția de IA inovatoare și sigure va necesita, de asemenea, o conexiune mai strânsă între brațul de cercetare și inginerie al Departamentului de Apărare și restul Pentagonului. În teorie, Cercetarea și Ingineria sunt responsabile de inovarea tehnologică a departamentului. Dar, potrivit unui raport al Melissa Flagg și Jack Corrigan de la Centrul pentru Securitate și Tehnologie Emergentă, eforturile de inovare ale Pentagonului sunt dezorganizate, având loc în cel puțin 28 de organizații din cadrul departamentului mai larg. Toate aceste eforturi ar beneficia de o mai bună coordonare, lucru pe care departamentul de cercetare și inginerie îl poate oferi. Un motiv recent de optimism este că Research and Engineering a creat Rezerva de Experimentare pentru Apărare Rapidă, o inițiativă care va permite departamentului să creeze mai rapid prototipuri și să experimenteze cu tehnologii emergente în zonele cu mare nevoie din armata, ceea ce ar trebui să crească coordonarea și grăbi adopția.
Dar Pentagonul nu poate stimula o inovație mai eficientă doar prin reforme structurale. Va avea nevoie și de oamenii potriviți. Statele Unite au norocul de a avea o armată foarte instruită și educată, dar necesită și mai mult talent STEM dacă vor câștiga războaiele viitorului. Asta înseamnă că Departamentul Apărării trebuie să angajeze mai mult personal care studiază IA. De asemenea, înseamnă că Pentagonul ar trebui să ofere cursuri de codificare și analiză a datelor pentru personalul existent și să acorde bani suplimentari sau mai mult timp liber angajaților care se înscriu, la fel ca și pentru personalul care studiază limbi străine.
Ca parte a revizuirii sale, Departamentul Apărării va trebui, de asemenea, să-și schimbe cultura, astfel încât să nu fie, așa cum Michèle Flournoy, fost subsecretar al apărării pentru politică, a descris-o în aceste pagini anul trecut, prea „aversă riscului”. În prezent, oficialii departamentului deseori încetinesc sau evită inițiativele riscante pentru a evita daunele reputației care însoțesc eșecul, îngropând proiecte promițătoare în acest proces. Acest lucru este complet înapoi: încercarea și eroarea este parte integrantă a inovației. Liderii de rang înalt din Pentagon ar trebui să recompenseze managerii de programe și cercetătorii pentru numărul total de experimente și concepte operaționale pe care le testează, mai degrabă decât pentru procentul de succes.
Chiar și investițiile nereușite se pot dovedi utile din punct de vedere strategic. Armata chineză acordă o atenție deosebită capacităților și planificării militare ale SUA, permițând Statelor Unite să perturbe potențial planificarea Beijingului prin dezvăluirea selectivă a prototipurilor, inclusiv a celor care nu s-au realizat. China ar putea răspunde urmărind sistemele americane uneori defecte, fiind în același timp nesigură cu privire la ce vor implementa sau dezvolta Statele Unite în continuare. Dacă armata americană vrea să rămână cea mai puternică din lume, trebuie să continue să-și facă adversarii să o urmeze.
De asemenea, va trebui să dezvolte modalități de a utiliza în mod eficient orice tehnologii pe care decide să le implementeze. Puterea militară este în cele din urmă mai mult despre oameni și organizații decât despre widget-uri sau instrumente, iar istoria arată că chiar și cele mai de succes armate trebuie să încorporeze noi capabilități în planurile lor dacă doresc să câștige pe câmpul de luptă. Pe măsură ce războiul convențional are o revenire nefericită, Statele Unite vor trebui să se adapteze și să-și restructureze armata pentru viitor, în loc să se odihnească pe lauri. >>
Cum a capturat Putin Rusia | Lovitura de stat de la Kremlin. Lovitura de stat a FSB asupra FSB
