În aceeași zi în care Donald Trump a fost inaugurat președinte, DeepSeek, o companie chineză, a lansat un model lingvistic de talie mondială (LLM). A fost un semnal de alarmă, a observat Trump. Mark Warner, vicepreședinte al Comitetului de Informații al Senatului, afirmă că comunitatea de informații americană (IC), un grup format din 18 agenții și organizații, a fost „luată prin surprindere”, scrie The Economist.
<< Anul trecut, administrația Biden era îngrijorată că spionii și soldații chinezi ar putea să ia avans în adoptarea inteligenței artificiale (IA). Ea a ordonat propriilor agenții de informații, Pentagonului și Departamentului Energiei (care construiește arme nucleare) să experimenteze mai agresiv modele de ultimă generație și să colaboreze mai strâns cu laboratoarele de IA „de frontieră” – în principal Anthropic, Google DeepMind și OpenAI.
Pe 14 iulie, Pentagonul a acordat contracte în valoare de până la 200 de milioane de dolari fiecare companiilor Anthropic, Google și OpenAI, precum și companiei xAI a lui Elon Musk – al cărei chatbot s-a identificat recent (și pentru scurt timp) ca fiind Hitler după o actualizare eșuată – pentru a experimenta modele „agentice”. Acestea pot acționa în numele utilizatorilor lor, împărțind sarcini complexe în pași și exercitând controlul asupra altor dispozitive, cum ar fi mașini sau computere.
Laboratoarele de frontieră sunt ocupate atât în lumea spionajului, cât și în cea militară. O mare parte din adoptarea timpurie a avut loc în domeniul chatbot-urilor LLM care procesează date strict secrete. În ianuarie, Microsoft a declarat că 26 dintre produsele sale de cloud computing au fost autorizate pentru utilizare în agențiile de spionaj. În iunie, Anthropic a declarat că a lansat Claude Gov, care „a fost deja implementat de agenții la cel mai înalt nivel al securității naționale a SUA”.
Modelele sunt acum utilizate pe scară largă în toate agențiile de informații americane, alături de cele ale laboratoarelor concurente. Firmele de IA își ajustează de obicei modelele pentru a se adapta nevoilor agenților secreți. Claude, modelul public al Anthropic, ar putea respinge documentele cu marcaje clasificate ca parte a caracteristicilor sale generale de siguranță; Claude Gov este modificat pentru a evita acest lucru. De asemenea, are „competențe îmbunătățite” în limbile și dialectele de care ar putea avea nevoie utilizatorii guvernamentali.
Modelele rulează de obicei pe servere securizate, deconectate de la internetul public. O nouă generație de modele este în prezent în curs de dezvoltare în cadrul agențiilor.
Același proces este în curs de desfășurare în Europa. „În domeniul IA generativă, am încercat să fim foarte, foarte rapizi în adoptarea modelelor de frontieră”, spune o sursă britanică. „Toți membrii UKIC [comunitatea de informații din Marea Britanie] au acces la capacități [LLM] strict secrete.” Mistral, o firmă franceză și singurul campion european real în domeniul IA, are un parteneriat cu AMIAD, agenția franceză de IA militară. Modelul Saba al Mistral este antrenat pe date din Orientul Mijlociu și Asia de Sud, ceea ce îl face deosebit de competent în limba arabă și în limbile regionale mai mici, precum tamila. În ianuarie, revista +972 a raportat că utilizarea GPT-4, pe atunci cel mai avansat LLM al OpenAI, de către forțele armate israeliene a crescut de 20 de ori după începerea războiului din Gaza.
În ciuda tuturor acestor lucruri, progresul a fost lent, spune Katrina Mulligan, fostă oficială în domeniul apărării și informațiilor, care conduce parteneriatele OpenAI în acest domeniu. „Adoptarea IA în domeniul securității naționale probabil nu este încă acolo unde ne-am dori.” NSA, agenția americană de informații din domeniul semnalelor, care a lucrat timp de decenii la forme mai vechi de IA, cum ar fi recunoașterea vocală, este un focar de excelență, spune o sursă din interior.
Dar multe agenții doresc încă să-și construiască propriile „învelișuri” în jurul chatboților din laboratoare, un proces care le lasă adesea cu mult în urma celor mai recente modele publice. „Elementul transformator nu este doar utilizarea sa ca chatbot”, spune Tarun Chhabra, care a condus politica tehnologică pentru Consiliul Național de Securitate al lui Joe Biden și este acum șeful politicii de securitate națională la Anthropic.
„Elementul transformator este: odată ce începi să-l folosești, cum îți reorganizezi modul în care îți îndeplinești misiunea?”
Un joc de spionaj cu IA
Scepticii consideră că aceste speranțe sunt exagerate. Richard Carter, de la Institutul Alan Turing, institutul național britanic pentru IA, susține că ceea ce doresc cu adevărat serviciile de informații din America și Marea Britanie este ca laboratoarele să reducă semnificativ „halucinațiile” din LLM-urile existente. Agențiile britanice folosesc o tehnică numită „generare augmentată prin recuperare”, în care un algoritm caută informații fiabile și le transmite unui LLM, pentru a minimiza halucinațiile, spune sursa britanică anonimă. „Ceea ce ai nevoie în IC este consecvență, fiabilitate, transparență și explicabilitate”, avertizează dr. Carter. În schimb, laboratoarele se concentrează pe modele mai avansate.
Se crede, de exemplu, că Mistral a prezentat potențialilor clienți o demonstrație în care fiecare flux de informații, cum ar fi imagini din satelit sau interceptări vocale, este asociat cu un agent AI, accelerând procesul de luare a deciziilor. Alternativ, imaginați-vă un agent AI însărcinat să identifice, să cerceteze și apoi să contacteze sute de oameni de știință iranieni din domeniul nuclear pentru a-i încuraja să dezerteze. „Nu ne-am gândit suficient la modul în care agenții ar putea fi utilizați într-un context de război”, adaugă Chhabra.
Problema modelelor-agent, avertizează dr. Carter, este că acestea generează recursiv propriile solicitări ca răspuns la o sarcină, ceea ce le face mai imprevizibile și crește riscul de erori compuse. Cel mai recent model al OpenAI, agentul ChatGPT, halucinează în aproximativ 8% din răspunsuri, o rată mai mare decât modelul anterior al companiei, o3, potrivit unei evaluări publicate de firmă.
Unele laboratoare de IA consideră că astfel de preocupări sunt o rigiditate birocratică, dar este vorba pur și simplu de un conservatorism sănătos, spune dr. Carter. „Ceea ce aveți, în special în GCHQ”, spune el, referindu-se la omologul britanic al NSA, „este o forță de muncă de inginerie incredibil de talentată, care este în mod natural destul de sceptică față de noile tehnologii”.
Acest lucru se leagă și de o dezbatere mai amplă despre viitorul IA. Dr. Carter se numără printre cei care susțin că arhitectura LLM-urilor de uz general de astăzi nu este concepută pentru tipul de raționament cauză-efect care le conferă o înțelegere solidă a lumii. În opinia sa, prioritatea agențiilor de informații ar trebui să fie promovarea unor noi tipuri de modele de raționament.
Alții avertizează că China ar putea fi cu un pas înainte. „Există încă o diferență enormă în ceea ce privește înțelegerea noastră asupra modului și măsurii în care China a avansat în utilizarea DeepSeek” pentru a acoperi lacunele militare și de informații, afirmă Philip Reiner de la Institutul pentru Securitate și Tehnologie, un think-tank din Silicon Valley. „Probabil că nu au barierele de protecție similare cu ale noastre în ceea ce privește modelele în sine, astfel încât este posibil să obțină informații mai puternice, mai rapid”, spune el.
Pe 23 iulie, administrația Trump a ordonat Pentagonului și agențiilor de informații să evalueze periodic cât de repede adoptă agențiile de securitate națională americane IA în comparație cu concurenții precum China și să „stabilească o abordare pentru adaptarea continuă”.
Aproape toată lumea este de acord cu acest lucru. Senatorul Warner susține că agenții americani au făcut o „treabă proastă” în urmărirea progreselor Chinei. „Achiziția de tehnologie [și] penetrarea companiilor tehnologice chineze este încă destul de redusă.” Cel mai mare risc, spune Mulligan, nu este că America se grăbește să adopte tehnologia înainte de a înțelege riscurile. „Este faptul că Departamentul Apărării și Comunitatea de Informații continuă să facă lucrurile așa cum le-au făcut întotdeauna. Ceea ce mă ține trează noaptea este posibilitatea reală ca noi să câștigăm cursa către AGI [inteligența artificială generală] și să pierdem cursa adoptării.” >>
Pericolul de la punctele de ajutoare din Gaza, vizibil din satelit
