Însă faptul că are primul (și cel mai bun) institut de securitate pentru AI nu este o scuză pentru ca țara să se culce pe lauri, notează The Economist.
<< Guvernele primesc tot mai multe mementouri despre chipul de Ianus al inteligenței artificiale. Pe 28 ianuarie, DeepMind, divizia de AI a Google din Londra, a publicat în Nature un articol despre AlphaGenome, un model care ar putea transforma înțelegerea ADN-ului. În aceeași săptămână, Dario Amodei, directorul laboratorului de AI Anthropic, a publicat un eseu în care îndemna omenirea să se „trezească” în fața riscurilor AI. Luna aceasta, principalul său cercetător în domeniul siguranței a demisionat pentru a studia poezia, avertizând că lumea se află „în pericol”.
Marea Britanie a fost prima care s-a confruntat cu această tensiune. În 2023, prim-ministrul de atunci, Rishi Sunak (mereu un tehno-optimist, în prezent consilier la Anthropic și Microsoft), a convocat primul mare summit mondial privind siguranța inteligenței artificiale, la Bletchley Park. Acesta a reunit Statele Unite și China, alături de experți; un summit succesor a început în India pe 16 februarie. Din reuniunea de la Bletchley a rezultat primul institut de siguranță a AI din lume, cunoscut acum sub numele de AI Security Institute (AISI): un organism guvernamental conceput pentru a înțelege capacitățile și impactul inteligenței artificiale avansate.
A devenit un model pentru organizații similare din America, Japonia, Singapore și alte țări. William Isaac, cercetător principal la DeepMind, a numit AISI al Marii Britanii „bijuteria coroanei dintre toate institutele de siguranță”. Acesta reflectă punctele forte ale strategiei britanice în domeniul AI: talentul, abilitățile tehnice și diplomația. În același timp, scoate în evidență și limitele țării.
AISI este un exemplu de guvernanță bine realizată. A fost modelat după grupul de lucru pentru vaccinuri din perioada pandemiei, care a ajutat Marea Britanie să devină prima țară care a aprobat un vaccin Covid-19 testat clinic. Așa cum acel grup de lucru a fost condus de o investitoare externă, Dame Kate Bingham, AISI l-a adus ca președinte pe Ian Hogarth, un investitor de capital de risc, combinând o mentalitate de start-up cu o finanțare inițială de 100 de milioane de lire sterline (135 milioane dolari) din partea guvernului. Institutul a acționat rapid, atrăgând talente de top de la DeepMind și de la OpenAI, compania din spatele ChatGPT.
Astăzi, la institutul din Londra lucrează unii dintre cei mai inteligenți „tocilari” ai lumii, un amestec de foști angajați din domeniul tehnologic și universitari. Ei testează ce pot face modelele în domenii periculoase, precum securitatea cibernetică, biologia și chimia. Inspirându-se din jocurile militare de război, desfășoară și „echipe roșii”, care se prezintă drept adversari pentru a vedea dacă răufăcătorii reali ar putea ocoli măsurile de siguranță. În 2025, OpenAI a raportat că AISI descoperise peste 12 vulnerabilități care ar fi putut permite utilizatorilor să dezvolte arme biologice; acestea au fost remediate înainte de lansarea modelului. În anumite privințe, AISI înțelege riscurile mai bine decât firmele, motiv pentru care a obținut acorduri de acces cu Anthropic, Google și OpenAI pentru a testa modelele înainte de lansare.
Unii comentatori sugerează că AISI este cel mai apropiat lucru de un inspector de arme de care dispune industria AI. Este o analogie imperfectă, în special pentru că aceasta reprezintă doar o parte din ceea ce face. Institutul se consideră mai degrabă un „organ de cercetare tehnică”, oferind perspective asupra sistemelor care evoluează rapid și ale căror capabilități sunt slab înțelese.
Un studiu recent al AISI a constatat că conversațiile cu un chatbot AI erau cu aproximativ 50% mai convingătoare în schimbarea opiniilor politice decât citirea unui mesaj static generat de AI, evidențiind riscurile potențiale ale „propagandei AI”. Un alt studiu a arătat că o treime dintre adulții britanici au folosit AI pentru nevoi emoționale. Platforma open-source a institutului, Inspect, permite firmelor, profesorilor universitari și guvernelor să ruleze teste standardizate de siguranță, facilitând evaluarea riscurilor după un criteriu comun.
Pentru o sumă modestă de aproximativ 66 milioane de lire sterline pe an, AISI oferă guvernului cunoștințe esențiale, cel mai evident în domeniul securității naționale. (Directorul său interimar, Adam Beaumont, provine de la GCHQ, agenția britanică de informații de semnale.) Într-un discurs din octombrie anul trecut, Ken McCallum, șeful MI5, agenția britanică de informații interne, a lăudat munca „revoluționară” a AISI, menționând că aceasta ajută serviciul de securitate să se adapteze la riscul ca oamenii să piardă controlul asupra sistemelor autonome de AI. Institutul contribuie și la proiectarea puterii soft a Marii Britanii. Țara conduce o rețea globală de institute de siguranță a AI. Alte guverne vin să învețe ce a făcut bine. Colaborând cu laboratoare care urmăresc inteligența artificială generală, institutul ajută la modelarea practicilor interne ale acestora.
Siguranță fără suveranitate
Totuși, dacă AISI arată cum poate Marea Britanie influența lumea în domeniul AI, există și riscul să devină un totem. Nu poate înlocui o guvernanță mai largă a AI. Nu a fost niciodată conceput ca un organism de reglementare. Munca sa depinde de accesul voluntar oferit de laboratoarele de vârf. Deoarece laboratoare de top, precum OpenAI, refuză să acorde AISI acces la „greutățile” modelelor lor, adică parametrii numerici care le definesc, echipele institutului evaluează în mare parte modelele prin întrebări și analizarea răspunsurilor lor.
Însă necesitatea de a reglementa daunele provocate de AI crește: un exemplu recent este scandalul legat de Grok, chatbot-ul AI al lui Elon Musk, care a generat deepfake-uri nud. Michael Birtwistle, de la Ada Lovelace Institute, un organism de cercetare în domeniul AI, susține că guvernul britanic a făcut o „serie de retrageri” în legislația AI, abandonând angajamentul din manifest de a adopta o „reglementare obligatorie” pentru a asigura dezvoltarea și utilizarea sigură a modelelor AI. Funcționarii subliniază că riscurile trebuie mai întâi înțelese înainte de a fi restricționate; unele daune, cum ar fi postarea de deepfake-uri sexualizate cu copii sau construirea unei arme biologice, sunt deja acoperite de legile existente. Totuși, Marea Britanie s-ar putea să fi construit una dintre cele mai sofisticate „alarme de fum” din lume: capabilă să detecteze pericolul, dar neputincioasă să acționeze atunci când sună.
În ciuda tuturor realizărilor sale de pionierat, Marea Britanie rămâne un partener junior al Americii. Acest lucru a devenit clar la summitul AI de anul trecut, de la Paris. Vicepreședintele american, J.D. Vance, a minimalizat preocupările legate de siguranță, numindu-le „emoții inutile” și prezentându-le ca fiind axate pe probleme sociale și etice „woke” (cum ar fi părtinirea, discriminarea și confidențialitatea), mai degrabă decât pe securitate reală (cum ar fi riscurile biologice, atacurile cibernetice și armele autonome).
La câteva ore, AISI a eliminat de pe site-ul său referințele la „impactul social” și la riscuri precum inegalitatea și afectarea bunăstării. În câteva zile, un ministru a anunțat că institutul urma să fie redenumit, „S”-ul nemaiavând semnificația de „siguranță”, ci de „securitate”. Schimbările au fost în mare parte cosmetice, susține profesorul Seán Ó hÉigeartaigh de la Universitatea din Cambridge; focusul principal al AISI a fost dintotdeauna securitatea. Chiar și așa, imaginea percepută a fost proastă. Realitatea este că Marea Britanie nu dispune de capitalul și energia ieftină necesare pentru a construi propriile modele de vârf: laboratorul său principal, DeepMind, a trebuit să se vândă către Google în 2014 pentru a-și finanța cercetarea.
Pe scurt, a fi lider în siguranța AI nu te face automat lider în domeniul AI, spune Joshua Tan, cercetător în AI la Public AI, o coaliție care construiește infrastructură AI comună. Este „ca și cum te-ai numi mare producător de petrol fără să produci niciun litru de petrol”.
Indiferent de meritele AISI, de unul singur institutul nu transformă Marea Britanie într-o putere în domeniul AI. Incapabilă să construiască cele mai avansate modele de AI, țara este lider mondial în testarea lor, o expertiză pe care speră să o folosească pentru creștere. Acum, vrea să devină printre cei mai buni și la utilizarea modelelor AI.
Obiectivul este să devină „o țară care face AI cu adevărat utilă pentru oameni”, spune Jade Leung, directorul tehnic al AISI și, mai important, consilierul guvernamental pentru AI. Acest lucru înseamnă adoptarea AI la scară largă. Într-un discurs din 28 ianuarie, secretarul de stat pentru știință, inovație și tehnologie, Liz Kendall, a anunțat planuri de a pune la dispoziție seturi de date publice pentru cercetători și firme; de a testa mai mulți tutori AI în școli; și de a instrui milioane de lucrători în domeniul AI. O nouă unitate „viitorul muncii” va monitoriza dacă AI înlocuiește angajați.
Kendall a vorbit și despre o lume turbulentă, în care lanțurile de aprovizionare cu AI sunt transformate în arme. „Nu trebuie să fim excesiv de dependenți de alte țări pentru accesul la tehnologii care stau la baza prosperității noastre viitoare”, a spus ea. Totuși, dacă Marea Britanie vrea să trateze capacitatea AI ca infrastructură critică, sumele din spatele retoricii guvernamentale sunt mici: până acum, 100 milioane de lire sterline pentru „angajamente de piață avansate”, prin care guvernul ar acționa ca prim client pentru start-upurile britanice de hardware pentru AI, și 500 milioane de lire sterline pentru o unitate „AI suverană” destinată investițiilor în firme de AI din Marea Britanie. Semnalele de pe piață sunt mai promițătoare: săptămâna aceasta, David Silver, unul dintre cei mai importanți cercetători britanici în AI, a anunțat că strânge 1 miliard de dolari pentru un nou laborator AI la Londra.
AISI este unul dintre puținele active reale pe care Marea Britanie le deține în domeniul AI. Dar nu este suficient. >>
