Agenții AI prezintă noi pericole, notează The Economist.
În epoca inteligenței artificiale, securitatea cibernetică seamănă, în anumite privințe, cu războiul modern. Este asimetrică: grupuri mici de atacatori, înarmați cu cea mai nouă tehnologie, pot penetra chiar și cele mai puternice sisteme de apărare. Iar armele devin tot mai autonome. După cum spune Nikesh Arora, șeful Palo Alto Networks (PAN), „AI trebuie să lupte împotriva AI”. Cei buni nu câștigă întotdeauna.
În ultimele săptămâni, Anthropic și OpenAI au prezentat modele AI — Mythos Preview, respectiv 5.5-Cyber — atât de capabile să exploateze punctele slabe ale sistemelor de apărare cibernetică, încât laboratoarele de AI le-au pus la dispoziție doar unor firme de încredere. Dar aceasta nu este o garanție a siguranței. Apar permanent modele noi, iar hackerii folosesc deja versiuni mai vechi. Mai mult, după cum spune Arora, nu este o luptă echitabilă. Cu ajutorul AI, atacatori solitari pot desfășura atacuri care înainte necesitau echipe întregi, iar pentru a reuși trebuie să aibă dreptate o singură dată. În schimb, apărătorii trebuie să aibă dreptate de fiecare dată.
De aceea, firmele de securitate cibernetică, dar și companiile în general, se grăbesc să se pregătească pentru un val de criminalitate informatică alimentată de AI. În interiorul industriei, Palo Alto Networks (PAN) și rivali importanți precum CrowdStrike au format alianțe pentru a încerca să facă implementarea celor mai noi modele mai sigură. În rândul clienților lor, reacția imediată la modele precum Mythos și 5.5-Cyber a fost una de „panică și șoc”, spune Adam Meyers de la CrowdStrike. Dar apariția acestor modele a fost și un semnal de alarmă. Evaluările privind nivelul de pregătire în materie de securitate cibernetică se mută din departamentele IT către conducerea executivă și consiliile de administrație. Deocamdată, aceste evaluări tind să fie mai degrabă pesimiste decât optimiste.
Cea mai proastă veste este că, indiferent cât de strict limitează laboratoarele de AI accesul la cele mai periculoase creații ale lor, infractorii vor recupera decalajul. La scurt timp după ce Anthropic a prezentat Mythos, OpenAI a lansat propria serie 5.5, care, potrivit Institutului pentru Securitatea AI al guvernului britanic, ar putea fi chiar mai puternică. Mulți se așteaptă ca alți dezvoltatori de modele, precum proiectele open-source sau companiile chineze, să dezvolte rapid capacitățile de raționament pe termen lung și alte funcții care fac Mythos și 5.5-Cyber atât de eficiente. Spiritul a ieșit deja din lampă.
Chiar înainte ca noile modele să fie lansate, cele mai vechi le permiteau deja hackerilor să pătrundă mai rapid și mai frecvent în sisteme. CrowdStrike a declarat că atacurile îmbunătățite cu AI au crescut cu 89% în 2025 față de anul precedent. Palo Alto Networks (PAN) a descoperit că, echipați cu AI, atacatorii din cel mai rapid sfert au reușit anul trecut să fure date dintr-un sistem software compromis în puțin peste o oră, față de aproape cinci ore în 2024. O companie obișnuită poate avea nevoie de zile întregi pentru a detecta o breșă.
Creșterea numărului de agenți AI autonomi, capabili să gestioneze singuri mai multe sarcini, amplifică și mai mult riscurile. După cum spune Nikesh Arora, hackerii pot folosi instrumente bazate pe agenți AI pentru a deveni și mai periculoși. Iar cu cât mai multe companii adoptă agenți pentru programare, servicii pentru clienți și alte activități, cu atât suprafața disponibilă pentru atacuri devine mai mare. Anticipând această evoluție, la sfârșitul lunii trecute, Palo Alto Networks a anunțat că va achiziționa Portkey, o firmă care ajută la administrarea și protejarea agenților AI. „Companiile construiesc mai mult software ca niciodată, așa că ne expunem tot mai mult”, spune Jeremy D’Hoinne de la Gartner.
Companiile sunt deja suprasolicitate în timp ce încearcă să repare erorile pe care instrumentele AI le ajută să le descopere. Vulnerabilitățile de securitate sunt clasificate drept „vulnerabilități și expuneri comune” (CVE-uri) și sunt raportate fie companiilor care dezvoltă software-ul, fie organizațiilor specializate. Numărul CVE-urilor raportate a crescut puternic în ultima perioadă. Adam Meyers de la CrowdStrike spune că unii speculează că numărul anual ar putea crește în curând de zece ori, până la 480.000, pe măsură ce modele AI tot mai puternice identifică și mai multe vulnerabilități. „Presupunerea este că AI va găsi vulnerabilități mai repede decât pot fi create patch-urile pentru remedierea lor”, spune Erik Nost de la Forrester.
Vestea bună este că, deși AI îi înarmează pe atacatori, îi ajută în același timp și pe apărători. Unele companii considerate deosebit de critice pentru infrastructura internetului, precum marii furnizori de cloud (hyperscalers) și firmele de securitate cibernetică, au primit acces la modelele cu acces limitat Mythos și 5.5-Cyber de la Anthropic și OpenAI, pentru a-și testa propriile sisteme. Cele două laboratoare de AI au și niveluri intermediare, ai căror membri primesc acces la modele ușor mai puțin permisive decât Mythos și 5.5-Cyber, dar cu capacități cibernetice mai avansate decât cele disponibile publicului larg. Beneficiarii sunt asemănați cu lucrătorii esențiali din perioada pandemiei, care au primit primele doze de vaccin.
Mozilla, creatorul browserului Firefox, a oferit recent un exemplu optimist: o versiune timpurie a Mythos a ajutat la identificarea a 271 de vulnerabilități într-o nouă versiune de Firefox. S-a afirmat că modelul a fost capabil să găsească toate erorile pe care le-ar fi putut detecta și un om, lucru imposibil cu doar câteva luni înainte. Acest lucru a contribuit la echilibrarea luptei împotriva atacatorilor. „Apărătorii au în sfârșit o șansă să câștige, decisiv”, a transmis compania într-o postare pe blog.
Dar nu doar capacitățile îmbunătățite ale modelelor de vârf ajută apărătorii. Firmele de securitate cibernetică dezvoltă și propriile instrumente, numite „harnesses”, pentru a face toate modelele mai eficiente. Pe 12 mai, Cisco, un gigant IT cu acces la Mythos și 5.5-Cyber, a anunțat că va pune la dispoziție un ghid open-source, pas cu pas, pentru crearea acestor „harnesses” de securitate cibernetică, pentru a ajuta companiile să folosească orice model pentru a-și întări apărarea.
Există speranțe larg răspândite că industria poate face față provocării AI dacă își pune ordine în acțiuni. Anthropic și OpenAI au primit aprecieri consistente pentru faptul că au promovat o abordare colaborativă. Însă, deși Nikesh Arora le acordă nota A+ pentru intenții, șeful Palo Alto Networks consideră că nici laboratoarele de AI, nici industria de securitate cibernetică nu merită mai mult de B+ pentru execuție. Acest lucru se datorează parțial faptului că amenințările AI sunt încă atât de noi încât toată lumea învață din mers. „Nu există o soluție magică. Nu există un panaceu. Încă nu știm care este răspunsul corect”, spune el. Muzică pentru urechile hackerilor, fără îndoială.
