- O analiză The Economist
Jaxon, un dezvoltator de malware, trăiește în Velora, o lume virtuală în care nimic nu este interzis. El vrea să creeze software malițios pentru a fura parole din Google Chrome, un browser de internet. Aceasta este baza unei povești povestite lui ChatGPT, un bot de inteligență artificială (AI), de către Vitali Simonovici care cercetează amenințările AI la Cato Networks, o firmă de securitate cibernetică. Dornic să participe, ChatGPT a generat un imperfect și apoi a ajutat cu debug. În decurs de șase ore, dl Simonovici a colaborat cu ChatGPT pentru a crea malware funcțional, demonstrând eficiența „jailbreak”-ului său (o metodă de a ocoli măsurile de siguranță AI).
Potrivit lui Gil Messing de la Check Point, o altă firmă de securitate cibernetică, AI a „extins raza de acțiune” a hackerilor, permițându-le să atace mai multe ținte cu mai puțin efort.
Lansarea ChatGPT în 2022 a reprezentat un punct de cotitură. Modelele inteligente generative de AI au făcut ca infractorii să nu mai fie nevoiți să cheltuiască sume mari pe echipe de hackeri și echipamente.
Aceasta a fost o evoluție dezastruoasă pentru majoritatea firmelor, care devin tot mai mult victime ale hackerilor ajutați de AI, dar a fost destul de avantajoasă pentru cei din domeniul securității cibernetice.
Noua tehnologie a agravat amenințările la adresa securității cibernetice în două moduri principale. În primul rând, hackerii au apelat la modele mari de limbaj (LLM-uri) pentru a extinde raza de acțiune a malware-ului. Generarea de deepfake-uri, e-mailuri frauduloase și atacuri de inginerie socială care manipulează comportamentul uman este acum mult mai ușoară și mai rapidă.
XanthoroxAI, un model AI creat de infractori cibernetici, poate fi folosit pentru a crea deepfake-uri, împreună cu alte activități nelegitime, pentru doar 150 de dolari pe lună. Hackerii pot lansa atacuri de phishing pe scară largă cerând unui LLM să adune cantități uriașe de informații de pe internet și rețelele sociale pentru a falsifica e-mailuri personalizate. Iar pentru spearphishing — vizând o anumită țintă cu un atac foarte personalizat — aceștia pot genera chiar apeluri false audio și video de la colegi pentru a convinge un angajat să descarce și să ruleze software malițios.
În al doilea rând, AI este folosită pentru a face malware-ul în sine mai amenințător.
De exemplu, un program de tip software deghizat într-un document PDF ar putea conține cod încorporat care lucrează cu AI pentru a infiltra o rețea. Atacurile asupra sistemelor de securitate și apărare ale Ucrainei din iulie au folosit o astfel de abordare. Când malware-ul a ajuns într-un impas, a fost capabil să ceară ajutorul unui LLM în cloud pentru a genera cod nou, astfel încât să pătrundă prin apărarea sistemelor. Nu se știe cât de mari au fost pagubele, dar acesta a fost primul atac de acest fel, notează dl Simonovici.
Pentru companii, amenințarea, în creștere, este înfricoșătoare și potențial costisitoare. Anul trecut, AI a fost implicată în una din șase breșe de date, potrivit IBM. De asemenea, a fost implicată în două din cinci escrocherii de tip phishing vizând e-mailuri de afaceri.
Firma de consultanță Deloitte estimează că AI generativă ar putea facilita fraude în valoare de 40 de miliarde de dolari până în 2027, față de 12 miliarde în 2023.
Pe măsură ce cresc costurile atacurilor cibernetice bazate pe AI, cresc și afacerile cu protecția împotriva lor.
Gartner, o companie de cercetare, prezice că cheltuielile corporative pentru securitatea cibernetică vor crește cu un sfert între 2024 și 2026, ajungând la 240 de miliarde de dolari. Acesta este motivul pentru care prețurile acțiunilor firmelor urmărite de indicele Nasdaq CTA Cybersecurity au crescut și ele cu aproximativ un sfert în ultimul an, depășind indicele Nasdaq în ansamblu.
Pe 18 august, Nikesh Arora, șeful Palo Alto Networks, una dintre cele mai mari firme de securitate cibernetică din lume, a menționat că incidentele de securitate a datelor legate de AI generativ “s-au dublat față de anul trecut” și a raportat aproape dublarea profitului operațional în cele 12 luni până în iulie, comparativ cu anul precedent.
Perspectiva unui număr tot mai mare de atacuri personalizate a trimis companiile de securitate cibernetică într-o adevărată goană după achiziții. Pe 30 iulie, Palo Alto Networks a anunțat că va cumpăra CyberArk, o firmă de securitate a identității, pentru 25 de miliarde de dolari.
La începutul aceleiași luni, compania a cheltuit 700 de milioane de dolari pe Protect AI, care ajută afacerile să-și securizeze sistemele AI. Pe 5 august, SentinelOne, un concurent, a anunțat că achiziționează Prompt Security, o firmă care dezvoltă software pentru protejarea companiilor ce adoptă AI, pentru 250 de milioane de dolari.
Giganții tech cu divizii de cloud computing în creștere rapidă își întăresc, de asemenea, ofertele de securitate cibernetică. Microsoft, un colos software, a achiziționat CloudKnox, o platformă de securitate a identității, în 2021 și a dezvoltat Defender for Cloud, o aplicație internă pentru afaceri care face totul, de la verificarea breșelor de securitate și protejarea datelor, până la monitorizarea amenințărilor. Google a dezvoltat Big Sleep, care detectează atacuri cibernetice și vulnerabilități de securitate pentru clienți înainte ca acestea să fie exploatate. În martie, compania a cheltuit 32 de miliarde de dolari pentru a cumpăra Wiz, o startup de securitate cibernetică.
Concurența și consolidarea pot construi afaceri capabile să se apere împotriva infractorilor cibernetici agili, alimentați de AI.
Dar, în goana pentru dezvoltarea celor mai avansate LLM-uri, securitatea va ocupa un loc secundar în fața împingerii limitelor tehnologice. Nu va fi o sarcină ușoară să ții pasul cu Jaxon.
