Anthropic anunţă că dezactivează accesul la Fable 5 şi Mythos 5 pentru toţi utilizatorii, ca urmare a unei directive a Guvernului SUA. Claude Fable 5, lansat în urmă cu câteva zile, este o versiune a modelului Claude Mythos, program de inteligenţă artificială care concurează cu ChatGPT al OpenAI şi Gemini al Google, transmite News.ro.
”Guvernul Statelor Unite, invocând prerogative legate de securitatea naţională, a emis o directivă de control al exporturilor prin care suspendă accesul la Fable 5 şi Mythos 5 pentru orice cetăţean străin, indiferent dacă se află în interiorul sau în afara Statelor Unite, inclusiv pentru angajaţii străini ai Anthropic. Efectul direct al acestui ordin este că trebuie să dezactivăm imediat accesul la Fable 5 şi Mythos 5 pentru toţi clienţii noştri, pentru a ne conforma cerinţelor legale. Accesul la toate celelalte modele Anthropic nu va fi afectat”, a anunţat compania, precizând că a primit directiva guvernamentală, care nu a oferit însă detalii specifice privind preocuparea de securitate naţională invocată.
”Din ceea ce înţelegem, guvernul consideră că a identificat o metodă de ocolire a măsurilor de protecţie („jailbreaking” – n.r. procesul de depăşire a restricţiilor software concepute pentru protejarea sistemelor informatice, permiţând atacatorilor să acceseze informaţii sensibile sau să deblocheze funcţionalităţi restricţionate) ale modelului Fable 5”, explică reprezentanţii Anthropic într-un comunicat.
Compania afirmă că a implementat măsuri de protecţie solide care reduc semnificativ probabilitatea ca Fable să fie utilizat abuziv pentru activităţi legate de securitatea cibernetică sau alte scopuri similare, argumentând chiar că mulţi utilizatori s-au plâns că sunt prea restrictive.
”În săptămânile premergătoare lansării Fable, Anthropic a colaborat cu guvernul SUA, Institutul britanic pentru Siguranţa Inteligenţei Artificiale (AISI), mai multe organizaţii private independente şi echipe interne pentru a testa intens sistemele de protecţie ale modelului, acumulând mii de ore de evaluări. Aceste teste au demonstrat că măsurile de protecţie ale Fable sunt considerabil mai eficiente decât cele ale oricărui model implementat anterior”, explică Anthropic.Totodată, anunţă că, având în vedere imposibilitatea actuală a unei protecţii perfecte,a adoptat pentru Fable 5 o strategie de securitate în profunzime (defense in depth).
”Obiectivul a fost ca eventualele jailbreak-uri să fie fie limitate ca efect, (…) completate de mecanisme de monitorizare capabile să detecteze şi să oprească rapid orice atac. Din acest motiv, Anthropic a impus şi o perioadă de păstrare a datelor clienţilor de 30 de zile pentru Fable, o decizie care implică costuri şi dificultăţi comerciale, dar care ne permite să analizăm şi să contracarăm tentativele de jailbreak”, arată compania.
”Ne conformăm directivei legale a guvernului şi eliminăm accesul la Fable 5 şi Mythos 5 pentru toţi utilizatorii. Cu toate acestea, nu suntem de acord că identificarea unui posibil jailbreak limitat ar trebui să conducă la retragerea unui model comercial utilizat de sute de milioane de oameni. Dacă acest standard ar fi aplicat întregii industrii, considerăm că lansarea de noi modele AI avansate ar fi practic blocată pentru toţi dezvoltatorii de sisteme de frontieră. După cum am afirmat şi anterior, credem că guvernul trebuie să aibă posibilitatea de a opri implementările nesigure, însă printr-un proces legal transparent, echitabil, clar şi fundamentat pe date tehnice. Considerăm că această decizie nu respectă aceste principii”, conchide compania.
Strania înfrângere a descurajării nucleare. Și criza iminentă a stabilității strategice
