Imagini nud generate de inteligența artificială cu femei reale reprezintă modelul de afaceri din spatele Clothoff, o aplicație dubioasă de tip „nudify” care atrage milioane de vizitatori. Acum, un avertizor de integritate a furnizat detalii despre cât de cinici sunt, de fapt, operatorii site-ului, scrie DER SPIEGEL.
<< Miriam Al Adib este încă furioasă. „Operatorilor Clothoff le pasă doar de bani. În mod clar, nu sunt interesați de consecințele aplicației lor pentru femeile tinere”. Ginecologul spaniol știe despre ce vorbește. În septembrie 2023, poze false cu fiica sa goală, care avea 14 ani la momentul respectiv, au fost realizate cu ajutorul instrumentului de inteligență artificială oferit de aplicația Clothoff. Imaginile au circulat în grupurile locale de WhatsApp din orașul natal al familiei, iar fata de 14 ani a fost abordată pe stradă în legătură cu pozele și intimidată de băieți. „Dacă nu aș fi știut cum arată fiica mea goală, aș fi crezut că imaginile sunt reale”, spune Al Adib.
Fiica ei nu a fost singura victimă. Cel puțin 20 de fete cu vârste cuprinse între 11 și 17 ani din patru școli diferite din orașul spaniol Almendralejo au fost dezbrăcate împotriva voinței lor, cu ajutorul aplicației. Părinții acestora și-au unit forțele pentru a riposta.
Fotografiile nud generate cu ajutorul inteligenței artificiale reprezintă o formă nouă și adesea neglijată de cyber-mobbing, spune Al Adib. „Astfel de imagini cu inteligență artificială pot fi extrem de periculoase pentru psihicul tinerilor”, spune medicul, care conduce mai multe cabinete medicale pentru femei în Spania. „Gândul mi-a venit imediat în minte: Au existat deja cazuri în care victime ale hărțuirii cibernetice s-au sinucis din disperare”, spune Al Adib, amintindu-și șocul pe care l-a avut când a văzut imaginile false cu fiica sa goală. DER SPIEGEL a relatat pentru prima dată despre problema în creștere la nivel mondial a pornografiei deepfake în decembrie 2024. Acum, declarații și documente ale unei persoane din interior dezvăluie cât de profitabilă este afacerea – și cât de nerușinate sunt persoanele din spatele ei.
Tinerele femei din Germania au devenit și ele victimele unor astfel de atacuri. „Cunosc școli în care băieții au creat imagini nud false ale colegelor lor pentru a le chinui și pentru a le afecta reputația”, spune pedagogul media Saskia Nakari de la centrul media de stat din Baden-Württemberg. Ea educă profesorii și părinții cu privire la riscurile depășirii granițelor digitale și produce un podcast pe această temă. Pe lângă consecințele traumatice pentru victime, astfel de aplicații transmit și o imagine periculos de inexactă a sexualității, spune Nakari. Totuși, spune ea, unele școli nu iau problema suficient de în serios. „Mi-e teamă că în curând ar putea exista mai multe cazuri de hărțuire folosind imagini nud false din cauza progreselor în domeniul inteligenței artificiale.”
Făptașii din Spania provin dintr-un grup de 15 băieți minori, localnici. În cazul fiicei lui Al Adib, aceștia au luat o fotografie reală din statusul ei de pe WhatsApp, accesibil în mod liber, și au încărcat-o pe Clothoff. Programul AI al aplicației a produs o imagine nud. În cazul altor fete, ei au luat fotografii din conturile lor de Instagram sau le-au fotografiat în timp ce jucau volei.
- În octombrie 2023, un grup de băieți din statul american New Jersey au încărcat într-o aplicație fotografii pe care le făcuseră în secret cu Francesca Mani, în vârstă de 14 ani, și cu alte peste 30 de fete și au creat imagini pornografice.
- În peste 500 de școli și universități din Coreea de Sud, imaginile nud ale tinerelor femei și fete au fost create cu ajutorul inteligenței artificiale în 2024. Deepfake-urile au fost partajate în grupuri mari de chat pe Telegram și folosite în unele cazuri pentru a șantaja victima.
- Imagini pornografice cu superstarul american Taylor Swift, generate de AI, au circulat timp de mai multe ore în ianuarie 2024 pe platforma X. Acestea au fost vizualizate de până la 47 de milioane de ori înainte ca platforma să ia măsuri.
Între timp, băieții au fost condamnați la pedepse cu suspendare de un an pentru răspândirea de pornografie infantilă. Deoarece verdictele au fost pronunțate de un tribunal pentru minori, nu au fost făcute publice detalii privind care dintre băieți a fost responsabil și pentru ce parte a infracțiunii. Al Adib este în cele din urmă mulțumită de modul în care a fost tratat cazul în oraș, părinții celor două părți ajungând la un acord în instanță, spune ea. „Fetelor li s-a făcut dreptate și sperăm că băieții au învățat ceva”.
Ceea ce Al Adib refuză să accepte este că acest caz nu a avut până acum niciun fel de consecințe pentru persoanele din spatele Clothoff. „Mi se pare lipsit de etică faptul că infracțiuni precum cea împotriva fiicei mele și a multor alte fete din întreaga lume pot continua să fie comise”, a declarat ea pentru DER SPIEGEL într-un interviu la începutul lunii iunie.
Clothoff este o așa-numită aplicație nudify. S-a dezvoltat o piață globală înfloritoare pentru astfel de servicii, cu mult mai mult de 60 de astfel de oferte lansate în ultimii doi ani. Toate acestea funcționează practic în același mod: Inteligența artificială utilizată de aplicație face posibilă, cu doar câteva clickuri, transformarea unui instantaneu normal într-o fotografie în bikini sau într-o imagine complet goală. Astfel de deepfake-uri ale unor femei care nu bănuiesc nimic au devenit unul dintre dezavantajele puțin mediatizate ale boom-ului AI generativ din ultimii ani.
Aplicațiile Nudify nu sunt ascunse în forumuri obscure sau pe platforme pornografice, ci sunt disponibile gratuit pe internet. Singura limitare: Multe dintre aceste servicii funcționează doar cu corpuri de femei. Se pare că programele de inteligență artificială pe care le folosesc nu au fost niciodată antrenate să producă imagini cu bărbați dezbrăcați. Imaginile cu femei în lenjerie intimă sunt de obicei gratuite, iar fotografiile trucate ale subiecților în ipostaze pornografice tipice sunt disponibile la un preț de doar câțiva euro.
Clothoff este una dintre cele mai importante aplicații de pe piață. Doar în primele șase luni ale anului 2024, site-ul a primit 27 de milioane de vizitatori, programul producând în medie 200 000 de fotografii în fiecare zi, potrivit companiei. Mii de femei au devenit probabil victime ale aplicației. Creatorii Clothoff sunt printre cei mai lipsiți de scrupule operatori în domeniul nudismului și oferă montaje foto cu ținute de școlăriță și femei însărcinate în ipostaze sexuale. Aplicația a început recent să comercializeze capacitatea de a crea videoclipuri false cu o fotografie. Potrivit informațiilor companiei, funcția a fost deja utilizată de peste un milion de ori.
În august 2024, funcționarii publici din San Francisco, California, au făcut public un proces împotriva Clothoff și a altor câteva aplicații nudify. Ei au cerut ca serviciile să își înceteze activitatea din cauza distribuirii de pornografie infantilă și juvenilă. Anchetatorii din inima Silicon Valley au fost probabil motivați și de faptul că în mai multe școli din stat au devenit publice cazuri în care au circulat imagini nud ale fetelor generate de AI. Cu toate acestea, până în prezent, oficialii au înregistrat doar un succes moderat în identificarea persoanelor din spatele aplicațiilor sau în obținerea suspendării serviciilor acestora. În orice caz, operatorii Clothoff nu par impresionați de proces.
Denunțătorul
Cât de profitabilă a devenit afacerea Clothoff poate fi văzut acum prin declarațiile unui denunțător care are acces la informații interne ale companiei. Lucrând pentru aplicație, spune el, inițial se simțea ca și cum ar fi făcut parte dintr-un start-up interesant. „Dar, cu timpul, oamenii au devenit doar cinici și obsedați de bani”. Pentru propria sa siguranță și din teama că societatea ar putea încerca să se răzbune, identitatea sa nu poate fi dezvăluită. Și el s-a alăturat inițial proiectului în speranța că acesta se va dovedi profitabil, dar acum se simte parțial responsabil pentru ceea ce a devenit Clothoff. Acesta este motivul pentru care își face publice informațiile.
„Clothoff a cumpărat o întreagă rețea de aplicații nudify”, spune denunțătorul. Raportul DER SPIEGEL, folosind dovezi online și extrase din registrul comerțului, a confirmat că Clothoff deține în prezent alte 10 servicii nudify, toate având vizualizări lunare cuprinse între sute de mii și câteva milioane.
Bugetul anual doar al Clothoff, spune denunțătorul, este de 3 milioane de euro. Dosarele pe care acesta le-a pus la dispoziția DER SPIEGEL arată că mai mult de 36 de persoane lucrează pentru companie. Cât de profesionist și obraznic acționează compania se poate vedea din planurile pentru un nou plan de marketing pe scară largă destinat pieței germane și denumit intern „referendum”. Există un „calendar de punere în aplicare” clar, care stabilește cu precizie când programatorii sau echipa de social media trebuie să îndeplinească anumite etape.
Ca parte a campaniei, Clothoff intenționează să producă imagini nud ale unor influenceri, cântărețe și actrițe cunoscute. „Tu alegi pe cine vrei să dezbraci”, se arată în sloganul de deasupra unei liste de vedete germane, conform documentelor de planificare. Câștigătoarea va fi încoronată drept „cea mai sexy tipă”. Campania marchează un fel de schimbare de strategie pentru Clothoff. Până în prezent, alte platforme au avut tendința de a deschide calea în crearea de falsuri ale celebrităților.
Grupul-țintă: Fanii lui Andrew Tate
DER SPIEGEL cunoaște numele vedetelor care se pare că sunt exploatate de Clothoff împotriva voinței lor. Câteva dintre ele au confirmat că nu și-au dat niciodată acordul pentru campanie sau pentru utilizarea imaginilor lor de către programul AI. Din acest motiv, nu le vom numi aici. Persoane apropiate mai multor persoane afectate se declară deosebit de șocate de faptul că o aplicație precum Clothoff, care poate fi utilizată pentru hărțuirea cibernetică în școli, se pare că intenționează acum să utilizeze imagini ale unor celebrități în scopuri publicitare. Mai mulți reprezentanți ai vedetelor spun că vor lua măsuri legale în cazul în care campania de marketing este într-adevăr lansată. Niciunul dintre aceștia nu a dorit să comenteze mai mult.
Clothoff nu planifică o astfel de campanie bazată pe celebrități doar în Germania, ci și pentru piețele franceză, britanică și spaniolă. Denunțătorul spune că bugetul de marketing este de 150.000 de euro pe țară. Banii urmează să fie cheltuiți pentru postări publicitare pe canale speciale Telegram, în abonamente sexuale pe Reddit și pe 4chan, canal care a devenit notoriu pentru reglementările sale laxe. Potrivit documentelor campaniei, grupul țintă este format din „bărbați între 16 și 35 de ani”. Interese: „jocuri video”, „meme-uri pe internet”, „idei extremiste de dreapta”, «misoginism» și „Andrew Tate” – influencerul care promovează de ani de zile conținut misogin către un public de milioane de persoane.
Persoanele din spatele Clothoff fac tot posibilul pentru a-și ascunde identitatea. În informațiile despre companie de pe site au afișat adrese alternative: În prezent, se presupune că are sediul central în Insulele Virgine Britanice, deși înainte pretindea o adresă în capitala argentiniană Buenos Aires. Dar în vara anului 2024, operatorii au făcut o greșeală. Ei au lăsat o bază de date internă disponibilă publicului pe internet, prin intermediul căreia DER SPIEGEL a putut identifica patru persoane centrale din spatele site-ului în țări din Europa de Est: Alexandr G. din Rusia, Dascha și Alexander B. din Belarus și Evgheni B. din Ucraina, a cărui companie a fost menționată pentru o perioadă în amprenta Clothoff. Tânărul de 30 de ani se descrie pe internet ca o persoană care prețuiește onestitatea și familia, menționând că lucrează ca web designer și artist.
Denunțătorul a confirmat pentru DER SPIEGEL că toți angajații Clothoff lucrează în țări care au aparținut Uniunii Sovietice. Acest lucru este în concordanță cu faptul că toate comunicările interne ale companiei pe care DER SPIEGEL le are în posesia sa sunt complet în limba rusă, iar serviciul de e-mail al companiei este, de asemenea, bazat în Rusia.
„Mai mult un start-up de garaj”
Cei patru actori centrali au refuzat să răspundă la încercările DER SPIEGEL de a-i contacta pentru articolul publicat în decembrie 2024. Cu toate acestea, o persoană pe nume Elias a luat legătura, pretinzând că este purtător de cuvânt al aplicației. Acesta a declarat că cele patru persoane menționate mai sus nu îi erau cunoscute. Din cauza unui acord de confidențialitate, a spus el, nu a putut să răspundă la întrebări despre echipă și despre cine era responsabil și pentru ce sarcină la Clothoff. Purtătorul de cuvânt a scris, de asemenea, că Clothoff interzice utilizarea de fotografii ale persoanelor fără consimțământul acestora și a susținut că serviciul nu are nicio legătură cu „teribila poveste” din Almendralejo. În plus, acesta a insistat că tehnologia site-ului nu procesează fotografii ale minorilor. Când a fost întrebat despre baza de date lăsată din greșeală deschisă pe internet, Elias a spus mai întâi că societatea nu folosea serviciul web asociat bazei de date – dar Clothoff a scos datele de pe web după ce a fost contactat pentru comentarii. Numele bazei de date era în limba rusă și poate fi tradus ca „iubita mea”.
Elias a negat că aplicația are un buget anual de peste 3 milioane de dolari. Mai puțin de 30 de persoane fac parte din echipa centrală din spatele programului, spune el, adăugând că se luptă să genereze măcar un profit. „Gândiți-vă la vibe-ul unui start-up de garaj, nu la unicornul din Silicon Valley”, a spus Elias.
Oamenii din spatele companiei nu se străduiesc să obțină anonimatul doar pentru ei, ci îl garantează și utilizatorilor lor. „Nu salvăm niciun fel de date”, se arată în informațiile despre companie de pe site. Acest lucru, totuși, este în mod clar greșit. O sursă suplimentară a furnizat DER SPIEGEL o listă de adrese de e-mail ale mii de utilizatori care au plătit bani pentru aplicație, permițându-le astfel să facă imagini deosebit de explicite. Lista conține numeroși clienți din țări de limbă germană.
Unul dintre ei este un tată de 49 de ani din Elveția. Când DER SPIEGEL l-a contactat și l-a întrebat despre Clothoff, la celălalt capăt al firului s-a auzit un râs nervos. El a fost de acord să vorbească despre utilizarea aplicației doar cu condiția ca numele său să nu fie folosit. El a declarat că a cheltuit aproximativ 40 de euro pe aplicație și a creat imagini nud și fotografii sexuale false ale unor cântărețe cunoscute din SUA. „Am vrut să încerc și, desigur, pofta a făcut parte din asta”, a spus el, părând jenat.
Unele dintre imagini erau ușor de recunoscut ca fiind falsuri AI, a spus el, dar altele păreau destul de realiste. Într-o ocazie, aplicația a refuzat să genereze o imagine deoarece cântăreața din fotografia pe care încerca să o încarce părea minoră, și-a amintit bărbatul. Totuși, trei zile mai târziu, a spus el, a încărcat aceeași imagine și aceasta a funcționat foarte bine.
Când i s-a atras atenția că artista americană nu îi dăduse niciodată permisiunea să creeze imagini sexuale false cu ea, el a răspuns: „Dar și-așa sunt destule imagini cu ea pe internet”. Tatăl elvețian nu crede că a greșit cu ceva. El a spus că nu a distribuit niciodată imaginile și că le-a salvat doar local. El a susținut că a aflat doar de la DER SPIEGEL că este ilegal să produci astfel de imagini fără acordul persoanei reprezentate. „Nu am de gând să dezinstalez aplicația din cauza asta”. El a susținut, totuși, că nu ar face niciodată fotografii ale unor persoane private și nu le-ar încărca pe Clothoff. „Dacă aș afla vreodată că cineva a produs astfel de fotografii ale fiicei mele, aș fi îngrozit”. >>
