Nu cu mult timp în urmă, Mark Zuckerberg depunea eforturi susținute pentru a convinge lumea că compania sa făcea tot posibilul pentru a proteja copiii. În 2021, el a postat o notă pe pagina sa personală de Facebook, scriind că „a petrecut mult timp reflectând” asupra tipurilor de experiențe pe care și-ar dori ca fiicele sale, atunci în vârstă de 4 și 5 ani, să le aibă online. „Este foarte important pentru mine ca tot ceea ce construim să fie sigur și bun pentru copii”, a scris el, subliniind că compania nu „acordă prioritate profitului în detrimentul siguranței și bunăstării”, scriu Michael Scherer și Kaitlyn Tiffany în The Atlantic.
<< Însă documentele consultate recent de The Atlantic arată că, în culise, compania cunoscută acum sub numele de Meta era divizată într-o privință, și anume dacă protejarea copiilor ar trebui să aibă prioritate față de creșterea numărului de utilizatori și implicarea acestora. Timp de ani de zile, compania a introdus doar treptat funcții restrictive de siguranță, chiar dacă propriul personal detalia riscurile pe care platformele sale le prezentau pentru copii. Să luăm, de exemplu, o problemă tehnică care a afectat sistemele companiei în noiembrie 2020. Această problemă a limitat capacitatea Meta de a urmări utilizatorii rău intenționați, într-un moment în care, potrivit unei discuții interne, „mii de minori” raportau ceea ce compania numește „interacțiuni inadecvate cu copiii” de nivel 1 sau „IIC T1” – cele mai grave consecințe posibile, cum ar fi întâlniri sexuale în viața reală, sinucidere, șantaj, sadism și trafic sexual.
„Chiar dacă știm că există IIC T1 (din care peste 50% este sextorțiune care poate duce la sinucidere), nu am făcut nimic. Aveam o cale de escaladare defectuoasă și nu aveam măsuri”, a scris un angajat în chatul intern despre această problemă. „Dumnezeu știe ce s-a întâmplat cu acei copii.” Compania a remediat defecțiunea tehnică în câteva săptămâni, arată un alt document, dar ar fi fost nevoie de încă câțiva ani pentru a adopta alte măsuri sugerate pentru a aborda probleme mai ample care permiteau prădătorilor să găsească ținte minore pe Instagram, care aparține Meta.
Purtătorii de cuvânt ai companiei erau clar conștienți de problema mai amplă a siguranței adolescenților. La doar patru săptămâni după ce Zuckerberg a postat despre faptul că este „bună pentru copii”, doi specialiști în relații publice au discutat despre o actualizare Instagram care tocmai fusese lansată. Această actualizare a făcut ca noile conturi aparținând copiilor de 13, 14 și 15 ani să fie „private” în mod implicit, dar chiar și această măsură modestă fusese semnalată de către persoanele din interior ca fiind un risc comercial cu aproape doi ani înainte de efectuarea modificării. Liza Crenshaw i-a trimis un mesaj colegei sale Sophie Vogel, spunându-i că această măsură a fost „controversată” – CEO-ul Instagram, Adam Mosseri, adjunctul lui Zuckerberg, era îngrijorat că aceasta ar provoca o „diminuare uriașă a creșterii”, a scris Crenshaw, potrivit documentelor pe care le-am analizat.
„Nu vom ieși niciodată din această încurcătură dacă el/noi nu suntem pregătiți SĂ FIM DE PARTEA SIGURANȚEI”, a scris Vogel. „Ar vrea el ca oricine să poată vedea conținutul copiilor lui, să îi urmărească etc.? E nebun?”
Eșecul Meta de a-și limita în mod proactiv ambițiile comerciale în numele utilizatorilor vulnerabili poate părea evident pentru cei care au acordat atenție companiei de-a lungul anilor, mai ales după dezvăluiri precum cele divulgate de informatoarea Frances Haugen în „Facebook Files”, printre altele. Cu toate acestea, aceste noi documente – care includ rapoarte corporative, prezentări și alte comunicări și care au fost divulgate în cadrul unui proces împotriva Meta care a avut loc luna aceasta în New Mexico – oferă o imagine neobișnuit de clară asupra procesului decizional al companiei. Pe parcursul a șase ani, Meta a modificat controalele de bază privind confidențialitatea, calculând în același timp modul în care intervențiile simple ar reduce moderat timpul petrecut de oameni pe Instagram și optând inițial pentru actualizări conservatoare, fragmentare, pentru a-și proteja cifrele de angajament.
„Nu este vorba doar de crearea unui spațiu neutru” pe Instagram și Facebook, ne-a spus joi fostul procuror general din New Mexico, Raúl Torrez, care a intentat procesul, într-un interviu. „Ci de faptul că alegerile de design existente amplifică prejudiciul.”
Încă din 2019, angajații au efectuat un test specific pe Instagram pentru a înțelege cum conturile experimentale care se angajau în ceea ce compania numea „comportament de tip groomer” – urmărind „hashtaguri pentru adolescenți” sau „conturi sexy pentru adolescenți” – ar putea intra în contact cu minori. Problema era algoritmul de recomandare al aplicației, care conectează fanii fotbalului la imagini cu Lionel Messi, de exemplu, sau influencerii din domeniul călătoriilor la videoclipuri despre cafenele puțin cunoscute din Grecia. De asemenea, părea să direcționeze copiii către adulți potențial periculoși cu care altfel nu ar fi intrat în contact. „Recomandăm aproape de patru ori mai mulți minori către groomeri (aproape 2 milioane de minori în ultimele 3 luni)”, se arată în raport, potrivit unui document intern pe care l-am consultat. Conform acestui test, 27% dintre recomandările afișate acestor conturi „de tip groomer” aparțineau minorilor, comparativ cu 7% dintre conturile recomandate adulților obișnuiți. Raportul continuă: „22% dintre aceste recomandări au dus la o cerere de urmărire” – ceea ce înseamnă că potențialii groomeri au încercat să interacționeze cu acești minori în aproape un sfert din cazuri. Chiar și așa, Instagram a așteptat ani de zile înainte de a bloca conturile aparținând celor mai tineri utilizatori ai săi.
Meta continuă să conteste faptul că acordă prioritate afacerii sale în detrimentul siguranței utilizatorilor, argumentând că documentele arată că compania a investigat și a răspuns la amenințările la adresa siguranței pe măsură ce acestea au apărut. În timp ce depunea mărturie într-un alt caz în Los Angeles luna aceasta, Mosseri a spus: „Noi, cred, am făcut în repetate rânduri modificări la platformă care, în opinia mea, au afectat veniturile pe termen scurt, dar cred că sunt benefice nu numai pentru bunăstarea oamenilor, ci și pentru afaceri pe termen lung”. Andy Stone, purtător de cuvânt al Meta, ne-a spus că procesul din New Mexico este nefondat.
„În timp ce procurorul general din New Mexico prezintă argumente senzaționaliste, irelevante și care distrag atenția, selectând documente anume, noi ne concentrăm pe demonstrarea angajamentului nostru de lungă durată de a sprijini tinerii”, a explicat Stone într-o declarație scrisă. „De peste un deceniu, ascultăm părinții, colaborăm cu experți și cu forțele de ordine și efectuăm cercetări aprofundate pentru a înțelege problemele cele mai importante. Folosim aceste informații pentru a face schimbări semnificative, cum ar fi introducerea conturilor pentru adolescenți cu protecții încorporate și furnizarea de instrumente părinților pentru a gestiona experiențele adolescenților lor.”
În august 2020, la un an după cercetarea privind conturile „groomerești”, dar cu un an înainte de postarea lui Zuckerberg despre faptul că este un tată îngrijorat, echipa Growth Graph a Meta a creat o prezentare pentru a explora întrebarea dacă conturile Instagram ale adolescenților ar trebui să fie setate ca private în mod implicit. Acest lucru i-ar proteja pe adolescenți de atenția nedorită, limitând capacitatea persoanelor care nu îi cunosc să le vadă conținutul sau profilurile sau să îi contacteze. După cum a explicat echipa Growth Graph în document, această măsură ar „ajuta la prevenirea acțiunilor grave, cum ar fi grooming-ul copiilor și contactul inadecvat cu minorii”. (Deși prezentarea se referea la minori în general, Stone ne-a spus că, la momentul respectiv, Meta se concentra în special pe utilizatorii cu vârsta sub 16 ani.)
Echipele juridice, de relații publice, de politici și de bunăstare ale companiei au susținut toate această schimbare, la fel ca și utilizatorii adolescenți și părinții lor, se afirmă în document. „Părinții sunt îngrijorați de securitatea și confidențialitatea informațiilor și de persoanele care pot să îi contacteze pe ei sau pe adolescenții lor”, se afirmă în document. „Majoritatea adolescenților preferă conturile private și doresc să vadă controale de confidențialitate în timpul procesului de înregistrare.”
Însă testele interne au arătat că setarea acestor conturi ca private în mod implicit ar duce la „o scădere semnificativă a creșterii și a implicării”, se arată în continuare în document. Luarea de măsuri drastice pentru a proteja adolescenții ar însemna mai puțini adolescenți noi care se înscriu, adolescenții existenți care utilizează mai puțin platforma și o scădere generală a activității, care, potrivit estimărilor angajaților care au creat prezentarea, s-ar agrava în timp. Aceștia au prezentat o analiză care arăta că timpul total petrecut de adolescenți ar scădea cu 1,9% până la sfârșitul unei perioade de cinci ani. Echipa de creștere s-a opus schimbării, potrivit prezentării, care descrie poziția sa ca „Nu lansați (acum)”.
Acest document arată, de asemenea, că echipa de creștere a prezentat directorilor executivi o întrebare: „Suntem de acord să lansăm setarea privată implicită pentru adolescenți, având în vedere scăderea identificată a retenției și a implicării?” Aceste documente nu dezvăluie dacă vreunul dintre angajații Meta care au participat la discuție a răspuns „da” sau „nu”. Răspunzând la întrebările referitoare la acest document, Stone a declarat că, în septembrie 2020, compania a început să dezvolte instrumente care să seteze conturile noi pentru adolescenții cu vârsta sub 16 ani ca private în mod implicit.
Însă alte documente actuale arată că conflictul din cadrul companiei a continuat. În octombrie 2020, un angajat i-a spus unui coleg că „confidențialitate implicită pentru adolescenți” a fost luată în considerare de echipa de bunăstare, „dar impactul asupra creșterii era prea mare și s-a decis să se exploreze soluții mai nuanțate și mai puțin directe”, potrivit unei transcrieri a unei conversații prezentate miercuri juriului din New Mexico. Juriului i s-a prezentat și jurnalul de conversații despre conținutul „IIC T1”, din noiembrie 2020.
Câteva luni mai târziu, în martie 2021, Meta a anunțat o soluție complicată pentru a rezolva aceste probleme. În loc să facă toate conturile adolescenților private în mod implicit, ar solicita noilor utilizatori cu vârsta sub 18 ani să ia în considerare setarea contului lor ca privat și ar interzice mesajele directe între conturile minorilor și conturile adulților pe care nu îi urmăresc. Câteva luni mai târziu, compania a mers mai departe, setând implicit conturile tinerilor de 13, 14 și 15 ani ca private. Dar le-a permis în continuare să schimbe setarea înapoi la public, fără consimțământul părinților, dacă doreau.
Această actualizare nu a rezolvat problema siguranței adolescenților. Într-o singură zi de testare în 2022, potrivit unui alt audit intern, funcția „Conturi pe care le-ați putea urmări” a Instagram a recomandat, de aproximativ 3,4 milioane de ori, conturi de adolescenți adulților care ar fi putut încălca politicile sale. Același audit a arătat că 37% dintre utilizatorii identificați ca „potențiali încălcători” – persoane suspectate de interacțiuni necorespunzătoare cu copii – au văzut cel puțin un cont de adolescent neconectat în timpul unui test efectuat pe 25 noiembrie 2022.
Un alt audit intern a constatat că, în iunie 2023, într-o singură zi, 238.000 de mesaje au fost trimise de adulți către adolescenți cu care nu erau deja conectați pe platformă. Aceasta a reprezentat 9% din toate conversațiile noi inițiate de un adult cu un adolescent în acea zi. În acest moment, Meta a stabilit că setările de confidențialitate pentru adolescenți lansate în 2021 au fost executate într-un mod „incoerent”, potrivit secțiunii de rezumat a documentului. Instagram nu a reușit întotdeauna să împiedice adulții – inclusiv „adulții cu risc ridicat” ale căror conturi aveau „modele de comportament suspecte” – să contacteze direct minorii. Documentul menționa, de asemenea, că aceasta era o problemă de relații publice: „Adolescenții pot fi expuși la contacte nesolicitate din partea unor adulți necunoscuți”, continua raportul, „ceea ce poate să nu corespundă pe deplin angajamentului extern al Meta”.
Meta afirmă acum că aceste audituri au determinat schimbări viitoare în cadrul companiei și arată că directorii luau problema în serios la momentul respectiv.
Instagram a făcut în cele din urmă toate conturile noi aparținând persoanelor de 16 și 17 ani private în mod implicit în septembrie 2024; în acest moment, a setat în mod implicit și conturile existente aparținând minorilor sub 16 ani ca private, ca parte a unui nou sistem de moderare și supraveghere numit „Conturi pentru adolescenți”. Totuși, politica avea unele restricții. Chiar și în acest moment, tinerii de 16 și 17 ani puteau să-și facă conturile publice, iar utilizatorii sub 16 ani puteau să modifice setarea dacă un părinte sau tutore aproba acest lucru.
Au urmat și alte modificări. În aprilie 2025, Meta a lansat Teen Accounts pe Facebook și Messenger, a început să solicite permisiunea părinților pentru transmisiunile live pe Instagram și a început să testeze un sistem de inteligență artificială conceput pentru a descoperi când adolescenții mințeau în legătură cu vârsta lor pentru a ocoli restricțiile. La sfârșitul anului trecut, spre iritarea Motion Picture Association, Instagram a lansat un nou sistem de filtrare a conținutului legat de standardul „PG-13”, pe care experții în moderarea conținutului l-au considerat derutant.
Meta se apără adesea indicând cronologiile publice pe care le-a publicat, care explică numeroasele modificări pe care le-a făcut pentru a îmbunătăți siguranța pe platformele sale. De exemplu, în februarie 2023, Meta s-a alăturat eforturilor Centrului Național pentru Copii Dispăruți și Exploatați, care permitea oamenilor să raporteze și să elimine fotografiile intime online ale copiilor sub 18 ani. Mai târziu în acel an, s-a alăturat unei rețele de alte companii de tehnologie pentru a partaja informații despre utilizatorii rău intenționați de pe platformele lor. La scurt timp după aceea, a adăugat o funcție la conturile adolescenților care estompează automat imaginile care pot conține nuditate. Stone a menționat, de asemenea, că Meta dezactivează automat conturile adulților suspecți care sunt semnalizați pentru comportamente precum blocarea de către un adolescent sau căutarea anumitor termeni asociați cu abuzul sexual.
Aceste fapte contribuie, de asemenea, la sublinierea unui aspect important al cazului din New Mexico: versiunea Instagram în cauză în proces era cea utilizată de adolescenți în 2023, care era substanțial diferită de produsul existent în prezent. Meta a ridicat, de asemenea, probleme cu abordarea adoptată de Torrez: pentru a-și construi cazul împotriva Meta, Torrez a coordonat o operațiune sub acoperire pentru a demonstra modul în care copiii sunt victimizați pe Instagram. În 2023, biroul său a folosit conturi false, pretinzând că sunt copii de 14 ani sau mai mici, pentru a demonstra că era atât ușor, cât și obișnuit ca adulții să contacteze copii, să converseze cu ei în termeni sexuali expliciți și să le trimită materiale sexuale explicite. Meta a criticat această strategie – avocatul companiei, Kevin Huff, a numit-o „trucaj” pentru a produce un „rezultat fals”. Juriul din New Mexico ascultă în prezent mărturiile pentru a decide asupra meritelor acestei abordări.
Meta a insistat că documentele interne care ajung la public sunt scoase din context. Martorii, inclusiv foști angajați care au avut acces la fragmente din dezbaterile cu ușile închise, vor avea ocazia să ofere contextul, interpretând probele atât pentru juriu, cât și pentru publicul național. Mulți alții vor avea, de asemenea, ocazia să se prezinte în fața instanței, deoarece cazul New Mexico împotriva Meta este doar unul dintre multe altele. În curând, acesta va fi completat de un caz federal care include peste 2.000 de plângeri de vătămare corporală.
Între timp, compania face o campanie de marketing intensă pentru conturile Teen. O reclamă recentă îl arată pe Tom Brady discutând cu fiul său despre importanța limitării timpului petrecut în fața ecranului. O reclamă anterioară prezintă un montaj cu mame care au grijă de copiii lor. „Întotdeauna ai avut grijă de ei”, se arată într-un text din reclamă. „Suntem aici să te ajutăm să faci asta.” >>
