Universul.net se angajează să acopere fenomenul dezinformarii care a devenit o amenințare hibridă complexă la adresa securității naționale și a democrației. Am investigat și am expus o gamă largă de campanii și tactici de manipulare, precum și modalități și campanii pentru a le combate.
Aceasta este adaptarea unui articol publicat de Ziarul de Iași și semnat de Andreea Timofte.
„Într-o perioadă în care știrile false și propaganda se răspândesc cu o viteză fără precedent, iar inteligența artificială este folosită pentru a genera imagini, videoclipuri și texte greu de distins de cele reale, un licean din Iași a decis să folosească aceeași tehnologie în alt scop: combaterea dezinformarii.
Rareș Oancea, elev în clasa a X-a la Colegiul Național „Mihai Eminescu”, este fondatorul „TruthSeeker”, o platformă bazată pe inteligența artificială care analizează articole, imagini, videoclipuri și alte materiale publicate online pentru a identifica știri false, propagandă și tehnici de manipulare.
Platforma, www.trytruthseeker.com, nu se limitează la a determina dacă informațiile sunt adevărate sau false. Încearcă să ofere utilizatorului contextul necesar pentru a înțelege cine a publicat informația, cum este prezentată, ce surse există și dacă s-au folosit tehnici de manipulare. Următorul pas este ca proiectul să fie dezvoltat prin lansarea unei aplicații pentru telefon și a unei extensii de browser care să permită analiza conținutului direct din rețelele de socializare sau de pe paginile web accesate de utilizatori.
O aplicație pentru telefon și o extensie de browser vor permite analiza conținutului direct din rețelele sociale sau din paginile web accesate de utilizatori.
Cu toate acestea, Rareș Oancea nu este student la informatică, ci studiază filologie, adică limba și literatura română.
„Știu că pare ciudat, dar apreciez timpul liber oferit de ceea ce studiez mult mai mult decât ceea ce aș putea face dacă aș fi la informatică”, a recunoscut Rareș Oancea pentru „Ziarul de Iași”.
Alegerile din 2024, momentul care a schimbat totul
Ideea „TruthSeeker” i-a venit în timpul campaniei prezidențiale din 2024, când Rareș a observat răspândirea dezinformarii în mediul online și modul în care aceasta influența opinia publică.
„În noiembrie-decembrie 2024…. Au apărut tot felul de postări, în special pe platformele de socializare, care idolatrizau un anumit candidat (Notă redacției: Călin Georgescu) care folosea numeroase tactici de manipulare pentru a-și crea o imagine aproape divină despre el”, a spus adolescentul.
La început, a crezut că foarte puțini oameni vor găsi mesajele convingătoare.
„Părea un lucru foarte greu de crezut pentru cineva care știa ceva despre contextul politic în care se afla România la acea vreme, dar am fost surprins când am aflat numărul de oameni care l-au votat chiar dacă era clar că nu este o persoană publică care să inspire încredere și bunăvoință”, a spus elevul.
După ce alegerile au fost anulate înaintea turului doi, fenomenul a devenit și mai vizibil.
„Au apărut sute și mii de postări care nu numai că nu aveau sens, dar au stârnit și reacții absurde în comentarii, reacții care păreau să valideze acele <opinii> sau, pentru ei, <adevăruri>, a spus Rareș.
Inițial, el a presupus că provin din conturi automate.
“M-am uitat la profiluri, presupunând că majoritatea erau <roboți>, dar nu era așa. Acești oameni își postau copiii și familia, apoi îi înjurau pe cei care nu erau de aceeași părere cu ei”, a spus fondatorul TruthSeeker.
În timp ce cerceta, a dat peste nenumărate exemple de informații absurde distribuite ca și cum ar fi reale. Acela a fost momentul în care a luat o decizie.
O platformă creată pentru ca oamenii să gândească singuri
Rareș a explicat că „TruthSeeker” nu a fost conceput pentru a înlocui abilitățile de gândire critică ale utilizatorilor, ci pentru a le oferi oamenilor instrumentele necesare pentru a verifica informațiile pe care le întâlnesc.
„Momentul în care mi-am dat seama că un astfel de proiect este necesar a fost când am observat că situația acestor știri false, în loc să se îmbunătățească, se înrăutățea pe zi ce trecea”, spune el.
El crede că una dintre principalele cauze ale răspândirii dezinformarii este faptul că mulți oameni își aleg sursele fără a le verifica de două ori. Platforma compară informații din mai multe publicații, analizează limbajul folosit, verifică sursele și încearcă să identifice elementele specifice de propagandă și manipulare.
„M-am gândit că, poate, acești oameni care sunt păcăliți în mod constant își iau informațiile din surse nepotrivite și că, dacă ar vedea o comparație obiectivă a modului în care fiecare publicație interpretează un articol, și-ar putea forma propriile opinii, bazate pe adevăr, nu pe ceea ce unii și-ar dori ca ei să considere adevărat”, a explicat Rare.
Întrebat dacă inteligența artificială poate face întotdeauna diferența dintre știrile false și o simplă opinie, Rare; a spus că modelele AI au avantajul că nu sunt influențate de propriile convingeri.
”Bineînțeles că AI-ul, nefiind o persoană, are șanse mult mai mici de a fi subiectiv. Cu ajutorul unor clasificări și al <antrenamentului> care îl <învață> diferența dintre tonuri și modurile de transmitere a informației, acesta poate face diferența dintre o știre falsă și o opinie”, a explicat el.
„TruthSeeker este capabil să identifice oamenii în fotografii”
Una dintre funcționalitățile pe care Rareș le consideră cele mai interesante este analiza imaginilor și a videoclipurilor. El a oferit drept exemplu fotografia realizată la Vatican, în timpul funeraliilor Papei, în care apărea Ilie Bolojan în apropierea fostului președinte american Donald Trump. În mediul online au apărut rapid acuzații că fotografia ar fi fost modificată digital pentru a-i oferi politicianului român mai multă vizibilitate.
„Când imaginea a fost încărcată pe TruthSeeker, platforma a analizat-o atât din perspectiva unei posibile alterări cu ajutorul inteligenței artificiale, cât și din perspectiva editării digitale”, a explicat Rareș.
Analiza nu s-a rezumat doar la detectarea modificărilor digitale. El a subliniat că platforma are și o funcționalitate pe care multe modele lingvistice nu o oferă. Pe baza modului în care lumina cădea pe fața lui Ilie Bolojan și a poziției corpului său în raport cu celelalte persoane din jur, platforma a stabilit că șansele ca imaginea să fi fost alterată digital erau foarte mici.”
„Spre deosebire de ChatGPT și alte LLM-uri, TruthSeeker este capabil să identifice persoane din fotografii”, spune el.
După ce a analizat fotografia de la Vatican, Rareș Oancea a prezentat un alt caz în care TruthSeeker a reușit să identifice o manipulare construită în jurul unor materiale video care au fost distribuite masiv în mediul online.
”Pe Telegram erau distribuite multe videoclipuri în care, aparent, soldați ucraineni trăgeau în mame cu copii și manifestau dezgust și o răutate pură”, a spus Rareș.
Tânărul a explicat că a încărcat pe platformă unul dintre aceste videoclipuri, alături de descrierea care l-a însoțit.
„Videoclipul arăta niște soldați care, cu armele în mână, se apropiau de aceste familii și păreau agresivi”, a spus fondatorul TruthSeeker.
Analiza efectuată de platformă a scos însă la iveală un detaliu important: sunetul din fundal contrazicea mesajul transmis prin descriere.
”TruthSeeker a <auzit> ce spuneau soldații pe fundal. Era, de fapt, o întrebare legată de starea lor de bine – <Sunteți bine? Sunteți bine?> fără să fie tras vreun glonț”, a spus Rareș.
În plus, platforma nu s-a limitat la analiza imaginilor, ci a verificat și traseul materialului.
“Videoclipul avea un filigran al canalului Telegram de la care provine. TruthSeeker l-a analizat și a observat că pe acel canal, care se prezenta ca un canal de <știri>, exista un tipar de publicare a unor astfel de dezinformări”, a explicat el.
Nici inteligența artificială nu este infailibilă
Întrebat dacă platforma a greșit vreodată, Rareș a spus că principala problemă cu care s-a confruntat până acum nu a fost o concluzie falsă, ci lipsa unei perspective importante.
„În cel mai rău caz, TruthSeeker a omis o publicație majoră care publicase un articol despre un anumit eveniment, lăsând astfel deoparte o perspectivă relevantă”, a spus elevul.
În același timp, el consideră că lupta împotriva dezinformarii rămâne extrem de dificilă, întrucât volumul de conținut fals produs și distribuit online este în continuă creștere.
”Mi-ar plăcea să spun că da, dar adevărul este mult mai sumbru. Există un studiu care arată că o știre falsă ajunge la o persoană de șase ori mai repede decât una adevărată, ceea ce înseamnă că TruthSeeker și întreaga industrie de combatere a dezinformării se confruntă cu o luptă dificilă”, a declarat adolescentul.
El consideră că dezvoltarea algoritmilor va putea oferi, în timp, instrumente mai eficiente.
„Cred că în viitor, odată cu dezvoltarea acestor algoritmi, acest lucru va deveni posibil”, a adăugat fondatorul platformei.
O altă provocare importantă este legată de încrederea utilizatorilor. În cazul unui instrument bazat pe inteligență artificială, apare inevitabil întrebarea dacă oamenii ar trebui să creadă rezultatul oferit de platformă.
„TruthSeeker” nu funcționează pe principiul „crede-ne pe cuvânt”, ci permite verificarea informațiile pe care se bazează analiza.
“Utilizatorul poate verifica singur rezultatul oferit de TruthSeeker, accesând fiecare pagină la care face trimitere analiza. Astfel, poate confirma că rezultatul nu este doar o <halucinație> a AI-ului”, a mai spus el.
Finanțarea, o provocare
Pentru dezvoltarea platformei, una dintre cele mai mari dificultăți rămâne partea financiară. Construirea și antrenarea unui sistem de inteligență artificială presupune infrastructură tehnică scumpă, iar accesul la resurse suficiente este o provocare pentru un proiect dezvoltat independent.
Dezvoltarea unui sistem AI nu este ușoară și implică multe lucruri, de la construirea unei baze de date extrem de mari până la accesul la servere dotate cu plăci video, pe care modelul să fie antrenat”, a explicat Rareș.
Cea mai mare problemă, spune el, este costul întreținerii acestei infrastructuri. Până acum, proiectul a fost susținut financiar chiar de el.
”Serverele sunt foarte scumpe, mai ales dacă trebuie menținute permanent în funcțiune. Am făcut totul din banii proprii, dar, dacă vreau să-l dezvolt, cred că va trebui să aplic pentru finanțare”, a spus Rareș.
El spune că a investit aproximativ 2.000–3.000 de euro, fără a număra sutele de ore de muncă. Și mai spune că nu își dorește ca TruthSeeker să devină o platformă accesibilă doar persoanelor care își permit să plătească.
„Nu văd cum aș putea păstra o platformă construită pentru public în spatele unui paywall”, a spus el.
Sursa primară a postărilor
Planurile pentru viitor sunt însă mult mai ambițioase. Una dintre funcționalitățile la care lucrează este identificarea sursei inițiale a unei informații distribuite online. Utilizatorul ar putea încărca o postare și ar putea afla de unde a pornit aceasta, cine a distribuit-o primul, cum s-a răspândit și ce legături există între conturile sau comunitățile care au propagat-o.
„Având în vedere viteza cu care se răspândește informația, ar fi util ca un utilizator să poată încărca o postare și să afle de unde provine, cine a distribuit-o primul, care este contextul, ce categorii demografice o răspândesc și ce conexiuni există între acești oameni sau aceste entități”, a continuat el.
În următorii ani, își dorește ca TruthSeeker să devină un instrument folosit nu doar de publicul larg, ci și de jurnaliști și instituții.
„Vreau ca TruthSeeker să aibă un impact național și internațional, să reducă numărul persoanelor care sunt înșelate și convinse să creadă diverse dezinformări și să devină un instrument de încredere pentru jurnaliști, care să-i ajute să construiască grafuri de conexiuni între organisme, entități și evenimente”, a spus fondatorul platformei.
În prezent, TruthSeeker se adresează tuturor celor care doresc să verifice informațiile pe care le întâlnesc online, însă Rareș vede un rol mai larg pentru proiect în viitor. El a explicat că platforma nu se află în competiție directă cu proiectele românești de verificare a informațiilor, precum Snoop, Veridica sau Factual, deoarece acestea folosesc echipe de jurnaliști care analizează manual articolele.
“Nu pot considera aceste platforme drept competitori propriu-ziși, deoarece acestea au echipe de jurnaliști care analizează manual articolele. TruthSeeker este conceput pentru a-i permite utilizatorului să facă singur fact-checking”, a spus Rareș.
Unul dintre cei mai importanți pași următori este dezvoltarea aplicației mobile și a extensiei de browser. Pentru Android, Rareș își dorește o funcție prin care utilizatorii să poată activa un pop-up TruthSeeker atunci când navighează pe rețele sociale, iar aplicația să analizeze conținutul afișat pe ecran. Pentru utilizatorii de iPhone, soluția va fi diferită, din cauza restricțiilor sistemului de operare.
“Odată activat, acesta ar analiza ecranul și, implicit, conținutul afișat. Îmi doresc să existe opțiunea <Share to TruthSeeker>, prin care articolul sau postarea să fie trimisă către TruthSeeker pentru analiză”, a spus Rareș.
Extensia de browser va funcționa ca un asistent permanent, capabil să analizeze articolele și postările accesate.
„De fiecare dată când citești un articol sau navighezi pe o platformă de socializare, aceasta va analiza articolul sau postarea, la fel ca aplicația de pe telefon”, a spus fondatorul.
Cu toate acestea, lansarea acestor funcții depinde de mai mulți factori, în special de finanțare și de resursele tehnice disponibile.
”Îmi este foarte greu să estimez când vor fi disponibile, din cauza mai multor factori, printre care finanțarea, restricțiile tehnice și altele. Cred, totuși, că vor fi disponibile într-un an sau într-un an și jumătate”, a mai spus Rareș Oancea.
