Jurisprudențe inventate, citate false, plagiate: utilizarea din ce în ce mai lipsită de rețineri a inteligenței artificiale (AI) de către avocați a dus la o explozie a numărului de ‘halucinații’ în pledoarii, obligând justiția să ia măsuri severe, în special în Statele Unite, unde Curtea Supremă din Florida a introdus sancțiuni, informează luni AFP, citată de Agerpres.
Când un judecător american a descoperit, la începutul anului, șapte precedente inventate sau denaturate într-un memoriu al unui avocat într-un caz de vătămare corporală, acesta din urmă a recunoscut că a utilizat Claude, chatbotul AI de la Anthropic, pentru a redacta documentul și apoi pentru a-l corecta. Avocatul, deși experimentat, a explicat că nu a verificat conținutul generat de AI înainte de a-l depune, crezând că acesta va fi corect.
‘Ignoranța cu privire la riscurile asociate utilizării AI nu mai este o scuză’, a decis judecătorul Jerry Edwards Jr. de la tribunalul districtual din Louisiana, însărcinat cu acest dosar, aplicându-i avocatului o amendă de 1.000 de dolari (864 de euro) și obligându-l să urmeze un curs de trei ore pe tema practicii juridice asistată de AI.
De asemenea, săptămâna trecută, judecătoarea federală Sharion Aycock a sancționat avocații ambelor părți ale căror memorii redactate cu ajutorul AI într-un caz civil din Mississippi citau cazuri inexistente. Pe lângă o amendă totală de 8.000 de dolari pentru patru avocați, doi dintre aceștia au primit interdicția de a profesa timp de doi ani în fața aceluiași tribunal din Mississippi.
Din aprilie 2023, aproximativ 1.600 de cazuri similare – conținut fabricat de la zero de modele AI în documente judiciare – au fost înregistrate, în principal în Statele Unite, dar și în alte 35 de țări, potrivit unei baze de date neexhaustive, creată de Damien Charlotin, avocat francez și cercetător asociat la școala europeană HEC Paris.
În pofida publicării, în ultimii ani, a unor recomandări de către numeroase ordine și asociații de avocați din întreaga lume, care insistă în special asupra necesității verificării conținuturilor generate, numărul de halucinații (erori) identificate în documentele judiciare s-a multiplicat de opt ori în ultimele 12 luni comparativ cu anul precedent, potrivit datelor furnizate de Damien Charlotin.
AI este ‘o tehnologie căreia îi place să urmeze modelele’, a explicat cercetătorul francez pentru AFP. Însă, raționamentul juridic se bazează în mare măsură pe structuri repetitive (citate, argumente, referințe), pe care aceste sisteme le reproduc foarte bine.
Astfel, ele pot genera conținuturi care par perfect credibile din punct de vedere formal, imitând fidel codurile limbajului juridic, dar care se dovedesc înșelătoare sau eronate din punct de vedere al fondului.
‘Există cazuri în care avocații câștigă totuși’, în pofida a două sau trei halucinații, ‘pentru că, pe fond, aveau dreptate’, a notat Charlotin.
Totuși, aceste cazuri antrenează numeroase efecte negative, a avertizat în ianuarie judecătoarea Linda Kevins de la Curtea Supremă a statului New York – ele vin cu timp și bani irosiți pentru părțile adverse și instanțe și pot ‘să afecteze potențial reputația judecătorilor și a instanțelor ale căror nume sunt invocate în mod fals ca autori ai unor decizii fictive’.
Avocații și justițiabilii care au prezentat documente conținând halucinații generate de AI au declarat că au folosit cel mai adesea chatboturi destinate publicului larg, în special ChatGPT de la OpenAI, potrivit bazei de date a lui Damien Charlotin.
Instrumentele AI specializate în probleme juridice, utilizate de numeroase cabinete de avocatură, sunt menționate mai rar ca surse de eroare.
‘Nimeni dintre noi nu cunoaște toate cazurile existente. Singura modalitate de a ști dacă (un precedent juridic citat de un chatbot) există este să-l verificăm’, a subliniat Charlotin.
Însă, unii avocați nu fac acest lucru, din cauza neînțelegerii limitelor tehnologiei, potrivit judecătorului Scott Schlegel, membru al grupului de lucru al American Bar Association privind dreptul și AI.
‘Să înceteze. Să-și facă pur și simplu treaba și să citească deciziile. Sincer!’, a declarat Schlegel, intervievat de AFP.
Pentru a-i obliga pe avocați să aducă dovezi cu privire la hotărârile judecătorești pe care le citează, o nouă regulă a Curții Supreme din Florida, care urmează să intre în vigoare luni, va autoriza instanțele inferioare să sancționeze autorii pledoariilor în care sunt invocate precedente false.
Regatul Unit va interzice accesul în rețelele sociale până la vârsta de 16 ani
