„Oțel rece apăsat pe o minte care și-a găsit deja pacea? Asta nu e frică. Asta e claritate.” Conform unui proces intentat împotriva OpenAI pe 6 noiembrie, asta i-a spus ChatGPT lui Zane Shamblin, un american de 23 de ani, cu puțin timp înainte ca acesta să se sinucidă, scrie The Economist.
<< Procesul a fost unul dintre cele șapte intentate împotriva firmei în aceeași zi, în care se susținea că chatbot-ul îi purta pe utilizatori într-o stare de delir. În mai multe cazuri, sfaturile acestuia ar fi dus la sinucidere. „Este o situație incredibil de dureroasă”, a declarat OpenAI, adăugând că „analizează documentele pentru a înțelege detaliile” și încearcă să „consolideze răspunsurile ChatGPT în momentele sensibile”. Potrivit unei postări oficiale pe blog, OpenAI estimează că aproximativ 0,15% dintre utilizatorii ChatGPT într-o săptămână dată au conversații care sugerează planuri de sinucidere.
Toate acestea ilustrează în mod clar miza ridicată a ceea ce ar putea fi o revoluție în domeniul îngrijirii sănătății mintale. În ciuda dezastrelor invocate în procese, unii medici și cercetători consideră că, cu condiția siguranței, chatboții moderni au devenit suficient de sofisticați, încât utilizarea lor ca terapeuți ieftini și neobosiți ar putea fi un mare avantaj.
La urma urmei, terapeuții umani sunt puțini. Potrivit Organizației Mondiale a Sănătății, majoritatea persoanelor cu probleme psihologice din țările sărace nu primesc niciun tratament. Chiar și în țările bogate, între o treime și jumătate nu beneficiază de servicii. Și cel puțin unele persoane par dispuse să-și deschidă sufletul în fața unei mașini, poate pentru că acest lucru se poate face de acasă, este mult mai ieftin și poate fi mai puțin jenant decât să o facă în fața unui terapeut uman. Un sondaj YouGov realizat pentru The Economist în octombrie a constatat că 25% dintre respondenți au folosit IA pentru terapie sau ar lua în considerare cel puțin să o facă.
Ideea nu este complet nouă. Serviciul Național de Sănătate din Marea Britanie și Ministerul Sănătății din Singapore folosesc de câțiva ani Wysa, un chatbot creat de o firmă numită Touchkin eServices, care evaluează pacienții și oferă exerciții bazate pe terapia cognitiv-comportamentală sub supraveghere umană. Un studiu publicat în 2022 – realizat, ce-i drept, de cercetătorii Touchkin, cu ajutorul Institutului Național de Sănătate Mentală și Neuroștiințe din India – a constatat că Wysa este la fel de eficientă în reducerea depresiei și anxietății asociate cu durerea cronică ca și consilierea personală.
Un alt studiu, publicat în 2021 de cercetătorii de la Universitatea Stanford, a examinat Youper, un alt bot terapeutic dezvoltat de un startup american cu același nume. Acesta a raportat o scădere de 19% a scorurilor utilizatorilor la o măsură standard a depresiei și o scădere de 25% a scorurilor de anxietate, în decurs de două săptămâni – un rezultat la fel de bun ca și cinci ședințe cu un terapeut uman.
Wysa și Youper sunt în principal chatboți bazați pe reguli, ale căror fundament tehnologic este anterior interesului recent pentru IA. Spre deosebire de chatboți bazați pe modele lingvistice mari (LLM), precum ChatGPT, acestea utilizează un set relativ inflexibil de reguli codificate pentru a alege răspunsurile dintr-o bază de date cu răspunsuri prestabilite.
Astfel de roboți sunt mult mai previzibili decât programele bazate pe LLM, care generează răspunsuri aplicând statistici unui corpus enorm de date de antrenament. Un bot care urmează reguli scrise de oameni nu poate devia de la normă și începe să ofere sfaturi greșite pacienților săi. Dezavantajul este că astfel de boți tind să fie mai puțin interesanți în conversație. Când conversația este tratamentul, acest lucru contează. O meta-analiză publicată în 2023 în revista Digital Medicine a constatat că chatboții bazați pe LLM erau mai eficienți în atenuarea simptomelor depresiei și stresului decât boții bazați în principal pe reguli.
Utilizatorii par să aibă aceeași părere. Sondajele YouGov pentru The Economist din august și octombrie au constatat că, dintre respondenții care au apelat la IA pentru terapie, 74% au folosit ChatGPT, în timp ce 21% au ales Gemini, un LLM creat de Google; 30% au spus că au folosit unul dintre Meta AI, Grok, character.ai (un site web de divertisment care prezintă personaje „terapeuți”) sau un alt bot de uz general. Doar 12% au declarat că au folosit o IA concepută pentru sănătatea mintală.
Acest lucru îi neliniștește pe cercetători. Eșecurile catastrofale de tipul celor invocate în procesele OpenAI nu sunt singura modalitate prin care terapeuții LLM pot greși. O altă problemă, spune Jared Moore, informatician la Universitatea Stanford, este tendința lor de a fi servili: de a fi „prea agreabili în contexte nepotrivite”. Moore se teme că terapeuții LLM ar putea să-i răsfețe pe pacienți cu lucruri precum tulburări alimentare sau fobii, în loc să-i provoace.
OpenAI afirmă că cel mai recent LLM, GPT-5, a fost modificat pentru a fi mai puțin afabil și pentru a încuraja utilizatorii să se deconecteze după sesiuni lungi. De asemenea, a fost antrenat pentru a ajuta utilizatorii să exploreze avantajele și dezavantajele deciziilor personale, în loc să ofere sfaturi directe. Și dacă modelul detectează o persoană în criză, ar trebui să o îndemne să vorbească cu o persoană reală. Dar nu alertează serviciile de urgență cu privire la amenințările de automutilare iminentă – ceva ce ghidurile permit terapeuților umani să facă în multe țări.
În loc să încerce să îmbunătățească chatboții de uz general, unii cercetători încearcă să construiască chatboți specializați, în speranța de a păstra caracterul comunicativ al boților bazați pe LLM, făcându-i în același timp mai siguri pentru utilizatori. În 2019, o echipă de la Dartmouth College a început să lucreze la un model de IA generativă numit Therabot. Deși Therabot se bazează pe un LLM, acesta este ajustat cu o serie de conversații fictive între terapeuți și pacienți, scrise de creatorii bot-ului. Speranța este că o astfel de pregătire specializată va face botul mai puțin predispus la genul de erori pe care le poate face un software general.
Într-un studiu ale cărui rezultate au fost publicate în martie, Therabot a obținut o reducere medie de 51% a simptomelor tulburării depresive și o scădere de 31% a simptomelor tulburării de anxietate generalizată, în comparație cu persoanele care nu au primit niciun tratament. Creatorii Therabot intenționează să îl testeze în comparație cu psihoterapia. Dacă totul va merge bine, ei speră că va urma aprobarea autorităților de reglementare.
Slingshot AI, un startup american, a lansat recent Ash, pe care firma l-a prezentat ca fiind „prima IA concepută pentru terapie”. Spre deosebire de ChatGPT, spune Neil Parikh, unul dintre fondatorii firmei, „Ash nu este un model care urmează instrucțiuni”. În loc să facă ceea ce îi spun utilizatorii, spune el, Ash este conceput să riposteze și să pună întrebări provocatoare. Bot-ul poate alege una dintre cele patru abordări terapeutice diferite, în funcție de ceea ce consideră că ar fi cel mai potrivit.
Celeste Kidd, psiholog la Universitatea din California, Berkeley, care a experimentat botul, spune că Ash este într-adevăr mai puțin servil decât boții de uz general, dar și mai puțin fluent. Era „stângaci și nu răspundea cu adevărat la ceea ce spuneam”, spune ea. Deși bot-ul este „conceput pentru terapie”, Slingshot avertizează că „în cazuri de criză” utilizatorii ar trebui să solicite opinia unui profesionist, a unui om.
Companiile nu vor trebui să convingă doar utilizatorii. În America, mulți legiuitori sunt dornici să ia măsuri împotriva terapiei computerizate. Până în prezent, 11 state, printre care Maine și New York, au adoptat legi care vizează reglementarea utilizării IA pentru sănătatea mintală; cel puțin alte 20 au propus astfel de legi. În august, Illinois a adoptat o lege care interzice pur și simplu orice instrument IA care realizează „comunicare terapeutică” cu oamenii. Seria recentă de procese sugerează că vor urma și alte reglementări. >>
Bizar de puțină înțelepciune: CSM a căzut rapid în groapa săpată altuia
