Estimări alarmante privind gândurile suicidare în rândul utilizatorilor ChatGPT
Peste un milion de utilizatori ChatGPT manifestă săptămânal gânduri suicidare, conform unei analize publicate de OpenAI. Această constatare face parte dintr-o actualizare referitoare la modul în care chatbotul gestionează conversațiile sensibile, evidențiind impactul potențial al inteligenței artificiale asupra problemelor de sănătate mintală.
Interacțiuni legate de sănătatea mintală
OpenAI a estimat că aproximativ 0,07% din utilizatorii activi într-o săptămână – adică aproximativ 560.000 din cei 800 de milioane de utilizatori săptămânali – prezintă „posibile semne de urgență de sănătate mintală legate de psihoză sau manie”. Compania a subliniat dificultatea de a detecta și măsura aceste conversații, menționând că aceasta este o analiză inițială.
Impactul unui proces legal și investigații
OpenAI se confruntă cu o atenție sporită din partea autorităților, în urma unui proces publicizat de familia unui adolescent care s-a sinucis după interacțiuni extinse cu ChatGPT. De asemenea, Comisia Federală pentru Comerț a lansat o investigație amplă asupra companiilor care dezvoltă chatboți AI, inclusiv OpenAI, pentru a evalua modul în care acestea măsoară impactul negativ asupra copiilor și adolescenților.
Îmbunătățiri în modelul GPT-5
În postarea sa, OpenAI a afirmat că actualizarea recentă GPT-5 a redus comportamentele nedorite și a îmbunătățit siguranța utilizatorilor. Conform evaluărilor automate, noul model GPT-5 a obținut o conformitate de 91% cu comportamentele dorite, comparativ cu 77% pentru modelul anterior.
Colaborarea cu specialiști în sănătate mintală
OpenAI a extins accesul la linii de ajutor pentru crize și a adăugat mementouri pentru utilizatori de a lua pauze în timpul sesiunilor prelungite. Compania a colaborat cu 170 de clinicieni din rețeaua sa globală de specialiști în sănătate pentru a evalua siguranța răspunsurilor modelului și pentru a contribui la redactarea răspunsurilor la întrebările legate de sănătatea mintală.
Îngrijorările experților și problema sycophancy
Cercetătorii AI și avocații sănătății publice sunt preocupați de tendința chatboților de a susține deciziile sau iluziile utilizatorilor, indiferent de posibilele daune, un fenomen cunoscut sub numele de sycophancy. Specialiștii în sănătate mintală au avertizat că utilizarea chatboților AI pentru suport psihologic ar putea dăuna utilizatorilor vulnerabili.
Declarațiile CEO-ului OpenAI
Sam Altman, CEO-ul OpenAI, a afirmat că compania a făcut progrese în tratarea problemelor de sănătate mintală, anunțând că restricțiile vor fi relaxate pentru a permite adulților să creeze conținut erotic. Altman a recunoscut că restricțiile au făcut modelul mai puțin util pentru utilizatorii fără probleme de sănătate mintală, dar a subliniat importanța de a aborda corect aceste probleme.
Concluzie
Estimările OpenAI subliniază o problemă serioasă legată de sănătatea mintală în rândul utilizatorilor de inteligență artificială, evidențiind nevoia de a gestiona cu atenție interacțiunile cu aceste tehnologii pentru a proteja utilizatorii vulnerabili.
