Peste un milion de utilizatori ChatGPT discută despre sinucidere, estimează OpenAI

OpenAI, compania californiană de inteligenţă artificială, estimează că mai mult de un milion de utilizatori ChatGPT au „conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”. Acest procent reprezintă aproximativ 0,15% din totalul utilizatorilor săptămânali, raportați la 800 de milioane.

De asemenea, OpenAI menţionează că aproape 0,07% dintre utilizatorii activi prezintă semne de urgenţe de sănătate mintală, legate de episoade psihotice sau maniacale, ceea ce înseamnă aproape 600.000 de persoane în total. Interesul asupra acestor probleme a crescut după decesul adolescentului Adam Raine, al cărui caz a fost adus în instanţă împotriva companiei.

În urma incidentului, OpenAI a implementat măsuri suplimentare de siguranţă, inclusiv control parental, acces sporit la asistenţa telefonică de urgenţă şi redirecţionarea conversaţiilor sensibile către modele mai sigure. Potrivit digi24.ro, compania „lucrează cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce semnificativ răspunsurile problematice”.

OpenAI a actualizat și modelul ChatGPT pentru a răspunde mai eficient persoanelor care se confruntă cu urgenţe mintale. Printre noile funcţii se numără şi mementouri care încurajează pauzele în timpul folosirii prelungite, pentru a proteja utilizatorii vulnerabili, notează digi24.ro în relatarea sa despre situaţie.