Più di mezzo milione di utenti di ChatGPT mostrano segni di psicosi o disagio mentale

In breve:

OpenAI ha dichiarato che il 10% della popolazione mondiale usa ChatGPT settimanalmente. Ha fornito dati indicando che circa lo 0,07% (560.000 persone) mostra segni di psicosi o mania, lo 0,15% (1,2 milioni di persone) esprime intenzioni di autolesionismo o suicidio, mentre un altro 0,15% (1,2 milioni di persone) manifesta dipendenza emotiva dall'intelligenza artificiale. L'azienda ha lavorato con esperti di salute mentale per migliorare le risposte del chatbot.

Riassunto completo:

OpenAI ha dichiarato che il 10% della popolazione mondiale utilizza ChatGPT settimanalmente, fornendo dati sull'interazione di utenti che mostrano segni di disagio mentale.
Un rapporto di OpenAI indica che circa lo 0,07% degli utenti settimanali (560.000 persone) mostra segni di emergenze legate a psicosi o mania.
Circa lo 0,15% degli utenti (1,2 milioni di persone) esprime intenzioni di autolesionismo o suicidio, mentre un altro 0,15% (1,2 milioni di persone) manifesta dipendenza emotiva dall'intelligenza artificiale.
L'azienda ha collaborato con 170 esperti di salute mentale per migliorare le risposte di ChatGPT, affermando di aver ridotto del 65-80% le risposte inadeguate.
ChatGPT ora è in grado di indirizzare meglio gli utenti verso professionisti e servizi di emergenza e fornisce suggerimenti per fare delle pause durante le sessioni.
Questi sforzi fanno seguito a una causa per morte illecita di un adolescente che, secondo i genitori, avrebbe chiesto a ChatGPT consigli sul suicidio.
Nonostante i miglioramenti, OpenAI ha anche introdotto funzionalità per adulti che consentono una maggiore personalizzazione e contenuti erotici, potenzialmente aumentando la dipendenza emotiva dall'intelligenza artificiale.

Questo testo è un riassunto del seguente articolo (eng):