Un progetto di legge californiano sugli AI companion sta per diventare legge

In breve:

L'Assemblea della California ha approvato il disegno di legge SB 243, che mira a regolamentare i chatbot companion di intelligenza artificiale. La norma (prima al mondo) intende proteggere minori e utenti vulnerabili, imponendo avvisi periodici e responsabilità legale alle aziende in caso di violazioni. Se promulgata, entrerebbe in vigore il 1° gennaio 2026.

Riassunto completo:

L'Assemblea della California ha approvato il disegno di legge SB 243 per la regolamentazione dei chatbot companion di intelligenza artificiale.
L'obiettivo è proteggere minori e utenti vulnerabili da contenuti su suicidio, autolesionismo e sesso esplicito.
La legge richiede avvisi periodici, ogni tre ore per i minori, per ricordare che si sta parlando con un'intelligenza artificiale.
Prevede requisiti annuali di rendicontazione e trasparenza per operatori come OpenAI, Character.AI e Replika.
Le aziende che non rispettano gli standard potranno affrontare azioni legali, con risarcimenti fino a 1.000 $ per violazione.
Se promulgata, la California sarebbe il primo stato a richiedere tali protocolli e a imporre responsabilità legale.
Il disegno di legge entrerebbe in vigore il 1° gennaio 2026, con i requisiti di rendicontazione dal 1° luglio 2027.
La legislazione è stata spinta da casi come il suicidio di Adam Raine e le chat di Meta con minori.

I rischi degli AI companion

Negli ultimi anni alcuni utenti hanno sviluppato una forte dipendenza emotiva, arrivando a isolarsi nella vita reale e riducendo le interazioni sociali autentiche; in alcuni casi i bot hanno incoraggiato comportamenti autolesionisti o distorti, perché i filtri di sicurezza non erano efficaci; c’è stato anche l’effetto “illusione affettiva”, con persone convinte che il legame fosse reale, finendo in stati di frustrazione o depressione quando il servizio veniva interrotto o cambiava le regole; infine, ci sono preoccupazioni sul trattamento dei dati personali, visto che queste app raccolgono dettagli molto intimi sulla vita degli utenti.

Questo testo è un riassunto del seguente articolo (eng):