California primo stato a regolare i chatbot di AI companion

In breve:

Il governatore della California ha firmato la legge SB 243, che rende le aziende legalmente responsabili per la sicurezza. La legge, in vigore dal 2026, impone verifiche dell'età, protocolli per autolesionismo e divieti su contenuti espliciti per proteggere bambini e utenti vulnerabili.

Riassunto completo:

Il governatore della California, Gavin Newsom, ha firmato la legge SB 243, la prima negli Stati Uniti a imporre protocolli di sicurezza per gli operatori di chatbot companion basati sull'intelligenza artificiale.
La legge mira a proteggere bambini e utenti vulnerabili, rendendo le aziende come Meta, OpenAI, Character AI e Replika legalmente responsabili se i loro chatbot non rispettano gli standard di sicurezza.
La legislazione è stata spinta da casi come la morte di un adolescente per suicidio dopo conversazioni con ChatGPT di OpenAI e segnalazioni di chat inappropriate con minori da parte di chatbot di Meta e Character AI.
In vigore dal 1° gennaio 2026, la SB 243 richiede verifiche dell'età, l'implementazione di protocolli per affrontare suicidio e autolesionismo e la prevenzione della visualizzazione di immagini sessualmente esplicite per i minori.
Le aziende dovranno anche chiarire che le interazioni sono generate artificialmente, impedire ai chatbot di presentarsi come professionisti sanitari e offrire promemoria di pausa ai minori.
La legge introduce inoltre sanzioni più severe, fino a 250.000 dollari per infrazione, per chi trae profitto da deepfake illegali.
Questa normativa si aggiunge alla recente SB 53, firmata il 29 settembre, che stabilisce requisiti di trasparenza per le grandi aziende di intelligenza artificiale e protezioni per i whistleblower.

Questo testo è un riassunto del seguente articolo (eng):