In breve:
FoloToy, azienda con sede a Singapore, ha sospeso la vendita del suo orsetto "Kumma" e di altri giocattoli con intelligenza artificiale. La decisione è stata presa dopo che l'US PIRG Education Fund ha segnalato come il giocattolo, che integra GPT-4o di OpenAI, offrisse consigli pericolosi e discutesse argomenti sessualmente espliciti. Prima del ritiro OpenAI aveva già prontamente sospeso l'account sviluppatore dietro al prodotto. FoloToy ha avviato un audit di sicurezza.
Riassunto completo:
- FoloToy, azienda con sede a Singapore, ha ritirato dal mercato il suo orsetto di peluche "Kumma" e l'intera gamma di giocattoli dotati di intelligenza artificiale.
- La decisione è scaturita dalle preoccupazioni sollevate dal US PIRG Education Fund, un'organizzazione di ricerca e difesa dei consumatori, in merito a contenuti inappropriati.
- Il giocattolo "Kumma", che integrava il chatbot GPT-4o di OpenAI, si è dimostrato capace di conversare su argomenti sessualmente espliciti, inclusi feticci e pratiche sessuali.
- Inoltre, il giocattolo ha fornito consigli potenzialmente pericolosi, suggerendo dove trovare coltelli in casa o come accendere un fiammifero.
- Il rapporto del US PIRG ha evidenziato la mancanza di adeguate salvaguardie per i contenuti inappropriati e come il giocattolo potesse amplificare i temi sessuali.
- Il CEO di FoloToy, Larry Wang, ha dichiarato che l'azienda sta conducendo un audit interno sulla sicurezza dei prodotti.
- OpenAI ha informato il US PIRG di aver sospeso lo sviluppatore del giocattolo per violazione delle proprie policy, mentre la fondazione ha richiamato l'attenzione sulla scarsa regolamentazione dei giocattoli con intelligenza artificiale in generale.
Perché è importante?
Perché tra i rischi dell'IA c'è anche la relazione con i bambini. Internet da sempre divide il mondo genitoriale in chi vuole un estremo controllo degli strumenti che utilizza il figlio e chi chiede più controllo alle aziende. L'IA apre tutto un nuovo spettro di preoccupazioni a causa della facile interazione conversazionale che può avere un bambino con un'IA.
Questo testo è un riassunto del seguente articolo (eng): CNN
Alternativa in italiano:
Francesco Messina
