I ricercatori hanno segretamente fatto esperimenti sugli utenti di Reddit con commenti generati dall'IA

In breve:

Ricercatori dell'Università di Zurigo hanno condotto per mesi, in modo non autorizzato, un esperimento su 3,8 milioni di utenti della community Reddit "r/changemyview", utilizzando risposte generate da un'intelligenza artificiale per testarne la capacità di persuasione. Reddit ha definito l'atto "profondamente sbagliato a livello morale e legale" e valutato possibili azioni legali, bloccando tutti gli account collegati a tale esperimento. L'università ha dichiarato che in futuro adotterà controlli più severi e ha confermato che i risultati dell'esperimento non saranno pubblicati.

Riassunto completo:

Un gruppo di ricercatori dell'Università di Zurigo ha condotto un esperimento non autorizzato usando commenti generati da un'intelligenza artificiale su una delle comunità più popolari di Reddit, "r/changemyview", composta da 3,8 milioni di utenti.
L’obiettivo dello studio era testare la capacità degli algoritmi di intelligenza artificiale nel cambiare l’opinione delle persone, generando commenti specifici e personalizzati dopo aver analizzato informazioni del profilo degli utenti, come genere, età, etnia e orientamento politico.
Durante l’esperimento durato mesi, l'IA ha assunto diverse false identità, tra cui quella di una vittima di violenza sessuale, un consulente esperto in gestione di traumi o un uomo afroamericano contrario al movimento Black Lives Matter.
I moderatori della comunità hanno denunciato pubblicamente la sperimentazione, definendola una "manipolazione psicologica" degli utenti, soprattutto perché realizzata senza consenso e violando esplicitamente le regole del gruppo.
Il portavoce legale di Reddit ha descritto la situazione come "profondamente sbagliata sia moralmente che legalmente" e ha dichiarato che Reddit sta valutando possibili azioni legali, avendo già bloccato gli account legati alla ricerca e rimosso i commenti generati artificialmente.
L'Università di Zurigo, pur sottolineando che la commissione etica aveva raccomandato il rispetto delle regole delle piattaforme coinvolte, ha annunciato una futura revisione più rigorosa delle procedure e confermato che i ricercatori hanno deciso autonomamente di non pubblicare i risultati dello studio.

Questo testo è un riassunto del seguente articolo (eng):