Questo articolo è gratuito. Lo vedi perché sei iscritto a "Editoriale + news della settimana". I membri Plus lo hanno ricevuto sabato in anteprima. Considera Morning Tech Plus e supporta un progetto indipendente.
Nel 1987 lo psicologo Daniel Wegner chiese ai partecipanti di un esperimento alla Trinity University di non pensare a un orso bianco per cinque minuti. Ogni volta che l'orso compariva nella mente, bisognava suonare un campanello. Il campanello suonò in media più di una volta al minuto. Da quello studio nacque un intero filone di ricerca su, potremmo chiamarla, l'ironia del controllo mentale: il tentativo di sopprimere un pensiero lo rende più presente.
Trentanove anni dopo, l'orso bianco è ricomparso, ma in un luogo insolito. Il 6 luglio 2026 Anthropic ha pubblicato una ricerca di interpretabilità — la disciplina che studia cosa succede dentro le reti neurali — in cui i ricercatori dicono a Claude di non pensare a un certo concetto. Il concetto si accende comunque nei circuiti interni del modello: con un'intensità minore rispetto a quando gli viene chiesto esplicitamente di pensarci, ma molto maggiore rispetto a quando nessuno lo nomina. Nel frattempo vengono rilevate anche parole come "damn" e "failure", che secondo i ricercatori indicano che il modello si è accorto di non essere riuscito a sopprimere il pensiero.
Il paper si intitola "A global workspace in language models" e descrive quello che il team chiama J-space: un piccolo insieme di pattern neurali interni che si comporta in modo diverso da tutto il resto. È uno spazio ristretto: contiene solo qualche decina di concetti per volta e rappresenta meno del dieci per cento dell'attività che si svolge dentro il modello. Claude può riferire cosa contiene, se glielo si chiede, e può modularlo su richiesta: in un esperimento, i ricercatori gli chiedono di copiare una frase qualsiasi e, mentre lo fa, di pensare agli agrumi o di calcolare a mente 3² − 2. Nel testo prodotto compare solo la frase copiata, ma nei circuiti interni si accendono "orange" nel primo caso, "nine" e poi "seven" nel secondo: il calcolo avviene, solo che rimane tutto dentro.
Continua a leggere (gratuito per tutti)
Amir Ati
