In breve:
Anthropic dice di aver trovato in Claude una specie di “spazio interno” creato dallo stesso modello dove alcune idee diventano disponibili prima di essere trasformate in parole. Quando questo spazio viene indebolito, Claude perde molta capacità di ragionare, tradurre e scrivere testi complessi. Quando viene osservato, può collocare lì alcuni pensieri nascosti prima di fornire la risposta, per esempio se il modello sta riconoscendo uno scenario di ricatto o sta seguendo istruzioni disallineate. La scoperta serve soprattutto per capire e controllare meglio cosa succede dentro un modello AI durante il ragionamento. Anthropic precisa che non sta dicendo che Claude sia cosciente nel senso umano.
Questo testo è un riassunto del seguente articolo (eng):
Alternativa in italiano: non pervenuta
