451 è la temperatura alla quale brucia la carta. Mi hanno sempre affascinato i numeri che indicano quando bolle l'acqua, quando si infrange la barriera del suono o, appunto, quando brucia la carta. Sono quei pochi scorci matematici nel mistero di una creazione ancora tutta da sfogliare.
Fahrenheit 451 è un libro che ho divorato da piccolino, ancora mi guarda dallo scaffale del salotto dei miei genitori e mi riporta a quegli anni in cui non accettavo le ingiustizie del mondo. Un uomo, Guy Montag, fa il pompiere, ma in quell'immaginario i pompieri non spengono fuochi, li accendono per bruciare tutti i libri del mondo.
Il romanzo tocca il tema della censura nel contesto di ipotetici regimi autoritari ma Ray Bradbury, autore del libro, cavalcava anche l'onda del genere distopico — solo tre anni prima George Orwell pubblicava il primo libro madre di quel modo di scrivere, sulla scia del suo insegnante visionario Aldous Huxley, che poi è stato lo scrittore che ho amato di più.
Con il tempo tuttavia mi sono reso conto che il genere distopico ha portato molti — me compreso — a cascare nella trappola del rifiuto del progressismo, mossi impulsivamente da un timore verso il potere dei grandi (aziende e governi) e quello stesso senso di ingiustizia che provavo a casa dei miei.
600 è il numero di edizione della rassegna di Morning Tech di ieri: significa che per 600 volte ho navigato internet, trovato notizie che riguardassero come il progresso tecnologico sta mutando l'umanità e il pianeta, commentate e pubblicate online.
Cosa pensa l'Amir di oggi che parla all'Amir ragazzino che si indignava di fronte alle idee di futuri nefasti? Perché il futuro che temevo lo sto vivendo, almeno in termini temporali, ma questa volta ho tutti i dati di Morning Tech a disposizione e dunque, facciamo ordine.
Anthropic ha comprato milioni di libri, ne ha tagliato il dorso con una macchina da taglio idraulica, ha scannerizzato le pagine e ha distrutto i libri. L'operazione si chiama «Project Panama» ed è stata tenuta volutamente segreta; fra i documenti rivelati durante il processo e ripresi poi dal Washington Post l'operazione viene definita dai manager di Anthropic la "scannerizzazione distruttiva di tutti i libri del mondo." Non serve aver letto Fahrenheit 451 per essere colpiti da un'immagine forte, ma andiamo più a fondo.
Innanzitutto, perché l'ha fatto? Non poteva trovare il modo di scannerizzarli senza distruggerli? Sì, forse poteva, ma questo è accaduto nel 2024, l'anno in cui tutte le aziende AI hanno finito i dati di training disponibili sul web aperto e si stavano reinventando per trovarne di nuovi, con un countdown sul collo perché l'anno successivo sarebbe stato l'anno degli agenti.
Questo è il mio ragionamento personale sul perché lo abbia fatto, dal momento che non ci sono dichiarazioni simili da parte di Anthropic, ma so per certo che chi non ha risolto il problema del training in quell'anno ha fatto distillazione illegale come DeepSeek ("rubare" l'addestramento di altri tramite migliaia di account falsi) oppure è rimasto indietro.
E qual'è il nesso con i libri distopici? L'altro giorno ero a cena con amici e, citando questa notizia, qualcuno ha fatto emergere il problema della concentrazione di informazione all'interno di un'azienda singola: «se questi libri li detiene un'azienda soltanto, stiamo replicando gli scenari di censura e distruzione di massa della conoscenza», comparando le aziende AI a regimi forti della Cina attuale o degli imperi del passato.
La comparazione mi è sembrata da subito troppo forte e l'argomentazione non mi tornava, perché di quei libri Anthropic ne ha comprato una copia, e non c'è traccia, dai documenti analizzati in tribunale, di edizioni rare in singola copia andate perdute.
Insomma, l'idea che le aziende AI esauriscano tutti i libri del mondo non è realistica. Inoltre esistono i regolatori, ed uno scenario più credibile può essere quello che qualche tribunale un giorno forzi le aziende AI a rimettere i libri digitalizzati in circolo (attualmente non possono per motivi di copyright) accelerando la trasformazione globale paper-to-digital e beneficiando così l'ambiente e il consumo di carta.
Ma per scrivere questo editoriale ho fatto qualche ricerca in più e individuato un tema che accennerò ma che meriterebbe più parole. Invece che di concentrazione dell'informazione, come mi veniva fatto notare a tavola, nella letteratura contemporanea si parla più di potere epistemico, cioè la capacità di stabilire cosa è vero, definire i criteri della conoscenza e influenzare gli altri tramite il sapere. Chi può farlo meglio di un LLM, che oggi è il nostro migliore amico, psicologo, coach, genitore, insegnante, e chi più ne ha più ne metta? Per fare un esempio, se su Claude Code incollo per sbaglio una password o un token lui mi dice immediatamente di cambiarlo e di non farlo mai più, mentre ChatGPT se ne frega. In generale poi, gli LLM sono i nuovi Deus ex machina delle conversazioni dal vivo: quando chiedi a GPT, l'interazione è finita, perché l'oracolo ha parlato. Il livello di fiducia è davvero alto.
Tutti quei romanzi distopici che hanno formato le idee della mia adolescenza sono oggi, ai miei occhi, fonte scarsa di pensiero, perché si attivano soltanto nelle evenienze autoritarie. Nella vicenda dei libri distrutti, è sacrosanto dire «potevano non distruggerli», ma di nuovo: la gravità mi sembra molto minore rispetto a vicende recenti sull'IA che si sporca le mani di sangue in guerra, ad esempio. Un rischio reale è quello del potere epistemico ma la verità — e su questo nessuno ha certezze — è che il rischio reale è l'IA stessa, la sua intelligenza, la sua competenza, la sua grandezza.
