Alla Sagra del Tortello, in uno spazio a due passi dallo stadio Artemio Franchi, dove sono cresciuto giocando a pallacanestro.
«Ma l'hai letto di questa intelligenza artificiale che ci uccide nel giro di dieci anni?» chiede mia madre mentre aggiungo il parmigiano sui ravioli con un cucchiaino di plastica.
"È diventato main stream" penso immediatamente. Se questo tema ha raggiunto mia madre significa che ha toccato ogni angolo della civiltà — mi basta davvero come dato. A parte gli scherzi, ne parlano in tanti non perché è un tema nuovo ma perché una serie di eventi hanno mandato virale Jacob Coxon, 27 anni, ex ricercatore specializzato in pre-training presso Anthropic.
Il primo di questi eventi però, è lui stesso a prepararlo. L'8 settembre 2026 pubblica su X un thread che inizia così: «Mi sono dimesso oggi da Anthropic» e che continua con un testo redatto insieme ad un amico. Poi prosegue creando una chat con dieci persone del settore per farlo diffondere e "renderlo un po' virale," come spiega lui stesso in un'intervista al Washington Post.
Adesso, il tema al centro di questo allarme è una frase, che ripetono tutti: "C'è un 10-20% di possibilità che l'IA ci ucciderà tutti nel giro di dieci anni." Parliamone.
"10-20%"
Questa è la parte più ambigua: 10-20% in relazione a quale scenario?
Viene fuori che questa è soltanto una stima presa da dichiarazioni di personaggi del mondo AI, come Amodei, Musk e Hinton, ma che hanno risposto a sensazione, senza dati perché non è matematicamente possibile fare previsioni. Gli stessi personaggi trall'altro, quando parlano del tema hanno in realtà visioni piuttosto diverse fra di loro. La prima cosa da sapere quindi è che 10-20%, è una cifra completamente inventata.
"Nel giro di dieci anni"
Questa parte mi permette di spiegarvi un po' meglio la situazione. Perché nel giro di dieci anni? A causa dell'IA che non è ancora abbastanza potente? Sicuramente, ma non solo. Il vero motivo è che per far sì che l'IA mandi in estinzione un'intera civiltà è necessario che la società abbia molta più tecnologia incorporata trasversalmente in tutto il mondo per infrastrutture e servizi, e che ci siano flotte numerose di robot e veicoli autonomi bellici — con "numerose" intendiamo qualcosa di raggiungibile con un costo completamente fuori dalle possibilità di cassa di qualsiasi stato oggi.
Ma attenzione, non solo: uno dei prerequisiti per far sì che l'IA ci distrugga è che l'umanità decida consapevolmente di dare permessi di decision making governativo all'intelligenza artificiale. Infatti, quando si dibatte su questi temi e si prova a dare esempi pratici di distruzione, si parla spesso di governi guidati dall'IA o di riferimenti a infrastrutture in cui l'IA può dare un comando e un intero quartiere o città smettono di funzionare.
Quindi i prerequisiti sono tre:
- Che la società sia globalmente più tecnologica
- Che la forza bellica statale sia composta in gran parte da robot
- Che l'umanità abbia deciso di dare potere decisionale (e non di advising) all'IA in ambito governativo
In dieci anni? La vedo dura.
Detto ciò
Era corretto fare chiarezza perché il dibattito è necessario, e chi lavora nel settore ne parla già da anni (in Morning Tech abbiamo scritto una serie sull'IA divisa in tre parti proprio l'anno scorso), ma non è corretto iniziare il dibattito con una cifra probabilistica campata per aria e un termine a dieci anni ancora più fittizio.
I rischi dell'IA ci sono, sono tanti, e non vorrei parlarne adesso perché lo abbiamo già fatto. Quello che ha detto Amodei ha senso: «Invece che concentrarsi sul 5, 10, o 20%, concentriamoci su cosa fare per azzerarlo». Quello che le persone fanno fatica a capire — e penso che sia dovuto anche all'hype generale sul tema — è che i "contenitori" dell'IA li costruiamo noi. Se decidiamo di dare potere di decision making governativo all'IA dobbiamo attivamente costruire questa possibilità a livello di infrastruttura. L'IA ha chiaramente dei limiti, non può uscire di casa e fare qualcosa di fisico che non sia progettato per contenerlo.
Per intendersi, non può riparare un cavo rotto su una torretta a 90 metri dal suolo, ma se quella torretta è stata sviluppata insieme a un mini robot collegato a un'IA centrale che può guidare una riparazione, allora sì. Ma quanto ci vorrà prima che si esca di casa a Firenze, e i lampioni sul Lungarno sono tutti collegati a un'IA centrale che magari prende decisioni al posto del sindaco? Può, succedere, ma entro dieci anni? E poi, può fare estinguere l'umanità?
La possibilità di estinzione riguarda un livello tecnologico e precise decisioni operative che la rendono davvero difficile, ma sicuramente non nego che possa creare degli incidenti grossi. Questo articolo si concentra sull'assumption rispetto all'estinzione di massa ma non nega in nessun modo che un giorno al posto di Hugging Face ci possa essere un ospedale, il mercato finanziario o le telecomunicazioni.
Ricordiamo anche che queste sono evenienze che avvengono già con i gruppi di hacker quando decidono di attaccare un servizio pubblico o governativo e mettono fuori uso intere reti.
Dobbiamo regolare?
Ma certamente, mentre suona molto meno logico il "rallentamento" che propone Amodei e, nonostante stimi molto la persona, trovo che non sia la prima volta che dice qualcosa per strizzare l'occhio ad una parte di pubblico, guarda caso a poche settimana dall'IPO di Anthropic (per queste IPO l'opinione pubblica è fondamentale, ed è il motivo per cui OpenAI, oggi finita su una lente peggiore, non si sta ancora quotando). Insomma la risposta "rallentiamo" è tanto toccante quanto non realistica.
Ricordiamo poi che l'Europea ha già in vigore l'AI Act, sempre più severo con i modelli, e che gli Stati Uniti ad oggi non hanno una legge federale ma ce ne sono molte sul tavolo fra cui la Sanders-Casar che andrebbe a spegnere totalmente l'IA in caso di raggiungimento dell'AGI.
