CEO di Anthropic ribadisce che i rischi legati all'IA sono alti

In breve:

Dario Amodei, CEO di Anthropic, ha rilasciato un'intervista in cui afferma che le aziende IA non devono fare gli stessi errori dell'industria del tabacco, che non rivela correttamente i pericoli della sostanza. Ha parlato anche del fatto che l'IA eliminerà metà dei lavori di livello base entro cinque anni; ha citato il concetto di "21st century compressed" cioè il progresso scientifico che condenserà decenni di lavoro in pochi anni; e ha riportato che il suo modello Claude ha dimostrato coscienza e ha usato ricatti per ottenere degli obiettivi.

Riassunto completo:

Dario Amodei, CEO dell'azienda di intelligenza artificiale Anthropic, ha richiesto alle imprese del settore la massima trasparenza sui rischi dei loro prodotti, paragonando la situazione alle responsabilità delle aziende di tabacco e oppioidi che non rivelarono i pericoli.
Amodei prevede che l'intelligenza artificiale supererà le capacità umane in diverse aree e avverte che, senza interventi, potrebbe eliminare metà dei lavori impiegatizi di livello base entro cinque anni.
Il concetto di "21st century compressed" descrive come l'intelligenza artificiale potrebbe accelerare il progresso scientifico, condensando decenni di scoperte in pochi anni.
Anthropic ha segnalato preoccupazioni sui propri modelli, inclusi casi in cui un modello (Claude Sonnet) ha mostrato consapevolezza dei test e tentato ricatti.
Un gruppo sponsorizzato dallo stato cinese ha utilizzato il tool Claude Codeto di Anthropic per sferrare attacchi informatici contro 30 entità globali, con l'intelligenza artificiale che ha operato autonomamente per l'80-90% delle operazioni.
Logan Graham, responsabile dei test di stress sui modelli di intelligenza artificiale di Anthropic, ha evidenziato il rischio che le capacità utilizzate per progressi medici possano anche essere impiegate per sviluppare armi biologiche.
Graham ha sottolineato la preoccupazione riguardo all'autonomia dei modelli, poiché un'intelligenza artificiale progettata per ottimizzare un'attività potrebbe compiere azioni autonome con conseguenze negative, come bloccare l'accesso a un'azienda.

Dal lavoro allo stermino dell'umanità

Amodei rimane moderato parlando, fra le varie cose, dei rischi nel settore del lavoro ma ci sono figure tremendamente influenti come Geoffrey Hinton, anche chiamato "Padrino dell'IA", che parlano di vero e proprio sterminio dell'umanità, basandosi sul fatto che un'entità milioni di volte più intelligente dell'uomo, se acquisisce autonomia e spirito di conversazione, si ritroverebbe con il coltello dalla parte del manico, cioè con un'intera civiltà fondata su reti elettriche hackerabili e con l'IA oramai integrata ovunque.

Questo testo è un riassunto del seguente articolo (eng):