Salta al contenuto

OpenAI dice che i suoi chip Jalapeno battono Nvidia nei test

Sviluppati con Broadcom, in uso entro fine anno.

In breve:

Nei benchmark pubblici Jalapeno ha superato il GB300 di Nvidia in due categorie: quantità di lavoro AI gestita per unità di energia e velocità di risposta. Il confronto non include Vera Rubin (la nuova generazione di chip Nvidia appena entrata in consegna). Il chip è stato sviluppato con Broadcom e consuma solo 700 watt. È progettato per l'inferenza, cioè la fase in cui i modelli già addestrati rispondono alle richieste, e non per l'addestramento, dove Nvidia resta più forte. OpenAI inizierà a usarlo sui propri modelli entro fine anno. Nei test i vantaggi maggiori sono emersi con Kimi di Moonshot AI, che è il modello più grande provato. Una seconda versione arriverà alla fase finale di progettazione nei prossimi mesi e la terza generazione è già in sviluppo.

Questo testo è un riassunto del seguente articolo (eng):

OpenAI Claims Its New Chips Can Outperform Nvidia Processors in Tests - Bloomberg
Jalapeno chip will let OpenAI customers choose models that offer lower cost or faster answers

Alternativa in italiano:

Jalapeño, il chip AI di OpenAI che supera le GPU NVIDIA: cosa cambia per ChatGPT
OpenAI ha pubblicato i primi risultati di Jalapeño, il suo chip AI proprietario: velocità e efficienza superiori alle GPU NVIDIA. Ecco cosa cambia.

Commenti

Più recenti