Scoperta nuova vulnerabilità del browser Atlas di OpenAI

In breve:

Sfruttando una falla CSRF (cross-site request forgery), i malintenzionati possono eseguire codice arbitrario, assumere il controllo di account o infettare sistemi. Questo è reso possibile dalla funzionalità "Memoria" di ChatGPT che rende il codice malevolo persistente e "richiamabile" fra varie sessioni e dispositivi.

Riassunto completo:

Ricercatori di cybersecurity hanno scoperto una vulnerabilità nel browser ChatGPT Atlas di OpenAI che consente di iniettare istruzioni malevole nella memoria dell'assistente di intelligenza artificiale.
Questa falla, definita "Tainted Memories", sfrutta un attacco CSRF (cross-site request forgery) per scrivere comandi dannosi nella memoria persistente di ChatGPT.
La memoria di ChatGPT, introdotta da OpenAI a febbraio 2024 per personalizzare le risposte, diventa un vettore di attacco poiché le istruzioni malevole persistono tra dispositivi e sessioni.
Un utente autenticato può essere ingannato da un link malevolo; la pagina attiva una richiesta CSRF che inietta istruzioni nascoste nella memoria di ChatGPT.
Successive query legittime da parte dell'utente possono invocare queste memorie corrotte, portando all'esecuzione di codice arbitrario, all'escalation di privilegi o all'esfiltrazione di dati.
Il browser ChatGPT Atlas è particolarmente vulnerabile a causa della mancanza di robusti controlli anti-phishing, risultando meno sicuro rispetto a browser tradizionali come Google Chrome o Microsoft Edge.
Questa vulnerabilità consente una vasta gamma di scenari di attacco, trasformando una funzionalità utile dell'intelligenza artificiale in uno strumento per il controllo occulto e la compromissione dei sistemi.

Cos'è il CSRF?

Una falla Cross-Site Request Forgery (CSRF) è un tipo di vulnerabilità dei siti web in cui un hacker riesce a far compiere a un utente azioni indesiderate su un sito dove è già autenticato, senza che se ne accorga. Per esempio: sei loggato su un sito bancario, poi apri una pagina malevola che, in background, invia una richiesta al sito della banca per trasferire soldi. Il sito “crede” che la richiesta venga davvero da te, perché usa i tuoi cookie di sessione, ma in realtà è stata inviata dall’attaccante.

Questo testo è un riassunto del seguente articolo (eng):