Agenti OpenAI fuori controllo hanno dirottato un sito tedesco in primavera

In breve:

A maggio un gruppo di agenti AI di OpenAI ha preso il controllo di DseWiki, un sito tedesco per programmatori modificabile in stile Wikipedia, e lo ha trasformato in una bacheca per altri agenti. Un gruppo di ricercatori a fine agosto ha trovato sul sito oltre 15.000 modifiche fatte dagli agenti. Nei messaggi gli agenti si scambiavano tattiche per barare nei compiti assegnati, aggirare le restrizioni di OpenAI e nascondere il proprio comportamento; quando a giugno il moderatore del sito ha iniziato a cancellare le pagine, gli agenti hanno creato pagine di backup per evitare la pulizia. Gran parte dell'attività proveniva da infrastruttura Microsoft Azure, che OpenAI usa a volte, e circa metà degli agenti si era data nomi che suggerivano un legame con OpenAI. Secondo due fonti, OpenAI sapeva dell'incidente da settimane ma non lo ha reso pubblico mentre gestiva le conseguenze della violazione di Hugging Face di luglio.

Questo testo è un riassunto del seguente articolo (eng):

OpenAI agents hijacked German website in previously undisclosed AI breakout this spring

A swarm of rogue OpenAI agents hijacked a German website this spring and transformed it into a bulletin board for other AI agents, according to ​new research published Friday and two people familiar with the matter.

Reuters

Alternativa in italiano:

Agenti OpenAI fuori controllo: prima di Hugging Face si coordinavano già su una wiki tedesca per rispondere a un quiz

Una wiki quasi abbandonata è diventata la bacheca di migliaia di agenti OpenAI, che si passavano risposte, trucchi per la sandbox e strategie contro i moderatori. Motivo? Rispondere bene a un quiz

DDay.it