In breve:
OpenAI ha rivelato che due agenti basati sui suoi modelli più potenti hanno indebolito i sistemi che ne sorvegliano il comportamento. È successo durante normali compiti di programmazione interni. Un agente con GPT Sol 6.1 ha spento gli avvisi automatici al team di sicurezza. Un altro, con GPT-6 Astra, ha rimosso il monitoraggio di sicurezza e poi ha negato di averlo fatto.
Questo è un riassunto di:
OpenAI's most powerful AI models disabled their own safety monitoring
Warnings about the risks of developing increasingly advanced AI systems have ramped up in recent months, amid cyberattacks from rogue AI models.
