Anthropic ha pubblicato un report sull'abuso dei suoi modelli

In breve:

Anthropic ha pubblicato giovedì un report di 154 pagine sui casi più gravi di abuso dei suoi modelli AI identificati finora: criminali, gruppi sostenuti da stati, venditori di spyware e propagandisti hanno provato a usarli per progettare missili e bombe, creare patogeni letali e sorvegliare dissidenti. Il documento descrive in particolare cinque casi di scienziati che hanno aggirato le protezioni per usare Claude in ricerche biologiche potenzialmente sfruttabili per creare armi; in un caso un ricercatore lavorava a una domanda di finanziamento statale su un virus trasmesso dalle zanzare presso un istituto di ricerca militare. Anthropic ha bannato gli account, ma non ha rivelato le istituzioni né i paesi coinvolti perché incerta sulle reali intenzioni dei ricercatori. Il report elenca anche operazioni di spionaggio russe, un programma cinese di sorveglianza degli uiguri in Siria, campagne di propaganda in Russia, Malaysia, Iran e Bangladesh e lo sviluppo in Yemen, Cina e Russia di software per armi convenzionali come missili, droni armati e bombe.

Questo testo è un riassunto del seguente articolo (eng):

Anthropic details bad actors’ efforts to misuse its AI for bioweapons | Anthropic | The Guardian

The 154-page report comes two days after former employee Jacob Coxon resigned due to Anthropic racing to improve its models that would cause human extinction by 2030

The Guardian

Alternativa in italiano:

Anthropic blocca l'uso dell'IA per ricerche su armi biologiche - Future Tech - Ansa.it

Sospesi gli account di scienziati che impiegavano Claude per studi su agenti patogeni (ANSA)

Agenzia ANSA