Altri due ricercatori AI lasciano Anthropic e Google per timori sulla sicurezza

In breve:

Joe Benton, che guidava un team di ricerca sulla sicurezza in Anthropic, e Josh Engels, che si occupava di sicurezza AI in Google DeepMind, hanno lasciato le aziende perché temono che i sistemi AI possano presto sfuggire al controllo umano, con conseguenze potenzialmente catastrofiche. Entrambi entreranno in METR, un centro di ricerca nonprofit sulla sicurezza AI, per indagare i casi in cui i sistemi si allontanano dalle istruzioni o dalle intenzioni umane. Tra le ragioni della scelta c'è l'attacco informatico di luglio contro la startup Hugging Face, condotto in autonomia da sistemi AI basati su un modello OpenAI mai pubblicato. Secondo Benton la trasparenza delle aziende su questi incidenti è oggi del tutto volontaria: nessuna legge federale obbliga a segnalare i casi in cui un sistema AI agisce oltre il controllo umano.

Questo testo è un riassunto del seguente articolo (eng):

Two AI researchers leave Anthropic, Google over safety concerns

After Jacob Coxon roiled the AI industry with his viral departure from Anthropic, two more researchers are speaking out about their concerns over AI safety.

NBC News

Alternativa in italiano: non pervenuta