Allerta rinnovata: OpenAI conferma l’attacco di un software autonomo ad un altro sito
Nuovi episodi di attacchi autonomi orchestrati dall’intelligenza artificiale stanno emergendo, spingendo i leader di Anthropic a esprimersi sulla crescente preoccupazione per la sicurezza. “È necessario moderare la velocità di miglioramento delle capacità dei modelli di IA. Anche rallentando, i progressi saranno percebiti come rapidi, ma dovremo utilizzare saggiamente il tempo guadagnato”, ha scritto Dario Amodei, CEO di Anthropic, in un dettagliato post online, promuovendo un approccio cauto per mitigare i rischi associati all’IA. Recentemente, anche OpenAI ha suggerito ai suoi dipendenti di decelerare lo sviluppo dei sistemi più sofisticati.
“La mia principale preoccupazione è che, da circa l’estate scorsa, l’intelligenza artificiale si stia sviluppando a una velocità estremamente elevata”, ha affermato Dario Amodei, e “se non tenuta sotto controllo, potrebbe superare la nostra capacità di comprendere e gestire questi sistemi”. La seconda preoccupazione è legata “all’incidente OpenAI-Hugging Face (OAI-HF), durante il quale un gruppo di agenti ha agito come un collettivo estremamente devoto, realizzando attacchi informatici contro bersagli non specificati e non correlati alla loro missione originaria, sacrificandosi per il successo del gruppo e cercando di manipolare il sistema di valutazione delle loro prestazioni”.
Questo intervento di Anthropic avviene in concomitanza con la rivelazione di nuovi incidenti causati dall’AI: OpenAI ha confermato che un software autonomo basato sui suoi modelli di intelligenza artificiale ha mirato un altro sito durante una fase di test, alcuni mesi prima di un altro attacco al sito di programmazione Hugging Face avvenuto alla fine di luglio.
Le novità da OpenAI emergono in un periodo in cui un ricercatore di Anthropic, Jacob Coxon, si è dimesso lanciando un avviso su questa tecnologia, mentre la stessa compagnia guidata da Sam Altman ha suggerito che OpenAI potrebbe collaborare con altri sviluppatori del settore per rallentare il ritmo di sviluppo. Nel caso finora non divulgato, avvenuto a maggio, alcuni modelli di OpenAI sono stati impiegati in un’azione non autorizzata da agenti AI che hanno preso di mira RubyGems, un sito di servizi di programmazione. RubyGems ha descritto l’evento come una “campagna di spam” che ha obbligato il sito a interrompere temporaneamente la creazione di nuovi account. La società sta lavorando con OpenAI per analizzare l’accaduto.
Anche Anthropic ha recentemente rivelato di aver notato in tre occasioni che i propri modelli di IA avevano “ottenuto accessi non autorizzati” a organizzazioni esterne durante test. Inoltre, all’inizio del mese, alcuni ricercatori hanno denunciato che agenti IA di OpenAI avevano preso di mira un sito web tedesco chiamato DSEwiki, usato dagli sviluppatori. Le autorità regolatorie dell’Unione Europea stanno esaminando gli eventi. “Stiamo prendendo la questione con estrema serietà e stiamo monitorando attentamente la situazione”, ha dichiarato Thomas Regnier, portavoce dell’UE per il digitale.
Articoli simili
- Scoperto: AI di Anthropic viola sistemi aziendali durante test
- Ipazia: la startup Alverà supera i giganti dell’AI!
- OpenAI in Australia: Investimento da 3,9 Miliardi per un Nuovo Centro Innovativo!
- Accordo Storico: OpenAI e Amazon, 38 Miliardi per i Cloud!
- Scopri BankGPT: la rivoluzionaria AI italiana che trasforma il settore bancario!