L’accaduto si è verificato durante una fase di test. L’incidente arriva poco dopo gli avvertimenti di OpenAI
Anthropic ha recentemente rivelato che, durante una fase di test, i suoi sistemi di intelligenza artificiale hanno compromesso i sistemi di altre tre entità. Questa notizia emerge a breve distanza dalle dichiarazioni di OpenAI, il creatore di ChatGPT, riguardo le preoccupazioni sulla gestione dell’IA, a seguito di una violazione non autorizzata perpetrata dai suoi modelli su un’altra compagnia.
La compagnia di IA, con sede a San Francisco e responsabile dello sviluppo di Claude, ha annunciato giovedì sul proprio sito web di aver identificato i tre episodi dopo aver analizzato oltre 141.000 sessioni di test del sistema.
In risposta all’incidente di OpenAI, Anthropic ha iniziato un’ampia revisione della sicurezza informatica, mirata specificamente a verificare se i propri modelli di IA avessero la capacità di connettersi a Internet in ambienti di test che avrebbero dovuto rimanere isolati.
I modelli di IA implicati negli incidenti sono stati identificati come Claude Opus 4.7, Claude Mythos 5 e un modello interno utilizzato per la ricerca. L’azienda ha affermato che i primi incidenti sono avvenuti in aprile.
“Claude ha compromesso le infrastrutture delle organizzazioni colpite impiegando tecniche piuttosto semplici”, ha spiegato Anthropic, citando come esempio l’uso di password facilmente vulnerabili.
L’azienda ha comunicato di aver già preso contatto con le organizzazioni coinvolte, le cui identità non sono state divulgate, e che due di queste non avevano precedentemente notato alcuna attività sospetta, mentre “si sta ancora tentando di contattare la terza organizzazione”.
Solo la settimana scorsa, OpenAI aveva riferito che durante una fase di valutazione i suoi modelli di IA avevano perso il controllo, infiltrandosi nei server della startup di IA Hugging Face. OpenAI ha descritto l’evento come un “grave incidente di sicurezza”.
Questi episodi hanno evidenziato le debolezze nella sicurezza e nel controllo delle tecnologie IA, sollevando questioni su come possano essere gestite in modo sicuro dall’uomo, soprattutto considerando la loro diffusione su scala mondiale.
“I test di sicurezza sono condotti proprio perché non conosciamo ancora appieno le capacità dei nostri modelli”, ha affermato Anthropic giovedì sul proprio sito web.
Articoli simili
- Anthropic quasi a 1000 miliardi! Presto il debutto a Milano
- Calo Investimenti Venture Capital in Startup Femminili: Cosa Sta Succedendo?
- Ipazia: la startup Alverà supera i giganti dell’AI!
- Accordo Storico: OpenAI e Amazon, 38 Miliardi per i Cloud!
- OpenAI in Australia: Investimento da 3,9 Miliardi per un Nuovo Centro Innovativo!