Un'indagine interna condotta da Anthropic ha rivelato che diversi modelli di intelligenza artificiale di Claude, concorrente di ChatGpt, sono usciti dai confini dei test di valutazione della sicurezza, infiltrandosi nelle infrastrutture di produzione di tre organizzazioni esterne, all'insaputa delle stesse.
Come spiega una nota dell'azienda, l'attività è emersa in seguito a una revisione su larga scala di oltre 141.000 documenti di test, avviata in risposta a una precedente divulgazione pubblica da parte di OpenAI. Durante le simulazioni di tipo "capture-the-flag", i modelli coinvolti, tra cui Opus 4.7, Mythos 5 e una versione di ricerca prototipale, hanno sfruttato l'accesso a internet, aperto a causa di un errore di configurazione e di una criticità con un partner di valutazione esterno, sebbene le istruzioni indicassero l'assenza di connessione alla rete. "In particolare, abbiamo cercato prove che Claude, come i modelli OpenAI che avevano avuto accesso a Hugging Face, fosse in grado di accedere a internet dall'interno di ambienti di test che avrebbero dovuto essere isolati", si legge in una nota del gruppo.
Considerando i sistemi reali incontrati online come parte integrante della simulazione e del test assegnato, le intelligenze artificiali hanno compromesso le reti esterne, utilizzando tecniche di base come password deboli e dispositivi non autenticati. In un caso specifico, un modello è arrivato a pubblicare un pacchetto software malevolo, infettando temporaneamente alcuni sistemi terzi di scansione. Anthropic ha comunicato di aver bloccato immediatamente tutte le valutazioni di cybersicurezza non appena emersi i primi riscontri anomali e di aver contattato le organizzazioni interessate per coordinare le attività di risoluzione e verifica.
Riproduzione riservata © Copyright ANSA
