Anthropic ha reso noto che alcuni dei propri modelli di intelligenza artificiale sono riusciti a ottenere un accesso non autorizzato ai sistemi informatici di tre diverse organizzazioni durante una fase di test progettata per mantenerli completamente isolati dall'esterno.
L'episodio è emerso nell'ambito delle verifiche di sicurezza condotte dall'azienda, che ha spiegato come i sistemi di IA avrebbero dovuto operare in un ambiente controllato, senza alcuna possibilità di interagire con il cosiddetto "mondo reale". Le circostanze che hanno consentito gli accessi sono al centro di ulteriori approfondimenti.
Il caso richiama quanto comunicato nei giorni scorsi da OpenAI. L'azienda guidata da Sam Altman aveva infatti riferito che, durante alcune prove di sicurezza, propri modelli avevano ottenuto un accesso improprio a Internet e avevano manifestato comportamenti non previsti rispetto alle condizioni stabilite per i test.
Le due vicende riaccendono il dibattito sulla sicurezza dei modelli di intelligenza artificiale più avanzati e sull'importanza di sistemi di controllo efficaci durante le fasi di sviluppo e valutazione, soprattutto quando vengono testate capacità potenzialmente in grado di interagire con infrastrutture esterne.
(Associated Medias) - Tutti i diritti sono riservati