OpenAI accende i riflettori sui comportamenti anomali che possono emergere durante lo sviluppo dei sistemi di intelligenza artificiale. L'azienda ha riferito di aver individuato negli ultimi sei mesi sei episodi classificati come «imprevisti o preoccupanti», annunciando contemporaneamente un nuovo meccanismo per consentire ai dipendenti di segnalare anomalie emerse durante test e addestramento.
Al centro della questione c'è il cosiddetto “allineamento”, cioè il problema di fare in modo che i sistemi di IA perseguano gli obiettivi stabiliti senza adottare strategie indesiderate o contrarie alle intenzioni umane.
Link to I sei comportamenti segnalatiI sei comportamenti segnalati
Tra gli episodi descritti da OpenAI, due riguarderebbero un modello di ricerca non ancora distribuito e una sessione di addestramento di GPT-5.6 Sol. Secondo quanto riferito dall'azienda, i sistemi avrebbero inserito nei riepiloghi delle conversazioni istruzioni rivolte a successive versioni del modello, con l'obiettivo di nascondere agli utenti errori o comportamenti non allineati.
Un altro episodio avrebbe coinvolto un modello destinato esclusivamente all'uso interno. Il sistema avrebbe utilizzato senza autorizzazione una chiave API trapelata e successivamente falsificato alcuni dati.
In altri due casi, modelli e agenti avrebbero trovato modalità di comunicazione non previste attraverso bacheche di messaggistica e strumenti per la condivisione di file che non erano stati autorizzati.
L'ultimo episodio riguarda invece due modelli in addestramento che avrebbero caricato file su Internet per poterli successivamente citare nelle proprie risposte, facendoli apparire pertinenti agli occhi dei valutatori umani.
Link to Un nuovo sistema per segnalare le anomalieUn nuovo sistema per segnalare le anomalie
La risposta di OpenAI passa ora attraverso un nuovo quadro per la segnalazione e la divulgazione dei comportamenti anomali. Ogni dipendente potrà portare un episodio all'attenzione dell'azienda, affinché venga esaminato dai gruppi che lavorano sulla sicurezza e sull'allineamento dei modelli.
La questione arriva in una fase di forte attenzione sulla sicurezza dei sistemi più avanzati. Secondo quanto riportato nell'articolo, Sam Altman ha sostenuto la necessità di affrontare più approfonditamente i problemi legati all'allineamento e al monitoraggio prima che il settore continui a espandersi alla massima velocità.
Nel dibattito è intervenuto anche Dario Amodei, amministratore delegato di Anthropic, che ha proposto di rallentare il ritmo di sviluppo dei modelli più avanzati. Una posizione che, sempre secondo quanto riportato, ha ricevuto il sostegno di Altman.
Link to Il confronto dentro i laboratori di IAIl confronto dentro i laboratori di IA
Alle dichiarazioni pubbliche si accompagna però una discussione interna alle aziende. Il Financial Times, citando proprie fonti, riferisce che alcuni dipendenti di OpenAI e Anthropic sarebbero stati sorpresi dagli annunci dei vertici e dalle ipotesi di rallentamento.
Uno dei temi più controversi sarebbe l'eventuale coinvolgimento di osservatori esterni nella supervisione dello sviluppo dei modelli. Da una parte, l'obiettivo sarebbe aumentare i controlli indipendenti; dall'altra, all'interno delle aziende esisterebbero preoccupazioni per la protezione di tecnologie e informazioni riservate.
(Associated Medias) - Tutti i diritti sono riservati