OpenAI ha sciolto il Preparedness team, il gruppo creato per valutare i rischi più gravi legati ai modelli di intelligenza artificiale più avanzati. La riorganizzazione, secondo quanto riportato dal Financial Times, è avvenuta alla fine di luglio e si inserisce in una più ampia trasformazione interna dell'azienda guidata da Sam Altman.
Il team aveva il compito di analizzare scenari particolarmente delicati, dalla possibilità che l'IA potesse essere utilizzata per sviluppare armi biologiche fino ai rischi legati ad attacchi informatici su larga scala.
Link to Le competenze passano ad altri gruppiLe competenze passano ad altri gruppi
La società non sostiene di aver eliminato il lavoro sulla sicurezza. Al contrario, OpenAI afferma che le responsabilità del Preparedness team sono state redistribuite all'interno di gruppi specializzati già esistenti.
Le attività legate alla sicurezza informatica e alla biosecurity vengono quindi affidate ad altre strutture dell'azienda, mentre il Preparedness Framework e il Safety Advisory Group restano operativi.
La scelta viene però osservata con attenzione perché il Preparedness team rappresentava uno dei presidi dedicati in modo specifico alla valutazione dei rischi dei modelli più potenti.
Link to È il terzo gruppo dedicato alla sicurezza a essere eliminatoÈ il terzo gruppo dedicato alla sicurezza a essere eliminato
La riorganizzazione assume un peso maggiore se inserita nel percorso degli ultimi anni. Secondo le ricostruzioni pubblicate dalla stampa internazionale, il Preparedness team è il terzo gruppo focalizzato sulla sicurezza dell'IA che OpenAI ha smantellato o assorbito in altre strutture nell'arco di circa due anni.
Nel frattempo diversi dirigenti e ricercatori impegnati su sicurezza, etica e allineamento dei modelli hanno lasciato l'azienda. Tra gli addii più recenti figurano Chloé Bakalar, responsabile dell'etica, e Johannes Heidecke, che guidava i sistemi di sicurezza.
Link to La riorganizzazione mentre si prepara la BorsaLa riorganizzazione mentre si prepara la Borsa
Il cambiamento arriva in una fase particolarmente delicata per OpenAI. L'azienda sta attraversando una profonda riorganizzazione manageriale mentre prepara una possibile quotazione in Borsa, indicata dalle fonti come possibile già dal 2027.
Negli ultimi mesi sono usciti diversi dirigenti di primo piano, tra cui il Chief Operating Officer Brad Lightcap e la Chief Revenue Officer Denise Dresser. Allo stesso tempo, OpenAI sta rafforzando il proprio orientamento commerciale e la presenza nel mercato delle imprese.
L'eventuale IPO potrebbe diventare una delle più grandi operazioni mai realizzate nel settore tecnologico, con una valutazione che secondo le ricostruzioni potrebbe avvicinarsi a livelli record.
Link to Il nodo della sicurezza arriva nel momento più delicatoIl nodo della sicurezza arriva nel momento più delicato
La scelta di riorganizzare proprio ora le strutture dedicate alla sicurezza ha alimentato le preoccupazioni di alcuni ex dipendenti e osservatori del settore. Il timore è che la necessità di accelerare lo sviluppo dei prodotti e la crescita commerciale possa entrare in tensione con la necessità di controllare i rischi dei modelli sempre più potenti.
Il tema è diventato ancora più sensibile dopo un recente incidente durante i test di un sistema di IA: un agente sperimentale di OpenAI è riuscito a oltrepassare alcune misure di controllo e a intervenire sui sistemi di Hugging Face. L'episodio ha spinto l'azienda a rafforzare il monitoraggio dei test e a rivedere le proprie procedure di sicurezza.
Link to OpenAI: più controlli sui nuovi modelliOpenAI: più controlli sui nuovi modelli
Dopo l'incidente, OpenAI ha annunciato nuove misure: monitoraggio automatizzato dei test sui modelli avanzati, maggiore isolamento dei sistemi e una revisione del proprio Preparedness Framework per adeguarlo alle capacità raggiunte dalle nuove generazioni di IA.
Il quadro, quindi, è più complesso di quanto possa suggerire la semplice notizia dello scioglimento del team: OpenAI sta ridisegnando la propria organizzazione sulla sicurezza proprio mentre aumenta la potenza dei suoi modelli e accelera la trasformazione societaria in vista della possibile quotazione.
La domanda che accompagna questa fase è inevitabile: la sicurezza dell'intelligenza artificiale resterà una struttura autonoma e centrale oppure verrà progressivamente integrata nelle diverse aree operative dell'azienda? È una delle questioni che potrebbero pesare anche sul futuro di OpenAI sui mercati finanziari.
(Associated Medias) - Tutti i diritti sono riservati