David Robinson mette in discussione la sicurezza e il ritmo di sviluppo di OpenAI

David Robinson ha lasciato OpenAI dopo tre anni e mezzo e ha esposto le sue critiche alla cultura e alle pratiche di sicurezza dell’azienda in un saggio pubblicato su The Atlantic. L’ex dipendente, che ha partecipato alla redazione di rapporti sulla sicurezza per il lancio di modelli, ha descritto la cultura interna come «rotta» e sostenuto che il rapido sviluppo dell’intelligenza artificiale richiede controlli più rigorosi.

Le critiche al rilascio iterativo

Robinson ha messo in discussione l’approccio che OpenAI definisce rilascio iterativo: lanciare i sistemi, osservarne il comportamento nell’uso e adeguare le protezioni sulla base dei problemi rilevati. A suo avviso, questo metodo è insufficiente di fronte alla velocità con cui progrediscono le capacità dei modelli e alla portata potenziale dei loro malfunzionamenti.

L’ex dipendente ha sostenuto che i sistemi più avanzati richiedono misure paragonabili, per rigore e pianificazione, a quelle adottate in settori critici come l’aviazione e l’energia nucleare. Ha inoltre messo in dubbio che gli strumenti attuali consentano di valutare adeguatamente se i sistemi agiscano in linea con i valori umani. Si tratta delle sue valutazioni e proposte; le informazioni disponibili non le attestano come conclusioni verificate in modo indipendente.

OpenAI afferma di stare rafforzando i propri controlli

In risposta alle critiche, il portavoce di OpenAI Drew Pusateri ha affermato che l’azienda continua a migliorare i propri meccanismi di sicurezza e che può interrompere l’addestramento o ritardare il lancio dei modelli quando ritiene necessario rallentare.

Pusateri ha inoltre dichiarato che l’azienda sta rafforzando la sicurezza dei propri ambienti di ricerca e sperimentazione, ampliando il coinvolgimento di valutatori esterni e migliorando il monitoraggio per rilevare comportamenti preoccupanti nelle prime fasi dell’addestramento. La risposta descrive le misure che, secondo OpenAI, sta introducendo; da sola, non risolve le obiezioni sollevate da Robinson.

L’uscita del ricercatore avviene nel mezzo del dibattito su come le aziende dovrebbero gestire i rischi dei modelli avanzati. Robinson sostiene che la questione non si limita ad aggiungere regole o approvare leggi: chiede cambiamenti più profondi nelle pratiche e negli incentivi, affinché la sicurezza abbia un peso maggiore rispetto alla velocità di sviluppo. Le fonti disponibili riportano sia questa critica sia la risposta dell’azienda, ma non forniscono una valutazione indipendente che consenta di determinare la portata delle carenze denunciate.