Un journalisme utile pour comprendre, gérer et développer une entreprise.
RechercherCet ancien employé, qui a travaillé trois ans et demi dans l’entreprise, a qualifié sa culture interne de « brisée » et réclamé des contrôles plus rigoureux pour les modèles avancés. OpenAI affirme renforcer ses mesures de sécurité.
David Robinson a quitté OpenAI après trois ans et demi et a exposé ses critiques de la culture et des pratiques de sécurité de l’entreprise dans un essai publié dans The Atlantic. Cet ancien employé, qui a contribué à des rapports de sécurité pour le lancement de modèles, a décrit la culture interne comme « brisée » et soutenu que le développement accéléré de l’intelligence artificielle exige des contrôles plus stricts.
Robinson a remis en question l’approche qu’OpenAI appelle déploiement itératif : lancer des systèmes, observer leur comportement en situation d’utilisation et ajuster les protections en fonction des problèmes détectés. Selon lui, cette méthode est insuffisante au regard de la vitesse à laquelle progressent les capacités des modèles et de l’ampleur potentielle de leurs défaillances.
Cet ancien employé a défendu l’idée que les systèmes les plus avancés nécessitent des mesures comparables, en matière de rigueur et de planification, à celles qui sont appliquées dans des secteurs critiques comme l’aviation et l’énergie nucléaire. Il a également contesté la capacité des outils actuels à évaluer suffisamment si les systèmes agissent conformément aux valeurs humaines. Il s’agit de ses appréciations et de ses propositions ; les informations disponibles ne les établissent pas comme des conclusions vérifiées de manière indépendante.
En réponse aux critiques, le porte-parole d’OpenAI, Drew Pusateri, a affirmé que l’entreprise continue d’améliorer ses mécanismes de sécurité et qu’elle peut interrompre l’entraînement ou retarder le lancement de modèles lorsqu’elle estime nécessaire de ralentir le rythme.
Pusateri a également indiqué que l’entreprise renforce la sécurité de ses environnements de recherche et de test, élargit la participation d’évaluateurs externes et améliore la surveillance afin de détecter les comportements préoccupants dès les premières étapes de l’entraînement. Cette réponse décrit des mesures qu’OpenAI affirme mettre en place ; elle ne répond pas, à elle seule, aux objections soulevées par Robinson.
Le départ du chercheur intervient dans le cadre du débat sur la manière dont les entreprises doivent gérer les risques liés aux modèles avancés. Robinson soutient que la question ne se limite pas à ajouter des règles ou à adopter des lois : il réclame des changements plus profonds dans les pratiques et les incitations afin que la sécurité pèse davantage face à la vitesse de développement. Les sources disponibles rapportent à la fois cette critique et la réponse de l’entreprise, mais ne fournissent pas d’évaluation indépendante permettant de déterminer l’étendue des défaillances dénoncées.
Le ministère public estime que les faits ne constituent pas une infraction, mais sa demande ne vaut pas acquittement : la procédure doit suivre son cours devant l’Audiencia Provincial de Madrid.
LireLa réunion a débuté à La Valette le 7 octobre et a rassemblé plus de 1 000 délégués de plus de 100 pays. Le WTTC prévoit une croissance du tourisme de 3,1 % en Europe en 2026.
Lire
La loi actualise le cadre catalan de 2002, réglemente l’organisation et le financement des chambres et autorise des sièges attribués en fonction de contributions volontaires. Le Consell de Garanties Estatutàries avait préalablement approuvé le texte.
Lire