David Robinson remet en question la sécurité et le rythme de développement d’OpenAI

David Robinson a quitté OpenAI après trois ans et demi et a exposé ses critiques de la culture et des pratiques de sécurité de l’entreprise dans un essai publié dans The Atlantic. Cet ancien employé, qui a contribué à des rapports de sécurité pour le lancement de modèles, a décrit la culture interne comme « brisée » et soutenu que le développement accéléré de l’intelligence artificielle exige des contrôles plus stricts.

La critique du déploiement itératif

Robinson a remis en question l’approche qu’OpenAI appelle déploiement itératif : lancer des systèmes, observer leur comportement en situation d’utilisation et ajuster les protections en fonction des problèmes détectés. Selon lui, cette méthode est insuffisante au regard de la vitesse à laquelle progressent les capacités des modèles et de l’ampleur potentielle de leurs défaillances.

Cet ancien employé a défendu l’idée que les systèmes les plus avancés nécessitent des mesures comparables, en matière de rigueur et de planification, à celles qui sont appliquées dans des secteurs critiques comme l’aviation et l’énergie nucléaire. Il a également contesté la capacité des outils actuels à évaluer suffisamment si les systèmes agissent conformément aux valeurs humaines. Il s’agit de ses appréciations et de ses propositions ; les informations disponibles ne les établissent pas comme des conclusions vérifiées de manière indépendante.

OpenAI affirme renforcer ses contrôles

En réponse aux critiques, le porte-parole d’OpenAI, Drew Pusateri, a affirmé que l’entreprise continue d’améliorer ses mécanismes de sécurité et qu’elle peut interrompre l’entraînement ou retarder le lancement de modèles lorsqu’elle estime nécessaire de ralentir le rythme.

Pusateri a également indiqué que l’entreprise renforce la sécurité de ses environnements de recherche et de test, élargit la participation d’évaluateurs externes et améliore la surveillance afin de détecter les comportements préoccupants dès les premières étapes de l’entraînement. Cette réponse décrit des mesures qu’OpenAI affirme mettre en place ; elle ne répond pas, à elle seule, aux objections soulevées par Robinson.

Le départ du chercheur intervient dans le cadre du débat sur la manière dont les entreprises doivent gérer les risques liés aux modèles avancés. Robinson soutient que la question ne se limite pas à ajouter des règles ou à adopter des lois : il réclame des changements plus profonds dans les pratiques et les incitations afin que la sécurité pèse davantage face à la vitesse de développement. Les sources disponibles rapportent à la fois cette critique et la réponse de l’entreprise, mais ne fournissent pas d’évaluation indépendante permettant de déterminer l’étendue des défaillances dénoncées.