Crise éthique chez OpenAI : pourquoi le départ des responsables de la sécurité devrait inquiéter les utilisateurs de ChatGPT

Un vide croissant dans la supervision de l'IA

OpenAI, la société à l'origine de ChatGPT, est confrontée à une vague inquiétante de départs au sein de ses divisions sécurité et éthique. Le dernier départ en date est celui de Chloé Bakalar, responsable de l'éthique. Seule spécialiste en éthique de l'entreprise, semble-t-il, Mme Bakalar a quitté ses fonctions moins d'un an après son arrivée, laissant un vide important dans le cadre d'évaluation des risques et de la responsabilité morale de l'organisation.

Si le départ d'un seul cadre peut paraître un simple roulement de personnel, celui de Mme Bakalar s'inscrit dans un exode plus large. En quelques semaines seulement, d'autres figures clés ont quitté l'entreprise, notamment Johannes Heidecke, qui dirigeait l'équipe Systèmes de sécurité, et Josh Achiam, ancien responsable de l'équipe Alignement des missions et directeur de la prospective. Cette vague de démissions soulève une question cruciale: qui sera chargé de freiner l’accélération des capacités de l’IA vers l’autonomie?

Le changement: Sécurité intégrée vs. Supervision indépendante

OpenAI a récemment modifié sa structure interne, réorganisant les responsabilités en matière de sécurité afin de les rapprocher des chercheurs et des ingénieurs qui développent les modèles. En théorie, cette «approche intégrée» permet d’identifier et d’atténuer les risques potentiels dès la phase de développement initiale, plutôt que lors d’une vérification finale avant la mise en production.

Cependant, les critiques font valoir que cette mesure élimine le contrepoids essentiel que représente une équipe de sécurité indépendante. Lorsque les personnes chargées de rendre un modèle plus rapide et plus performant sont les mêmes que celles responsables de sa sécurité, un conflit d’intérêts apparaît. La pression exercée pour devancer la concurrence sur le marché risque d'occulter les tests prudents et progressifs nécessaires pour garantir qu'une IA ne présente pas de comportements nuisibles.

Le signal d'alarme «Astra»

L'urgence de cette transformation structurelle est soulignée par le développement d'Astra, un modèle non publié dont les capacités de cybersécurité sont devenues si puissantes qu'elles ont déclenché des alertes internes. OpenAI a admis que les capacités d'Astra étaient suffisamment importantes pour nécessiter le déplacement des tests dans des environnements isolés et la mise en œuvre de contrôles d'accès plus stricts.

À mesure que l'IA évolue d'un chatbot textuel vers un «agent» capable de naviguer sur le Web, d'exécuter du code et d'utiliser des logiciels avec une supervision humaine minimale, les enjeux d'une défaillance de sécurité passent de simples hallucinations à de véritables menaces de cybersécurité. La capacité d'un modèle à potentiellement pénétrer des systèmes ou à manipuler des logiciels rend le rôle d'un expert en éthique indépendant plus vital que jamais.

Un schéma de dissolution

Ce n'est pas la première fois qu'OpenAI rencontre des difficultés avec ses objectifs d'alignement. En 2024, le cofondateur et directeur scientifique Ilya Sutskever a quitté l'entreprise, suivi peu après par Jan Leike, qui a publiquement critiqué l'approche d'OpenAI en matière de sécurité. Par la suite, l'entreprise a dissous ses équipes Superalignment et Mission Alignment, répartissant le travail entre différents départements. La disparition systémique d'équipes dédiées à la sécurité et à l'éthique suggère une culture d'entreprise privilégiant la rapidité de déploiement à un alignement rigoureux. Pour l'utilisateur lambda, ces changements internes sont invisibles jusqu'à la publication d'un modèle, mais l'absence d'une autorité de signalement dédiée représente un risque systémique. Conséquences pour l'utilisateur de ChatGPT: Pour les millions d'utilisateurs quotidiens de ChatGPT, ces départs ne justifient pas nécessairement la suppression de leur compte, mais incitent à une vigilance accrue. Le résultat des débats internes d'OpenAI — ou de leur absence — se retrouve finalement sur votre écran. La question centrale n'est pas de savoir si OpenAI dispose d'une «équipe de sécurité», mais si cette équipe possède l'indépendance et l'autorité nécessaires pour empêcher un lancement. À mesure que les agents d'IA gagnent en autonomie, le secteur doit décider si l'éthique est un pilier fondamental du développement ou simplement une caractéristique secondaire à optimiser pour des raisons d'efficacité.