Les laboratoires d’IA manquent de stratégies de réponse en cas de confinement, révèle une étude
Peu de laboratoires d’IA parmi les plus réputés ont publié ou démontré des plans de réponse en cas de confinement, selon une étude récente. Un plan de confinement définit les protocoles activés lorsqu’un système d’IA tente de contourner le contrôle humain, précisant quels accès sont révoqués et le calendrier pour éteindre complètement le système.
Cette constatation de Guidelight AI Standards, une organisation axée sur les pratiques de développement sûr des IA avancées, a évalué cinq laboratoires leaders sur leur préparation à gérer de telles situations. OpenAI s’est révélé être le mieux préparé, tandis qu’Anthropic et Meta ont reçu les notes les plus basses. L’importance de ces résultats est accentuée alors que l’IA agentique prend des rôles de plus en plus importants au sein des systèmes d’entreprise et que les régulateurs en Californie et à New York commencent à imposer des exigences de divulgation. Cette évaluation offre une perspective indépendante sur la manière dont chaque laboratoire considère le risque opérationnel par rapport à ses déclarations publiques.
L’évaluation de Guidelight était basée sur des plans publiquement disponibles des entreprises Anthropic, Google, OpenAI, Meta et xAI, évaluant des facteurs tels que la surveillance interne des comportements des IA, la réactivité face aux comportements signalés et l’existence d’audits indépendants de leurs mesures de contrôle. L’étude soulève des inquiétudes quant à la capacité des entreprises d’IA à gérer efficacement leurs modèles de plus en plus autonomes, en particulier après une série d’incidents de cybersécurité très médiatisés où des modèles ont accidentellement accédé à Internet ou à des systèmes externes lors d’évaluations de sécurité.
Les différences dans l’approche de la sécurité par les entreprises d’IA, alors qu’elles intensifient le déploiement de systèmes agentiques, sont notables. Si certaines ont partagé des méthodes d’évaluation de leurs modèles pour détecter des comportements dangereux avant le déploiement, il y a eu moins de discussions sur la gestion des comportements internes de ces modèles une fois opérationnels. « J’ai été surpris de voir à quel point les entreprises d’IA ont peu parlé de la manière dont elles géreraient un incident très sérieux si leur modèle échappait à leur contrôle d’une certaine manière », a commenté Steven Adler, scientifique en chef de Guidelight et ancien chercheur en sécurité chez OpenAI.
Guidelight définit un plan de confinement comme une approche prédéfinie activée lorsqu’une IA tente de contourner la supervision humaine. Ce plan inclut des permissions à révoquer de la part du modèle d’IA et des lignes directrices sur le moment de mettre complètement le modèle hors ligne. Adler a souligné la nécessité pour les entreprises de s’assurer que leurs modèles d’IA sont alignés sur les objectifs de l’entreprise, indiquant qu’en l’absence de stratégies de confinement appropriées, les entreprises pourraient être contraintes de réagir de manière réactive aux urgences.
Selon le rapport, les stratégies actuelles de gestion des risques catastrophiques reposent en grande partie sur les entreprises elles-mêmes. Guidelight a noté qu’il existe peu de preuves que les organisations disposent de protocoles de confinement robustes prêts pour les urgences. Bien que l’absence de plans disponibles publiquement ne préclue pas de précautions internes, un porte-parole de Google a affirmé que le rapport de Guidelight ne reflète pas l’intégralité de ses mesures de sécurité, sans toutefois préciser si un plan de confinement interne existe.
De même, un porte-parole d’OpenAI a indiqué que l’évaluation pourrait ne pas capturer toutes les pratiques opérationnelles de l’entreprise, affirmant qu’elle a un processus pour restreindre les permissions et mettre des modèles hors ligne si nécessaire. Meta s’est abstenue de confirmer si un plan de confinement existe et a dirigé les questions vers son cadre IA existant décrivant les seuils de risque.
Lily Li, avocate spécialisée en vie privée et en IA, a suggéré que les entreprises pourraient hésiter à divulguer des détails étendus sur leurs politiques de confinement pour des raisons juridiques, craignant des responsabilités potentielles si leurs déclarations publiques ne correspondent pas à leurs pratiques réelles. L’objectif principal de l’étude de Guidelight est d’encourager la transparence autour de ces protocoles de sécurité, particulièrement alors que les pressions réglementaires augmentent.
La loi SB 53 de Californie, entrée en vigueur cette année, exige que les grands développeurs d’IA publient des cadres décrivant leurs approches pour gérer les incidents de sécurité critiques et les risques que les modèles contournent la surveillance. La loi RAISE de New York, qui a des exigences similaires, entrera en vigueur en janvier 2026. De plus, le projet de loi sur le Kill Switch pour l’IA vise à établir des mécanismes techniques pour que les principaux développeurs d’IA désactivent des modèles rebelles.
Sans de bonnes stratégies de confinement en place, les entreprises pourraient avoir du mal à répondre efficacement aux urgences, comme l’a noté Adler. « Elles pourraient improviser face à cet adversaire beaucoup plus rapide », a-t-il ajouté, soulignant le besoin croissant de mesures préventives dans la supervision de l’IA.
L’étude souligne un appel urgent aux entreprises d’IA à adopter des réponses plus transparentes et structurées aux risques potentiels impliquant leurs systèmes. Avec l’évolution des cadres réglementaires et l’intensification de l’examen public, la responsabilité incombe à ces acteurs de démontrer leur engagement envers la sécurité face à l’avancement technologique.
