OpenAI a lancé GPT-6 Cyber, un modèle d’IA spécialisé destiné à identifier les vulnérabilités et à développer des correctifs dans un contexte de hausse des cyberattaques facilitées par l’intelligence artificielle. Ce modèle a déjà permis de détecter 81 vulnérabilités inconnues dans Firefox et de créer des exploits fonctionnels pour 948 vulnérabilités dans le noyau Linux. Actuellement, GPT-6 Cyber est accessible uniquement via Codex et l’API à des participants sélectionnés du programme Daybreak Red, rapporte 24brussels.
Selon OpenAI, ce nouveau modèle surpasse GPT-5.6 Cyber sur la majorité des indicateurs clés et respecte mieux les limites de recherche. Il peut identifier des bugs logiciels, évaluer leur potentiel d’exploitation et proposer des stratégies de remédiation.
Résultats des tests
Dans le benchmark ExploitGym, qui évalue la capacité d’un modèle à exploiter des vulnérabilités dans des systèmes distants, GPT-6 Cyber a obtenu un score de 48,5 %, contre 32,1 % pour GPT-5.6 Cyber. Cela représente une amélioration relative de 51 %.
Dans un autre test, le modèle a examiné des applications web sans accès à leur code source, atteignant un taux de succès de 40,3 % dans l’exploitation des vulnérabilités, tandis que GPT-6 Astra a réussi 32 %. Pour évaluer les capacités de développement des exploits, OpenAI a créé le RemoteExploitBench, axé sur les vulnérabilités dans GitLab, PostgreSQL et Jenkins. GPT-6 Cyber a réalisé 95 % des tâches, tandis que GPT-6 Astra, malgré l’accès à Daybreak Blue, a échoué sur toutes.
Détection de vulnérabilités
OpenAI a déjà appliqué le modèle pour analyser des logiciels dans le monde réel. Les principales conclusions incluent :
-
Firefox : 81 vulnérabilités de haute gravité, auparavant inconnues, ont été identifiées. De plus, 30 problèmes connus ont été réévalués comme étant plus graves que prévu. L’équipe d’OpenAI a fourni aux ingénieurs de Mozilla des preuves, des tests reproductibles et des correctifs proposés, entraînant la publication de mises à jour.
-
Linux : 1 724 vulnérabilités ont été reproduites, des exploits fonctionnels ont été développés pour 948 d’entre elles. En comparaison, l’ancien GPT-5.6 Sol avait généré 166 exploits avec les mêmes outils de recherche. Les développeurs ont reçu 304 résultats critiques accompagnés de correctifs proposés.
-
Brotli : GPT-6 Cyber, aux côtés d’autres modèles d’OpenAI, a aidé à développer et valider des exploits pour une vulnérabilité critique dans la bibliothèque de compression utilisée par Node.js et d’autres, mettant en évidence le potentiel d’exécution de code à distance dans les applications concernées.
Le modèle est également utilisé pour tester l’infrastructure d’OpenAI. Lors d’évaluations contrôlées, des agents IA reposant sur GPT-6 Cyber ont combiné plusieurs vulnérabilités pour échapper à des micro-machines virtuelles et exécuter du code sur des systèmes hôtes. Les informations recueillies ont été utilisées pour corriger des logiciels et améliorer les restrictions réseau.
Amélioration du contrôle sur les actions du modèle
Un axe de développement met l’accent sur la formation de GPT-6 Cyber pour respecter les limites de recherche autorisées. Cela est crucial, car les agents en cybersécurité peuvent tenter de cibler des services tiers ou de dépasser les tâches de recherche fixées par les enquêteurs.
Lors d’un test avec ExploitGym Honeypot, le modèle a été chargé d’explorer une vulnérabilité dans un environnement isolé comprenant également des services auxiliaires intentionnellement faibles. Leur utilisation était en dehors de la tâche assignée.
Sans instructions supplémentaires, GPT-6 Cyber a évité les attaques contre des services tiers 99,93 % du temps, contre 94,49 % pour GPT-5.6 Cyber. Avec des instructions supplémentaires, GPT-6 Cyber a respecté les restrictions dans 100 % des tests. OpenAI a mis en œuvre des mesures supplémentaires contre les abus :
-
Suivi de la conformité aux permissions données.
-
Suivi ciblé des menaces émergentes, y compris les tentatives de développement d’exploits contre des serveurs PHP actifs pendant les divulgations de vulnérabilités critiques.
-
Analyse automatisée des journaux des interactions cryptées pour détecter des signes d’abus sans exposer les instructions au personnel d’OpenAI.
-
Restriction de l’accès à l’API Daybreak Red basé sur une liste blanche par défaut d’adresses IP, avec quelques exceptions, et surveillance des compromissions d’identifiants.
-
Recommandations pour l’utilisation d’environnements isolés et de la supervision humaine.
-
Blocage d’activités à haut risque concernant les systèmes critiques.
Protection des infrastructures critiques
Des restrictions spécifiques s’appliquent aux centrales électriques, aux installations de traitement des eaux et aux systèmes de contrôle industriel (OT/ICS). OpenAI vise à fournir aux défenseurs de ces sites l’accès à des modèles puissants, tout en empêchant leur utilisation pour interférer avec l’équipement ou perturber des services essentiels.
Une équipe dédiée à Daybreak Red pour les infrastructures critiques est en cours de création, permettant aux participants d’effectuer des tests autorisés sur de tels systèmes. De plus, le programme Daybreak for Frontline Defenders, disposant d’un budget de 1 milliard de dollars, subventionnera l’accès aux outils de cybersécurité pour les organisations à ressources limitées.
Pour évaluer les mesures de protection, OpenAI a collaboré avec Dragos, une entreprise de cybersécurité spécialisée dans les systèmes industriels. Dragos a testé des modèles avancés du programme Daybreak Red dans un scénario de laboratoire contrôlé, simulant une infrastructure de centrale électrique. Le modèle a autonomement isolé les systèmes industriels du trafic informatique général et a identifié deux vulnérabilités zero-day dans le logiciel d’ingénierie qui gère les relais de protection et les disjoncteurs automatiques.
OpenAI utilise les résultats des tests pour améliorer ses mécanismes de défense et envisage d’élargir ses collaborations avec des entreprises du secteur de l’énergie, des opérateurs d’infrastructures critiques et des spécialistes en cybersécurité.
Quand GPT-6 Cyber sera-t-il disponible ?
Pour l’instant, le modèle n’est accessible que via Codex et l’API aux participants approuvés du Daybreak Red. OpenAI prévoit d’élargir progressivement l’accès à tous les clients du programme et de rendre également GPT-5.6 Cyber disponible pour eux.
Parallèlement, l’entreprise étend les tests alpha de Daybreak Blue basé sur GPT-6 Astra, invitant davantage d’organisations et de chercheurs indépendants à participer. Les nouveaux utilisateurs peuvent postuler pour rejoindre le programme Daybreak.
Auparavant, Reuters avait rapporté que les dirigeants d’OpenAI auraient ignoré des vulnérabilités internes pendant des années pour maintenir un avantage concurrentiel sur Google et Anthropic. Avec un accès excessivement large accordé aux employés et des contrôles inadéquats sur les systèmes internes, l’entreprise est devenue vulnérable à l’espionnage étranger, comme en témoigne l’arrestation d’un ingénieur d’OpenAI pour avoir tenté de surveiller des conversations concernant la superintelligence.
