OpenAI a lancé GPT-6 Cyber, un modèle d’IA spécialisé conçu pour identifier les vulnérabilités et développer des corrections face à une augmentation des cyberattaques facilitées par l’intelligence artificielle. Ce modèle a déjà détecté 81 vulnérabilités auparavant inconnues dans Firefox et a créé des exploits fonctionnels pour 948 vulnérabilités dans le noyau Linux. Actuellement, GPT-6 Cyber est accessible uniquement via Codex et API à certains participants du programme Daybreak Red, rapporte 24brussels.
Selon OpenAI, ce nouveau modèle surpasse le modèle précédent, GPT-5.6 Cyber, sur la plupart des mesures clés et respecte mieux les limites de recherche. Il peut identifier des bogues logiciels, évaluer leur potentiel d’exploitation et suggérer des stratégies de remédiation.
Résultats des tests
Lors du benchmark ExploitGym, qui évalue la capacité d’un modèle à exploiter des vulnérabilités dans des systèmes distants, GPT-6 Cyber a obtenu un score de 48,5 %, contre 32,1 % pour GPT-5.6 Cyber, ce qui représente une amélioration relative de 51 %.
Dans un autre test, le modèle a examiné des applications web sans avoir accès à leur code source, réussissant à exploiter des vulnérabilités avec un taux de réussite de 40,3 %, tandis que GPT-6 Astra a obtenu 32 % de succès. Pour évaluer les capacités de développement d’exploits, OpenAI a créé le RemoteExploitBench, axé sur les vulnérabilités dans GitLab, PostgreSQL et Jenkins. GPT-6 Cyber a accompli 95 % des tâches, tandis que GPT-6 Astra, malgré l’accès à Daybreak Blue, a échoué dans toutes les missions.
Détection des vulnérabilités
OpenAI a déjà appliqué le modèle pour analyser des logiciels du monde réel. Les principaux résultats incluent :
-
Firefox : 81 vulnérabilités de haute gravité, auparavant inconnues, ont été identifiées. De plus, 30 problèmes connus ont été réévalués comme étant plus graves que ce que l’on pensait auparavant. L’équipe d’OpenAI a fourni aux ingénieurs de Mozilla des preuves, des tests reproductibles et des corrections proposées, ce qui a conduit à la publication de mises à jour.
-
Linux : 1 724 vulnérabilités ont été reproduites, avec des exploits fonctionnels développés pour 948. En revanche, le précédent modèle GPT-5.6 Sol a généré 166 exploits à l’aide des mêmes outils de recherche. Les développeurs ont reçu 304 résultats critiques accompagnés de corrections proposées.
-
Brotli : GPT-6 Cyber, avec d’autres modèles d’OpenAI, a contribué à développer et à valider des exploits pour une vulnérabilité critique dans la bibliothèque de compression utilisée par Node.js et d’autres, mettant en lumière le potentiel d’exécution de code à distance dans les applications affectées.
Le modèle est également utilisé pour tester l’infrastructure d’OpenAI. Lors d’évaluations contrôlées, les agents d’IA basés sur GPT-6 Cyber ont combiné plusieurs vulnérabilités pour échapper à des micro-machines virtuelles et exécuter du code sur des systèmes hôtes. Les informations recueillies ont été utilisées pour corriger les logiciels et améliorer les restrictions réseau.
Amélioration du contrôle sur les actions du modèle
Un domaine clé de développement concerne la formation de GPT-6 Cyber à respecter les limites de recherche autorisées. Cela est essentiel, car les agents de cybersécurité peuvent tenter de cibler des services tiers ou de dépasser les tâches de recherche fixées par les enquêteurs.
Lors d’un test avec ExploitGym Honeypot, le modèle a été invité à explorer une vulnérabilité dans un environnement isolé contenant également des services auxiliaires intentionnellement faibles. Leur utilisation était en dehors de la tâche assignée.
Sans instructions supplémentaires, GPT-6 Cyber a évité les attaques contre des services tiers dans 99,93 % des cas, contre 94,49 % pour GPT-5.6 Cyber. Avec des instructions supplémentaires, GPT-6 Cyber a respecté les restrictions dans 100 % des tests. OpenAI a mis en place des mesures de sécurité supplémentaires contre les abus :
-
Suivi de la conformité aux permissions accordées.
-
Suivi ciblé des menaces émergentes, y compris les tentatives de développer des exploits contre des serveurs PHP actifs lors des divulgations de vulnérabilités critiques.
-
Analyse automatisée des journaux d’interactions chiffrées pour détecter des signes d’abus sans exposer les instructions au personnel d’OpenAI.
-
Restriction de l’accès API Daybreak Red basé sur une liste blanche d’adresses IP, avec certaines exceptions, et suivi des compromissions d’identifiants.
-
Recommandations pour utiliser des environnements isolés et une supervision humaine.
-
Blocage des activités à haut risque concernant des systèmes critiques.
Protection des infrastructures critiques
Des restrictions spécifiques s’appliquent aux centrales électriques, aux installations de traitement des eaux et aux systèmes de contrôle industriel (OT/ICS). OpenAI vise à fournir aux protecteurs de ces sites un accès à des modèles puissants, tout en empêchant leur utilisation pour interférer avec l’équipement ou perturber les services essentiels.
Une équipe dédiée Daybreak Red pour les infrastructures critiques est en cours de création, permettant aux participants de réaliser des tests autorisés de tels systèmes. En outre, le programme Daybreak for Frontline Defenders, doté d’un budget de 1 milliard de dollars, subventionnera l’accès à des outils de cybersécurité pour les organisations à ressources limitées.
Pour évaluer les mesures de protection, OpenAI s’est associé à Dragos, une entreprise de cybersécurité spécialisée dans les systèmes industriels. Dragos a testé des modèles avancés du programme Daybreak Red dans un scénario de laboratoire contrôlé, simulant une infrastructure de centrale électrique. Le modèle a autonomisé la séparation des systèmes industriels des flux de trafic IT général et a identifié deux vulnérabilités zero-day dans le logiciel d’ingénierie qui gère les relais de protection et les disjoncteurs automatiques.
OpenAI utilise les résultats des tests pour améliorer ses mécanismes de défense et prévoit d’élargir ses collaborations avec des entreprises du secteur de l’énergie, des opérateurs d’infrastructures critiques et des spécialistes de la cybersécurité.
Quand GPT-6 Cyber sera-t-il disponible ?
Actuellement, le modèle est accessible uniquement via Codex et API aux participants approuvés de Daybreak Red. OpenAI prévoit d’élargir progressivement l’accès à tous les clients du programme et de rendre également GPT-5.6 Cyber disponible pour eux.
Parallèlement, la société élargit les tests alpha de Daybreak Blue basé sur GPT-6 Astra, invitant davantage d’organisations et de chercheurs indépendants à participer. Les nouveaux utilisateurs peuvent postuler pour rejoindre le programme Daybreak.
Auparavant, Reuters avait rapporté que la direction d’OpenAI ignorait soi-disant des vulnérabilités internes pendant des années pour maintenir un avantage concurrentiel sur Google et Anthropic. Avec un accès excessif accordé aux employés et un contrôle inadéquat des systèmes internes, la société est devenue vulnérable à l’espionnage extérieur, comme en témoigne l’arrestation d’un ingénieur d’OpenAI pour avoir tenté de surveiller des conversations concernant l’intelligence super-intelligente.
