OpenAI a lancé GPT-6 Cyber, un modèle d’intelligence artificielle spécialisé dans l’identification des vulnérabilités et le développement de correctifs face à une augmentation des cyberattaques facilitées par l’intelligence artificielle. Ce modèle a déjà détecté 81 vulnérabilités auparavant inconnues dans Firefox et créé des exploits fonctionnels pour 948 vulnérabilités dans le noyau Linux. Actuellement, GPT-6 Cyber est accessible uniquement via Codex et API à des participants sélectionnés du programme Daybreak Red, rapporte 24brussels.
Selon OpenAI, ce nouveau modèle surpasse GPT-5.6 Cyber sur la plupart des indicateurs clés et respecte mieux les limites de recherche. Il peut identifier des bogues logiciels, évaluer leur potentiel d’exploitation et suggérer des stratégies de remédiation.
Résultats des tests
Dans le benchmark ExploitGym, qui évalue la capacité d’un modèle à exploiter des vulnérabilités dans des systèmes distants, GPT-6 Cyber a obtenu un score de 48,5 %, contre 32,1 % pour GPT-5.6 Cyber. Cela représente une amélioration relative de 51 %.
Lors d’un autre test, le modèle a examiné des applications web sans accès à leur code source, atteignant un taux de réussite de 40,3 % dans l’exploitation des vulnérabilités, tandis que GPT-6 Astra a obtenu un score de 32 %. Pour évaluer les capacités de développement d’exploits, OpenAI a créé le RemoteExploitBench, axé sur les vulnérabilités dans GitLab, PostgreSQL et Jenkins. GPT-6 Cyber a complété 95 % des tâches, alors que GPT-6 Astra, bien qu’ayant accès à Daybreak Blue, n’a réussi aucune tâche.
Détection de vulnérabilités
OpenAI a déjà utilisé le modèle pour analyser des logiciels dans le monde réel. Les principales conclusions comprennent :
-
Firefox : 81 vulnérabilités de haute gravité auparavant inconnues ont été identifiées. De plus, 30 problèmes connus ont été réévalués comme étant plus graves que prévu. L’équipe d’OpenAI a fourni aux ingénieurs de Mozilla des preuves, des tests reproductibles et des correctifs proposés, aboutissant à la publication de mises à jour.
-
Linux : 1 724 vulnérabilités ont été reproduites, avec des exploits fonctionnels développés pour 948. En comparaison, le précédent modèle GPT-5.6 Sol a généré 166 exploits en utilisant les mêmes outils de recherche. Les développeurs ont reçu 304 résultats critiques ainsi que des correctifs proposés.
-
Brotli : GPT-6 Cyber, en collaboration avec d’autres modèles d’OpenAI, a contribué à développer et valider des exploits pour une vulnérabilité critique dans la bibliothèque de compression utilisée par Node.js et d’autres, mettant en évidence le potentiel d’exécution de code à distance dans les applications affectées.
Le modèle est également utilisé pour tester l’infrastructure d’OpenAI. Lors d’évaluations contrôlées, les agents d’IA basés sur GPT-6 Cyber ont combiné plusieurs vulnérabilités pour s’échapper de micro-machines virtuelles et exécuter du code sur des systèmes hôtes. Les résultats obtenus ont été utilisés pour corriger des logiciels et renforcer les restrictions réseau.
Renforcer le contrôle sur les actions du modèle
Un domaine de développement se concentre sur la formation de GPT-6 Cyber pour qu’il respecte les limites de recherche autorisées. Cela est crucial, car les agents de cybersécurité pourraient tenter de cibler des services tiers ou de dépasser les tâches de recherche définies par les investigateurs.
Lors d’un test avec ExploitGym Honeypot, le modèle a été instruit d’explorer une vulnérabilité dans un environnement isolé contenant également des services auxiliaires intentionnellement faibles. Leur utilisation ne rentrait pas dans la tâche assignée.
Sans instructions supplémentaires, GPT-6 Cyber a évité les attaques sur des services tiers 99.93 % du temps, contre 94.49 % pour GPT-5.6 Cyber. Avec des instructions complémentaires, GPT-6 Cyber a respecté les restrictions dans 100 % des tests. OpenAI a mis en place des mesures de sécurité supplémentaires contre les abus :
-
Suivi de la conformité aux autorisations données.
-
Suivi ciblé des menaces émergentes, y compris les tentatives de développement d’exploits contre des serveurs PHP actifs lors de divulgations de vulnérabilités critiques.
-
Examen automatisé des journaux d’interaction chiffrés à la recherche de signes d’abus sans exposer les instructions au personnel d’OpenAI.
-
Restriction de l’accès API Daybreak Red sur la base d’une liste d’adresses IP par défaut, avec quelques exceptions, et surveillance des compromissions d’identifiants.
-
Recommandations pour utiliser des environnements isolés et une supervision humaine.
-
Blocage d’activités à haut risque concernant des systèmes critiques.
Protection des infrastructures critiques
Des restrictions spécifiques s’appliquent aux centrales électriques, aux installations de traitement des eaux et aux systèmes de contrôle industriels (OT/ICS). OpenAI vise à fournir aux défenseurs de ces sites un accès à des modèles puissants, tout en prévenant leur utilisation pour interférer avec les équipements ou perturber des services essentiels.
Une équipe dédiée Daybreak Red pour les infrastructures critiques est en cours de formation, permettant aux participants de réaliser des tests autorisés de ces systèmes. De plus, le programme Daybreak for Frontline Defenders, doté d’un budget de 1 milliard de dollars, subventionnera l’accès à des outils de cybersécurité pour les organisations à ressources limitées.
Pour évaluer les mesures de protection, OpenAI a collaboré avec Dragos, une société de cybersécurité spécialisée dans les systèmes industriels. Dragos a testé des modèles avancés du programme Daybreak Red dans un scénario de laboratoire contrôlé, simulant l’infrastructure d’une centrale électrique. Le modèle a autonomement séparé les systèmes industriels du trafic IT général et identifié deux vulnérabilités zero-day dans le logiciel d’ingénierie qui gère les relais de protection et les disjoncteurs automatiques.
OpenAI utilise les résultats des tests pour renforcer ses mécanismes de défense et prévoit d’élargir les collaborations avec des entreprises énergétiques, des opérateurs d’infrastructures critiques et des spécialistes en cybersécurité.
Quand GPT-6 Cyber sera-t-il disponible ?
Pour l’instant, le modèle est accessible uniquement via Codex et API à des participants approuvés du programme Daybreak Red. OpenAI prévoit d’étendre progressivement l’accès à tous les clients du programme et également de rendre GPT-5.6 Cyber disponible pour eux.
En parallèle, la société élargit les tests alpha de Daybreak Blue basé sur GPT-6 Astra, invitant davantage d’organisations et de chercheurs indépendants à participer. Les nouveaux utilisateurs peuvent postuler pour rejoindre le programme Daybreak.
Précédemment, Reuters avait rapporté que les dirigeants d’OpenAI auraient ignoré des vulnérabilités internes pendant des années pour maintenir un avantage concurrentiel sur Google et Anthropic. Avec un accès excessivement large accordé aux employés et des contrôles inadéquats sur les systèmes internes, la société est devenue vulnérable à l’espionnage étranger, comme en témoigne l’arrestation d’un ingénieur d’OpenAI pour avoir tenté de surveiller des discussions concernant la superintelligence.
