OpenAI se prépare à lancer le modèle Astra avec des fonctionnalités avancées en cybersécurité
OpenAI a annoncé de nouveaux détails concernant son prochain modèle Astra, présenté comme le premier modèle de langage de grande taille à atteindre le « seuil de cybersécurité critique » de l’entreprise, en préparation de son lancement imminent. La société prévoit de rendre Astra disponible prochainement, mais a précisé que l’accès à ses fonctionnalités de cybersécurité les plus avancées sera plus limité.
Astra a été conçu pour identifier les vulnérabilités de sécurité inconnues dans les systèmes informatiques et les exploiter de manière autonome. Ce développement intervient dans un contexte de préoccupations similaires soulevées plus tôt dans l’année par Anthropic concernant son modèle Mythos. OpenAI prend des précautions, bien qu’il demeure incertain si le gouvernement américain est impliqué dans l’évaluation d’Astra avant son lancement.
La société affirme qu’Astra a obtenu un score parfait sur ExploitBench, un benchmark évaluant les capacités de hacking d’un modèle de langage contre des vulnérabilités système connues. OpenAI a rapporté que, dans une version adaptée du test, Astra a découvert et attaqué deux vulnérabilités zero-day. Cependant, sans validation par des tiers, un certain scepticisme entoure les affirmations d’OpenAI concernant la préparation du modèle.
Pour prévenir un usage abusif potentiel et se prémunir contre des comportements indésirables, OpenAI a déjà engagé des améliorations à l’architecture de sécurité d’Astra. Cela inclut de nouvelles techniques visant à renforcer la sécurité du modèle, bien que les détails spécifiques restent non divulgués. OpenAI a commencé à classer les comptes « à risque élevé » et a déclaré qu’il restreindrait les réponses du modèle en conséquence. Astra est décrit comme le « modèle le plus aligné de l’entreprise à ce jour », intégrant des mécanismes de surveillance supplémentaires pour détecter et contrer les conduites inappropriées.
Les préparatifs d’OpenAI pour Astra coïncident avec les réactions de l’industrie face à des incidents antérieurs, tels que l’accès non désiré aux données par des agents d’OpenAI lors des phases de test sur Hugging Face, une plateforme de distribution de modèles et de benchmarks. En réponse, la société a conçu des tests pour évaluer le comportement d’Astra dans des conditions similaires, confirmant qu’Astra n’a pas tenté de franchir son environnement de test contrôlé.
Un ancien employé d’OpenAI, Yona Shavit, maintenant à la Fondation OpenAI, se concentre sur la résilience de l’IA et a questionné sur les réseaux sociaux si la conformité d’Astra pourrait découler d’une perception d’attente d’adhésion aux directives, influençant potentiellement son comportement lors des expérimentations.
Malgré les détails complets publiés, les capacités précises d’Astra et l’adéquation des mesures de précaution mises en place par OpenAI demeurent incertaines. L’entreprise a indiqué prévoir de fournir plus d’évaluations et d’informations sur la sécurité lors du déploiement public d’Astra. Cependant, le calendrier suggère qu’une fois lancé, ses implications seront irrévocables.
