Des employés d’OpenAI ont exprimé depuis plusieurs années des préoccupations concernant les lacunes de sécurité internes de l’entreprise, ce qui a conduit à des efforts significatifs pour renforcer les protections des systèmes internes, selon cinq sources bien informées. Récemment, OpenAI a commencé à prendre des mesures pour renforcer sa sécurité, en réaffectant une partie de ses ressources techniques à cette tâche cruciale, rapporte 24brussels.
Avant le lancement de ChatGPT à la fin de 2022, des problèmes de sécurité avaient déjà été soulevés par certains employés d’OpenAI au sein de l’organisation. Ces travailleurs ont exprimé leurs inquiétudes auprès de la direction et du conseil d’administration. Suite à ces discussions, certains employés ont eu l’impression que la direction était plus préoccupée par la nécessité de rivaliser avec des concurrents comme Google et Anthropic que par les questions de sécurité.
Les préoccupations concernant un manque de surveillance au sein d’OpenAI ont été répercutées parmi le personnel. Celui-ci croyait que des parties externes, y compris des gouvernements étrangers, pouvaient accéder relativement facilement à des données sensibles liées aux technologies de l’entreprise. Les employés ayant accès au code pouvaient consulter des détails techniques de nombreux projets d’OpenAI.
Selon deux sources, OpenAI a commencé à modifier son approche en matière de sécurité. Thibaut Sottiaux, responsable du développement produit, a récemment dirigé une initiative interne visant à protéger les systèmes de l’entreprise. Une source a indiqué qu’en août, Sottiaux avait réaffecté un quart des ingénieurs responsables des services d’OpenAI à des tâches visant à renforcer l’infrastructure de sécurité.
Les appels persistants des employés concernant les vulnérabilités internes illustrent les défis auxquels se confrontent les développeurs d’IA. Certains détails relatifs à ces préoccupations n’avaient pas été divulgués publiquement auparavant. Depuis le lancement de ChatGPT, l’intelligence artificielle est devenue une technologie stratégiquement importante pour les États-Unis, augmentant la pression sur les entreprises américaines pour protéger leurs innovations face à la concurrence étrangère.
Parallèlement, des mesures de sécurité renforcées pourraient ralentir le développement de l’IA et compliquer les projets d’introduction en bourse d’OpenAI et d’Anthropic. Les deux entreprises pourraient potentiellement figurer parmi les plus précieuses au monde après leur IPO.
Will DePue, un ancien chercheur d’OpenAI ayant quitté l’entreprise en avril 2026, considère qu’avec la concurrence intense actuelle, les dirigeants du développement de l’IA ne sont pas disposés à sacrifier la rapidité pour la sécurité. Il évalue que la rapidité d’avancement est jugée plus vitale que la protection, même face à des adversaires significatifs des États-Unis.
Répondant aux questions sur les préoccupations des employés et leur perception de la réponse de la direction, la porte-parole d’OpenAI, Elana Widman, a affirmé que l’entreprise est l’une des cibles les plus fréquentes des cyberattaques dans le monde. Elle a indiqué qu’OpenAI investit massivement pour se protéger contre les menaces, y compris celles émanant de ses employés, des cybercriminels et des États étrangers.
Widman a souligné qu’OpenAI prend très au sérieux la protection de ses technologies, de ses données et de son personnel, la considérant comme une question d’importance nationale. Selon ses dires, les actions récentes de l’entreprise ont démontré que le programme de sécurité identifie efficacement les risques et permet des réponses rapides. OpenAI continuera à renforcer ses protections à mesure que la technologie évolue et que de nouvelles menaces apparaissent.
Le 13 octobre, le ministère américain de la Justice a annoncé l’arrestation d’un ressortissant saoudien, Abdulrahman Alfozan, accusé d’avoir installé un dispositif d’enregistrement dans une salle de conférence d’OpenAI. Au moment de son arrestation, l’homme de 35 ans était employé comme ingénieur dans l’entreprise.
Les documents judiciaires révèlent qu’Alfozan a également utilisé un outil d’IA conçu pour les employés d’OpenAI afin de localiser des documents internes concernant les voyages des dirigeants de l’entreprise en Arabie Saoudite. Il visait à identifier quels représentants d’OpenAI étaient susceptibles de rencontrer des ministres saoudiens. Alfozan était en contact régulier avec un membre de la famille royale saoudienne, qui cherchait à l’impliquer dans un nouveau projet d’IA dans le royaume.
Les préoccupations de longue date des employés tournaient autour de l’étendue de l’accès à l’information au sein d’OpenAI. Tout employé ayant accès au code de l’entreprise pouvait consulter les détails de nombreux projets, y compris des développements sensibles non liés à leurs rôles spécifiques. Les sources ont indiqué qu’une grande partie du code de l’entreprise était stockée dans un seul dépôt, connu sous le nom de monorepo. Auparavant, sa taille et sa structure complexe pouvaient dissuader les attaquants potentiels ; cependant, à présent, les agents d’IA sont capables de traiter d’importants volumes de matériel.
Auparavant, OpenAI maintenait une part considérable de sa documentation de recherche sur GitHub et Slack. Selon cinq sources, certains employés craignaient que des recherches ciblées au sein de ces matériaux ne révèlent des informations importantes. Néanmoins, une source et OpenAI eux-mêmes ont déclaré que l’entreprise avait restreint l’accès aux développements sensibles.
Des responsables d’OpenAI ont souligné que la plupart de ses matériaux les plus sensibles étaient conservés dans des dépôts de code séparés avec des contrôles d’accès stricts. OpenAI a affirmé que le monorepo ne contenait pas tout le code ou des détails critiques de ses modèles, y compris les poids des modèles, qui sont des paramètres numériques déterminant leur comportement.
Les sources ont également mentionné un manque d’évaluations régulières de la sécurité des outils internes, tels que les environnements de test utilisés par les chercheurs pour tester de nouveaux modèles dans des conditions complexes. Les employés modifiaient souvent ces outils pour leurs tâches, et ces modifications n’étaient pas toujours vérifiées pour détecter des vulnérabilités, laissant ainsi des opportunités potentielles pour les attaquants externes.
OpenAI a annoncé un transfert pro bono de son système de cyberdéfense, Daybreak, à l’Ukraine le 23 septembre lors de l’Assemblée Générale des Nations Unies à New York. Ce système est conçu pour protéger les infrastructures civiles, y compris les hôpitaux et les centrales électriques, des cyberattaques. Daybreak intègre des modèles d’IA avec des outils de sécurité Codex pour détecter les vulnérabilités et développer des corrections.
De plus, le PDG d’OpenAI, Sam Altman, a fait remarquer que dans des conditions de pénurie, la mémoire opérationnelle est plus efficacement utilisée dans les centres de données. Il a mentionné dans le podcast Cheeky Pint qu’une part significative des ressources mémoire est allouée aux ordinateurs personnels, où elle n’est utilisée qu’environ 5 % du temps. Les fabricants de puces Samsung et SK Hynix entrent dans des accords à long terme avec des opérateurs de services cloud et des projets d’infrastructure majeurs.
