OpenAI a annoncé une nouvelle mesure de sécurité axée sur la confidentialité, Private Safety Processing, visant à surveiller les éventuels abus de ses modèles d’IA tout en ne conservant aucune donnée client. Cette initiative répond aux préoccupations croissantes concernant la mauvaise utilisation de l’IA, alors que la technologie continue d’évoluer et d’être intégrée dans diverses applications.
Ce nouveau système est une réponse directe pour différencier OpenAI de son concurrent Anthropic, qui a récemment mis en place une politique de conservation des données permettant de conserver les données utilisateur, y compris toutes les sessions et conversations, pendant 30 jours. Cette politique a suscité des critiques de la part d’entreprises traitant des informations sensibles et préférant ne pas voir leurs données stockées ou analysées, soulignant ainsi la tension dans la concurrence entre les deux sociétés.
L’approche actuelle d’OpenAI offre déjà un certain degré de confidentialité grâce à sa politique de Zero Data Retention (ZDR), qui permet de surveiller les abus sans conserver les données client. Le nouveau système Private Safety Processing s’appuie sur ce cadre, offrant une surveillance de sécurité à long terme qui évalue les interactions à travers plusieurs sessions pour détecter des signes d’abus potentiel, renforçant ainsi les capacités de détection au-delà de l’évaluation d’une session unique.
Selon OpenAI, ce système automatisé utilise un agent pour suivre plusieurs conversations, ce qui permet d’identifier des activités malveillantes sans intervention humaine. Par exemple, il peut détecter des tentatives de conception de logiciels malveillants s’étalant sur diverses sessions, alertant OpenAI avec un “signal étroitement défini” si certaines activités déclenchent le système. Suite à de telles alertes, OpenAI peut contacter le client concerné pour obtenir plus de contexte ou collaborer à la résolution du problème, tout en laissant au client le contrôle sur le partage éventuel de données.
En revanche, l’approche d’Anthropic inclut une révision humaine des données dans des conditions contrôlées, avec chaque session enregistrée de manière infalsifiable. Cette différence met en lumière les dynamiques concurrentielles sur la manière dont ces entreprises abordent les préoccupations en matière de sécurité et de confidentialité face à une attention croissante de la part des utilisateurs et des régulateurs.
La rivalité est accentuée par les pressions du marché, une récente étude ayant indiqué que le taux de croissance d’OpenAI a ralenti par rapport à celui d’Anthropic, particulièrement au deuxième trimestre de 2025. Anthropic a atteint un chiffre d’affaires annualisé d’environ 65 milliards de dollars, suscitant des discussions parmi certains investisseurs sur le potentiel d’une introduction en bourse future qui pourrait valoriser l’entreprise à 2 trillions de dollars. Pendant ce temps, OpenAI fait également des démarches vers une introduction en bourse.
Alors que les modèles d’IA continuent d’avancer dans leurs capacités, les implications pour la confidentialité et la sécurité demeurent des domaines critiques de préoccupation pour les deux sociétés et l’industrie dans son ensemble, chacune cherchant à équilibrer innovation et considérations éthiques.
