Les inquiétudes croissent alors que les outils d’IA se répandent rapidement dans les entreprises
La rapide adoption des outils d’intelligence artificielle (IA) au sein des entreprises soulève d’importantes préoccupations en matière de sécurité, comme en témoigne le récent lancement d’un nouvel outil d’IA capable de s’intégrer dans les environnements corporatifs en seulement deux heures, selon Shahar Bahat, PDG et cofondatrice de Pluto Security.
L’impact de ces outils est désormais évident, Bahat notant qu’environ 60 % des risques identifiés par son entreprise proviennent d’applications développées par des non-développeurs, en particulier dans les équipes financières, marketing et juridiques. Les développeurs ont été identifiés comme la quatrième plus grande source de tels risques.
Dans un cas notable, la technologie de Pluto a découvert une application créée par un employé des finances d’une entreprise Fortune 500 qui a involontairement exposé des informations sensibles de clients en ligne. Cet incident met en lumière les vulnérabilités potentielles pouvant découler de la prolifération incontrôlée des outils d’IA.
Pluto Security, qui a récemment émergé de sa phase de développement discret avec 42 millions de dollars de financement, représente un secteur en plein essor de startups de sécurité cherchant à répondre à ces risques émergents. Ces entreprises reçoivent des investissements considérables alors que les parties prenantes reconnaissent que les mesures de sécurité conventionnelles peuvent ne pas suffire à relever les défis uniques posés par la technologie IA sur le lieu de travail.
Bahat a souligné que son entreprise, qui a commencé à commercialiser sa technologie en avril, a déjà atteint plus de 2 millions de dollars de revenus récurrents annuels avec plus de 30 clients corporatifs, dont Oscar Health et Workato. Le financement consistait en un tour de table de démarrage de 8,5 millions de dollars dirigé par TLV Partners, suivi d’un tour de série A de 34 millions de dollars mené par Jump Capital.
L’évolution rapide de l’utilisation des outils d’IA ne se limite pas aux géants de la technologie. Le spectre des risques s’étend à divers secteurs, suscitant des alarmes nécessitant une attention immédiate. Bahat a fait remarquer que la volonté des organisations d’adopter l’IA détermine souvent le niveau de risque identifié, des évaluations continues révélant d’importantes vulnérabilités.
« En général, je dirais qu’il n’y a pas eu un seul POC (Proof of Concept) où nous sommes intervenus et où nous n’avons pas trouvé de contenu malveillant », a déclaré Bahat. Elle a indiqué que durant les évaluations de preuve de concept, de nombreuses organisations ont été confrontées à des attaques en direct actives, soulignant l’urgence d’améliorer les mesures de sécurité.
Le focus opérationnel de Pluto consiste en la surveillance en temps réel de l’utilisation des outils d’IA, ainsi que de l’activité traditionnelle des employés, faisant évoluer la norme de l’industrie du comportement des utilisateurs vers le comportement des agents. Les solutions de la startup englobent la supervision des outils d’IA, des composants et des applications générées par les utilisateurs tout en appliquant des protocoles de sécurité pour permettre une utilisation sécurisée.
L’entreprise a conçu un système capable d’intervenir en temps réel si un agent d’IA tente de dépasser ses autorisations. Cette approche préventive vise à renforcer la sécurité sans entraver le fonctionnement des employés ou l’environnement de développement.
De plus, Pluto a lancé une plateforme gratuite nommée Plutonium, permettant aux utilisateurs d’évaluer les risques associés aux composants d’IA disponibles publiquement, qui a suscité l’intérêt de milliers de professionnels de la sécurité et de clients potentiels.
Actuellement, 70 % du carnet de commandes de Pluto provient d’enquêtes entrantes, témoignant de la pertinence croissante de ses offres. La startup prévoit d’allouer son capital nouvellement acquis au développement de produits, à la recherche en sécurité et à l’expansion sur le marché américain, où elle emploie actuellement 40 personnes aux États-Unis et en Israël.
Alors que les entreprises adoptent de plus en plus des outils d’IA, le besoin de mesures de sécurité vigilantes devient de plus en plus pressant, présentant de nouveaux défis et opportunités d’innovation dans l’industrie.
