AIR se développe pour sécuriser les agents IA avec un financement de 50 millions de dollars
La startup de sécurité IA AIR sort de l’ombre et dévoile sa plateforme conçue pour surveiller une chaîne d’approvisionnement logiciel en pleine expansion créée par des agents IA. L’entreprise a levé 50 millions de dollars lors de deux tours de financement d’amorçage pour développer son produit.
Fondée par Yair Saban (PDG) et Niv Hoffman (CTO), tous deux vétérans du corps de renseignement de l’Unité 8200 d’Israël, AIR vise à fournir des solutions aux organisations qui déploient des agents IA. La plateforme permet de découvrir ces agents, de vérifier en continu les compétences et les outils qu’ils utilisent, ainsi que de bloquer les interactions avec des logiciels ou des sources externes ne répondant pas aux critères de sécurité. De plus, elle propose un marché pour des modules et compétences vérifiés, spécifiquement adaptés aux agents IA.
Les deux tours de financement, qui se sont récemment clôturés, comprenaient un premier tour de 10 millions de dollars dirigé par Sequoia, suivi d’un tour de 40 millions de dollars mené par Greenoaks. Parmi les autres investisseurs figurent Swish, Netz et plusieurs investisseurs providentiels issus des secteurs technologique et de la cybersécurité.
AIR souligne que l’adoption des agents IA au sein des entreprises ressemble à un environnement de système d’exploitation. Toutefois, la supervision des outils et logiciels utilisés par ces agents reste insuffisante par rapport à celle appliquée aux pilotes ou aux applications. Saban a souligné l’importance de la responsabilité, en établissant des analogies avec le fait que les conducteurs doivent fournir des signatures lors de l’installation aujourd’hui, un niveau de vigilance qui n’est pas encore appliqué aux compétences ou plug-ins des agents IA.
La startup met en avant les risques associés aux agents IA autonomes. Alors que ces agents interagissent de plus en plus avec des bases de données et se connectent à des ressources Internet, il existe un potentiel pour que des attaquants compromettent le contenu auquel accèdent les agents IA, plutôt que de lancer des attaques directes. En réponse, AIR fait progresser son produit de visibilité, qui identifie les agents IA actifs et suit l’utilisation par les employés d’outils IA non approuvés, y compris des comptes personnels. Ce système utilise une couche d’application pour analyser les actions et les vérifier par rapport à une liste blanche maintenue d’outils et de modules approuvés.
AIR affirme que son processus de vérification rigoureux filtre environ 27 % des modules et compétences qu’elle surveille en ligne. L’entreprise compte plus de 20 clients, avec une demande significative émanant de secteurs fortement réglementés tels que les services financiers et les produits pharmaceutiques, où la sécurité est primordiale.
Bien qu’AIR ne soit pas seule sur ce marché, affrontant la concurrence d’entreprises comme Noma Security et Zenity, elle vise à établir un avantage concurrentiel grâce à ses capacités de vérification continue. Comme l’a expliqué Saban, la complexité d’une supervision constante dans ce paysage en rapide évolution est un défi majeur qui distingue l’approche d’AIR. Il croit qu’alors que les laboratoires IA développent des mesures de sécurité internes, les organisations préféreront toujours des produits indépendants capables de fonctionner entre différents fournisseurs.
Commentant les implications plus larges de la technologie d’AIR, Bogomil Balkansky, associé chez Sequoia, a noté que l’infrastructure nécessaire pour la re-vérification continue des interactions des agents IA constitue un défi majeur. AIR a passé beaucoup de temps à construire les systèmes nécessaires pour traiter cette question complexe.
Actuellement, AIR emploie environ 40 personnes, et le nouvel investissement sera principalement dirigé vers l’expansion de son équipe de recherche et le renforcement de sa présence sur le marché aux États-Unis et en Europe.
