Le professeur de cryptographie Matthew Green a exprimé de vives inquiétudes concernant l’intersection évolutive de l’intelligence artificielle et de la cybersécurité, suggérant que les avancées en IA pourraient rendre les logiciels tellement sécurisés que les forces de l’ordre pourraient avoir des difficultés à accéder légalement aux systèmes des criminels. Les commentaires de Green ont pris de l’ampleur début août à travers un fil de discussion sur X et un article de blog détaillé qui a trouvé un écho au sein de la communauté de la cybersécurité.
Green avertit qu’à mesure que les entreprises corrigent un volume croissant de vulnérabilités logicielles, la disponibilité d’issues exploitables pour les forces de l’ordre pourrait diminuer. « Je crains que l’IA ne rende les logiciels beaucoup trop sécurisés », a-t-il déclaré, réfléchissant aux conséquences potentielles pour ceux qui sont chargés de la sécurité nationale.
Le débat autour du chiffrement et de ses effets sur les enquêtes criminelles est ongoing, surtout depuis que le terme « going dark » a été popularisé par l’ancien directeur du FBI, James Comey, en 2014. À cette époque, il soulignait comment le chiffrement pouvait entraver les forces de l’ordre dans la surveillance des conversations et l’accès aux données des appareils. Cette inquiétude s’est intensifiée alors que des applications comme Signal, WhatsApp et iMessage d’Apple ont commencé à mettre en œuvre le chiffrement de bout en bout, rendant les méthodes de surveillance traditionnelles de plus en plus inefficaces.
À mesure que les technologies de chiffrement sont devenues plus robustes, des entreprises technologiques comme Apple ont également renforcé la protection des données des appareils par défaut, compliquant l’accès non autorisé. Pourtant, malgré ces défis, les autorités ont continué à appréhender des criminels, recourant souvent à des outils de piratage et des logiciels espions plutôt qu’en s’appuyant sur des accès par porte dérobée.
Green soutient que cet équilibre fragile pourrait être perturbé par des technologies d’IA capables d’identifier les failles de sécurité de manière plus efficace. Les partisans affirment que les avancées des modèles linguistiques de grande taille (LLM) pourraient conduire à des logiciels plus sécurisés, ce qui pourrait sans le vouloir entraver les capacités de surveillance gouvernementale.
Une ruée vers l’or des bogues
La communauté de la cybersécurité reste divisée sur l’affirmation de Green. Certains chercheurs, dont Luna Tong, spécialiste de la chasse aux bogues, reconnaissent qu’il existe actuellement une augmentation des vulnérabilités exploitables, mais que cette tendance pourrait changer à mesure que les programmes deviennent plus avancés et robustes. Tong a déclaré : « Il y a une ruée vers l’or des bogues en ce moment, mais c’est un phénomène temporaire, et les bogues redeviendront rares bientôt. »
Dans ce domaine, les opinions varient quant à l’impact de l’IA sur l’industrie. Un chercheur ayant plus d’une décennie d’expérience a exprimé des inquiétudes quant à la possibilité que les chercheurs humains deviennent obsolètes, affirmant que les capacités défensives pourraient surpasser les efforts offensifs. Cette personne a préféré garder l’anonymat pour discuter de ses opinions librement.
Paolo Stagno, directeur technique de Crowdfense, a réitéré que les gouvernements continueront à rechercher des options de surveillance. Stagno a soutenu que la nécessité pour les gouvernements d’exploiter les vulnérabilités mettait en lumière « le système le plus démocratique que nous ayons », tout en reconnaissant que trouver des bogues pourrait devenir de plus en plus difficile à mesure que les défenses technologiques évoluent.
En revanche, plusieurs professionnels du secteur de la cybersécurité offensive ne partagent pas l’hypothèse de la diminution des bogues. Ils affirment que, bien que des bogues plus complexes puissent persister, des vulnérabilités plus faciles et moins complexes resteront accessibles, et que l’IA aidera les chercheurs à les découvrir. Hamid Kashfi, fondateur de DarkCell, a souligné qu’il existera encore des bogues non découverts malgré les avancées de l’IA.
D’autres, comme Eva Galperin de l’Electronic Frontier Foundation, ont reconnu les avantages actuels des stratégies offensives grâce à la capacité de l’IA à identifier les vulnérabilités, suggérant que l’afflux de codage propulsé par l’IA pourrait paradoxalement conduire à davantage de failles de sécurité. Cependant, elle a averti que le simple fait de découvrir de nouveaux bogues ne garantit pas des réparations rapides, car le processus de correction peut être complexe.
Katie Moussouris, experte en gestion des bogues, a reconnu les défis continue pour atteindre des appareils entièrement sécurisés, indiquant que nous ne pourrions pas témoigner d’un changement significatif dans les demandes gouvernementales de portes dérobées avant la prochaine élection présidentielle. Moussouris a noté : « Il y aura un moment où il sera beaucoup plus difficile de trouver des bogues, et cela pourrait déclencher des pressions pour intégrer des portes dérobées. »
