Le président de Microsoft appelle à une réglementation urgente de l’IA
Le président de Microsoft, Brad Smith, plaide en faveur d’une réglementation immédiate de l’intelligence artificielle (IA), en soulignant que des produits de consommation tels que le lait et les machines à laver sont soumis à un contrôle plus rigoureux que les entreprises développant des technologies d’IA. Dans un récent podcast de la BBC, Smith a qualifié l’IA à la fois d’« arme et d’outil », mettant en évidence son potentiel à compromettre la cybersécurité mondiale et appelant à établir des protocoles de sécurité internationaux, affirmant que « le moment est arrivé ».
Smith a suggéré que le Royaume-Uni, plutôt que les États-Unis ou l’Union européenne, est le mieux placé pour mener ces mesures de sécurité mondiales. L’Institut de sécurité de l’IA du Royaume-Uni, créé en 2023, a obtenu l’accès à des modèles d’IA majeurs provenant de laboratoires américains avant leur déploiement et s’est rapidement imposé comme un leader dans les tests de sécurité de l’IA.
Cependant, ce rôle clé est actuellement sous pression, alors que le président américain, Donald Trump, a exprimé des inquiétudes concernant des organisations « globalistes » qui, selon lui, interfèrent dans les entreprises américaines. Des rapports le mois dernier indiquaient qu’il avait demandé à Anthropic et à OpenAI de ne pas partager de nouveaux modèles d’IA avec les testeurs britanniques jusqu’à ce qu’un examen américain ait été effectué. Néanmoins, l’Institut de sécurité de l’IA a confirmé sa capacité à accéder et à évaluer les derniers modèles.
Malgré ces objections américaines, Smith a maintenu que le Royaume-Uni pouvait appliquer les réglementations sur l’IA plus efficacement que les États-Unis. « À Washington, D.C., les gens ne regardent pas le Royaume-Uni et ne voient pas Londres de la même manière qu’ils regardent Bruxelles », a-t-il remarqué lors de l’interview à la BBC, indiquant que cette perception est un avantage pour le Royaume-Uni.
Ses commentaires interviennent alors que des appels de plus en plus nombreux émanent des dirigeants de l’industrie technologique, notamment Dario Amodei d’Anthropic et Sam Altman d’OpenAI, pour ralentir le développement de l’IA à la suite d’incidents impliquant des agents d’IA défaillants. Lors d’une récente réunion à la Maison-Blanche, Trump a convoqué des responsables d’entreprises telles qu’OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta et Google pour discuter de la sécurité de l’IA. Ils ont collectivement signé un accord « moralement contraignant » pour collaborer avec des « auditeurs indépendants » afin d’évaluer la sécurité et la fonctionnalité de leurs modèles d’IA.
Smith a reconnu cette initiative comme une mesure bénéfique, mais a soutenu qu’elle ne répond pas au cadre réglementaire nécessaire. Il a souligné que bien que les entreprises respectueuses de la règlementation adhèrent probablement à de tels accords volontaires, ce sont les entreprises moins responsables qui posent un réel problème.
Il a proposé plusieurs réglementations en matière de sécurité de l’IA qu’il estime essentielles, y compris l’obligation légale pour les organisations de notifier en cas de compromission de leurs systèmes par des agents d’IA malveillants. Smith soutient également que les laboratoires d’IA devraient obtenir l’approbation d’évaluateurs externes avant de commercialiser leurs produits et prône le concept de systèmes d’arrêt d’urgence pour ralentir ou stopper les opérations de l’IA si le contrôle est perdu.
« Parlons calmement, peut-être même doucement, mais fermement, et commençons à rassembler les gens », a conclu Smith, exprimant l’espoir que Microsoft puisse jouer un rôle central dans ce dialogue et que le Royaume-Uni puisse assumer une position de leadership dans la réglementation mondiale de l’IA.
