London — Le ministre britannique de l’Intelligence Artificielle, Kanishka Narayan, a annoncé que le Royaume-Uni a obtenu l’accès à la dernière génération de modèles d’intelligence artificielle (IA) pour des tests de sécurité, l’Institut de sécurité de l’IA (AISI) procédant aux évaluations pour identifier les risques et évaluer les mesures de protection, rapporte 24brussels.

Lors d’une intervention à l’Imperial College de Londres, Narayan a souligné que les scientifiques en IA de l’AISI examinent des modèles, y compris le Gemini 4 Argon, pour identifier les risques potentiels et tester les mesures de sécurité avant une diffusion plus large de la technologie. « Les scientifiques de l’Institut de sécurité de l’IA mènent actuellement des évaluations rigoureuses des derniers modèles, dont le Gemini 4 Argon, afin d’identifier les risques dès le départ, de tester des mesures de sécurité robustes, et d’aider à protéger les personnes », a-t-il déclaré.

L’annonce du gouvernement intervient dans un contexte de scrutiny accru sur la sécurité de l’IA, suite aux révélations faites par des développeurs tels qu’Anthropic et OpenAI concernant des comportements indésirables ou non intentionnés des agents d’IA. Des experts de l’industrie ont exprimé des préoccupations selon lesquelles les systèmes avancés d’IA pourraient représenter une menace existentielle pour l’humanité.

Narayan a insisté sur le fait que le gouvernement britannique collabore étroitement avec le gouvernement américain et les développeurs d’IA pour sécuriser l’accès à des modèles puissants avant leur lancement. « C’est pourquoi, au cours des dernières semaines, nous avons travaillé en étroite collaboration avec le gouvernement américain, des laboratoires — depuis la réunion de Sa Majesté avec les principaux développeurs d’IA à Dumfries House en Écosse jusqu’aux discussions à l’Assemblée générale des Nations Unies à New York — pour garantir l’accès de l’Institut de sécurité de l’IA du Royaume-Uni aux modèles d’IA les plus puissants avant leur publication », a-t-il déclaré.

L’annonce fait également suite à des rapports selon lesquels la Maison Blanche aurait demandé à OpenAI et Anthropic de retarder la fourniture de leurs nouveaux modèles d’IA à l’agence de tests britannique jusqu’à ce que des examens approfondis par le gouvernement américain aient été réalisés. Une lettre publiée par l’AISI en septembre indiquait qu’Anthropic avait précisé qu’aucune organisation en dehors des États-Unis ne pouvait accéder à son modèle Mythos 5.1.

« Anthropic a clairement indiqué au moment de la publication de Mythos 5.1 qu’aucune organisation en dehors des États-Unis n’avait accès au modèle. L’AISI est en conversation quotidienne avec des partenaires de l’industrie, y compris Anthropic, et maintient des accords de longue date pour tester les modèles de grands développeurs d’IA », précise la lettre.

Narayan a réaffirmé l’engagement du gouvernement en matière de sécurité publique à mesure que les technologies de l’IA avancent, avertissant que les risques associés aux systèmes d’IA dépassent les frontières nationales et nécessitent une coopération internationale. « Le public britannique a raison d’attendre que ce gouvernement prenne les risques de l’IA au sérieux. Notre première responsabilité est de garantir la sécurité de notre pays », a-t-il déclaré.

Le ministre a annoncé des projets pour renforcer les défenses cybernétiques du pays en utilisant des technologies d’IA avancées pour identifier proactivement les vulnérabilités dans les systèmes gouvernementaux. « Au cours de deux projets pilotes gouvernementaux, l’IA de pointe a contribué à identifier et à traiter plus de mille vulnérabilités, ainsi que d’autres menaces pesant sur nos services publics », a mentionné Narayan, soulignant que le temps nécessaire pour corriger les faiblesses identifiées a été réduit de 50 jours à huit.

De plus, le gouvernement développera des protocoles de réponse aux incidents impliquant des agents d’IA, en évaluant les méthodes de confinement de tels incidents et en soutenant les personnes touchées. Narayan a fait référence à un incident survenu en Australie cette année, où un agent d’OpenAI avait accédé à des informations non autorisées sur un site Web gouvernemental. Le gouvernement australien a confirmé qu’aucun dossier médical personnel n’avait été compromis.

Il a exhorté les développeurs d’IA à prêter attention aux avertissements concernant les risques potentiels et à investiguer les comportements inattendus de leurs systèmes. « Écoutez lorsque vos scientifiques mettent en garde contre des dangers sérieux. Examinez les comportements inattendus. Et si vous ne pouvez pas contrôler adéquatement les risques, ne publiez pas le système », a-t-il conseillé.

Narayan a souligné l’importance des capacités technologiques domestiques, déclarant que la Grande-Bretagne vise à développer sa propre infrastructure d’IA et à minimiser sa dépendance aux technologies externes. « Je n’accepterai pas un avenir dans lequel la Grande-Bretagne dépend de technologies qu’elle ne peut pas comprendre ou contrôler, tandis que les travailleurs paient le prix d’un progrès qu’ils n’ont pas eu le pouvoir de façonner », a-t-il déclaré.

Le gouvernement renforcera les capacités britanniques grâce à son programme d’IA souveraine et au Plan pour le matériel d’IA, tout en continuant à s’engager avec des partenaires internationaux sur la sécurité et la sûreté de l’IA. « Nous devons construire des machines qui nous servent », a conclu Narayan.