Lancement de l’Institut DeepMind pour Promouvoir le Discours sur l’AGI
Les chercheurs de Google et de Google DeepMind ont inauguré l’Institut DeepMind mercredi, dans le but d’améliorer le dialogue autour de l’intelligence générale artificielle (AGI). La direction de l’institut est composée de Shane Legg, co-fondateur de DeepMind, de James Manyika, cadre de Google, et de Demis Hassabis, président de Google DeepMind, avec Legg nommé en tant que rédacteur en chef.
L’institut vise à mettre en lumière les perspectives divergentes entre Google, Google DeepMind et la communauté de recherche mondiale concernant les développements de l’AGI. L’annonce a indiqué que ces parties « ne seront pas toujours d’accord et qu’elles changeront probablement d’avis à mesure que de nouvelles données et informations surgiront à la pointe de la recherche rapide. »
La collection inaugurale comprend quatre essais traitant divers sujets, tels que les stratégies économiques pour gérer les perturbations potentielles causées par l’AGI, l’importance de préserver le raisonnement des modèles compréhensible par les humains, les principes pour l’épanouissement humain et un cadre pour évaluer les modèles AI de pointe.
Un essai, rédigé par les chercheurs en sécurité de DeepMind Rohin Shah et Anca Dragan, soutient que la transparence décroissante observée dans l’IA — en particulier la capacité à suivre le processus de raisonnement d’un modèle — n’est pas une conclusion inéluctable. Ils affirment qu’à mesure que de nouvelles architectures compliquent la surveillance de modèles puissants, les développeurs et les régulateurs doivent se confronter plus directement aux compromis en matière de sécurité. Cela pourrait nécessiter une limitation de la « profondeur sérielle opaque » — la capacité d’un modèle à effectuer des calculs complexes sans produire une trace de raisonnement compréhensible — ou imposer aux développeurs de prouver que les systèmes moins transparents restent suffisamment surveillables.
Dans un autre essai, Hassabis recommande la création d’un organisme de normalisation dirigé par les États-Unis pour évaluer les modèles d’IA avancés. Dans ce cadre, les développeurs soumettraient initialement leurs modèles pour un examen volontaire jusqu’à 30 jours avant leur publication publique. Une fois en place, ce système d’évaluation pourrait devenir une exigence pour le déploiement des modèles de pointe aux États-Unis.
Le corps proposé travaillerait d’abord en collaboration avec des entreprises d’IA pour concevoir des évaluations, mais finirait par créer des évaluations indépendantes et non divulguées — appelées tests « retenus » — pour s’assurer que les laboratoires ne modifient pas leurs modèles pour se conformer aux évaluations connues. Hassabis a indiqué que le cadre pourrait être « renforcé si la gravité de la situation le nécessite, » pouvant potentiellement mener à un ralentissement coordonné parmi les développeurs d’IA de pointe.
Ces essais émergent à un moment charnière où le débat sur la sécurité au sein de l’industrie évolue d’expressions générales de préoccupation vers des propositions plus précises pour la transparence, l’examen externe et, si nécessaire, des ralentissements coordonnés. Ce changement a récemment gagné en élan alors que des figures de l’industrie de premier plan ont commencé à soutenir des éléments de l’appel du PDG d’Anthropic, Dario Amodei, à « ralentir » la progression de l’IA de pointe.
