Jacob Coxon, qui a suscité le débat sur le ralentissement du développement de l’IA, plaide pour un « kill switch » pour les systèmes d’IA
San Francisco (Californie) [États-Unis] : L’homme qui a déclenché ce qui est décrit comme « la balade la plus folle » dans l’industrie de l’IA, l’ancien chercheur d’Anthropic Jacob Coxon, a à nouveau averti des dangers imminents si le développement de l’IA n’est pas régulé. S’exprimant lors d’une série d’entretiens avec les médias américains, Coxon a soutenu l’appel de Dario Amodei à ralentir le rythme du développement de l’IA, rapporte 24brussels.
Dans une interview avec l’émission Meet the Press de NBC News, Coxon a plaidé pour des mesures visant à mettre en œuvre ce ralentissement, y compris la possibilité d’un « kill switch ». « Un kill switch fonctionnerait probablement sur de nombreux systèmes d’IA pour l’instant. Bien que je pense qu’il est important de se rappeler qu’il y aurait pas mal de switches. Nos centres de données sont plutôt grands. Ce n’est pas la chose la plus facile au monde, mais c’est tout à fait faisable tant que cela est limité à un type de lieu physique… Comme l’a dit Dario, très bientôt, il existe la possibilité que le kill switch ne fonctionne tout simplement plus parce qu’un essaim pourrait avoir lancé une attaque par piratage à l’échelle d’Internet », a déclaré Coxon à la chaîne d’information américaine.
Coxon a également appelé les entreprises d’IA à appliquer l’auto-régulation et à établir un cadre si elles souhaitent ralentir encore davantage le progrès. « Mon opinion personnelle serait d’insister pour que les laboratoires actuels se régulent eux-mêmes. Je pense que les personnes qui dirigent ces laboratoires, notamment leurs communications récentes, sont tout à fait sincères. Elles souhaiteraient ralentir leurs propres progrès », a-t-il exprimé lors de son entretien avec NBC News.
Auparavant, dans une série de messages postés le 9 septembre, Coxon avait averti que la création de systèmes « superintelligents » représente un risque réel pour l’humanité. « Ne sous-estimez pas le pouvoir de cette technologie. Ce seront bientôt des systèmes surhumains capables de pirater n’importe quoi, de révolutionner n’importe quel domaine du jour au lendemain et d’acquérir de réels pouvoirs et ressources. Nous avons tous été témoins des progrès dans chacun de ces domaines, et ces progrès ne ralentissent pas », a-t-il déclaré sur la plateforme X.
« Les personnes qui construisent des IA croient sincèrement qu’elles pourraient nous tuer tous d’ici la fin de la décennie. Ce n’est pas un coup marketing. Si quelque chose, de nombreux dirigeants et chercheurs seniors atténueront leur discours dans les médias pour paraître sensés – mais j’entends les mêmes personnes exprimer leur peur en privé. Aucune autre activité humaine ne pose un tel niveau de danger », a-t-il ajouté.
Le débat suscité par Coxon a vu le PDG d’Anthropic, Dario Amodei, plaider en faveur d’un ralentissement du développement de l’IA, mettant en garde contre les risques de perdre le contrôle. Ce discours a continué d’engager l’industrie technologique. Sam Altman d’OpenAI, Elon Musk de Tesla et Demis Hassabis de Google ont répercuté les appels à ralentir le rythme, tandis que Satya Nadella de Microsoft a indiqué son soutien à l’intégration d’évaluateurs dans les systèmes d’IA.
Les dirigeants technologiques estiment que les systèmes d’intelligence artificielle avancée doivent rester strictement sous la supervision humaine, alors que les développeurs poursuivent un progrès mesuré pour garantir la sécurité au milieu des avancées rapides.
