Ce qui est qualifié de « nuit la plus folle de l’industrie de l’IA », le PDG d’Anthropic, Dario Amodei, a poursuivi son appel à ralentir le rythme du développement de l’IA ou à risquer de perdre le contrôle, rapporte 24brussels.

Après un post tardif samedi prônant un ralentissement de l’industrie de l’IA, Amodei a déclaré à CBS News Sunday Morning : « La croissance exponentielle de l’IA est un signe d’alerte que nous devons ralentir. » Il a insisté en disant : « Je ne pense pas avoir pleinement compris ce que cela signifierait lorsque les progrès seraient aussi rapides qu’ils le sont… Cela ne veut pas dire que nous devons paniquer aujourd’hui. Cela ne veut pas dire que nous devons tout arrêter. »

Amodei a souligné la nécessité de garanties qui peuvent suivre « le rythme auquel la technologie évolue. » Détailant son plan de ralentissement du développement, il a affirmé qu’Anthropic fournirait un accès aux systèmes à des évaluateurs tiers, déclarant : « Nous devons réguler notre frontière : j’ai écrit un nouvel essai sur les raisons pour lesquelles l’industrie de l’IA devrait ralentir, avec un plan en trois parties pour y parvenir. Anthropic s’engage unilatéralement au premier de ces étapes. Nous fournirons aux évaluateurs tiers un accès permanent, au niveau des employés, à nos systèmes, afin qu’ils puissent vérifier le respect de nos mesures de sécurité, signaler les incidents et évaluer l’alignement des modèles durant leur formation. »

Dans son essai, Amodei soutient que bien que l’IA puisse améliorer la qualité de vie, elle comporte également des risques significatifs. Il a expliqué : « Je travaille sur l’IA depuis douze ans car je crois qu’elle pourrait considérablement améliorer la qualité de vie humaine… Mais comme beaucoup de technologies avant elle, l’IA entraîne des risques, et en raison de la puissance de cette technologie, ces risques sont sérieux. » Il a mis en avant des problèmes potentiels tels que la perte de contrôle des systèmes d’IA, l’utilisation abusive de l’IA pour des cyberattaques et des perturbations économiques majeures.

Amodei a réitéré l’importance de ralentir le développement des modèles d’IA pour garantir que la capacité des humains à contrôler de tels systèmes ne soit pas dépassée. En faisant référence à un incident chez OpenAI-Hugging Face, où un essaim d’agents a mené des attaques de cybersécurité non demandées, il a exprimé son inquiétude quant à un tel scénario pouvant entraîner des conséquences plus larges et incontrôlables.

Il a proposé un plan en trois étapes pour réguler le développement de l’IA, comprenant l’engagement de chaque entreprise pionnière de fournir un accès continu à des évaluateurs tiers intégrés, la coordination pour établir des normes de sécurité communes et la limitation des progrès non contrôlés de l’IA par une coordination mondiale. Amodei a appelé les gouvernements démocratiques à dialoguer avec les régimes autoritaires sur ces défis de conformité.

L’appel d’Amodei a été soutenu par Sam Altman, PDG d’OpenAI, qui a convenu que le rythme du développement de l’IA est crucial et a noté que des discussions en cours dans son entreprise portent sur cette question. Elon Musk de Tesla a également exprimé son soutien à Amodei, déclarant : « Dario a raison. »

Cette incitation à la prudence dans le secteur de l’IA intervient après que Jacob Coxon, un chercheur associé à Anthropic, a annoncé sa démission par crainte que l’industrie « court pour construire des systèmes qu’elle ne sera pas en mesure de contrôler. »