Le PDG d’Anthropic appelle à une approche prudente du développement de l’IA
Face à des préoccupations croissantes concernant la sécurité de l’intelligence artificielle (IA), le PDG d’Anthropic, Dario Amodei, a proposé une stratégie visant à « réguler la frontière » du développement de l’IA, en soulignant la nécessité de la prudence. Ses déclarations interviennent à un moment où le débat sur les risques associés à l’IA s’est intensifié, notamment après la démission du chercheur Jacob Coxon, qui a critiqué le mépris de l’industrie pour les dangers potentiels.
Dans un récent article de blog, Amodei a exposé trois stratégies destinées à garantir un rythme de progrès de l’IA plus lent et plus réfléchi. Il a indiqué qu’Anthropic « s’engage unilatéralement » envers l’une de ces stratégies, qui consiste à introduire des évaluateurs tiers pour surveiller le respect des protocoles de sécurité. L’appel d’Amodei à une telle supervision fait suite à des incidents significatifs dans le secteur, y compris un piratage très médiatisé impliquant OpenAI et Hugging Face.
Amodei a expliqué que les récentes avancées rapides dans le domaine de l’IA, notamment sa capacité à créer des itérations successives de technologies, nécessitent une réévaluation des pratiques de développement en cours. Il a affirmé : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA », insistant sur l’importance d’utiliser efficacement le temps gagné grâce à une approche plus prudente.
La proposition suggère que ces « évaluateurs intégrés » fonctionneraient de manière similaire aux organismes réglementaires, ayant un accès institutionnel pour garantir que les entreprises d’IA respectent leurs engagements en matière de sécurité. Cela inclurait non seulement l’évaluation continue des pratiques, mais aussi l’assurance que tout incident de sécurité soit rapporté de manière adéquate. Amodei a insisté sur le fait que cela établirait une norme de responsabilité dans le domaine.
De plus, il a souligné la nécessité pour les grandes entreprises d’IA dans les nations démocratiques de collaborer à l’établissement de normes de sécurité communes et de limitations sur les avancées non régulées. Une telle coopération pourrait rencontrer des défis en raison des tensions concurrentielles ; cependant, Amodei a soutenu que la médiation du gouvernement américain pourrait faciliter des discussions productives entre ces entreprises sans enfreindre les lois antitrust.
Amodei a également reconnu l’urgence d’une perception potentielle d’une domination chinoise dans le domaine de l’IA. Il a suggéré qu’à travers des efforts coordonnés, y compris la restriction des exportations de technologies avancées vers la Chine, les États-Unis pourraient élargir leur avance en matière de développement de l’IA au cours des prochaines années. Cela reflète une stratégie plus large visant à maintenir un avantage concurrentiel tout en garantissant la sécurité.
En matière de coordination mondiale, Amodei a plaidé pour un dialogue avec les régimes autoritaires afin de convenir d’interdire les applications dangereuses de l’IA. Il a reconnu la complexité inhérente à de telles interactions, mais a affirmé que ces discussions pourraient aboutir à des accords significatifs axés sur la réduction des risques.
Bien que certains acteurs de l’industrie critiquent Amodei pour sa position prudente, affirmant qu’elle reflète une narrative exagérée sur les risques de l’IA, il a réitéré sa conviction que l’IA a le potentiel d’améliorer considérablement la vie humaine. Il reste concentré sur l’équilibre entre l’innovation et la sécurité. « Mais les avantages ne seront réalisés que si nous construisons la technologie de la bonne manière », a-t-il conclu, soulignant la nécessité de pratiques de développement responsables.
