OpenAI collabore avec ses concurrents sur les mesures de sécurité de l’IA
Le responsable des politiques mondiales d’OpenAI, Chris Lehane, a révélé que l’entreprise collaborait avec des rivaux tels qu’Anthropic et Google DeepMind sur la sécurité de l’intelligence artificielle, comme l’a rapporté un article publié mardi. Cette coopération intervient dans un contexte d’inquiétudes croissantes concernant les risques catastrophiques associés à l’intelligence artificielle.
L’annonce fait suite à un essai du PDG d’Anthropic, Dario Amodei, qui a appelé l’industrie de l’IA à s’unir pour ralentir le rythme du développement de l’IA de pointe et atténuer les dangers potentiels. Les dirigeants d’OpenAI, Google et SpaceXAI ont exprimé leur soutien à l’initiative d’Amodei, Sam Altman d’OpenAI déclarant que l’entreprise travaillerait aux côtés d’Anthropic pour inclure des évaluateurs tiers indépendants afin de surveiller la sécurité.
Lehane a confirmé que ces discussions étaient en cours depuis plusieurs semaines. Certains analystes de l’industrie, y compris Altman, ont averti que cette coordination pourrait soulever des préoccupations antitrust si elle était interprétée comme une tentative de limiter la concurrence. Bien qu’Amodei ait suggéré un dérogation gouvernementale pour la coopération en matière de sécurité, Lehane a indiqué qu’ils ne voyaient pas la nécessité d’une telle mesure.
Cette collaboration met en lumière des indications antérieures selon lesquelles le trio d’entreprises s’alignait. Dans une récente interview, Altman a suggéré qu’il avait engagé des discussions privées avec d’autres leaders de l’IA. Des rapports ont émergé indiquant qu’OpenAI, Anthropic et Google travaillent à l’établissement d’un organisme de normalisation pour le secteur de l’IA, une démarche qu’Altman a noté ne nécessiterait pas forcément l’implication du gouvernement américain.
En juillet, Demis Hassabis de Google a appelé à la création d’un organisme de réglementation pour servir de garde-fou dans le domaine de l’IA, proposant qu’il supervise l’industrie et aide à gérer les risques associés aux modèles d’IA avancés.
À l’opposé, l’ancien président Trump a minimisé les préoccupations de sécurité, les qualifiant de canular, et s’opposant à des réglementations strictes, arguant qu’un ralentissement du développement de l’IA pourrait désavantager les États-Unis dans la course mondiale, particulièrement face à la Chine. Son conseiller principal en IA, David Sacks, a exprimé des sentiments similaires, affirmant que les craintes concernant les risques existentiels de l’IA étaient exagérées.
Lors de cette récente réunion, Lehane a exprimé le soutien d’OpenAI à une disposition dans le FRONTIER Act qui obligerait les principaux laboratoires d’IA à permettre à des organisations de vérification indépendantes d’évaluer leurs processus de développement de modèles pour garantir la sécurité.
TechCrunch a contacté Anthropic, Google et OpenAI pour obtenir des commentaires complémentaires.
