Une nouvelle entreprise vise à garantir la sécurité des robots grâce à l’IA générative
Safeworld, une nouvelle entreprise fondée par le Dr. Ding Zhao, Kyle Wong et Simo Rachidi, a été lancée pour répondre aux défis de sécurité posés par les robots évoluant dans des environnements imprévisibles. L’entreprise a émergé de l’ombre avec une levée de fonds initiale dépassant 12 millions de dollars, dirigée par Shine Capital et a16z Speedrun, ainsi qu’avec des investissements de Box Group, du fonds de dotation de l’Université Carnegie Mellon, d’Innovation Endeavors et de SV Angel.
Le Dr. Zhao, directeur du laboratoire Safe AI à l’Université Carnegie Mellon, a consacré une grande partie de sa carrière à résoudre ces problèmes. Il a souligné que le défi de la sécurité implique deux composants clés : des évaluations probabilistes avancées via une IA générative et l’établissement de la confiance dans ces systèmes. Les deux sont essentiels pour le déploiement de robots dans des environnements variés.
Selon Jonathan Lai, partenaire chez a16z Speedrun, l’urgence de développer des normes de sécurité pour l’industrie est pressante. « Au moment où vous avez des robots dans les foyers entrant en collision avec des enfants et causant des incidents de sécurité, il sera beaucoup trop tard », a déclaré Lai. Ce sentiment souligne l’approche proactive que Safeworld vise à adopter en matière de sécurité robotique.
Safeworld se spécialise dans l’évaluation des systèmes de contrôle robotique à travers des simulations peuplées de modèles humains réalistes. Cette approche reflète les défis rencontrés par des entreprises comme Tesla et Wayve, qui doivent s’assurer que leurs véhicules autonomes réagissent de manière appropriée aux situations inattendues sur la route. Le Dr. Zhao a expliqué que cela devient beaucoup plus complexe pour les robots, car ils évoluent dans des environnements non structurés où les normes de sécurité varient selon les lieux.
Wong a fourni un exemple concret : déterminer la distance d’arrêt sécuritaire pour un robot dans une usine comportant des angles morts. « Si un humain transporte des boîtes, par exemple, le robot va-t-il détecter l’humain ou non ? » a-t-il posé, soulignant la nécessité de tests approfondis dans des scénarios divers.
Pour simuler de tels environnements, Safeworld prévoit de créer des modèles numériques de lieux spécifiques, similaires à Genesis ou MuJoCo, et de faire fonctionner des milliers de scénarios pour évaluer comment les humains interagissent avec les robots. Cette tâche est complexe, car le comportement humain peut être imprévisible. Wong a souligné qu’il est crucial de prendre en compte des scénarios comme trébucher ou tomber, ce qui serait autrement impraticable à reproduire dans la réalité.
Malgré les plateformes existantes utilisées par les constructeurs de robots, les fondateurs de Safeworld sont convaincus que la validation par des tiers sera cruciale pour les fabricants. Cette validation peut faciliter le partage d’informations sur la sécurité à travers l’industrie. « Beaucoup de gens sous-estiment la difficulté de résoudre certains de ces cas extrêmes », a noté Zhao, soulignant les préoccupations concernant les déploiements à grande échelle de systèmes robotiques non testés.
Vishal Dugar, CTO de Gritt Robotics, collabore avec Safeworld alors que son entreprise développe une IA pour des robots qui assistent dans l’installation de panneaux solaires à grande échelle. Il a souligné la difficulté inhérente à prouver la sécurité de tels systèmes uniquement par le biais de mathématiques théoriques ; au contraire, une validation empirique est essentielle.
Alors que les robots de Gritt travaillent en étroite collaboration avec des travailleurs humains, garantir des interactions sûres devient primordial. Dugar a détaillé les divers comportements humains et configurations physiques qui doivent être pris en compte, allant de la position accroupie à la course, ce qui complique le processus de vérification.
Safeworld et l’IA générative dans la robotique en sont encore à leurs débuts, et l’entreprise évalue toujours son modèle commercial, oscillant entre servir de plateforme pour des utilisateurs externes ou adopter une approche basée sur les services. Cependant, l’équipe est optimiste quant à sa capacité à aborder des problèmes critiques de sécurité dans le domaine. « Nous serons probablement la première entreprise rentable dans ce secteur », a exprimé Zhao avec confiance. « Parce que si quiconque veut déployer, il doit nous payer pour gérer la situation. »
