Une start-up de prévention des arnaques, DetectifAI, cible la détection de voix deepfake
Le grand-père de Tarini Padmanabhuni est devenu victime d’une arnaque sophistiquée impliquant une voix deepfake imitant un membre de sa famille, entraînant un paiement de rançon pour un kidnapping qui n’a jamais eu lieu. Cet incident, survenu il y a environ deux ans, l’a inspirée à lancer DetectifAI, une entreprise basée à San Francisco dédiée à la protection des individus contre de telles arnaques.
Selon le FBI, les Américains ont perdu près de 900 millions de dollars à cause d’arnaques alimentées par l’IA l’année dernière, représentant une augmentation de 24 % par rapport à 2024. Il est à noter que les individus âgés de 60 ans et plus ont subi des pertes deux fois plus importantes que celles des 50-59 ans. Cette tendance alarmante souligne l’urgence de solutions efficaces contre la technologie deepfake.
Le marché de la détection de voix deepfake est en pleine expansion, avec une concurrence provenant d’entreprises telles que Reality Defender, Pindrop, Resemble AI et Microsoft Azure AI Content Safety. Cependant, Padmanabhuni soutient que la plupart des méthodes de détection existantes reposent sur une infrastructure cloud, limitant leur capacité à être intégrées directement dans les smartphones. Cela laisse les utilisateurs vulnérables aux attaques audio générées par l’IA.
À l’inverse, DetectifAI vise à créer des modèles d’IA compacts conçus pour fonctionner au sein du système d’exploitation d’un smartphone, offrant une vérification en temps réel de l’authenticité audio lors des appels et des messages vocaux sans transmettre de données à l’extérieur. Cette approche technologique cherche à renforcer les utilisateurs en fournissant une analyse immédiate et sur l’appareil des interactions vocales.
La start-up prévoit de licencier son kit de développement logiciel (SDK) aux fabricants de téléphones, leur permettant d’incorporer la détection de deepfake comme fonctionnalité standard dans leurs appareils. Padmanabhuni compare cette stratégie à l’exclusivité dont bénéficiait AT&T avec l’iPhone initial, suggérant que le premier fabricant à mettre en œuvre la technologie de DetectifAI obtiendra un avantage concurrentiel significatif.
Le modèle commercial de DetectifAI vise également à générer des revenus par le biais de licences pour des entreprises et des sociétés de prévention des fraudes. Actuellement, la start-up rapporte gérer plus de 100 000 appels par mois pour des institutions financières en Inde, impliquant des agents vocaux IA pour le recouvrement de créances. Chaque appel utilise la détection de deepfake et la vérification de l’identité de l’interlocuteur pour assurer l’identité des appelants.
Le parcours de Padmanabhuni inclut une exposition précoce à l’apprentissage automatique, elle a commencé à travailler dans ce domaine à l’âge de 12 ans. Elle a poursuivi ses études dans les systèmes cyber-physiques à l’Institut de technologie de Manipal en Inde, menant finalement une équipe dans la première division de voitures de course sans conducteur du pays lors d’une compétition d’ingénierie internationale.
En réfléchissant à l’impact de son travail, Padmanabhuni évoque un test beta réussi de leur service WhatsApp, où les utilisateurs pouvaient envoyer des notes vocales suspectes pour analyse. Un participant au test, dont la famille avait été arnaquée, a exprimé sa volonté de payer pour le service, soulignant la nécessité réelle d’une telle technologie. « Mon grand-père n’avait pas cela », a-t-elle noté, insistant sur l’importance des mesures préventives contre les arnaques.
Jusqu’à présent, DetectifAI a sécurisé un financement de démarrage de la part d’investisseurs tels que Josh Constine et Manohar Kamath. La start-up a été sélectionnée pour participer à la compétition Startup Battlefield de TechCrunch, prévue du 13 au 15 octobre au centre-ville de San Francisco, mettant davantage en avant son potentiel sur la scène technologique.
