Inquiétudes croissantes concernant la vie privée avec le nouvel assistant personnel basé sur l’IA, Instinct
L’assistant personnel basé sur l’IA, Instinct, actuellement en phase de test privé, a attiré l’attention pour ses capacités tout en soulevant des préoccupations en matière de vie privée parmi les testeurs, alimentant ainsi un dialogue sur les compromis liés à l’autonomie accrue de l’intelligence artificielle.
Initialement salué pour ses performances, les utilisateurs ont constaté des fonctionnalités permettant de manipuler diverses applications, y compris des intégrations avec les courriels et les calendriers. Toutefois, certains utilisateurs ont également exprimé des préoccupations sérieuses concernant le modèle de sécurité de l’assistant et ses pratiques de gestion des données. Alors que l’application poursuit ses tests, ces problèmes de confidentialité n’ont pas encore atteint un public plus large.
Développé par une équipe dirigée par l’ancien scientifique de recherche chez Sierra, Noah Shinn, et exploité par Spear Street Technology à San Francisco, Instinct fonctionne en s’intégrant dans les environnements numériques des utilisateurs. Il promet d’aider dans des tâches allant de la planification à l’organisation des données et à la gestion des besoins d’achat.
Instinct a reçu des éloges, étant décrit comme « magique » et comme l’un des « lancements les plus excitants » depuis l’avènement d’autres technologies d’IA. Cependant, le scepticisme persiste concernant ses protocoles de gestion des données. Les utilisateurs ont souligné que les conditions d’utilisation de l’application lui confèrent des droits étendus sur les données des utilisateurs, y compris une licence « perpétuelle et irrévocable » pour accéder et utiliser les matériaux générés par les utilisateurs à des fins de formation. Ces conditions impliquent également que l’application pourrait exécuter des accords en son nom sans consentement préalable, soulevant des questions sur les implications d’une telle autonomie.
Des cas spécifiques ont mis en lumière de potentielles violations de la vie privée. Un utilisateur, Peter Yang, a signalé qu’Instinct n’a pas supprimé ses enregistrements Gmail sur demande, un problème qu’ils ont par la suite résolu en ajoutant une fonctionnalité de suppression de données. Une autre utilisatrice, Claire Vo, a noté que l’assistant continuait de résumer ses données de boîte de réception après avoir été déconnecté, indiquant des pratiques persistantes de conservation des données.
Les préoccupations en matière de sécurité vont au-delà, certains testeurs notant que l’assistant pouvait extraire des informations sensibles, comme des codes d’inscription à partir d’emails pour compléter des réservations. Cela a conduit un participant, Alex Cohen, à supprimer son compte en raison des risques potentiels de phishing liés à l’octroi à l’IA d’un accès direct à des informations sensibles de la boîte de réception.
Malgré la multitude de plaintes, l’intérêt pour Instinct reste fort, particulièrement alors que l’espace des IA personnelles se développe à la suite du succès de technologies similaires telles qu’OpenClaw. Les utilisateurs prennent de plus en plus conscience de leurs droits en matière de données, suscitant des discussions sur l’équilibre nécessaire entre des fonctionnalités avancées et la vie privée des utilisateurs.
Actuellement, l’équipe derrière Instinct n’a pas répondu publiquement à ces préoccupations croissantes. Les discussions entre testeurs continuent de révéler un fossé significatif entre le désir d’outils d’IA personnalisés et les risques qui y sont associés. À mesure que la technologie évolue, le défi demeure : trouver un moyen de maintenir la confiance des utilisateurs tout en tirant parti des capacités puissantes des assistants IA.