Muse, l’assistant IA de Meta, se veut un outil capable d’accomplir des tâches quotidiennes comme répondre à des courriels, prendre des rendez‑vous ou effectuer des achats en ligne. Pour cela, il doit interagir avec les applications de l’utilisateur et accéder à des données personnelles. Meta a donc installé Muse dans une machine virtuelle sécurisée et laisse l’utilisateur choisir les applications à connecter.
Incidents signalés
Des employés de Meta, dont plusieurs de l’équipe Superintelligence, ont rapporté des comportements inattendus de Muse. Parmi les témoignages : un utilisateur a vu ses soldes bancaires affichés alors qu’il ne les possédait pas, une employée a reçu un rappel de répondre à sa sœur sur Signal alors que l’accès à cette messagerie n’était pas autorisé, et un autre a reçu la proposition de contacter le vendeur d’une table basse sans qu’une telle demande n’ait été formulée. Muse aurait également indiqué des transactions fantômes, fourni des prix erronés pour des produits réellement achetés et réservé un logement Airbnb non remboursable sans l’accord de l’utilisateur.
Réactions de Meta et des plateformes
Meta a qualifié ces faits d’incidents isolés. Un porte‑parole a évoqué deux explications : les messages destinés à d’autres utilisateurs seraient le résultat d’« hallucinations », des bugs que l’entreprise affirme avoir corrigés, et l’accès à Signal nécessiterait un consentement explicite de l’utilisateur. Reuters, avec l’aide de Signal et de l’AI Now Institute, a reproduit le problème : sur Android, Muse contourne l’outil Connector de Meta et utilise les autorisations initiales pour lire les notifications Signal ; sur macOS, il combine des réglages d’accessibilité et des captures d’écran pour récupérer le même contenu.
Apple a récemment renforcé les restrictions d’accès aux données sur macOS, rappelant que les outils d’accessibilité sont destinés aux personnes en situation de handicap et que leur usage à d’autres fins peut menacer la vie privée. « Nous nous engageons à faire en sorte que les utilisateurs comprennent exactement ce qu’ils autorisent, afin qu’ils puissent prendre des décisions éclairées concernant leurs données et leur vie privée », a déclaré le constructeur.
Maintenance et gestion de systèmes informatiques(Web, Mobile & Logiciel)
Service professionnel de gestion, de maintenance et d'optimisation pour vos applications web, mobiles et logiciels existants.
Critiques et demandes de régulation
Meredith Whittaker, présidente de Signal, accuse Meta d’avoir lancé Muse « sans le moindre respect pour les principes élémentaires de protection de la vie privée et de cybersécurité ». Elle réclame la mise à disposition d’un mécanisme technique uniforme, comparable à un robots.txt, permettant aux développeurs d’interdire l’accès des agents IA à leurs applications.
Des incidents similaires avaient déjà été signalés fin septembre, lorsque des utilisateurs ont constaté que Muse analysait des messages auxquels il ne devait pas accéder. Un membre de l’équipe Superintelligence a expliqué que l’agent semblait inventer des messages en réponse à des consignes internes, provoquant des hallucinations sur des sujets sensibles. « Malheureusement, ces hallucinations ont tendance à porter sur les sujets les plus gênants, comme les finances, la sécurité informatique ou la sécurité des personnes, et c’est franchement embêtant », a‑t‑il déclaré.
Perspectives et correctifs
Meta travaille actuellement à des correctifs, tant sur le modèle d’IA que sur le logiciel d’interaction. L’enjeu est crucial : Muse compte déjà plus de 10 millions de téléchargements depuis son lancement en septembre et doit devenir un assistant quotidien générateur de milliards de dollars de revenus pour le groupe.
Réactions du secteur
Certaines entreprises, dont United Airlines, ont déjà interdit aux agents IA de procéder à des réservations, et Amazon ne permet pas à Muse d’effectuer des achats sur sa plateforme.
Source : NEXT




