Introduction
Face à la montée en puissance des chatbots à mémoire, les chercheurs s’interrogent sur les nouvelles formes de personnalisation qu’ils engendrent. Cette mémoire, ajoutée aux modèles de langage classiques, permet aux systèmes de fournir des réponses plus précises et personnalisées, mais elle recueille également des informations considérées comme personnelles au sens du RGPD.
Étude du Max Planck Institute
Une équipe du Max Planck Institute for Software Systems, dirigée par le chercheur Abhisek Dash, a présenté ses travaux intitulés « The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT » lors d’une conférence de l’Association for Computing Machinery à Dubaï en avril dernier. Les auteurs décrivent la mémoire comme « l’autoportrait algorithmique » – une forme de personnalisation issue des informations que les utilisateurs révèlent lors de conversations privées.
Analyse des conversations
En février 2026, les chercheurs ont étudié 1 058 conversations avec ChatGPT, totalisant 22 971 échanges, dont 2 050 ont déclenché des mises à jour de la mémoire. Ils constatent que seulement 4 % des souvenirs ont été initiés par les participants, tandis que 96 % ont été créés unilatéralement par le chatbot.
Contenu des souvenirs
L’analyse révèle que 28 % des souvenirs contiennent des données personnelles au sens du RGPD et que 7 % appartiennent à des catégories particulières de données sensibles. Pour 91 % des utilisateurs, la mémoire a enregistré des données personnelles, et pour 54 % des données sensibles.
Maintenance et gestion de systèmes informatiques(Web, Mobile & Logiciel)
Service professionnel de gestion, de maintenance et d'optimisation pour vos applications web, mobiles et logiciels existants.
Dimension psychologique
Contrairement aux plateformes numériques traditionnelles qui collectent principalement des données démographiques et comportementales, les chatbots conversationnels construisent leur mémoire à partir des récits fournis par les utilisateurs, incluant leurs pensées et leurs sentiments. Les chercheurs soulignent que les souvenirs peuvent « enregistrer l’identité de l’utilisateur, mais aussi sa façon de penser et ses sentiments ».
Utilisation de la théorie de l’esprit
Pour interpréter ces souvenirs, l’équipe a appliqué le concept de théorie de l’esprit (Theory of Mind). En classifiant les souvenirs avec GPT‑4o, ils ont constaté que 73 % exprimaient un désir et 16 % une intention. Parmi les utilisateurs analysés, 97 % des souvenirs contenaient des informations sur leurs désirs, 68 % sur leurs intentions et 52 % sur leurs connaissances.
Risques et réponses
Abhisek Dash et ses collègues avertissent que ces autoportraits algorithmiques soulèvent de graves préoccupations en matière de sécurité et de vie privée. Ils travaillent sur un outil nommé « Attribution Shield », destiné à alerter les utilisateurs lorsqu’un souvenir sensible est présent et à proposer des prompts alternatifs pour protéger l’anonymat.
Évolutions chez OpenAI
Depuis la publication de l’étude, OpenAI a modifié le fonctionnement de la mémoire de ChatGPT. Depuis juin, la mémoire synthétise progressivement les informations et les met à jour de façon continue plutôt que de stocker des souvenirs individuels. Les utilisateurs peuvent consulter un résumé, mais OpenAI précise que ce résumé « n’inclut pas nécessairement tous les détails ou toutes les sources » auxquelles la mémoire a accès. Malgré ces changements, les types d’informations stockées restent similaires à ceux identifiés par les chercheurs.
Source : NEXT
