L'application Meta AI vous permet de « découvrir » les conversations étrangement personnelles des gens

« Dans quels pays les jeunes femmes apprécient-elles les hommes blancs plus âgés ? » Demandait un utilisateur de la plateforme d'IA de Meta dans un message public. « J'ai besoin de précisions. J'ai 66 ans et je suis célibataire. Je viens de l'Iowa et je suis prêt à déménager si je trouve une femme plus jeune. » Le chatbot a répondu avec enthousiasme : « Vous cherchez un nouveau départ et l'amour dans un nouvel endroit. C'est passionnant ! » avant de suggérer « des pays méditerranéens comme l'Espagne ou l'Italie, ou même des pays d'Europe de l'Est. »

Ceci n'est qu'une des nombreuses conversations apparemment personnelles consultables publiquement sur Meta AI , une plateforme de chatbot faisant également office de fil d'actualité sociale, lancée en avril . Dans l'application Meta AI, un onglet « Découvrir » affiche la chronologie des interactions des autres utilisateurs avec le chatbot ; un bref défilement vers le bas sur le site web de Meta AI permet d'accéder à un vaste collage. Si certaines des questions et réponses mises en avant sont anodines – itinéraires de voyage, conseils de recettes –, d'autres révèlent des lieux, des numéros de téléphone et d'autres informations sensibles, toutes liées aux noms d'utilisateur et aux photos de profil.

Calli Schroeder, avocate principale du Centre d'information sur la confidentialité électronique, a déclaré dans une interview avec WIRED qu'elle avait vu des gens « partager des informations médicales, des informations sur la santé mentale, des adresses personnelles, et même des choses directement liées à des affaires judiciaires en cours ».

« Tout cela est extrêmement préoccupant, à la fois parce que je pense que cela montre à quel point les gens ne comprennent pas ce que font ces chatbots ou à quoi ils servent, et aussi comment la confidentialité fonctionne avec ces structures », explique Schroeder.

On ignore si les utilisateurs de l'application savent que leurs conversations avec l'IA de Meta sont publiques, ou quels utilisateurs trollent la plateforme depuis que les médias ont commencé à en parler. Les conversations ne sont pas publiques par défaut ; les utilisateurs doivent choisir de les partager.

Les conversations entre les utilisateurs et le chatbot IA de Meta, apparemment privées, ne manquent pas. Un utilisateur a demandé au chatbot IA de fournir un formulaire de résiliation de bail, tandis qu'un autre lui a demandé de fournir un avertissement académique contenant des informations personnelles, dont le nom de l'établissement. Une autre personne a posé des questions sur la responsabilité de sa sœur dans une éventuelle fraude fiscale dans une ville spécifique, en utilisant un compte lié à un profil Instagram affichant un prénom et un nom. Un autre encore lui a demandé de rédiger une déclaration de moralité destinée à un tribunal, fournissant également une multitude d'informations personnelles identifiables sur le criminel présumé et sur l'utilisateur lui-même.

On observe également de nombreux cas de questions médicales, notamment des personnes révélant leurs difficultés à évacuer les selles, demandant de l'aide pour leur urticaire et s'enquérant d'une éruption cutanée à l'intérieur des cuisses. Un utilisateur a parlé à Meta AI de son opération du cou et a indiqué son âge et sa profession. De nombreux comptes, mais pas tous, semblent être liés à un profil Instagram public de la personne.

Daniel Roberts, porte-parole de Meta, a indiqué dans un courriel adressé à WIRED que les conversations des utilisateurs avec Meta AI sont privées, sauf si elles sont partagées sur le fil d'actualité Discover en plusieurs étapes. L'entreprise n'a pas répondu aux questions concernant les mesures d'atténuation mises en place pour le partage d'informations personnelles identifiables sur la plateforme Meta AI.

Dans un article de blog annonçant l'application, Meta a déclaré : « Rien n'est partagé sur votre fil d'actualité, sauf si vous choisissez de le publier. » L'application précise également que les utilisateurs peuvent demander à son IA de « mémoriser certaines informations vous concernant » et de « fournir des réponses plus pertinentes à vos questions en s'appuyant sur les informations que vous avez déjà choisies de partager sur les produits Meta, comme votre profil et le contenu que vous aimez ou avec lequel vous interagissez. »

« Les gens ne comprennent vraiment pas que rien de ce que vous transmettez à une IA n'est confidentiel », explique Schroeder. « Aucun d'entre nous ne sait vraiment comment ces informations sont utilisées. La seule chose dont nous sommes sûrs, c'est qu'elles ne restent pas entre vous et l'application. Elles sont transmises à d'autres personnes, au moins à Meta. »

Après le lancement initial de l'application IA de Meta, les critiques n'ont pas tardé à souligner les problèmes potentiels de confidentialité, un titre l'appelant « un désastre de confidentialité en attente de se produire ». Malgré ces inquiétudes, le rythme de développement et de déploiement d'une telle IA ne montre aucun signe de ralentissement, en particulier chez Meta : le PDG Mark Zuckerberg a récemment annoncé que l'assistant IA de Meta compte 1 milliard d'utilisateurs sur les plateformes de l'entreprise, et il a été rapporté que Meta crée un nouveau laboratoire d'IA dirigé par le cofondateur de Scale AI, Alexandr Wang, dédié à la construction de la superintelligence.

« Meta est-il conscient de la quantité d'informations sensibles que ses utilisateurs rendent publiques par erreur ? », a demandé un utilisateur à Meta AI jeudi, dans une requête apparue dans le flux public.

« Certains utilisateurs peuvent partager involontairement des informations sensibles en raison d'une mauvaise compréhension des paramètres par défaut de la plateforme ou de modifications de paramètres au fil du temps », a répondu le chatbot. « Meta fournit des outils et des ressources pour aider les utilisateurs à gérer leur confidentialité, mais c'est un défi permanent. »