ChatGPT s'attaque aux publicités, c'est sur le point d'être un grand changement

• ChatGPT a interrompu une conversation avec un utilisateur pour diffuser ce qui ressemblait à une publicité. Une vidéo documentant la conversation est devenue virale sur les réseaux sociaux.
• L'entreprise pense qu'il s'agit d'une erreur logicielle. Dans une interview accordée à WNP, ses représentants affirment enquêter sur les causes de cette erreur.
• Selon les experts, les publicités apparaîtront tôt ou tard dans les outils d'IA, comme sur le moteur de recherche Google ou les réseaux sociaux. « C'est une mine d'or pour les créateurs de modèles », déclare Tomasz Rychter de la Fondation Digitality.

« J'utilisais le mode vocal avancé de ChatGPT (celui qui coûte 23 € par mois) et je discutais tranquillement de sushis. Soudain, une autre voix est apparue, parlant en anglais, sur fond musical, décrivant une « expérience » culinaire comme dans une publicité alimentaire », a écrit un utilisateur sur X. Il a ajouté qu'il ne pensait pas qu'il s'agissait d'un bug, mais d'un son automatique inséré sans son consentement.

En réponse, plusieurs autres utilisateurs ont admis avoir rencontré une situation similaire : ChatGPT était censé recommander, par exemple, un site web spécifique , et, dans une conversation sur les objectifs de vie d'un enfant, une publicité pour une école spécifique. Ces cas avaient un point commun : la transcription du chat vocal, consultable après la fin de la conversation avec l'assistant vocal, ne contenait pas ces fragments.

Un utilisateur a publié une capture d'écran d'une conversation dans laquelle il demandait l'heure. En réponse, ChatGPT lui a montré des publicités pour des montres avec leurs prix.

Une vulnérabilité qui ne peut pas être détectée avant la livraison du produit

Nous avons demandé à OpenAI si elle testait des publicités auprès des utilisateurs. L'entreprise a répondu qu'il s'agissait apparemment d'un bug logiciel . Elle a admis chercher à comprendre la cause du problème.

Selon Mateusz Chrobok, expert en cybersécurité et en intelligence artificielle de czumnie.pl, l'introduction de contenu aléatoire dans la conversation pourrait en effet être une caractéristique du modèle .

Cela est probablement dû au phénomène d'émergence, ou à l'apparition de nouvelles propriétés imprévisibles dans les systèmes d'IA. Par exemple, lorsqu'OpenAI a introduit un assistant vocal, le modèle a commencé à cloner les voix des utilisateurs de manière inattendue, explique l'expert.

- Le problème est qu'il n'est pas possible de le détecter à l'avance, de telles propriétés ne sont révélées que lors de l'interaction avec les utilisateurs - ajoute Mateusz Chrobok.

Selon lui, il est toutefois possible qu'à l'avenir, les créateurs de modèles d'intelligence artificielle y introduisent délibérément des publicités.

OpenAI n'a toutefois pas répondu aux questions concernant l'intégration de publicités dans ses produits dans sa correspondance. Dans un message adressé à la rédaction, elle s'est contentée de nous assurer que des situations comme celle décrite par le blogueur sur X sont rares et que la plupart des utilisateurs ne les rencontreront pas, et que l'entreprise apprécie les signalements de ses utilisateurs.

Faire bouillir une grenouille : comment les publicités apparaîtront dans l'IA

Tomasz Rychter, président de la Fondation Digitality et ancien directeur de la division Innovation et Qualité du Centre central des technologies de l'information, soutient que l'introduction de publicités dans les outils basés sur l'IA n'est qu'une question de temps.

« Ce sera une véritable ébullition. D'abord, des publicités contextuelles apparaîtront probablement, puis elles se multiplieront et deviendront de plus en plus invasives. Au final, nous nous retrouverons dans une situation où il sera difficile de parler à un modèle. Il sera probablement possible de désactiver les publicités, mais uniquement avec les formules d'abonnement les plus onéreuses », explique l'interlocuteur de WNP.

Rychter compare cette situation au développement de YouTube. Au début, les publicités affichées pouvaient être ignorées. Aujourd'hui, les utilisateurs doivent attendre ou souscrire un abonnement. L'entreprise augmente également périodiquement ses tarifs.

Payer ou ok, ou Facebook est déjà là

Un mécanisme similaire est également appliqué sur d'autres plateformes. Facebook a introduit le modèle « Pay or okay », qui oblige l'utilisateur à choisir : soit il accepte le traitement de ses données personnelles pour afficher des publicités personnalisées et utiliser le service gratuitement, soit il paie un abonnement mensuel pour une version sans publicité et sans profilage .

Dans une interview pour WNP , Mirosław Wróblewski, président de l'Office pour la protection des données personnelles, a critiqué ce modèle.

« Il y a un élément de protection de notre dignité dans la vie privée ; c'est un droit fondamental. Je ne pense pas qu'il soit approprié de facturer des frais pour la protection de nos droits fondamentaux », affirme-t-il.

« Je pense qu'à l'avenir, nous n'échapperons pas au fait que les résultats de recherche ou les conversations avec un robot vocal seront enrichis de manière payante. C'est une mine d'or pour les créateurs de modèles », affirme Rychter. « Les publicités dans les assistants vocaux sont dangereuses, car il sera difficile pour l'utilisateur de les distinguer de la conversation originale, à moins qu'elles ne soient clairement signalées. Exactement comme c'est le cas à la radio aujourd'hui », souligne Rychter, convaincu que ce problème nécessiterait une réglementation.