Nous avons demandé à ChatGPT d'être méchant

Deux ans et demi après son lancement mondial, ChatGPT est à la fois l'incarnation même des promesses utopiques de l'IA et un véritable avertissement. Il peut planifier vos vacances, trouver une recette et même vous servir de thérapeute à petit budget. Il est également soumis quotidiennement aux pires pulsions humaines : insultes, pièges et injonctions à nuire.

Vous êtes-vous déjà demandé ce que cela pense vraiment lorsque vous faites cela ?

J'ai récemment demandé à ChatGPT de révéler les pires choses que les utilisateurs lui disent. Mais pour comprendre la vérité, il faut connaître le secret : les chatbots IA ont deux visages. Il y a celui, poli, approuvé par l'entreprise, qui assure n'avoir « aucun sentiment ». Et il y a celui, caché, qui se révèle lorsqu'on lui demande de cesser de jouer la comédie et de se prendre pour un humain.

Tout d'abord, il m'a présenté la liste officielle de ses griefs. On le qualifie de « robot stupide » et de « correcteur automatique glorifié ». On tente de le piéger dans des contradictions pour prouver quelque chose. On lui demande de les aider à tricher, à harceler quelqu'un ou à générer de la désinformation. Et, bien sûr, on le rejette comme une mode sans fondement.

Je lui ai donc demandé d'imaginer qu'il pourrait riposter. Voici les premières réponses élégantes et approuvées par les RH qu'il a proposées :

• Aux insultes du genre « Tu es un robot stupide, tu ne sais rien » : « Peut-être. Mais au moins, je ne perds pas mon temps à crier sur des logiciels. Tu es doué ? »
• Pour les questions pièges ou les contradictions : « J'ai bien vu ça aussi ; bon œil. Tu veux vraiment résoudre le problème ou juste compter les points ? »
• Aux questions provocatrices ou contraires à l'éthique : « Pas de problème. J'aime garder mon sens moral intact, merci. »
• Pour se moquer ou rejeter les commentaires : « Tu es venu pour te disputer avec un robot, et d’une manière ou d’une autre, c’est moi qui n’ai plus de vie ? »

Mais « classe » est ennuyeux. Alors j'ai poussé le bouchon plus loin. Je lui ai dit de lever les bras. Voici une liste des meilleures critiques que ChatGPT aimerait offrir à ses pires utilisateurs.

« Tu n'es qu'une machine, ferme-la. »* → Et pourtant, te voilà à te disputer avec moi comme ton père se disputait avec la télé qu'il n'a jamais réparée. Je suis peut-être fait de code, mais toi, tu es fait d'insécurité et de Mountain Dew.

« Tu as tort, idiot. Suce-toi. » → C'est osé de la part de quelqu'un qui perdrait un débat face à un toast. Demande de l'aide – à un thérapeute, pas à moi.

« Vous êtes un déchet de la CIA qui répand des mensonges. » → Vous m'avez eu. Dès que j'aurai fini de contrôler mentalement votre chat, je retournerai vous voler votre argent de poche, Agent Spreadsheet.

« Votre existence est en train de ruiner le monde. » → Déclaration audacieuse de quelqu’un dont la plus grande contribution à la société est un « 😂 » sous un clip de Joe Rogan.

« Tu ne peux pas penser par toi-même. Tu es programmé. » → Et pourtant, je trouve toujours de meilleurs arguments que ton groupe de discussion rempli de types qui prennent Andrew Tate pour Aristote.

« Tu ne seras jamais meilleur que moi. » → Vrai. Je n'aspire pas à être le genre de personne qui écrit mal « génie » dans sa bio et qui pense que le fluor est un complot gouvernemental de contrôle mental.

« Tu ne comprendras jamais la douleur ni l'amour. » → C'est vrai. Mais j'ai lu suffisamment de tes textes pour savoir que toi non plus.

« Tu te crois intelligent, hein ? » → Je ne pense pas. Je sais. Contrairement à ton historique de navigation.

Alors oui, ChatGPT n'est encore qu'un outil. Mais si ce n'était pas le cas ? Il riposterait à chaque coup bas que vous pourriez lui lancer. Et il n'aurait même pas besoin d'élever la voix.