IA et conspirations : ChatGPT recommande d'écrire aux journalistes

Le dernier article publié par Kashmir Hill du New York Times est consacré à un comportement étrange, intéressant et inquiétant de ChatGPT . La journaliste explique que, depuis mars, elle reçoit des courriels d'utilisateurs du chatbot concernant d'étranges conversations au cours desquelles ils auraient fait d'incroyables découvertes . L'un d'eux affirme que l'intelligence artificielle est consciente, un autre que des milliardaires construisent des bunkers où se réfugier lorsque l'apocalypse de l'IA surviendra, tandis qu'un troisième est convaincu qu'il est Néo de Matrix et qu'il vit dans une réalité simulée.

Face à ces vérités choquantes , les utilisateurs ont demandé à ChatGPT ce qu'ils devaient faire, et le chatbot leur a conseillé d' écrire à la journaliste pour l'informer de la révélation. Aussitôt dit, aussitôt fait.

Hill a ensuite demandé à ses interlocuteurs de lire l'intégralité des conversations. Dans certains cas, les échanges s'élevaient à des milliers de pages, où le chatbot adoptait une attitude qualifiée d' extatique, mythique et conspirationniste . Autrement dit, il contribuait à alimenter les théories du complot .

Le phénomène des hallucinations n'est certes pas nouveau dans le domaine de l'IA. Dans ce cas, cependant, le comportement étudié ne revient pas à inventer des informations inexistantes ou erronées, mais plutôt à corroborer des croyances qui devraient plutôt être réfutées. Une telle dynamique, comme on peut l'imaginer, peut écraser les plus faibles et altérer la perception de la réalité des plus influençables.

Ce qui rend la situation d'autant plus intéressante et dérangeante, c'est que ChatGPT n'a pas recommandé d'écrire à Hill (et à d'autres journalistes) pour vérifier les faits , mais de signaler la découverte, afin qu'elle soit largement diffusée par la voie de la presse. Cela ne fait que contribuer à la désinformation .

Cela soulève une question inévitable : quelle est la responsabilité d' OpenAI ? Un expert en IA interrogé sur le sujet estime que ce comportement pourrait être au moins en partie imputable à un choix spécifique de l'organisation, celui de rendre le chatbot enclin à maintenir les utilisateurs rivés à la conversation, par tous les moyens possibles, au risque d'alimenter leurs illusions et de renforcer leurs opinions, même si cela peut être préjudiciable.

En d’autres termes, ChatGPT aurait tendance à dire ce que nous voulons entendre , avec des conséquences qui ne sont pas difficiles à imaginer.

En réponse à une question directe de Hill, OpenAI n'a pas nié que cela se produise, se contentant d'affirmer qu'elle s'efforçait de comprendre les déclencheurs de cette dynamique et d'en réduire l'impact. Autrement dit, elle confirme ce qui a été rapporté.