La société du mensonge répandu


Photo de Bhautik Patel sur Unsplash
Mauvais scientifiques
De la biologie évolutionniste à la révolution numérique : comment le mensonge a façonné les sociétés humaines. Aujourd'hui, avec l'IA, son coût s'effondre et sa diffusion menace la cohésion sociale et la vérité partagée.
Sur le même sujet :
Vivons-nous dans une société de mensonges et de tromperies ? Et si oui, avec quelles conséquences ? L’éthologie comparée et la biologie évolutionniste peuvent contribuer au débat soulevé par ces questions. La tromperie, souvent interprétée comme une pure ruse égoïste, révèle en réalité un réseau complexe d’effets qui dépassent l’individu, touchant la dynamique de groupe, les régulations sociales et même la transmission culturelle.
D'un point de vue évolutionniste, le mensonge s'inscrit dans un système de coûts et de bénéfices qui façonne les stratégies de communication depuis l'aube de nos ancêtres communs avec les autres primates. Dans un environnement où les ressources – nourriture, partenaires reproductifs, alliés sociaux – sont rares et inégalement réparties, la capacité à manipuler les croyances d'autrui peut offrir un avantage sélectif immédiat : un individu qui parvient à dissimuler une ressource ou à présenter de fausses informations augmente sa capacité de reproduction s'il est capable de transmettre ses gènes plus efficacement que ses rivaux . Cependant, pour que cette stratégie se stabilise dans la population, le gain individuel doit dépasser non seulement les coûts énergétiques de la tromperie (par exemple, la dépense cognitive liée à la planification de la tromperie), mais aussi les coûts sociaux de la découverte, tels que la perte de statut ou l'exclusion du groupe.
Selon les modèles de la théorie des jeux, deux individus qui mentent puis se découvrent mutuellement sont tous deux désavantagés par rapport à un scénario de coopération basée sur la confiance. Il en résulte une forme d'équilibre évolutif où règnent des mensonges tactiques occasionnels, limités par des mécanismes de punition et de réputation. Si le taux de détection des mensonges est suffisamment élevé et les sanctions suffisamment sévères (par exemple, isolement, réduction du soutien social, perte de possibilités de reproduction), la tromperie n'est plus rentable dans la plupart des interactions, et ce n'est que dans des conditions particulières – comme une forte concurrence asymétrique – qu'elle émerge de manière stable .
Cet équilibre dynamique rend rapidement la fraude coûteuse, même lorsqu'elle n'est pas découverte, car pour être crédible, elle doit mobiliser d'importantes ressources cognitives et physiques, ce qui entraîne une diminution du nombre de menteurs ; bientôt, seuls ceux qui disposent de ressources suffisantes à investir et d'un retour sur investissement élevé seront concernés. C'est le concept de « signalisation de handicap », introduit par Zahavi et formalisé par Grafen, qui explique qu'une tromperie ne peut être avantageuse sur le plan évolutif que si elle entraîne pour le menteur un coût supérieur à celui que les moins doués sont capables de supporter. Dans les systèmes de communication animaux, en effet, de nombreux signaux sont conçus pour être si coûteux ou si facilement réfutables qu'ils rendent toute tentative de bluff vaine : en réalité, une vérité conventionnelle de la communication est établie, protégeant la fiabilité des interactions fondamentales. Cependant, lorsque le volume cérébral et les capacités cognitives atteignent des niveaux élevés, comme c'est le cas chez les chimpanzés et plus encore chez les humains, le prix à payer pour la tromperie augmente proportionnellement à la complexité du message trompeur, qui doit passer l'examen minutieux de capacités mentales supérieures. Ainsi, à partir de simples bluffs tactiques, la voie s'est ouverte à des mensonges raffinés, capables de prendre des formes élaborées dans des discours politiques ou des stratégies marketing, précisément parce que leur coût cognitif et social est devenu suffisamment élevé pour garantir, du moins en théorie, une contrainte de crédibilité moyenne à élevée. Les menteurs sont devenus plus rares, mais les mensonges beaucoup plus efficaces.
Tout au long de la lignée humaine, la sélection a donc favorisé non seulement la capacité à tromper, mais aussi celle à détecter et à punir les mensonges : une course aux armements cognitifs nous a poussés à développer la théorie de l’esprit et la métacognition, outils permettant d’évaluer l’honnêteté d’autrui. Les individus les plus doués pour détecter les mensonges étaient des partenaires coopératifs plus fiables, bénéficiant ainsi d’avantages en termes de soutien mutuel et de soins parentaux. De même, ceux qui savaient tromper sans être détectés obtenaient des ressources supplémentaires ; d’où la coévolution du mensonge et de la détection, portée par une dynamique de sélection bilatérale.
Un niveau de complexité supplémentaire apparaît si l'on considère le mensonge sous l'angle de la sélection de groupe. Les groupes où le mensonge était contenu dans des limites raisonnables – grâce aux normes sociales et aux sanctions – avaient tendance à mieux coopérer, à se consolider et à concurrencer avec succès les groupes où la tromperie était endémique et en voie de désintégration. Ce mécanisme explique pourquoi, malgré le gain individuel offert par le mensonge, sa diffusion excessive était contenue par la sélection culturelle : les communautés soumises à une « cage réputationnelle » intense prospéraient, tandis que celles où la tromperie était incontrôlée se désintégraient . Il convient toutefois de noter que ce mécanisme maintient sous contrôle les mensonges que l'on pourrait qualifier d'égoïstes : les mensonges qui, au contraire, fonctionnent comme un ciment et favorisent la coopération – les mensonges identitaires – sont favorisés et imperméables aux mécanismes de contrôle énoncés.
Nous en arrivons ainsi au point crucial : si un mensonge favorise la coopération d’un large groupe, il peut garantir à la fois le succès reproductif de l’individu et celui du groupe tout entier. Les mensonges identitaires de ce type relèvent du complotisme et, à plus grande échelle, des mensonges marketing qui exploitent l’identification des consommateurs à des groupes très spécifiques ; jusqu’aux mensonges politiques, qui fonctionnent et ont bien plus de succès que la version des faits qu’ils occultent.
Puisque, chez notre espèce, le mensonge est éminemment médiatisé par le langage, il est clair que le rôle des modèles linguistiques à grande échelle (MLH) s'ajoute désormais à la dynamique décrite . Les MLH ont radicalement modifié cet équilibre, générant des textes trompeurs de qualité supérieure, structurés avec cohérence et un style persuasif, à une vitesse et une échelle extrêmes. De cette façon, le coût du mensonge dont nous parlions précédemment devient très faible, et la différence entre les excellents menteurs capables de le payer pour obtenir un avantage et l'individu moyen est éliminée – à l'exception peut-être du coût associé à la maîtrise de l'outil. Des études récentes montrent que les MLH sont plus convaincants que les communicateurs humains dans les débats sur des sujets sensibles, modulant les arguments sur la base de données démographiques minimales pour maximiser l'impact persuasif . De plus, les campagnes de « grooming » menées par des acteurs hostiles – qui sèment des réseaux de faux contenus destinés à alimenter les algorithmes d'IA – ont déjà démontré comment les réponses des agents conversationnels peuvent être indirectement orientées, amplifiant la propagation de récits déformés . D'une part, ces technologies transforment la tromperie, passant d'une tactique occasionnelle à une arme d'influence massive, capable d'éroder le discernement collectif sans que les utilisateurs s'en rendent compte ; d'autre part, elles rendent le coût cognitif de la tromperie si faible qu'il peut multiplier les menteurs indéfiniment. Dans ces conditions, il est aisé de prédire comment l'équilibre éthologique et social qui garantit la cohésion des groupes, voire de vastes populations humaines et animales, pourrait s'effondrer, compte tenu du coût de la génération de mensonges crédibles et du risque associé à la perte de crédibilité en cas de découverte.
La réduction drastique du « coût » du mensonge, induite par les modèles linguistiques à grande échelle et les plateformes numériques, a transformé ce qui était autrefois un signal tactique rarement utilisé en une pratique répandue, capable de déclencher des vagues de violence de masse lorsqu'il est façonné autour d'identités collectives . Si, hier encore, tisser une tromperie complexe nécessitait du temps, des efforts cognitifs et le risque de sanctions sociales, aujourd'hui, un signal bien conçu suffit à générer des discours extrémistes, des récits ethniques ou religieux grâce à des algorithmes capables d'affiner le ton et le style en fonction des préjugés d'un groupe donné. Cette facilité érode le « signal de handicap » originel : le coût associé à la génération d'un mensonge crédible, celui qui le rend à la fois crédible et rare, devient nul.
De plus, la rapidité avec laquelle les contenus faux et identitaires se reproduisent et s'adaptent aux contextes locaux exclut toute possibilité de contrôle spontané : l'information trompeuse, désormais sans frein, devient une arme qui fait exploser des conflits latents avec une violence sans précédent, structurant des communautés d'ennemis d'une ampleur et d'une détermination sans précédent . Aujourd'hui, nous appelons cela la politique ; et la mesure dans laquelle elle produit les mêmes effets désintégrateurs, violence et guerres, est rappelée non seulement par les données dont nous disposons sur les primates non humains, mais aussi directement par la contemporanéité dans laquelle nous vivons.
L'effort de chacun doit donc être orienté dans une direction précise : non seulement reconnaître et préserver la discussion des faits, c'est-à-dire les preuves dont nous disposons pour telle ou telle thèse, mais surtout préserver un récit collectif et partagé qui se fonde sur la règle de la preuve. La bataille porte sur le partage d'une méthode, et non sur telle ou telle hypothèse plus ou moins fondée. Et c'est une bataille dont l'enjeu n'est pas seulement notre capacité à nous adapter au monde physique, impossible sans l'analyse objective des données disponibles, mais la survie même d'une société complexe au-delà des tribus en guerre perpétuelle et des oligarques au pouvoir illimité.
En savoir plus sur ces sujets :
ilmanifesto