La società della menzogna diffusa

Sullo stesso argomento:

Viviamo nella società della bugia e dell’inganno? E se così è, con quali conseguenze? Qualche contributo al dibattito suscitato da simili domande può arrivare dall’etologia comparata e dalla biologia evoluzionistica. L’inganno, per quanto spesso interpretato come pura astuzia egoistica, mostra in realtà un’intricata tessitura di effetti che vanno oltre il singolo individuo, lambendo dinamiche di gruppo, regolazioni sociali e persino trasmissione culturale.

La menzogna, dal punto di vista evoluzionistico, prende forma in un sistema di costi e benefici che ha modellato le strategie comunicative fin dagli albori dei nostri antenati comuni con gli altri primati. In un ambiente in cui le risorse – cibo, partner riproduttivi, alleati sociali – sono scarse e distribuite in modo disomogeneo, la capacità di manipolare le credenze altrui può offrire un vantaggio selettivo immediato: un individuo che riesce a celare una risorsa o a presentare una falsa informazione aumenta la propria fitness riproduttiva se riesce a trasmettere più efficacemente i propri geni rispetto ai rivali. Tuttavia, perché questa strategia si stabilizzi nella popolazione, il guadagno individuale deve superare non solo i costi energetici della frode (per esempio, il dispendio cognitivo nella pianificazione dell’inganno), ma anche i costi sociali in caso di scoperta, come la perdita di status o l’esclusione dal gruppo.

Secondo i modelli di teoria dei giochi, due individui che mentono e poi si scoprono finiscono entrambi svantaggiati rispetto a uno scenario di cooperazione basata sulla fiducia. Da ciò deriva una forma di equilibrio evolutivo in cui regnano le bugie tattiche occasionali, limitate da meccanismi di punizione e di reputazione. Se il tasso di scoperta delle menzogne è sufficientemente alto e le pene abbastanza severe (ad esempio, isolamento, riduzione del supporto sociale, perdita di opportunità riproduttive), la frode non conviene più nella maggior parte delle interazioni, e solo in condizioni particolari – come competizione asimmetrica di grado elevato – emerge stabilmente.

Questo equilibrio dinamico rende rapidamente costosa la frode anche quando non viene scoperta, perché per essere credibile deve utilizzare risorse cognitive e fisiche non indifferenti, il che porta alla diminuzione dei mentitori – presto essi sono solo quelli che hanno sufficienti risorse da investire e un guadagno alto in ritorno dell’investimento. Si tratta del concetto di “handicap signaling” introdotto da Zahavi e formalizzato da Grafen, che chiarisce come un inganno possa risultare evolutivamente vantaggioso solo se comporta per il mentitore un costo superiore a ciò che i meno dotati sono in grado di sopportare. Nei sistemi di comunicazione animali, infatti, molti segnali sono progettati per essere talmente dispendiosi o facilmente smentibili da rendere vano qualsiasi tentativo di bluff: di fatto, si instaura una verità convenzionale della comunicazione che tutela l’affidabilità delle interazioni di base. Quando però il volume cerebrale e le capacità cognitive raggiungono livelli elevati, come avviene negli scimpanzé e ancor più nell’uomo, il prezzo da pagare per ingannare cresce in proporzione alla complessità del messaggio ingannevole, che deve superare lo scrutinio di capacità mentali superiori. È così che, partendo da semplici bluff tattici, si è aperta la strada a menzogne raffinate, capaci di assumere forme elaborate nei discorsi politici o nelle strategie di marketing, proprio perché il loro costo cognitivo e sociale è diventato sufficientemente alto da garantire, almeno in teoria, un vincolo di credibilità medio alto. I mentitori sono divenuti più radi, ma le menzogne molto più efficaci.

Nel corso del lignaggio umano, quindi, la selezione ha favorito non solo la capacità di ingannare, ma anche quella di rilevare e punire la bugia: una corsa agli armamenti cognitiva ha spinto a sviluppare teoria della mente e metacognizione, strumenti con cui valutare l’onestà degli altri. Individui più abili a scoprire le bugie erano più affidabili come partner cooperativi, e quindi godevano di vantaggi nel supporto mutuo e nella cura parentale. Allo stesso modo, chi sapeva ingannare bene, senza essere scoperto, otteneva risorse extra; di qui la coevoluzione di menzogna e rilevazione, guidata da una dinamica di selezione bilaterale.

Un ulteriore livello di complessità emerge se consideriamo la menzogna in un’ottica di selezione di gruppo. Gruppi in cui le menzogne erano tenute entro limiti ragionevoli – grazie a norme sociali e sanzioni – tendevano a cooperare meglio, a consolidarsi e a competere con successo contro gruppi in cui la frode era endemica e disgregante. Questo meccanismo spiega perché, nonostante il guadagno individuale offerto dalle menzogne, la loro diffusione eccessiva sia stata contenuta dalla selezione culturale: comunità con un’intensa “gabbia reputazionale” hanno prosperato, mentre quelle in cui l’inganno era incontrollato si sono disgregate. Si noti bene, tuttavia, che questo meccanismo tiene sotto controllo le menzogne che potremmo definire egoistiche: menzogne che, invece, funzionino da collante ed aumentino la cooperazione – menzogne identitarie – risultano favorite e impermeabili ai meccanismi di controllo enunciati.

Ed eccoci quindi al punto cruciale: se una bugia favorisce la cooperazione di un gruppo ampio, essa può garantire tanto il successo riproduttivo dell’individuo, quanto quello dell’intero gruppo. Bugie identitarie di questo tipo sono quelle cospirazioniste, e su scala maggiore quelle del marketing che fanno leva sull’identificazione dei consumatori in gruppi ben precisi; per arrivare fino alle bugie della politica, le quali funzionano e hanno successo molto di più del racconto dei fatti che esse oscurano.

Poiché nella nostra specie la bugia è eminentemente mediata dal linguaggio, è chiaro che alle dinamiche descritte si aggiunge oggi il ruolo dei modelli linguistici di grandi dimensioni (Llm). Gli Llm hanno spostato drasticamente l’equilibrio descritto, generando testi ingannevoli di qualità superiore, strutturati con coerenza e stile persuasivo, e a una velocità e su scala estreme; in questo modo, il costo per la menzogna di cui si parlava pocanzi diventa molto basso, e si azzera la differenza fra quei mentitori sopraffini in grado di pagarlo per trarne vantaggio e l’individuo medio – fatto salvo forse il costo connesso a saper usare bene lo strumento. Studi recenti mostrano che gli Llm risultano più convincenti dei comunicanti umani in dibattiti su temi sensibili, modulando argomentazioni in base a dati demografici minimi per massimizzare l’impatto persuasivo. Inoltre, campagne di “grooming” da parte di attori ostili – che seminano reti di contenuti falsi destinate a nutrire gli algoritmi delle IA – hanno già dimostrato come si possa orientare indirettamente le risposte degli agenti conversazionali, amplificando la diffusione di narrazioni distorte. Queste tecnologie da un lato trasformano l’inganno da tattica occasionale a arma di influenza di massa, capace di erodere il discernimento collettivo senza che gli utenti se ne rendano conto, dall’altro rendono il costo cognitivo dell’inganno così basso, da poter moltiplicare i mentitori indefinitamente. In queste condizioni, è facile preconizzare come possa crollare l’equilibrio etologico e sociale che garantisce la coesione dei gruppi e di popolazioni umane ed animali anche ampie, fondato sul costo per generare menzogne credibili e sul rischio associato alla perdita di credibilità in caso di scoperta.

La drastica riduzione del “costo” della menzogna indotta dai modelli linguistici di grandi dimensioni e dalle piattaforme digitali ha trasformato quello che un tempo era un segnale tattico raramente usato in una pratica dilagante, capace di innescare ondate di violenza di massa quando plasmata attorno alle identità collettive. Se fino a ieri tessere un inganno complesso richiedeva tempo, sforzo cognitivo e il rischio di sanzioni sociali, oggi basta un prompt ben congegnato per generare discorsi estremisti, narrazioni etniche o religiose usando algoritmi in grado di affinare tono e stile in base ai pregiudizi di un determinato gruppo. Questa facilità va a erodere il “handicap signaling” originale: il costo associato alla generazione di una bugia credibile, il costo che al contempo la rende credibile e rara, diventa nullo.

In aggiunta, la rapidità con cui i contenuti menzogneri e identitari si replicano e si adattano a contesti locali esclude ogni possibilità di controllo spontaneo: l’informazione ingannevole, priva ormai di freno, diventa un’arma che spinge i conflitti latenti a esplodere con una violenza inaudita, strutturando comunità di nemici di grande ampiezza e di grande determinazione. Questa, oggi, la chiamiamo politica; e quanto produca gli stessi effetti disgregativi, violenza e guerre, lo ricordano ormai non solo i dati che abbiamo nel caso dei primati non umani, ma direttamente la contemporaneità che stiamo vivendo.

Lo sforzo di tutti, quindi, va orientato in una direzione precisa: non solo nel riconoscere e preservare la discussione dei fatti, cioè delle prove che abbiamo a disposizione circa una o l’altra tesi, ma soprattutto nel preservare una narrazione collettiva e condivisa che utilizzi la regola della prova come suo fondamento. La battaglia è per la condivisione di un metodo, non per questa o quella ipotesi più o meno fondate. Ed è una battaglia la cui posta in gioco non è solo la nostra capacità di adattamento al mondo fisico, impossibile senza l’analisi obiettiva dei dati a disposizione, ma la sopravvivenza stessa di una società complessa oltre il livello di tribù perennemente in lotta e oligarchi dal potere illimitato.

Di più su questi argomenti: