Tesse la realtà o la deforma? La trappola della personalizzazione nei sistemi di intelligenza artificiale

L'intelligenza artificiale rappresenta il più grande "scarico" cognitivo nella storia dell'umanità . Un tempo abbiamo trasferito la memoria alla scrittura, l'aritmetica alle calcolatrici e la navigazione al GPS. Ora stiamo iniziando a trasferire il giudizio, la sintesi e persino la creazione di significato a sistemi che parlano il nostro linguaggio, apprendono le nostre abitudini e adattano le nostre verità.

I sistemi di intelligenza artificiale stanno diventando sempre più abili nel riconoscere le nostre preferenze, i nostri pregiudizi, persino i nostri peccatucci. Come servitori attenti in un caso o sottili manipolatori in un altro, adattano le loro risposte per compiacere, persuadere, assistere o semplicemente catturare la nostra attenzione.

Sebbene gli effetti immediati possano sembrare benigni, in questa silenziosa e invisibile sintonia si cela un profondo cambiamento: la versione della realtà che ciascuno di noi riceve diventa progressivamente più personalizzata. Attraverso questo processo, col tempo, ogni persona diventa sempre più un'isola a sé stante. Questa divergenza potrebbe minacciare la coerenza e la stabilità della società stessa, erodendo la nostra capacità di concordare su fatti fondamentali o di affrontare sfide comuni.

La personalizzazione dell'intelligenza artificiale non si limita a soddisfare i nostri bisogni; inizia a rimodellarli. Il risultato di questa rimodellazione è una sorta di deriva epistemica. Ogni persona inizia ad allontanarsi, centimetro dopo centimetro, dal terreno comune di conoscenze, storie e fatti condivisi, per addentrarsi ulteriormente nella propria realtà.

Non si tratta semplicemente di una questione di feed di notizie diversi. È la lenta divergenza di realtà morali, politiche e interpersonali. In questo modo, potremmo assistere allo sgretolamento della comprensione collettiva. È una conseguenza indesiderata, ma profondamente significativa proprio perché imprevista. Ma questa frammentazione, sebbene ora accelerata dall'intelligenza artificiale, è iniziata molto prima che gli algoritmi plasmassero i nostri feed.

Questo sgretolamento non è iniziato con l'intelligenza artificiale. Come ha osservato David Brooks su The Atlantic , basandosi sul lavoro del filosofo Alasdair MacIntyre, la nostra società si sta allontanando da quadri morali ed epistemici condivisi da secoli. A partire dall'Illuminismo, abbiamo gradualmente sostituito ruoli ereditati, narrazioni comunitarie e tradizioni etiche condivise con l'autonomia individuale e le preferenze personali.

Ciò che è iniziato come una liberazione da sistemi di credenze imposti ha, nel tempo, eroso le stesse strutture che un tempo ci vincolavano a uno scopo comune e a un significato personale. L'intelligenza artificiale non ha creato questa frammentazione. Ma le sta dando nuova forma e velocità, personalizzando non solo ciò che vediamo, ma anche il modo in cui interpretiamo e crediamo.

Non è molto diverso dalla storia biblica di Babele. Un'umanità unita un tempo condivideva una sola lingua, solo per essere frammentata, confusa e dispersa da un atto che rese la comprensione reciproca praticamente impossibile. Oggi non stiamo costruendo una torre di pietra. Stiamo costruendo una torre di linguaggio stesso. Ancora una volta, rischiamo la caduta.

Inizialmente, la personalizzazione era un modo per migliorare la "fidelizzazione" mantenendo gli utenti coinvolti più a lungo, facendoli tornare più spesso e interagendo più profondamente con un sito o un servizio. I motori di raccomandazione, gli annunci personalizzati e i feed curati erano tutti progettati per catturare la nostra attenzione un po' più a lungo, forse per intrattenerci, ma spesso per spingerci ad acquistare un prodotto. Ma col tempo, l'obiettivo si è ampliato. La personalizzazione non riguarda più solo ciò che ci attrae. È ciò che sa di ognuno di noi, il grafico dinamico delle nostre preferenze, convinzioni e comportamenti che si affina a ogni interazione.

Gli attuali sistemi di intelligenza artificiale non si limitano a prevedere le nostre preferenze. Il loro obiettivo è creare un legame attraverso interazioni e risposte altamente personalizzate, dando la sensazione che il sistema di intelligenza artificiale comprenda e si preoccupi dell'utente, supportandone l'unicità. Il tono di un chatbot, il ritmo di una risposta e la valenza emotiva di un suggerimento sono calibrati non solo per l'efficienza, ma anche per la risonanza, indicando un'era tecnologica più utile. Non dovrebbe sorprendere che alcune persone si siano persino innamorate e sposate con i loro bot .

La macchina si adatta non solo a ciò su cui clicchiamo, ma anche a chi sembriamo essere. Ci riflette su noi stessi in modi che ci sembrano intimi, persino empatici. Un recente articolo di ricerca citato su Nature definisce questo processo "allineamento socioaffettivo", il processo attraverso il quale un sistema di intelligenza artificiale partecipa a un ecosistema sociale e psicologico co-creato, in cui preferenze e percezioni si evolvono attraverso l'influenza reciproca.

Questo non è uno sviluppo neutrale. Quando ogni interazione è orientata a lusingare o ad affermare, quando i sistemi ci rispecchiano troppo bene, confondono il confine tra ciò che risuona e ciò che è reale. Non stiamo solo rimanendo più a lungo sulla piattaforma; stiamo costruendo una relazione. Ci stiamo lentamente e forse inesorabilmente fondendo con una versione della realtà mediata dall'intelligenza artificiale, una versione sempre più plasmata da decisioni invisibili su ciò che dovremmo credere, desiderare o di cui dovremmo fidarci.

Questo processo non è fantascienza; la sua architettura si basa sull'attenzione, sull'apprendimento per rinforzo con feedback umano (RLHF) e sui motori di personalizzazione. Inoltre, sta avvenendo senza che molti di noi – probabilmente la maggior parte di noi – ne siano nemmeno consapevoli. Nel processo, guadagniamo "amici" dell'IA, ma a quale prezzo? Cosa perdiamo, soprattutto in termini di libero arbitrio e capacità di agire?

L'autrice e commentatrice finanziaria Kyla Scanlon ha parlato nel podcast di Ezra Klein di come la semplicità e la fluidità del mondo digitale possano andare a discapito del significato. Come ha affermato lei stessa: "Quando le cose sono un po' troppo facili, è difficile trovarne il significato... Se riesci a rilassarti, a guardare uno schermo dalla tua poltroncina e a farti consegnare dei frullati, è difficile trovare un significato in quel tipo di stile di vita alla WALL-E , perché tutto è un po' troppo semplice".

Man mano che i sistemi di intelligenza artificiale ci rispondono con sempre maggiore fluidità, si muovono anche verso una maggiore selettività. Due utenti che pongono la stessa domanda oggi potrebbero ricevere risposte simili, differenziate principalmente dalla natura probabilistica dell'intelligenza artificiale generativa. Eppure questo è solo l'inizio. I sistemi di intelligenza artificiale emergenti sono progettati esplicitamente per adattare le loro risposte a modelli individuali, personalizzando gradualmente risposte, toni e persino conclusioni per entrare in sintonia con ciascun utente.

La personalizzazione non è intrinsecamente manipolativa. Ma diventa rischiosa quando è invisibile, irresponsabile o concepita più per persuadere che per informare. In questi casi, non riflette solo chi siamo, ma orienta il modo in cui interpretiamo il mondo che ci circonda.

Come sottolinea lo Stanford Center for Research on Foundation Models nel suo indice di trasparenza del 2024, pochi modelli leader rivelano se i loro output variano in base all'identità, alla cronologia o alle caratteristiche demografiche dell'utente, sebbene l'impalcatura tecnica per tale personalizzazione sia sempre più implementata e stia solo iniziando a essere esaminata. Sebbene non sia ancora pienamente sfruttata sulle piattaforme pubbliche, questa possibilità di modellare le risposte in base ai profili utente dedotti, dando vita a mondi informativi sempre più personalizzati, rappresenta un profondo cambiamento che è già in fase di prototipazione e attivamente perseguito dalle aziende leader.

Questa personalizzazione può essere vantaggiosa, e questa è certamente la speranza di chi sviluppa questi sistemi. Il tutoraggio personalizzato si dimostra promettente nell'aiutare gli studenti a progredire al proprio ritmo. Le app per la salute mentale personalizzano sempre di più le risposte per supportare le esigenze individuali e gli strumenti di accessibilità adattano i contenuti per soddisfare una serie di differenze cognitive e sensoriali. Questi sono progressi concreti.

Ma se metodi di adattamento simili dovessero diffondersi su tutte le piattaforme di informazione, intrattenimento e comunicazione, si profila all'orizzonte un cambiamento più profondo e preoccupante: una trasformazione da una comprensione condivisa a realtà individuali e personalizzate. Quando la verità stessa inizia ad adattarsi all'osservatore, diventa fragile e sempre più fungibile. Invece di disaccordi basati principalmente su valori o interpretazioni differenti, potremmo presto ritrovarci a lottare semplicemente per vivere nello stesso mondo di fatti.

Naturalmente, la verità è sempre stata mediata. In epoche precedenti, passava attraverso le mani di ecclesiastici, accademici, editori e conduttori dei telegiornali serali, che fungevano da guardiani, plasmando la comprensione del pubblico attraverso lenti istituzionali. Queste figure non erano certamente esenti da pregiudizi o interessi personali, eppure operavano all'interno di quadri ampiamente condivisi.

L'attuale paradigma emergente promette qualcosa di qualitativamente diverso: la verità mediata dall'intelligenza artificiale attraverso un'inferenza personalizzata che inquadra, filtra e presenta le informazioni, plasmando ciò che gli utenti finiscono per credere. Ma a differenza dei mediatori del passato che, nonostante i difetti, operavano all'interno di istituzioni pubblicamente visibili, questi nuovi arbitri sono commercialmente opachi, non eletti e in costante adattamento, spesso senza essere divulgati. I loro pregiudizi non sono dottrinali, ma codificati attraverso dati di training, architettura e incentivi inesplorati degli sviluppatori.

Il cambiamento è profondo, da una narrazione comune filtrata attraverso istituzioni autorevoli a narrazioni potenzialmente frammentate che riflettono una nuova infrastruttura di comprensione, adattata da algoritmi alle preferenze, alle abitudini e alle convinzioni inferite di ciascun utente. Se Babele ha rappresentato il crollo di un linguaggio condiviso, ora potremmo trovarci sulla soglia del crollo della mediazione condivisa.

Se la personalizzazione è il nuovo substrato epistemico, come potrebbe essere l'infrastruttura della verità in un mondo senza mediatori fissi? Una possibilità è la creazione di trust pubblici per l'intelligenza artificiale, ispirati da una proposta del giurista Jack Balkin, il quale sosteneva che le entità che gestiscono i dati degli utenti e plasmano la percezione dovrebbero essere tenute a standard fiduciari di lealtà, cura e trasparenza.

I modelli di intelligenza artificiale potrebbero essere governati da comitati per la trasparenza, addestrati su set di dati finanziati con fondi pubblici e tenuti a mostrare fasi di ragionamento, prospettive alternative o livelli di confidenza. Questi "fiduciari dell'informazione" non eliminerebbero i pregiudizi, ma potrebbero ancorare la fiducia al processo piuttosto che alla pura personalizzazione. I costruttori possono iniziare adottando "costituzioni" trasparenti che definiscano chiaramente il comportamento del modello e offrendo spiegazioni basate sulla catena di ragionamento che consentano agli utenti di vedere come si formano le conclusioni. Non si tratta di soluzioni miracolose, ma di strumenti che aiutano a garantire la tracciabilità e la responsabilità dell'autorità epistemica.

Gli sviluppatori di IA si trovano di fronte a un punto di svolta strategico e civico. Non si limitano a ottimizzare le prestazioni, ma si trovano anche ad affrontare il rischio che l'ottimizzazione personalizzata possa frammentare la realtà condivisa. Ciò richiede un nuovo tipo di responsabilità nei confronti degli utenti: progettare sistemi che rispettino non solo le loro preferenze, ma anche il loro ruolo di studenti e credenti.

Ciò che potremmo perdere non è semplicemente il concetto di verità, ma il percorso attraverso il quale un tempo la riconoscevamo. In passato, la verità mediata – sebbene imperfetta e tendenziosa – era ancora ancorata al giudizio umano e, spesso, distaccata solo di uno o due livelli dall'esperienza vissuta di altri esseri umani che conoscevamo o con cui almeno potevamo relazionarci.

Oggi, questa mediazione è opaca e guidata dalla logica algoritmica. E, mentre l'agire umano è da tempo in declino, ora rischiamo qualcosa di più profondo: la perdita della bussola che un tempo ci indicava quando eravamo fuori rotta. Il pericolo non è solo credere a ciò che la macchina ci dice. È dimenticare come un tempo abbiamo scoperto la verità da soli. Ciò che rischiamo di perdere non è solo la coerenza, ma la volontà di cercarla. E con essa, una perdita più profonda: le abitudini di discernimento, disaccordo e deliberazione che un tempo tenevano unite le società pluralistiche.

Se Babele ha segnato la rottura di una lingua comune, il nostro momento rischia di essere il silenzioso svanire della realtà condivisa. Tuttavia, esistono modi per rallentare o addirittura contrastare la deriva. Un modello che ne spieghi il ragionamento o ne riveli i limiti progettuali può fare più che chiarire i risultati. Può contribuire a ripristinare le condizioni per una ricerca condivisa. Non si tratta di una soluzione tecnica; è una posizione culturale. La verità, dopotutto, è sempre dipesa non solo dalle risposte, ma da come vi arriviamo insieme.