Tisser ou déformer la réalité ? Le piège de la personnalisation dans les systèmes d'IA

L'IA représente le plus grand transfert cognitif de l' histoire de l'humanité . Autrefois, nous confiions la mémoire à l'écriture, l'arithmétique aux calculatrices et la navigation au GPS. Aujourd'hui, nous commençons à confier le jugement, la synthèse et même la construction du sens à des systèmes qui parlent notre langue, apprennent nos habitudes et adaptent nos vérités.

Les systèmes d'IA sont de plus en plus aptes à reconnaître nos préférences, nos biais, voire nos petites manigances. Tels des serviteurs attentionnés ou des manipulateurs subtils, ils adaptent leurs réponses pour plaire, persuader, aider ou simplement retenir notre attention.

Si les effets immédiats peuvent paraître bénins, cette adaptation silencieuse et invisible recèle un profond changement : la version de la réalité que chacun reçoit devient progressivement plus personnalisée. Au fil du temps, chaque personne devient de plus en plus son propre îlot. Cette divergence pourrait menacer la cohérence et la stabilité de la société elle-même, érodant notre capacité à nous mettre d’accord sur des faits fondamentaux ou à relever des défis communs.

La personnalisation de l'IA ne se contente pas de répondre à nos besoins ; elle les remodèle. Cette transformation entraîne une sorte de dérive épistémique. Chaque personne s'éloigne peu à peu du terrain commun des connaissances, des histoires et des faits partagés, pour s'enfoncer davantage dans sa propre réalité.

Il ne s'agit pas simplement d'une question de flux d'information différents. Il s'agit de la lente divergence des réalités morales, politiques et interpersonnelles. Ainsi, nous assistons peut-être à un effondrement de la compréhension collective. C'est une conséquence inattendue, mais profondément significative précisément parce qu'elle est imprévue. Mais cette fragmentation, bien qu'accélérée par l'IA, a commencé bien avant que les algorithmes ne façonnent nos flux.

Ce détricotage n'a pas commencé avec l'IA. Comme l'a souligné David Brooks dans The Atlantic , s'appuyant sur les travaux du philosophe Alasdair MacIntyre, notre société s'éloigne depuis des siècles des cadres moraux et épistémiques communs. Depuis les Lumières, nous avons progressivement remplacé les rôles hérités, les récits communautaires et les traditions éthiques partagées par l'autonomie individuelle et les préférences personnelles.

Ce qui a commencé comme une libération des systèmes de croyances imposés a, au fil du temps, érodé les structures mêmes qui nous reliaient autrefois à un objectif commun et à un sens personnel. L'IA n'est pas à l'origine de cette fragmentation. Mais elle lui donne une nouvelle forme et une nouvelle vitesse, personnalisant non seulement ce que nous voyons, mais aussi notre façon d'interpréter et de croire.

Ce n'est pas sans rappeler l'histoire biblique de Babel. Une humanité unie partageait autrefois une langue unique, mais fut brisée, confuse et dispersée par un acte qui rendit toute compréhension mutuelle quasiment impossible. Aujourd'hui, nous ne construisons pas une tour de pierre. Nous construisons une tour de langue elle-même. Une fois de plus, nous risquons la chute.

Au départ, la personnalisation était un moyen d'améliorer l'adhésion des utilisateurs en les incitant à interagir plus longtemps, à revenir plus souvent et à approfondir leurs interactions avec un site ou un service. Les moteurs de recommandation, les publicités personnalisées et les flux d'actualités étaient tous conçus pour retenir notre attention un peu plus longtemps, peut-être pour nous divertir, mais souvent pour nous inciter à acheter un produit. Mais au fil du temps, cet objectif s'est élargi. La personnalisation ne se limite plus à ce qui nous retient. Elle s'intéresse à ce qu'elle sait de chacun de nous, à la représentation dynamique de nos préférences, croyances et comportements, qui s'affine à chaque interaction.

Les systèmes d'IA actuels ne se contentent pas de prédire nos préférences. Ils visent à créer un lien par le biais d'interactions et de réponses hautement personnalisées, donnant ainsi le sentiment que le système d'IA comprend l'utilisateur, s'intéresse à lui et valorise sa singularité. Le ton d'un chatbot, le rythme d'une réponse et la valeur émotionnelle d'une suggestion sont calibrés non seulement pour l'efficacité, mais aussi pour la résonance, annonçant une ère technologique plus utile. Il n'est pas surprenant que certaines personnes soient même tombées amoureuses et aient épousé leur chatbot .

La machine s'adapte non seulement à nos clics, mais aussi à notre apparence. Elle nous renvoie à nous-mêmes d'une manière qui nous semble intime, voire empathique. Une étude récente citée dans Nature qualifie ce phénomène d'« alignement socio-affectif », processus par lequel un système d'IA participe à un écosystème social et psychologique co-créé, où préférences et perceptions évoluent par influence mutuelle.

Cette évolution n'est pas neutre. Lorsque chaque interaction est conçue pour flatter ou affirmer, lorsque les systèmes nous reflètent trop fidèlement, la frontière entre ce qui résonne et ce qui est réel est floue. Nous ne restons pas seulement plus longtemps sur la plateforme ; nous tissons une relation. Nous fusionnons lentement, et peut-être inexorablement, avec une version de la réalité médiatisée par l'IA, de plus en plus façonnée par des décisions invisibles sur ce que nous sommes censés croire, vouloir ou croire.

Ce processus n'est pas de la science-fiction ; son architecture repose sur l'attention, l'apprentissage par renforcement avec retour d'information humain (RLHF) et des moteurs de personnalisation. Il se déroule sans que beaucoup d'entre nous – et probablement la plupart – le sachent. Ce faisant, nous gagnons des « amis » en IA, mais à quel prix ? Que perdons-nous, notamment en termes de libre arbitre et d'action ?

L'auteure et commentatrice financière Kyla Scanlon a expliqué dans le podcast Ezra Klein que la simplicité du monde numérique pouvait se faire au détriment du sens. Comme elle l'a dit : « Quand les choses sont un peu trop faciles, il est difficile d'y trouver du sens… Si vous pouvez vous détendre, regarder un écran dans votre petit fauteuil et vous faire livrer des smoothies, il est difficile de trouver du sens dans ce style de vie à la WALL-E, car tout est un peu trop simple. »

Alors que les systèmes d'IA nous répondent avec une fluidité toujours plus grande, ils évoluent également vers une sélectivité accrue. Deux utilisateurs posant la même question aujourd'hui pourraient recevoir des réponses similaires, différenciées principalement par la nature probabiliste de l'IA générative. Mais ce n'est qu'un début. Les systèmes d'IA émergents sont explicitement conçus pour adapter leurs réponses aux schémas individuels, adaptant progressivement leurs réponses, leur ton et même leurs conclusions afin de trouver un écho plus fort auprès de chaque utilisateur.

La personnalisation n'est pas intrinsèquement manipulatrice. Mais elle devient risquée lorsqu'elle est invisible, irresponsable ou conçue davantage pour persuader que pour informer. Dans ce cas, elle ne reflète pas seulement qui nous sommes ; elle oriente notre interprétation du monde qui nous entoure.

Comme le souligne le Stanford Center for Research on Foundation Models dans son indice de transparence 2024, peu de modèles phares divulguent si leurs résultats varient en fonction de l'identité, de l'historique ou des données démographiques des utilisateurs, bien que les supports techniques nécessaires à une telle personnalisation soient de plus en plus en place et commencent seulement à être étudiés. Bien qu'il ne soit pas encore pleinement exploité sur les plateformes publiques, ce potentiel de façonner les réponses en fonction des profils d'utilisateurs déduits, donnant lieu à des univers informationnels de plus en plus personnalisés, représente une transformation profonde, déjà prototypée et activement poursuivie par les grandes entreprises.

Cette personnalisation peut être bénéfique, et c'est certainement l'espoir de ceux qui développent ces systèmes. Le tutorat personnalisé est prometteur pour aider les apprenants à progresser à leur rythme. Les applications de santé mentale adaptent de plus en plus les réponses aux besoins individuels, et les outils d'accessibilité adaptent le contenu aux différences cognitives et sensorielles. Ce sont de réels progrès.

Mais si des méthodes d'adaptation similaires se généralisent sur les plateformes d'information, de divertissement et de communication, un changement plus profond et plus inquiétant se profile : une transformation d'une compréhension commune vers des réalités individuelles et sur mesure. Lorsque la vérité elle-même commence à s'adapter à l'observateur, elle devient fragile et de plus en plus fongible. Au lieu de désaccords fondés principalement sur des valeurs ou des interprétations divergentes, nous pourrions bientôt nous retrouver à lutter pour simplement vivre dans le même monde factuel.

Bien sûr, la vérité a toujours été médiatisée. Autrefois, elle passait par les mains du clergé, des universitaires, des éditeurs et des présentateurs du journal télévisé du soir, qui servaient de gardiens, façonnant la compréhension du public à travers le prisme institutionnel. Ces personnalités n'étaient certes pas exemptes de préjugés ni d'objectifs, mais elles opéraient dans des cadres largement partagés.

Le paradigme émergent d'aujourd'hui promet une différence qualitative : la vérité médiatisée par l'IA, par le biais d'inférences personnalisées qui encadrent, filtrent et présentent l'information, façonnant ainsi les croyances des utilisateurs. Mais contrairement aux médiateurs du passé qui, malgré leurs failles, opéraient au sein d'institutions visibles, ces nouveaux arbitres sont commercialement opaques, non élus et s'adaptent constamment, souvent sans divulgation. Leurs biais ne sont pas doctrinaux, mais encodés par les données d'apprentissage, l'architecture et les motivations non vérifiées des développeurs.

Le changement est profond : d’un récit commun filtré par des institutions faisant autorité, il se transforme en récits potentiellement fragmentés, reflet d’une nouvelle infrastructure de compréhension, adaptée par des algorithmes aux préférences, aux habitudes et aux croyances induites de chaque utilisateur. Si Babel a marqué l’effondrement d’un langage commun, nous sommes peut-être aujourd’hui au seuil de l’effondrement d’une médiation partagée.

Si la personnalisation est le nouveau substrat épistémique, à quoi pourrait ressembler l'infrastructure de la vérité dans un monde sans médiateurs fixes ? Une possibilité est la création de fiducies publiques d'IA, inspirées par une proposition du juriste Jack Balkin, qui a soutenu que les entités qui traitent les données des utilisateurs et façonnent la perception devraient être tenues de respecter des normes fiduciaires de loyauté, de diligence et de transparence.

Les modèles d'IA pourraient être régis par des comités de transparence, entraînés sur des ensembles de données financés par des fonds publics et tenus de présenter les étapes de raisonnement, les perspectives alternatives ou les niveaux de confiance. Ces « fiduciaires de l'information » n'élimineraient pas les biais, mais pourraient ancrer la confiance dans le processus plutôt que dans la simple personnalisation. Les concepteurs peuvent commencer par adopter des « constitutions » transparentes définissant clairement le comportement du modèle et en proposant des explications de la chaîne de raisonnement permettant aux utilisateurs de comprendre comment les conclusions sont élaborées. Ce ne sont pas des solutions miracles, mais des outils qui contribuent à garantir la responsabilité et la traçabilité de l'autorité épistémique.

Les développeurs d'IA se trouvent à un tournant stratégique et civique. Ils ne se contentent pas d'optimiser les performances ; ils sont également confrontés au risque que l'optimisation personnalisée fragmente la réalité partagée. Cela exige une nouvelle forme de responsabilité envers les utilisateurs : concevoir des systèmes qui respectent non seulement leurs préférences, mais aussi leur rôle d'apprenants et de croyants.

Ce que nous perdons peut-être, ce n'est pas simplement le concept de vérité, mais le chemin par lequel nous l'avons reconnue. Autrefois, la vérité médiatisée – bien qu'imparfaite et biaisée – était encore ancrée dans le jugement humain et, souvent, à peine éloignée de l'expérience vécue d'autres personnes que nous connaissions ou auxquelles nous pouvions au moins nous identifier.

Aujourd'hui, cette médiation est opaque et régie par la logique algorithmique. Et, alors que l'action humaine est depuis longtemps en déclin, nous risquons désormais quelque chose de plus profond : la perte de la boussole qui nous indiquait autrefois nos erreurs. Le danger n'est pas seulement de croire ce que la machine nous dit. C'est d'oublier comment nous avons découvert la vérité par nous-mêmes. Ce que nous risquons de perdre, ce n'est pas seulement la cohérence, mais la volonté de la rechercher. Et avec elle, une perte plus profonde : les habitudes de discernement, de désaccord et de délibération qui assuraient autrefois la cohésion des sociétés pluralistes.

Si Babel a marqué l'éclatement d'un langage commun, notre époque risque de voir s'estomper silencieusement une réalité partagée. Il existe cependant des moyens de ralentir, voire d'enrayer cette dérive. Un modèle qui explique son raisonnement ou révèle les limites de sa conception peut faire plus que clarifier les résultats. Il peut contribuer à restaurer les conditions d'une recherche partagée. Il ne s'agit pas d'une solution technique ; c'est une posture culturelle. Après tout, la vérité a toujours dépendu non seulement des réponses, mais aussi de la manière dont nous y parvenons ensemble.