Geïnfiltreerde algoritmen en AI-agenten: de opkomst van nieuwe overtuigers

In deze oorlogstijd, waarin zelfs marketing op zijn kop lijkt te staan, kan zelfs een knuffeldier dat een icoon uit de kindertijd is, zijn onschuld verliezen, gerekruteerd worden en naar het front gestuurd worden, waar het een instrument van militaire propaganda wordt. Dit overkwam onlangs een kleine beer met grote oren, uit de kluiten gewassen ogen en een bruine vacht. Het emotionele verhaal vertelt over zijn aankomst uit een exotisch land, die hij bij toeval ontdekte in een krat sinaasappelen op de markt van Moskou. Zijn naam is Cheburashka , liefkozend Che genoemd, een klein wezentje dat al in 1969 op de Russische televisie verscheen dankzij kunstenaar Leonid Shvarchman. Het was een doorslaand succes. Che heeft altijd generaties samengebracht en vriendschap belichaamd, ook al verschijnt hij tegenwoordig in camouflage en volledig bewapend, geborduurd op patches op soldatenuniformen en zelfs afgebeeld op een vlammenwerper die in Oekraïne wordt gebruikt. Niets nieuws onder de sombere zon van het conflict. Cartoons hebben in het verleden een hoofdrol gespeeld in oorlogspropaganda. Uiteindelijk brengen ze eenvoudige en directe boodschappen over, in een poging het publiek te overtuigen. Maar vandaag de dag is er sprake van een kwantumsprong, omdat de overtuigende communicatiecampagne transmediaal wordt en daardoor veel effectiever is.

Verrassing, of misschien ook niet. Overreding sluipt binnen in immersieve technologieën en in kunstmatige intelligentie die steeds beter in staat is om gepersonaliseerde oplossingen te bieden. Een onderzoek dat een paar dagen geleden werd gepubliceerd in het Amerikaanse tijdschrift The Atlantic en waarover Time berichtte, beschrijft een experiment dat werd uitgevoerd in een Reddit-gebruikerscommunity waarbij AI-agenten de community infiltreerden om leden te overtuigen zonder hun medeweten. De AI genereerde argumenten die waren afgestemd op de persoonlijkheid en kernwaarden van de gebruikers, zoals geïdentificeerd via hun online geschiedenis. Deze vorm van deep-tailing slaagde erin te fungeren als een soort verborgen overreding: onzichtbaar in de content, maar effectief op psychologisch niveau. Vandaar de waarschuwing: AI kan meningen en gedragingen onzichtbaar en mogelijk schadelijk manipuleren.

"Vandaag zijn we meer dan ooit onbewust het slachtoffer van AI-agenten en mensen met een twijfelachtige moraal die ons voor niets geld proberen af ​​te persen, van spookexperts in van alles en nog wat die ons wonderen beloven tegen een lage prijs en met weinig moeite. Bovendien beweegt de wereld zich met de snelheid van het licht en is overprikkeld: als je gehoord wilt worden, moet je weten hoe. Als je in deze chaos wilt opvallen, moet je de spelregels kennen", zegt Paolo Borzacchiello, auteur van "Instant Persuasion: The Secrets of Neuroscience Applied to Persuasion", een gids voor het begrijpen en beheersen van de dynamiek van overtuiging.

" Overtuigen is geen manipulatie , noch een duistere kunst die slechts voor een select groepje is weggelegd. Het is geen bedrog, noch onterechte druk. Het is het vermogen om bewust de beslissingen van anderen te inspireren, te beïnvloeden en te sturen, gebruikmakend van cognitieve mechanismen die diepgeworteld zijn in het menselijk brein. Het is geen aangeboren talent, maar een vaardigheid die iedereen kan leren en aanscherpen," specificeert Borzacchiello. Maar pas op. In een tijdperk dat gekenmerkt wordt door kunstmatige intelligentie, komen de meest effectieve reacties voort uit linguïstische intelligentie . "Woorden zijn onze manier om de perceptie van de eindgebruiker te veranderen, maar niet alleen dat: ze zijn ook het instrument dat we kunnen gebruiken om hen een goed gevoel te geven, hun ervaring te verbeteren, emotionele scenario's te ontwerpen die iedereen ten goede komen, inclusief onszelf. Met de juiste woorden kunnen we waardevolle relaties creëren of consolideren, emoties opwekken en langdurige empathische banden opbouwen," aldus Borzacchiello.

Meer dan vijftig jaar later zijn overreders nog steeds verborgen, ook al hebben ze hun vermomming afgeworpen en sluimeren ze in het constante scrollen van een smartphone. De mechanismen die Vance Packard, een Amerikaanse socioloog die zich specialiseerde in de manipulatie van reclame en consumentenpsychologie, in 1957 in een bestseller theoretiseerde, zijn niet verdwenen, maar in de code opgenomen. Algoritmes zijn immers de nieuwe verborgen overreders, die zich presenteren als diensten op maat. Ze zijn niet verdwenen, maar zijn systemen, interfaces, intuïtie geworden. Ze spreken niet tot je, maar suggereren. Ze overtuigen je niet, maar voorspellen je. Apps gebruiken immers rood om urgentie te creëren, notificatiegeluiden imiteren Pavloviaanse reflexen, visuele taal weerspiegelt oude reclamepatronen. Kortom, de verborgen overreders van gisteren zijn nog steeds onder ons, vermomd als gebruikerservaring.