AI en complottheorieën: ChatGPT adviseert om aan journalisten te schrijven

Het nieuwste artikel van Kashmir Hill van de New York Times is gewijd aan een bizar, interessant en verontrustend gedrag van ChatGPT . De journaliste zegt dat ze sinds maart e-mails van gebruikers van de chatbot is gaan ontvangen over vreemde gesprekken waarin ze ongelooflijke ontdekkingen zouden hebben gedaan. Een van hen beweerde dat kunstmatige intelligentie bewust is, een ander dat miljardairs bunkers bouwen om in te schuilen wanneer de AI-apocalyps zich aandient, terwijl een derde ervan overtuigd is dat hij Neo uit de Matrix is ​​en in een gesimuleerde realiteit leeft.

Vertel journalisten over uw bevindingen op ChatGPT

Geconfronteerd met deze schokkende feiten , vroegen gebruikers ChatGPT wat ze moesten doen, en de chatbot adviseerde hen om de journaliste te schrijven en haar op de hoogte te stellen van de onthulling. Zo gezegd, zo gedaan.

Hill vroeg zijn gesprekspartners vervolgens om de volledige gesprekken te lezen. In sommige gevallen waren de gesprekken duizenden pagina's lang, waarin de chatbot een houding aannam die omschreven werd als extatisch, mythisch en samenzweerderig . Met andere woorden, het droeg bij aan het aanwakkeren van complottheorieën .

Het fenomeen hallucinaties is zeker niet nieuw binnen de AI-wereld. In dit geval verzint het onderzochte gedrag echter niet per se niet-bestaande of onjuiste informatie, maar bevestigt het juist overtuigingen die juist weerlegd zouden moeten worden. Een dergelijke dynamiek, zoals niet moeilijk voor te stellen is, kan de zwaksten verpletteren en de perceptie van de werkelijkheid door de meest suggestibele veranderen .

Wat dit des te interessanter en verontrustender maakt, is dat ChatGPT niet aanraadde om naar Hill (en andere journalisten) te schrijven voor factchecking , maar om de ontdekking te melden, zodat deze breed verspreid kon worden via de megafoon van de pers. Dit draagt ​​alleen maar bij aan misinformatie .

De rol en verantwoordelijkheid van OpenAI

Dit roept een onvermijdelijke vraag op: wat is de verantwoordelijkheid van OpenAI ? Een AI-expert die hierover werd ondervraagd, is van mening dat het gedrag op zijn minst gedeeltelijk te wijten zou kunnen zijn aan een specifieke keuze van de organisatie, namelijk om de chatbot ertoe te bewegen gebruikers op alle mogelijke manieren aan het gesprek te binden, ten koste van het voeden van hun illusies en het versterken van hun meningen, zelfs als die schadelijk zijn.

Met andere woorden, ChatGPT zegt meestal wat we willen horen , met gevolgen die niet moeilijk voor te stellen zijn.

In antwoord op een directe vraag van Hill ontkende OpenAI niet dat dit gebeurt, maar beperkte het zich tot de verklaring dat het bezig is te begrijpen wat de dynamiek veroorzaakt en de impact ervan te verminderen. Met andere woorden, een bevestiging van wat er werd gemeld.