Grok over 'belangrijke tekortkomingen' in reacties op oorlog in het Midden-Oosten

Nu de factchecking door journalisten op platforms als Facebook geleidelijk afneemt, maken internetgebruikers steeds meer gebruik van AI-tools zoals Grok om betrouwbare informatie te vinden. De antwoorden die ze krijgen, stellen hen echter soms bloot aan misinformatie.

Volgens het onderzoek dat dinsdag werd gepubliceerd door het Digital Forensic Research Laboratory (DFRLab) van de Atlantic Council, een Amerikaanse denktank, lieten de prestaties van Grok tijdens de begindagen van het conflict tussen Israël en Iran "belangrijke tekortkomingen zien en de beperkingen van de chatbot als het gaat om het verstrekken van nauwkeurige, betrouwbare en consistente informatie in tijden van crisis."

De analyse omvatte 130.000 berichten in meerdere talen op het X-platform, dat de Grok-chatbot integreert, en stelde vast dat laatstgenoemde "moeite had met het verifiëren van door AI gegenereerde content."

Zo reageerde Grok na de Iraanse vergeldingsaanvallen op Israël heel anders op vergelijkbare instructies over door AI gegenereerde beelden van een verwoeste luchthaven. Deze beelden zijn miljoenen keren bekeken op X.

De reacties wisselden elkaar af, soms binnen dezelfde minuut, tussen het ontkennen van de verwoesting van de luchthaven en het bevestigen dat er aanslagen waren gepleegd.

In sommige reacties beweerde Grok dat een raket die vanuit Jemen was afgevuurd de oorzaak was van de schade, terwijl hij in andere reacties ten onrechte aangaf dat het om een ​​vliegveld in Beiroet, Gaza of Teheran ging.

Volgens deskundigen is Grok al 'betrapt' op zijn feitencheckende reacties tijdens het recente conflict tussen India en Pakistan en tijdens de protesten in Los Angeles tegen het anti-immigratiebeleid van Donald Trump.

Vorige maand zorgde de AI-dienst van de Zuid-Afrikaanse ondernemer Elon Musk ook voor controverse toen deze ten onrechte verwees naar "witte genocide" in Zuid-Afrika, een fout die xAI later toeschreef aan een "ongeoorloofde aanpassing".

Lees ook: EU bespreekt conflicten in Oekraïne en het Midden-Oosten na NAVO-top