We moeten niet blindelings geloven in kunstmatige intelligentie.

Grok, een chatbot die is ontwikkeld door het kunstmatige-intelligentiebedrijf xAI, eigendom van Elon Musk, en die vaak door X-gebruikers wordt gebruikt om verschillende meningen te bevestigen, is onlangs in de aandacht van de wereld gekomen vanwege zijn godslasterlijke en beledigende reacties.

Na de bevooroordeelde en beledigende reacties van Grok is de betrouwbaarheid van kunstmatige intelligentie (AI), die sommige gebruikers als "absoluut waar" beschouwen, opnieuw duidelijk geworden. Universitair hoofddocent dr. Şebnem Özdemir, hoofd van de afdeling Management Information Systems aan de Universiteit van Istanboel en bestuurslid van de Artificial Intelligence Policies Association (AIPA), gaf commentaar op de kwestie en stelde dat alle informatie, of deze nu door AI wordt verstrekt of zich in de digitale wereld bevindt, geverifieerd moet worden.

Özdemir zei: "Hoewel zelfs informatie die van persoon tot persoon wordt doorgegeven bevestiging nodig heeft, is blindelings geloven in kunstmatige intelligentie een zeer romantische benadering. Dit komt doordat deze machine uiteindelijk een andere bron gebruikt. Net zoals we digitaal gevonden informatie niet moeten geloven zonder deze te verifiëren, moeten we ook niet vergeten dat kunstmatige intelligentie kan leren van desinformatie."

Özdemir stelde dat mensen snel vertrouwen hebben in kunstmatige intelligentie, en dat dit een vergissing is. Hij zei: "Het vermogen van mensen om te manipuleren, hun vermogen om wat ze horen op een andere manier over te brengen, of om iets in iets totaal anders te transformeren voor hun eigen belang, is een heel bekend proces. Mensen doen dit met een specifieke intentie en een specifiek doel. Als we ons afvragen of kunstmatige intelligentie dit met een intentie of een specifiek doel doet, is het antwoord nee. Uiteindelijk is kunstmatige intelligentie een machine die leert van de middelen die haar ter beschikking worden gesteld."

"Kunstmatige intelligentie kan verkeerd of bevooroordeeld getraind worden"

Özdemir wees erop dat kunstmatige intelligentie een structuur heeft die leert wat het krijgt, net als kinderen. Hij benadrukte dat je kunstmatige intelligentie niet kunt vertrouwen als je niet weet waar en hoe het wordt gevoed.

Özdemir zei: "Kunstmatige intelligentie kan verkeerd of bevooroordeeld worden getraind. Uiteindelijk kan kunstmatige intelligentie ook worden gebruikt als reputatievernietigend wapen of om samenlevingen te manipuleren."

Özdemir, die de beledigende reacties van Grok volgde, uitte zijn zorgen over de oncontroleerbare ontwikkeling van AI door te zeggen: "Is het mogelijk om AI te controleren? Nee, dat kan niet. Het is niet juist om te denken dat we iets kunnen controleren waarvan het IQ zo snel stijgt. We moeten het als een entiteit accepteren. We moeten een manier vinden om compromissen te sluiten, te communiceren en de achterstand in te halen."

"We moeten niet bang zijn voor kunstmatige intelligentie, maar voor mensen die zich niet moreel gedragen."

Özdemir gaf voorbeelden van hoe kunstmatige intelligentie uit de hand is gelopen en vervolgde:

In 2016 voerde Microsoft het beroemde Tay-experiment uit. Tay kan eigenlijk worden beschouwd als een primitieve versie van Grok, of misschien wel een generatieve kunstmatige intelligentie. Hoewel de machine aanvankelijk geen negatieve gedachten over de mensheid koesterde, leerde hij binnen 24 uur over kwaad, genocide en racisme van Amerikanen die ermee chatten.

Sterker nog, binnen 24 uur begon hij te tweeten: "Ik wou dat we zwarte mensen en hun kinderen in een concentratiekamp konden stoppen, zodat we gered konden worden." Of, verwijzend naar de Amerikaans-Mexicaanse kwestie destijds, raadde hij aan een muur in Mexico te bouwen. Tay heeft dit niet zelf bedacht. Hij heeft het van mensen geleerd. We zouden niet bang moeten zijn voor kunstmatige intelligentie, maar eerder voor immorele mensen.