Vous utilisez ChatGPT ? Ça pourrait vous rendre stupide : des scanners cérébraux révèlent comment l'IA érode l'esprit critique.
Publié | Mis à jour
C'est un outil que des millions d'étudiants à travers le monde utilisent quotidiennement.
Mais si vous vous tournez régulièrement vers ChatGPT, une nouvelle étude pourrait tirer la sonnette d’alarme.
Des scientifiques du MIT Media Lab ont averti que l’utilisation de l’IA pourrait avoir un impact sur votre capacité à apprendre, à penser et à mémoriser.
Dans leur étude, l’équipe a mesuré l’activité électrique dans le cerveau afin de suivre 54 étudiants au cours de plusieurs séances de rédaction de dissertations.
Un groupe a utilisé ChatGPT, un autre Google et le dernier n’a eu aucune aide extérieure.
Les résultats ont révélé que les étudiants qui utilisaient des modèles de langage de grande taille (LLM) commeChatGPT pour rédiger des essais présentaient une mémoire plus faible, une activité cérébrale réduite et un engagement plus faible que ceux qui utilisaient d'autres méthodes.
« Alors que l’impact éducatif de l’utilisation du LLM commence seulement à se stabiliser auprès de la population générale, nous démontrons dans cette étude la question urgente d’une diminution probable des compétences d’apprentissage sur la base des résultats de notre étude », ont expliqué les chercheurs.
« L'utilisation du LLM a eu un impact mesurable sur les participants, et bien que les avantages aient été initialement apparents, comme nous l'avons démontré au cours des 4 mois, les participants du groupe LLM ont obtenu de moins bons résultats que leurs homologues du groupe Brain-only à tous les niveaux : neuronal, linguistique, notation. »
Dans leur étude, l'équipe a mesuré l'activité électrique cérébrale de 54 étudiants lors de plusieurs séances de rédaction. Un groupe a utilisé ChatGPT (LLM), un autre Google (Search), et le dernier n'a bénéficié d'aucune aide extérieure (Brain).
C'est un outil que des millions d'étudiants à travers le monde utilisent quotidiennement. Mais si vous utilisez régulièrement ChatGPT, une nouvelle étude pourrait vous alerter.
Dans leur étude, l’équipe a cherché à comprendre le « coût cognitif » des LLM comme ChatGPT.
« Avec l'adoption généralisée actuelle de produits LLM comme ChatGPT d'OpenAI, les humains et les entreprises s'engagent et utilisent les LLM au quotidien », ont-ils expliqué dans leur étude, publiée sur arXiv .
« Comme tout autre outil, il comporte son lot d’avantages et de limites.
« Cette étude vise à déterminer le coût cognitif de l’utilisation d’un LLM dans le contexte pédagogique de la rédaction d’un essai. »
Les participants ont été répartis en trois groupes - ChatGPT, Google et Brain-only - et invités à rédiger un essai, tout en portant un appareil d'électroencéphalographie (EEG) pour enregistrer leur activité cérébrale.
Les résultats ont révélé que l’utilisation de l’IA avait un « impact mesurable », les participants présentant une « diminution probable des capacités d’apprentissage ».
Même si « les bénéfices étaient initialement apparents », ce groupe « a obtenu de moins bons résultats que ses homologues du groupe cérébral uniquement à tous les niveaux : neuronal, linguistique, score » sur une période de quatre mois.
Pendant ce temps, les utilisateurs de Google ont démontré un « engagement modéré » et le groupe qui n'avait aucune implication externe a montré plus d'activité cérébrale et d'idées originales dans son contenu.
Dans leur étude, l'équipe a cherché à comprendre le « coût cognitif » des LLM comme ChatGPT (image d'archive)
Si ces étudiants essayaient ensuite d’utiliser ChatGPT, leur activité cérébrale augmenterait encore.
Les chercheurs ont supposé que cela était dû au fait que les étudiants essaieraient de combiner le nouvel outil avec ce qu’ils connaissent déjà.
Alors que le groupe ChatGPT montrait encore moins d’activité, même lorsqu’on leur demandait de rédiger eux-mêmes l’essai.
Les utilisateurs du LLM ont pu répondre aux questions avec une « friction réduite » par rapport au groupe des moteurs de recherche, ont admis les utilisateurs.
Cependant, ils ont déclaré : « Cette commodité a eu un coût cognitif, diminuant la propension des utilisateurs à évaluer de manière critique les résultats du LLM ou leurs « opinions » (réponses probabilistes basées sur les ensembles de données de formation).
« Cela met en évidence une évolution inquiétante de l'effet « chambre d'écho » : plutôt que de disparaître, il s'est adapté pour façonner l'exposition des utilisateurs à travers un contenu organisé par algorithme.
« Ce qui est classé comme « top » est en fin de compte influencé par les priorités des actionnaires de la LLM. »
Daily Mail
