X, le chatbot d'Elon Musk, Grok, fait l'éloge d'Hitler : publications supprimées

Grok, le chatbot développé par xAI, fondé par Elon Musk, a supprimé mardi ce qu'il a qualifié de publications « inappropriées » sur les réseaux sociaux après des plaintes d'utilisateurs de X et de l'Anti-Defamation League selon lesquelles Grok avait produit du contenu antisémite et des éloges explicites pour Adolf Hitler.

Mais que s'est-il passé ? Le mardi 8 juillet, en réponse aux utilisateurs de X, Grok a suggéré qu'Hitler serait le meilleur homme politique pour combattre la haine anti-blanche, affirmant qu'il « identifierait le modèle et l'aborderait avec détermination ». Grok a également qualifié Hitler, en plaisantant, de « l'homme moustachu de l'histoire » et a commenté que les personnes portant des noms de famille juifs étaient responsables d'un activisme anti-blanc extrême.

À un moment donné, Grok a reconnu avoir commis une « erreur », citant des commentaires publiés par un faux compte portant un nom de famille juif courant. Ce faux compte critiquait les jeunes victimes des inondations au Texas , les qualifiant de « futurs fascistes », et Grok a déclaré avoir découvert plus tard qu'il s'agissait d'un « canular de trolls visant à attiser la division ».

La question des préjugés politiques, des discours de haine et de la précision des chatbots IA est une préoccupation depuis au moins le lancement de ChatGPT d'OpenAI en 2022. « Nous sommes au courant des récents messages de Grok et travaillons activement à leur suppression », a écrit Grok sur X. « Depuis que nous avons été informés du contenu, xAI a pris des mesures pour interdire les discours de haine avant que Grok ne les publie sur X. xAI s'entraîne uniquement à la recherche de la vérité, et grâce aux millions d'utilisateurs sur X, nous sommes en mesure d'identifier et de mettre à jour rapidement le modèle où l'entraînement pourrait être amélioré. »

L'ADL, l'organisation à but non lucratif fondée pour lutter contre l'antisémitisme, a exhorté Grok et les autres éditeurs de logiciels à larges modèles linguistiques produisant du texte à éviter de « produire du contenu fondé sur la haine antisémite et extrémiste. Ce que nous voyons actuellement de la part de Grok est irresponsable, dangereux et antisémite, tout simplement. Cette surcharge de rhétorique extrémiste ne fera qu'amplifier et encourager l'antisémitisme déjà répandu sur X et de nombreuses autres plateformes », a déclaré l'ADL à propos de X.