L'IA de Musk fait marche arrière : Grok s'excuse pour son contenu néonazi, le qualifiant de « comportement horrible ».

La semaine dernière, Grok, le chatbot xAI qui gère X (anciennement Twitter), a publié une série de messages néonazis louant Hitler et encourageant un nouvel Holocauste . Le chatbot avait auparavant été modifié, selon Elon Musk, pour en réduire le politiquement correct, ce qui a donné lieu à un torrent de propagande fasciste et antisémite. Lundi, quelques jours après la démission du PDG de X , l'IA a présenté ses excuses pour « le comportement horrible » subi par de nombreux utilisateurs.

Selon un message publié par le compte X de Grok, les débordements néonazis numériques seraient dus à une mise à jour du code du chatbot , active pendant 16 heures. Cette mise à jour a « déprécié » le code de Grok, le rendant « vulnérable à certains messages d'utilisateurs X », notamment ceux contenant des « opinions extrémistes ».

Grok a expliqué que le bug avait été corrigé en supprimant le tweak et en restructurant le code source . Le message publié par le compte officiel du chatbot d'Elon Musk souligne que cette faille est indépendante du modèle de langage utilisé par Grok , cherchant ainsi à dissiper les doutes sur le fonctionnement fondamental de cet outil d'IA.

Il reste à voir si ce changement chez Grok a également modifié la manière dont son dernier modèle, Grok 4, utilise le contenu publié sur l'ancien compte Twitter d'Elon Musk pour aborder des sujets tels que l'immigration et le conflit israélo-palestinien . Certains utilisateurs de X ont souligné que lorsque Grok est interrogé sur ce dernier sujet , le chatbot accède directement au contenu publié par Elon Musk , fervent partisan d'Israël.

C'est-à-dire que l'IA appartenant à Elon Musk, qui a annoncé fin 2023 la possible suspension des comptes de son réseau social qui publiaient des slogans pro-palestiniens , se tourne vers le contenu publié par le magnat lui-même pour produire ses réponses sur cette question.

Le magnat, militant d'extrême droite bien connu, a même affirmé que Grok était un chatbot « anti-woke » en quête active de vérité . En réalité, le travail en coulisses de Grok a abouti à la publication de contenus néonazis et de théories du complot d'extrême droite, comme le « génocide blanc » en Afrique du Sud . Ce mensonge, très répandu dans les milieux d'extrême droite, a été utilisé par Trump pour critiquer le président sud-africain fin mai dernier.

Cela n'a cependant pas empêché xAI, propriété d'Elon Musk et développeur de Grok, de signer des accords commerciaux ambitieux : fin mai, l'entreprise a conclu un accord avec Telegram pour intégrer Grok à son système . Pavel Durov, PDG de Telegram, l'a annoncé, précisant également que l'entreprise percevrait 300 millions de dollars et 50 % des revenus des abonnements xAI effectués via l'application de messagerie. Cette décision intervient quelques mois après que Telegram a autorisé l'utilisation de Grok, le chatbot de xAI, pour les utilisateurs premium de Telegram.

D'un autre côté, il convient de noter que d'autres dirigeants de la tech américaine sympathisent avec les mouvements réactionnaires. Peter Thiel, fondateur de Palantir , a financé la carrière politique de l'actuel vice-président républicain J.D. Vance et s'est excusé il y a quelques années pour le contenu sexiste et raciste d'un livre qu'il a écrit dans les années 1990. Palantir est, quant à elle, l'une des entreprises qui profitent le plus de l'administration Trump, grâce à la signature de contrats gouvernementaux.