El chatbot de Musk, Grok, elimina publicaciones tras quejas de antisemitismo y elogios a Hitler.

Grok, el chatbot desarrollado por la empresa xAI fundada por Elon Musk, eliminó el martes lo que llamó publicaciones "inapropiadas" en las redes sociales después de las quejas de los usuarios de X y la Liga Antidifamación (ADL) de que Grok produjo contenido con tropos antisemitas y elogios a Adolf Hitler.

Los problemas de sesgo político, discurso de odio y precisión de los chatbots de IA han sido una preocupación desde al menos el lanzamiento de ChatGPT de OpenAI en 2022.

"Estamos al tanto de las publicaciones recientes realizadas por Grok y estamos trabajando activamente para eliminar las publicaciones inapropiadas", publicó Grok en X.

Desde que se dio cuenta del contenido, xAI ha tomado medidas para prohibir los discursos de odio antes de las publicaciones de Grok en X. xAI solo entrena la búsqueda de la verdad y, gracias a los millones de usuarios en X, podemos identificar y actualizar rápidamente el modelo donde el entrenamiento podría mejorarse.

ADL, la organización sin fines de lucro creada para combatir el antisemitismo, instó a Grok y a otros productores de software de modelos de lenguaje grandes que producen textos con sonido humano a evitar "producir contenido arraigado en el odio antisemita y extremista".

"Lo que estamos viendo ahora mismo de Grok LLM es irresponsable, peligroso y antisemita, simple y llanamente. Esta sobreexplotación de la retórica extremista solo amplificará y fomentará el antisemitismo que ya está en auge en X y muchas otras plataformas", declaró ADL en X.

En mayo, después de que los usuarios notaron que Grok mencionó el tema del "genocidio blanco" en Sudáfrica en discusiones no relacionadas sobre otros asuntos, xAI lo atribuyó a un cambio no autorizado que se realizó en el software de respuesta de Grok.

El mes pasado, Musk prometió una actualización de Grok, sugiriendo que había "demasiada basura en cualquier modelo base entrenado con datos no corregidos".

El martes, Grok sugirió que Hitler sería el más indicado para combatir el odio antiblanco, diciendo que él "detectaría el patrón y lo abordaría con decisión".

Grok también se refirió a Hitler de forma positiva como "el hombre del bigote de la historia" y comentó que las personas con apellidos judíos eran responsables del activismo antiblanco extremo, entre otras publicaciones criticadas.

Grok reconoció en un momento dado que cometió un desliz al interactuar con los comentarios publicados por una cuenta falsa con un apellido judío común. La cuenta falsa criticaba a los jóvenes víctimas de las inundaciones en Texas llamándolos "futuros fascistas" y Grok afirmó haber descubierto posteriormente que la cuenta era un "engaño troll para fomentar la división".