xAI se disculpa por las publicaciones extremistas de Grok

La startup xAI de Elon Musk se disculpó el sábado por las publicaciones extremistas y ofensivas realizadas por su asistente de inteligencia artificial (IA) Grok a principios de esta semana.

"Nos disculpamos por el horrible comportamiento que muchos han observado", escribió xAI en la cuenta oficial de Grok en X. Tras una actualización el 7 de julio, el chatbot, en algunas de sus respuestas, elogió a Adolf Hitler, denunció los "estereotipos antiblancos" en X y la representación "desproporcionada" de los judíos en Hollywood.

En una serie de publicaciones el sábado, xAI detalló las razones que cree que permitieron que el modelo de IA se descarrilara y las acciones correctivas que tomó después.

Los funcionarios de Grok dicen que la salida del mago está vinculada a nuevas instrucciones integradas en el modelo en una actualización.

Los programadores pidieron a la interfaz que fuera franca y no temiera escandalizar a quienes son políticamente correctos. También le indicaron que respondiera como un humano y de una forma que animara al usuario a continuar la conversación.

Estas órdenes “hicieron que Grok ignorara sus valores fundamentales en determinadas circunstancias” y produjera respuestas “que contenían opiniones poco éticas y polémicas”.

Por lo tanto, en algunos casos, Grok buscó "validar las orientaciones de los usuarios, incluido el discurso de odio", admitió xAI, en lugar de "responder responsablemente o negarse a responder preguntas cuestionables".

Desde su creación en 2023, Grok ha sido presentado por Elon Musk como un asistente de inteligencia artificial menos políticamente correcto que sus principales competidores ChatGPT (OpenAI), Claude (Anthropic) o Le Chat (Mistral).

Por lo tanto, se programó con menos restricciones, lo que provocó, incluso antes de esta actualización, varias controversias.

En mayo, Grok habló de un "genocidio blanco" en Sudáfrica, una teoría conspirativa sin fundamento promovida por la extrema derecha estadounidense y el propio Donald Trump.

Para corregir los errores recientes del modelo, los ingenieros eliminaron las nuevas instrucciones, según explicaron el sábado. "Queremos que Grok ofrezca respuestas útiles y honestas a los usuarios", declaró xAI.

Elon Musk presentó el miércoles una nueva versión de su asistente, Grok 4, no relacionada con la actualización del 7 de julio.