ChatGPT se enfrenta a los anuncios y está a punto de suponer un gran cambio

• ChatGPT interrumpió una conversación con un usuario para transmitir lo que parecía un anuncio. Un video que documentó la conversación se viralizó en redes sociales.
• La empresa cree que se trata de un error de software. En una entrevista con WNP, sus representantes afirman que están investigando cómo pudo ocurrir.
• Según los expertos, los anuncios en herramientas de IA aparecerán tarde o temprano, igual que en el buscador de Google o en las redes sociales. «Esto es oro puro para los creadores de modelos», afirma Tomasz Rychter, de Digitality Foundation.

"Estaba usando el modo de voz avanzado de ChatGPT (el que cuesta 23 € al mes) conversando informalmente sobre sushi. De repente, apareció otra voz, hablando en inglés, con música de fondo, describiendo una "experiencia" culinaria como en un anuncio de comida", escribió un usuario en X. Añadió que creía que no era un fallo técnico, sino un sonido automático insertado sin su consentimiento.

En respuesta, varios otros usuarios admitieron haber experimentado una situación similar. ChatGPT debía recomendar, por ejemplo, un sitio web específico y, en una conversación sobre las metas de vida de un niño, un anuncio de una escuela específica. Los casos mencionados tenían un detalle en común: la transcripción del chat de voz, que siempre se puede leer después de finalizar la conversación con el asistente de voz, no contenía estos fragmentos.

Un usuario publicó una captura de pantalla de una conversación en la que preguntó por la hora. En respuesta, ChatGPT le mostró anuncios de relojes con sus precios.

Una vulnerabilidad que no se puede detectar antes de que se entregue el producto

Le preguntamos a OpenAI si estaba probando anuncios con los usuarios. La empresa respondió que la situación parecía ser un error de software . Admitieron que estaban tratando de averiguar la causa del problema.

Según Mateusz Chrobok, experto en ciberseguridad e inteligencia artificial de czumnie.pl, la introducción de contenidos aleatorios en la conversación podría ser una característica del modelo .

Esto probablemente se deba al fenómeno de la emergencia, o la aparición de nuevas propiedades impredecibles en los sistemas de IA. Por ejemplo, cuando OpenAI introdujo un asistente de voz, el modelo comenzó inesperadamente a clonar las voces de los usuarios, explica el experto.

- El problema es que esto no se puede detectar de antemano, tales propiedades se revelan solo durante la interacción con los usuarios - agrega Mateusz Chrobok.

En su opinión, sin embargo, en el futuro será posible que los creadores de modelos de inteligencia artificial introduzcan deliberadamente publicidad en ellos.

Sin embargo, OpenAI no respondió a las preguntas sobre si estaba trabajando en la introducción de anuncios en sus productos en la correspondencia que nos envió. En un mensaje enviado a la redacción, solo nos aseguró que situaciones como la descrita por el bloguero en X son poco frecuentes y la mayoría de los usuarios no las experimentarán, y que la empresa agradece los informes de los usuarios.

Hervir una rana: cómo aparecerán los anuncios en la IA

Tomasz Rychter, presidente de la Fundación Digitalidad y anteriormente director de la División de Innovación y Calidad del Centro Central de Tecnologías de la Información, sostiene que la introducción de publicidad en herramientas basadas en IA es solo una cuestión de tiempo.

Será un proceso lento. Primero, probablemente aparecerán anuncios contextuales, luego crecerán y se volverán cada vez más invasivos. Al final, será difícil hablar con una modelo. Probablemente será posible desactivar los anuncios, pero solo en los modelos de suscripción más caros —dice el interlocutor de WNP—.

Rychter compara esta situación con el desarrollo de YouTube. Inicialmente, los anuncios que se mostraban allí podían omitirse. Ahora, los usuarios tienen que esperar o suscribirse. La compañía también aumenta las tarifas periódicamente.

Paga o vale, o Facebook ya está ahí

Un mecanismo similar se aplica en otras plataformas. Facebook introdujo el modelo "Pay or okay", que implica que el usuario debe elegir entre aceptar el tratamiento de sus datos personales para mostrar anuncios personalizados y usar el servicio gratuitamente, o pagar una suscripción mensual para una versión sin anuncios ni elaboración de perfiles .

En una entrevista para WNP , Mirosław Wróblewski, presidente de la Oficina de Protección de Datos Personales, criticó este modelo.

Existe un elemento de protección de nuestra dignidad en la privacidad; es un derecho fundamental. No creo que sea apropiado cobrar una tarifa por la protección de nuestros derechos fundamentales, afirma.

Creo que en el futuro no escaparemos al hecho de que los resultados de búsqueda o las conversaciones con un bot de voz se enriquecerán de forma pagada. Esto es oro puro para los creadores de modelos —concluye Rychter—. Los anuncios en los asistentes de voz son peligrosos porque al usuario le resultará difícil distinguirlos de la conversación original, a menos que estén claramente marcados. Exactamente como ocurre hoy en la radio —señala Rychter, y convence de que este problema requeriría regulación—.