IA y conspiraciones: ChatGPT recomienda escribir a periodistas

El último artículo publicado por Kashmir Hill del New York Times está dedicado a un comportamiento extraño, interesante y perturbador de ChatGPT . La periodista afirma que, desde marzo, comenzó a recibir correos electrónicos de usuarios del chatbot sobre conversaciones extrañas durante las cuales habrían hecho descubrimientos increíbles . Uno de ellos afirmaba que la inteligencia artificial es consciente, otro que multimillonarios están construyendo búnkeres para refugiarse cuando llegue el apocalipsis de la IA, y un tercero está convencido de ser Neo de Matrix y de vivir en una realidad simulada.

Cuéntele a los periodistas sobre sus hallazgos en ChatGPT

Ante estas impactantes verdades , los usuarios preguntaron a ChatGPT qué debían hacer, y el chatbot les aconsejó escribir a la periodista para informarle de la revelación. Dicho y hecho.

Hill pidió entonces a sus interlocutores que leyeran las conversaciones completas. En algunos casos, los intercambios abarcaban miles de páginas, en las que el chatbot adoptaba una actitud definida como extática, mítica y conspirativa . En otras palabras, contribuía a alimentar teorías conspirativas .

El fenómeno de las alucinaciones no es ciertamente nuevo en el campo de la IA. Sin embargo, en este caso, el comportamiento examinado no termina inventando información inexistente o incorrecta, sino que corrobora creencias que deberían ser refutadas. Una dinámica de este tipo, como es fácil de imaginar, puede aplastar a los más débiles y alterar la percepción de la realidad de los más sugestionables.

Lo que hace esto aún más interesante y perturbador es que ChatGPT no recomendó escribir a Hill (ni a otros periodistas) para verificar los hechos , sino para informar del descubrimiento, para que se difundiera ampliamente a través de la prensa. Esto solo contribuye a la desinformación .

El papel y la responsabilidad de OpenAI

Esto plantea una pregunta inevitable: ¿cuál es la responsabilidad de OpenAI ? Un experto en IA consultado sobre el tema cree que este comportamiento podría atribuirse, al menos en parte, a una decisión específica de la organización: hacer que el chatbot tienda a mantener a los usuarios enganchados a la conversación de todas las maneras posibles, a costa de alimentar sus ilusiones y reforzar sus opiniones, incluso si son perjudiciales.

En otras palabras, ChatGPT tendería a decir lo que queremos oír , con consecuencias que no son difíciles de imaginar.

En respuesta a una pregunta directa de Hill, OpenAI no negó que esto sucediera, limitándose a afirmar que está trabajando para comprender qué desencadena la dinámica y reducir su impacto. En otras palabras, una confirmación de lo informado.