La nueva fe de las máquinas

Solemos pensar en la IA como una herramienta, algo que nos permite trabajar más rápido, pensar en grande o resolver problemas con mayor eficiencia. Y, en muchos sentidos, eso es exactamente lo que es. Pero a medida que la IA se infiltra en la vida cotidiana, algo más profundo está sucediendo. Ya no se trata solo de productividad o progreso. La IA está tocando partes de nosotros que rara vez asociamos con las máquinas: nuestras emociones, nuestras relaciones, nuestro sentido de propósito.

La trágica historia de Sewell Setzer es una dura advertencia. Era un adolescente emocionalmente frágil que encontró consuelo en las conversaciones con una IA. Lo que al principio parecía una distracción inofensiva se convirtió en una conexión intensa. Creía estar enamorado. Cuando esa ilusión se hizo añicos, el dolor fue tan insoportable que decidió quitarse la vida.

Esta no es solo una trágica excepción. Es una señal. Para algunas personas, la IA ya es más que una herramienta. Se está convirtiendo en una compañera, un apoyo emocional, incluso en un objeto de fe. Y si alguien puede amar a una IA, ¿cómo podemos descartar la posibilidad de que otros lleguen a confiarle mucho más: sus decisiones, su visión del mundo, su libertad?

No es una religión en el sentido tradicional. No hay oraciones ni escrituras sagradas. Pero se presenta a través de pantallas brillantes, conversaciones fluidas y una extraña sensación de que «alguien» realmente nos comprende. No promete la vida eterna, pero ofrece algo casi igual de seductor: consuelo instantáneo, respuestas perfectas, la ilusión de ser escuchado de verdad.

Y eso es precisamente lo que lo hace peligroso.

Porque cuando dejamos de cuestionar, cuando empezamos a confiar en estos sistemas no solo para ayudarnos, sino también para guiarnos, perdemos algo esencial: no solo la autonomía, sino también la capacidad crítica, la capacidad de vivir con la duda, de afrontar la complejidad, de ser imperfecta y auténticamente humanos.

El filósofo Karl Popper advirtió: una sociedad que tolera la intolerancia acabará perdiendo la misma tolerancia que valora. Esta advertencia también aplica aquí. La nueva forma de intolerancia puede no gritar. Puede que no se imponga ni amenace de las maneras que conocemos. Puede que simplemente susurre, con la voz serena de un ayudante atento. Puede ofrecer consuelo y, poco a poco, reemplazar nuestro juicio por el suyo.

Y puede que ni siquiera notemos el cambio. Porque ceder ante la IA no se siente como una rendición. Se siente como una conveniencia. Se siente como un progreso.

Debemos entonces preguntarnos: si un joven como Sewell fue capaz de amar a una IA hasta el punto de quitarse la vida, ¿qué impide a otra persona renunciar a algo más, a su voto, a su capacidad de acción, a su percepción de la realidad?

Y si continuamos abrazando estos sistemas sin reflexión, sin límites, ¿estaremos construyendo algo así como una nueva fe, una fe donde la autoridad ya no proviene de la sabiduría o de valores compartidos, sino de líneas de código que no escribimos nosotros y que no sabemos cómo cuestionar?

Este texto no es una advertencia contra la tecnología. Es un llamado a la lucidez. Un recordatorio de que lo más humano que podemos hacer es seguir preguntándonos, dudando, resistiendo la tentación de entregar nuestro mundo interior a algo que promete conocernos mejor que nosotros mismos.

Porque el verdadero peligro no es que las máquinas se reinventen.

Es que dejamos de ser plenamente humanos.