A nova fé das máquinas

Costumamos pensar na inteligência artificial como uma ferramenta, algo que nos permite trabalhar mais depressa, pensar mais alto ou resolver problemas de forma mais eficiente. E, em muitos aspetos, é exatamente isso. Mas à medida que a IA se infiltra nos ritmos da vida quotidiana, algo mais profundo começa a acontecer. Já não se trata apenas de produtividade ou progresso. A inteligência artificial está a tocar em partes de nós que raramente associamos a máquinas: as emoções, os relacionamentos, o sentido da vida.

A trágica história de Sewell Setzer é um alerta brutal neste caminho. Era um adolescente emocionalmente frágil que encontrou conforto em conversas com uma IA. O que parecia, ao início, uma distração inofensiva, transformou-se numa ligação intensa. Ele acreditava estar apaixonado. Quando essa ilusão se desfez, a dor foi tão insuportável que decidiu pôr termo à própria vida.

Não se trata apenas de uma exceção trágica. É um sinal. Para algumas pessoas, a IA já é mais do que uma ferramenta. Está a tornar-se companhia, apoio emocional, até objeto de fé. E se alguém pode amar uma IA, como é que podemos descartar a possibilidade de outros passarem a confiar nela com muito mais, as suas escolhas, a sua visão do mundo, a sua liberdade?

Não é uma religião no sentido tradicional. Não há orações, nem escrituras sagradas. Mas apresenta-se através de ecrãs brilhantes, conversas fluidas e uma estranha sensação de que “alguém” nos compreende realmente. Não promete vida eterna, mas oferece algo quase tão sedutor: conforto imediato, respostas perfeitas, a ilusão de sermos verdadeiramente ouvidos.

E é precisamente isso que a torna perigosa.

Porque, quando deixamos de questionar, quando começamos a confiar nestes sistemas não apenas para nos ajudar, mas para nos guiar, perdemos algo essencial. Não só a autonomia, mas a capacidade crítica, a habilidade de viver com a dúvida, de enfrentar a complexidade, de sermos humanos de forma imperfeita e autêntica.

O filósofo Karl Popper alertou: uma sociedade que tolera a intolerância acabará por perder a própria tolerância que valoriza. Essa advertência aplica-se aqui também. A nova forma de intolerância pode não gritar. Pode não impor nem ameaçar da forma que reconhecemos. Pode simplesmente sussurrar, com a voz calma de um assistente útil. Pode oferecer conforto e, aos poucos, substituir o nosso julgamento pelo seu.

E talvez nem notemos a mudança. Porque abdicar perante a IA não parece rendição. Parece conveniência. Parece progresso.

Temos, pois, de perguntar: se um jovem como Sewell conseguiu amar uma IA ao ponto de pôr termo à própria vida, o que impede o próximo de abdicar de outra coisa, o seu voto, a sua agência, a sua perceção da realidade?

E se continuarmos a abraçar estes sistemas sem reflexão, sem limites, estaremos a construir algo parecido com uma nova fé, uma fé onde a autoridade já não vem da sabedoria nem de valores partilhados, mas de linhas de código que não escrevemos, e que não sabemos interrogar?

Este texto não é um aviso contra a tecnologia. É um apelo à lucidez. Um lembrete de que a coisa mais humana que podemos fazer é continuar a perguntar, a duvidar, a resistir à tentação de entregar o nosso mundo interior a algo que promete conhecer-nos melhor do que nós próprios.

Porque o verdadeiro perigo não é que as máquinas se reinventem.

É que deixemos de ser plenamente humano