Cientistas pedem que países da ONU limitem usos perigosos da IA.

Mais de 200 figuras proeminentes, incluindo ganhadores do Prêmio Nobel e pesquisadores de gigantes da IA ​​como Anthropic, Google, Microsoft e OpenAI, assinaram o documento "Apelo Global para Linhas Vermelhas da IA", dirigido aos países participantes da Assembleia Geral das Nações Unidas. Eles pedem o rápido estabelecimento, até 2026, de "linhas vermelhas" que não podem ser cruzadas para a IA e seus usos perigosos.

"A inteligência artificial tem imenso potencial para melhorar o bem-estar humano, mas sua trajetória atual apresenta perigos sem precedentes", diz o documento, coassinado por Geoffrey Hinton e Yoshua Bengio, considerados entre os pais da IA. "Os governos devem agir decisivamente antes que a janela para uma intervenção significativa se feche." Segundo os autores da carta, as "linhas vermelhas" para a IA seriam proibições acordadas internacionalmente para usos considerados muito arriscados, incluindo confiar na IA para comandar arsenais nucleares ou qualquer tipo de sistema de armas autônomas letais. Ou o uso da IA ​​para vigilância em massa, ataques cibernéticos e deepfakes.

Os signatários da mensagem instaram os governos a estabelecer limites para a IA até o final do próximo ano, dado o ritmo do avanço tecnológico. "A inteligência artificial poderá em breve superar em muito as capacidades humanas e aumentar riscos como pandemias planejadas, desinformação generalizada, manipulação em larga escala de indivíduos, incluindo crianças, desafios de segurança nacional e internacional, desemprego em massa e violações sistemáticas dos direitos humanos", diz a carta. "Se nada for feito, muitos especialistas, incluindo aqueles na linha de frente do desenvolvimento, alertam que se tornará cada vez mais difícil exercer um controle humano significativo nos próximos anos."