Diante de uma indústria em mudança, ativistas da IA ​​repensam sua estratégia

Na primavera de 2018, milhares de funcionários do Google pressionaram a empresa a rescindir um importante contrato de inteligência artificial com o Pentágono. A gigante da tecnologia até se comprometeu a não usar sua IA para armas ou certos sistemas de vigilância no futuro.

A vitória, que ocorreu em meio a uma onda de protestos sem precedentes liderados por funcionários, ajudou a inspirar uma nova geração de ativistas da tecnologia no Vale do Silício. Mas, sete anos depois, o legado daquele momento é mais complexo. O Google revisou recentemente seus princípios éticos de IA para permitir alguns dos casos de uso que havia banido anteriormente, e empresas de todo o setor estão lançando novas e poderosas ferramentas de IA em uma velocidade vertiginosa.

Na terça-feira, o AI Now Institute, um think tank que estuda as implicações sociais da inteligência artificial, publicou um relatório abrangente sobre o cenário atual da IA, detalhando a forma como o poder está se concentrando em um punhado de empresas dominantes que moldaram narrativas sobre a tecnologia em seu próprio benefício. Os autores sugerem novas estratégias para que ativistas, grupos da sociedade civil e trabalhadores conquistem poder em um ambiente radicalmente transformado.

Os autores apontam para declarações de figuras da indústria tecnológica que afirmam que o alvorecer da superinteligência todo-poderosa está próximo — um desenvolvimento que, segundo eles, inaugurará uma era utópica em que a humanidade poderá encontrar rapidamente a cura para o câncer ou resolver as mudanças climáticas. Essa ideia "tornou-se o argumento para acabar com todos os outros argumentos, um marco tecnológico tão abstrato e absoluto que ganha prioridade sobre outros meios e, na verdade, sobre todos os outros fins", escrevem os autores do relatório.

Entre suas recomendações, a AI Now incentiva grupos de defesa e pesquisa a conectar questões relacionadas à IA a preocupações econômicas mais amplas, como a segurança no emprego e o futuro do trabalho. Embora os impactos negativos da inteligência artificial fossem anteriormente ocultos ou abstratos para funcionários de muitas áreas, trajetórias de carreira antes estáveis ​​estão sendo interrompidas em diversos setores da economia, da engenharia de software à educação.

Os autores veem uma oportunidade para os trabalhadores resistirem à forma como a IA está sendo implantada e se oporem aos argumentos da indústria de tecnologia que enquadram resultados como a perda generalizada de empregos como inevitáveis. Isso pode ser especialmente poderoso em um clima político em que os republicanos se posicionaram como o partido da classe trabalhadora, embora o governo Trump se oponha à maior parte da regulamentação da IA.

Os autores apontam para vários estudos de caso no relatório em que os trabalhadores conseguiram interromper a implementação de IA em suas empresas ou garantiram a implementação de medidas de proteção. Um exemplo é o National Nurses United, um sindicato que organizou protestos contra o uso de IA na área da saúde e realizou sua própria pesquisa, demonstrando que a tecnologia pode minar o julgamento clínico e ameaçar a segurança dos pacientes. O ativismo levou diversos hospitais a instituir novos mecanismos de supervisão de IA e a reduzir a implementação de algumas ferramentas automatizadas.

“O que é único neste momento é este impulso para integrar a IA em todos os lugares. Isso está concedendo às empresas de tecnologia e às pessoas que as administram novos tipos de poder que vão muito além de simplesmente encher seus bolsos”, afirma Sarah Myers West, codiretora executiva da AI Now e uma das autoras do relatório. “Estamos falando dessa profunda reformulação social, econômica e política da estrutura de nossas vidas, e isso exige uma maneira diferente de contabilizar os danos da IA.”

O relatório é mais pessimista quanto ao poder atual dos reguladores, que, segundo os autores, iniciaram uma série de investigações sobre empresas de IA nos últimos anos, que até agora resultaram em poucos resultados tangíveis, como uma lei nacional de privacidade digital nos EUA. Embora as autoridades frequentemente falem sobre a necessidade de coibir o poder monopolista e limitar a coleta de dados pessoais, "grande parte dessa atividade não se materializou em ações concretas de fiscalização e mudanças legislativas, nem em estabelecer limites claros para proibir práticas comerciais anticompetitivas específicas", segundo o relatório.

Amba Kak, codiretora executiva da AI Now e outra coautora do relatório, afirma que sua organização "tem se concentrado bastante" em políticas governamentais como forma de implementar mudanças, mas acrescenta que ficou claro que essas alavancas não terão sucesso a menos que o poder seja construído a partir de baixo. "Precisamos garantir que a IA esteja repercutindo como uma questão que afeta a vida material das pessoas, não como essa tecnologia abstrata ali."

Os autores enfatizam que a questão não é retratar diferentes produtos ou tecnologias de IA sob uma luz específica. "Não estamos interessados ​​em discutir se uma tecnologia específica como o ChatGPT é boa ou não", diz Kate Brennan, diretora associada da AI Now e outra coautora do relatório. "Estamos questionando se é bom para a sociedade que essas empresas tenham poder irresponsável", o que pode ser totalmente compatível com "acreditar que certos produtos são bons, interessantes e empolgantes".