A controvérsia sobre câmeras de reconhecimento facial ao vivo em Nova Orleans

Durante a caçada massiva em andamento por 10 presos que escaparam de uma prisão de Nova Orleans na semana passada, as autoridades dizem que o uso de câmeras de reconhecimento facial operadas por uma organização privada ajudou a levar à recaptura de um dos fugitivos — mesmo com o departamento de polícia sendo investigado por críticos de organizações de direitos civis a políticos conservadores sobre o uso da tecnologia.

No início desta semana, a superintendente do Departamento de Polícia de Nova Orleans, Anne Kirkpatrick, disse à ABC News que câmeras de reconhecimento facial mantidas pelo Projeto NOLA foram usadas na caçada humana em Nova Orleans, apesar de ela ter ordenado recentemente uma pausa nos alertas automatizados que seus policiais vinham recebendo do grupo, que opera independentemente do departamento de polícia.

Kirkpatrick disse recentemente ao The Washington Post que ordenou que os alertas aos policiais fossem desativados até que ela tivesse "certeza de que o uso do aplicativo atende a todos os requisitos da lei e das políticas".

Citando a parceria do Departamento de Polícia de Nova Orleans com o Projeto NOLA, a União Americana pelas Liberdades Civis disse em um comunicado que acredita-se que este seja o primeiro esforço generalizado conhecido de uma grande agência policial americana para usar tecnologia de inteligência artificial para identificar suspeitos em uma variedade de crimes na cidade.

Em uma declaração, a ACLU disse que o uso de reconhecimento facial em tempo real levanta questões constitucionais e de privacidade e "é uma escalada radical e perigosa do poder de vigiar pessoas enquanto vivemos nossas vidas cotidianas".

Críticos do uso de câmeras de reconhecimento facial pelo Departamento de Polícia de Nova Orleans disseram que o cidadão comum deve entender que não está optando por participar ou sendo informado de que está sendo escaneado pelas câmeras.

"A tecnologia de reconhecimento facial representa uma ameaça direta aos direitos fundamentais de cada indivíduo e não tem lugar em nossas cidades", disse Alanah Odoms, diretora executiva da ACLU da Louisiana, em uma declaração sobre a parceria da cidade com o Projeto NOLA. "Pedimos ao Departamento de Polícia de Nova Orleans e à Prefeitura de Nova Orleans que suspendam este programa por tempo indeterminado e encerrem todo o uso da tecnologia de reconhecimento facial transmitida ao vivo."

Alguns republicanos no Congresso também se opuseram ao uso descontrolado da tecnologia, principalmente os deputados Jim Jordan, de Ohio, Andy Biggs, do Arizona, Warren Davidson, de Ohio, Thomas Massie, de Kentucky, e os senadores Mike Lee, de Utah, e Steve Daines, de Montana.

Em uma carta de 27 de março de 2025 a Kash Patel, então diretor interino do Departamento Federal de Álcool, Tabaco e Explosivos, Biggs, presidente da Subcomissão de Crimes e Vigilância do Governo Federal da Câmara, e Davidson expressaram preocupação com notícias que indicavam que o ATF utilizava tecnologia de reconhecimento facial para identificar proprietários de armas. "O Subcomitê está preocupado com o uso de programas de reconhecimento facial e IA pelo ATF e com os efeitos que seu uso tem sobre os direitos dos cidadãos americanos garantidos pela Segunda Emenda e sobre o direito à privacidade", escreveram os legisladores em sua carta, solicitando documentos sobre políticas e treinamento no uso da tecnologia de reconhecimento facial.

Democratas, incluindo a deputada Zoe Lofgren, da Califórnia, e o senador Ron Wyden, do Oregon, também se uniram a esforços bipartidários para restringir o uso dessa vigilância.

Como as autoridades estão usando o reconhecimento facial ao vivo

Os 10 detentos escaparam do Centro de Justiça de Orleans, em Nova Orleans, em 16 de maio, segundo autoridades. Cinco dos fugitivos já foram recapturados, deixando outros cinco, incluindo três acusados ​​de homicídio, ainda foragidos até a tarde de quinta-feira.

Kirkpatrick disse à ABC News esta semana que um dos fugitivos foi capturado e outro escapou por pouco depois que câmeras de reconhecimento facial ao vivo operadas pelo Projeto NOLA os localizaram enquanto examinavam multidões no French Quarter.

Bryan Lagarde, diretor executivo do Projeto NOLA, disse à ABC News que, após ser notificado sobre a fuga na sexta-feira, a polícia estadual deu ao seu grupo uma lista dos fugitivos.

"Incluímos isso em nosso reconhecimento facial. Levamos aproximadamente quatro minutos para fazer isso e, literalmente, em menos de um minuto, começamos a rastrear dois dos fugitivos", disse Lagarde.

Ele disse que as informações sobre o fugitivo Kendall Myles e outro detento foragido, que segundo ele está enfrentando acusações de tentativa de homicídio de segundo grau, foram enviadas aos investigadores da polícia estadual, que confirmaram que os dois homens faziam parte da fuga.

"Então eles foram imediatamente para o French Quarter, que é onde os estávamos rastreando enquanto andávamos pela Bourbon Street", disse Lagarde.

Myles foi preso depois que a polícia o encontrou escondido debaixo de um carro. O segundo fugitivo, no entanto, conseguiu escapar.

"Tenho certeza de que eles sabiam que havia câmeras porque andavam por aí com o rosto abaixado e coisas assim. Basta um segundo para eles olharem para cima e aí acontece o reconhecimento facial", disse Lagarde.

Citando a investigação em andamento, Lagarde se recusou a dizer se suas câmeras localizaram algum dos outros fugitivos.

Grupo opera 200 câmeras de reconhecimento facial em Nova Orleans

Largarde disse que sua organização tem usado câmeras de reconhecimento facial ao vivo em Nova Orleans nos últimos dois anos.

Em resposta a potenciais preocupações com privacidade, Lagarde disse: "No que diz respeito ao reconhecimento facial, ele escaneia seu rosto, o meu rosto, o rosto de todos. Se você for procurado e soubermos que é procurado, você terá problemas. Se não for procurado, o reconhecimento facial ignorará seu rosto imediatamente e passará para a próxima pessoa."

Ele disse que seu grupo mantém cerca de 5.000 câmeras em Nova Orleans, incluindo 200 com capacidade de reconhecimento facial. Ele disse que as câmeras de reconhecimento facial não apenas escaneiam rostos, mas também roupas, veículos e placas de veículos.

"Trabalhamos com um grande número dos principais crimes aqui em Nova Orleans: homicídios, tiroteios, esfaqueamentos, invasões de domicílio, estupros, roubos, até furtos e arrombamentos", disse Lagarde.

O Projeto NOLA trabalha com o Departamento de Polícia de Nova Orleans e a Polícia Estadual da Louisiana, mas não tem um contrato oficial com nenhuma das agências, disseram as autoridades.

Antes da caçada, a polícia de Nova Orleans parecia se distanciar do Projeto NOLA.

O departamento de polícia "não possui, não depende, não gerencia nem tolera o uso por membros do departamento de quaisquer sistemas de inteligência artificial associados à vasta rede" de câmeras do Projeto NOLA, disse um porta-voz da agência do departamento de polícia em uma declaração ao The Washington Post.

Kirkpatrick, superintendente da polícia de Nova Orleans, disse que sua agência instalou câmeras de vigilância em toda a cidade, muitas delas nos distritos de entretenimento, mas nenhuma delas possui reconhecimento facial. De acordo com a Fundação de Polícia e Justiça de Nova Orleans, a cidade conta com cerca de 3.600 câmeras operadas pela polícia.

O que dizem as leis locais

Embora a cidade tenha uma lei sobre o uso da tecnologia de reconhecimento facial, Kirkpatrick disse que há exceções às regras.

"Às vezes, as pessoas pensam que temos uma proibição total do uso de reconhecimento facial, o que não é totalmente verdade", disse Kirkpatrick. "Há exceções, e acho que esta se enquadraria na exceção dessas portarias."

De acordo com a lei municipal , "evidências obtidas apenas por reconhecimento facial não serão suficientes para estabelecer causa provável para efetuar uma prisão pelo NOPD ou outra agência de segurança pública. A fonte da imagem e os motivos subjacentes para o uso solicitado de sistemas de reconhecimento facial como pista investigativa deverão ser documentados em um boletim de ocorrência."

A portaria diz que "a tecnologia de reconhecimento facial não deve ser usada como ferramenta de vigilância". Mas a portaria também afirma que "nada nesta seção proibirá o NOPD de solicitar o uso de tecnologia de reconhecimento facial na investigação da ocorrência anterior dos seguintes crimes significativos, conforme definido no Estatuto Revisado da Louisiana", incluindo homicídio doloso, homicídio culposo, solicitação de homicídio, roubo de primeiro grau, tiroteios e sequestros de veículos.

"Eles tinham minha permissão, isso é certo", disse Kirkpatrick sobre o uso da tecnologia de reconhecimento facial na caçada.

Três dos cinco detentos fugitivos que ainda eram procurados na sexta-feira foram acusados ​​de homicídio ou tentativa de homicídio, incluindo um que foi condenado por duplo homicídio, informaram as autoridades.

Um 'sistema de arrasto?'

A investigação do Washington Post publicada esta semana relatou que a polícia de Nova Orleans estava usando a rede de câmeras de reconhecimento facial do Projeto NOLA para monitorar as ruas em busca de suspeitos procurados nos últimos dois anos, de maneiras que pareciam "fora de sintonia" com a lei local.

Na entrevista à ABC sobre a caçada, Kirkpatrick disse que o Projeto NOLA é um "parceiro útil", mas enfatizou que não é uma autoridade policial e não está vinculado à legislação local, levantando questões de responsabilidade sobre o Projeto NOLA e os dados que ele coleta sobre cidadãos comuns que estão sendo monitorados dessa maneira não direcionada.

"Apoio muito qualquer tecnologia que possamos usar para trazer pessoas violentas de volta à ativa, e assim poderemos lidar com as questões mais tarde, mas, na verdade, operamos dentro dos limites da lei", disse ela. "Desde que seja constitucional e ético, vamos nos manter dentro dos limites. Mas este é um tópico e uma discussão mais amplos, principalmente para nossos políticos decidirem que tipo de leis querem."

Outros departamentos de polícia ao redor do país enfrentaram questionamentos sobre o uso da tecnologia.

O uso de software de reconhecimento facial por empresas dos EUA também cresceu bastante nos últimos anos, disseram analistas e defensores da privacidade à ABC News.

Os usos vão desde empresas de tecnologia que protegem dispositivos pessoais e varejistas que escaneiam para detectar possíveis furtos até gigantes do comércio eletrônico que rastreiam entregadores. Varejistas também estão usando o reconhecimento facial em compradores para ajustar preços nas lojas.

As empresas afirmam que a tecnologia as ajuda a alcançar uma operação segura e eficiente, beneficiando consumidores e funcionários. Os críticos afirmam que a poderosa ferramenta invade a privacidade das pessoas comuns, correndo o risco de punição ou discriminação indevida, disseram os especialistas.

Jake Laperruque, vice-diretor do Projeto de Segurança e Vigilância do Centro para Democracia e Tecnologia, disse que as câmeras de reconhecimento facial são uma "ferramenta não comprovada e propensa a erros".

"Este é o primeiro caso documentado nos EUA de policiais usando reconhecimento facial não direcionado, que países como a China empregam para rastrear pessoas em diferentes cidades e vigiar seus cidadãos uigures", disse Laperruque em declaração à ABC News sobre o uso da tecnologia pela polícia de Nova Orleans. "Esse tipo de sistema de arrasto pertence a um filme de ficção científica distópico, não a cidades americanas. Pedestres comuns não deveriam ter que se preocupar com a possibilidade de uma tecnologia de IA não testada disparar alarmes e enviar a polícia atrás deles."

Uma das principais questões do reconhecimento facial e da IA ​​é que estudos mostram que eles podem ser racialmente tendenciosos e são particularmente propensos a erros com pessoas de cor, idosos e mulheres.

"Houve taxas de erro entre 80 e 90%. Isso significa que nove em cada dez vezes que o sistema diz: 'Ei, aqui está alguém da nossa lista de observação', na verdade é um alarme falso", disse Laperruque sobre o uso dessas câmeras como ferramentas de vigilância não direcionadas ou em tempo real, com base em programas piloto executados no Reino Unido.

"O reconhecimento facial pode ser usado para catalogar participantes de protestos ou comícios políticos de qualquer afiliação, indivíduos indo a uma igreja, pessoas visitando uma clínica médica ou uma série de outras atividades sensíveis", disse Laperruque à ABCNews.

Ele acrescentou: "Dados esses riscos, não é surpresa que a reforma da vigilância em geral — e a imposição de restrições ao reconhecimento facial em particular — tenha apoio de todo o espectro político, incluindo alguns dos membros mais progressistas e conservadores do Congresso. No mês passado, em uma audiência no Congresso, membros conservadores do Congresso destacaram os perigos do reconhecimento facial e outras formas descontroladas de vigilância."