São Paulo, Brazil – Enquanto a cidade de São Paulo se prepara para implantar milhares de câmeras de vigilância com reconhecimento facial, especialistas levantam preocupações sobre o uso indiscriminado dessa tecnologia na megalópole brasileira, que pode agravar problemas como racismo estrutural e desigualdade, além de representar riscos à privacidade de dados e segurança cibernética.
O projeto Smart Sampa é o mais recente de uma série de iniciativas envolvendo modernas técnicas de vigilância em vários estados brasileiros. É significativo pelo tamanho da população que vai impactar: São Paulo, a cidade mais populosa do Hemisfério Sul, tem 12 milhões de habitantes.
O projeto visa implantar uma plataforma única de videomonitoramento que integre e apoie as operações dos serviços de emergência e trânsito, rede de transporte público da cidade e forças policiais. Até 2024, serão instaladas até 20.000 câmeras e um número igual de câmeras de terceiros e privadas serão integradas à rede.
As novas câmeras permitirão que a cidade monitore escolas, consultórios médicos, espaços públicos como praças e parques, além de conteúdo de mídia social relevante para a administração pública.
A combinação de análise em tempo real e tecnologia de reconhecimento facial – que detecta e compara rostos em um determinado espaço usando algoritmos de inteligência artificial (IA) – visa agilizar o processo de identificação de criminosos procurados, carros roubados, pessoas desaparecidas, objetos perdidos e gestão do transporte público da cidade.
“Esperamos concluir o processo de contratação [for Smart Sampa] o mais rápido possível, pois vai aumentar muito a segurança e a mobilidade da cidade”, disse o prefeito de São Paulo, Ricardo Nunes, durante o relançamento da licitação em maio.
Melhorias são necessárias com urgência em ambas as áreas e as reclamações sobre tempos de espera excessivos dos usuários de ônibus à autoridade de transporte da cidade aumentaram 42% no primeiro trimestre de 2023 e dados do departamento de segurança urbana indicam um aumento de 35,7% nos assaltos na cidade em 2023 em relação a 2021.
Com dados em tempo real das câmeras e algoritmos, a cidade espera prever e agir sobre as ocorrências mais rapidamente. Também espera antecipar padrões de tráfego e possíveis pontos de congestionamento e usar insights para ajustar horários de ônibus, por exemplo.
Apesar do apelo das tecnologias de vigilância remota na solução dos problemas da cidade, os críticos do Smart Sampa temem que o projeto infrinja os direitos humanos fundamentais dos cidadãos, incluindo privacidade, liberdade de expressão, reunião e associação.
Essas preocupações levaram à suspensão do processo de licitação em duas ocasiões e levaram a investigações do Ministério Público sobre possíveis armadilhas do projeto em áreas como a privacidade do cidadão.
O processo de contratação foi autorizado a continuar depois que os tribunais de São Paulo concluíram que não havia provas suficientes para provar que o sistema é tendencioso contra indivíduos negros. A PK9, uma empresa de tecnologia sediada em São Paulo, lançou uma oferta mensal de R$ 9,2 milhões (US$ 1,8 milhão) para operar o sistema por um período de 60 meses.
Os riscos para os negros brasileiros
Uma das principais questões destacadas pelos especialistas em relação ao Smart Sampa diz respeito às consequências negativas que o sistema pode gerar, principalmente para grupos como a comunidade negra, que constitui 56% da população do Brasil, segundo o Instituto Brasileiro de Geografia e Estatística (IBGE). . Especialistas argumentam que o projeto pode prejudicar o direito à não discriminação e desafiar o princípio da presunção de inocência.
Segundo Fernanda Rodrigues, advogada de direitos digitais e coordenadora de pesquisas do Instituto de Pesquisas sobre Internet e Sociedade (IRIS), a tecnologia de reconhecimento facial tem o potencial de levar a falsos positivos – corresponder erroneamente o rosto de uma pessoa com uma imagem no banco de dados – e conduzir o encarceramento em massa de indivíduos negros como resultado.
“Além dos riscos de que as informações alimentadas nessas plataformas não sejam precisas e o próprio sistema falhe, há um problema que antecede as implicações tecnológicas, que é o racismo”, disse Rodrigues.
“Sabemos que o sistema penal no Brasil é seletivo, então podemos concluir que [use of surveillance with facial recognition] trata-se de aumentar os riscos e danos a essa população”, acrescentou Rodrigues, referindo-se à alta representação de negros nas prisões brasileiras, que representam mais de 67% da população carcerária, segundo dados de 2022 do Fórum Brasileiro de Segurança Pública.
Um estudo realizado pelo Centro de Estudos de Segurança Pública e Cidadania (CESeC), que monitora o impacto do uso do reconhecimento facial pela polícia em todo o país, revelou que mais de 90% dos indivíduos presos por decisões baseadas em reconhecimento facial no Brasil são negros. No estado do Rio de Janeiro, o percentual de prisões injustas baseadas em reconhecimento fotográfico e envolvendo negros chegou a 81% em 2021, segundo dados da Câmara dos Defensores Públicos do Rio de Janeiro.
Outro problema diz respeito à falta de abertura em relação ao projeto. Uma das organizações por trás da campanha nacional “Take My Face Out of Your Aim” e outras iniciativas que pedem a proibição do reconhecimento facial, a CESeC e outras entidades sem fins lucrativos estão envolvidas em uma série de ações legais contra governos que optam por implantar a tecnologia para segurança urbana e outros fins.
No ano passado, a Prefeitura de São Paulo realizou uma consulta pública virtual nas duas últimas semanas de agosto, convidando especialistas a contribuir com suas opiniões, com um único dia reservado para que as pessoas tirassem suas dúvidas.
“A participação foi limitada e as sugestões feitas foram amplamente ignoradas”, disse Celina Bottino, diretora de projetos do Instituto de Tecnologia e Sociedade do Rio de Janeiro.
Em resposta à resistência do público, o edital Smart Sampa foi atualizado com um estudo sobre o impacto da tecnologia, que reconheceu deficiências como alta probabilidade de vieses nos recursos de reconhecimento facial, bem como o risco de uso não autorizado e exposição de dados pessoais, bem como a probabilidade de violações de privacidade.
Para lidar com esses riscos, o relatório observou que a plataforma consideraria apenas detecções com 90% de paridade e todos os alertas emitidos seriam analisados por pessoal treinado para mitigar injustiças, além de um sistema avançado de proteção de dados e controle de acesso.
Pedidos de suspensão
A Defensoria Pública de São Paulo iniciou uma ação civil em maio, juntamente com o Laboratório de Políticas Públicas e Internet (LAPIN) e a Uneafro Brasil, apoiada pela Rede Liberdade, uma rede de profissionais do direito que trabalham com organizações de direitos humanos. O processo em andamento pede a suspensão do projeto e a suspensão do uso de sistemas de reconhecimento facial para segurança urbana.
“O reconhecimento facial é uma tecnologia complexa com aspectos ainda não totalmente mapeados, o que a torna incompatível com um processo licitatório, pois [this format] não permite a necessária transparência e participação. Isso acarreta uma série de riscos aos direitos fundamentais de populações vulneráveis, como negros e transgêneros, além de crianças”, afirmaram as organizações em comunicado.
A ação civil também argumenta que o estudo de impacto carece de pareceres e estudos detalhados sobre os possíveis danos da tecnologia, bem como formas de contornar os riscos: “A Prefeitura apenas apresenta aspectos pontuais sobre os impactos do programa Sampa Inteligente, que raramente eram discutidos com a sociedade civil e outras instituições”, diz a defensora pública Surrailly Youssef.
Mesmo que o fornecedor já tenha sido escolhido, o serviço pode ser suspenso a qualquer momento caso sejam constatadas violações de direitos ou princípios da administração pública, diz a defensora pública Cecília Nascimento Ferreira.
“A medida judicial, no entanto, buscou evitar o gasto de recursos públicos em uma tecnologia temerária contratada por meio de modalidade inadequada diante da complexidade do serviço”, acrescenta.
O governo de São Paulo não atendeu aos pedidos de entrevista da Al Jazeera.
Em outras partes das Américas, a Argentina, vizinha do Brasil, considerou ilegal o uso de reconhecimento facial em sua capital, Buenos Aires, no ano passado. Nos EUA, vários estados revisaram sua posição para proibir o reconhecimento facial para dar suporte aos serviços públicos, embora a tecnologia permaneça sem regulamentação. Por outro lado, a adoção da tecnologia tem avançado em países do mundo todo, como China e Índia, ainda que não sem críticas.
“Fatores como transparência e responsabilidade na aplicação dessas novas tecnologias parecem ter sido esquecidos pelos tomadores de decisão em todo o mundo”, diz Pablo Nunes, cientista político e coordenador do CESeC. “Mesmo em um cenário em que a proibição não aconteça, espero que tenhamos salvaguardas e regulamentações mínimas para o uso do reconhecimento facial no Brasil.”
Fonte: www.aljazeera.com
