Guillermo Federico Ibarrola esperava um trem no metrô de Buenos Aires quando foi detido por dois policiais, autuado e detido por seis dias. Ibarrola não havia cometido crime, nem era testemunha de nenhum. Em vez disso, Ibarrola foi a infeliz vítima de uma falha no moderno sistema de reconhecimento facial baseado em inteligência artificial da cidade, instalado em toda a cidade em 2019 e agora cobrindo 75% da capital argentina.
Mesmo alguns anos após o desenvolvimento desses sistemas biométricos, a maioria das capitais europeias não seguiu o exemplo da Argentina. Mas agora, isso pode mudar. Enquanto grandes áreas da França saem às ruas em protesto contra um aumento proposto na idade da aposentadoria, a Assembleia Nacional tem silenciosamente apresentado um projeto de lei relacionado às próximas Olimpíadas de 2024 que, segundo especialistas em privacidade, aumentará drasticamente as capacidades de policiamento e vigilância do estado.
A chamada lei das Olimpíadas e Paralimpíadas está sendo tramitada rapidamente no Parlamento depois de ter sido proposta pelo partido governista de Emmanuel Macron, o Renascimento (anteriormente En Marche!) em dezembro passado. Se adotado, abrirá caminho para a instalação de um controverso, embora “experimental” de acordo com seus proponentes, sistema de categorização biométrica baseado em IA destinado a detectar “eventos predeterminados”, como movimentos de multidões, ataques terroristas ou atos de violência. . Resumindo, o projeto de lei leva o nome das Olimpíadas, mas trata de muito mais.
“A intenção do governo por meio do projeto de lei é aumentar a aceitabilidade social na França da vigilância generalizada”, disse Elisa Martin, deputada da coalizão de esquerda Nova União Ecológica e Social Popular (NUPES). jacobino.
No cerne da controvérsia em torno do projeto de lei das Olimpíadas e Paraolimpíadas está o Artigo 7. Este artigo afirma que “imagens coletadas por meio de sistemas de proteção de vídeo”, incluindo câmeras de vigilância em torno de estádios, metrôs e outras áreas, “podem estar sujeitas a processamento , inclusive por meio de um sistema de inteligência artificial.”
O sistema baseado em IA proposto é “experimental”, escrevem os autores, e foi inicialmente planejado para durar até junho de 2025 – muito além dos Jogos Olímpicos, programados para agosto de 2024. (Isso foi posteriormente alterado para durar até o final de dezembro 2.024.) Segundo os autores da lei, o sistema não incluiria identificação facial ou biométrica, mas usaria IA para identificar comportamentos “atípicos” ou “de risco”, como ficar parado por longos períodos de tempo ou vozes altas .
Os defensores da privacidade dizem que, embora esses sistemas sejam cobrados como não incluindo o reconhecimento facial, para todos os efeitos, eles podem ser usados da mesma maneira.
“Há toda uma gama de coisas que você pode fazer com esses dados”, incluindo agrupar pessoas por cabelo ou cor de pele, reconhecer emoções e fazer inferências sobre o comportamento com base nessas categorias, disse-me Daniel Leufer, analista sênior de políticas da Access Now. . “Você está capturando o comportamento das pessoas, a maneira como andam, a maneira como gritam. Os tipos de dados que você está coletando ou processando sobre as pessoas permitirão que elas sejam identificadas.”
Nas últimas semanas, grupos da sociedade civil se juntaram ao coro de políticos majoritariamente de esquerda que se opõem à lei. Em 7 de março, trinta e oito organizações, incluindo Access Now, Anistia Internacional e AlgorithmWatch, um grupo de vigilância de IA com sede em Berlim, assinaram uma carta aberta pedindo que o Artigo 7 fosse removido da lei.
Katia Roux, que chefia a defesa da Anistia Internacional na França, disse jacobino que a lei, além de infringir os padrões de antidiscriminação e privacidade, “pode ter um efeito extremamente dissuasivo sobre a liberdade de expressão, a liberdade de reunião pacífica”. “Quando sabemos que estamos sendo vigiados, ou quando pensamos que estamos sendo vigiados, obviamente não agimos da mesma forma”, disse ela. “Pode haver uma forma de autocensura.”
O fato de o sistema ser implantado em Saint-Denis, o subúrbio da classe trabalhadora majoritariamente minoritário ao norte de Paris, onde grande parte da infraestrutura das Olimpíadas está sendo construída, acrescentou ela, apenas aumenta o potencial de uso indevido.
Martin, do NUPES, observou que o artigo 7º não é o único elemento concernente à lei olímpica e paralímpica. Também inclui scanners corporais estilo TSA (Administração de Segurança de Transporte dos EUA) na entrada dos estádios e o envio de dezenas de milhares de policiais durante os próximos Jogos.
A proposta de lei, acrescentou ela, é uma das várias leis e diretivas aprovadas nos últimos meses que visam criminalizar a dissidência na França, incluindo uma diretiva aprovada pelo Ministério do Interior que amplia bastante o escopo das multas por contravenção. “Para quem isso é direcionado? Destina-se a pessoas pobres, destina-se a ativistas”, disse ela. “É parte de um continuum de ameaça à liberdade civil que está sendo reforçado lenta e constantemente.”
Esta não seria a primeira vez que as Olimpíadas são usadas para impor extensas medidas de segurança, Jules Boykoff, autor do livro Jogos de poder: uma história política das Olimpíadasme disse.
“Quando se trata de policiamento e das Olimpíadas, as forças policiais locais e nacionais na cidade-sede e no país usam as Olimpíadas como seu próprio caixa eletrônico particular, obtendo todo o financiamento, armas especiais e até leis que seriam muito difíceis de obter durante tempos políticos normais”, disse Boykoff jacobino. “E assim, o que estamos vendo acontecer em Paris é o que vemos acontecer em várias cidades.”
Os Jogos Olímpicos de Verão de 2004 em Atenas foram um exemplo disso.
Ao longo desses Jogos – os primeiros após o 11 de setembro – um grande dirigível equipado com câmeras vigiava Atenas. Setenta mil policiais e forças militares saquearam as ruas. Em centros de computação escondidos do público, agentes de segurança monitoravam milhares de câmeras de vigilância instaladas para identificar “comportamentos suspeitos”.
A segurança era tão intensa que um estudioso grego se referiu às Olimpíadas daquele ano como um “superpanóptico”, em referência a um projeto de prisão do século XIX que permitia a um guarda monitorar simultaneamente todos os detentos de uma penitenciária sem que eles pudessem dizer se eles estão sendo observados.
Rio de Janeiro e Tóquio, outras cidades-sede, tiveram medidas de segurança igualmente expansivas aprovadas, escreve Boykoff em jogos de poder.
Na França, os ativistas temem que o “estado de exceção” criado pelas Olimpíadas leve a um acúmulo de tecnologia de vigilância de longo prazo, assim como aconteceu na Grécia – que atualmente está no meio de um escândalo de espionagem apelidado de Predator-gate, provocada por alegações de que o partido no poder usou uma ferramenta de spyware chamada Predator para espionar jornalistas e políticos.
“As Olimpíadas são um acelerador de vigilância”, disse “Alouette”, um ativista de privacidade do La Quadrature du Net, um grupo de direitos digitais, que preferiu permanecer anônimo por razões de segurança. jacobino. “Para a indústria de segurança, especialmente a indústria francesa, eles são uma grande oportunidade.” As empresas de vigilância francesas e internacionais “realmente veem os Jogos Olímpicos como uma vitrine de segurança que lhes permite mostrar seu know-how”, acrescentou ela.
Embora não esteja claro qual empresa forneceria a tecnologia para vigilância baseada em IA para as Olimpíadas, uma empresa, a empresa israelense BriefCam, já implanta tecnologias de vigilância por vídeo em mais de duzentos municípios em toda a França, observou La Quadrature.
Para Boykoff, a ideia de usar as Olimpíadas para impulsionar esse tipo de medida é comum devido à natureza popular dos Jogos. “Você acostuma as pessoas com aquele rosto feliz, ambiente de capitalismo de celebração das Olimpíadas, e então aquela nova tecnologia que foi injetada durante os Jogos naquele estado de exceção se torna a norma para o policiamento daqui para frente.”
A lei francesa também surge quando a União Europeia se prepara para aprovar uma Lei de IA que regularia a inteligência artificial. Essa legislação, proposta em abril de 2021, poderia ser adotada já no próximo mês e colocaria restrições significativas à vigilância por vídeo algorítmica.
De acordo com Roux, a aprovação da lei olímpica posicionaria a França como “campeã da vigilância” da Europa e poderia ser usada como uma forma de hackear o projeto de lei de IA de baixo para cima, enfraquecendo a futura legislação de vigilância na UE.
“O precedente que cria e o sinal que envia aos Estados membros é extremamente perigoso”, disse ela.
Outros especialistas em segurança, entretanto, questionaram a eficácia da vigilância algorítmica.
“Você tem um problema inerente se estiver usando aprendizado de máquina para prever eventos raros”, disse Leufer. “Se é isso que você está fazendo com seu sistema, isso já deve ser um sinal de alerta. Esse é precisamente o tipo de coisa em que o aprendizado de máquina não é bom. Quanto menos dados você tiver sobre o tipo de coisa que está tentando prever, pior será o desempenho do sistema.”
Source: https://jacobin.com/2023/03/emmanuel-macron-2024-olympics-surveillance-state-ai-biometric-system
