IA na segurança: decisão controversa nos Jogos Olímpicos de Paris

Em 23 de novembro de 2022, o jornal francês Le Parisien trouxe a seguinte manchete: “Paris 2024: não haverá reconhecimento facial nos Jogos”. 

A razão para isso é que, na verdade, a implementação de sistemas de reconhecimento facial durante os Jogos Olímpicos faz parte de um debate mais amplo entre reguladores e líderes políticos em todo o mundo: sistemas biométricos baseados em inteligência artificial (IA) devem ser utilizados para monitorizar locais públicos? 

Antes de avançarmos, é preciso dar um passo atrás e compreender alguns conceitos.

O reconhecimento facial como apoio a medidas de segurança

Como estamos falando de IA e Jogos Olímpicos, vamos dar uma olhada em como a Commission Nationale de l’Informatique et des Libertés (CNIL), autoridade francesa de proteção de dados, define essa tecnologia.

Neste artigo sobre reconhecimento facial, a CNIL define: 

“Reconhecimento facial é uma aplicação de software probabilística que pode reconhecer automaticamente uma pessoa com base em seus atributos faciais para autenticá-la ou identificá-la”. 

No reconhecimento facial, há o processamento de dados que permitem a identificação única de uma pessoa (dados biométricos) a partir das características de seu rosto. 

As duas principais funcionalidades do reconhecimento facial são: verificação (autenticação) e identificação. 

Como exemplo do uso do reconhecimento facial para verificação, podemos citar a comparação  entre uma única imagem facial capturada na alfândega aeroportuária e a fotografia biométrica armazenada num token biométrico, como  um passaporte. 

Leia também: “Os Jogos Olímpicos de Paris 2024 como aceleradores de transformação”, de Claudia Muchaluat

Já um caso de reconhecimento facial para identificação seria, por exemplo, a comparação entre uma única imagem facial e uma pluralidade de imagens faciais contidas em uma base de dados. 

Note que as técnicas de verificação e identificação via reconhecimento facial são utilizadas pelas autoridades responsáveis ​​pela aplicação da lei para identificar um suspeito. 

Contudo, outros tipos de tecnologia baseada em IA podem ser usados ​​para analisar imagens. Esses sistemas são frequentemente descritos como “dispositivos de vídeo inteligentes” ou “câmeras aumentadas”.

Visão computacional no monitoramento de instalações esportivas

Os “dispositivos de “vídeo inteligentes” ou “câmeras aumentadas” fazem parte de um dos ramos da inteligência artificial conhecida como “visão computacional”, que consiste em dotar sistemas com capacidades de análise de imagens digitais, extraindo informações como reconhecimento de padrões, análise de movimento e, detecção de objetos.

Essa visão computacional, baseada em IA, tem sido cada vez mais utilizada para uma ampla gama de funcionalidades, incluindo o monitoramento de instalações desportivas. 

Para se ter uma ideia do que estamos falando, o governo neozelandês financiou um projeto para implementar testes de vídeo inteligentes em três estádios nos Países Baixos, a fim de combater a discriminação durante os jogos de futebol. 

Dispositivos de vídeo inteligentes fazem parte de um dos ramos da IA conhecida como “visão computacional”, que consiste em dotar sistemas com capacidades de análise de imagens digitais

Com isso, busca-se identificar e eliminar as causas do comportamento discriminatório, bem como determinar o humor de outros torcedores quando estiverem prestes a cometer tal discriminação.

No entanto, a visão computacional, assim como a maioria dos sistemas baseados em IA, é cada vez mais utilizada em instalações esportivas, apresentando-se como solução milagrosa para garantir a segurança em eventos públicos. Fato é que há poucas informações disponíveis sobre a eficácia dessas tecnologias.

Levando isso em conta, vejamos a seguir como o governo francês lidou com a escolha das tecnologias baseadas em IA no apoio à segurança das Olimpíadas de Paris.

O uso de reconhecimento facial nos Jogos Olímpicos 

As técnicas de reconhecimento facial permitem basicamente o processamento automatizado de imagens faciais para identificar ou autenticar uma pessoa, razão pela qual têm sido utilizadas em grandes eventos públicos em todo o mundo, como nos Jogos Olímpicos de Tóquio – para fins de autenticação – e na Copa do Mundo de Futebol realizada no Catar. 

Aqui, vale destacar que a Copa do Mundo FIFA 2022 no Catar foi realizada em oito estádios com milhões de torcedores, com 15 mil câmeras CCTV conectadas a sistemas de reconhecimento facial. 

Depois desses eventos, a ideia do reconhecimento facial como uma ferramenta de segurança poderosa ganhou força, até mesmo entre as autoridades francesas, que inicialmente se mostraram interessadas na sua utilização durante os Jogos Olímpicos de Paris de 2024.

Todavia, apesar de considerar dispositivos de vídeo inteligentes uma solução adequada, o governo francês desconsiderou o reconhecimento facial como medida de segurança na capital francesa. O que levou a essa decisão?

Sistemas de reconhecimento facial abrangem uma vasta gama de sistemas utilizados para diferentes fins. Logo, para compreender os motivos das autoridades francesas, é importante saber quais sistemas estavam sendo considerados como apoio às medidas de segurança dos Jogos Olímpicos. 

O debate sobre os sistemas de reconhecimento facial na França

Legisladores franceses chegaram a considerar a adoção de um quadro jurídico para possibilitar a implantação de dois sistemas diferentes de reconhecimento facial para dois fins diferentes, incluindo a segurança de grandes eventos públicos . 

Apesar da escassez de informação sobre como os sistemas de reconhecimento facial seriam utilizados nas Olimpíadas, um relatório do Senado francês (“Rapport d’information sur la reconnaissance faciale et ses risques au regard de la protection des libertés individuelles”), publicado em 2022, aponta que sistemas de identificação biométrica foram considerados. 

Nesse relatório, após pontuarem que em razão dos riscos elevados para os direitos humanos das pessoas, “deveria haver uma proibição clara da vigilância biométrica em eventos públicos e locais de culto”, os senadores franceses concluíram que sua utilização poderia ser autorizada excepcionalmente para determinados eventos importantes.

O relatório ainda define que “a decisão de não implantar sistemas de identificação não deve nos impedir de avançar na autenticação de determinado pessoal para acesso às instalações olímpicas, por exemplo”.

Em razão dos riscos elevados para os direitos humanos, a recomendação na França foi a de uma proibição clara da vigilância biométrica em eventos públicos e locais de culto

Assim, considerando o teor do relatório, os sistemas de reconhecimento facial considerados pelo Senado envolviam sistemas de autenticação – isto é, sistemas que permitem verificar se a pessoa é quem diz ser, e que não envolvem identificação. 

Por que as autoridades francesas chegaram a considerar a implantação de “técnicas de autenticação”? As razões para tanto não estão muito claras. Mas o provável motivo é que a implementação desses sistemas exige o “consentimento” das pessoas, além de serem programas para capturar categorias delimitadas de indivíduos. 

Todavia, apesar do flerte inicial com o possível uso de reconhecimento facial na modalidade de autenticação, tanto os sistemas de autorização como de identificação foram abandonados como forma de apoiar as medidas de segurança para os Jogos Olímpicos em Paris. 

Por que a França desistiu dos sistemas? 

As autoridades chegaram à conclusão de que os impactos das tecnologias baseadas em inteligência artificial ainda não estão muito claros para a sociedade em médio e longo prazo, e que sua adoção prematura nos leva a duas questões cruciais. A primeira delas é: o que significa o fato de a IA governar cada vez mais nossas liberdades? 

Os potenciais riscos da adoção prematura da IA 

A rejeição das autoridades francesas ao uso do reconhecimento facial nos Jogos Olímpicos foi ainda mais forte quanto aos sistemas de identificação.

Isso porque, quanto à sensibilidade dos sistemas de identificação, não são poucos os que defendem que tais sistemas deveriam ser proibidos devido aos riscos que representam para os direitos fundamentais. Como assim?

A maioria das pessoas desconhece o fato de que a inteligência artificial não é neutra.

Como bem apontado pela pesquisadora do MIT Media Lab Joy Buolamwini, em uma investigação sobre o preconceito generalizado nos algoritmos, muitas tecnologias de reconhecimento facial não detectam com precisão rostos de pele mais escura ou não classificam os rostos das mulheres. 

O órgão europeu de vigilância da privacidade afirmou que “a identificação biométrica remota de indivíduos em espaços acessíveis ao público representa um elevado risco de intrusão na vida privada”

Por isso, muitos estão numa cruzada para alertar para práticas invasivas (que a sociedade ainda não percebeu que estão sendo implementadas) e chamar os reguladores à ação no sentido de garantir que nossos direitos civis sejam protegidos.

Não à toa, a questão dos riscos trazidos pela inteligência artificial foi discutida intensamente na Europa que, ao regulamentar a IA, levou em conta sua capacidade de causar danos à sociedade, seguindo uma abordagem “baseada em riscos”: quanto maior o risco, mais rígidas serão as regras.

Ainda quanto aos riscos trazidos pelo reconhecimento facial, o órgão europeu de vigilância da privacidade afirmou que “a identificação biométrica remota de indivíduos em espaços acessíveis ao público representa um elevado risco de intrusão na vida privada dos indivíduos e não tem lugar numa sociedade democrática, uma vez que, pela sua natureza, implica vigilância em massa”.

De todo modo, além da questão dos direitos humanos, a decisão sobre se o reconhecimento facial deve ser implementado para monitorar grandes eventos como os Jogos Olímpicos deve se basear em uma avaliação da eficiência dessa tecnologia. 

Nessa linha, a única experiência francesa do uso de reconhecimento facial em locais públicos para fins de identificação, realizada antes das Olimpiadas de Paris, foi no carnaval de Nice, e se limitou em termos de tempo e área coberta. 

Nesse contexto, após considerar as questões jurídicas em torno da tecnologia de reconhecimento facial implantada em locais públicos, bem como questões éticas sobre uma tecnologia que não é aceita por toda a população e que pode ser utilizada indevidamente, o governo francês decidiu rejeitar a utilização de reconhecimento facial durante os Jogos Olímpicos de 2024. 

No entanto, após abandonar o projeto de implantação do reconhecimento facial nas Olimpíadas, o governo decidiu permitir a implementação de outros dispositivos de vídeo baseados em IA para monitorar eventos esportivos durante os Jogos de Paris 2024. 

Câmeras inteligentes são uma tecnologia menos invasiva?

A segunda questão sobre a adoção prematura da IA tem a ver com as câmeras inteligentes. A principal diferença entre essas câmeras e as de reconhecimento facial é que, embora o objetivo do reconhecimento facial seja identificar ou autenticar um indivíduo, as câmeras inteligentes podem ter diversos objetivos que vão desde a análise até a categorização de objetos ou indivíduos.

O CNIL define câmeras inteligentes como dispositivos de vídeo equipados com processamento algorítmico para permitir a análise automática de imagens “em tempo real e continuamente” para extrair vários tipos de informação, deixando fora do seu âmbito a tecnologia que processa dados biométricos, como a tecnologia de reconhecimento facial. 

Logo, a principal diferença entre câmeras inteligentes e tecnologia de reconhecimento facial é que as câmeras inteligentes não processam dados biométricos nem se destinam a identificar indivíduos. 

Ora, embora as câmeras inteligentes não processem dados biométricos, isso não significa que não representem riscos para as liberdades e os direitos humanos de um indivíduo, uma vez que poderiam processar outros tipos de dados pessoais. 

Leia também: “Inteligência artificial: aliada ou vilã da diversidade?”, de Daniele Botaro

Na verdade, câmeras podem ser até mais intrusivas que os sistemas de videovigilância “tradicionais”, dado que as pessoas já não são simplesmente filmadas, mas analisadas de forma automatizada, em tempo real, com a coleta de certas informações sobre elas.

Some-se a isso o fato de que o software habilitado para IA pode ser facilmente implantado com sistemas de vigilância por vídeo existentes, integrado em locais de naturezas diversas, com uma cobertura geográfica, requisitos de densidade e infraestruturas muito variadas (móveis, fixas, embarcadas, drones, portáteis, etc.) para prosseguir diversos objetivos.

De fato, os riscos que os sistemas de câmeras inteligentes representam para a sociedade dependem do objetivo e da forma como devem ser usados. 

Considerações finais

Como vimos, após rejeitar o uso de reconhecimento facial, o governo francês adotou um quadro jurídico para autorizar a implantação de dispositivos de vídeo inteligentes para apoiar as medidas de segurança nos Jogos Olímpicos de Paris.

Mas, para os críticos, a legislação aprovada foi deliberadamente vaga, uma vez que menciona expressamente que as condições para a implementação de tais sistemas e processamento de dados relacionados serão previstas em novo decreto.

Além disso, devido a muito pouca informação disponível sobre experiências anteriores com câmeras de vídeo inteligentes e seus resultados, não há evidências claras sobre se tais sistemas são de fato eficientes.

Apesar de muitos defenderem tecnologias de imagens baseadas em inteligência artificial – não só nos Jogos Olímpicos, mas em locais públicos em geral –, é importante considerar sua implementação mais como uma escolha social que acarreta um certo grau de risco, bem como impactos no médio e longo prazo com efeitos irreversíveis para a sociedade como um todo.

Afinal, não existem meios para garantir que essas tecnologias e os dados por ela coletados não serão usados contra determinadas categorias de cidadãos no futuro.