O reconhecimento facial abre caminho para o pesadelo de George Orwell

Mais informações

Os cartões de embarque serão história: bastará o reconhecimento facial

Se está na cozinha, é uma mulher: como os algoritmos reforçam preconceitos

Um desconhecido pode nos achar no Facebook usando uma foto nossa?

Alguém pode tirar sua foto na rua e conseguir saber quem você é para contatá-lo. Acontece na Rússia. Alguém pode atravessar a faixa de pedestres quando não for permitido e ver que as autoridades lhe multam e pegam sua foto atravessando indevidamente nas paradas de ônibus após identificá-lo com a imagem captada por uma câmera de segurança. Acontece na China. Uma pessoa pode receber a visita inoportuna da polícia porque o algoritmo falhou e a identificou erroneamente. Aconteceu nos Estados Unidos, em cinco ocasiões, com cinco pessoas, em 2015, como admitiu a polícia de Nova York. Tudo isso pode ter acontecido em outros momentos da história, mas nunca foi tão fácil como agora. A tecnologia do reconhecimento facial tem inúmeras comodidades, sim, de promessas de uma maior segurança, certo. Mas, paralelamente, a expansão de toda uma indústria de segurança que gira em torno dela transforma o pesadelo orwelliano de uma sociedade de pessoas controladas em algo mais do que uma possibilidade futura.

Derivada da inteligência artificial, ela deu seus primeiros passos em meados dos anos sessenta. Aquelas primeiras tentativas de usar um computador para reconhecer um rosto humano resultaram em uma tecnologia que alcançou um nível de plenitude assombroso. Prova disso é o iPhone X, que realiza algo que anos atrás pertencia ao domínio da ficção científica: desbloquear um celular com a imagem de nosso rosto. “Quando você encontra uma tecnologia como essa em um aparelho de consumo como o celular”, afirma Enrique Dans, professor de Inovação no IE Business School, “quer dizer que já se pode fazer de tudo com ela”.

Na China, país que fixou como meta se transformar no líder em pesquisa e aplicativos de inteligência artificial em 2030, as pessoas já podem escanear o rosto com o aplicativo para celular Xiaohua Qianbao e pedir um empréstimo ao banco virtual operado pela Xiaohua; ir a um Kentucky Fried Chicken da cidade de Hangzhou e pagar com um sorriso – o Smile to Pay (“sorria para pagar”) é o mais recente sistema desenvolvido pela empresa de pagamentos online Alipay −, e controlar a frequência às aulas de alunos da Universidade de Comunicações de Nanquim.

Ali, a tecnologia avança com os passos firmes da Face++, startup chinesa que derrotou no fim de outubro equipes do Facebook, Google e Microsoft em provas de reconhecimento de imagem na Conferência Internacional de Visão por Computador realizada na Itália. Naquele mesmo mês, a companhia levantou 460 milhões de dólares (1,5 bilhão de reais) em uma rodada de financiamento.

Mas a expansão do fenômeno não se limita a esse território. Lojas de Toronto utilizam a tecnologia para detectar ladrões. O Facebook a usa faz tempo para etiquetar quem aparece nas fotos. De fato, em 2015 já anunciou que podia identificar uma pessoa com 83% de sucesso sem ver sua cara: o tipo de corpo, o penteado e a postura são elementos suficientes. Agora, o novo desafio dos pesquisadores é conseguir identificar pessoas que usem óculos escuros, véu, máscara, balaclava (espécie de gorro com finalidades esportivas): na Universidade da Basileia, Suíça, o professor Bernhard Egger trabalha em um sistema que cria um padrão do rosto em 3D a partir das zonas descobertas da face.

Assim, o mercado do reconhecimento facial já movimenta mais de 3,3 bilhões de dólares (10,6 bilhões de reais) no mundo e poderia chegar a 7,7 bilhões de dólares (24,8 bilhões de reais) em 2022, segundo a consultora MarketsandMarkets. Bancos, companhias aéreas, telefônicas, fabricantes de computadores, todos se abrem a esta nova forma de identificação biométrica que significa um salto à frente em comparação com a impressão digital e a íris.

Mas o rosto não é a mesma coisa que a impressão digital. Quando vamos renovar nosso documento de identidade, concordamos em ceder esse dado biométrico às autoridades. Mas nosso rosto pode ser captado por qualquer um sem nosso consentimento. Por meio de qualquer câmera na rua, em qualquer lugar.

Esta tecnologia tem duas modalidades básicas, como explica por telefone de Michigan o grande especialista Anil K. Jain, professor de engenharia informática e diretor do grupo de pesquisas biométricas da Universidade de Michigan. Uma é a de autenticação ou detecção de rosto (face detection), na qual o sistema compara duas imagens: a que temos armazenada no telefone − no caso do iPhone − e um modelo em 3D criado a partir do rosto que se apresenta diante da tela. E a outra é a de busca de rosto (face search), na qual se cruza uma imagem com as que estão armazenadas em um banco de dados para ver se coincidem − para identificar desconhecidos. “Nesta segunda é muito mais fácil cometer erros”, explica Jain. “São necessários computadores potentes e grandes bancos de dados com milhões de rostos.”

Essa segunda modalidade foi a que desencadeou um debate inflamado sobre a privacidade e as liberdades. Sua combinação com a crescente autoexposição nas redes sociais está acabando com a era do anonimato. O melhor exemplo é dado pelo aplicativo FindFace, que no ano passado causou muita polêmica na Rússia: uma pessoa pega o celular e tira uma foto do passageiro à sua frente no metrô; o algoritmo do aplicativo compara a imagem com as existentes na rede social Vkontakte (que conta com mais de 400 milhões de perfis) e, com uma eficácia de 70%, permite saber quem é essa pessoa. Uma ferramenta perigosa em tempos marcados pelo assédio.

Tecnologia permite identificar em tempo recorde terroristas que acabam de cometer um atentado

E tem mais. Em 2014, os professores Alessandro Acquisti, Ralph Gross e Fred Stutzman demonstraram com o estudo Reconhecimento Facial e Privacidade na Era da Realidade Aumentada o quanto é fácil identificar um desconhecido na era das redes sociais. Com uma webcam e um bom programa de reconhecimento facial, puderam identificar um de cada três alunos que circulavam pela Universidade Carnegie Mellon. Tiveram apenas de cruzar a imagem obtida com as oferecidas pelo mecanismo de busca do Google ou pelos perfis do Facebook. Em alguns casos, o algoritmo permitia até mesmo acessar o número do Seguro Social da pessoa fotografada.

Dito isso, nem tudo é perigoso. O aperfeiçoamento dos algoritmos e das técnicas de análise de dados e a ampliação exponencial dos bancos de imagens de rostos têm proporcionado às forças de segurança um instrumento formidável para identificar em tempo recorde criminosos e terroristas que acabam de cometer um atentado. O professor Anil K. Jain, de fato, publicou em 2013 um trabalho científico no qual demonstrou que era possível identificar um dos dois irmãos que detonaram duas bombas na maratona de Boston em abril de 2013 usando, simplesmente, as imagens divulgadas pelos canais de televisão. “A precisão da detecção de rostos chega às vezes a 90% com as imagens analisadas nas delegacias”, diz. Ou seja, na modalidade de face detection. No entanto, quando se trabalha com imagens de uma câmara de vídeo de segurança da rua (face search), a coisa muda. “Aí tudo dependerá da qualidade da imagem que se obtenha.”

Para que o aparato de segurança que está sendo configurando neste início do século XXI funcione a plena capacidade, são necessários algoritmos cada vez mais precisos, sim. Mas a chave é manter os bancos de dados bem abastecidos. De rostos. E a China já dispõe de um banco de dados com um bilhão de fotos de seus cidadãos, o maior do mundo. O gigante asiático conta, além disso, com uma ampla rede de câmeras para captar imagens na rua. A Face++, segundo o Financial Times, está ajudando o Governo chinês a rastrear o 1,3 bilhão de habitantes do país através de imagens de câmeras de segurança. Escanear placas de carro, escanear rostos. O pesadelo imaginado por Orwell em seu livro 1984 vai tomando forma.

Os norte-americanos não ficam atrás. Um relatório feito no ano passado pelo Law’s Center on Privacy and Technology, o centro sobre privacidade e tecnologia da faculdade de direito da Universidade de Georgetown, estima que 117 milhões de cidadãos já estejam nos bancos de dados que a polícia pode usar. Em conversa telefônica de Nova Iorque, o diretor executivo do centro, Álvaro Bedoya, afirma que o total a esta altura já chega a 125 milhões. “Isto nunca ocorreu na história dos EUA”, protesta. “Os bancos de dados de DNA e impressões digitais eram compostos por pessoas com antecedentes penais. Está sendo criado um banco de dados biométricos de pessoas que respeitam a lei, atravessou-se o Rubicão.”

Bedoya, um destacado jurista, considera que a tecnologia só deve ser usada para crimes graves, não de forma ilimitada: “Na Rússia ela é usada para identificar manifestantes. Nos EUA, também. Caminhamos para uma sociedade de controle. Pode-se identificar qualquer um, a qualquer momento, por qualquer motivo”.

A tecnologia também é usada em ações de policiamento preventivo. O uso de inteligência artificial permite seguir alguém através das câmeras de segurança existentes em espaços públicos e analisar seus movimentos, sua linguagem corporal. Com essa enorme coleta de dados se pretende, por meio de modelos estatísticos, prever onde pode ocorrer um crime e quem pode cometê-lo.

“Na Rússia ela é usada para identificar manifestantes. Nos EUA, também”, alerta o jurista Álvaro Bedoya

O problema é onde vai parar nosso rosto. O jornal britânico The Guardian teve acesso a documentos que indicam que o procurador-geral da Austrália manteve conversas com empresas telefônicas e bancos para o uso privado de seu serviço de verificação facial em 2018. E os especialistas em proteção de dados se preocupam com o uso que as empresas possam fazer dos bancos de rostos de seus clientes. Uma investigação do jornal The Washington Post revelou em novembro que Apple estava compartilhando informações de rostos com alguns aplicativos e, como consequência da investigação jornalística, realizou uma mudança, exigindo que um aplicativo informasse seus usuários sobre isso em sua política de privacidade.

Facebook, Google e Snapchat, por sua vez, são três das empresas que já foram processadas em Illinois por capturar e armazenar imagens dos usuários sem seu consentimento. Por acaso podemos confiar em que as empresas da nova economia digital não comercializarão nossos rostos?

“O problema é que há uma total falta de transparência”, diz Kelly Gates, professora da Universidade da Califórnia em San Diego e autora do livro Our Biometric Future: Facial Recognition Technology and the Culture of Surveillance (“nosso futuro biométrico: tecnologia do reconhecimento facial e a cultura da vigilância”). “A polícia, assim como o Exército, experimenta, mas não sabemos o que estão fazendo.”

Essa pesquisadora, que agora estuda as técnicas de análise forense de vídeo, ressalta que há uma proliferação de vídeos e dados procedentes de drones, câmeras de rua e de estabelecimentos comerciais cuja análise é terceirizada para empresas privadas. “Os cientistas dizem que é uma tecnologia com a qual se cometem muitos erros. Não há uma ciência que a respalde e, mesmo assim, ela continua sendo utilizada”, assinala Gates.

Que seja feito tudo para que não aconteça na realidade o que ocorre na distopia assinada por Terry Gilliam, Brazil, filme de 1985 no qual um erro de dados leva à detenção do senhor Buttle quando o objetivo era deter o senhor Tuttle. Algo que, nas mãos de um integrante do Monty Python, é muito engraçado, mas no mundo real, não tem graça nenhuma. Gates é incisiva: “Está sendo buscada uma segurança perfeita que nunca será alcançada. Pensar que, em contextos de violência, tudo isto é a grande solução é como comprar mais aparelhos de ar condicionado para resolver os problemas representados pela mudança climática”.

No fim das contas, a questão é em quais mãos recai o uso desta tecnologia e de nossos dados. Com ela, países com problemas de direitos humanos e restrições às liberdades têm um tremendo instrumento de perseguição de dissidentes. O controle, como se não fosse suficiente aquele que pode ser exercido por meio dos dispositivos que já temos, atravessa uma nova fronteira. Alguém imagina esta tecnologia nas mãos de um Governo de extrema direita na Europa? Ou em um país governado por fundamentalistas muçulmanos?