Cidade-berço do MIT bane reconhecimento facial; decisão tem peso simbólico

Cambridge se tornou na segunda-feira (13) a mais nova cidade dos Estados Unidos a banir tecnologias de reconhecimento facial pelo poder público do município. Berço de uma das mais importantes instituições de tecnologia do mundo — o Massachusetts Institute of Technology (MIT) — e da Universidade de Harvard, Cambridge tem peso simbólico na questão, assim como São Francisco, outro hub de tecnologia que não permite esse tipo de vigilância municipal.

"É muito curioso que essas cidades tenham promovido essas discussões. O lugar-comum diria que lá essas tecnologias seriam celebradas a todo custo", afirma ao TAB Mariana Valente, diretora do InternetLab. "Isso mostra que as pessoas nessas cidades, onde as discussões estão mais avançadas, estão atentas para os riscos. Isso nos deixa com a orelha ainda mais em pé."

Relacionadas

Reconhecimento facial chega às pistas de show. Artistas protestam

Você troca privacidade por desconto e conveniência. Quem lucra é a nova economia de vigilância

Scanner facial abre alas e ninguém mais se perde no Carnaval (e fora dele)

Falta de comprovação de efetividade e falhas na tecnologia, além da vigilância, são alguns dos principais receios ligados ao reconhecimento facial. Quem trabalha com o tema está mais ligado nesses perigos, observa Mariana, mas a população em geral ainda está pouco atenta e cai no pensamento do "não tenho nada a esconder". "Mas as pessoas começam a repensar quando você vai um pouco mais a fundo e pergunta: 'você deseja mesmo que todos os seus passos no espaço público sejam monitorados, os locais onde você vai, os protestos de que participa? E se não fosse esse governo, mas outro?", questiona a pesquisadora.

Enquanto ações individuais contra a coleta de dados em geral — até mesmo o CPF na farmácia — ainda são pequenas, há organizações tomando a linha de frente nos debates. A União Americana pelas Liberdades Civis (ACLU, na sigla em inglês) é uma das instituições que lidera a luta contra o uso público do reconhecimento facial nos Estados Unidos. Eles apoiaram a mudança em Cambridge e endossam um projeto de lei em nível estadual em Massachusetts que pede uma moratória no uso desse tipo de tecnologia. Outras três cidades do estado (Northampton, Brookline, e Somerville), além de Oakland e São Francisco, na Califórnia, já aprovaram leis como a de Cambridge.

Como queríamos demonstrar

No fim de 2019, a ACLU fez um experimento com os legisladores na Califórnia. A organização subiu retratos dos 120 congressistas no sistema Rekognition da Amazon, e pediu para o programa compará-los a 25 mil fotos de fichas criminais. Adivinha? Vinte e seis políticos foram incorretamente identificados pelo sistema com "fichados".

A Amazon alertou que a ACLU não usou a forma mais precisa do algoritmo, mas no fim das contas parece que o experimento funcionou a favor da instituição. No mês seguinte, os legisladores californianos aprovaram uma moratória para proibir por três anos o reconhecimento facial com base em imagens coletadas por câmeras acopladas a uniformes de policiais. Alguns meses antes, a Microsoft havia se recusado a vender seu sistema de reconhecimento facial à polícia da Califórnia, por receio em relação a direitos humanos.

No Rio de Janeiro, a Polícia Militar acaba de anunciar que vai implementar microcâmeras nos uniformes dos agentes. As imagens serão transmitidas em tempo real para uma central que, entre outras coisas, vai escanear rostos para cruzamento com a base de dados da PM.

As novas leis nos Estados Unidos mostram o que na prática já vem se tornando um movimento social organizado. Além das iniciativas da ACLU, estudantes universitários dos EUA devem lançar em breve uma campanha nacional que pretende reunir organizações de todo o espectro político na luta contra o reconhecimento facial nos campi.

Quem não está muito feliz com as iniciativas são as empresas que desenvolvem esse tipo de tecnologia. Em setembro de 2019, 25 organizações enviaram ao Congresso norte-americano uma carta aberta pedindo que os representantes considerem alternativas ao banimento, como o investimento em pesquisas para encontrar soluções seguras para a aplicação do reconhecimento facial.

Deslumbre com a China

No início de 2019, uma comitiva de deputados federais e senadores da bancada do PSL no Congresso Nacional foram à China para conhecer o sistema de reconhecimento facial do país, considerado o mais avançado do mundo. São centenas de milhões de câmeras de monitoramento nas ruas por parte do governo, e por lá a tecnologia foi usada para vigiar e controlar Uighurs, uma minoria muçulmana perseguida pelo governo no país. A ação tem sido chamada de "racismo automatizado".

Na volta da viagem ao país asiático, o deputado Bibo Nunes (PSL-RS), que fez parte da comitiva, tomou frente do tema e apresentou um projeto de lei para regulamentar o desenvolvimento, a aplicação e o uso de tecnologias de reconhecimento facial e de outras novas formas de identificação de indivíduos e predição de comportamentos em nível federal no Brasil.

O projeto foi apensado (ou seja, agora tramita em conjunto) ao PL 12/2015, que desde outubro do ano passado aguarda parecer do relator na Comissão de Ciência e Tecnologia, Comunicação e Informática (CCTCI). Em novembro, o presidente da Câmara, Rodrigo Maia (DEM-RJ), instituiu uma comissão de juristas para elaborar um anteprojeto de lei sobre o tratamento de dados pessoais para fins de segurança pública, defesa nacional e atividades de investigação de infrações penais.

Enquanto isso, está regulamentado apenas o compartilhamento dos dados. Um decreto presidencial de outubro de 2019 estabelece regras para a troca de informações entre os três poderes e órgãos públicos e cria o chamado "cadastrão", que integra informações do cidadão, desde CPF até características biométricas, como digital, retina e modo de andar.

Quem trabalha pela defesa da proteção de dados pessoais, como é o caso de Mariana Valente do InternetLab, critica a ação de Jair Bolsonaro. "O decreto fala de forma genérica sobre a preocupação com a privacidade e dados sensíveis. A perspectiva de otimização é desejável, mas não houve debate e se estabelecem bases que o cidadão nem sabe que existem."

Para se aprofundar no assunto, a pesquisadora indica um artigo publicado por duas de suas colegas do InternetLab, que atentam para a necessidade de um maior compromisso do Estado com a segurança das informações dos cidadãos.

Alguém tá vendo

Apesar da falta de regulamentação, iniciativas desse tipo já são implementadas no Brasil pelo setor público e parceiros privados pelo menos desde 2011, aponta um levantamento do Instituto Igarapé — instituição independente dedicada à integração das agendas de segurança, justiça e desenvolvimento, atuando na conversa entre sociedade civil e poder público.

Até maio de 2019, o Igarapé localizou 48 aplicações de reconhecimento facial reportadas publicamente em 30 cidades. A maioria (21) é aplicada no transporte principalmente para evitar fraudes em gratuidades — pessoas que usam cartões de idosos para não pagar passagem, por exemplo. Outros 13 eram aplicadas na segurança pública, 5 em educação (na chamada de presença, para evitar evasão escolar), 4 no controle de fronteiras e 4 em outros setores.

O instituto continua o estudo e deve revelar novos dados em março ou abril de 2020, mas Pedro Augusto Pereira Francisco, pesquisador do Igarapé, adianta que o número continua crescendo, "seja na segurança pública, seja com outros objetivos, tanto em municípios pequenos quanto em grandes metrópoles", afirma Francisco. E a implementação não costuma ser discreta. Pelo contrário. "O próprio governo divulga essas ferramentas ao máximo, porque entende que há uma expectativa da população, principalmente quando se fala em segurança pública."

Para Mariana, é essencial que a população tenha consciência da importância da proteção de seus dados. No entanto, não podemos esperar que todos tenham o mesmo acesso à informação. É preciso que a proteção venha de cima. "É mais importante que haja políticas públicas e que elas sejam cumpridas, que isso seja desenvolvido dentro de uma estrutura regulatória. O problema não são as tecnologias, mas para que elas serão usadas. E isso não dá para ser decidido pelo cidadão", defende.