Depois do lançamento da terceira temporada de Black Mirror, foi em especial o episódio Nosedive que chamou a atenção por abordar uma tecnologia tão presente em nossas vidas como são as redes sociais. No caso, o episódio trazia a possibilidade de tornarmos a nossa vida, como um todo, uma narrativa gamificada e capaz de ser pontuada no mesmo estilo que algumas empresas adotaram para dar sustento à gig economy — serviços de carona por aplicativo, por exemplo, quantificam a confiança e qualidade dos motoristas a partir de uma pontuação dada pelos passageiros. A ideia em Nosedive é que todas as pessoas, como cidadãos, receberiam uma nota, uma espécie de avaliação social que interfere no dia a dia das pessoas desde suas obrigações até direitos básicos como o de ir e vir.

Foi por conta desse destaque em uma obra de ficção científica popular que o caso do social score na China chamou a atenção no Ocidente pelo fato de trazer à realidade uma distopia que conhecemos através da especulação. Com a intenção de ser completamente implementado até 2020, o sistema já está fazendo seus testes ao avaliar o comportamento dos cidadãos chineses nas redes sociais permitidas no país.

O WeChat, por exemplo, é a maior rede social da China e é através dele que as pessoas também podem fazer transações financeiras, comprar produtos e serviços e realizar demais procedimentos. Através dele, portanto, é possível de se rastrear o comportamento dos usuários e cidadãos, assim considerando uma nota pela sua conduta. Notas altas significam algumas recompensas, como acesso às melhores escolas para as crianças ou então facilidades e descontos em um financiamento. Notas baixas, porém, significam restrições de acesso a serviços e dificultamento em processos como compra de algum imóvel ou mesmo para viajar de avião.

Junto da monitoração feita nas redes sociais, também os chineses estão adotando a tecnologia do reconhecimento facial para realizar cruzamento com sua base de dados. Já houve um caso em que um indivíduo foi preso ao ser reconhecido por uma câmera durante um show e, agora, também os policiais na rua estão começando a testar dispositivos vestíveis que possibilitem esse monitoramento de forma menos discreta.

A questão é que muitas vezes temos acesso a essas notícias e nos desconectamos delas por pensarmos que se trata de uma questão reservada ao contexto asiático e, em específico, o chinês. Mas, na verdade, no Reino Unido já há o uso desse tipo de ferramenta para fins de segurança pública e, agora, a empresa Staff of Technology Solutions está também com uma filial no Brasil e firmou uma parceria com o Disque Denúncia já no fim do ano passado. A ideia é implementar um sistema que possibilite o reconhecimento de cerca de 1.100 dos criminosos mais procurados no Rio de Janeiro através do software Facewatch adaptado a câmeras. Segundo o coordenador do Disque Denúncia, Zeca Borges, o papel da instituição que ele representa é fornecer a imagem dos procurados para que as câmeras possam fazer o reconhecimento facial. “Se um desses procurados entrar em algum lugar que esteja monitorado, ele poderá ser identificado”, explica.

No momento, já existem câmeras de reconhecimento facial em três shoppings da capital fluminense, além de alguns edifícios comerciais. Assim que os dispositivos reconhecem o indivíduo, um alarme é disparado e as forças de segurança podem seguir com o procedimento. Mas apesar de ter tido sucesso recente, ao reconhecer e deter sem resistência um dos procurados pela polícia do Rio de Janeiro, o cônsul-geral britânico no Rio, Simon Wood, afirma que é necessário haver leis que protejam os dados capturados pelas câmeras, assim garantindo o direito de cada cidadão à individualidade. E mesmo já tendo anos de experiência com câmeras de vigilância em Londres, Wood revela que o Reino Unido continua reforçando a importância da liberdade. “Existe um sistema de leis fortes para garantir o anonimato das pessoas que não têm relação com crimes. Temos que equilibrar a tecnologia com a lei para não causar prejuízos aos dados pessoais”, ele explica.

Essa questão da privacidade é especialmente importante e tem sido considerada mesmo no contexto brasileiro. Depois de implementar um sistema de câmeras com reconhecimento facial na linha amarela do metrô de São Paulo, a empresa ViaQuatro, concessionária que opera a linha, foi processada pelo Instituto de Defesa do Consumidor (Idec) por conta da coleta de dados que esses dispositivos realizam. O problema identificado neste caso é que essas câmeras não eram usadas para a segurança dos cidadãos, mas sim para a coleta de informações dos passageiros com relação a alguma publicidade e, assim, vender esses dados para empresas interessadas. Segundo o Idec, a prática é ilegal e não oferece opção aos passageiros de recusarem essa coleta. “É uma pesquisa de opinião forçada que viola a Constituição e várias leis federais e uma prática que vai na contramão da nova Lei Geral de Proteção de Dados Pessoais”, explica o pesquisador do Idec Rafael Zanatta.

Como solução, o Idec sugere que a concessionária desenvolva uma ferramenta que possibilite que os passageiros saibam da coleta de dados e, desse modo, possam escolher ter as informações armazenadas ou não. Ou seja, uma preocupação que antes era reservada apenas ao ambiente virtual das redes sociais e que tange aos recentes escândalos do Facebook, passam a também fazer parte do mundo físico e põem em xeque a possibilidade de se usar uma tecnologia para uma finalidade de mercantilização dos cidadãos em vez de uma via de apoio, por exemplo, através da segurança pública.

No entanto, até que ponto permitir que sejamos vigiados garante que estamos seguros e que a perda da nossa privacidade é válida em frente aos efeitos? Por enquanto, ações de segurança pública como a intervenção militar no Rio de Janeiro demonstram não apenas um grande gasto público como também resultados de piora nos níveis de violência. São cenários como esse que levantam o questionamento sobre quais tecnologias podem ajudar a tornar os processos mais eficientes e baratos, mas que podem ter como efeito colateral a exploração para outros fins indevidos e a quebra da privacidade individual.

‍