Pouco depois que os episódios da terceira temporada de Black Mirror foram lançados em outubro de 2016, fomos surpreendidos pela notícia de que uma tecnologia muito similar àquela proposta no episódio Nosedive estava sendo implementada na China — isto é, os chamados créditos sociais e de como cada pessoa, de acordo com sua pontuação social teria benefícios e revés no acesso a serviços que vão desde transporte até financiamento.

Ainda em fase embrionária naquela época, mais recentemente já temos exemplos de conteúdos apresentando depoimentos de cidadãos chineses que tiveram dificuldades em comprar uma passagem aérea por conta dessa pontuação implementada no sistema nacional, do mesmo modo que, no ano passado, um relatório da Wireddivulgou que cidadãos com créditos Zhima baixos teriam que pagar mais para alugar uma bicicleta, um quarto de hotel ou mesmo por um guarda-chuva. Apesar de se tratar de uma iniciativa privada e relacionada ao Alibaba, uma das maiores empresas na China, e de estes indicarem não ter nenhuma relação com o governo, tal empreitada não deixa de seguir os planos já vislumbrados pelo governo chinês em 2014.

Diante disso, a última edição da revista The Economist trouxe o questionamento: será que essa tendência asiática também tem ecoado no ocidente? Com cada vez mais facilidade de se ter acesso a informações pessoais, como já sabemos pelo caso do Facebook, por que o Estado também não teria essa mesma capacidade de adquirir informações da população?

Na China, câmeras de segurança com reconhecimento facial já conseguiram ajudar na prisão de um homem que foi identificado em meio a 50 mil em um show. Também lá um jornalista que usou o Twitter para publicar comentários negativos sobre o governo teve seus créditos sociais rebaixados. Mesmo depois de ser ordenado a publicar um pedido de desculpas, o governo o julgou desonesto e, por isso, não lhe é mais permitido comprar propriedades, por exemplo. Agora imagine se, aqui no Brasil, você passar a ter dificuldade para alugar um apartamento ou conseguir um financiamento porque compartilhou um meme do Temer no Facebook ou no Whatsapp?

‍

“Sob governos autoritários como o da China, o monitoramento digital tem tornado um policiamento acirrado em um policiamento aterrorizante e onisciente. Especialmente na região oeste de Xinjiang, o governo chinês tem aplicado inteligência artificial (IA) e monitoramento massivo para criar um panóptico do século 21 e implementar total controle sobre milhões de Uighurs, uma minoria muçulmana local. Em democracias ocidentais, a polícia e agências de inteligência estão usando as mesmas ferramentas de vigilância para solucionar, deter crimes e prevenir terrorismo. Esses resultados são efetivos, mas profundamente preocupantes.” The Economist

‍

Entre liberdade e opressão, porém, existe também um sistema que busca pelo consentimento dos cidadãos, apesar de esses dados serem muito facilmente coletados e amplamente produzidos. Na reportagem, a redação do The Economist relembra que, à época do colapso da Alemanha Oriental, em 1989, os alemães se surpreenderam ao descobriram que o serviço de segurança Stasi possuía um grande número de informantes trabalhando para eles. Hoje, com um sistema de vigilância que também passou pela revolução digital, são os nossos próprios celulares, navegadores e sensores que compartilham essas informações para o governo, as quais o Estado pode coletar, interpretar ou mesmo hackear — por exemplo, para ter uma campanha eleitoral bem sucedida nas redes sociais.

Enquanto Trump teria adquirido dados mais profundos sobre o comportamento dos usuários do Facebook para a customização de sua campanha eleitoral, aqui no Brasil já temos o caso dos perfis fakes e robôs de redes sociais que esquentavam os debates há quatro anos, nas últimas eleições. Para a The Economist, as mesmas tecnologias que um dia possibilitaram hackear o Estado agora podem se voltar contra nós mesmos conforme elas também passaram a estar acessíveis para o governo (e corporações) como outrora era algo reservado a pequenos grupos de subcultura.

‍

“Xinjiang é um pesadelo extremista que as novas tecnologias tornam possível: um policiamento racista. Ao temer a insurreição e o separatismo, os governantes chineses reforçaram técnicas de controle totalitarista — inclusive a detenção massiva de Uighurs para reeducação — com as tecnologias digitais. Em parte das ruas da província há postes com câmeras de segurança a cada 100–200 metros. Elas gravam o rosto de cada motorista e o número da placa. Os celulares dos Uighurs precisam rodar um spyware criado pelo governo. Os dados associados aos seus documentos de identidade não se resumem apenas ao nome, sexo e ocupação, mas também detalhes de parentes, digitais, tipo sanguíneo, informação de DNA, histórico criminal e “status de confiança”. Tudo isso e ainda mais alimenta a Plataforma Integrada de Operações (IJOP) e um sistema baseado em inteligência artificial para a geração de uma lista de suspeitos para detenção.”

‍

Apesar disso, acredita-se que esse tipo de totalitarismo seja muito difícil de ser aplicado para além da província de Xinjiang, uma vez que ali se trata apenas de uma minoria identificada e não toda a população de um país. Apesar disso, tal modelo ainda tem servido de inspiração para outros Estados — da Russia até Ruanda e Turquia. Mas mesmo nos governos ditos liberais, como nos Estados Unidos, já há exemplos de iniciativas próximas à de Xinjiang. Em algumas cidades americanas, a polícia já tem se utilizado de software de previsão de crimes que se baseiam em históricos. Ainda, como aponta a reportagem da The Economist, não é raro ouvir histórias de policiais americanos que usaram bases confidenciais para levantar dados comprometedores sobre jornalistas, ex-namoradas e outros.

Assim sendo, como encontrar o equilíbrio entre liberdade e segurança? Para a revista, precisamos começar a partir do asseguramento de que o mundo digital, assim como o mundo real, tenha espaços nos quais as pessoas possam ter privacidade.

‍

“Cidadãos de democracias liberais não esperam ser investigados sem um bom motivo ou ter suas casas vistoriadas sem um mandado. Do mesmo modo, um celular no bolso de uma pessoa deve ser tratado como um gabinete de documentos em casa. Assim como gabinetes podem ser trancados, a criptografia não deve ser reduzida. Uma segunda prioridade é limitar até que ponto as informações dos cidadãos são mantidas, limitar o número de pessoas que têm acesso a elas e punir quem as utilizar de forma inadequada. Em 2006, a União Europeia publicou um requerimento para que empresas de celulares mantivessem os metadados de seus consumidores por apenas dois anos. A lei foi derrubada pela Corte de Justiça Europeia em 2014. O mau uso de dados policiais deveria ser uma ofensa criminosa pela qual as pessoas são punidas, não um ‘erro’ absolvido em um pedido de desculpas público.”

‍

Por último, a publicação também aponta para o monitoramento do uso de inteligência artificial: como os sistemas de previsão de crimes usados pela polícia são imprecisos, já que são apenas capazes de reconhecer padrões de furtos e roubos em vez de assassinatos, é necessário estipular limites para até que ponto eles são realmente decisivos na ação policial. Também a tecnologia de reconhecimento facial ainda produz muitos “falsos positivos” do mesmo modo que a inteligência artificial tem sido programada de forma tendenciosa: capaz de reconhecer padrões nas bases de dados oferecidas, a IA acaba por trazer à tona o grande número de pessoas negras presas e, desse modo, associa a etnia a possíveis delitos de forma tendiciosa e imprecisa.

Desse modo, a The Economist conclui a reportagem dizendo que vigilância e transparência devem ser palavras e conceitos que andam lado a lado. Assim como recentemente um projeto de lei na Califórnia propôs que as agências policiais revelassem quais equipamentos de vigilância eles têm usado, quais dados estão sendo coletados e como eles estão sendo usados, também novas consultorias devem ser feitas e propostas devem ser levantadas pelos próprios cidadãos de modo a não se deixar pegar pelo susto, quando a combinação entre tecnologia e vigilância saírem do controle e tornarem o contexto nacional em um cenário orwelliano.

Alguns exemplos de projetos que se utilizam de tecnologia para vigiar as decisões e movimentações no governo:

Beta, o bot feminista
Operação Serenata de Amor
‍PegaBot

‍

‍