Na última semana, o cineasta Tonje Hessen lançou seu documentário sobre inteligência artificial “iHuman” no festival IDFA em Amsterdã. Conforme descreve artigo publicado na Variety, a exibição às 10 da manhã de um domingo reuniu mais de 700 pessoas interessadas em saber mais sobre o assunto que inspirou o tema do artigo: a erosão da privacidade na era das novas mídias e os assustadores saltos sendo feitos na área de inteligência de máquina. Mas, mais do que isso, havia também um detalhe especial ao fim da exibição: uma rodada de perguntas e respostas com Edward Snowden.

Apesar de Snowden não fazer parte do documentário, seus feitos mudaram muito o rumo das coisas que estão no roteiro da obra. Como descreve a reportagem no site Variety, o iHuman “é uma jornada quase exaustiva pelos problemas que Snowden estava tentando nos alertar, começando pelas nossas liberdades civis”. Durante o debate, Snowden revelou ter gostado bastante do filme e que o assunto ainda era bastante novo pra ele.

Ao escrever sua autobiografia (Permanent Record), isso não ficou mais fácil. “Na verdade, é um grande desafio. Eu tentei evitar escrever esse livro por um bom tempo, mas quando eu vi o que estava acontecendo no mundo e a direção dos desenvolvimentos [tecnológicos] desde que eu me posicionei [em 2013], eu comecei a ser assombrado por isso — tanto que eu comecei a considerar: qual é o custo do silêncio? E isso é algo que eu entendo muito bem, dada a minha experiência. Quando você vê o aumento do autoritarismo, mesmo no Ocidente, em sociedades abertas, você vê quão perto ela está do desenvolvimento da tecnologia que cria estados estáveis em vez de estados livres. Acho que isso deveria nos preocupar e isso me incentivou bastante a fazer meu trabalho”, revelou Snowden durante sua participação na exibição.

Snowden também mencionou as mudanças na natureza da vigilância. Antes de 2013, ele diz, havia especialistas, os insiders, agentes da inteligência, acadêmicos e pesquisadores que entendiam muito bem sobre a possibilidade de um sistema de vigilância em massa. “Eles entendiam como nossas tecnologias e nossas técnicas poderiam ser aplicadas para mudar o mundo da inteligência usando um método tradicional — que era você nomear um alvo e então monitorá-lo especificamente. Você envia oficiais para sua casa, eles plantam câmeras ou dispositivos de escuta. Você tem oficiais na rua que os seguem em reuniões, carros ou a pé. E isso criou um constrangimento natural sobre como a vigilância é geralmente feita. O desenvolvimento tecnológico mostrou que, agora, você pode ter oficiais individuais que podem facilmente monitorar times de pessoas e mesmo populações (movimentos completos, além das fronteiras, da linguagem, das culturas) de forma tão barata que isso acontece de um dia para a noite”, explicou o convidado.

Nesse sentido, Snowden afirmou desdém quanto a empresas como Google, Amazon, Facebook ou mesmo Cambridge Analytica, que rastreiam nossas “pegadas digitais” e usam algoritmos para chamar nossa atenção. “O que está acontecendo é que estamos sendo feitos prisioneiros de fantasmas. Estamos sendo presos por modelos de comportamentos passados que determinaram nossas máquinas. Estamos sendo usados contra nosso futuro. Nossas ações passadas e atividades estão sendo usadas para limitar o potencial do comportamento humano, porque as decisões estão sendo formadas baseadas em observações passadas e nesses modelos de vidas passadas”, argumentou o especialista.

Para ele, esse tipo de informação não pode ser usada com finalidades negativas. “Não pode ser usada para decidir quem consegue um emprego, quem pode estudar, quem consegue um empréstimo, quem consegue tratamento médico. Mas se nós não mudarmos a direção para qual estamos nos encaminhando hoje, permitindo que o Facebook, Google e Amazon continuem seguindo esses modelos e aplicando-os a todos os aspectos das tomadas de decisões humanas (e eles estão muito, muito agressivamente tentando fazer isso hoje). Nós iremos descobrir que nos tornamos prisioneiros de um passado que não existe mais.”

‍