plataforma de inovação,
futurismo
e impacto positivo
Como cientistas estão desenvolvendo algoritmos que correlacionam traços físicos com características morais e comportamentais, trazendo de volta uma pseudociência que reforça preconceitos e estereótipos.

Com o escândalo da Cambridge Analytica + Facebook, mais pessoas começaram a se preocupar e questionar a respeito da segurança de suas informações e privacidade. Ao mesmo tempo, no entanto, cada vez mais câmeras são instaladas em espaços públicos, seja por motivos de segurança ou então para a coleta de dados faciais — o que levou, por exemplo, ao processo contra a ViaQuatro, empresa responsável pela linha amarela do metrô de São Paulo e que recentemente instalou telas de anúncio com câmeras nas portas do transporte público.

Por outro lado, o reconhecimento facial e o uso da biometria tem sido implementado em diferentes setores do mercado — desde o selfie check-in da Gol até os guichês automatizados que fazem reconhecimento facial a partir do registro do passaporte eletrônico. Ainda, estabelecimentos comerciais, como essa cafeteria japonesa, estão vendendo cafés a serem pagos com dados dos clientes. O que isso tudo prova é que dados, sejam eles gerados a partir de nossos hábitos online ou sejam eles constituintes do nosso próprio ser (biometria, código genético etc), têm se provado o verdadeiro novo petróleo: tanto por seu valor de mercado quanto por sua versatilidade em gerar riquezas e produtos.

No entanto, um dos problemas levantados pelo artigo de Jesse Emspak para o site Undark é como a combinação do reconhecimento facial oferecido por sistemas de inteligência artificial podem estar promovendo o ressurgimento de uma pseudociência conhecida como fisiognomia. Como se já não bastassem as fake news e o problema da pós-verdade, pesquisadores estão apontando para os perigos de se resgatar essa pseudociência que relaciona as características faciais de um indivíduo com possíveis aspectos morais e de caráter.

“Computadores modernos são muito melhores em escanear detalhes mínimos na fisiologia humana, como os advogados dessa pesquisa recente apontam, e por isso as interferências que eles apontam são mais confiáveis. Críticos, no entanto, defendem que isso é uma falácia. Há pouca evidência de conexão entre as características físicas de uma pessoa e qualquer coisa como previsão de comportamento, eles afirmam. E, de qualquer forma, máquinas só aprendem aquilo que nós ensinamos, e humanos — reféns de vieses e preconceitos, do mais evidente até o mais sutil desconhecimento — são péssimos professores.”

Emspak cita como exemplo a pesquisa realizada pelo professor de engenharia Xialon Wu, da McMaster University, junto a Xi Zhang da Shanghai Jiao Tong University. O estudo foi publicado como um artigo no ArXiv.org, no qual os pesquisadores apontam a possibilidade de um computador prever quem poderia ser condenado a um crime baseado simplesmente no escaneamento de fotografias. Diante das críticas recebidas, os pesquisadores retiraram o estudo do ar e Wu seguiu investigando uma outra metodologia de machine learning que poderia ser usada para inferir traços de personalidade em mulheres cujas fotografias fossem associadas a diferentes palavras como atraente, cativante, doce ou ainda imponente de acordo com um grupo de jovens rapazes chineses.

Como aponta Emspak, o resumo dessa pesquisa argumenta que o algoritmo apenas aprendia, agregava e então “regurgitava” as percepções humanas, o que significa que o programa estaria sujeito a cometer erros. Adicionalmente, os autores também dizem que suas evidências empíricas apontam para “a possibilidade de treinar algoritmos de machine learning usando exemplos de imagens faciais para prever os traços de personalidade e propensão de comportamento.”

Algo parecido também foi levantado no começo deste mês, quando Michal Kosinski e Yilun Wang, ambos da Standford University, lançaram uma prévia de seu estudo que sugere que seria possível detectar se uma pessoa é homossexual ou não a partir de fotos usadas em sites de namoro. Apesar de o estudo ter sido aprovado pela respeitada publicação Journal of Personality and Social Psychology, por conta da pressão popular, os avaliadores resolveram conferir o trabalho mais uma vez a partir de uma revisão focada no aspecto ético da pesquisa.

Todas essas hipóteses levantadas por esses estudos, no entanto, têm um origem bastante antiga, datando da época da Mesopotâmia. Porém, foi em meados do século 19 que o criminologista italiano Cesare Lombroso recuperou essa pseudociência para detectar crimes. Lombroso acreditava ser capaz de detectar criminosos a partir de anomalias na estrutura facial, isto é, ter uma assimetria no rosto ou então uma curvatura oblíqua na testa poderia indicar que essas pessoas teriam algum tipo de deficiência de caráter. Apesar de suas ideias terem sido abandonadas depois da Segunda Guerra Mundial, alguns cientistas continuaram tentando estabelecer uma conexão entre a aparência do corpo e a mente.

“Muitos desses estudos lidam com a percepção humana — se reagimos diferente por conta do que vemos, mesmo que essa percepção seja incerta. Outros procuram por diferenças morfológicas entre humanos, buscando indicadores de traços como agressão, introversão ou homossexualidade. Vários estudos, por exemplo, indicaram a razão da altura e da largura do rosto — uma métrica que pode ser mitigada ao variar níveis de testosterona — podem dar pistas sobre a tendência de uma pessoa à agressividade.
Mas com o crescimento de bases de dados e o avanço no poder de processamento dos computadores, alguns cientistas e psicólogos passaram a acreditar que ‘redes neurais’ — sistemas conectados em rede e que são usados no machine learning — podem analisar traços fisiológicos e psicológicos de forma menos enviesada do que antes. E se antes os cientistas só podiam estudar alguns poucos fatores ao usarem fotos de estudantes, por exemplo, e medir os traços de algumas poucas dúzias de pessoas, a internet abriu infinitas possibilidades de amostras. Softwares de reconhecimento facial podem tirar medidas de milhares, até mesmo milhões de pessoas usando fotos tiradas da internet, possibilitando-os de acessar mais dados e, com sorte, de melhor qualidade.”

Apesar de, à primeira vista, poder parecer algo incrível e até mesmo positivo para algumas pessoas, algumas das críticas feitas a essa empreitada é de que isso é apenas ciência ruim escondida sob argumentos matemáticos. Emspak argumenta que, em vez de pessoas fazendo essas medições sem fundamento, a única diferença é que agora seriam algoritmos, o que não elimina os problemas éticos, de privacidade e potenciais vieses que podem ser intencionais ou não. De qualquer maneira, esses vieses acabam gerando falsos positivos, isto é, conclusões falaciosas como as que levam a crer que, por exemplo, negros têm maior propensão a cometer crimes devido à proporção de presença da etnia na população carcerária.

O que Emspak apresenta, em seguida, é que, realmente há alguns cientistas que defendem que há conexão entre algumas características físicas e o funcionamento mental de uma pessoa — especialmente se levar em consideração a ação do hormônio da testosterona e como ela atua na formação do rosto de uma pessoa, por exemplo. À frente do laboratório de pesquisa facial na Universidade de Glasgow, Lisa DeBruine se descreve como uma psicóloga evolucionária, mas ela não esconde que há vários problemas na sua área de estudo. No caso das conclusões feitas com relação à proporção altura e largura de um rosto, DeBruine diz que os estudos são todos confusos e bagunçados, especialmente por conta das inconsistências em como humanos e máquinas mensuram dados como distância do queixo até a sobrancelha ou entre as maçãs do rosto.

“DeBruine foi uma das várias críticas do estudo de Kosinski, que buscava treinar um computador para identificar quem era gay e quem era hétero baseado apenas no escaneamento dos rostos de pessoas em sites de namoro, no qual usuários indicam claramente quais são suas orientações sexuais e preferências. Kosinki argumentou que, a partir de duas novas fotos, uma de um heterossexual e outra de um gay, o computador foi capaz de adivinhar com uma grande proporção de aceito qual era gay. Ele também testou o algoritmo em fotos do Facebook que o computador nunca tinha acessado, e pareceu acertar novamente — pelo menos no caso dos gays. O algoritmo pareceu menos eficaz ao identificar heterossexuais. (…)
Em seu artigo, Kosinski disse que o computador estava zerando em certos aspectos físicos da face que são consistentes com a teoria de hormônios pré-natal, o que sugere que as pessoas são homossexuais porque elas foram expostas a diferentes níveis de androgênios no útero. ‘As faces de homens gays e lésbicas tinham aspectos de gênero atípico’, escreveu o cientista, ‘e previsto pela teoria de hormônios pré-natal.’ Kosinski argumenta que essa teoria é ‘amplamente aceita’ como um modelo de origem da homossexualidade.”

No entanto, como continua Emspak, críticos também apontaram para vários outors problemas na formulação de Kosinski, incluindo diferentes conclusões estereotipadas e uma incapacidade de aceitar que a teoria de hormônios pré-natal não é assim tão absoluta quando parece. Em outras palavras, é possível que os computadores estejam captando certos aspectos incertos que, no entanto, foram apontados como sendo capazes de definir um “grau de homossexualidade”.

Para Greggor Mattson, professor de sociologia do Oberlin College, a ideia de que a exposição de testosterona no útero faz com que as pessoas “se tornem” homossexuais depende muito do apoio no estereótipo de que homens gays são necessariamente afeminados e que lésbicas são mulheres masculinizadas — algo reforçado pelo trabalho de Kosinski. Para Mattson, o problema não está na programação e na lógica computacional da pesquisa, mas sim a maneira como esses dados estão sendo interpretados.

“De qualquer forma, mesmo que realmente haja diferenças fisiológicas entre as faces de criminosos e de não criminosos nas fotografias analisadas pelo computador, isso simplesmente revela mais sobre estereótipos dentro do sistema criminal chinês do que as pessoas nas fotos. Críticos também notaram a falta de transparência na origem dessas fotos apontadas como sendo de criminosos condenados. (Wu diz que, no estudo, algumas das fotos são do departamento de polícia da China, com quem ele assinou um termo de não-divulgação).
Os estudos seguintes de Wu sobre as reações aos rostos de mulheres atraentes tem um problema similar, sugere Bjork-James. Pode ser um bom estudo de estereótipos de homens chineses, ele diz, ou mesmo sobre o efeito que mulheres estão tentando provocar nos homens chineses, mas nada no que diz respeito ao comportamento ou personalidade dessas mulheres.”

Para além da China, também em Israel uma startup chamada Faception está trazendo a fisiognomia de forma a identificar pedófilos e terroristas ao usar a tecnologia de reconhecimento facial combinada à varredura por certos traços físicos. Também a Affectiva, uma empresa baseada em Boston, oferece um sistema de reconhecimento facial que afirma ser capaz de detectar as emoções diante de anúncios, assim dando suporte aos profissionais de publicidade e marketing.

Para Jonathan Frankle, doutorando no MIT e ex-funcionário do Centro de Privacidade e Tecnologia da Georgetown University, frequentemente não se sabe como esses algoritmos realmente funcionam. “Diferente de códigos comuns, uma rede neural envolve nodos que estão interconectados, com processos que acontecem em paralelo. Uma rede neural não está simplesmente executando uma série de instruções em sequência; em vez disso, os nodos estão conversando uns com os outros, dando feedback para cada um. Realmente não há uma forma de rastrear como eles tomam suas decisões — ninguém consegue olhar para uma única linha de código ou uma subrrotina. É efetivamente uma caixa preta”, escreve Emspak.

Em outras palavras, fica muito difícil dizer como esses algoritmos estão chegando à conclusão de que o rosto de uma pessoa indica que ela é homossexual ou não, como previsto pelo estudo de Kosinski. Segundo Emspak, quando o pesquisador tentou criar uma face genérica e que representasse o rosto típico de um homem gay, ele usava óculos. Para além do fato de não existir uma correlação entre homossexualidade e problemas de visão, Kosinski justificou que o uso de óculos era um elemento que tinha mais a ver com uma escolha de estilo entre homens gays. Ou seja, o argumento do pesquisador, por si só, já derruba a hipótese de que os traços faciais são determinantes para indicar a orientação sexual de uma pessoa.

“Não saber o que uma inteligência artificial está fazendo é particularmente preocupante quando uma startup anuncia que ela pode detectar ameaças, como a Faception diz. Citando a necessidade de manter o funcionamento em segredo, o CEO da empresa, Shai Gilboa, não diz exatamente como o algoritmo foi desenhado, ou que tipo de dados eles estão usando para treiná-lo. O que ele enfatiza é que os sistemas da Faception são baseados em pesquisas sólidas e que elas não possuem viéses. ‘É muito importante do ponto de vista ético’, ele diz, ‘Nós provamos repetidamente que não há medições de cor ou raça’.
Affectiva, por outro lado, não diz que pode detectar nada sobre traços inatos de personalidade a partir da estrutura facial, apenas estados emocionais de uma pessoa. Além do mais, a CEO Rana el Kaliouby comenta que sua empresa fez questão de treinar suas inteligências artificiais com pessoas de muitos países usando essas populações em pontos de comparação (então, por exemplo, uma versão do software funcionando na China ou no Brasil seria treinada usando imagens de pessoas desse país).”

Por fim, tão difícil quanto o aspecto técnico dessa tecnologia também fica o âmbito ético em torno de tal desenvolvimento. Do mesmo modo que Kosinski usou fotos para seus estudos sem possuir autorização, o pesquisador também não trabalhou em parceria com nenhuma organização que representasse os direitos LGBTQ+. Emspak comenta sobre como a GLAAD, por exemplo, que é uma das mais proeminentes organizações de direitos LGBTQ nos Estados Unidos, publicou um comunicado junto à Campanha de Direitos Humanos repudiando os métodos do estudo de Kasinski.

No caso da pesquisa de Wu, as fotos de criminosos condenados foram providenciadas pelo departamento de polícia chinesa, apesar de não especificarem quais. Desse modo, ambos os estudos acabam levantando a questão da privacidade de dados conforme essas empresas e governos parecem estar vazando tais informações sem serem autorizados e, pior ainda, para a confecção de algoritmos discriminatórios.

“Mas é realmente uma série tênue de conclusões culturalmente construídas que estão construindo a base algorítmica de reconhecimento facial que são a parte mais preocupante, de acordo com os críticos. ‘A psicologia social tem um sério problema de homem cis, hetero e fluente em inglês (como muitas outras áreas), o que definitivamente leva a esses tipos de estudos’, disse DeBruine em um e-mail. ‘Não consigo imaginar que o estudo [de Kosinski] teria ido tão longe quanto foi se houvesse mais diversidade entre as pessoas com influência em certos pontos dessa jornada (colegas pesquisadores, comitês de ética, editores, revisores etc).’
Por outro lado, Frankle fica feliz que esses estudos estejam acontecendo de forma pública. ‘Eu prefiro que isso seja feito em aberto por pesquisadores acadêmicos do que por empresas privadas que venderão para alguma agência de polícia”, ele diz.”

Felizmente, a maioria dos especialistas entrevistados por Imskap afirmaram que esses problemas não são impossíveis de serem solucionados: bastaria ter mais diversidade no campo das ciências da computação, bem como um maior diálogo entre essa área e outras disciplinas. Para o professor de comunicação da Universidade Buffalo em Nova York, Mark Frank, também é necessário um pouco mais de humildade e ceticismo. “O entendimentos dos cientistas da computação sobre questões comportamentais é fofo, essa é a palavra que eu usarei”, disse em entrevista. Isto porque, como nota Frank, há muito mais complexidade no comportamento humano do que aquilo que está sendo medido por esses pesquisadores. Para o professor de comunicação, quaisquer conexões entre aspectos físicos e comportamentais são muito mais sutis do que esses estudos parecem apontar.

Para o biólogo evolucionista Carl Bergstrom, da Universidade de Washington, esse tipo de pesquisa ainda levará muito tempo para se aperfeiçoar. “Eu realmente acho que há essa noção muito antiga no pensamento humano de que nossa aparência externa reflete nossa mente e nossa moral”, ele afirma. Para Bergstrom, portanto, não é surpreendente ver esse tipo de conclusão retornar de tempos em tempos na tentativa de se reafirmar e de achar algum fundamento a partir da lógica vigente de cada época — no nosso caso, é na ciência e na tecnologia que esse raciocínio busca uma nova afirmação.

compartilhe

leia também

voltar

UP Future
Sight

Assine a news da nossa plataforma de inovação, futurismo e impacto positivo

Obrigado! Uma confirmação foi enviada para seu e-mail!
Algo deu errado ao realizar o seu cadastro. Tente novamente.