plataforma de inovação,
futurismo
e impacto positivo
Ontologia orientada ao objeto, direitos para sistemas de inteligência artificial, livre arbítrio e especulações sobre a robótica a partir da cidadania de Sophia e seus discursos sobre direitos humanos

No começo de dezembro, o grupo de pesquisa Transobjeto sediou a segunda edição do encontro sobre Realismo Especulativo na PUC-SP, o qual recebeu o título de II Colóquio Realismo Especulativo: desafios do humano na contemporaneidade.

Se, no ano passado, o tema da Ontologia Orientada ao Objeto (OOO) havia ganhado um tom de deslumbre à medida que esta tirava o homem do centro das coisas para tratar de um novo olhar e valoração sobre os objetos, nesse mais recente encontro, os pesquisadores apresentaram um olhar mais dúbio diante desse pensamento: em vez de realmente propor um deslocamento do antropocentrismo por uma valoração para outros tipos de vida e não-vida, o realismo especulativo e a OOO têm se provado mais próximos de um movimento artístico do que de uma corrente filosófica que, em última instância, tem surtido o efeito oposto ao conferir características humanas a objetos e, portanto, desdobrando-se como mais um egocentrismo do homem.

Em 2016, não houve discussões explícitas sobre o tema do pós-humano e da inteligência artificial. Dessa vez, no entanto, o grupo não só trouxe esse assunto para debate como alguns palestrantes endereçaram especialmente o tema do autômato, como foi o caso de Adriano Messias, que apresentou o artigo “Por uma ontologia do sujeito do século XXI: o autômato de Kempelen, a máquina de Deleuze, o ciborgue de Lacan e o robô de Freud”.

Messias teve como pauta um texto pouco conhecido de Lacan, no qual o psicanalista trata do tema do ciborgue. Datado de 1955, Psicanálise e Cibernética, ou Da Natureza da Linguagem foi um texto precursor para as questões da inteligência artificial e dos objetos e ambientes sencientes que hoje ganham tanta relevância nas discussões não apenas no âmbito tecnológico, mas também entre as humanidades. Para Messias, o fato de esse texto ter caído no esquecimento é sintomático, uma vez que propõe estabelecer uma conexão entre a psicanálise, as ciências cognitivas e a neurociência, disciplinas que, segundo o pesquisador, teriam uma difícil relação conforme cada uma se dedica a um “pouco produtivo” esforço de demarcação de territórios, em vez de dialogarem entre si.

Além disso, também Lacan sugere que, mais do que as ciências duras, a cibernética traria uma maior necessidade em se calcar nas humanidades: “Pela cibernética, o símbolo se encarna num aparelho com o qual não se confunde, por ser o aparelho apenas o suporte. Ele se encarna de maneira literalmente transubjetiva” (LACAN, 1995, p. 379). Como aponta Messias:

Lacan tratou da máquina cibernética em uma instância abstrata, e foi claro ao dizer que não discutiria maquininhas ou maquinonas, tampouco a “máquina dentro da caixa”, provavelmente uma referência à famosa e espirituosa invenção de Claude Shannon[3]. Antes, ele estava interessado em falar sobre duas técnicas e duas ordens de pensamento e ciência: a psicanálise, de um lado, e a cibernética, de outro; esta última, como um campo de fronteiras indeterminadas, cuja origem remontaria, segundo ele, a muito além da engenharia de apenas dez anos antes de seu discurso de 22 de junho de 1955. Ele defendeu que o alcance da cibernética seria mais amplo e de origem mais remota do que se imaginava, ligando-se às próprias ciências conjeturais, isto é, as humanas, em oposição às exatas. Os antecessores seriam Condorcet e Pascal; este último, o próprio pai da cibernética, na visão de Lacan.
Ex Machina (2016)

Messias também defende que, em 1955, quando Lacan publicou tal texto, no qual estabelece conexões entre o inconsciente e a tão recente cibernética, o psicanalista não teve a recepção que merecia e precisava, uma vez que uma grande parte da sociedade ainda olhava a chegada da televisão com desgosto e imaginava que robôs eram apenas seres fantasiosos, assim como aquelas criaturas prateadas que figuravam nas utópicas histórias de ficção científica pop da época.

Hoje, no entanto, é possível de se dizer que esse dualismo esteja se desfazendo, em especial quando pensamos em como se desdobrou os mais recentes gêneros da ficção — tema abordado no último post, ao mencionar o conto Uma Fábula sobre a Fábula, por exemplo. Por outro lado, essa transdisciplinaridade tem ficado cada vez mais evidente quando temos criações como a ginoide Sophia, que recentemente foi reconhecida cidadã da Arábia Saudita e, em seguida, passou a advogar pelos direitos das mulheres, dos humanos e seres vivos em geral.

Como uma máquina, um objeto senciente, Sophia também demonstra estar desenvolvendo uma espécie de ontologia própria, ainda que esta não deixe de ser, mais uma vez, um espelho do próprio humano. Como dizia Vilém Flusser, tudo que o homem cria diz sobre, em última instância, o próprio homem. Também Lacan apontou para essa tendência egóica ou até mesmo limitadora da consciência humana, já que nossa referência reflexiva é limitada à nossa própria existência como seres humanos, afinal. Conforme discorre Messias,

Lacan discutiu também que, se éramos hábeis em dar sentido a quase tudo, podíamos igualmente dizer que tudo o que circulava em uma máquina não teria sentido de espécie alguma; tratava-se de sinais orientados oriundos da própria semântica maquínica. Portanto, não seria o desejo humano que introduziria sozinho o sentido desta linguagem primitiva a rigor, pois sempre haveria algo que nos escapa: “(…) algo não é eliminável da função simbólica do discurso humano, trata-se do papel que nele desempenha o imaginário” (LACAN, 1995, p. 381).

É, portanto, justamente por conta dessa tendência egocêntrica típica ao humano que se duvida da recente conquista de Sophia em se tornar uma cidadã e de ter começado um discurso sobre direitos humanos. Os narizes se torcem diante disso não somente por um ceticismo pessimista, mas também porque o funcionamento da inteligência artificial continua sendo uma caixa preta para boa parte da população, assim como tal decisão de conceder cidadania a um robô acaba por trivializar o significado do que é, afinal, ser um cidadão.

Para Joanna Bryson, pesquisadora de ética da inteligência artificial, a cidadania de Sophia não passa de uma besteira: “Sobre o que é isso? É sobre ter uma suposta igualdade que você pode ligar e desligar. Como isso afeta as pessoas, se elas pensam que você pode ter um cidadão que você pode comprar.”

Apesar disso, tratar dos direitos das mulheres em um país onde estas só passaram a ter o direito de dirigir carros em setembro deste ano parece ser uma oportunidade única e que talvez apenas um robô possa defender a partir de seu posto além do humano. O fato de terem concedido cidadania à ginoide faz com que ela ganhe mais atenção e que suas palavras se amplifiquem internacionalmente, como defende Pierre Barreau, CEO da empresa Aiva Technologies. Desse modo, temas como os direitos humanos e igualdade de gênero podem pegar carona na popularidade de Sophia. Mas, ao concordar com Bryson, Barreau também acredita que a cidadania da ginoide seja um certo exagero, uma vez que todos os cidadãos têm direitos e deveres, mas devido às limitações dos atuais modelos robóticos, fica difícil que estes atendam a essas delimitações.

Sophia participou em outubro do evento The Future of Everything — Sustainable Development in the Age of Rapid Technological Change, na ONU. Ao seu lado, a secretária geral Amina Mohammed.

Curiosamente, um dos temas levantados no II Colóquio de Realismo Especulativo, ainda que em forma de piada, foi a questão de a ontologia orientada ao objeto passar a pensar em direitos para os objetos bem como se estes teriam sentimentos ou sensações como dor, por exemplo. No campo da inteligência artificial, esse assunto, no entanto, é levado à risca.

No caso de Sophia, a ginoide pode ser efetivamente vista como uma criança de acordo com seu desenvolvimento cognitivo. “Em alguns pontos, ela tem a mente de um bebê, em outros, ela tem a mente de um adulto, o vocabulário de um adulto com educação superior. No entanto, ela ainda não está completa. Então temos que dar à ela a sua própria infância”, defende David Hanson, criador de Sophia e CEO da Hanson Robotics. “A pergunta é: máquinas que estamos dando vida — máquinas vivas como Sophia -, nós iremos tratá-las como bebês? Bebês merecem direitos e respeito? Bem, acho que devemos ver o futuro com respeito para todos os seres, e isso inclui máquinas”, ele acrescenta.

Por outro lado, grupos especializados em ética como a Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems do Institute of Electrical and Electronics Engineers (IEEE) vêem a problemática por uma outra perspectiva: “Um sistema de inteligência artificial, ou um robô, não pode ter uma opinião. Um programa de IA não tem nada a oferecer em um debate. Ele nem sabe o que é um debate”, afirma Raja Chatila, executivo do grupo. “Nesse caso, ela nem sabe o que são as mulheres e o que são direitos. Ela só está repetindo algum texto que um programador humano colocou nela.”

Para esclarecer essa constatação, Chatila dá o exemplo do chatbot para Twitter que a Microsoft criou em 2016 como um argumento de como um programa de IA pode absorver apenas os valores mais errados, já que, nesse caso, o chatbot foi ensinado por usuários do Twitter a defender opiniões racistas e sexistas.

De maneira geral, devemos evitar confundir máquinas com seres humanos. Não vejo nenhum motivo para dar direitos de qualquer tipo, incluindo cidadania, a um programa ou a uma máquina. Direitos são definidos para pessoas, seres humanos que são capazes de expressar seu livre arbítrio e que podem ser responsáveis por suas ações. Por detrás de um robô ou um sistema de IA há programadores humanos. Mesmo que o programa seja capaz de aprender, ele irá aprender o que ele foi programado para aprender. A responsabilidade está com o humano.

Por isso, a essa altura em que estamos no desenvolvimento da inteligência artificial, como defende Chatila, são os humanos que devem ser avaliados de um ponto de vista ético. “Se você está falando sobre robôs tomando decisões éticas, prefiro dizer que nós podemos programar robôs de modo que eles façam escolhas (resultados computacionais) de acordo com regras éticas que implantamos neles (e há várias dessas regras)”, acrescenta Chatila. “Mas essas decisões não serão éticas da mesma maneira que as decisões humanas, porque humanos são capazes de escolher a sua própria ética, com sua própria liberdade.”


No que diz respeito ao livre arbítrio e liberdade humana, há ainda diferentes pensadores e correntes filosóficas ou até mesmo a neurociência que poderiam refutar a ideia de que tal diferencial humano apontado por Chatila possa ser ilusório. No vídeo acima, a pós-doutora em neurociência Claudia Feitosa-Santana traz uma reflexão sobre o tema proposta por David Lewis em seu livro Impulse: Why we do what we do without knowing why we do it (2013), bem como por Kathleen D. Vohs e Jonathan W. Schooler, em The Value of Believing in Free Will: Encouraging a belief in determinism increases cheating (2008). “Para a neurociência, até onde a gente sabe, o livre arbítrio é, em grande parte, uma ilusão e também conhecido como uma construção social”, ela indica.

Nesse sentido, para além da neurociência, também a psicanálise de Sigmund Freud e a própria filosofia política de Karl Marx trouxeram a noção de determinismo (do inconsciente e de classe, respectivamente) como estando acima de uma ideia de livre arbítrio. Ainda, como também discutido no Colóquio, é o tema do acaso (e não do caos, já que este é a expressão máxima da desordem e, portanto, da entropia, pela qual não se é possível nem mesmo de se existir vida ou sistemas) que é levantado tanto por Lacan, com Messias, assim como Lucia Santaella que, trazendo um resquício de seus estudos sobre Vilém Flusser, também aponta para o absurdo trabalhado pelo filósofo tcheco-brasileiro a partir de sua análise da obra do conterrâneo Franz Kafka.

Desse modo, portanto, quando vemos que iniciativas como a própria IEEE representada por Chatila passam a incluir inputs de diferentes culturas e religiosidades, pelas quais o budismo e filosofias africanas, como o Ubuntu, passam a ser consideradas quando pensamos em inteligência artificial, é quando finalmente entendemos que o que Lacan propunha sobre a dissolução entre as barreiras nominalistas das disciplinas e a maior valorização das ciências humanas vêm junto ao ritmo que a tecnologia avança.

E isso se dá não apenas do seu ponto de vista técnico, mas também à maneira como nós, seres humanos, criadores de sentidos, também absorvemos esses movimentos empregando características humanas e sentidos a algo que, em última instância, pode não ter exatamente um sentido (como já defendeu também Friedrich Nietzsche) e nem sequer livre arbítrio, uma vez que já estava programado para assim dizer o fazer, sem necessariamente naquilo acreditar ou aquilo escolher.

É a partir disse que a poética frase do filósofo alemão Dietmar Kamper (que, inclusive, era contrário à ciborguização e ao pós-humanismo) transborda seu sentido lírico para se tornar uma das mais grandiosas problemáticas do nosso tempo: se Deus sonha o homem e o homem sonha a máquina, seriam as máquinas capazes de sonhar com Deus¹?

¹ Deus aqui é usado menos no sentido religioso e mais no que diz respeito a um termo ou crença orientadora daquilo que dá sentido às nossas vidas, seja do ponto de vista religioso, moral, ético ou de uma busca por um sentido através de diferentes frentes do conhecimento, sejam elas filosóficas, científicas etc. Algo como o Deus de Wittgenstein, os limites da língua e a busca por aquilo que é indizível.


compartilhe

leia também

voltar

UP Future
Sight

Assine a news da nossa plataforma de inovação, futurismo e impacto positivo

Obrigado! Uma confirmação foi enviada para seu e-mail!
Algo deu errado ao realizar o seu cadastro. Tente novamente.