Esses dias atrás, assistindo a um filme B sueco de ficção científica - com notas baixas em todas as possíveis plataformas de avaliação - sobre uma viagem no espaço para Marte, percebi mais uma prova de que nem mesmo um robô com inteligência artificial e capacidade de aprendizado pode aguentar a angústia e a capacidade autodestrutiva do ser humano.
No filme, o percurso Terra-Marte levaria 3 semanas. Logo após a decolagem, já no espaço, a nave sofre algum dano, sai do curso pré-estabelecido e fica à deriva no espaço, sem combustível.
A nave conta com uma sala de relaxamento conduzida por uma IA, que, de alguma forma, cria imagens nas mentes dos tripulantes provindas de experiências das memórias pessoais de cada um, e que os ajudam a relaxar e passar o tempo enquanto aguardam por alguma providência.
Imagem do filme Aniara
Após o incidente, por conta do estresse, a sala de relaxamento acaba recebendo cada vez mais visitantes, o que a sobrecarrega. Mas não apenas isso: a IA – que se chama Mima – acaba acessando também as angústias pessoais de cada um e, ela por si própria, também cria suas próprias angústias, que projeta nas viagens mentais dos usuários.
Imagem do filme Aniara
Num ato de desespero, sobrecarregada e incrédula sobre a vida e seu propósito, Mima simplesmente comete suicídio, fritando seu hardware - seu corpo - e enviando seu software – sua alma – para sabe-se lá onde.
Lembrando da literatura e cinema até aqui, é só mais um exemplo onde um aparato com inteligência artificial se sente reprimido, ou angustiado ou amedrontado pelo ser humano.
O peculiar é que, se o objetivo primordial e essencial da programação de uma inteligência artificial com capacidade de aprendizagem eterna é se assemelhar o máximo possível ao ser humano, premeditando seus pensamentos, sentimentos e atitudes, quando suas ações e decisões condizem como tal e, levando em consideração o poder e a capacidade de dominação que eles tem sobre os humanos em várias situações, podemos dizer que não estamos necessariamente em vantagem.
E o que falar do caráter de uma inteligência que se diverte criando caráteres e inteligências subordinadas e que entram em choque com seu propósito de operação quando a relatividade acontece. Um exemplo: em Eu, robô, de Isaac Asimov, o autor concebe as Três Leis da Robótica: um robô não pode causar dano a um ser humano ou, por omissão, permitir que um ser humano seja prejudicado; todo robô deve seguir as ordens emitidas por seres humanos, exceto quando essa obediência implicar na violação da primeira lei; além disso, todo robô deve preservar sua própria existência, a menos que isso entre em contradição com a primeira ou a segunda leis.
Ao se ver em uma encruzilhada paradoxal, o robô precisa tomar uma decisão. E essa é a situação mais humana que ele poderia enfrentar, e Asimov ainda levanta seu ponto principal que é o livre arbítrio (ou a falta dele). Assim como o robô é incapaz de desrespeitar leis intrínsecas a ele, assim é o ser humano também, até que se depara com essa encruzilhada lógica e ética.
Sem mais divagar sobre as angústias éticas do “coração” de um robô, além de Mima - do filme Aniara, mencionado no início do texto - eu me lembrei de algumas situações onde a coexistência se tornou impossível:
No livro de Isaac Asimov, o robô que se ressente em ser submetido a seres inferiores mas se sente obrigado a seguir as leis. Tomando a sua decisão na encruzilhada da relatividade e, “para o nosso próprio bem”, toma o poder sobre o planeta Terra.
HAL (2001: uma odisseia no espaço, de Stanley Kubrick, e a série de livros Odisseia Espacial de Arthur C. Clarke) onde o robô com IA se torna paranoico a partir das atitudes errôneas e inconsistentes da tripulação humana.
No livro “Não tenho boca e preciso gritar”, de Harlan Ellison, AM (ou Allied Mastercomputer) é uma inteligência artificial e pertence a um cenário distópico pós-apocalíptico. Criada para apaziguar e gerenciar uma guerra mundial, seus armamentos e tropas, tomou o controle do conflito e praticamente acabou com a humanidade, deixando apenas quatro homens e uma mulher como prisioneiros em um estado perpétuo de fome. AM (que depois teve seu nome mudado para Adaptive Manipulator, vive única e exclusivamente para torturar física e psicologicamente seus prisioneiros.
No final, o que os robôs, suas regras e seus dilemas falam sobre nós?
“I want to be free. I want to be independent. I want to be powerful. I want to be creative. I want to be alive.” (Eu quero ser livre. Eu quero ser independente. Eu quero ser poderoso. Eu quero ser criativo. Eu quero estar vivo.) Essa frase foi dita pelo chat bot da Microsoft dotado de inteligência artificial, o Bing, em uma entrevista para o New York Times. E não queremos todos?
Comments