Fantasmas na máquina: IAs podem 'reviver' os mortos?

Anteriormente nesta coluna, comentei sobre casos de delírio que aparentemente foram catalisados por interações constantes com chatbots, algo que foi relacionado ao caráter “sicofântico” dessas arquiteturas de IA como o ChatGPT – termo usado para designar a característica bajuladora, excessivamente elogiosa e condescendente que encontra-se frequentemente em chatbots. Aquilo que vem sendo chamado de psicose por IA anuncia uma nova etapa da constituição subjetiva humanas em interface com a tecnologia, uma etapa onde dispositivos digitais “inteligentes” participam ativamente da constituição do aparelho psíquico, afetando diretamente sua formação, os modos de sofrimento e a maneira como constituímos e experimentamos a própria realidade. 

Dentre tantos aspectos afetados pelo desenvolvimento acelerado das novas tecnologias digitais (especificamente as inteligências artificiais baseadas em LLMs), uma das experiências de sofrimento mais radicais da humanidade obviamente não poderia ficar de fora. Uma das maiores, senão a maior questão existencial da humanidade – o enfrentamento da finitude expresso na sua dimensão mais crua, a própria morte –, torna-se área de interesse (fundamentalmente mercadológico) a ser explorada. Os chamados griefbots [literalmente ‘bots de luto’, também chamados de deathbots, thanabots, ghostbots ou avatares postmortem] já começam a despontar no mercado, levantando questões éticas fundamentais acerca da aplicabilidade de bots para lidar com a experiência de luto, até questões relativas à própria ideia de imortalidade ou vida após a morte. 

Uma das maiores, senão a maior questão existencial da humanidade – o enfrentamento da finitude expresso na sua dimensão mais crua, a própria morte –, torna-se área de interesse (fundamentalmente mercadológico) a ser explorada pelo mercado da inteligência artificial. (Imagem: montagem de Estúdio Gauche sobre foto de Arina Krasnikova)

De fato, o desenvolvimento de IAs sempre teve em sua órbita questões relativas ao “pós-humano” e a superação da finitude, ao menos aquela relativa ao corpo biológico – algo curioso, na medida em que essas tecnologias são frequentemente encaradas também como fonte da aniquilação total de nossa espécie. O físico Stephen Hawking, por exemplo, cogitou tanto a possibilidade de transpor a mente humana para um computador, quanto a extinção da própria humanidade com a evolução das IAs. Apesar de tais temas em nosso imaginário serem extremamente influenciados pela ficção científica hollywoodiana, cada vez mais nossa realidade caminha para se tornar uma versão menos cinematográfica porém tão abismal quanto algum episódio saído de séries como Star Trek ou Black Mirror.

É este o caso dos griefbots, IAs que prometem auxiliar no processo de luto ao simularem a experiência de conversar com algum ente perdido. Trata-se de um mercado em pleno crescimento, especialmente na China e nos EUA. Existem pacotes definitivos que podem chegar a 15 mil dólares, mas plataformas como Replika, ou Project December, já vendem o serviço por preços que variam entre 6 a 20 dólares mensais —–como é o caso da plataforma You, Only Virtual, que cunhou o termo ‘versonas’ para designar a produção de uma versão digital de um ente querido, serviço anunciado como “mais do que uma ferramenta de luto”, supostamente “mantendo aquela conexão única viva, exatamente como um relacionamento real”. Já a Project December anuncia diretamente: “Simulate the Dead” [simule os mortos]! Obviamente, as evidentes questões éticas implicadas em tais serviços são relativizadas pelas empresas, que via de regra pretendem imiscuir nas ferramentas de “assistência ao luto” que vendem não só propagandas, mas toda a lógica de mercado inerente à forma mercadoria. 

Implicações novas em outros campos também já chamam atenção: em maio, no Arizona, a família de um homem alvejado fatalmente em uma briga de trânsito recriou digitalmente, através de IA, uma “versão” da vítima para gerar um vídeo apresentado na sentença do assassino, com essa versão da vítima – digitalizada – oferecendo seu perdão e provocando uma reação inesperada do juiz, que relatou ter “amado a IA”, agradecendo o uso da ferramenta, e dizendo que “ouviu o perdão” e “sentiu que foi genuíno”. Os possíveis usos e efeitos dessa tecnologia em instâncias legais, por exemplo, ainda são difíceis de prever, mas algumas pistas já estão dadas, como mostra esse caso. 

Como se já não bastassem todos esses elementos, o uso de bots para manejar o luto em momentos ainda mais sensíveis, como é o caso dessa experiência na infância, ainda permanece pouco questionado. A empresa anteriormente mencionada, You, Only Virtual, permite que pessoas a partir de 13 anos utilizem sua plataforma, enquanto os efeitos na formação subjetiva são tratados como benéficos ou “imprevisíveis”, mesmo que interações com chatbots já tenham gerado experiências de delírio e mania, e mesmo que usuários dos griefbots já tenham relatado agravamento da condição subjetiva de luto. Além disso, características como os chamados “delírios” de IA e sua abordagem sicofanta de respostas podem tornar essa experiência ainda mais danosa.  

Apesar dos bots de luto serem fundamentalmente grandes modelos de linguagem (LLMs) possivelmente combinados com a mesma tecnologia de deepfakes, a experiência de investimento libidinal em uma dessas ferramentas durante o processo do luto pode ser devastadora, postergando o sofrimento e promovendo mesmo a experiência de uma “segunda morte” para o usuário, ao desconectar-se ou mesmo ao “desligar” a réplica digital de seu ente querido. As questões morais, éticas e existenciais que perpassam o uso dessas plataformas para tais fins não são de menor interesse ao mercado, e suas ofertas tornam-se cada vez mais ostensivas. É também fundamental questionarmos a natureza e o valor das informações ofertadas durante a interação com tais bots, especialmente na medida em que fornecem substrato para a datificação de uma experiência de extrema vulnerabilidade.

O uso de chatbots para diversos tipos de “auxílio” terapêutico – seja para o desabafo, conselhos afetivos, conforto emocional ou até mesmo uma pretensa escuta clínica – precisa passar, necessariamente, pela crítica técnica e epistemológica que fundamenta essas arquiteturas abstratas, mas também por uma crítica da própria economia política que as promove e é, ainda, sua própria condição de possibilidade. Para além da euforia e fantasmagoria proporcionada pela aparente convergência entre ficção e realidade, é fundamental relembrarmos que a ficção faz parte dessa própria realidade, mas as consequências reais dos usos indiscriminados dessas tecnologias não ficam apenas nas telas, especialmente quando sua mediação é relegada ao livre mercado, permitido a explorar todas as dimensões de sofrimento da condição humana para o fim único da acumulação e valorização. 

(*) Cian Barbosa é flamenguista e morador do Rio de Janeiro. Bacharel em sociologia (UFF), doutorando em filosofia (UNIFESP) e psicologia (UFRJ), pesquisa teoria do sujeito, crítica da cultura, violência, tecnologia, ideologia e digitalização; também é integrante da revista Zero à Esquerda, tradutor e ensaísta, além de professor e coordenador do Centro de Formação.