Engenharia de Almas
O antigo desejo de reconstruir o homem
Em 1971, Stanley Kubrick colocou nas telas uma cena que se tornaria uma das imagens mais perturbadoras da história do cinema.
Alex, protagonista de Laranja Mecânica, está preso a uma cadeira. Sua cabeça está imobilizada. Pequenos instrumentos mantêm seus olhos permanentemente abertos. Diante dele, uma tela exibe repetidamente cenas de violência.
Alex não pode desviar o olhar.
É a chamada Técnica Ludovico.
O filme de Kubrick nasceu do romance A Clockwork Orange, publicado pelo escritor britânico Anthony Burgess em 1962. Mais de sessenta anos depois, a obra continua sendo estudada justamente porque sua questão central permanece aberta: até onde uma sociedade pode ir para modificar um indivíduo em nome do bem coletivo? A própria Fundação Anthony Burgess identifica entre os temas fundamentais da obra o conflito entre indivíduo e Estado, a punição dos criminosos e a possibilidade de redenção. (Fundação Anthony Burgess)
Alex é um jovem extremamente violento. Preso, recebe uma oportunidade: submeter-se a um tratamento experimental que promete abreviar sua permanência na prisão.
O método procura associar violência ao sofrimento.
Depois do tratamento, Alex continua sabendo o que é violência. Continua tendo memória. Continua reconhecendo seus desejos. Mas, quando tenta praticar uma agressão, seu próprio organismo reage.
O Estado conseguiu alguma coisa extraordinária.
Alex não se tornou bom. Tornou-se incapaz de praticar o mal.
É aí que Laranja Mecânica deixa de ser simplesmente um filme sobre violência e passa a ser uma obra sobre liberdade.
O homem que não pode escolher o mal ainda pode escolher o bem?
Ou apenas funciona?
Esse debate permanece vivo na literatura acadêmica contemporânea. Estudos recentes continuam interpretando a obra de Burgess justamente como uma discussão sobre a programação moral do indivíduo e a tensão entre livre-arbítrio e mecanismos estatais de controle. (UCL Discovery)
A laranja tornou-se mecânica
O título escolhido por Burgess é brilhante.
Uma laranja é orgânica. Nasce, cresce, amadurece.
Um mecanismo é construído. Suas peças são organizadas para produzir determinado resultado.
Uma “laranja mecânica”, portanto, contém uma contradição: algo vivo transformado em mecanismo.
É exatamente o que fizeram com Alex.
Preservaram o homem e modificaram o funcionamento de sua vontade.
Durante décadas assistimos àquela história confortavelmente instalados na poltrona do cinema. Era ficção científica. Uma distopia.
Mas o tempo passou.
Chegamos a 2024.
E alguém apresentou o Cognify.
Cognify: uma nova Técnica Ludovico?
O conceito foi apresentado pelo comunicador científico e cineasta Hashem Al-Ghaili.
Sua proposta é imaginar uma instalação destinada a substituir parte do sistema prisional tradicional. Em vez de manter uma pessoa durante anos dentro de uma cela, o Cognify trataria criminosos como pacientes submetidos a uma forma extremamente avançada de reabilitação.
A ideia central é impressionante.
Criar, com auxílio de inteligência artificial, memórias artificiais complexas, personalizadas e extremamente realistas, implantando-as no cérebro do condenado de maneira que sejam experimentadas como acontecimentos reais. (LinkedIn)
Um criminoso poderia experimentar as consequências de seu crime.
Poderia vivenciar o sofrimento provocado em outra pessoa.
Talvez até experimentar os acontecimentos da perspectiva da vítima.
Al-Ghaili apresenta o Cognify como uma possibilidade futura de substituir punição prolongada por reabilitação acelerada. Ele próprio reconhece o caráter futurista da ideia, embora a relacione a experiências científicas reais de manipulação de memória realizadas em modelos animais. (LinkedIn)
É importante fazer aqui uma separação jornalística:
Cognify não é atualmente uma prisão em funcionamento.
Não existe evidência de condenados entrando em máquinas e saindo minutos depois com memórias implantadas.
É um conceito.
Mas conceitos também merecem nossa atenção.
Porque antes de uma tecnologia existir como máquina, frequentemente ela existe como desejo humano.
E talvez seja exatamente aí que esteja a parte mais interessante dessa história.
O desejo é muito mais antigo que a máquina
Talvez o verdadeiro assunto não seja Cognify.
Nem Laranja Mecânica.
Nem inteligência artificial.
O assunto pode ser muito mais antigo:
o desejo humano de engenheirar outro ser humano.
Governos tentaram.
Religiões tentaram.
Ideologias tentaram.
Revoluções tentaram.
Sistemas educacionais tentaram.
Propaganda, publicidade e movimentos políticos aprenderam a trabalhar sentimentos, comportamentos, medos, desejos e identidades.
No século XX surgiu inclusive uma expressão inquietante: “engenheiros de almas humanas”.
Ela ficou célebre no ambiente soviético, associada a Stalin e ao papel que escritores e artistas deveriam exercer na construção do novo homem. A história exata da origem da expressão é discutida: há versões que a atribuem inicialmente ao escritor Yuri Olesha, enquanto pesquisa histórica sobre o episódio documenta seu uso por Stalin em reunião com escritores na casa de Maxim Gorky, em outubro de 1932. (Wikipedia)
A expressão merece sobreviver ao contexto político que a produziu.
Engenharia de almas.
Porque descreve uma tentação humana recorrente.
Não basta governar aquilo que o homem faz.
Queremos governar aquilo que ele pensa.
Depois, aquilo que deseja.
Depois, aquilo que sente.
E, finalmente, talvez aquilo que lembra.
Uma nova fronteira
Aqui aparece uma diferença fundamental do nosso tempo.
Durante praticamente toda a história humana, a engenharia da alma aconteceu de fora para dentro.
Um discurso tenta convencer.
Uma propaganda tenta influenciar.
Uma escola procura ensinar.
Uma religião procura converter.
Uma ideologia procura formar.
Uma prisão procura corrigir.
Mas entre todas essas forças e o interior do indivíduo ainda existe uma fronteira.
A consciência.
A pessoa escuta e pode discordar.
Vê e pode rejeitar.
É pressionada e pode resistir.
Pode até fingir concordância enquanto interiormente continua pensando exatamente o contrário.
Existe uma última cidadela.
O interior do homem.
O que projetos conceituais como Cognify nos obrigam a imaginar é algo diferente.
E se a tecnologia atravessar essa última fronteira?
Não convencer a mente.
Intervir nela.
Não mostrar uma experiência.
Produzir a experiência.
Não contar uma história.
Criar a lembrança da história.
Não pedir arrependimento.
Produzir tecnologicamente as condições emocionais do arrependimento.
Nesse momento, já não estaremos apenas diante de engenharia social.
Estaremos chegando muito perto daquilo que poderíamos chamar literalmente de:
Engenharia de Almas.
Quem escreverá o projeto?
Toda engenharia começa com uma especificação.
Antes de construir uma ponte, alguém determina onde ela começa, onde termina e qual carga deverá suportar.
Se pretendemos engenheirar seres humanos, surge então uma pergunta inevitável:
qual será a especificação do ser humano correto?
Quem a escreverá?
O médico?
O juiz?
O programador?
O governo?
Uma comissão de ética?
Uma empresa?
Uma inteligência artificial?
Hoje poderíamos decidir retirar a violência.
Parece razoável.
Amanhã poderíamos retirar a agressividade.
Depois, o radicalismo.
Depois, comportamentos considerados antissociais.
Depois, determinadas convicções.
Em algum ponto dessa caminhada aparece uma pergunta difícil:
quem decidirá onde termina a doença e começa a personalidade?
E outra ainda mais perigosa:
quem decidirá onde termina o criminoso e começa o dissidente?
É exatamente nesse ponto que Laranja Mecânica continua contemporâneo.
Kubrick não precisava prever inteligência artificial, interfaces neurais ou implantação de memórias.
Bastava compreender o homem.
O problema não está apenas na tecnologia
Há uma tendência compreensível de observar essas possibilidades e perguntar:
“Será que conseguiremos fazer isso?”
Talvez essa não seja a primeira pergunta.
A primeira deveria ser:
“Se conseguirmos, deveremos fazer?”
Essa diferença é enorme.
Porque a história da tecnologia é também a história de fronteiras sucessivamente atravessadas.
Aquilo que não conseguimos fazer ontem tornou-se possível hoje.
Aquilo que parece impossível hoje poderá não continuar impossível amanhã.
Por isso, a existência atual ou não de Cognify é quase secundária para esta reflexão.
A questão importante é que já conseguimos concebê-lo.
E alguém já consegue apresentá-lo não simplesmente como instrumento de tortura, mas como tecnologia de reabilitação, eficiência e redução do sofrimento penitenciário.
É justamente isso que torna a discussão difícil.
As grandes tentações tecnológicas raramente chegam anunciando:
“Eu sou o mal.”
Normalmente chegam oferecendo uma solução.
E então chegamos a uma fronteira ainda mais antiga
Para quem observa essa questão a partir da tradição bíblica, existe uma imagem impossível de ignorar.
O livro de Gênesis apresenta um momento extraordinariamente duro da relação entre Criador e criatura.
Antes do Dilúvio, o texto diz que Deus observou a multiplicação da maldade humana e a inclinação dos pensamentos do coração do homem. Então aparece uma das frases mais fortes das Escrituras:
Deus se entristeceu por ter feito o homem.
O texto diz que isso “lhe pesou no coração”. (SBB)
É uma imagem teológica poderosa.
A criatura havia recebido liberdade.
E fez uso dela.
Inclusive para o mal.
O Dilúvio aparece naquele relato como consequência de uma humanidade que ultrapassara uma fronteira moral intolerável. (Bíblia Online)
Não precisamos transformar essa passagem em previsão tecnológica.
Muito menos afirmar que Deus enviará outro dilúvio porque inventamos inteligência artificial.
Isso seria simplificar tanto a Bíblia quanto a tecnologia.
Mas podemos permitir que a antiga narrativa faça uma pergunta ao homem contemporâneo.
E se a criatura decidir recriar a criatura?
Há algo profundamente diferente entre curar um cérebro doente e determinar tecnologicamente como uma consciência deverá ser.
Há diferença entre tratar sofrimento e fabricar convicções.
Entre recuperar memória e escrever memória.
Entre ajudar alguém a controlar seus impulsos e retirar dele a possibilidade de escolha.
É nessa fronteira que precisamos caminhar com enorme cuidado.
Porque talvez estejamos nos aproximando de uma capacidade inédita:
o homem tentando redesenhar o próprio homem.
Não mais selecionando apenas suas características físicas.
Mas trabalhando sobre memória, vontade, desejo, emoção e consciência.
A velha Engenharia de Almas poderá deixar de ser metáfora.
Cuidado com o abismo
Talvez Laranja Mecânica nunca tenha sido realmente uma história sobre Alex.
Talvez seja uma história sobre nós.
Sobre nossa permanente insatisfação com o homem real e nossa fascinação pelo homem que poderíamos fabricar.
Queremos eliminar sua violência.
Corrigir suas imperfeições.
Reorganizar seus desejos.
Ajustar seus comportamentos.
E agora começamos a imaginar a possibilidade de editar suas lembranças.
Há enorme potencial de cura nesse caminho.
Mas existe também enorme potencial de domínio.
É uma fronteira que merece ciência.
Merece filosofia.
Merece direito.
E merece teologia.
Porque talvez algumas perguntas não possam ser respondidas apenas com:
“É possível fazer.”
Há outra pergunta que precisa acompanhar cada avanço:
“É permitido ao homem fazer tudo aquilo que se torna capaz de fazer?”
Não proponho uma resposta.
Proponho um sinal de advertência.
De Laranja Mecânica ao Cognify, uma velha ambição humana parece adquirir ferramentas cada vez mais sofisticadas.
Engenheirar a alma.
Talvez consigamos.
Mas, antes de atravessar essa fronteira, seria prudente olhar novamente para o antigo relato do Gênesis.
Ali encontramos uma criatura que desagradou profundamente ao seu Criador.
E encontramos um Dilúvio.
Não como previsão do que acontecerá conosco.
Mas como memória ancestral de que existem fronteiras cuja travessia pode ter consequências muito maiores do que imaginávamos.
A tecnologia nos convida a olhar para frente.
A sabedoria também nos recomenda olhar para trás.
E, diante da possibilidade de transformar a alma humana em território de engenharia, talvez seja prudente olhar também para cima.
Muito cuidado.
Há fronteiras tecnológicas que parecem portas.
Mas algumas portas podem dar para o abismo.
