Alto lá. Não confunda.

Ficção, tecnologia e os limites do homem

Alto lá. Não confunda. Não se iluda.

Obra de ficção é obra de ficção.
Especulação é especulação.
Previsão é outra coisa.

Parece óbvio, mas estamos perdendo essas fronteiras.

Uma imagem bem produzida, acompanhada das palavras inteligência artificial, neurociência, algoritmos ou tecnologia do futuro, rapidamente ganha aparência de realidade.

Mas imaginar alguma coisa não obriga a realidade a obedecer à nossa imaginação.

O homem não começa diante de uma folha em branco.

Encontramos um mundo que já possui estrutura, leis e limites. Podemos descobri-los, utilizá-los e até manipulá-los extraordinariamente. Mas não fomos nós que os estabelecemos.

Antes queríamos descobrir as leis do mundo.

Agora começamos a imaginar que podemos escrevê-las.

Muito cuidado.

Eu já vi esta história

Na juventude, Admirável Mundo Novo, de Aldous Huxley, apresentava uma sociedade em que os homens eram condicionados para desejar aquilo que o sistema desejava.

Depois veio Laranja Mecânica.

Na obra de Anthony Burgess, levada ao cinema por Stanley Kubrick, o criminoso Alex é submetido à Técnica Ludovico.

O Estado não tenta convencê-lo.

Tenta reprogramá-lo.

Alex não se torna necessariamente bom. Torna-se incapaz de praticar determinados atos.

Era ficção.

E talvez justamente aí estivesse seu valor.

A obra não precisava dizer:

“O futuro será assim.”

Bastava perguntar:

“E se chegarmos até aqui?”

A boa ficção pode funcionar como uma espécie de análise de risco do futuro.

Imaginamos uma situação antes que ela exista para avaliar se desejamos caminhar naquela direção.

Então aparece Cognify

Hoje, aos 65 anos, recebo pelo Instagram um vídeo sobre o Cognify, conceito apresentado em 2024 pelo comunicador científico e cineasta Hashem Al-Ghaili.

A proposta imagina uma prisão do futuro.

Em vez de anos encarcerado, o criminoso passaria por uma reabilitação acelerada utilizando inteligência artificial, neurotecnologia e memórias sintéticas.

Parece real.

Não é.

Cognify não é uma prisão funcionando nem um experimento realizado com presos. É uma obra especulativa.

E imediatamente me lembrei de Alex.

Eu já tinha visto aquela história.

Mudaram as máquinas e as palavras.

Mas permaneceu a antiga ideia:

engenheirar a alma humana.

Imaginável não é possível

Aqui está uma distinção que precisamos recuperar.

Uma coisa pode ser:

imaginável, possível, plausível, realizável ou real.

São estágios completamente diferentes.

Podemos imaginar praticamente qualquer coisa. Mas a natureza continua submetida às suas leis.

E existe ainda a economia.

Tecnologia precisa de energia, materiais, infraestrutura, pessoas, manutenção e dinheiro.

Retire a sustentação econômica de muitos projetos futuristas e eles simplesmente desmoronam.

Vivemos também numa economia de expectativas. Projetos precisam chamar atenção, conquistar investimentos e produzir valor.

Por isso, algumas vezes, anteprojetos são apresentados com aparência de futuro inevitável.

Não são.

A idolatria tecnológica

O problema não está na tecnologia.

Está no encantamento.

Parece que basta colocar “inteligência artificial” numa proposta para que qualquer coisa se torne possível.

Não se torna.

IA não revogou as leis da natureza.

Algoritmos não eliminaram a biologia.

Computadores não suspenderam a economia.

E tecnologia nenhuma aboliu a natureza humana.

Quando esquecemos isso, a ferramenta começa a ocupar outro lugar.

Transforma-se em ídolo.

E talvez seja justamente este um dos riscos de nosso tempo: tirar os pés da vida real e começar a acreditar que tudo aquilo que conseguimos representar numa tela algum dia necessariamente existirá.

Não necessariamente.

Algumas perguntas simples

Por isso, diante de uma obra futurista, prefiro perguntar:

É realidade ou ficção?

Se é ficção, qual é a suposição?

Qual é o interesse da obra?

É advertência, provocação, propaganda ou proposta?

É apenas imaginável ou realmente possível?

Respeita as leis da natureza e a natureza humana?

É economicamente sustentável?

E, finalmente:

mesmo que seja possível, devemos fazer?

Talvez essa última pergunta seja a mais importante.

Este mundo tem Dono

Livre pensar não significa que tudo aquilo que pensamos possa existir.

Muito menos que deva existir.

No pensamento podemos construir qualquer mundo.

Na realidade encontramos limites.

E limites não são necessariamente inimigos da liberdade. Muitas vezes são aquilo que nos impede de transformar inteligência em loucura.

Por isso guardo uma frase que ouvi de um grande homem do meu tempo:

“Este mundo tem Dono.”

Quanto mais avançamos tecnologicamente, mais importante talvez seja lembrá-la.

Este mundo não é uma folha em branco esperando que escrevamos qualquer coisa sobre ele.

Encontramos uma criação.

Encontramos leis.

Encontramos limites.

Encontramos uma natureza humana que não fomos nós que inventamos.

Podemos estudar.

Podemos descobrir.

Podemos transformar.

Mas existe uma enorme diferença entre compreender a criação e imaginar que ocupamos o lugar do Criador.

Portanto, diante da próxima promessa extraordinária:

Alto lá.

Não confunda imaginação com possibilidade.

Não confunda possibilidade com realidade.

E principalmente:

não confunda tecnologia com Deus.

A tecnologia pode ser extraordinária.

Mas este mundo tem Dono.