Estamos produzindo nossa própria Matrix

Outro dia eu estava revisitando o ‘Wish you were here’, um álbum maravilhoso do Pink Floyd que você, que por um acaso caiu nesse texto, talvez conheça. Dentre todas as músicas desse disco, tem uma que me pega muito: Welcome to the Machine.

É impressionante como essa música consegue se manter atual por tanto tempo. Welcome to the Machine, como gosto de a interpretar, vem dizer sobre essa prisão invisível a qual vivemos, especialmente em um contexto capitalista digitalizado. Ela sugere como nossos gostos e até sonhos são pré-moldados. O sistema, a máquina, já sabe de tudo – o que você quer, o que você precisa, onde você esteve ontem a noite. Estamos presos em um sistema consumista e manipulador. Tudo isso ao som da guitarra psicodélica que a banda coloca em suas músicas.

Welcome my son
Welcome to the machine
What did you dream?
It’s all right, we told you what to dream
You dreamed of a big star
He played a mean guitar
He always ate in the Steak Bar
He loved to drive in his Jaguar

Mas esse não é um texto sobre Pink Floyd.

*

A Google, recentemente, apresentou ao mundo o Veo 3, uma ferramenta com capacidade absurda de gerar vídeos hiper-realistas de 8 segundos com diálogo sincronizado, efeitos sonoros e música, o que representa um salto significativo na criação de mídia impulsionada por IA. Não são apenas os visuais, nítidos em 720p, com sincronização labial precisa e física do mundo real, mas a integração de áudio que o diferencia de concorrentes como o Sora da OpenAI. A facilidade de produção também é impressionante: você vai simplesmente digitar um comando, esperar alguns minutos e obter um vídeo de, por exemplo, um âncora de notícias entregando uma história fabricada ou um gato de desenho animado reclamando sobre pesca, tudo com paisagens sonoras convincentes. É um ChatGPT com super poderes audiovisuais. Essa tecnologia democratiza a produção de vídeos de alta qualidade, reduzindo custos e tempo em comparação com métodos tradicionais. O que antes exigia uma equipe de efeitos visuais de Hollywood agora pode ser feito por qualquer pessoa com uma assinatura e um teclado.

Por trás disso, no entanto, esconde-se um perigo que já conhecemos bem a essa altura do campeonato: o potencial para mau uso, como espalhar desinformação por meio de clipes de notícias falsos, é real e preocupante. As redes sociais já estão cheias de exemplos, desde “protestos” gerados por IA que viralizam até programas de auditório falsos, mostrando como é fácil confundir verdade e ficção. A resposta da Google, marcas d’água digitais como o SynthID e restrições de conteúdo, até visa mitigar isso, mas sabemos que a aplicação e a detecção não são infalíveis.

Todo esse avanço rápido me faz pensar: será que não estamos nos enfiando numa “auto matrix”?

*

No final dos anos 1990, o filme Matrix estourou no cinema como um soco filosófico e visual, desafiando nossa percepção da realidade. Escrito e dirigido pelas irmãs Wachowski, o filme apresenta um mundo distópico onde a humanidade vive inconscientemente aprisionada em uma simulação digital criada por máquinas inteligentes. Até hoje a gente discute as teorias desse filme. A Matrix, nesse contexto, é uma construção artificial que substitui a realidade, uma ilusão tão perfeita que a maioria dos humanos não percebe que vive em um código, enquanto suas energias são exploradas por uma inteligência superior. O conceito central do filme vem de questionamentos filosóficos antigos, como o “cérebro numa cuba” de Hilary Putnam ou a caverna de Platão, mas os atualiza para a era da tecnologia, alertando para o risco de sermos manipulados por sistemas que controlam o que vemos, sentimos e acreditamos. Isso no contexto daquela época, onde o que vivemos hoje tecnologicamente era papo de ficção científica.

Matrix é um filme genial, com uma estética cyberpunk que gosto bastante e cenas de ação que foram revolucionárias. Mas seu grande trunfo está em sua capacidade de nos fazer duvidar: e se a realidade que conhecemos for uma mentira? E se estivermos tão imersos em uma narrativa artificial que não conseguimos mais distinguir o que é verdade? Acontece que, mais de duas décadas depois, essas perguntas não apenas permanecem relevantes, mas se tornaram urgentes. Cá estamos nós, de fato, construindo nossa própria Matrix, e a velocidade com que avançamos é tão vertiginosa quanto preocupante.

O avanço das inteligências artificiais e das tecnologias artificiais está redesenhando nossa realidade. Além do Veo 3, que é uma tecnologia mais recente, diversos modelos de IA como os que geram textos, imagens e vídeos hiper-realistas já conseguem criar conteúdos indistinguíveis do que é produzido por humanos. Deepfakes, por exemplo, manipulam rostos e vozes com uma precisão assustadora, permitindo que qualquer pessoa pareça dizer ou fazer algo que nunca aconteceu. Algoritmos de recomendação, outra desgraça moderna, moldam o que consumimos nas redes sociais, criando bolhas de informação que só servem para reforçar crenças e nos isolar em perspectivas divergentes. A cada clique, a cada interação, cedemos mais espaço para que sistemas digitais definam o que é relevante, o que é verdade, o que é real.

Essa trajetória tecnológica assusta e é fascinante ao mesmo tempo, carrega riscos evidentes. Um deles é a erosão da verdade compartilhada. Quando qualquer imagem, vídeo ou texto pode ser fabricado, como você vai conseguir distinguir fato de ficção? Já vivemos em um mundo onde desinformação se espalha mais rápido que a verdade: alguns estudos mostram que notícias falsas circulam até seis vezes mais rápido nas redes sociais. Some a isso o potencial de IAs manipularem narrativas em escala global, e o resultado é uma realidade fragmentada, onde cada indivíduo vive em sua própria versão da Matrix, moldada por algoritmos que priorizam engajamento sobre autenticidade.

Outro risco é o que chamamos de “perda de agência humana”. Lembra que em Matrix os personagens são mantidos em cápsulas? Ali eles estão alimentando máquinas sem saber, sendo meros insumos para sistemas tecnológicos. Se pararmos para observar o mundo atual por um segundo, vamos concluir que nossos dados, cada busca, cada curtida, cada conversa, são coletados e usados para prever e influenciar nosso comportamento. Empresas e governos já utilizam essas informações para direcionar campanhas políticas, manipular mercados ou monitorar populações. A IA, nesse cenário, passa a não ser somente apenas uma ferramenta, já que ela pode agir como uma verdadeira arquiteta da nossa percepção, decidindo o que vemos e como interpretamos o mundo.

Minha crítica aqui, no entanto, não é um convite ao luddismo. A tecnologia em si tem o potencial de resolver problemas complexos, da medicina à crise climática. E isso é ótimo. Mas avançar sem reflexão é como correr num labirinto sem mapa. Precisamos sempre questionar: quem controla essas tecnologias? Com que propósito? E, acima de tudo, como garantir que elas amplifiquem a verdade em vez de obscurecê-la? A Matrix do filme era uma prisão invisível, mas a que estamos construindo é colaborativa, onde cada um de nós, ao usar essas ferramentas sem discernimento, adiciona um tijolinho novo a esse sistema.

Welcome to the Machine.

*

Obrigado por chegar até aqui! Espero que tenha gostado do papo e te convido a dar uma olhada nos outros textos do blog. Se curtir, considere também se inscrever no site para receber os textos sempre que eles forem publicados. 🙂

Um forte abraço!

• Instagram