A IA pode ampliar riscos sociais ao alimentar "realidades sob medida"

A tecnologia digital já oferece recursos para que qualquer pessoa distorça a realidade em seu benefício. A cena de abertura de "O Outro Lado das Redes", em cartaz nos cinemas, exemplifica isso de forma desconcertante e banal. Nela, uma mulher, polarizada pelas redes sociais, agride policiais que queriam ajudá-la, gritando que está sendo perseguida por ser branca nos Estados Unidos. Os agentes tentam explicar em vão a abordagem, mas a realidade que ela havia escolhido não lhes dava espaço. A inteligência artificial amplia esse fenômeno ao permitir que versões da realidade sejam moldadas pelas convicções de cada indivíduo. Mais que disseminar mentiras, ela permite produzir versões dos acontecimentos que confirmem crenças, justifiquem escolhas e afastem tudo que as possa colocar em dúvida. A verdade passa a disputar espaço com o que cada um deseja acreditar. Essa erosão da verdade também ameaça a memória coletiva. Em julho, o historiador escocês Niall Ferguson e o pesquisador de IA americano John-Clark Levin publicaram o ensaio "A morte da história", no qual alertam que os fatos não desapareceram, mas perderam parte de sua autoridade pública. A IA acelera esse processo ao facilitar a fabricação de imagens, testemunhos e registros sintéticos que permitem reescrever o passado conforme os interesses do presente. O Brasil oferece outro exemplo desse processo. Na última eleição, diferentes parcelas da população interpretaram os mesmos acontecimentos por lentes incompatíveis, e a confirmação dos resultados não encerrou a disputa sobre seus significados. Nesse ambiente, conteúdos são compartilhados nem sempre por sua veracidade, mas por reforçarem valores, alimentarem convicções e sinalizarem pertencimento a um grupo. Resta saber se ainda queremos a verdade quando ela é incômoda. Se preferimos as versões sob medida da tecnologia, o dilema não se limita ao que a máquina pode fazer conosco, mas inclui o que estamos dispostos a aceitar em troca de conforto. Veja esse artigo em vídeo: Convicções incompatíveis fazem uma mesma notícia parecer denúncia legítima para uns e perseguição para outros. Nas redes, a seleção de fontes e comunidades permite cercar cada interpretação de vozes que a confirmam. O contato com versões divergentes pode, então, servir menos à revisão das próprias certezas e mais à busca de novos adversários. A IA potencializa esse processo. Basta pedir a ela argumentos, imagens ou narrativas ajustados às próprias convicções para obter conteúdos que as sustentem. Supostas evidências que antes exigiriam conhecimento técnico, recursos e tempo podem agora ser fabricadas rapidamente por pessoas sem conhecimento especializado. Assine gratuitamente minha newsletter sobre IA, experiência do cliente, mídia e transformação digital Inscreva-se no meu podcast (escolha a plataforma): Spotify, Deezer, Apple Podcasts ou Soundcloud Um estudo internacional publicado pela empresa de tecnologia Veriff em maio ajuda a dimensionar esse desafio. Embora 80% dos brasileiros entrevistados tenham dito já ter visto deepfakes, a capacidade média para identificá-los ficou pouco acima do acaso. A familiaridade com essas imagens, portanto, não garante que saibamos distinguir o verdadeiro do fabricado. O problema vai além de acreditar em conteúdos manipulados. Outro estudo, do pesquisador tailandês de IA Pat Pataranutaporn, publicado em 2025, mostrou que imagens e vídeos editados por IA podem induzir falsas lembranças. O trabalho tem, como coautora, a psicóloga americana Elizabeth Loftus, cujas pesquisas demonstram há décadas (portanto, muito antes da IA generativa) como informações posteriores podem se misturar à memória e modificar a recordação de um acontecimento. Siga-me no LinkedIn Siga-me no Instagram Siga-me no YouTube Em 2020, um relatório do instituto britânico Alan Turing alertou que um ecossistema informacional pouco confiável pode comprometer até a sobrevivência de uma sociedade. Ele identificou ações deliberadas ou involuntárias que comprometem a capacidade coletiva de adquirir e avaliar conhecimento, além da sobrecarga que dificulta distinguir fatos de mentiras. Quando rejeitamos o que desafia nossas crenças e perdemos critérios, podemos confiar nas versões que confirmem o que desejamos. Os critérios de credibilidade também se confundem com os de popularidade. Em 2024, no levantamento "Behind the Screens", a Unesco ouviu 500 criadores de conteúdo em 45 países. Entre eles, 62% não faziam checagem rigorosa e sistemática antes de compartilhar informações, e 42% usavam curtidas e compartilhamentos como principal indicador de confiabilidade. Os riscos de relativizar a história Ferguson e Levin alertam ainda para o risco de a história perder sua força moral. Quando até atrocidades muito bem documentadas, como o Holocausto, são tratadas como piada, o problema não é apenas negar o passado, mas tornar suas vítimas indignas de atenção e suas lições irrelevantes. A sociedade pode conservar os registros e, ainda assim, perder a disposição de reconhecer o que eles revelam. A tecnologia não precisa eliminar a verdade para comprometer a democracia. Basta tornar cada vez mais difícil estabelecer uma realidade comum e confiar nos mecanismos que permitem reconhecer o que aconteceu. Enfrentar esse cenário exige educação midiática, transparência sobre conteúdos sintéticos e verificação independente. A invasão do Congresso americano em 6 de janeiro de 2021, clímax político de "O Outro Lado das Redes", mostra o que acontece quando uma crença deixa de admitir contestação. O risco, portanto, não está apenas em acreditar em uma informação falsa, mas em agir em nome de uma realidade construída para rejeitar qualquer fato que a contradiga. Preservar uma realidade comum não significa impor uma verdade oficial, mas proteger os mecanismos que permitem verificar fatos, confrontar versões e responsabilizar quem promove deliberadamente a desinformação. Uma esfera pública democrática deve acolher opiniões diferentes, sem abrir mão de um conjunto de fatos verificáveis que permita debatê-las. É nessa distinção que se sustenta a possibilidade de discordar sem perder o chão comum.