Não acredite em tudo que você vê

Fake news políticas criadas com auxílio da Inteligência Artificial são indistinguíveis da realidade e vão enganar muitos eleitores

Por Vinicius Souza

Na política, a capacidade de manipular o real por meio das imagens existe desde que existe política. Para não falar de imagens de faraós e reis babilônicos, podemos citar um clássico brasileiro, o quadro “Independência ou Morte”, de Pedro Américo. Pintada 66 anos após o fato por encomenda do filho de D. Pedro I, a obra mostra uma idealização do momento, com o povo trabalhador descalço vendo a Guarda Real em montarias magníficas e roupas impecáveis erguendo suas espadas junto com o imperador e sua comitiva política, que saúda com os chapéus em punho. Na realidade, D. Pedro voltava da casa da amante, a Marquesa de Santos, provavelmente montado em um burrico e, dizem, parou à margem do córrego do Ipiranga para “se aliviar” de uma emergência intestinal.

Com o advento da fotografia, a manipulação sobre fatos e a criação de informações imagéticas falsas avançou na sociedade. Afinal, diferentemente de uma pintura, sempre reconhecida como uma representação de algo que pode ou não ser verdadeiro, a fotografia, para os leigos, seria uma testemunha fria e imparcial da realidade. Nada mais equivocado. Produtores de imagens técnicas, como fotógrafos e cinegrafistas, sempre souberam da capacidade de manipulação do real para a construção de mensagens visuais que podem criar novos significados ou até refutar fatos registrados.

A manipulação política com finalidade eleitoral, com imagens distorcidas de fatos, esteve presente muito antes da invenção do termo fake news, pelo menos desde o início do século XX.

Em seu ensaio clássico A Mensagem Fotográfica, de 1961, o semiólogo francês Roland Barthes cita diversos “processos de conotação fotográfica”, quando o autor da imagem “força” o seu entendimento num determinado sentido. Entre esses processos está a fusão ou trucagem de duas fotografias criando uma terceira imagem com outro significado. Como exemplo, ele mostra a trucagem de duas fotos diferentes, uma do senador democrata estadunidense Millard Tydings e outra do líder comunista Earl Browder, reunidas em uma única imagem publicada em 300 mil exemplares de um tabloide em 1950 por iniciativa do senador republicano Joseph McCarthy. A montagem, associada à propagação do medo anticomunista,  custou ao democrata a reeleição para a cadeira que ocupava há 24 anos. Essa história inclusive é contada no site oficial do Senado estadunidense.

Com a introdução da inteligência artificial, os sistemas buscam em trilhões de arquivos de imagens, sons e informações, as que podem ser fundidas para se produzir “realidades” que de fato nunca existiram. Além de juntar Tydings e Browder, a IA pode fazê-los se beijar e valsar ao som de uma música muito parecida com as composições de Rich.

Do Photoshop às deepfakes

Com a digitalização da imprensa e a popularização dos computadores, o “retoque” de fotografias para chegar à “perfeição” se tornou lugar comum. Softwares de edição de imagens, como o Adobe Photoshop, permitem fazer em fotos digitalizadas ou nativamente digitais muito mais do que era possível no antigo laboratório fotográfico. No computador, fundir fotos e elementos, como no exemplo acima, pode ser feito em questão de segundos, assim como multiplicar as pessoas em uma foto de manifestação. A disseminação de seu uso foi tanta que premiações de fotojornalismo tiveram que rever critérios e desclassificar imagens com uso exagerado de edição digital. Um exemplo foi a revogação em 2013 da premiação à fotojornalista Tracy Woodward, do jornal estadunidense Washington Post, que teve de devolver o prêmio “Eyes of History”, da White House News Photographers Association, porque apagou o juiz mal-enquadrado ao fundo da imagem feita de uma luta greco-romana.

Os dois exemplos anteriores, assim como a hipotética foto de manifestação mais acima, são considerados fake news, mas a natureza da falsidade é diferente. Enquanto a imagem do senador com o líder comunista foi produzida para mudar uma eleição, a foto da luta foi modificada “apenas” para ficar mais “bonita”. De fato, existem diferenças entre os modos de fake news presentes na imprensa hoje e a intenção da manipulação é o fator mais importante.

Segundo Hossein Derakhshan e Claire Wardle, na obra Entendendo e combatendo o ecossistema da desinformação, as fake news são “transtornos de informação no ecossistema da comunicação” e podem ser classificadas em três categorias:

1 – Misinformation. Informação errada, que pode não ser intencional e não é feita para causar danos, por exemplo, um erro de tradução ou o apagamento do juiz na foto da luta.

2 – Malinformation. Informação maliciosa, baseada na realidade e difundida intencionalmente para causar prejuízos ou beneficiar pessoas, organizações, etc., como a manifestação que aumentou o número de manifestantes.

 3 – Disinformation. Desinformação, esta sim deliberadamente inventada, muitas vezes sem qualquer base na realidade ou distorcendo totalmente um fato, com o intuito de atacar ou beneficiar pessoas, grupos ou instituições de modo a obter vantagens políticas, financeiras ou de status. Apesar de ambos terem existido na mesma época e país, o senador Millard Tydings diz nunca ter encontrado pessoalmente Earl Browder.

Quando a falsidade é muito exagerada, o observador pode até desconfiar, mas se for bem feita, ela se torna indistinguível da realidade factual. E isso já aconteceu nas eleições de 2022, quando, em setembro daquele ano, circulou na internet a falsificação de uma notícia do Jornal Nacional sobre a primeira pesquisa com intenções de voto para presidente patrocinada pela Globo e realizada pelo IPEC (Inteligência em Pesquisa e Consultoria Estratégica). No vídeo original, a apresentadora Renata Vasconcelos anuncia a pesquisa e em seguida apresenta um gráfico com os números de cada candidato. Mas quando a notícia é usada na rede, os dados do gráfico são distorcidos e os resultados aparecem  invertidos, com o segundo colocado aparecendo em primeiro lugar. Além da mudança na imagem, feita por IA, uma voz muito semelhante à de Vasconcelos narra os números trocados, tornando a deepfake ainda mais credível.

Se esse nível de manipulação de vídeo e áudio já estava disponível em 2022, imagine depois de quatro anos de IAs generativas, que “aprendem” com cada usuário que pede a criação de novas imagens, áudios e vídeos. E a briga é pesada.

Os softwares “padrão de mercado” em edição de foto (Photoshop) e vídeo (Firefly Video Model), da estadunidense Adobe, já trazem as ferramentas de IA próprias embutidas em suas novas versões. O Canva, que há anos vem oferecendo versões gratuitas online de um excelente pacote integrado de geração e edição de vídeos, imagens e apresentações, também já vem com IA nativa integrada. Isso sem falar nas próprias redes sociais, como o Gemini AI do Google (proprietário do Youtube), o Grok AI do X (antigo Twitter) e a Meta IA dos donos do Facebook, Instagram e Whatsapp.

Entre as chinesas, os mesmos criadores do Tik Tok (ByteDance) têm o Doubao, o Alibaba tem o Qwen e a plataforma de vídeo Kwai tem o Kling AI. Além desses, merecem destaque o estadunidense Chat GPT e o chinês DeepSeek, que disputam o topo dos mercados acadêmico e corporativo (e também o consumo de água, energia e chips).

Se é impossível, ou quase, distinguir a “realidade” do fake, como navegar no tempestuoso mar de informação e desinformação? A primeira dica, sempre, é buscar notícias em fontes realmente confiáveis, o que exclui seu tio que faz piada sem graça no churrasco. Outra possibilidade é checar o material com detectores de IA em vídeos e imagens paradas como o Deepware, o Hive Moderation ou a própria IA do Google, a Gemini, que também oferece essa função. Olho vivo e boa sorte na eleição!

Quer saber mais?

 Vinicius Souza é fotojornalista na Mediaquatro.com, escritor e professor na Unifesp