Em março do ano passado, um vídeo com o meio-campista do Fluminense, Paulo Henrique Ganso, viralizou. No conteúdo, o atleta divulgava uma campanha de doação de camisas oficiais do clube. Para obter o prêmio, no vídeo, havia um link vinculado que direcionaria o torcedor a uma página — supostamente o site do time. No link, eram solicitados dados pessoais e valores para custear o frete da camisa. O problema é que o vídeo se tratava de um deepfake, onde a fala do jogador foi completamente alterada. Ou seja, era um golpe.
Segundo um estudo inédito publicado pelo Observatório Lupa, casos de deepfake e peças desinformativas geradas por IA cresceram entre 2024 e 2025. Enquanto no primeiro ano citado 39 conteúdos desse tipo foram alvo de checagens da agência (equivalente a 4,6% do total de checagens naquele ano), em 2025 o número saltou para 159 (o que representou 20,4% das checagens). Nesse intervalo, o aumento foi de aproximadamente 308% no número absoluto de casos.
O levantamento também mostrou uma mudança na principal tendência nas manipulações feitas por inteligência artificial. Em 2024, 14 dos 39 — a maioria naquele ano — estavam relacionados a golpes financeiros, enquanto 13 eram sobre política. Com o aumento vertiginoso, os temas intensificaram, mas inverteram a ordem. Assuntos relacionados à política passaram a ser os maiores alvos, foram 71 dos 159, enquanto os relacionados a golpes foram 48.
A incisão do mau uso das ferramentas de IA intensificam as preocupações do Tribunal Superior Eleitoral (TSE) em ano de eleição. Durante o evento Seta Debate, em maio deste ano, o ministro Nunes Marques, presidente do TSE, alertou que a inteligência artificial mudou a forma como conteúdos são criados, distribuídos e recebidos e criticou as técnicas que realizam mudança de rosto, clonagem de voz e alteração das palavras.
"Uma deepfake lançada na véspera do segundo turno pode atingir milhões de eleitores antes que qualquer decisão judicial seja proferida", ressaltou na oportunidade.
Por outro lado, pesquisadores da Unicamp, em parceria com pares de Singapura e da China, desenvolveram uma ferramenta de inteligência artificial capaz de identificar deepfakes em ambientes abertos, ou seja, reconhece falhas em geradores mesmo sem ter sido treinada com aqueles elementos.
A premissa para elaborar um programa com essas habilidades, para identificar falsificações, é entender que não se "conhece a priori todas as formas possíveis que alguém pode falsificar um conteúdo", diz o professor Anderson Rocha, co-fundador e coordenador do Laboratório de Inteligência Artificial, Recod.ai, do Instituto de Computação da Unicamp, em entrevista exclusiva à Sputnik Brasil.
Para assistir a este vídeo, por favor ative o JavaScript e use um navegador que suporte recursos do HTML5
© Sputnik Brasil
O Open-Set DeepFake Detection (OSDFD), em vez de depender apenas de deepfakes ou exemplos já gerados, usa imagens reais como referência para que a IA aprenda padrões de normalidade, como textura de pele, iluminação e sombra como elementos de um processo analógico, não criado por máquina.
Atualmente, o trabalho alcançou êxito em reconhecimento de 90% em base de dados desconhecidos.
"Quais são os casos de erro? Pode acontecer que naquele tipo de falsificação que ele olhou não tinha muito essas inconsistências de iluminação, de sombra, de textura, ou mesmo o ruído ali não era muito visível, digamos assim", explica.
Segundo Rocha, os 10% que ainda separam o trabalho de máxima eficácia representam um bom trabalho que os pesquisadores têm pela frente. Ele espera, inclusive, que em seis meses a um ano esse lastro seja reduzido pela metade.
Para assistir a este vídeo, por favor ative o JavaScript e use um navegador que suporte recursos do HTML5
© Sputnik Brasil
O professor afirma que um dos objetivos do projeto é democratizar o acesso à ferramenta, ou seja, que o programa que atualmente roda em servidores fique mais "leve" para rodar rapidamente em celulares. "É um primeiro objetivo", destaca.
De acordo com o especialista, a ferramenta deveria funcionar como um filtro acoplado ao WhatsApp (plataforma proibida na Rússia por extremismo), onde "o usuário possa clicar e pedir para verificar determinado conteúdo e ele [o programa] apontar: Olha, acho que esse conteúdo aqui é falsificado, fique de olho", exemplifica.
"A gente, neste momento, está desenvolvendo um filtro inicial, ainda não para deepfake, a gente está fazendo um primeiro para golpes, porque a gente tem muitos casos de golpes via WhatsApp, amante falso, pedido de doação, pedido de depósito de dinheiro para membro familiar", contextualiza. Neste, o sistema é similar ao citado pelo pesquisador: o programa identifica a suspeita e emite um alerta ao usuário.
Rocha salienta que é necessário que as pessoas disponham de ferramentas de checagem no ambiente on-line, a fim de mitigar golpes financeiros e desinformações.
"As pessoas têm que saber que esse tipo de tecnologia existe, esse tipo de golpe existe, esse tipo de falsificação existe, de modo que elas prestem mais atenção naquilo que veem, naquilo que ouvem, naquilo que leem. Mas, ao mesmo tempo que é importante a educação midiática, a educação tecnológica, é importante também que as pessoas possam ter acesso a ferramentas rápidas de checagem", finaliza.
