Na era da IA generativa , distinguir a verdade da ficção está se tornando cada vez mais difícil. Deepfakes — não só vídeos, mas também notícias baseadas em texto criadas por redes neurais — inundaram o espaço da informação. Para entender quem pode ajudar os usuários a reconhecer esse conteúdo, os pesquisadores realizaram um experimento incomum: eles compararam o quanto as pessoas confiam nos conselhos de assistentes de IA, seus pares e especialistas linguísticos na busca de falsificações.
O que a experiência mostrou
Na designação de laboratório, os alunos tiveram de determinar que proporção de texto em notícias sintéticas foi escrita por um humano em vez de gerada por IA. Como sugestões, foram oferecidas três fontes: ChatGPT (baseada em GPT-4), aconselhamento de outros participantes e recomendações de peritos linguísticos. Os resultados mostraram que os participantes seguiram os conselhos do ChatGPT com mais frequência do que os conselhos dos pares ao lidarem com notícias defake criadas usando o GPT-2. Ao mesmo tempo, os especialistas linguísticos eram mais confiáveis do que outras pessoas, mas a confiança relativa em especialistas versus ChatGPT variou de uma onda da experiência para outra.
Curiosamente, em uma rodada adicional realizada em 2025 utilizando a mesma metodologia, os alunos confiaram em especialistas mais do que no ChatGPT. Os autores atribuem isso a uma mudança de percepção da detecção de IA: talvez as pessoas tenham chegado a entender melhor as limitações das redes neurais e valorizar mais a perícia humana.
Por que a IA inspira mais confiança do que as pessoas?
À primeira vista, parece paradoxal que as pessoas estejam mais dispostas a confiar em um algoritmo que pode ser uma fonte de falsificações do que em interlocutores vivos. Uma possível explicação é a percepção da IA como analista imparcial desprovido de motivos subjetivos. Os pares, por outro lado, podem levantar dúvidas sobre competência, e suas opiniões são fáceis de questionar.
É importante ressaltar que a melhora na acurácia de detecção de deepfake não ocorreu por si só, mas através de uma combinação de confiança no aconselhamento e sua qualidade. Ou seja, quando os participantes confiavam em conselhos de alta qualidade, seus resultados eram notavelmente melhores. Isto destaca que a fé cega em qualquer fonte não é a resposta.
Conclusões: IA generativa — uma ameaça e uma defesa
A principal conclusão do estudo é que a IA pode e deve ser usada para combater o conteúdo criado pela própria IA, mas com uma ressalva. Confiar em detectores de rede neural só é justificado se as próprias ferramentas forem suficientemente precisas. Caso contrário, confiar em maus conselhos só piorará a situação.
Os autores do estudo nos lembram o duplo papel dos modelos generativos: criam simultaneamente fakes profundos e ajudam a detectá-los. Portanto, o futuro mais provável reside em abordagens híbridas, onde ferramentas de IA trabalham ao lado de especialistas, enquanto os usuários mantêm o ceticismo saudável.
