À l'ère de l'IA générative , distinguer la vérité de la fiction devient de plus en plus difficile. Deepfakes — non seulement des vidéos, mais aussi des nouvelles texte créées par les réseaux neuronaux — ont inondé l'espace d'information. Pour comprendre qui peut aider les utilisateurs à reconnaître ce contenu, les chercheurs ont mené une expérience inhabituelle : ils ont comparé à quel point les gens font confiance aux conseils d'assistants de l'IA, de leurs pairs et d'experts linguistiques lorsqu'ils cherchent des faux.
Ce que l'expérience a montré
En laboratoire, les élèves devaient déterminer la proportion de texte dans les nouvelles synthétiques qui était écrite par un humain plutôt que par l'IA. On leur a proposé trois sources : ChatGPT (sur la base GPT-4), conseils d'autres participants et recommandations d'experts linguistiques. Les résultats montrent que les participants ont suivi les conseils de ChatGPT plus souvent que les conseils de pairs lorsqu'ils ont affaire à de fausses nouvelles créées avec GPT-2. Dans le même temps, les experts linguistiques avaient plus confiance que les autres, mais la confiance relative dans les experts contre ChatGPT variait d'une vague à l'autre. de l'expérience à une autre.
Fait intéressant, lors d'un tour supplémentaire mené en 2025 en utilisant la même méthodologie, les étudiants ont fait confiance à des experts plus que ChatGPT. Les auteurs attribuent cela à un changement de perception de la détection de l'IA : peut-être que les gens ont mieux compris les limites des réseaux neuronaux et valorisent davantage l'expertise humaine.
Pourquoi l'IA inspire-t-elle plus de confiance que les gens?
À première vue, il semble paradoxal que les gens soient plus disposés à se fier à un algorithme qui peut être lui-même une source de faux que sur des interlocuteurs vivants. Une explication possible est la perception de l'IA comme un analyste impartial dépourvu de motifs subjectifs. D'autre part, les pairs peuvent soulever des doutes sur la compétence, et leurs opinions sont faciles à remettre en question.
Il est important de noter que l'amélioration de la précision de la détection des faux-faux ne s'est pas produite en soi, mais par une combinaison de confiance dans les conseils et leur qualité. En d'autres termes, lorsque les participants s'appuient sur des conseils de haute qualité, leurs résultats sont nettement meilleurs. Cela souligne que la foi aveugle dans n'importe quelle source n'est pas la réponse.
Conclusions: l'IA générative — une menace et une défense
La principale conclusion de l'étude est que l'IA peut et doit être utilisée pour combattre le contenu créé par l'IA elle-même, mais avec une mise en garde. Le recours à des détecteurs de réseau neuronal n'est justifié que si les outils eux-mêmes sont suffisamment précis. Sinon, faire confiance aux mauvais conseils ne fera qu'aggraver la situation.
Les auteurs de l'étude nous rappellent le double rôle des modèles génératifs : ils créent simultanément des failles profondes et les aident à les détecter. Par conséquent, l'avenir réside le plus probablement dans les approches hybrides, où les outils d'IA travaillent avec des experts, tandis que les utilisateurs maintiennent un scepticisme sain.
