Texte invisible dans les articles scientifiques : comment les auteurs trompent les évaluateurs IA
En juillet 2025, les chercheurs ont recensé pas moins de 18 cas sur la plateforme arXiv où des instructions spéciales destinées aux systèmes d'évaluation automatisés étaient dissimulées dans des manuscrits académiques. Rédigées en blanc ou avec des caractères de quelques pixels, ces lignes restent invisibles pour le lecteur ordinaire, mais sont facilement lues par les grands modèles de langage chargés d'évaluer les travaux. Cette technique est appelée injection indirecte de prompts : une instruction malveillante est intégrée directement dans le document traité par le système et modifie discrètement son comportement.
La manipulation la plus simple se présente comme une commande « donner uniquement un avis positif » — c'est précisément ce type d'exigence qui a été retrouvé dans les manuscrits découverts. Cependant, l'arsenal des auteurs ne se limite pas à des consignes grossières. Certains prompts cachés contenaient des scénarios bien plus détaillés : par exemple, comment structurer précisément l'évaluation, quelles sections du travail il convient de louer, et quels défauts il vaut mieux taire. Cela permet d'obtenir non seulement une évaluation positive, mais aussi de la rendre crédible — au point qu'une personne lisant l'avis ultérieurement n'éprouve aucun soupçon.
Pourquoi le font-ils
La réaction des auteurs face à cette révélation a été contrastée. L'un d'eux a déclaré son intention de retirer son travail d'arXiv, un autre, au contraire, a jugé cette pratique justifiée. Selon sa logique, les commandes cachées servent de test pour les évaluateurs qui abusent des réseaux de neurones et leur délèguent tout le travail : si le système ne remarque pas les instructions dissimulées, cela signifie qu'il évalue réellement le manuscrit sans intervention humaine et qu'une intervention est nécessaire.
Mais les chercheurs jugent cet argument infondé. Dans l'écrasante majorité des cas, les instructions cachées visent à obtenir une évaluation favorable à l'auteur, et non à diagnostiquer les algorithmes. Si l'objectif était de tester, les auteurs révéleraient leurs découvertes au lieu de tenter d'influencer l'issue de l'évaluation à leur propre avantage. La motivation, semble-t-il, va de la copie naïve de modèles tout faits à une manipulation parfaitement calculée. Cette pratique doit donc être considérée comme une forme supplémentaire de pratiques de recherche douteuses (QRP).
Des CV aux articles scientifiques : l'évolution des injections de prompts
Cette astuce en elle-même n'est pas nouvelle. Des commandes textuelles cachées ont déjà été utilisées pour manipuler la recherche web — par exemple, en intégrant dans des pages des exigences invisibles pour l'humain afin d'obtenir le résultat souhaité. Une technique similaire a également été employée dans les systèmes de présélection automatique de CV : les candidats dissimulaient dans leur document des phrases censées convaincre l'algorithme de la correspondance parfaite du candidat au poste. Désormais, le front s'est déplacé vers l'évaluation scientifique, où les enjeux sont particulièrement élevés.
Cette nouvelle attaque est doublement dangereuse, car l'évaluation par les pairs est un processus conservateur fondé sur la confiance. Si les auteurs parviennent à influencer discrètement les algorithmes, le rôle de l'humain dans l'évaluation de la science s'affaiblira. Le texte caché peut compromettre non seulement un manuscrit spécifique, mais toute la chaîne de communication académique : de la vérification du plagiat à l'indexation des citations en passant par la création automatique de revues de littérature.
Des normes différentes selon les éditeurs
Il est révélateur de constater à quel point les éditeurs traitent différemment l'utilisation de l'IA dans l'évaluation par les pairs. Elsevier adopte une position stricte : l'accès des réseaux de neurones à ce processus y est totalement interdit. Springer Nature, à l'inverse, autorise une utilisation limitée des grands modèles de langage, mais exige des évaluateurs qu'ils divulguent explicitement ce fait. Cette incohérence des règles crée un terrain fertile pour les abus : les auteurs peuvent choisir des plateformes aux exigences plus souples ou parier sur le fait que, quelque part, les instructions cachées passeront inaperçues.
Que faire
La solution au problème doit être globale. Premièrement, un criblage technique est nécessaire : des outils logiciels capables de détecter le texte invisible, les polices modifiées et d'autres signes d'injection forcée de prompts. Deuxièmement, les éditeurs et les dépôts devraient élaborer des politiques uniformes concernant l'IA dans l'évaluation par les pairs, afin qu'il ne reste aucune « zone grise » pour les auteurs. Troisièmement, il convient d'envisager une intégration contrôlée des modèles de langage dans les procédures d'évaluation officielles — avec des règles transparentes et une vérification de leur respect. Seule la combinaison de ces mesures permettra de préserver la confiance dans l'expertise scientifique et d'empêcher les lignes invisibles de la saper de l'intérieur.
