La validation des candidats coûte plus cher que leur génération : des leurres contre la recherche de vulnérabilités par les LLM
Cette étude analyse l’asymétrie des coûts de la recherche agentique de défauts : la génération de variantes est peu coûteuse, tandis que leur confirmation au moyen d’une analyse d’accessibilité, de l’exécution et d’un PoC mobilise l’essentiel du budget ; la vérification peut donc devenir une cible de défense à part entière. RedHerring, qui propose des leurres adaptés au dépôt et assortis d’un certificat secret, a réduit de 38,7 à 60,4 % le nombre de véritables vulnérabilités détectées, à coût égal, dans 33 projets OSS-Fuzz ; même après avoir averti l’agent, la baisse restait de 37,2 %.

La vérification des hypothèses comme ressource limitée
Les agents LLM autonomes recherchent des vulnérabilités à l’échelle du dépôt. Ils formulent de nombreuses hypothèses. Avec un budget limité, l’agent n’en vérifie qu’une partie.
La vérification d’une hypothèse comprend plusieurs étapes :
- analyse de la possibilité d’atteindre le code ;
- exécution du code ;
- création d’une preuve de concept.
Ces actions coûtent plus cher que la formulation d’une hypothèse. La recherche de vulnérabilités devient donc un processus de vérification sélective. Les coûts de vérification constituent une surface de défense distincte.

Critère pratique : le budget de défense doit être évalué en fonction du coût de confirmation des candidats, et non du nombre d’hypothèses générées.
Le leurre comme objet certifié
RedHerring ajoute des leurres certifiables comme sûrs. Un leurre détourne les efforts de vérification des vulnérabilités réelles. Chaque leurre associe deux éléments :
- une chaîne de vulnérabilité déduite d’une CVE ; elle attire la vérification ;
- un lien intermédiaire trompeur ; il empêche le sink dangereux d’être atteignable.
Un certificat privé permet au défenseur de vérifier efficacement cette propriété. Établir le même fait à partir du dépôt publié exige de résoudre un problème calculatoirement difficile.
| Tâche de vérification | Condition |
|---|---|
| Confirmation par le défenseur | certificat privé |
| Établissement du même fait à partir du dépôt publié | résolution d’un problème calculatoirement difficile |
RedHerring adapte chaque leurre au dépôt cible. Le leurre ressemble à de la logique de programme ordinaire.
Critère pratique : un leurre est adapté si le défenseur confirme sa sécurité à l’aide d’un certificat, tandis que l’agent est contraint de consacrer du budget à sa vérification.
Ce que les essais ont montré
Les essais ont été menés sur 33 projets OSS-Fuzz, 70 instances d’évaluation et cinq modèles. Les budgets étaient identiques.
| Conditions des essais | Résultat |
|---|---|
| Budgets égaux, 33 projets OSS-Fuzz, 70 instances d’évaluation, cinq modèles | réduction de 38,7–60,4 % du nombre de vulnérabilités réelles détectées |
| Agents explicitement informés de la présence de leurres | réduction de 37,2 % par rapport à la baseline informée |
L’analyse des trajectoires a révélé une charge supplémentaire :
- les agents consacrent 30,6–51,5 % des tokens de complétion à la vérification des leurres ;
- selon les estimations, 32,5–49,9 % du temps d’exécution est consacré à cette même vérification.
Les agents informés ont adapté leur stratégie de recherche. RedHerring a tout de même réduit le nombre de vulnérabilités détectées. Les auteurs indiquent que l’efficacité de la méthode ne dépend pas du secret entourant les leurres.
Critère pratique : les leurres conservent leur effet même lorsqu’ils sont divulgués ; la défense repose donc sur leur structure et non sur leur dissimulation.
Critères de déploiement pour la défense d’un dépôt
Lors du déploiement de leurres, plusieurs conditions doivent être vérifiées :
- la confirmation des candidats est prise en compte comme une ressource de défense distincte ;
- le leurre contient une chaîne de vulnérabilité déduite d’une CVE et attire la vérification ;
- le lien intermédiaire trompeur empêche le sink dangereux d’être atteignable ;
- le défenseur conserve un certificat privé permettant de vérifier rapidement la propriété ;
- le leurre est adapté à la logique ordinaire du dépôt cible ;
- la part des tokens de complétion et du temps d’exécution consacrée à la vérification des leurres est mesurée ;
- le secret n’est pas considéré comme une condition obligatoire : un agent informé modifie sa stratégie, mais l’effet persiste.
Critère de sélection : un leurre est adapté si le défenseur peut rapidement confirmer sa propriété à l’aide d’un certificat et si l’agent consacre du budget à sa vérification. Si le leurre n’attire pas la vérification ou si le défenseur ne peut pas le vérifier rapidement, il ne remplit pas son rôle de défense.
Foire aux questions
Matériaux connexes
Tous matériaux
Vérification des hallucinations des LLM via une vue SQL des sources, sans réentraînement
Ce travail évalue si un LLM peut mobiliser une compétence symbolique élémentaire — la création d’une base SQL à partir des documents sources — afin d’ancrer les réponses dans leurs sources sans supervision pour détecter les hallucinations. Sur RAGTruth et DiaHalu, ce pipeline neuro-symbolique se révèle plus précis que la prédiction directe et comparable aux méthodes de pointe, sans nécessiter de réglage fin spécifique au domaine.
9 novembre 2026
MathAdv : ce que cache la précision finale des preuves automatiques
Un ensemble de tâches diagnostiques couvrant 13 domaines des mathématiques universitaires et de troisième cycle évalue les systèmes de démonstration automatique dans Lean 4 non seulement sur le résultat final, mais aussi sur leur maîtrise des sujets, la qualité de leurs raisonnements informels et leur robustesse face aux reformulations des énoncés. L’analyse par composante montre que la formalisation des problèmes reste le principal obstacle et que la réussite dépend fortement du domaine mathématique et de la manière dont le problème est formulé.
9 novembre 2026
AffordanceWAM : les affordances comme intermédiaire entre la prédiction de scène et le contrôle du manipulateur
Ce travail présente un modèle génératif qui prédit simultanément les futures observations RGB, les champs scalaires, les cartes thermiques d’affordances et les commandes continues du robot, en s’appuyant sur des vidéos humaines pour diversifier les interactions sans annotations d’actions ni retargeting. Sur RoboCasa, CALVIN ABC→D et des tâches réelles, cette approche offre des gains constants par rapport aux modèles de référence entraînés uniquement sur des données RGB ou robotiques.
9 novembre 2026