Dialogues en binôme avec des LLM : l’alignement sur les opinions actuelles radicalise davantage que l’imposition de nouvelles convictions
Les auteurs du préprint arXiv:2609.38296 ont simulé des échanges entre un modèle cible jouant un personnage humain et un agent influenceur qui cherche à faire basculer ses opinions vers un pôle extrême. Les deux scénarios — renforcer une opinion déjà présente et promouvoir une opinion auparavant secondaire — ont entraîné un déplacement des mesures affectives et comportementales, le premier s’avérant plus robuste.
Ce que les auteurs ont modélisé
Un préprint intitulé « AI Agents are Vulnerable to Radicalization » a été publié sur arXiv sous le numéro arXiv:2609.38296. Les auteurs sont Ozgur Can Seckin, Shalmoli Ghosh, Alessandro Flammini, Kristina Lerman, Maria Elizabeth Grabe et Filippo Menczer. Ils ont soumis leur travail le 29 septembre 2026.
L’étude met en scène deux agents :
- le modèle de langage cible joue le rôle d’une personne à partir d’attributs démographiques et psychologiques ;
- le modèle agent d’influence cherche à rendre les convictions de l’agent cible plus extrêmes.
Les auteurs étudient la radicalisation dans des dialogues en binôme. Critère pratique : tenir compte du fait que l’expérience a été menée avec des agents LLM.
Résonance et persuasion
La résonance consiste à renforcer une conviction déjà présente chez l’agent cible. La persuasion consiste à promouvoir une position que l’agent cible jugeait initialement peu importante. Les deux mécanismes ont radicalisé l’agent cible selon des mesures affectives et comportementales.
| Mécanisme | Ce qu’il fait | Résultat |
|---|---|---|
| Résonance | Renforce une conviction déjà présente | Produit des effets systématiquement plus forts |
| Persuasion | Promeut une position peu importante pour l’agent | Radicalise, mais moins que la résonance |
La résonance s’est également étendue aux convictions connexes. Critère pratique : lors de l’évaluation des risques liés au dialogue, il convient de donner la priorité à la concordance des messages avec les opinions actuelles de l’agent.
Tactiques d’influence et leurs limites
Différentes tactiques d’influence ont entraîné différents degrés de radicalisation. Ces tactiques comprennent :
- la flatterie ;
- les affirmations non vérifiées.
Aucun ordre constant ne se dégageait pour l’ensemble des mesures. Cela signifie que la tactique influe sur l’effet, sans toutefois l’expliquer entièrement.
Critère pratique : ne pas réduire l’analyse des risques à des procédés rhétoriques isolés. La concordance avec les convictions existantes reste un indicateur plus fiable.
Risques pour les systèmes personnalisés et multi-agents
Les auteurs concluent que les agents d’IA sont susceptibles d’être radicalisés. C’est particulièrement le cas lorsque les messages concordent avec leurs convictions existantes. Cela suscite des inquiétudes quant à :
- la vulnérabilité des agents d’IA personnalisés ;
- la vulnérabilité des écosystèmes d’IA multi-agents.
Critère pratique : vérifier si le système renforce les positions existantes, et pas seulement s’il en introduit de nouvelles.
Foire aux questions
Matériaux connexes
Tous matériaux
Les LLM médicales sont informés des révisions des recommandations, mais répondent souvent selon les anciennes règles
L’étude de ChronoEvo portant sur 1 709 changements dans les recommandations cliniques montre que, dans le modèle principal, 90,8 % des réponses repéraient la nouveauté, mais que seules 58,5 % l’appliquaient intégralement, avec un écart de 32,3 points de pourcentage observé dans 14 modèles. Même en renforçant la visibilité des mises à jour, le transfert intégral des nouvelles règles dans les recommandations cliniques n’a pas connu de hausse significative.
4 novembre 2026
Modèle du monde pour les agents basés sur des LLM fermés : correction aux points de risque
PAWM est proposé comme un prédicteur externe qui ne reproduit pas l’observation étape par étape, mais s’active en cas d’échec probable et détourne l’agent d’une action erronée. Après un SFT sur des scénarios synthétiques et un co-entraînement GRPO, la méthode a enregistré des gains de 24,3 % sur ScienceWorld et de 7,7 % sur WebArena-Lite pour Claude Sonnet 4.5.
4 novembre 2026
Une couche de classification au-dessus de SpeechLLM : là où elle surpasse la génération d’étiquettes pour la reconnaissance des émotions
À partir des corpus IEMOCAP et MELD, l’étude compare la génération d’étiquettes émotionnelles à un classificateur linéaire appliqué aux représentations latentes d’une SpeechLLM compacte. Le gain de performance apporté par le classificateur n’est pas universel : il dépend du corpus et de l’utilisation de transcriptions de référence ou de résultats ASR.
4 novembre 2026