Diálogos emparejados con LLM: coincidir con las opiniones actuales intensifica la radicalización más que imponer nuevas posturas
Los autores del preprint arXiv:2609.38296 modelaron una conversación entre un modelo objetivo que interpreta una persona humana y un agente influencer que intenta desplazar sus posturas hacia un polo extremo. Ambos escenarios —reforzar una opinión ya existente y promover otra que antes era secundaria— provocaron cambios en las escalas afectivas y conductuales, aunque el primero resultó más consistente.
Qué modelaron los autores
En arXiv se publicó el preprint «AI Agents are Vulnerable to Radicalization» con el número arXiv:2609.38296. Sus autores son Ozgur Can Seckin, Shalmoli Ghosh, Alessandro Flammini, Kristina Lerman, Maria Elizabeth Grabe y Filippo Menczer. Enviaron el trabajo el 29 de septiembre de 2026.
En el estudio participan dos agentes:
- el modelo de lenguaje objetivo interpreta una persona humana a partir de atributos demográficos y psicológicos;
- el modelo agente influyente intenta hacer más extremas las creencias del agente objetivo.
Los autores estudian la radicalización en diálogos entre pares. Criterio práctico: tener en cuenta que el experimento se realizó con agentes basados en LLM.
Resonancia frente a persuasión
La resonancia es la intensificación de una creencia que el agente objetivo ya tiene. La persuasión consiste en promover una postura que el agente objetivo consideraba poco importante al principio. Ambos mecanismos radicalizaron al agente objetivo según métricas afectivas y conductuales.
| Mecanismo | Qué hace | Resultado |
|---|---|---|
| Resonancia | Intensifica una creencia que ya existe | Produce efectos sistemáticamente más fuertes |
| Persuasión | Promueve una postura que no es importante para el agente | Radicaliza, pero menos que la resonancia |
La resonancia también se extendió a creencias relacionadas. Criterio práctico: al evaluar los riesgos del diálogo, conviene dar prioridad a la coincidencia de los mensajes con las opiniones actuales del agente.
Tácticas de influencia y sus límites
Las distintas tácticas de influencia generaron diferentes niveles de radicalización. Entre ellas se incluyen:
- los halagos;
- las afirmaciones no verificadas.
No hubo un patrón consistente en todas las métricas. Esto significa que la táctica influye en el efecto, pero no lo explica por completo.
Criterio práctico: no reducir el análisis de riesgos a recursos retóricos aislados. La coherencia con las creencias existentes sigue siendo una referencia más fiable.
Riesgos para los sistemas personalizados y multiagente
Los autores concluyen que los agentes de IA son susceptibles a la radicalización, especialmente cuando los mensajes coinciden con sus creencias existentes. Esto genera preocupación por:
- la vulnerabilidad de los agentes de IA personalizados;
- la vulnerabilidad de los ecosistemas multiagente de IA.
Criterio práctico: comprobar si el sistema refuerza las posturas existentes, y no solo si introduce otras nuevas.
Preguntas frecuentes
Material similar
Todos los materiales
Los LLM médicos se enteran de que se han revisado las recomendaciones, pero a menudo responden según las pautas anteriores
El estudio de ChronoEvo sobre 1709 cambios en las guías clínicas muestra que, en el modelo principal, el 90,8 % de las respuestas detectaba la novedad, pero solo el 58,5 % la aplicaba por completo; la brecha de 32,3 puntos porcentuales se mantuvo en 14 modelos. Ni siquiera aumentar la visibilidad de las actualizaciones produjo una mejora significativa en la incorporación completa de las nuevas reglas a las recomendaciones clínicas.
4 noviembre 2026
Modelo del mundo para agentes basados en LLM cerrados: corrección en puntos de riesgo
Se propone PAWM, un predictor externo que no duplica la observación paso a paso, sino que se activa cuando es probable que ocurra un fallo y desvía al agente de una acción equivocada. Tras el ajuste fino supervisado (SFT) con escenarios sintéticos y el coentrenamiento con GRPO, el método logró una mejora del 24,3 % en ScienceWorld y del 7,7 % en WebArena-Lite para Claude Sonnet 4.5.
4 noviembre 2026
Capa de clasificación sobre SpeechLLM: dónde supera a la generación de etiquetas en el reconocimiento de emociones
En IEMOCAP y MELD se compara la predicción generativa de etiquetas emocionales con un clasificador lineal aplicado a las representaciones ocultas de una SpeechLLM compacta. La mejora en la calidad que aporta el clasificador no es universal: depende del corpus y de si se utilizan transcripciones de referencia o resultados de ASR.
4 noviembre 2026