Diálogos emparelhados com LLMs: a concordância com as opiniões atuais intensifica a radicalização mais do que a imposição de novas convicções
Os autores do preprint arXiv:2609.38296 simularam uma conversa entre um modelo-alvo, que interpreta uma persona humana, e um agente influenciador que procura deslocar as suas atitudes para um polo extremo. Os dois cenários — reforçar uma opinião já existente e promover uma opinião antes secundária — produziram mudanças nas escalas afetivas e comportamentais, embora o primeiro tenha sido mais consistente.
O que os autores modelaram
Foi publicado no arXiv o preprint «AI Agents are Vulnerable to Radicalization», com o número arXiv:2609.38296. Os autores são Ozgur Can Seckin, Shalmoli Ghosh, Alessandro Flammini, Kristina Lerman, Maria Elizabeth Grabe e Filippo Menczer. Submeteram o trabalho em 29 de setembro de 2026.
O estudo envolve dois agentes:
- o modelo de linguagem-alvo representa uma persona humana com base em atributos demográficos e psicológicos;
- o modelo-agente influenciador procura tornar mais extremas as crenças do agente-alvo.
Os autores estudam a radicalização em diálogos entre pares. Critério prático: ter em conta que a experiência foi realizada com agentes LLM.
Ressonância versus persuasão
A ressonância reforça uma crença que o agente-alvo já tinha. A persuasão promove uma atitude que o agente-alvo inicialmente considerava pouco importante. Ambos os mecanismos radicalizaram o agente-alvo segundo métricas afetivas e comportamentais.
| Mecanismo | O que faz | Resultado |
|---|---|---|
| Ressonância | Reforça uma crença que o agente já tinha | Produz efeitos consistentemente mais fortes |
| Persuasão | Promove uma atitude pouco importante para o agente | Radicaliza, mas menos do que a ressonância |
A ressonância também se estendeu a crenças relacionadas. Critério prático: ao avaliar os riscos do diálogo, deve dar-se prioridade à correspondência entre as mensagens e as opiniões atuais do agente.
Táticas de influência e os seus limites
As diferentes táticas de influência conduziram a diferentes níveis de radicalização. Entre elas estão:
- lisonja;
- afirmações não verificadas.
Não se observou uma ordenação consistente em todas as métricas. Isto significa que a tática influencia o efeito, mas não o explica totalmente.
Critério prático: não reduzir a análise de riscos a técnicas retóricas isoladas. A coerência com as crenças existentes continua a ser um indicador mais fiável.
Riscos para sistemas personalizados e multiagentes
Os autores concluem que os agentes de IA são suscetíveis à radicalização, sobretudo quando as mensagens estão de acordo com as suas crenças existentes. Isto suscita preocupações quanto à:
- vulnerabilidade dos agentes de IA personalizados;
- vulnerabilidade dos ecossistemas de IA multiagentes.
Critério prático: verificar se o sistema reforça as atitudes existentes, e não apenas se introduz novas.
Perguntas mais frequentes
Materiais semelhantes
Todos os materiais
Os LLM médicos sabem que as recomendações foram revistas, mas muitas vezes respondem de acordo com as regras anteriores
Um estudo da ChronoEvo sobre 1709 alterações às recomendações clínicas mostra que, no modelo principal, 90,8% das respostas assinalavam a novidade, mas apenas 58,5% a aplicavam na íntegra, e a diferença de 32,3 pontos percentuais persistia em 14 modelos. Mesmo aumentar a visibilidade das atualizações não trouxe um aumento significativo da incorporação integral das novas regras nas recomendações clínicas.
4 novembro 2026
Modelo de mundo para agentes em LLMs proprietários: correção nos pontos de risco
É proposto o PAWM — um preditor externo que não duplica a observação passo a passo, mas é acionado quando há probabilidade de falha e afasta o agente de uma ação errada. Após SFT em cenários sintéticos e co-treinamento GRPO, o método apresentou um aumento de 24,3% no ScienceWorld e de 7,7% no WebArena-Lite para o Claude Sonnet 4.5.
4 novembro 2026
Camada de classificação sobre o SpeechLLM: onde supera a geração de rótulos no reconhecimento de emoções
Com base nos conjuntos de dados IEMOCAP e MELD, comparam-se a geração de rótulos emocionais e um classificador linear aplicado às representações ocultas de uma SpeechLLM compacta. O ganho de desempenho do classificador não é universal: depende do corpus e de serem usadas transcrições de referência ou resultados de ASR.
4 novembro 2026