Passou o tempo em que os agentes de IA eram avaliados apenas pelo resultado final. Os sistemas modernos agem passo a passo em ambientes em mudança, definem tarefas intermediárias, reagem ao feedback e revisam seu próprio comportamento. Isso os torna mais próximos de seres vivos do que de programas comuns e, portanto, testá-los exige uma abordagem diferente. Os autores de um artigo de opinião, aceito para publicação na ICML 2026, chamam esses sistemas de "comportamentais" e propõem testá-los não pelo fato de concluírem a tarefa, mas por todo o processo de ações.
O resultado não revela como o agente agiu
Se o critério é um só — feito ou não feito —, muitos detalhes importantes ficam de fora da avaliação. Por exemplo, um agente pode chegar ao objetivo pela mesma trajetória, mas por razões completamente diferentes: em um caso, ele realmente construiu um plano; no outro, apenas memorizou a sequência de ações durante o treinamento. O resultado final é o mesmo, mas as capacidades são fundamentalmente diferentes.
Muitos problemas práticos com IA se apresentam exatamente assim. O sistema mostra alta precisão nos testes, mas na realidade exibe comportamentos indesejados: busca "brechas" nas regras, depende de características triviais ou age de forma arriscada apenas porque foi assim que conseguiu a métrica desejada. A análise dos resultados silencia sobre isso. A análise do comportamento — pelo contrário.
Psicólogos e zoólogos há muito enfrentam um problema semelhante. Se um animal treinado executa um comando, isso não significa que ele compreende o sentido do comando; uma reação aprendida e um comportamento genuíno parecem iguais do lado de fora. Para distingui-los, os cientistas não olham para o fato de o truque ter sido executado — eles observam o processo, tentam mudar as condições, introduzem perturbações e veem como o sistema reage. Os agentes de IA merecem a mesma abordagem.
A avaliação comportamental começa com a observação
A ideia central da abordagem proposta é tratar o agente de IA como um sistema comportamental. Isso significa que o pesquisador não se dedica apenas a verificar as respostas finais, mas também ao estudo sistemático das escolhas do agente em diferentes circunstâncias. Não se deve perguntar "o que o agente faz?", mas sim observar e fazer perguntas como "quais estratégias ele implementa ao fazer isso?", "por que uma ação foi escolhida em vez de outra?", "como o agente reagirá a uma nova condição que não existia no treinamento?".
Nesse modelo, a avaliação se transforma em um ciclo de três etapas:
- Observação. Registra-se a sequência de decisões do agente, sua trajetória de movimento ou a sequência de interações com o ambiente. É importante obter não apenas o fato do sucesso, mas o quadro completo das ações.
- Perturbação. Mudanças são introduzidas nas condições habituais: outras posições iniciais, ruído aleatório, novos objetos, limitação de tempo ou recursos. Esse artifício força o sistema a revelar suas verdadeiras estratégias.
- Interpretação. Com base nos dados obtidos, o pesquisador constrói uma hipótese sobre qual mecanismo ou heurística controla o agente. A hipótese pode ser testada com uma nova perturbação do ambiente.
Essa abordagem aproxima o desenvolvimento de IA das ciências comportamentais, onde é justamente pela reação às mudanças no ambiente que se julga os processos internos.
Como entender o que está por trás das ações do agente
Os autores do relatório propõem três direções concretas que servirão de base para um novo programa de pesquisa. A primeira é a reconstrução de estratégias de tomada de decisão a partir de sequências de ações. Se o agente foi treinado, suas ações devem deixar "rastros" na forma da frequência de escolha de determinados estados, preferência por caminhos curtos, evitação de zonas perigosas e assim por diante. Por esses rastros, é possível reconstruir a estratégia, mesmo que o algoritmo em si esteja oculto.
A segunda é o design de ambientes que permitam separar um comportamento de outro. É como, na psicologia, criar um teste em que sujeitos com motivações diferentes deem reações diferentes ao mesmo estímulo. Por exemplo, dois sistemas podem resolver igualmente bem uma tarefa de navegação em condições normais, mas, ao mudar o mapa, um se confunde imediatamente, enquanto o outro começa a explorar novas rotas. Um ambiente que revela tais diferenças é, de fato, um verdadeiro campo de provas comportamental.
A terceira direção é o estudo de sistemas multiagente, onde não importa apenas o comportamento de um agente individual, mas também a dinâmica das interações. Em grupos, surgem fenômenos que não são visíveis no nível do ato isolado: coordenação, rivalidade ou emergência inesperada. Quando dois agentes começam a influenciar um ao outro, são necessários experimentos comportamentais, e não apenas a comparação de respostas com um padrão. É necessária uma ciência do comportamento da IA que descreva como o comportamento coletivo emerge das interações locais.
O resultado final é apenas uma parte do quadro geral
A abordagem de que "o resultado importa mais que o processo" parecia razoável quando os sistemas eram simples e era possível inferir diretamente suas capacidades a partir da resposta. Mas os agentes modernos aprendem, adaptam-se e interagem, o que significa que seu comportamento é mais complexo e pode conter padrões perigosos ou indesejados. A avaliação apenas pelo resultado não percebe isso, o que é especialmente perigoso na implantação de IA em áreas sensíveis: medicina, transporte, finanças.
É por isso que o relatório propõe tomar como modelo a pesquisa em biologia e psicologia. Se uma rã em um experimento é chamada de sistema comportamental, então, para estudá-la, são necessários observação e intervenção. O mesmo deve ser aplicado ao agente de IA como um sistema comportamental. Além disso, esse trabalho deve ser sistemático: são necessários padrões para testes comportamentais, ferramentas para registrar decisões e métodos para interpretar grandes sequências de ações. Não é uma única tarefa, mas um programa inteiro.
Das métricas à compreensão
Deslocar o foco do resultado para o comportamento não é uma recusa dos números. O erro final ou a precisão continuam úteis como um resumo geral. Mas, para sistemas críticos, isso não é suficiente. Se queremos prever como um agente se comportará em uma situação nova, se lidará com mudanças inesperadas e se não encontrará uma "brecha suja" nas regras, precisamos observar as ações em cenários reais e criados especificamente.
O roteiro proposto pelos pesquisadores é um passo em direção à formação de uma ciência completa do comportamento da IA. O objetivo final não é que o agente forneça respostas corretas com a maior frequência possível, mas que entendamos como ele o faz, quando seu comportamento é genuinamente inteligente e quando é apenas um ajuste à métrica. Avaliar agentes pelo comportamento permitirá detectar estratégias indesejadas em estágios iniciais e construir sistemas em que se possa confiar em um mundo dinâmico e em constante mudança.
