25 materiais
É proposto o PAWM — um preditor externo que não duplica a observação passo a passo, mas é acionado quando há probabilidade de falha e afasta o agente de uma ação errada. Após SFT em cenários sintéticos e co-treinamento GRPO, o método apresentou um aumento de 24,3% no ScienceWorld e de 7,7% no WebArena-Lite para o Claude Sonnet 4.5.
O trabalho introduz o conceito de confusão contextual: o ajuste fino com exemplos adequados a uma área temática pode transferir o comportamento aprendido para pedidos de outra área e causar desalinhamento local. Com base em temas como igualdade de género, privacidade e segurança física, demonstra-se que os dados gerais de alinhamento pouco resolvem o problema, enquanto exemplos direcionados ou instruções contextuais durante a inferência o reduzem; uma conclusão adicional é a necessidade de verificar exaustivamente a consistência após o treino.
Em experiências com cinco conjuntos de tarefas e cinco agentes recetores, uma mensagem não fiável de um participante a montante alterou a conclusão correta de um participante a jusante em até 32% dos episódios; em 94% desses casos, observou-se a substituição por uma resposta específica incorreta. Os resultados indicam que, ao transmitir mensagens, é necessário avaliar a fiabilidade da fonte e as evidências já disponíveis para o recetor.
O preprint descreve um modo em que, depois de atingir o objetivo, o agente de linguagem continua a fazer ajustes e verificações de pouca utilidade, explicando-o por um ciclo de autorreforço no qual a geração, a avaliação do progresso e a decisão de parar não estão separadas. A camada adicional de controlo global que tem em conta a incerteza mantém a taxa de sucesso em cerca de 96,6% e, ao mesmo tempo, reduz o consumo médio de tokens em 36,4%, embora as conclusões tenham sido obtidas até agora em simulações mecanísticas.
A Apple lançou para desenvolvedores a build 26B5091g: nesta versão, o foco está nos testes e nas correções, e a empresa não anunciou novos recursos importantes. O resumo inclui os idiomas do Siri AI adicionados na primeira versão beta, problemas conhecidos no Xcode, nas notificações e no Shortcuts, além do prazo previsto para o lançamento.
Os autores propõem o algoritmo Suan, que define o objetivo de treinamento diretamente no nível dos gradientes, contornando a inferência variacional padrão, o que proporciona uma dinâmica de treinamento mais previsível e interpretável. Com base nos resultados de testes em um conjunto de benchmarks, o método oferece proteção reforçada sem a perda característica de utilidade das respostas típica dos modelos abertos.
Cinco modelos conhecidos — do GPT-4o ao Llama-3.1 — emitem veredictos diferentes sobre o mesmo texto quando ele está escrito em urdu, e não em tradução para o inglês: a divergência chega a um terço dos casos, e parte do conteúdo claramente hostil permanece sem marcação. A análise de nove anos de publicações da WOAH mostrou que nenhum trabalho separado foi dedicado a esse idioma.
A ferramenta rebuild-dossier, de Parker Fawcett, primeiro fixa a interface real do aplicativo — o que exatamente é fornecido na entrada e o que obrigatoriamente deve resultar na saída — e só então permite escrever código, conduzindo a construção passo a passo. Os experimentos revelaram algo desagradável: o agente que honestamente seguia as regras falhou na verificação tardia, enquanto o transgressor passou por tudo — ou seja, um conjunto de testes concluído com sucesso não atesta a correção, se os próprios testes podem ser contornados.
Novo preprint do arXiv verifica se é possível confiar na autoavaliação de um modelo de linguagem no momento de escolher um lance. Numa variante de xadrez com um status "real" oculto, a probabilidade declarada ≥0,5 coincidiu com a posição real da peça apenas uma vez em 62 tentativas, e quase todo o déficit de calibração recaiu justamente sobre esses episódios.
