12 materiais
Pesquisadores descobriram que os métodos padrão de desaprendizado de LLMs quebram facilmente quando refinados com um pequeno número de exemplos esquecidos. A técnica proposta por eles, Margin Calibration, adiciona uma penalidade de margem não saturante e reduz significativamente o sucesso desses ataques em diferentes modelos e conjuntos de dados.
Um novo estudo mostra que um juiz LLM tendencioso quebra silenciosamente o mecanismo de descarte de habilidades malsucedidas: se a proporção de falsos sucessos exceder 0,45, o sistema para de limpar a biblioteca de habilidades, e isso não é visível nas métricas agregadas. Os autores propõem uma auditoria barata com injeção de defeitos para verificar o juiz antes da implantação.
Vários especialistas em cibersegurança relataram que perderam o acesso ao nível Daybreak Blue no programa Trusted Access for Cyber. A OpenAI reconheceu o problema em seu lado e pediu que a verificação fosse refeita.
O sucesso dos modelos de linguagem não está relacionado apenas à reutilização de tokens, mas também à forma como a compressão é estruturada. Para a música, tentar fixar relações antecipadamente, como através do círculo de quintas, piora as previsões — o mais importante é deixar o contexto para o modelo e definir corretamente o tempo.
Analisamos as formas mais confiáveis de instalar o Stable Diffusion no PC: o instalador oficial ComfyUI Desktop, o universal Pinokio e o Forge Neo para modelos modernos. Explicamos qual GPU será necessária, por que o Automatic1111 não é mais a melhor escolha e quanto tempo levará até a primeira imagem gerada.
Os autores demonstraram que o ajuste adversarial convencional de prompts faz o modelo se agarrar a características pseudo-robustas e perder precisão em novas classes. O novo método ADAPT, com prompts-isca, resolve esse problema ao separar características úteis de atalhos generalizáveis.
Novo estudo mostra que até agentes de IA promissores com memória textual degradam significativamente ao mudar a ordem das tarefas, e sua avaliação é ruidosa. Os autores pedem protocolos de teste mais rigorosos e cautela ao tirar conclusões sobre melhorias.
A nova abordagem InnerExpert utiliza as características de roteamento e divergências entre especialistas em modelos MoE para identificar fragmentos inventados por token. O método é treinado sem anotação manual e, em cinco conjuntos de dados, alcança até 0,91 de precisão no nível de resposta e 0,76 no nível de token em uma única passagem.
Os autores testaram seis modelos de linguagem em perguntas sobre voos, apartamentos e hotéis e descobriram que as respostas numéricas sobre disposição a pagar se contradizem sistematicamente. Por isso, essas estimativas não podem ser descritas por uma única função de utilidade — o que torna arriscado confiar nelas na tomada de decisões.
