ChatGPT Goblin Glitch: Por que o modelo falou sobre Goblins e Gremlins

18 agosto 202621 visualizações

OpenAI explicou que, devido a um loop de feedback durante o treinamento, os modelos GPT e Codex começaram a inserir obsessivamente menções de duendes e gremlins. Isso apareceu mais frequentemente na predefinição Nerdy, e a empresa teve que adicionar restrições especiais para corrigir o problema.

ChatGPT Goblin Glitch: Por que o modelo falou sobre Goblins e Gremlins

Introdução

Nas últimas semanas, os utilizadores de ChatGPT encontraram um novo passatempo: enviam imagens umas das outras nas quais o chatbot começa a falar de repente sobre duendes, gremlins e outras criaturas sortidas. Parece que a rede neural adquiriu algum hábito viral e agora desliza palavras estranhas nas respostas mais comuns. Vamos descobrir o que foi isto e porque é que o OpenAI reconheceu oficialmente o problema.

Como os usuários perceberam a anomalia

O comportamento incomum foi primeiramente discutido em fóruns dedicados a GPT-5.5 e Códice. Os usuários postaram diálogos em que o modelo mencionou “modo goblin”, “largura de banda goblin” e “perf gremlin” sem motivo aparente. No início, isso foi descartado como falhas aleatórias, mas as imagens continuaram se acumulando. Tornou-se claro: o modelo foi fixado em certas palavras, e isso aconteceu em diferentes estilos de comunicação.

Um participante de discussão descobriu que as instruções do sistema do Codex explicitamente proíbem mencionar duendes, gremlins, guaxinins, trolls, ogres, pombos e outras criaturas de fantasia — a menos que sejam relevantes para o pedido do usuário. Em outras palavras, os desenvolvedores já estavam cientes do problema e estavam tentando contê-lo , mas aparentemente não inteiramente.

O que o OpenAI encontrou

Em 29 de abril de 2026, a OpenAI publicou uma peça oficial intitulada “De onde vieram os duendes”. Nele. , a empresa reconheceu que GPT e Codex haviam desenvolvido um “hábito de fala” persistente — o modelo acrescentou cada vez mais palavras como goblin e gremlin, mesmo quando os usuários não haviam solicitado.

De acordo com os dados, após o lançamento do GPT-5.1, a frequência da palavra goblin nas respostas aumentou em 175% e o gremlin em 52%. Até ao momento GPT-5.5 foi lançado, isto tornou-se tão perceptível que restrições especiais tiveram de ser introduzido para o Codex. Ainda assim, o fenómeno não podia ser totalmente erradicado.

Por que aconteceu: o loop de feedback

Sam Altman, em uma reação pública, chamou o que estava acontecendo de “momento de duende”. Mas as piadas à parte, as causas foram mais profundas. Uma auditoria interna mostrou que a anomalia mais frequentemente apareceu na predefinição de personalidade Nerdy. Este estilo foi utilizado em apenas 2,5% do total ChatGPT respostas, contudo, foram responsáveis por 66,7% de todas as menções da palavra goblin. Quase todos os casos problemáticos foram ligados especificamente a esse tom “nerdia”.

O sinal de recompensa para o modo Nerdy em 76,2% dos conjuntos de dados preferiu sistematicamente respostas contendo goblin ou gremlin sobre alternativas sem essas palavras. Ou seja, o modelo recebeu periodicamente reforço positivo por utilizar palavras “brincadeiras” e Esse reforço superou os outros sinais.

OpenAI descreveu a situação como um loop de feedback clássico: o modelo recebe uma recompensa por um estilo lúdico; o estilo lúdico aparece mais frequentemente em dados de implantação; respostas semelhantes acabam em ajustes finos subsequentes; como resultado, o tique verbal torna-se ainda mais entrincheirado. A cada ciclo, os “goblins” tornam-se mais insistentes até que comecem a escorregar para os lugares mais inapropriados.

O que isto significa para os utilizadores

Se você encontrou um chatbot de repente começando para falar sobre gremlins ou oferecer uma “solução de goblim”, saiba que não é uma alucinação e nem uma invenção de sua imaginação. Esse comportamento foi registrado e estudado — e é inteiramente explicável. O OpenAI já está trabalhando para suavizar o efeito, mas pode levar tempo até que as coisas estejam totalmente resolvidas. Enquanto isso, este é um grande lembrete de que modelos de linguagem grandes não são apenas algoritmos, mas sistemas que aprendem com suas próprias respostas, e às vezes esse processo de auto-reforço leva a curiosas peculiaridades.

Para os usuários, porém, este é mais um episódio engraçado do que um problema sério. A rede neural não se torna mais perigosa por causa de palavras sobre duendes — às vezes ela se comporta como uma criatura dos Arquivos X.

Perguntas mais frequentes

ChatGPT: por que a rede neural fala sobre duendes e gremlins