As restrições numéricas e as técnicas de correção determinam a preservação das propriedades da hierarquia hiperbólica

7 novembro 20261 visualizações

O trabalho analisa como a viabilidade de uma restrição sobre uma variedade, a precisão aritmética e a normalização limitam os estados alcançáveis e, assim, influenciam quais evidências de estrutura aprendida permanecem no modelo. Daí decorre que um checkpoint plano preservado não pode ser considerado prova de que a geometria não funciona sem levar em conta, separadamente, as limitações numéricas e as correções.

As restrições numéricas e as técnicas de correção determinam a preservação das propriedades da hierarquia hiperbólica

Implementação numérica como condição para a hierarquia hiperbólica

A geometria hiperbólica representa a hierarquia com uma precisão que não é alcançada pelo espaço euclidiano de dimensão comparável. Os modelos de linguagem hiperbólicos restringem essa geometria a adaptadores ou reestruturam o transformador. Uma auditoria independente de checkpoints de visão-linguagem hiperbólicos disponibilizados detetou mecanismos de hierarquia inativos. Este resultado foi interpretado como evidência sobre a geometria ou a função objetivo.

Elementos-chave:

  • A geometria define a representação da hierarquia.
  • Os adaptadores e a reestruturação do transformador são duas formas de incorporar a geometria num modelo de linguagem.
  • A auditoria abrange checkpoints disponibilizados.
  • O resultado da auditoria admite duas interpretações: geometria ou função objetivo.

Conclusão: a preservação das características deve ser verificada juntamente com a implementação numérica, e não apenas com base na geometria escolhida.

Restrição da variedade e limite da precisão dupla

A restrição que define a variedade é a diferença entre dois termos que crescem em conjunto. Para o mapa sem limitação, com curvatura e temperatura unitárias, a restrição não é satisfeita em nenhum dos formatos medidos. A precisão dupla está entre eles. A violação ocorre com normas que os modelos de linguagem padrão produzem nas camadas mais profundas. Isto ultrapassa os limites da estimativa obtida anteriormente.

O que importa verificar:

  • Formato dos cálculos: incluindo a precisão dupla.
  • Curvatura e temperatura: curvatura e temperatura unitárias.
  • Normas produzidas pelas camadas mais profundas.
  • Relação entre os dois termos crescentes da restrição.

Conclusão: verificar a restrição sem ter em conta as normas das camadas mais profundas não permite avaliar o seu comportamento. O critério é medir o cumprimento da restrição com as normas que o modelo produz.

Restrição da norma e sensibilidade radial

Uma correção comum é a restrição da norma. Esta deixa o mapa executável sem sensibilidade radial nas regiões em que se aplica. O facto de o mapa ser executável não garante sensibilidade radial. Esta técnica não recupera a sensibilidade radial.

Elementos-chave:

  • A restrição da norma torna o mapa executável.
  • Na região em que a restrição se aplica, não há sensibilidade radial.
  • A executabilidade e a sensibilidade radial são propriedades distintas do mapa.
  • A técnica é comum, mas não preserva a sensibilidade radial.

Conclusão: a restrição da norma não deve ser considerada uma correção suficiente. O critério é verificar a sensibilidade radial do mapa, e não apenas a sua executabilidade.

Restrições rígidas e correções aritméticas no treino

Num teste predefinido, uma restrição mais rígida custou mais estrutura retida ao sistema de Lorentz do que ao sistema plano. A aprendizagem estrutural decorreu em seis sistemas especialistas ao longo de 20,951,552 apresentações de treino. Em execuções emparelhadas, com a função objetivo da receita publicada inalterada, foram testadas duas alterações. A remoção da correção inicial de escala impedia todas as atualizações. A remoção das regiões de precisão simples aumentava o raio alcançado na fase inicial do treino.

Alteração ou condiçãoEfeito observado
Restrição mais rígidaCustou mais estrutura retida ao sistema de Lorentz do que ao sistema plano
Remoção da correção inicial de escalaImpedia todas as atualizações
Remoção das regiões de precisão simplesAumentava o raio alcançado na fase inicial do treino
Aprendizagem estruturalDecorreu em seis sistemas especialistas ao longo de 20,951,552 apresentações de treino

Conclusão: a rigidez da restrição e as correções aritméticas alteram os estados alcançados numa execução. As geometrias devem ser comparadas em condições aritméticas idênticas.

Critério prático para a preservação das características

A aritmética limita a região computável. Dentro dela, a aritmética e as respetivas correções atuam juntamente com a função objetivo. Determinam quais as execuções que deixam registo e que estados alcançam ao longo do percurso. Um checkpoint plano preservado, por si só, não prova que a geometria seja inerte.

Critérios de verificação:

  • Medir o cumprimento da restrição da variedade com as normas das camadas mais profundas.
  • Ter em conta o formato de precisão, incluindo a precisão dupla.
  • Verificar a sensibilidade radial do mapa depois da restrição da norma.
  • Registar a correção inicial de escala e as regiões de precisão simples.
  • Comparar execuções com a função objetivo inalterada e em condições aritméticas idênticas.

Conclusão: a preservação das características da hierarquia hiperbólica é confirmada pela verificação das condições aritméticas em que os estados do modelo foram obtidos. O tipo de geometria e um checkpoint preservado, por si só, não o comprovam.

Perguntas mais frequentes

Materiais semelhantes

Todos os materiais
Verificação de alucinações em LLMs com uma representação SQL das fontes, sem ajuste fino
Notícias

Verificação de alucinações em LLMs com uma representação SQL das fontes, sem ajuste fino

Este trabalho avalia se uma LLM consegue recorrer a uma competência simbólica básica — construir uma base de dados SQL a partir de documentos de origem — para fundamentar as respostas nas fontes sem supervisão na deteção de alucinações. No RAGTruth e no DiaHalu, este pipeline neuro-simbólico revela-se mais preciso do que a previsão direta e comparável aos métodos mais avançados, sem exigir afinação específica ao domínio.

9 novembro 2026
MathAdv: o que esconde a precisão final das provas geradas por máquina
Notícias

MathAdv: o que esconde a precisão final das provas geradas por máquina

Um conjunto de tarefas de diagnóstico em 13 áreas da matemática de nível universitário e de pós-graduação avalia sistemas de demonstração automática em Lean 4 não só pelo resultado final, mas também pelo domínio da matéria, pela qualidade do raciocínio informal e pela robustez perante reformulações das condições. A análise por componente mostra que traduzir um problema para uma forma formal continua a ser o principal obstáculo, e que o sucesso depende muito da área da matemática e da forma como o problema é formulado.

9 novembro 2026
AffordanceWAM: affordances como intermediárias entre a previsão da cena e o controlo do manipulador
Investigação

AffordanceWAM: affordances como intermediárias entre a previsão da cena e o controlo do manipulador

O trabalho descreve um modelo generativo que prevê simultaneamente observações RGB futuras, campos escalares, mapas de calor de affordances e comandos contínuos para o robô, usando vídeos humanos para ampliar a diversidade das interações sem anotações de ações nem retargeting. No RoboCasa, no CALVIN ABC→D e em tarefas reais, a abordagem apresenta ganhos consistentes em relação às linhas de base que usam apenas RGB e apenas dados robóticos.

9 novembro 2026
As restrições numéricas e as técnicas de correção determinam a preservação das propriedades da hierarquia hiperbólica