Modelos de difusión discretos: un marco general en el que el diseño del espacio de estados determina la generación

20 septiembre 202639 vistas

Los autores proponen considerar estos modelos a través de la lente de la construcción de un espacio de estados discreto: esquemas de tokenización, topología del vocabulario y alfabetos específicos del dominio. Las transiciones matriciales, los estados enmascarados y los enfoques basados en scoring resultan ser casos particulares de un mismo espacio de diseño, lo que pone al descubierto compromisos comunes en los objetivos de entrenamiento, los algoritmos de inferencia, el escalado, la optimización de sistemas y los protocolos de evaluación.

Modelos de difusión discretos: un marco general en el que el diseño del espacio de estados determina la generación

El lugar de los modelos de difusión discreta

Los modelos de difusión de denoising discreta (DDM) trabajan con datos discretos. Constituyen una alternativa al modelado autorregresivo (AR). En lugar de continuar la secuencia paso a paso, el modelo genera en paralelo y refina el resultado de forma iterativa y global.

La principal diferencia con la difusión continua es la estructura del espacio de estados. En el caso continuo, el espacio es fijo. En el caso discreto, se construye, y de esa construcción depende la generación.

EnfoqueModo de generación
Modelado autorregresivoGeneración secuencial
Difusión continuaRefinamiento iterativo con espacio de estados fijo
Difusión discretaGeneración paralela y refinamiento global iterativo

El criterio de elección es simple. Los DDM se emplean donde se necesitan generación paralela y refinamiento global del resultado. Pero la calidad de dicha generación no depende solo del modelo en sí.

Espacio de estados: tres componentes

El marco unificado contempla la difusión discreta a través de la construcción del espacio de estados discreto subyacente. En la construcción intervienen tres elementos.

  • El esquema de tokenización determina en qué unidades se dividen los datos.
  • La topología del vocabulario determina cómo se relacionan esas unidades entre sí.
  • Los alfabetos estructurales de dominio definen las unidades y las relaciones específicas de la materia.

Estas tres decisiones no se reducen a ajustes sobre un modelo ya listo. Definen el propio espacio por el que transcurre la difusión. Por eso la tokenización y la generación se consideran dentro de un mismo marco, y no por separado.

Criterio práctico: primero se describe el espacio de estados, luego se elige la formulación del modelo.

Marco unificado y tres formulaciones

Las formulaciones existentes de la difusión discreta resultan ser distintas instancias de un mismo espacio de soluciones. En el marco hay tres.

  • Transition-matrix — formulación mediante la matriz de transiciones.
  • Masking / absorbing-state — formulación mediante enmascaramiento y estado absorbente.
  • Score / ratio-based — formulación mediante score y cocientes.

El marco muestra que no son teorías competidoras, sino variantes de una misma construcción. La diferencia entre ellas reside en el modo de formulación, y lo común está en el espacio de soluciones al que pertenecen.

Criterio: comparar formulaciones tiene sentido dentro de un mismo marco. La elección entre ellas es secundaria respecto a cómo está estructurado el espacio de estados.

Compromisos transversales

Ejes por los que se relacionan las decisiones

El marco revela compromisos comunes en varios ejes a la vez:

  • objetivos de entrenamiento;
  • algoritmos de inferencia;
  • comportamiento al escalar;
  • optimización sistémica;
  • protocolos de evaluación.

Los ejes están interconectados. La decisión sobre el objetivo de entrenamiento limita la elección del algoritmo de inferencia. La optimización sistémica y los protocolos de evaluación dependen de esa misma elección.

Cómo utilizarlo

La comparación de variantes se lleva a cabo por todos los ejes a la vez. La ventaja en un eje no exime de verificar los demás. El marco también señala direcciones para investigaciones futuras.

Orden de las decisiones

  1. Describir el espacio de estados: el esquema de tokenización, la topología del vocabulario, el alfabeto estructural de dominio.
  2. Elegir la formulación dentro del marco: matriz de transiciones, enmascaramiento, score/ratio.
  3. Definir el objetivo de entrenamiento y el algoritmo de inferencia para esa construcción.
  4. Verificar la decisión por los ejes: escalado, optimización sistémica, protocolos de evaluación.

Criterio de elección: si la construcción del espacio de estados no está descrita, no se puede justificar la formulación ni el esquema de inferencia. El marco se describe en el trabajo «Discrete Diffusion Models: A Unified Framework from Tokenization to Generation» (arXiv:2607.13431, v2 del 25 de agosto de 2026).

Preguntas frecuentes

Material similar

Todos los materiales
OpenCollab: coordinación programable de agentes, entorno de ejecución controlado y métrica de cumplimiento de las normas
Noticias

OpenCollab: coordinación programable de agentes, entorno de ejecución controlado y métrica de cumplimiento de las normas

El framework integra la definición de la estructura de interacción entre agentes, un entorno común para los experimentos y un seguimiento detallado de los eventos, mientras que la métrica Adherence, introducida en este trabajo, refleja hasta qué punto la ejecución real se ajusta al esquema declarado. En los benchmarks, la configuración Duo alcanza un nuevo nivel de SOTA, mientras que la variante de un solo agente destaca por consumir la menor cantidad de tokens.

11 noviembre 2026
Toollery: selección de herramientas para agentes LLM entre decenas de miles de opciones sin necesidad de ajuste fino
Noticias

Toollery: selección de herramientas para agentes LLM entre decenas de miles de opciones sin necesidad de ajuste fino

Toollery construye un índice de búsqueda a partir de las descripciones de habilidades y herramientas y, al recibir una consulta, solo envía al modelo un conjunto limitado de candidatos. En experimentos con bibliotecas de hasta decenas de miles de funciones, el enfoque permite mantener la calidad de selección con un top-K fijo, aunque el efecto final depende del perfil de carga y del almacenamiento en caché del proveedor.

11 noviembre 2026
Diagnóstico por etapas de agentes GUI al analizar dashboards: el benchmark DashAct
Investigación

Diagnóstico por etapas de agentes GUI al analizar dashboards: el benchmark DashAct

Se presenta DashAct, un benchmark de 348 trayectorias verificadas por humanos que desglosa el trabajo de los agentes GUI con paneles interactivos en tres etapas y cuatro condiciones visuales. Los resultados revelan problemas persistentes para predecir acciones y vincularlas con objetivos visuales, así como la dependencia de las respuestas de los agentes del apoyo contextual y espacial.

11 noviembre 2026
Modelos de difusión discretos: un marco general en el que el diseño del espacio de estados determina la generación