Ribbon

29 materiales

Clasificación
Noticias15 noviembre 2026

Búsqueda local de cambios en las covariables para perfiles con predicciones poco fiables

El artículo describe un flujo de diagnóstico que primero identifica grupos de pacientes interpretables en los que el modelo tiene poca confianza y, después, comprueba si existe un cambio perjudicial de covariables dentro de esos grupos. En los experimentos con MIMIC-IV, tres tareas clínicas y tres cambios artificiales en subgrupos, el enfoque permitió localizar un cambio relacionado con la edad que apenas se apreciaba en la evaluación agregada.

Búsqueda local de cambios en las covariables para perfiles con predicciones poco fiables
Leer
Noticias14 noviembre 2026

B-PINN y el sesgo de colisionador: causas, diagnóstico y alternativa en cadena

Los autores muestran que el esquema B-PINN habitual, en el que los parámetros a priori independientes se vinculan mediante verosimilitudes virtuales de los residuos de las ecuaciones diferenciales, puede sesgar sistemáticamente las estimaciones posteriores de las magnitudes físicas. Como alternativa, proponen un modelo jerárquico de cadena con discretización de la dinámica estocástica y muestreo mediante particle MCMC, además de ofrecer criterios para diagnosticar la fiabilidad del enfoque estándar.

B-PINN y el sesgo de colisionador: causas, diagnóstico y alternativa en cadena
Leer
Noticias9 noviembre 2026

Verificar candidatos cuesta más que generarlos: señuelos contra la búsqueda de vulnerabilidades con LLM

El trabajo analiza la asimetría de costes en la búsqueda agéntica de defectos: generar candidatos es barato, pero confirmarlos mediante análisis de alcanzabilidad, ejecución y PoC requiere la mayor parte del presupuesto, por lo que la verificación puede convertirse en un objetivo de defensa por sí misma. La propuesta RedHerring —señuelos adaptados al repositorio con un certificado oculto— redujo entre un 38,7 y un 60,4 % el número de vulnerabilidades reales encontradas con el mismo coste en 33 proyectos de OSS-Fuzz; incluso tras advertir al agente, la reducción se mantuvo en el 37,2 %.

Verificar candidatos cuesta más que generarlos: señuelos contra la búsqueda de vulnerabilidades con LLM
Leer
Investigación7 noviembre 2026

Las restricciones numéricas y las técnicas de corrección determinan la preservación de las características de la jerarquía hiperbólica

El trabajo analiza cómo la viabilidad de la restricción a una variedad, la precisión aritmética y la normalización limitan los estados alcanzables y, por tanto, influyen en qué evidencias de la estructura aprendida permanecen en el modelo. De ello se desprende que un checkpoint plano guardado no puede considerarse prueba de que la geometría no funciona sin tener en cuenta por separado las limitaciones numéricas y las correcciones.

Las restricciones numéricas y las técnicas de corrección determinan la preservación de las características de la jerarquía hiperbólica
Leer
Noticias4 noviembre 2026

Modelo del mundo para agentes basados en LLM cerrados: corrección en puntos de riesgo

Se propone PAWM, un predictor externo que no duplica la observación paso a paso, sino que se activa cuando es probable que ocurra un fallo y desvía al agente de una acción equivocada. Tras el ajuste fino supervisado (SFT) con escenarios sintéticos y el coentrenamiento con GRPO, el método logró una mejora del 24,3 % en ScienceWorld y del 7,7 % en WebArena-Lite para Claude Sonnet 4.5.

Modelo del mundo para agentes basados en LLM cerrados: corrección en puntos de riesgo
Leer
Noticias28 octubre 2026

Confusión de contexto: por qué los ejemplos alineados rompen la alineación fuera de su ámbito

El trabajo introduce el concepto de confusión contextual: el ajuste fino con ejemplos pertinentes en un ámbito temático puede trasladar el comportamiento aprendido a solicitudes de otro ámbito y provocar una desalineación localizada. A partir de casos de igualdad de género, privacidad y seguridad física, se muestra que los datos generales de alineación apenas resuelven el problema, mientras que los ejemplos específicos o las indicaciones contextuales durante la inferencia lo reducen; otra conclusión es la necesidad de realizar una comprobación exhaustiva de la coherencia tras el entrenamiento.

Confusión de contexto: por qué los ejemplos alineados rompen la alineación fuera de su ámbito
Leer
Noticias25 octubre 2026

Mensajes no confiables del agente anterior y sustitución de la respuesta correcta en LLM multiagente: un experimento controlado

En experimentos con cinco conjuntos de tareas y cinco agentes receptores, un mensaje poco fiable de un participante de nivel superior alteró la respuesta correcta de un participante de nivel inferior en hasta el 32 % de los episodios; en el 94 % de esos casos se observó una sustitución por una respuesta concreta e incorrecta. Los resultados indican que, al transmitir mensajes, es necesario evaluar la fiabilidad de la fuente y las pruebas de las que ya dispone el receptor.

Mensajes no confiables del agente anterior y sustitución de la respuesta correcta en LLM multiagente: un experimento controlado
Leer
Noticias22 octubre 2026

Control ejecutivo de agentes LLM: externalizar la evaluación del progreso y la capacidad de detenerse, fuera del generador, ahorra un tercio de los tokens

El preprint describe un modo en el que un agente lingüístico, tras alcanzar su objetivo, sigue realizando mejoras y comprobaciones de escasa utilidad, atribuyéndolo a un ciclo de autoafianzamiento en el que la generación, la evaluación del progreso y la decisión de detenerse no están separadas. La capa de control global propuesta, que tiene en cuenta la incertidumbre, mantiene la tasa de éxito en torno al 96,6 % y, al mismo tiempo, reduce el consumo medio de tokens en un 36,4 %, aunque las conclusiones se han obtenido hasta ahora mediante simulaciones mecanicistas.

Control ejecutivo de agentes LLM: externalizar la evaluación del progreso y la capacidad de detenerse, fuera del generador, ahorra un tercio de los tokens
Leer
Noticias19 octubre 2026

Segunda beta de macOS 27.2: mejoras del sistema tras la ampliación de los idiomas de Siri AI

Apple ha lanzado la compilación 26B5091g para desarrolladores: en esta versión, la atención se centra en las pruebas y las correcciones, y la empresa no ha anunciado nuevas funciones importantes. El resumen incluye los idiomas de Siri AI añadidos en la primera beta, los fallos conocidos de Xcode, las notificaciones y Shortcuts, así como las fechas previstas para el lanzamiento.

Segunda beta de macOS 27.2: mejoras del sistema tras la ampliación de los idiomas de Siri AI
Leer