12 materiales
Los investigadores descubrieron que los métodos estándar de desaprendizaje de LLM se rompen fácilmente al reentrenar con un pequeño número de ejemplos olvidados. La técnica propuesta por ellos, Margin Calibration, añade una penalización de margen no saturada y reduce notablemente el éxito de estos ataques en distintos modelos y conjuntos de datos.
Un nuevo estudio muestra que un juez LLM sesgado rompe silenciosamente el mecanismo de descarte de habilidades fallidas: si la proporción de falsos éxitos supera 0,45, el sistema deja de limpiar la biblioteca de habilidades, y esto no se detecta en las métricas agregadas. Los autores proponen una auditoría económica con inyección de defectos para verificar al juez antes del despliegue.
Varios especialistas en ciberseguridad informaron que perdieron el acceso al nivel Daybreak Blue en el programa Trusted Access for Cyber. OpenAI reconoció el problema de su lado y solicitó volver a pasar la verificación.
El éxito de los modelos de lenguaje no solo está relacionado con la reutilización de tokens, sino también con cómo está estructurada la compresión. Para la música, intentar fijar de antemano las relaciones, por ejemplo mediante el círculo de quintas, empeora las predicciones — es más importante dejar el contexto al modelo y definir correctamente el tiempo.
Analizamos los métodos más fiables para instalar Stable Diffusion en PC: el instalador oficial ComfyUI Desktop, el universal Pinokio y Forge Neo para modelos modernos. Explicamos qué GPU se necesita, por qué Automatic1111 ya no es la mejor opción y cuánto tiempo se tarda hasta la primera imagen generada.
Los autores demostraron que el ajuste adversarial convencional de los prompts hace que el modelo se aferre a características pseudoestables y pierda precisión en clases nuevas. El nuevo método ADAPT con prompts señuelo resuelve este problema al separar las características útiles de los atajos generalizables.
Un nuevo estudio muestra que incluso los agentes de IA prometedores con memoria textual se degradan significativamente al cambiar el orden de las tareas, y su evaluación es ruidosa. Los autores piden protocolos de prueba más rigurosos y cautela al sacar conclusiones sobre mejoras.
El nuevo enfoque InnerExpert aprovecha las características de enrutamiento y los desacuerdos entre expertos en los modelos MoE para detectar fragmentos inventados a nivel de tokens. El método se entrena sin anotación manual y, en cinco conjuntos de datos, alcanza hasta 0.91 de precisión a nivel de respuesta y 0.76 a nivel de token en una sola pasada.
Los autores evaluaron seis modelos de lenguaje con preguntas sobre vuelos, apartamentos y hoteles, y descubrieron que las respuestas numéricas sobre la disposición a pagar se contradicen sistemáticamente entre sí. Debido a esto, dichas estimaciones no pueden describirse mediante una única función de utilidad, por lo que confiar en ellas para la toma de decisiones resulta arriesgado.
