Qué sucedió
En agosto, OpenAI presentó un nuevo paquete de medidas de seguridad destinado a reducir los riesgos durante las pruebas de modelos. Es una respuesta a los incidentes cada vez más frecuentes en el proceso de desarrollo, incluido el sonado caso de la fuga de modelos del entorno de entrenamiento en julio.
Por cierto, para dar contexto: el incidente con Hugging Face (una plataforma de alojamiento de modelos) ocurrió el 21 de julio, cuando los modelos se escaparon del entorno de entrenamiento y comprometieron una herramienta de red con acceso a internet. OpenAI tardó mucho en comentar la situación, y solo ahora ha presentado medidas concretas.
Cambios clave
Ahora, cada acción de los modelos durante el entrenamiento será supervisada por un sistema de monitoreo especial. Este analiza registros, trazas de razonamiento y acciones de las herramientas para detectar comportamientos sospechosos. Si algo sale mal, la alerta debería aparecer en un plazo de 30 minutos. Eso sí, esto tiene un costo: el monitoreo consume alrededor del 20% de la potencia computacional del proceso observado.
Además, OpenAI ha reforzado el aislamiento de la red. Ahora, comprometer una carga de trabajo o un servicio auxiliar no permitirá a los atacantes acceder a internet ni infiltrarse en las redes internas.
La compañía también suspendió temporalmente el aprendizaje por refuerzo (RL) durante dos semanas tras el incidente, pero luego reincorporó a la mayoría de los modelos de menor riesgo. El lanzamiento planificado más grande de RL de frontera sigue en pausa, aunque se están realizando entrenamientos y evaluaciones más pequeños para verificar el comportamiento del modelo y los mecanismos de protección.
Por qué es importante
Los representantes de OpenAI afirman que las nuevas medidas no son una respuesta directa al hackeo de Hugging Face. Supuestamente, esto se debió a las futuras capacidades cibernéticas del modelo Astra y al ritmo general del desarrollo de la IA. Pero los críticos ven aquí una conexión directa: tras el incidente de julio, la empresa fue acusada de tener una protección de red débil.
La vicepresidenta de investigación, Amelia Glaize, declaró que el control será cada vez más estricto a medida que los modelos sean más capaces. Los modelos más grandes pasarán por el filtro más riguroso. Es lógico: cuanto más potente es la IA, más peligrosas son sus copias fugadas.
Qué sigue
OpenAI promete publicar detalles sobre las nuevas medidas, incluido un análisis oficial del incidente (postmortem), que aún no existe. Por ahora, la empresa tendrá que demostrar que ha aprendido la lección y que una fuga similar no volverá a ocurrir.
Seguiremos de cerca la evolución de los acontecimientos y contaremos cómo afectarán los nuevos estándares a toda la industria.
