Volumen y propósito de la inversión
Anthropic y Accenture planean invertir al menos 2.000 millones de dólares en cinco años en la evaluación independiente, las pruebas de red team y la revisión de la seguridad de modelos avanzados de IA.
Cada empresa tiene previsto destinar al menos 1.000 millones de dólares al desarrollo de capacidades para probar la seguridad de la IA y supervisarla. Se trata de planes de inversión, no de una confirmación de que los fondos ya se hayan gastado.
Los principales parámetros de la iniciativa son el importe mínimo anunciado, el periodo de cinco años y el destino de las inversiones.
Cómo se organizará la evaluación independiente
Los socios han elegido el enfoque de evaluación integrada (embedded evaluation): los evaluadores independientes trabajarán dentro de Anthropic. Tendrán un acceso comparable al de los empleados.
Los evaluadores podrán:
- revisar las operaciones de la empresa y el cumplimiento de sus compromisos de seguridad;
- detectar puntos ciegos e informar de incidentes;
- ofrecer al público una visión más informada de las ventajas y los riesgos.
El criterio práctico de esta revisión no es solo la participación de evaluadores externos, sino también su acceso al trabajo de la empresa.
Funciones de Accenture Faculty
La división especializada en IA de Accenture, Accenture Faculty, liderará la colaboración. Evaluará los modelos de Anthropic y les realizará pruebas de red team.
Sus funciones también incluirán evaluaciones de conformidad y pruebas de los mecanismos de protección de los modelos. Así queda definido el ámbito de trabajo específico de Accenture Faculty dentro de la colaboración.
Por qué el enfoque aún está en desarrollo
Anthropic describe la evaluación integrada como un campo en desarrollo. La empresa está debatiendo proyectos piloto con la organización evaluadora sin ánimo de lucro METR y otras organizaciones.
Anthropic espera que, con el tiempo, surjan estándares comunes en un ecosistema de evaluación más amplio. La colaboración surge en un contexto de creciente atención por parte de los reguladores, los investigadores y las empresas a la protección de modelos más potentes.
Aquí, los estándares comunes se presentan como una dirección prevista, no como un resultado ya alcanzado.
