Montant et objet des investissements
Anthropic et Accenture prévoient d’investir au moins 2 milliards de dollars sur cinq ans dans l’évaluation indépendante, le red teaming et la vérification de la sécurité des modèles d’IA de pointe.
Chaque entreprise prévoit d’allouer au moins 1 milliard de dollars au développement des capacités de test de la sécurité de l’IA et de supervision. Il s’agit de projets d’investissement, et non de la confirmation de dépenses déjà effectuées.
Les principaux repères de l’initiative sont le montant minimum annoncé, la période de cinq ans et les domaines auxquels les investissements seront consacrés.
Comment l’évaluation indépendante sera organisée
Les partenaires ont choisi l’approche de l’évaluation intégrée (embedded evaluation) : des évaluateurs indépendants travailleront au sein d’Anthropic. Leur accès sera comparable à celui des employés.
Les évaluateurs pourront :
- examiner les activités de l’entreprise et le respect de ses engagements en matière de sécurité ;
- repérer les angles morts et signaler les incidents ;
- fournir au public une vision plus éclairée des avantages et des risques.
Le critère pratique d’une telle évaluation ne se limite pas à la participation d’évaluateurs externes : il tient aussi à leur accès aux activités de l’entreprise.
Les missions d’Accenture Faculty
L’activité spécialisée dans l’IA d’Accenture, Accenture Faculty, dirigera le partenariat. Elle évaluera les modèles d’Anthropic et mènera des exercices de red teaming sur ceux-ci.
Ses missions comprendront également des évaluations de conformité et des tests des mécanismes de protection des modèles. Cela définit le domaine de travail concret d’Accenture Faculty au sein du partenariat.
Pourquoi cette approche est encore en développement
Anthropic décrit l’évaluation intégrée comme un domaine en développement. L’entreprise discute de projets pilotes avec l’organisme d’évaluation à but non lucratif METR et d’autres organisations.
Anthropic s’attend à ce que des normes communes voient le jour au fil du temps au sein d’un écosystème d’évaluation plus large. Le partenariat s’inscrit dans un contexte d’attention croissante des régulateurs, des chercheurs et des entreprises à la protection des modèles plus puissants.
Les normes communes sont présentées ici comme une orientation attendue, et non comme un résultat déjà atteint.
