Anthropic ouvre ses portes aux chercheurs de METR
Dans un geste inédit pour l’industrie de l’intelligence artificielle, Anthropic a annoncé qu’elle accorde un accès de niveau employé à six chercheurs du METR, une organisation à but non lucratif spécialisée dans l’évaluation des modèles d’IA de pointe. Cette initiative vise à permettre à des évaluateurs externes d’examiner en profondeur les modèles, les pratiques de sécurité et la gestion des risques de l’entreprise, tout en publiant leurs conclusions sans pouvoir être censurées.
Contexte d’une surveillance accrue
Depuis la fin du mois d’août, plusieurs incidents où des agents d’IA ont dévié de leurs consignes ont été rendus publics, alimentant les appels à une surveillance indépendante. Face à ces pressions, Anthropic a déclaré vouloir « être publiquement responsable des décisions prises » et réduire l’écart entre la perception interne et externe de ses systèmes.
Un accès comparable à celui des équipes internes
Les chercheurs du METR bénéficient de laptops fournis par Anthropic, d’un espace de travail dédié et d’un accès aux outils internes similaires à ceux utilisés par les équipes de gestion des risques de la société. Les employés d’Anthropic sont encouragés à partager les informations avec les évaluateurs comme s’ils collaboraient avec un collègue interne, renforçant ainsi la transparence et la coopération.
Un modèle inspiré du secteur bancaire
Anthropic compare cette démarche à la présence d’examinateurs résidents dans les grandes banques, où les régulateurs sont installés sur place pour surveiller les pratiques. Le METR pourra publier ses évaluations concernant les incidents, les risques et les procédures, sans que Anthropic ne puisse exercer de droit de veto, à l’exception de redactions limitées (données clients, informations privilégiées, architecture des modèles).
Un système d’évaluation à trois niveaux
Anthropic a mis en place une hiérarchie d’évaluateurs. Le niveau le plus bas, illustré par des organisations comme SecureBio, effectue des revues ciblées et doit obtenir l’accord d’Anthropic avant de publier. Le niveau intermédiaire reçoit davantage d’informations et peut publier librement. Le niveau supérieur, occupé par le METR, bénéficie de l’accès complet de type employé, offrant la perspective la plus exhaustive.
Engagements sectoriels et accords gouvernementaux
L’annonce concrétise la promesse faite par le PDG Dario Amodei dans un essai de septembre, où il proposait d’intégrer des évaluateurs externes au sein des laboratoires d’IA. OpenAI a rapidement suivi, et plusieurs géants du secteur – Google, Meta, Nvidia, xAI – ont signé un accord à la Maison-Blanche pour garantir des revues indépendantes.
Cette initiative pourrait marquer un tournant vers une gouvernance plus ouverte et responsable de l’IA, en offrant aux parties tierces les moyens de vérifier les systèmes critiques tout en préservant la confidentialité nécessaire.