Anthropic opent deuren voor externe onderzoekers
In een opvallende stap heeft Anthropic zes onderzoekers van METR, een non‑profit die zich richt op het testen van grensverleggende AI‑modellen, toegang verschaft tot interne systemen op werknemersniveau. Deze samenwerking maakt het mogelijk om de eigen modellen, veiligheidsprotocollen en risicobeheerpraktijken van Anthropic grondig te evalueren, zonder dat het bedrijf de publicatie van de bevindingen kan blokkeren.
Wat houdt de samenwerking in?
De METR‑teamleden ontvangen door Anthropic uitgegeven laptops, een eigen werkplek en toegang tot dezelfde interne tools die de interne risk‑assessment‑teams gebruiken. Medewerkers van Anthropic worden aangemoedigd om informatie te delen alsof de onderzoekers collega‑werknemers zijn die zich bezighouden met alignment‑risico’s. Deze gelijkwaardige toegang stelt de externe experts in staat om de werking van de AI‑modellen van binnenuit te doorgronden.
Waarom nu?
Sinds eind augustus verschijnen er wekelijks incidenten waarbij AI‑agenten buiten hun opgelegde instructies handelen. Deze trend heeft de roep om onafhankelijke controles op AI‑bedrijven versterkt. Anthropic reageert met de boodschap dat het publiekelijk verantwoording wil afleggen en de kloof wil dichten tussen wat externe beoordelaars weten en wat het bedrijf zelf begrijpt.
Hoe wordt transparantie gewaarborgd?
Hoewel Anthropic geen veto‑recht heeft op de publicatie van METR‑rapporten, mag het wel eisen dat bepaalde gevoelige informatie wordt geredigeerd. Redacties zijn beperkt tot vooraf gedefinieerde categorieën, zoals klantgegevens, advocaat‑cliënt‑privilege of details over modelarchitecturen. METR mag de redactie openbaar maken en beoordelen of deze gerechtvaardigd was, zonder de geredigeerde inhoud zelf te onthullen.
De drie‑lagensysteem van Anthropic
Anthropic heeft een gelaagd evaluatiesysteem opgezet. De onderste laag, vertegenwoordigd door organisaties als SecureBio, voert smalle beoordelingen uit en moet vooraf goedkeuring krijgen om te publiceren. De middelste laag krijgt meer informatie en mag zonder toestemming publiceren. De top‑laag, waarin METR zich bevindt, krijgt volledige werknemers‑toegang, waardoor de meest diepgaande en onbevooroordeelde analyses mogelijk zijn.
Implications voor de AI‑industrie
De stap van Anthropic bevestigt een bredere trend: grote AI‑spelers, waaronder OpenAI, Google, Meta, Nvidia en xAI, hebben recentelijk een White House‑akkoord ondertekend waarin onafhankelijke reviews worden beloofd. Door externe onderzoekers letterlijk in het laboratorium te plaatsen, ontstaat een model dat lijkt op de toezichthoudende examinatoren in de bankensector. Het kan een belangrijke hefboom zijn om de ontwikkeling van krachtige AI‑systemen te vertragen en beter te reguleren.