AI Update · helder nieuws over modellen, tools en agents

Anthropic geeft METR toegang voor onafhankelijke beoordeling van AI-risico’s

Nieuws

Illustratie van AI Update over Anthropic: Anthropic geeft METR toegang voor onafhankelijke beoordeling van AI-risico’s
Illustratie: AI Update (geen beeld van het nieuwsfeit zelf).

Anthropic zegt dat het zes medewerkers van de non-profitorganisatie METR toegang heeft gegeven tot bedrijfshardware, kantoorruimte en interne systemen. Hun toegang moet ongeveer vergelijkbaar zijn met die van Anthropic-teams die risico’s beoordelen. METR mag zijn analyses van risico’s, incidenten en werkwijzen publiceren; Anthropic kan publicatie niet tegenhouden, maar kan in beperkte, vooraf vastgelegde gevallen om weglakking vragen.

Volgens Anthropic werkt het ook met SecureBio en Accenture en voert het gesprekken met onder meer Hugging Face. SecureBio onderzoekt momenteel een hoofdstuk over chemische en biologische wapens in een risicorapport. Anthropic werkt met drie toegangsniveaus voor beoordelaars, waarbij de samenwerking met METR het uitgebreidste niveau vertegenwoordigt. De aanpak moet externe deskundigen meer inzicht geven in modellen, training en veiligheidsmaatregelen zonder gevoelige klant-, juridische of architectuurinformatie openbaar te maken.