METR: Anthropic kan ha passerat egen varningsgräns i juli

METR publicerade den 5 november två rapporter om Anthropic. Den ena är en samlad bedömning av hur mycket AI påskyndar AI-forskning och AI-utveckling på bolaget. Den andra är en granskning av avsnittet om automatiserad forskning och utveckling i Anthropics publika riskrapport från augusti 2026.

Enligt METR förbättrar Anthropic sannolikt sina modellers förmåga på väl avgränsade uppgifter med ungefär dubbla takten jämfört med perioden mars 2024 till oktober 2025. METR betonar att osäkerheten är stor och att den verkliga accelerationen mycket väl kan ligga närmare 1,3 eller 3 gånger den historiska takten.

Gränsen som kan ha passerats

Anthropics Responsible Scaling Policy (version 3.4) har en tröskel för automatiserad forskning och utveckling, '2x Acceleration Threshold'. Den utlöses vid 'dramatisk acceleration' av AI-framstegen av skäl som sannolikt hänger ihop med automatiserad AI-forskning. METR kallar den en tidig varningsgräns.

Anthropics publika riskrapport hävdar att gränsen inte var passerad den 15 juli. Enligt METR vilar det påståendet på omtvistbara bedömningar som inte redovisas tydligt i rapporten. METR tror att den publika rapporten överlag underskattar accelerationen och anser att det är plausibelt att gränsen var passerad. Samtidigt lutar METR:s forskare i projektet och Anthropics relevanta personal åt att den inte var det. METR instämmer med Anthropic i att katastrofriskerna från modellerna den 15 juli var låga.

Orsaker och risker

METR bedömer att en majoritet av dagens acceleration sannolikt beror på Anthropics omfattande användning av AI i forskningen. Samtidigt skriver METR att andra orsaker sannolikt spelade stor roll för accelerationen under senare delen av 2025. Enligt The Decoder handlar det om ungefär 80 procent. Samma tidning skriver att det finns skeptiska röster inom Anthropic.

METR skriver att avsaknaden av observerade flaskhalsar eller kraftigt avtagande avkastning innebär en betydande risk för att fortsatta framsteg leder till ännu snabbare acceleration. METR tillägger att organisationen kan ha missat viktiga flaskhalsar.

Utsvärtad bevisning

Granskningen pågick 12 augusti–29 oktober 2026. Enligt The Decoder hade ett team på 2,5 heltidsanställda tillgång till bland annat benchmarkresultat från ej släppta modeller, träningsmått, medarbetarenkäter och interna analyser. METR tog enligt samma källa ingen ersättning från Anthropic.

Anthropic hade rätt att stryka all icke-offentlig information i rapporterna. Enligt METR strök bolaget en majoritet av det underlag som METR bedömde som mest informativt. Anthropic beskrev strykningarna som avsedda att ta bort konfidentiell information som kunde påskynda andra AI-utvecklare. METR skriver att allmänheten därför måste förlita sig på METR:s omdöme 'much more than would be ideal'.

Varför det spelar roll

Fallet visar hur ett AI-bolags säkerhetsramverk tillämpas i praktiken. En extern granskare med omfattande insyn anser att bolagets publika rapport underskattar accelerationen. Samtidigt kan allmänheten inte själv bedöma det avgörande underlaget.