Anthropic har aktiverat en del av sitt säkerhetsramverk inför börsintroduktionen
Anthropic har aktiverat en del av sin Responsible Scaling Policy, ramverket som ska hindra att AI utvecklas så snabbt att det ger katastrofala risker, uppger Financial Times. Future of Life Institute och dess ordförande Max Tegmark kritiserar bolaget för kapplöpningen mot AI som kan bygga sig själv.
Källor 2 källor

Anthropic har enligt Financial Times meddelat att bolaget aktiverat en del av sin Responsible Scaling Policy [1]. Ramverket skapade bolaget för att AI inte ska utvecklas så snabbt att det orsakar "catastrophic risks", katastrofala risker [1]. Beskedet kommer dagen före Anthropics börsintroduktion [1].
CASRAI, en organisation för forskningsadministration, skriver att Anthropics ansökan till den amerikanska börsmyndigheten, S-1, har gått från formuleringen "may imminently meet" till "has met". Det gäller bolagets egen tröskel för kraftigt påskyndad AI-utveckling, och ändringen fanns enligt CASRAI på plats senast den 10 november 2026 [3].
Kritiken från Tegmark och FLI
Future of Life Institute (FLI) publicerade den 18 november 2026 ett uttalande där kända personer fördömer Anthropics inriktning mot rekursiv självförbättring, förkortat RSI. FLI definierar RSI som AI som kan bygga sig själv [2]. Bland dem som undertecknat finns författarna Steven Pinker och Rutger Bregman samt Igor Babuschkin, medgrundare av xAI, och Thomas Wolf, medgrundare av Hugging Face. Enligt FLI står även Nobelpristagare och Fieldsmedaljörer bakom uttalandet [2]. Texten kräver att Anthropics politiska inflytande ska begränsas [2].
Tegmark är FLI:s ordförande och har själv undertecknat. Han skriver att Anthropic är det bolag som är mest skyldigt till att ta risker med RSI. Han hävdar att bolagets ledning offentligt varnar för okontrollerbara system, medan bolaget privat driver på och säger till tänkbara investerare att RSI är dess konkurrensfördel [2]. "Inför den här börsintroduktionen bör människor fundera på om avkastningen är värd att riskera sina närmastes liv", skriver han [2].
Tegmark och Anthony Aguirre, FLI:s vd, är medgrundare av organisationen [2].
- Anthropics aktie börjar handlas på torsdag, enligt Yahoo Finance.
Har vi fel? Skicka en rättelse.
Läs nästa
Mer om säkerhet & risker
Palmer Luckey varnar att AI-stödda cyberattacker går om försvaren