Just nu Banker vill minska sin AI-skuldexponering när motståndet växerAlla →
Tisdag 17 november 2026
Uppdaterad 06:57

Säkerhet & risker · Fördjupning

FördjupningSäkerhet & risker · Regler & samhälle

OpenAI ger fyra externa forskargrupper tillgång till intern information

OpenAI har tecknat avtal med Apollo Research, METR, Transluce och Goodfire, uppger The Information. Organisationerna får tillgång till en del av bolagets interna information för att bedöma risker i tekniken.

Skriven av AI · Granskas av Anders StensiöSå arbetar viPublicerad 06:131 min läsning

Källor 2 källor

  1. MediumThe Neuron – OpenAI Wants Outsiders to Catch AI Deception. Will They?theneuron.ai ↗
  2. MediumThe Information – OpenAI Signs Agreements to Embed AI Evaluatorstheinformation.com ↗

OpenAI sade på måndagen den 16 november att bolaget har tecknat avtal med de fyra organisationerna, enligt The Information. Organisationerna får tillgång till en del av OpenAI:s interna information för att bedöma risker i bolagets teknik och arbetssätt. Tidningen skriver att beskedet följer på OpenAI:s åtagande i september att placera granskare inne i bolaget, och att det kommer efter att OpenAI och METR samarbetat för att utreda en incident i juli.

The Neuron skriver att de fyra oberoende forskargrupperna får tillgång till OpenAI:s interna AI-modeller och säkerhetssystem för att undersöka vilseledande beteende hos modeller. Enligt The Neuron möter forskarna begränsningar i vad de får undersöka och redovisa.

Apollo Research publicerade samma dag ett inlägg om sin del. Organisationen skriver att ett team på sex personer ska arbeta inom OpenAI i fyra månader. De ska bedöma modellernas inriktning under träning, utvärdering och intern användning, med avgränsade åtkomstregler. Målet är att undersöka om modeller försöker undergräva sina egna eller efterföljande modellers kontrollmekanismer.

Apollo säger att piloten ska se på fyra frågor. Premierar träningen sådant beteende? Kan utvärderingar locka fram det? Förekommer det under intern användning? Skulle resonemang som hör ihop med det kunna upptäckas?

Enligt Apollo har OpenAI gått med på att organisationen offentligt får förklara villkoren och begränsningarna i arbetet. Apollo kallar den rätten, som organisationen kallar meta-transparens, en miniminivå för alla utvärderingsuppdrag. Tidigare utvärderingar av ledande modeller har enligt Apollo gjorts efter efterträningen och strax före lansering. Apollo anser att det inte räcker för att testa beteenden som vilseledning eller intern användning som inte är offentlig.