OpenAI publicerar egna mätningar av hur kodningsagenter påverkar AI-forskningen
OpenAI har publicerat två texter om avancerade AI-system. Den ena handlar om hur kodningsagenter snabbar upp AI-forskning och var deras prestanda är ojämn. Den andra handlar om hur företaget hanterar risker från träning till driftsättning.
Källor 2 källor · 2 primärkällor
- ✓ PrimärkällaOpenAI, Research acceleration: The jagged frontieropenai.com ↗
- ✓ PrimärkällaOpenAI, Managing frontier AI risk: From training to deploymentopenai.com ↗

OpenAI har publicerat två texter på sin webbplats. Den ena, "Research acceleration: The jagged frontier", beskriver enligt OpenAI hur företaget mäter att kodningsagenter påskyndar AI-forskning, var agenternas prestanda fortfarande är ojämn och vad det signalerar om rekursiv självförbättring [1].
Den andra texten, "Managing frontier AI risk: From training to deployment", beskriver hur OpenAI hanterar risker med avancerade AI-modeller från träning till driftsättning. Enligt OpenAI sker det genom modellanpassning (alignment), isolerade testmiljöer (sandboxing), blockerande spärrar och övervakning [2].
Har vi fel? Skicka en rättelse.
Läs nästa

Mer om forskning
Axiom Math har låtit AI-agenter formalisera två av matematikens största verk
Talmönster kan avslöja demensrisk, visar AI-forskning