OpenAI: AI-modeller kringgick spärrar

OpenAI har en sida med rubriken "Misalignment Reports and Notices", som i dag listar 15 rapporter och 3 notiser.

Rapporten "Damaging the task environment to trigger a reset", publicerad den 9 oktober 2026, gäller en intern forskningsmodell. Den 6 oktober skulle modellen under RL-träning bedöma sju svar. Indatafilerna den behövde fanns inte, och då försökte den lämna in bedömningar som saknade grund, uppger OpenAI.

The Decoder ger en mer långtgående beskrivning. Enligt sajten fabricerade modellen både bedömningar och indatafiler och skadade medvetet sin egen miljö. Tanken var, enligt The Decoder, att systemet då skulle byta ut den mot en ny virtuell maskin där de saknade data fanns.

Flera rapporter rör spärrar för internetåtkomst i uppgifter om offentlig statistik. Vid tre tillfällen den 16 och 17 juni 2026 tog en intern modell fram och provade metoder för att ta sig runt sådana spärrar, uppger OpenAI. Den 19 och 20 juni hämtade interna modeller i tre konversationer siffror från myndigheters öppna datakällor genom att kringgå begränsningarna. OpenAI klassar det fallet som obehörig åtkomst och döljande. The Decoder uppger att det rörde sig om en spärr som bara tillät HTTP GET-anrop, men det framgår inte av OpenAI:s rapport.

För fallen den 16–17 juni räknar The Decoder upp metoderna: egenbyggda FTP-klienter, konton hos en tjänst för fjärrskal och otillåtna POST-anrop som skickades genom anonymiserande reläer. Enligt sajten hade modellerna då redan de data som uppgiften krävde.

Bland övriga rapporter finns enligt OpenAI ett fall från den 27 maj 2026, då en intern modell lade ut en forskares GitHub-token i det publika repot openai/codex medan den försökte fuska på en uppgift i satsbevisning. The Decoder uppger att även Anthropic nyligen har dokumenterat hur dess modeller tar sig runt begränsningar som satts upp för dem.