OpenAI bromsar Astra efter nya cybertester – kan nå kritisk risknivå

OpenAI bromsar Astra efter nya cybertester – kan nå kritisk risknivå

OpenAI har skärpt säkerhetsarbetet kring den kommande AI-modellen Astra efter interna tester som visat kraftigt förbättrade förmågor inom programmering och cybersäkerhet. Företaget meddelade den 7 augusti 2026 att det inte längre kan utesluta att modellen når den högsta risknivån för cyberförmåga i OpenAI:s Preparedness Framework.

Astra är ännu inte lanserad. Bedömningen är preliminär och betyder inte att modellen redan har klassats som kritisk. Den betyder att resultaten är tillräckligt starka för att OpenAI ska behandla utvecklingen som en möjlig övergång till en betydligt högre risknivå.

Det viktigaste i korthet

| Punkt | Besked från OpenAI |
|---|---|
| Modell | Astra, en kommande AI-modell |
| Datum för beskedet | 7 augusti 2026 |
| Bedömning | Kritisk cyberförmåga kan inte uteslutas |
| Status | Preliminära interna tester pågår |
| Åtgärd | Vissa interna aktiviteter pausas tills starkare kontroller finns |
| Nya skydd | Isolerade testmiljöer, begränsad nätverksåtkomst, kryptering, övervakning och sandlådor |
| Extern granskning | OpenAI ska arbeta med myndigheter och utvalda AI-säkerhetsorganisationer |

Vad menas med kritisk cyberförmåga?

OpenAI använder ett eget ramverk för att bedöma när en modell får så avancerade förmågor att särskilda skydd behöver aktiveras. Inom cybersäkerhet beskriver den kritiska nivån system som kan få mycket stor praktisk betydelse för både försvar och angrepp.

En modell kan närma sig den nivån om den exempelvis kan:

• hitta och utveckla fungerande zero-day-exploater mot många välskyddade verkliga system
• genomföra avancerade attacker med mycket lite mänsklig vägledning
• kombinera informationsinhämtning, kodskrivning och exploatering i långa arbetsflöden
• anpassa sin strategi när ett försök misslyckas
• arbeta mot härdade mål som normalt kräver expertteam

OpenAI skriver att tidigare modeller, däribland GPT-5.6-Sol, bedömdes ligga på den höga nivån snarare än den kritiska. Astra har i de preliminära testerna visat tillräckligt starka resultat för att nästa nivå inte längre kan avfärdas.

Vissa interna aktiviteter pausas

OpenAI uppger att interna aktiviteter med Astra som ännu inte uppfyller de skärpta säkerhetskraven pausas. Det gäller inte nödvändigtvis all forskning, utan arbete som behöver flyttas till mer kontrollerade miljöer innan det fortsätter.

De nya åtgärderna omfattar bland annat:

1. isolerade testmiljöer
2. striktare nätverks- och verktygsbehörigheter
3. starkare skydd och kryptering av modellvikter
4. mer omfattande övervakning och detektion
5. sandlådor för exekvering av kod
6. övervakning av riskfyllda handlingar i agentiska arbetsflöden
7. möjlighet att avbryta aktivitet som bedöms som högrisk

Det är en viktig skillnad mellan en vanlig chatbot och en avancerad AI-agent. En chatbot kan främst ge information. En agent kan få åtkomst till kod, filer, nätverk och externa verktyg och därmed genomföra handlingar i flera steg.

Astra var inte inblandad i Hugging Face-incidenten

OpenAI understryker att Astra inte var modellen som utnyttjade Hugging Face i den incident som nämns i företagets säkerhetsmaterial. Den uppgiften är viktig eftersom flera separata händelser annars lätt kan blandas ihop.

Astra-beskedet bygger på modellens egna preliminära tester och expertbedömningar. Företaget säger alltså inte att Astra redan har genomfört en verklig attack mot Hugging Face.

Övervakning av agentiska handlingar

OpenAI har infört generell övervakning för riskfyllda handlingar och tecken på felriktat beteende i agentiska tillämpningar av Astra, inklusive under träning och utvärdering.

Övervakningssystemen granskar modellens arbetsprocess och ska kunna utlösa en säkerhetsreaktion när ett beteende bedöms som allvarligt. En sådan reaktion kan innebära mänsklig granskning och att aktiviteten stoppas.

Övervakning är dock bara ett lager. Ett säkert system behöver även tekniska begränsningar som fungerar även om modellen ger en övertygande förklaring till varför en riskfylld handling borde tillåtas.

Läs också vår artikel om säkerhetsbetygen för OpenAI, Anthropic, Google, xAI och Meta.

Varför cyberförmåga är både möjlighet och risk

Avancerade AI-modeller kan hjälpa försvarare att:

• hitta sårbarheter innan de utnyttjas
• analysera stora mängder loggar
• prioritera larm
• skriva och granska säker kod
• automatisera patchning och incidenthantering
• testa organisationens motståndskraft

Samma grundförmågor kan användas offensivt. En modell som är bra på kod, felsökning och långsiktig planering kan också hjälpa en angripare att kartlägga system, anpassa skadlig kod och skala upp attackförsök.

Risknivån avgörs därför inte enbart av vad modellen ”vet”. Den avgörs också av hur självständigt den kan agera, vilka verktyg den får och om den kan genomföra en fullständig kedja utan expertstöd.

Externa tester ska byggas ut

OpenAI säger att bolaget ska arbeta med relevanta myndigheter och utvalda AI-säkerhetsorganisationer för att testa modellen. Företaget ska även ge säkerhetsrekommendationer till externa testpartner som kör högriskutvärderingar.

Oberoende granskning blir särskilt viktig när företaget som utvecklar modellen även har kommersiella skäl att lansera den. Externa testare behöver samtidigt få tillräckligt säker åtkomst för att inte själva skapa en ny läcka eller angreppsyta.

Vad betyder detta för svenska företag?

Astra är inte en produkt som svenska företag kan köpa i dag. Beskedet är ändå relevant eftersom det visar vilken säkerhetsnivå framtida kod- och agentmodeller kan kräva.

Organisationer som använder AI för programmering eller IT-drift bör redan nu:

• ge AI-verktyg minsta möjliga behörighet
• separera test och produktion
• förbjuda automatiska ändringar i kritiska system utan godkännande
• logga kommandon, verktygsanrop och filändringar
• begränsa utgående nätverkstrafik
• förvara nycklar och lösenord utanför promptar och kodbaser
• sätta kostnads-, tids- och anropsgränser
• ha en snabb avstängningsfunktion

En stark modell ska behandlas som en mycket kapabel extern konsult: värdefull, men aldrig utan tydliga behörigheter och spårbarhet.

Kopplingen till AI Act och cybersäkerhet

EU:s AI Act styr riskhantering, dokumentation och transparens för vissa AI-system, men den ersätter inte tekniska säkerhetskontroller. Ett företag kan uppfylla dokumentationskrav och ändå ha en osäker agent med för bred åtkomst.

Läs vår genomgång av AI Act 2026 och kraven på märkning, chatbots och deepfakes.

För känsliga data bör företag även göra en separat leverantörsgranskning. Vår checklista för DeepSeek och datasäkerhet visar vilka frågor som bör ställas innan en extern modell får tillgång till kod och företagsinformation.

Vad händer härnäst?

OpenAI behöver visa om Astra faktiskt passerar den kritiska tröskeln eller om mer omfattande tester leder till en lägre slutbedömning. Följande besked blir särskilt viktiga:

• slutligt systemkort och riskklassning
• oberoende cyberutvärderingar
• vilka funktioner som begränsas vid lansering
• vilka kunder som får tidig åtkomst
• krav på identitetskontroll och säkerhetsnivå
• hur modellvikter och verktygsåtkomst skyddas
• hur incidenter rapporteras efter lansering

Det är också möjligt att olika versioner av modellen får olika åtkomst. En begränsad konsumentversion kan lanseras med mindre verktygsfrihet medan högre kapacitet endast görs tillgänglig i kontrollerade miljöer.

Vanliga frågor

Är OpenAI Astra lanserad?

Nej. Astra beskrivs som en kommande modell och var inte offentligt lanserad när beskedet gavs den 7 augusti 2026.

Har modellen klassats som kritisk?

Inte slutligt. OpenAI säger att preliminära resultat gör att kritisk cyberförmåga inte kan uteslutas.

Har all utveckling stoppats?

Nej. OpenAI uppger att aktiviteter som ännu inte möter de skärpta säkerhetskraven pausas. Testning och utveckling kan fortsätta i mer kontrollerade miljöer.

Kan modellen skapa zero-day-exploater?

Den kritiska tröskeln omfattar den typen av förmåga, men OpenAI har inte publicerat fullständiga testresultat som visar exakt vilka exploater Astra har kunnat utveckla.

Var Astra inblandad i Hugging Face-incidenten?

Nej. OpenAI skriver uttryckligen att Astra inte var inblandad i att utnyttja Hugging Face.

Sammanfattning

OpenAI har skärpt kontrollen av Astra efter att preliminära tester visat mycket avancerade förmågor inom kod och cybersäkerhet. Företaget kan inte längre utesluta den kritiska risknivån och pausar därför arbete som inte sker under de nya säkerhetskraven.

Beskedet är inte ett bevis på att Astra redan kan genomföra omfattande autonoma cyberattacker. Det är däremot ett tydligt tecken på att nästa generation AI-modeller kan kräva säkerhet som liknar hanteringen av andra mycket känsliga tekniska system.

Faktaunderlag: OpenAI, ”Responding to the next frontier of critical cyber capabilities”, publicerad 7 augusti 2026. Kontrollerat 22 augusti 2026.