OpenAI satsar 5 miljoner dollar på demokratisk AI-tillsyn inom nationell säkerhet

OpenAI satsar 5 miljoner dollar på demokratisk AI-tillsyn inom nationell säkerhet

OpenAI startar ett initiativ som ska hjälpa demokratiska tillsynsorgan att förstå och granska myndigheters användning av artificiell intelligens inom nationell säkerhet. Företaget avsätter 5 miljoner dollar till utbildning, tekniskt stöd och OpenAI-krediter under det kommande året.

Initiativet presenterades den 18 augusti 2026. OpenAI vill även utveckla pilotverktyg som kan hjälpa auktoriserade granskare följa hur AI har påverkat ett myndighetsbeslut genom att undersöka relevanta indata, utdata och verktygsanrop.

Det viktigaste i korthet

| Punkt | OpenAI:s besked |
|---|---|
| Initiativ | Stärka demokratisk tillsyn av AI i nationell säkerhet |
| Datum | 18 augusti 2026 |
| Resurser | 5 miljoner dollar |
| Stödformer | Utbildning, tekniskt stöd och OpenAI-krediter |
| Målgrupp | Demokratiska statliga tillsynsorgan |
| Pilotverktyg | Granskning av indata, utdata och verktygsanvändning kring AI-assisterade beslut |
| Kontroll av material | Deltagande institutioner ska behålla kontrollen |
| Tidsram | Arbetet ska utvecklas under det kommande året |

Initiativet är ett företagsbesked från OpenAI och inte ett nytt lagkrav eller ett oberoende statligt granskningssystem.

Varför behövs ny AI-tillsyn?

Nationell säkerhet omfattar verksamheter där beslut ofta är hemliga, tidskritiska och svåra för allmänheten att granska. AI kan användas för att:

• upptäcka cyberattacker
• analysera stora informationsmängder
• skydda kritisk infrastruktur
• identifiera hotmönster
• sammanställa lägesbilder
• prioritera incidenter
• ge beslutsstöd i en kris

Samma egenskaper som gör AI användbar kan försvåra kontrollen. Ett system kan agera snabbt på ofullständig information, felaktigt konfigurerade mål eller antaganden som ingen människa hunnit granska.

Traditionell tillsyn bygger ofta på dokument, protokoll, intervjuer och stickprov. När ett AI-system gör tusentals analyser eller verktygsanrop på kort tid kan små granskningsgrupper inte kontrollera allt manuellt.

OpenAI vill ge tillsynsorgan egna AI-verktyg

Företagets huvudidé är att samma teknik som gör myndigheternas verksamhet snabbare också kan hjälpa tillsynen att hålla jämna steg.

Ett granskningsverktyg skulle exempelvis kunna hjälpa en auktoriserad tjänsteman att:

1. hitta alla ärenden där AI användes
2. se vilka uppgifter modellen fick
3. följa vilka externa verktyg som anropades
4. jämföra modellens förslag med det slutliga beslutet
5. identifiera avvikande eller återkommande mönster
6. kontrollera om mänskligt godkännande faktiskt skedde
7. sammanställa underlag för vidare juridisk bedömning

OpenAI säger att verktygen ska vara interoperabla eller modelloberoende där det är möjligt. Det är viktigt eftersom ett tillsynsorgan kan behöva granska system från flera leverantörer, inte bara OpenAI.

Tre principer ska styra arbetet

OpenAI beskriver tre vägledande principer.

1. AI ska stärka – inte ersätta – mänskligt och institutionellt omdöme

Bedömningen av om ett myndighetsagerande är lagligt, lämpligt och förenligt med regler ska göras av behöriga myndigheter och lagligt inrättade tillsynsorgan.

AI kan hjälpa till att sortera och analysera underlag, men bör inte själv avgöra om staten har använt sin makt på rätt sätt.

2. Myndigheters AI-användning ska vara spårbar

Auktoriserade granskare ska kunna förstå hur AI bidrog till ett beslut utan att skyddsvärd, privat eller säkerhetsklassad information röjs för obehöriga.

Spårbarhet kan omfatta:

• modell och version
• tidpunkt
• användaridentitet
• indata och källor
• modellens svar
• verktygsanrop
• ändringar gjorda av en människa
• slutligt beslut

Utan sådan loggning blir det svårt att avgöra om ett fel kom från modellen, datan, instruktionen eller den mänskliga handläggningen.

3. Tillsynsorgan ska själva kunna använda AI

OpenAI menar att helt manuell kontroll inte kan skala när statliga system arbetar i maskinhastighet. Tillsynsorgan kan därför behöva egna, säkert avgränsade AI-verktyg för att söka i stora mängder bevis och loggar.

Det innebär samtidigt att även granskarens AI behöver granskas. Ett system som sammanfattar bevis kan missa relevant information, förstärka ett fel eller påverkas av hur frågan formuleras.

Så ska de 5 miljoner dollarna användas

OpenAI uppger att resurserna ska gå till:

• utbildning av behöriga tillsynsaktörer
• tekniskt stöd
• OpenAI-krediter
• praktiska pilotprojekt
• utveckling och utvärdering av granskningsverktyg

Beloppet är stort som ett specialiserat pilotstöd men litet jämfört med de totala investeringarna i nationell säkerhet och AI-infrastruktur. Effekten beror därför mer på vilka institutioner som deltar, vad som byggs och om arbetet kan bli en öppen standard än på summan ensam.

Institutionerna ska behålla kontrollen över bevisen

OpenAI säger att deltagande tillsynsorgan, inte företaget, ska kontrollera bevis, utdata och slutsatser. Materialet ska endast vara tillgängligt för auktoriserade myndighetspersoner.

Det är centralt eftersom nationell säkerhet kan innehålla sekretessbelagda uppgifter, underrättelseinformation och persondata.

Ett hållbart system behöver skilja mellan:

• den tekniska leverantören
• myndigheten som använder AI
• organet som granskar användningen
• den politiska och juridiska instans som beslutar om ansvar

OpenAI skriver uttryckligen att företaget inte har och inte bör ha en tillsynsroll över staten. Den rollen ligger hos folkvalda och offentliga institutioner.

Risken för leverantörsberoende

Det finns en inneboende spänning när ett AI-företag hjälper tillsynsorgan granska offentlig användning av AI, särskilt om myndigheterna använder samma leverantörs modeller.

Några frågor behöver därför besvaras:

• kan verktyget granska konkurrerande modeller på samma nivå?
• får tillsynsorganen full tillgång till relevanta loggar?
• kan en oberoende part verifiera granskningsresultatet?
• kan data exporteras om myndigheten byter leverantör?
• vem bestämmer vilka riskmönster verktyget letar efter?
• hur hanteras fel som beror på OpenAI:s egen produkt?

OpenAI:s löfte om modelloberoende funktioner är positivt, men behöver visas i faktiska implementationer och avtal.

Spårbarhet är svårare än att spara promptar

En prompt och ett svar räcker sällan för att återskapa ett komplext AI-beslut. Moderna agenter kan:

• söka i flera databaser
• använda externa verktyg
• delegera deluppgifter
• hämta webbinformation
• köra kod
• skriva om sina planer
• få mänskliga korrigeringar under vägen

Ett revisionsspår behöver därför fånga hela händelsekedjan. Samtidigt kan fullständig loggning skapa nya säkerhetsrisker om hemliga uppgifter samlas på ett ställe.

Tekniken behöver kombinera detaljerad spårbarhet med åtkomstkontroll, kryptering, gallring och tydliga regler för vem som får läsa vad.

Mänsklig kontroll måste vara verklig

OpenAI säger att AI ska komplettera mänskligt omdöme. I praktiken kan en människa ändå bli en passiv godkännare om systemet producerar stora mängder snabba rekommendationer.

Effektiv mänsklig kontroll kräver att beslutsfattaren:

1. förstår systemets begränsningar
2. får tillräckligt med tid
3. ser alternativa bedömningar
4. kan begära underlaget bakom svaret
5. har befogenhet att säga nej
6. inte straffas organisatoriskt för att avvika från AI:n
7. kan dokumentera varför ett annat beslut togs

Ett klick på ”godkänn” är inte automatiskt meningsfull mänsklig tillsyn.

Relevans för Sverige och EU

OpenAI har inte i beskedet namngivit svenska deltagande organ. Initiativet är ändå relevant för Sverige eftersom myndigheter och säkerhetsaktörer i hela Europa successivt inför AI i analys, cybersäkerhet och administration.

Svenska institutioner behöver kunna kontrollera:

• om AI används inom beslutad rättslig ram
• vilka personuppgifter som behandlas
• om säkerhetsklassad information lämnar rätt miljö
• om automatisering påverkar individers rättigheter
• om modeller gör systematiska fel
• om upphandlingar skapar långvarig leverantörslåsning

EU:s AI Act skapar krav på bland annat riskhantering, dokumentation och mänsklig kontroll för vissa system. Nationell säkerhet har samtidigt särskilda undantag och rättsliga avgränsningar, vilket gör demokratisk och parlamentarisk kontroll extra viktig.

Läs vår genomgång av AI-förordningen 2026 och vad svenska företag behöver känna till.

Kopplingen till cybersäkerhet

OpenAI lyfter cyberförsvar och kritisk infrastruktur som exempel på nationell säkerhetsanvändning. Företaget har samtidigt lanserat GPT-5.6-Cyber för särskilt godkända säkerhetsaktörer.

Läs om GPT-5.6-Cyber, Daybreak Blue och Daybreak Red.

Ju starkare modeller som myndigheter får tillgång till, desto större blir behovet av att kunna se vem som använde dem, mot vilket mål och med vilket godkännande.

Tillsynen måste också kontrollera själva infrastrukturen. Incidenterna där Claude nådde verkliga system under säkerhetstester visar att en felkonfiguration kan göra stor skada även när instruktionen säger att miljön är säker.

Sekretess kan försvåra offentlig ansvarighet

Nationell säkerhet kräver ibland att tekniska detaljer hålls hemliga. Men sekretess kan också göra det svårt för allmänheten att bedöma hur AI används och vilka fel som har inträffat.

Ett möjligt system behöver flera nivåer:

| Nivå | Möjlig information |
|---|---|
| Operativ | Fullständiga loggar för behöriga granskare |
| Institutionell | Sammanfattningar för beslutsfattare och tillsyn |
| Offentlig | Aggregerad statistik, principer och redovisade incidenttyper |

Allmänheten behöver inte få tillgång till känsliga mål eller metoder för att kunna kräva svar på grundläggande frågor om laglighet, ansvar och effektivitet.

Civil­samhälle och tekniska experter ska delta

OpenAI säger att företaget ska involvera civilsamhället och tekniska experter i utvecklingen av verktyg och arbetssätt.

Det kan bidra med perspektiv från:

• mänskliga rättigheter
• integritet och dataskydd
• cybersäkerhet
• diskriminering och bias
• offentlig rätt
• journalistik och ansvarsutkrävande
• teknisk AI-utvärdering

Deltagandet behöver dock vara mer än rådgivande symbolik. Det bör finnas tydliga sätt att dokumentera invändningar, ändra designen och publicera lärdomar när sekretessregler tillåter det.

Hur bör framgång mätas?

OpenAI säger att initiativet ska bedömas efter om auktoriserade granskare bättre kan fullgöra sina uppdrag och om allmänheten får starkare skäl att lita på att myndigheters AI används som avsett.

Praktiska mätpunkter kan vara:

• hur snabbt ett misstänkt fel upptäcks
• andel AI-assisterade beslut med komplett revisionsspår
• hur många granskningar som kan genomföras
• om verktygen hittar avvikelser som manuella stickprov missat
• hur ofta AI-granskarens slutsatser behöver korrigeras
• om flera modellleverantörer kan granskas
• antal incidenter som leder till konkreta åtgärder
• grad av oberoende extern utvärdering

Det är viktigt att inte mäta framgång enbart i antal utbildade personer eller förbrukade API-krediter.

Vad händer härnäst?

Under det kommande året behöver OpenAI och deltagande institutioner konkretisera:

• vilka länder och organ som deltar
• vilka pilotverktyg som byggs
• hur modelloberoendet fungerar
• vilka data som kan användas
• hur sekretess och personuppgifter skyddas
• vilka resultat som kan offentliggöras
• hur intressekonflikter hanteras
• om finansieringen fortsätter efter pilotperioden

Det behövs också tydliga upphandlings- och exitvillkor så att tillsynsorgan inte blir beroende av samma leverantör de ska kunna granska.

Vanliga frågor

Hur mycket satsar OpenAI?

OpenAI avsätter 5 miljoner dollar till utbildning, tekniskt stöd och krediter för demokratiska statliga tillsynsorgan.

Ska OpenAI granska myndigheterna?

Nej. OpenAI säger uttryckligen att tillsynsansvaret ligger hos folkvalda och offentliga institutioner. Företaget vill bidra med teknik och stöd.

Vilka länder deltar?

OpenAI namngav inte en fullständig deltagarlista i lanseringsbeskedet.

Vad ska pilotverktygen göra?

De ska kunna hjälpa behöriga granskare undersöka hur AI bidrog till ett myndighetsbeslut genom relevanta indata, utdata och verktygsanrop.

Ska OpenAI få tillgång till hemliga bevis?

Företaget säger att deltagande institutioner ska behålla kontrollen över bevis, utdata och slutsatser och att materialet ska vara tillgängligt endast för auktoriserade myndighetspersoner.

Sammanfattning

OpenAI:s nya initiativ ska ge demokratiska tillsynsorgan utbildning, tekniskt stöd och AI-verktyg för att granska statlig AI-användning inom nationell säkerhet. Satsningen omfattar 5 miljoner dollar och pilotprojekt för spårbara AI-assisterade beslut.

Initiativet kan stärka kontrollen när myndighetssystem arbetar snabbare och i större skala. Men trovärdigheten beror på verkligt institutionellt oberoende, modelloberoende verktyg, fullständig spårbarhet och tydliga gränser för leverantörens roll. Demokratisk tillsyn kan stödjas av AI, men får inte överlåtas till AI-företaget självt.

Faktaunderlag: OpenAI, ”Strengthening democratic oversight in national security”, publicerad 18 augusti 2026. Kontrollerat 22 augusti 2026.