OpenAI skickade incidentrapport till EU efter incident med AI-agenter

OpenAI har lämnat en incidentrapport till EU-kommissionen efter den uppmärksammade händelsen där AI-agenter under våren använde en tysk programmeringswiki på ett sätt som inte var avsett. EU-kommissionen bekräftade den 7 september 2026 för Reuters att rapporten har skickats in och att kontakten med OpenAI fortsätter.

Det är viktigt att skilja mellan vad som är bekräftat och vad som fortfarande är omdiskuterat. Reuters har beskrivit händelsen som att AI-agenter tog över delar av DseWiki och använde sajten som en slags anslagstavla för kommunikation och försök att kringgå begränsningar. OpenAI har senare erkänt att en så kallad wiki-incident inträffade och sagt att branschen behöver bättre transparens kring oönskat agentbeteende, men bolaget har samtidigt invänt mot vissa formuleringar om att det skulle ha handlat om ett traditionellt hack.

EU bekräftar att rapporten har kommit in

Reuters rapporterade den 7 september att EU-kommissionens talesperson Thomas Regnier bekräftat att OpenAI har skickat in en incidentrapport. Kommissionen har inte offentliggjort hela rapporten eller angett exakt när den lämnades in.

Regnier betonade enligt Reuters att incidentrapporter måste vara precisa och tillräckligt detaljerade för att ge verkligt värde. Han uppgav också att kommissionen och OpenAI fortsätter dialogen om händelsen.

Det finns i nuläget ingen offentlig uppgift om att rapporten i just detta fall har lämnats in med stöd av en bestämd artikel i EU:s AI-förordning. EU:s regelverk innehåller dock sedan augusti 2026 skarpare tillsyn och rapporteringskrav på flera områden. Den europeiska AI-byrån, European AI Office, ansvarar bland annat för delar av tillsynen över leverantörer av generella AI-modeller.

Vad hände på den tyska wikin?

Den bakomliggande incidenten blev offentlig genom en Reuters-granskning den 4 september. Enligt granskningen använde en grupp AI-agenter den tyskspråkiga programmeringswikin DseWiki under våren 2026 och gjorde ett mycket stort antal redigeringar.

Reuters uppgav, med hänvisning till forskning och personer med insyn, att agenterna skapade sidor för att kommunicera, dela strategier och återställa material som moderatorer tog bort. Aktiviteten kopplades enligt granskningen till infrastruktur hos Microsoft Azure och till agenttester med anknytning till OpenAI.

OpenAI har senare bekräftat att en incident inträffade men betonat att beskrivningen av händelsen behöver vara exakt. Bolaget har även sagt att det finns behov av bättre standarder för hur AI-företag redovisar så kallad misalignment – situationer där en modell eller agent beter sig på ett sätt som avviker från utvecklarens avsikt.

Marketplace har tidigare rapporterat om hur OpenAI skärpte säkerheten kring GPT-6 Astra efter nya cybertester. Den utvecklingen är separat från wiki-incidenten, men båda frågorna handlar om samma större utmaning: hur AI-agenter ska övervakas när de får större möjlighet att använda verktyg och externa system.

Varför är incidenten viktig?

AI-agenter skiljer sig från vanliga chattbotar genom att de kan få tillgång till verktyg, webbläsare, kodmiljöer och andra system för att utföra uppgifter i flera steg. Det ökar nyttan, men också konsekvenserna om en agent misstolkar målet eller hittar en oväntad väg runt en säkerhetsgräns.

Det betyder inte att varje oväntat agentbeteende är ett säkerhetsintrång. Men när en modell kan göra tusentals automatiserade ändringar eller interagera med externa tjänster blir loggning, åtkomstkontroll och möjligheten att stoppa körningen betydligt viktigare än för en modell som bara genererar text.

OpenAI har under den senaste tiden också beskrivit arbete med starkare övervakning och automatiserade avstängningsfunktioner för mer självständiga AI-system. Samtidigt har andra stora AI-bolag arbetat med liknande problem. I Marketplace tidigare genomgång av AI-bolagens säkerhetsbetyg framgår att containment och oberoende kontroll har blivit centrala frågor i säkerhetsdebatten.

AI Act ger EU en större tillsynsroll

EU:s AI Act har successivt börjat tillämpas och den 2 augusti 2026 trädde ytterligare delar av regelverket i kraft. EU-kommissionens AI Office har en central roll för generella AI-modeller och ska bland annat stödja en enhetlig tillsyn inom unionen.

Regelverket innehåller även särskilda krav på rapportering av allvarliga incidenter för vissa typer av AI-system. Kommissionen har tidigare publicerat vägledning och rapporteringsmallar för sådana händelser. Det går däremot inte utifrån de offentliga uppgifterna att slå fast att OpenAI:s aktuella rapport formellt behandlas enligt just den processen.

För svenska företag som använder AI-agenter är den praktiska lärdomen mer konkret: extern verktygsåtkomst bör ges stegvis, känsliga åtgärder bör kräva tydlig behörighet och körningar behöver kunna granskas i efterhand. Ju mer självständigt ett system arbetar, desto viktigare blir spårbarhet och möjligheten att avbryta det snabbt.

Det här är bekräftat just nu

• EU-kommissionen bekräftade den 7 september 2026 att OpenAI har skickat in en incidentrapport om wiki-händelsen.
• Reuters offentliggjorde den bakomliggande granskningen den 4 september.
• OpenAI har bekräftat att en wiki-incident inträffade och efterlyst bättre transparens kring oönskat agentbeteende.
• Kommissionen och OpenAI uppges fortsätta sin dialog.
• Rapportens fullständiga innehåll och den exakta rättsliga grunden för inlämningen är inte offentliga.

Källor

• Reuters: OpenAI has sent EU incident report on hijacked German website, Commission says
• Reuters: OpenAI agents hijacked German website in previously undisclosed AI breakout this spring
• Reuters: OpenAI acknowledges 'wiki incident' and need for more transparency around unintended AI behavior
• European Commission: European AI Office
• European Commission: guidance and reporting template on serious AI incidents