EU vill samla ledande AI-labb för samtal om frontier-risker

EU-kommissionens ordförande Ursula von der Leyen vill bjuda in de ledande så kallade frontier-AI-laboratorierna till samtal om hur riskerna med de mest avancerade AI-modellerna ska hanteras. Beskedet kom i hennes årliga tal om tillståndet i EU inför Europaparlamentet i Strasbourg den 16 september 2026.

Reuters rapporterar att von der Leyen uttryckligen kopplade initiativet till branschens pågående arbete med att anpassa utvecklingstakten för de mest avancerade systemen. Hon pekade samtidigt på EU:s nya AI-regler som en grund för Europas roll i det internationella säkerhetsarbetet.

Det är viktigt att skilja på ett planerat samtal och en ny reglering. Kommissionen har inte presenterat någon gemensam paus för AI-utveckling, någon ny kapacitetsgräns eller något bindande avtal mellan bolagen. Nästa steg är i stället att samla de ledande laboratorierna och diskutera vilka säkerhetsåtgärder som kan utvecklas vidare.

Samtalen kommer mitt i en snabb AI-säkerhetsdebatt

Beskedet kommer efter flera dagar av intensiv diskussion om takten i utvecklingen av så kallad frontier-AI. Anthropic-vd Dario Amodei har argumenterat för att de mest avancerade bolagen bör skapa större tidsmarginaler mellan stora kapacitetslyft och samtidigt använda mer oberoende granskning.

Marketplace.se har tidigare gått igenom Anthropics förslag om externa granskare och en mer kontrollerad utvecklingstakt. I den frågan finns ännu ingen gemensam branschlinje. Meta-vd Mark Zuckerberg har exempelvis sagt att varje AI-labb redan har starka incitament att utveckla systemen säkert och har gått emot behovet av en samordnad inbromsning.

OpenAI uppgav den 15 september, enligt en Bloomberg-rapport som återgavs av Reuters, att bolaget sedan flera veckor har samtal med Anthropic och Google DeepMind om AI-säkerhet. Reuters kunde inte självständigt verifiera alla detaljer i den rapporten. Även där saknas hittills en offentlig bindande överenskommelse om utvecklingstakt eller lanseringsgränser.

EU har redan tillsyn över generella AI-modeller

Det nya initiativet kommer samtidigt som EU:s AI Act har gått in i en mer aktiv genomförandefas. Enligt Europeiska kommissionens officiella information har AI Office och medlemsländernas myndigheter sedan den 2 augusti 2026 ansvar för genomförande, tillsyn och efterlevnad av regelverket.

AI Office har särskilda befogenheter när det gäller generella AI-modeller, så kallade GPAI-modeller. Det kan bland annat begära teknisk dokumentation, utvärdera modeller, kräva korrigerande åtgärder och besluta om sanktioner vid överträdelser.

Kommissionen hänvisar också till en handlingsplan från juli 2026 om cybersäkerhet och AI. Där ingår planer på att stärka EU:s kapacitet för oberoende utvärdering av avancerade AI-modeller innan de släpps på EU-marknaden. Den kapaciteten väntas enligt kommissionen bli operativ under 2027 och ska bidra till tredjepartsbedömningar av modellernas förmågor och risker.

Vad menas med frontier-AI?

Begreppet frontier-AI används vanligtvis om de mest avancerade generella modellerna vid den tekniska frontlinjen. Det är inte samma sak som all AI som används i appar, söktjänster eller företagsverktyg. Säkerhetsdiskussionen handlar främst om system med mycket hög kapacitet, omfattande verktygsanvändning och ökande förmåga att utföra längre uppgifter självständigt.

Riskfrågorna omfattar bland annat cyberanvändning, missbruk av avancerade modeller, kontroll över agentiska system och hur modeller ska utvärderas innan bred lansering. Ett färskt exempel är Spaniens dataskyddsmyndighet AEPD, som har fått sin första anmälan om en personuppgiftsincident där en AI-agent uppges ha genomfört flera steg i ett cyberangrepp. Marketplace.se har en separat genomgång av AEPD:s AI-agentärende.

Vad händer nu?

Det konkreta beskedet den 16 september är att kommissionens ordförande vill föra de ledande frontier-laboratorierna till samma bord. Vilka företag som formellt bjuds in, när mötet sker och om samtalen leder till gemensamma standarder är ännu inte offentliggjort.

För läsare och företag är den viktigaste skillnaden därför mellan befintlig lag och kommande dialog. AI Act och dess tillsynsstruktur är redan beslutad och genomförs stegvis. Samtalen med frontier-labben är däremot ett nytt politiskt initiativ vars praktiska resultat ännu inte går att fastställa.

Det gör kommande besked från EU-kommissionen, AI Office och de berörda AI-bolagen centrala. Först när konkreta krav, frivilliga åtaganden eller gemensamma teststandarder presenteras går det att bedöma hur stor faktisk förändring initiativet innebär.

Källor

• Reuters – EU's von der Leyen to invite frontier labs for talks on tackling AI risks
• Europeiska kommissionen – State of the European Union 2026
• Europeiska kommissionen – AI Act och tillsyn

Uppgifter kontrollerade den 16 september 2026.