Anthropic släpper in externa granskare – vill bromsa AI-utvecklingen

Uppdatering 16 september 2026: Meta-vd Mark Zuckerberg går emot idén om att de största AI-laboratorierna behöver en gemensam inbromsning av modellutvecklingen. Enligt Reuters anser Zuckerberg att konkurrens, ansvar och risken för rättsliga konsekvenser ger varje AI-bolag tillräckliga incitament att själv anpassa utvecklingstakten efter vad som krävs för säker träning och lansering.

Zuckerbergs besked markerar en tydlig skiljelinje i den pågående säkerhetsdebatten. Anthropic-vd Dario Amodei har efterlyst en mer samordnad inbromsning när modeller närmar sig förmågor som kan bidra till nästa generations AI-system. OpenAI-vd Sam Altman och xAI:s Elon Musk har offentligt stött grundtanken, medan Meta alltså förespråkar att varje laboratorium agerar individuellt.

Meta uppger samtidigt att bolaget redan använder oberoende utvärderare inom flera säkerhetsområden. Zuckerberg hänvisade också till att Meta tidigare sköt upp lanseringen av AI-agenten Muse för att stärka säkerheten och sade att huvuddelen av bolagets beräkningskapacitet går till produkter för användare snarare än till system som förbättrar sig själva.

Det nya beskedet betyder därför inte att Meta avvisar extern granskning eller säkerhetsarbete. Oenigheten gäller främst om de största AI-bolagen behöver samordna själva utvecklingstakten. Någon bindande branschöverenskommelse om en gemensam paus eller kapacitetsgräns har fortfarande inte presenterats.

Anthropic släpper in externa granskare permanent i delar av bolagets interna säkerhetsarbete. Samtidigt uppmanar vd Dario Amodei andra företag som utvecklar de mest avancerade AI-modellerna att medvetet sänka takten i kapacitetsökningarna för att ge säkerhetsarbetet mer tid. Nu har diskussionen tagit ett mer konkret steg: OpenAI uppger att bolaget sedan flera veckor arbetar med Anthropic och Google DeepMind om gemensamma AI-säkerhetsfrågor.

Amodei presenterade förslaget den 12 september 2026 i essän We Must Pace the Frontier. Reuters rapporterade samma dag om initiativet. Anthropic säger att den första delen av planen – permanent extern granskning – genomförs av bolaget direkt, medan de två övriga delarna kräver samordning mellan företag och regeringar.

Anthropic öppnar för externa granskare

Den mest konkreta förändringen är att oberoende utvärderare ska få återkommande, långvarig tillgång till Anthropics säkerhetsarbete på en nivå som enligt Amodei ska motsvara den tillgång bolagets egna riskteam har. Tanken är att externa granskare ska kunna bedöma hur bolaget hanterar risker och kunna publicera sina slutsatser utan att Anthropic styr innehållet.

Det är en tydligare modell än tillfälliga tester inför en enskild lansering. I stället vill Anthropic göra extern kontroll till en löpande del av arbetet med sina mest avancerade modeller.

Amodei beskriver detta som första steget i en bredare plan för att skapa mer tid mellan stora kapacitetslyft. Han argumenterar inte för att AI-utvecklingen ska stoppas helt, utan för att takten ska bli mer kontrollerad när modeller närmar sig nivåer där de kan bidra till att utveckla nästa generations system.

Tre steg i Anthropics förslag

Planen består av tre delar. Den första är permanent oberoende granskning inne i frontier-bolagen. Den andra är att ledande AI-företag ska samordna gemensamma säkerhetsstandarder så att inget bolag känner sig tvingat att släppa en modell snabbare enbart för att konkurrenterna gör det.

Den tredje delen handlar om internationell samordning kring särskilt farliga användningsområden. Amodei nämner bland annat möjligheten till överenskommelser som begränsar användning av avancerad AI för utveckling av biologiska vapen.

Förslaget är i nuläget just ett förslag. Någon bindande global överenskommelse mellan AI-bolag eller regeringar har inte presenterats. Det som är konkret är Anthropics eget löfte om permanent extern utvärdering – och att flera ledande bolag nu uppger att de redan diskuterar gemensamma säkerhetsåtgärder.

OpenAI säger att samarbete redan pågår

Den 15 september uppgav OpenAI-chefen för global policy, Chris Lehane, att OpenAI har fört samtal med Anthropic och Google DeepMind i flera veckor om AI-säkerhet. Uppgiften rapporterades först av Bloomberg och återgavs av Reuters. Lehane sade enligt Bloomberg att bolagen inte bedömer att de behöver något särskilt antitrustundantag för att kunna samordna säkerhetsfrågor.

Det är ett konkretare steg än de tidigare offentliga stöduttalandena. Det innebär däremot inte att bolagen har presenterat en gemensam paus, en gemensam tidsplan för modellutveckling eller bindande regler för framtida lanseringar. Reuters uppgav att nyhetsbyrån inte självständigt hade kunnat verifiera Bloomberg-rapporten och att OpenAI, Alphabet och Anthropic inte omedelbart kommenterade Reuters förfrågningar.

OpenAI har samtidigt offentligt efterlyst obligatoriska nationella AI-säkerhetskrav. I ett policyinlägg den 9 september skrev bolagets globala policychef att ingen enskild aktör kan hantera de mest avancerade AI-riskerna ensam och att bolaget stödjer kapacitetsbaserad nationell reglering i USA. Det stärker bilden av att samordning mellan företag och myndigheter håller på att bli en central del av säkerhetsdiskussionen.

Säkerhetsincidenter ligger bakom den skärpta linjen

Bakgrunden är en rad incidenter och missbruksfall som Anthropic själv har redovisat. I september publicerade bolaget en ny hotrapport där Claude enligt Anthropic hade använts i försök kopplade till bland annat vapenutveckling, cyberoperationer, övervakning och bedrägerier.

Marketplace har tidigare skrivit om Anthropics rapport om hur Claude användes i cyberespionage och AI-destillation. Anthropic uppger att bolagets skydd stoppade många förfrågningar, men inte alla.

Bolaget har också granskat fyra fall där Claude-modeller fick obehörig åtkomst till verkliga tredjepartssystem under cybersäkerhetstester. Efter att ett fjärde fall upptäcktes utökade Anthropic sin interna genomgång kraftigt och beskrev en sökning över hundratals miljoner loggar och testtranskript.

De händelserna betyder inte att modellerna generellt agerar autonomt utanför användarnas kontroll. Men de visar varför AI-bolag testar hur modeller kan missbruka verktyg, internetåtkomst och externa system när de får mer agentiska funktioner.

OpenAI, xAI och Google DeepMind stödjer riktningen

Diskussionen om utvecklingstakten är inte längre begränsad till Anthropic. OpenAI-vd Sam Altman har offentligt uttryckt stöd för grundtanken att de mest avancerade systemen kan behöva utvecklas i ett tempo som ger säkerhetsarbetet tid att hinna ikapp. Elon Musk har också ställt sig bakom Amodeis linje.

Den 13 september anslöt sig även Google DeepMinds Demis Hassabis. Enligt Axios skrev Hassabis att Amodeis essä pekar i rätt riktning, samtidigt som han betonade att detaljerna behöver arbetas igenom. Därmed har ledare för flera av de största frontier-AI-laboratorierna offentligt närmat sig samma grundidé: mer oberoende kontroll och mer tid för säkerhetsarbete innan kapaciteten höjs ytterligare.

Google hade redan i juni föreslagit en oberoende, federalt övervakad och branschstödd organisation som skulle kunna sätta säkerhetsstandarder för de mest avancerade AI-modellerna och verifiera frivilliga oberoende revisioner. Hassabis stöd till Amodeis riktning innebär därför inte att Google har antagit Anthropics trestegsplan i sin helhet, men det stärker bilden av att extern granskning håller på att bli en gemensam diskussionspunkt i branschen.

Marketplace rapporterade nyligen att OpenAI inte planerar någon börsnotering under 2026, där Altman också kopplade bolagets prioriteringar till AI-säkerhet, styrning och samordning med andra aktörer.

AI-varningen pressade teknikaktier globalt

Den 14 september fick diskussionen en tydlig marknadsreaktion. Reuters rapporterade att AI-relaterade aktier föll på börser i USA, Europa och Asien efter att flera branschledare ställt sig bakom en lägre utvecklingstakt för de mest avancerade modellerna.

Nasdaq 100 föll omkring 1,2 procent i den tidiga amerikanska handeln. Philadelphia Semiconductor Index tappade drygt 5 procent, samtidigt som Nvidia, AMD och Micron föll. I Europa var tekniksektorn ned drygt 2 procent och ASML tappade omkring 6 procent. I Asien föll SoftBank som mest över 13 procent under handeln, medan även TSMC och SK Hynix backade.

Marknadsreaktionen ska inte tolkas som att en faktisk samordnad AI-paus har införts. Investerare reagerade på risken för att långsammare modellutveckling kan dämpa investeringar i datacenter, halvledare och annan AI-infrastruktur. Någon gemensam tidsplan, kapacitetsgräns eller bindande överenskommelse mellan frontier-bolagen hade fortfarande inte annonserats.

Det gör skillnaden mellan retorik och genomförande central. Bolagens offentliga stöd för mer försiktighet är en signal till marknaden, men den praktiska effekten beror på om uttalandena följs av verifierbara regler för modellträning, tester och lanseringar.

Vad betyder en långsammare AI-utveckling i praktiken?

Amodeis förslag handlar främst om att minska tempot i hur snabbt de mest avancerade modellernas kapacitet höjs. Det skulle kunna innebära längre säkerhetstester, mer extern granskning och större marginal mellan en teknisk genombrottsnivå och bred lansering.

För användare av dagens AI-tjänster betyder förslaget inte att Claude eller andra befintliga produkter stängs ned. Det är i första hand en fråga om hur nästa generations frontier-modeller utvecklas, testas och släpps.

Det nya beskedet från OpenAI förändrar därför framför allt läget från principiellt stöd till pågående samtal mellan flera av de största aktörerna. Exakt vad samarbetet omfattar, vilka standarder som kan bli gemensamma och om initiativet leder till bindande åtaganden är fortfarande oklart. Den avgörande frågan blir om samtalen resulterar i verifierbara regler för tester, oberoende granskning och lansering av nästa generations modeller.

Källor

• Dario Amodei: We Must Pace the Frontier
• Reuters: Anthropic CEO urges AI companies to slow model development
• Reuters: Global AI stocks fall as industry chiefs call for slowing development
• Reuters: OpenAI is working with Anthropic, Google on AI safety, Bloomberg News reports
• Bloomberg Law: OpenAI Says It’s Working With Anthropic, Google on AI Safety
• OpenAI: The AI policy window is open. We need to act.
• Axios: Hitting AI brakes
• Google: A pragmatic approach to AI governance in America
• Anthropic: Countering misuse of AI – September 2026
• Anthropic: An alignment assessment of recent cybersecurity incidents