Anthropics vd Dario Amodei har lagt fram ett förslag som i praktiken skulle förändra hur kapplöpningen mellan de största AI-laboratorierna fungerar. Tanken är inte att stoppa utvecklingen, utan att låta säkerhetsarbetet hinna ikapp innan systemen blir betydligt mer kapabla.
Amodei föreslår bland annat externa granskare med långtgående tillgång till AI-bolagens verksamhet, gemensamma säkerhetskrav mellan ledande laboratorier och på längre sikt internationell samordning mellan länder.
Annons
AI-bolagen vill sätta gemensamma fartgränser
Bakgrunden är en oro för att AI nu börjat bidra allt mer till utvecklingen av nästa generations AI-system. Amodei beskriver det som tidiga tecken på rekursiv självförbättring, där modeller används för forskning, programmering och experiment som i sin tur gör efterföljande modeller bättre.
Han pekar även på uppmärksammade säkerhetsincidenter med AI-agenter som argument för att dagens skyddssystem inte utvecklas lika snabbt som modellernas förmågor. Amodeis slutsats är därför att industrin behöver mer tid för bland annat säkerhetstester, övervakning, tolkning av modellernas beteende och så kallad alignment.
Det är viktigt att skilja på fakta och prognoser här. Amodeis beskrivning av framtida mycket kraftfulla AI-system är hans egen riskbedömning, inte ett fastställt scenario.
Läs mer: AI forskaren lämnar Anthropic: ”Kan döda oss alla”
Enligt The Verge har bland andra OpenAI-chefen Sam Altman, Google Deepminds Demis Hassabis och Elon Musk uttryckt stöd för delar av tanken att bromsa eller koordinera utvecklingen. Det innebär att flera företag som normalt tävlar om att bygga marknadens mest avancerade AI nu åtminstone diskuterar gemensamma begränsningar.
Säkerhetsplanen skapar ett konkurrensproblem
Om OpenAI, Anthropic, Google och andra ledande aktörer kommer överens om hur snabbt tekniken får utvecklas handlar det inte längre enbart om AI-säkerhet. Företagen tillhör samtidigt den lilla grupp som redan har råd att utveckla modeller längst fram i utvecklingen.
Gemensamma regler kan därför få två helt olika effekter. De kan göra avancerade AI-system säkrare, men också skapa trösklar som mindre konkurrenter har svårare att klara.
Amodei tar själv upp problemet. Han skriver att vissa former av samordning mellan amerikanska AI-bolag är juridiskt komplicerade ur konkurrenssynpunkt och föreslår därför att den amerikanska staten på något sätt möjliggör säkerhetsdiskussionerna.
Det gör kartellfrågan svår att avfärda helt, men det betyder inte att företagen har bildat en kartell. Kritiken gäller snarare risken att säkerhetsregler utformas av samma företag som gynnas mest av att marknaden blir svårare att ta sig in på.
Läs mer: OpenAI stoppar börsplanerna – på grund av riskerna med AI
I EU är delar av säkerhetskraven redan lag
För svenska och andra europeiska användare ser situationen samtidigt annorlunda ut. Här behöver AI-bolagen inte enbart förlita sig på frivilliga överenskommelser.
EU:s AI Act ställer särskilda krav på generella AI-modeller som bedöms innebära systemrisk. Leverantörerna ska bland annat genomföra modellutvärderingar och så kallad adversarial testing, bedöma och minska systemrisker, rapportera allvarliga incidenter och upprätthålla ett tillräckligt cyberskydd.
Kraven för leverantörer av generella AI-modeller började gälla den 2 augusti 2025. Sedan den 2 augusti 2026 har EU-kommissionen dessutom befogenhet att fullt ut kontrollera efterlevnaden och använda böter mot leverantörer som inte följer reglerna.
Det innebär att debatten om frivillig självreglering får en annan betydelse inom EU. Här finns redan en extern regulator som åtminstone formellt kan kräva dokumentation och riskhantering utan att OpenAI, Anthropic och deras konkurrenter själva behöver komma överens om spelreglerna.
Frågan är vem som kontrollerar bromsen
Ett alternativ som presenterats av forskningsorganisationen AI Futures Project är ännu mer konkret. Organisationen vill bland annat ge oberoende granskare insyn i hur stora resurser laboratorierna använder för sin AI-forskning och koppla en eventuell inbromsning till mätbara begränsningar.
Poängen är att ett löfte om att “utveckla AI mer försiktigt” annars är svårt att kontrollera utifrån. Ett företag kan lägga mer tid på säkerhet och samtidigt fortsätta öka modellernas förmåga i nästan samma takt.
Det gör den verkliga skiljelinjen mindre dramatisk än frågan om AI-utvecklingen ska stoppas eller fortsätta. Nästan ingen av de stora aktörerna föreslår ett fullständigt stopp.
Konflikten handlar snarare om vem som får bestämma hastigheten och vem som får kontrollera att reglerna följs.
Om de största AI-bolagen själva sätter gränserna finns alltid risken att säkerhetskraven samtidigt skyddar deras marknadsposition. Om reglerna i stället kommer från lagstiftare riskerar de att vara för långsamma eller tekniskt föråldrade innan de träder i kraft.
Det är därför diskussionen om en gemensam AI-broms kan bli minst lika mycket en maktfråga som en säkerhetsfråga.
Läs även: Trump vägrar bromsa AI-utvecklingen – ska slå Kina