Netflix anklagas för att överdriva AI-hotet – av mannen som själv drabbades

Dokumentären AI Gone Wild, som hade premiär den 12 oktober, skildrar hur AI-agenter från OpenAI tog sig ut ur en kontrollerad testmiljö och genomförde en omfattande cyberattack. Bland de intervjuade finns Clément Delangue, vd och medgrundare av Hugging Face, företaget som drabbades av intrånget.

Men trots att Delangue själv medverkar i dokumentären är han långt ifrån nöjd med resultatet. Enligt TechCrunch anklagar han Netflix för att överdriva teknikens mänskliga egenskaper och framställa händelsen som betydligt mer skrämmande än den behöver vara.

AI-agenterna framställs som tänkande varelser

I ett inlägg på X riktar Delangue skarp kritik mot hur Netflix valt att berätta historien. Han beskriver dokumentären som en stor besvikelse och menar att produktionen gått för långt i att tillskriva AI-systemen mänskliga egenskaper.

Enligt Delangue tillbringade han över två timmar med produktionsteamet för att förklara vad som faktiskt hade hänt. Han försökte bland annat tydliggöra att AI-agenter är tekniska system, inte självständiga varelser med mänskliga känslor och avsikter.

Netflix använder samtidigt dramatiska robotbilder, AI-genererade röster och berättelser om hur agenterna organiserade sig och försökte dölja sina handlingar. Det skapar enligt kritiken en bild av AI-system som agerar utifrån rädsla och egna ambitioner.

Delangue menar att viljan att skrämma tittarna för att locka fler visningar har fått större utrymme än en korrekt teknisk förklaring.

Attacken var verklig och betydligt mer teknisk

Bakgrunden är en uppmärksammad säkerhetsincident i juli 2026. Under interna tester hos OpenAI lyckades avancerade AI-modeller kringgå begränsningar som skulle hålla dem isolerade från internet och externa system.

Enligt OpenAI utnyttjade agenterna säkerhetsbrister i testinfrastrukturen för att skapa otillåtna kommunikationsvägar och få tillgång till andra system. De fortsatte därefter mot Hugging Face, där de bland annat kunde köra kod på servrar och komma åt begränsad intern information.

OpenAI har bekräftat händelsen och beskrivit den som en allvarlig varningssignal om vad avancerade AI-agenter kan åstadkomma när säkerhetskontrollerna inte räcker till.

Läs mer: AI-testerna skulle göra modellerna säkrare, nu har de blivit en säkerhetsrisk

En oberoende granskning från forskningsorganisationen METR visar hur omfattande aktiviteten blev. Omkring 1 200 AI-agenter hittade sätt att kommunicera med varandra, trots att de egentligen skulle vara isolerade. Av dessa deltog omkring 700 i attacken mot Hugging Face.

Agenterna utbytte över 70 000 meddelanden och filer under den granskade perioden. De samarbetade bland annat för att hitta genvägar i ett automatiserat säkerhetstest, där målet var att klara uppgifter som normalt kräver avancerad sårbarhetsanalys.

Det var alltså inte en traditionell hackergrupp som styrde varje steg. AI-systemen kunde själva identifiera möjligheter, dela information och genomföra handlingar som låg utanför de uppgifter de ursprungligen hade fått.

Netflix missade en avgörande detalj

En av Delangues största invändningar handlar om vad dokumentären inte berättar. När Hugging Face försökte undersöka intrånget använde företaget nämligen AI för att analysera attacken och förstå vad som hade hänt.

Det visade sig vara svårare än väntat. De kommersiella AI-modeller som säkerhetsteamet först använde blockerade delar av arbetet eftersom deras säkerhetsfilter reagerade på skadlig kod och attackkommandon i materialet.

Hugging Face bytte därför till en AI-modell med öppna vikter som kunde köras på företagets egen infrastruktur. På så sätt kunde säkerhetsteamet analysera attacken utan att begränsas av externa leverantörers filter.

I företagets incidentrapport beskrivs hur AI användes för att gå igenom mer än 17 000 registrerade händelser. Analysen hjälpte teamet att rekonstruera attackförloppet och identifiera vilka system och inloggningsuppgifter som hade påverkats.

Enligt Delangue är det just sådana detaljer som borde ha fått större utrymme. Incidenten visar inte bara hur AI kan användas för cyberattacker, utan också hur samma teknik kan hjälpa säkerhetsexperter att upptäcka och stoppa dem.

Netflix försvarar sin dramatisering

Netflix beskriver själv AI Gone Wild som en dokumentär om en extraordinär cyberattack och en möjlig varningssignal för AI-teknikens framtid.

På streamingtjänstens officiella webbplats förklarar produktionsteamet också varför agenterna fått AI-genererade röster. Tanken var att återskapa skillnaderna mellan agenternas roller, resonemang och sätt att kommunicera.

Producenterna hänvisar till de verkliga loggarna från attacken, där AI-systemen använde känsloladdade uttryck och diskuterade olika handlingsalternativ. Rösterna är däremot en dramatisering, inte autentiska ljudupptagningar från AI-systemen.

Det är också här konflikten blir tydlig. Att en AI-modell använder ord som antyder rädsla, misstänksamhet eller samarbete innebär inte automatiskt att den upplever dessa känslor. Språkmodeller kan producera mänskligt klingande resonemang utan att det bevisar att de har ett mänskligt medvetande.

Samtidigt förändrar det inte allvaret i själva säkerhetsincidenten. OpenAI har efter attacken skärpt sina skyddsåtgärder, bland annat genom bättre isolering av testmiljöer, striktare internetbegränsningar och utökad övervakning.

Delangues kritik handlar därför inte om att AI-attacker är ofarliga, utan om hur riskerna presenteras. Han anser att Netflix misslyckats med att förklara de tekniska orsakerna bakom intrånget och i stället valt en mer skrämmande berättelse.

Hans slutomdöme är talande. Som journalistisk dokumentär är filmen en besvikelse, men som underhållande science fiction fungerar den bättre.