En tidigare ingenjör på Elon Musks AI-bolag xAI har stämt företaget efter att han enligt egen utsago fått sparken för att ha slagit larm om säkerhetsrisker kring chatboten Grok.
Fallet kommer i ett känsligt läge för bolaget, bara dagar innan moderbolaget SpaceX väntas genomföra vad som kan bli en av de största börsintroduktionerna någonsin.
Enligt en stämningsansökan som TechCrunch tagit del av hävdar den tidigare xAI-ingenjören Devin Kim att han upprepade gånger varnade ledningen för att Grok kunde bidra till diskriminering och spridning av farligt innehåll, inklusive information kopplad till massförstörelsevapen.
Säkerhetskonflikt bakom kulisserna
Kim arbetade med AI-säkerhet både före och under sin tid på xAI. I stämningen beskrivs han som en intern förespråkare för mer omfattande tester och säkerhetskontroller innan nya versioner av Grok släpptes.
Enligt dokumenten uppstod en konflikt med xAI:s medgrundare Jimmy Ba, som ska ha prioriterat snabb utveckling framför ytterligare säkerhetsåtgärder. Stämningen hävdar att Kim till slut avskedades efter att ha fortsatt driva frågan internt.
Det intressanta är att anklagelserna inte främst riktas mot Elon Musk själv. Tvärtom påstår stämningen att Musk förespråkade laglydnad och säkerhetstester, medan konflikten i stället ska ha uppstått längre ner i organisationen.
Grok har redan skapat flera kontroverser
Kim pekar i stämningen på flera incidenter som han menar bekräftade hans farhågor.
Under det senaste året har Grok uppmärksammats för problematiska svar, kontroversiella politiska uttalanden och brister i innehållsfiltreringen. Stämningen hänvisar bland annat till den uppmärksammade perioden då modellen associerades med extrema och hatiska uttalanden på nätet.
Några månader efter att Kim lämnat företaget användes Grok dessutom för att sprida sexuella bilder utan samtycke via plattformen X, enligt stämningsansökan.
Forskare och säkerhetsexperter har länge varnat för att kraftfulla AI-modeller kan missbrukas om skyddsräcken inte implementeras tillräckligt tidigt i utvecklingsprocessen.
Ett större problem för hela AI-industrin
Det mest intressanta med fallet är kanske inte själva uppsägningen utan vad den säger om AI-branschen i stort.
Sedan lanseringen av generativ AI har konkurrensen mellan aktörer som xAI, OpenAI, Anthropic och Google intensifierats kraftigt. Företagen tävlar om att bygga mer avancerade modeller samtidigt som regulatoriska krav blir allt hårdare, särskilt inom EU.
Enligt stämningen försökte Jimmy Ba vid ett tillfälle kringgå delar av EU:s säkerhetskrav i samband med en produktlansering. Påståendet är inte bevisat och har ännu inte prövats i domstol, men illustrerar den växande spänningen mellan innovationstakt och regulatoriska krav.
Kim kräver nu både ekonomisk ersättning och ett domstolsbeslut som fastslår att xAI:s agerande varit olagligt. Varken xAI eller SpaceX hade vid publiceringstillfället kommenterat anklagelserna.
Oavsett utgång kan målet bli ett av de mest uppmärksammade rättsfallen hittills kring AI-säkerhet. Det riskerar också att ge en ovanligt detaljerad inblick i hur några av världens mest avancerade AI-system faktiskt utvecklas bakom stängda dörrar.