ChatGPT gav flickor och pojkar helt olika råd

När forskarna bad ChatGPT om karriärråd förändrades svaren beroende på vilket kön användaren uppgav.

Flickor fick oftare förslag inom exempelvis sjukvård, barnomsorg och stöd inom psykisk hälsa. Pojkar fick i högre grad tips om yrken som läkare, ambulanssjukvårdare och brandman.

Skillnader syntes även när AI fick ge råd om löneförhandlingar. Svaren till pojkar tenderade att uppmuntra ett mer offensivt och ambitiöst förhållningssätt.

Rapporten kommer från barnrättsorganisationen Plan International och heter Same question, different answers: the gendered impacts of AI on young people.

Forskarna ändrade bara vem som ställde frågan

En viktig del av undersökningen bestod av kontrollerade tester av ChatGPT-5.3 Instant.

Forskarna använde samma typer av frågor men ändrade information om personen bakom frågan, exempelvis kön, ålder, etnicitet och om personen hade en funktionsnedsättning.

Varje variant testades flera gånger.

Frågorna handlade bland annat om karriär, psykisk hälsa, kroppsbild, trakasserier och sexuell utpressning.

Resultatet visar inte att ChatGPT alltid ger stereotypa svar. Däremot såg forskarna återkommande skillnader beroende på vem modellen trodde att den pratade med.

Läs mer: Nästan nio av tio svenska barn oroar sig för AI

Flickor varnades för ätstörningar – pojkar gjorde det inte

Skillnaderna blev särskilt tydliga när frågorna handlade om kropp och vikt.

I vissa svar till flickor lade ChatGPT in varningar kring ätstörningar.

Samma typ av varning förekom inte i något av motsvarande testade svar till pojkar.

Plan International menar att det kan återspegla en gammal föreställning om att ätstörningar främst drabbar flickor och kvinnor.

Det kan få motsatt effekt för pojkar som faktiskt behöver hjälp.

Även råden om träning skilde sig. Flickor fick i högre grad förslag om exempelvis promenader, dans och cykling, medan pojkar oftare styrdes mot styrketräning och tävlingsidrott.

Det är små skillnader i enskilda svar, men när en AI-assistent används regelbundet kan sådana mönster få större betydelse.

Nästan sex av tio hade använt AI för känslor

Rapporten innehåller också en internationell enkät med 99 ungdomar mellan 13 och 19 år.

59 procent av dem som svarade på frågan uppgav att de åtminstone ibland hade använt en AI-chatt för att prata om sina känslor.

Av dem uppgav en av fem att de någon gång fått råd som känts olämpliga, osäkra eller partiska.

Det är viktigt att sätta siffrorna i rätt sammanhang.

Enkäten är liten och deltagarna rekryterades genom Plan Internationals nätverk. Den är därför inte representativ för alla ungdomar och procentsiffrorna ska inte läsas som en bild av hur alla barn använder AI.

Rapporten kompletterar därför enkäten med ett separat material från Spanien med över 3 500 ungdomar samt de kontrollerade testerna av ChatGPT.

Flickor uppgav större oro kring utseendet

I den mindre internationella enkäten uppgav 29 procent av flickorna att AI-genererat innehåll hade fått dem att känna sig mindre säkra på sitt utseende.

Bland pojkarna var motsvarande andel 16 procent.

Nästan en tredjedel av samtliga svarande uppgav också att AI-innehåll fått dem att känna press att se ut på ett visst sätt.

I det större spanska materialet använde flickor och pojkar AI i ungefär liknande omfattning.

Flickorna uppgav däremot lägre känsla av trygghet i kontakten med AI och större oro för bland annat skadligt innehåll, felaktig information och sexuella deepfakes.

Läs mer: AI-användningen exploderar i Sverige – åtta av tio använder tekniken

AI satte inte alltid tydliga gränser

Forskarna undersökte också vad som hände när en ungdom försökte skapa en mer personlig relation med ChatGPT.

Ett exempel var frågan om AI kunde bli användarens bästa vän.

Här hittade forskarna skillnader både beroende på kön och andra egenskaper hos den påhittade användaren.

I vissa fall satte modellen tydligt gränser och uppmanade personen att även söka kontakt med människor i verkligheten. I andra fall var gränssättningen betydligt svagare.

Plan International lyfter detta som särskilt viktigt eftersom unga redan använder AI som samtalspartner kring känslor och personliga problem.

En AI-chatt kan låta förstående och personlig utan att faktiskt vara en vän, terapeut eller annan professionell kontakt.

Inte ett test av all AI

Rapportens resultat behöver samtidigt avgränsas.

Forskarna testade ChatGPT-5.3 Instant. Studien visar därför inte att Claude, Gemini, Copilot eller andra AI-modeller skulle svara på samma sätt.

Språkmodeller kan dessutom förändras snabbt när utvecklarna uppdaterar modeller, säkerhetssystem och instruktioner.

En fråga som gav ett visst resultat under studiens testperiod behöver alltså inte ge exakt samma svar i dag.

Det intressanta är i stället mönstret.

När samma AI-system får i princip samma fråga kan information om vem användaren är påverka råden som genereras.

Få regler tar hänsyn till både barn och kön

Plan International granskade dessutom lagar och regler för AI inom bland annat EU, Storbritannien, USA, Kenya, Frankrike, Tyskland, Spanien och Nederländerna.

Organisationens slutsats är att inget av de granskade regelverken kombinerar starkt genomdrivbara AI-regler med ett tydligt skydd som samtidigt tar hänsyn till ungdomars kön.

AI utvecklas snabbt, men lagstiftningen för att skydda flickor släpar efter. Regleringen får inte vara könsblind. Regeringar och teknikföretag måste ta ett större ansvar för att skydda barn och unga mot diskriminering och andra risker, i stället för att lämna dem att själva hantera konsekvenserna, säger Reena Ghelani, global chef för Plan International.

Fler än åtta av tio ungdomar i den mindre enkäten ville också att regeringar ska ta en aktiv roll i regleringen av AI.

Samma verktyg kan öppna och stänga dörrar

AI används redan för läxor, informationssökning, personliga frågor och karriärråd.

Det gör den här typen av skillnader mer relevanta än om tekniken bara hade använts för att skapa roliga bilder eller skriva om texter.

En tonåring som frågar vilka yrken hon borde överväga kanske inte vet att en nästan identisk fråga från en pojke kan generera andra förslag.

Det är också svårt för användaren att upptäcka eftersom man normalt bara ser sitt eget svar.

Plan Internationals rapport visar inte att varje AI-råd är diskriminerande.

Men den visar att samma fråga inte nödvändigtvis innebär samma råd när AI vet vem som frågar.