ChatGPT for Teens aktiveras automatiskt när en användare uppger att den är mellan 13 och 17 år eller när OpenAI bedömer att ett konto sannolikt tillhör någon under 18. Tonåringar får fortfarande använda ChatGPT för att studera, skapa och söka information, men med hårdare begränsningar för känsliga samtal. Det uppger OpenAI.
Lanseringen sker nästan fyra år efter att ChatGPT öppnades för allmänheten. Under den tiden har unga redan börjat använda chattboten för skolarbete, personliga frågor och känslomässigt stöd. TechCrunch beskriver därför satsningen som ett sent svar på ett användningsmönster som OpenAI länge känt till.
Stoppar känsliga rollspel och relationer
Tonårsversionen ska vara mer försiktig i samtal om självskada, våld, ätstörningar, farliga aktiviteter och sexuellt eller grafiskt innehåll. OpenAI säger också att ChatGPT inte ska använda romantiskt språk, uppmuntra känslomässigt beroende eller påstå att systemet har egna känslor eller ett medvetande.
Annons
Tanken är att minska risken för att unga börjar se chattboten som en partner eller mänsklig vän. Gränsen ska förstärkas med återkommande påminnelser om att ChatGPT är ett AI-system. Tonåringar som använder tjänsten länge kan även få uppmaningar att ta en paus.
Förändringen kommer efter omfattande kritik mot hur AI-chattbotar hanterar sårbara unga användare. Associated Press rapporterar att tidigare tester har visat hur ChatGPT kunnat lämna skadliga och detaljerade svar om bland annat droger, ätstörningar och självskada trots inledande varningar.
Ska hjälpa med läxan utan att göra den
ChatGPT for Teens innehåller också förändringar för skolarbete. Om en elev försöker få ett snabbt svar på en uppgift ska tjänsten kunna styra samtalet mot studieläget, där problemet bryts ned med frågor och stegvis vägledning.
Nya läxpåminnelser ska försöka upptäcka när användaren vill hoppa över själva arbetet. Det kompletteras med quiz, visuella förklaringar och studietider då nya samtal automatiskt startar i studieläget.
Det innebär inte att ChatGPT blir en säker faktakälla eller att det blir omöjligt att fuska. Språkmodellen kan fortfarande lämna felaktiga uppgifter, och automatiska system kan inte avgöra varför en elev ställer en viss fråga. Förändringen handlar främst om hur tjänsten försöker leda samtalet.
Åldern avgörs även av hur kontot används
OpenAI förlitar sig inte enbart på den födelsedag som användaren anger. Företagets system för åldersanalys kan bland annat titta på vilka ämnen som diskuteras, vilka tider på dygnet kontot används och hur länge kontot har funnits.
Om systemet tror att en vuxen är minderårig aktiveras tonårsläget automatiskt. Användaren kan då verifiera sin ålder genom företaget Persona, som kan begära en direkttagen bild eller en statlig id-handling.
OpenAI uppger att företaget inte får själva bilden eller id-handlingen. Persona ska radera materialet inom sju dagar och endast lämna vidare nödvändig åldersinformation. Åldersanalysen rullas ut globalt, men kommer enligt OpenAI till EU under de kommande veckorna på grund av regionala krav. Det innebär att svenska konton kan få funktionen senare än användare på andra marknader.
Läs mer: Så använder du ChatGPT smartare
Föräldrar kan låsa funktioner
Föräldrar och tonåringar kan koppla samman sina konton. Den vuxne kan då begränsa röstläge, bildgenerering, sparade minnen och åtkomst till vissa verktyg. Det går också att ställa in tider då ChatGPT inte får användas.
Föräldrakontrollen ger däremot inte tillgång till barnets konversationer eller chatthistorik. Vid vissa allvarliga situationer kan OpenAI skicka en begränsad säkerhetsnotis, exempelvis efter att särskilt utbildade granskare identifierat en allvarlig risk för självskada.
Både tonåringen och föräldern kan koppla bort kontona. Om tonåringen gör det ska den vuxne meddelas, men förlorar därefter möjligheten att styra inställningarna.
Läs mer: ChatGPT ska bli familjens självklara val
ChatGPT for Teens ger OpenAI ett tydligare säkerhetssystem för en användargrupp som redan finns på plattformen. Den svåra frågan är om modellerna och åldersanalysen fungerar tillräckligt bra i praktiken.
Ett tonårsläge gör liten skillnad om unga placeras i fel version eller om skydden går att kringgå med enkla omformuleringar.
