ChatGPT kan börja stänga av dig – även mitt i ett samtal

OpenAI presenterade den 30 oktober flera förändringar i ChatGPT:s säkerhetssystem. En av de största nyheterna är att AI-tjänsten ska kunna avbryta samtal där en användare uppvisar tecken på att vara fixerad vid våld eller att allvarligt skada någon annan.

Om flera konversationer avslutas av samma anledning kan OpenAI även pausa användarens konto tillfälligt. Funktionerna är under utveckling och ska börja införas under de kommande veckorna.

ChatGPT ska känna igen varningssignaler mellan samtal

En viktig del av förändringen handlar om hur ChatGPT tolkar användarnas frågor. En fråga som verkar helt oskyldig kan få en annan betydelse om tidigare konversationer innehållit tecken på våldsamma avsikter.

OpenAI arbetar därför med att låta ChatGPT använda korta, faktabaserade sammanfattningar av tidigare varningssignaler. Om systemet upptäcker ett riskmönster ska det bli mer restriktivt med information som skulle kunna missbrukas.

Det innebär inte att alla samtal om våld automatiskt ska stoppas. OpenAI beskriver i stället ett system som försöker skilja mellan vanliga informationsfrågor och beteenden som kan signalera en verklig risk.

De nya begränsningarna gäller ChatGPT generellt och är inte avgränsade till USA. Även svenska användare kan därför påverkas när funktionerna införs.

Läs mer: ChatGPT ska bli familjens självklara val

Över 200 ärenden skickades till polisen

Bakom säkerhetssatsningen finns redan ett omfattande arbete med att identifiera potentiella hot. Enligt OpenAI hänvisade företaget över 200 ärenden till brottsbekämpande myndigheter under tredje kvartalet 2026.

Det handlar om situationer där företaget bedömt att det funnits tillräckligt allvarliga tecken på överhängande våld för att kontakta myndigheter. Siffran visar däremot inte hur många brott som faktiskt har förhindrats.

Reuters rapporterar att förändringarna kommer samtidigt som AI-företag granskas allt hårdare för hur deras chattbotar hanterar risker kopplade till unga användare och potentiellt farliga beteenden.

OpenAI planerar dessutom att publicera en ny säkerhetsrapport i början av 2027. Den ska redovisa hur företaget identifierar, granskar och hanterar riskfyllda situationer, med anonymiserade exempel och statistik. Därefter ska rapporten uppdateras var sjätte månad.

Tonåringar får ännu hårdare begränsningar

En annan stor förändring gäller användare under 18 år. OpenAI skärper reglerna för vilken information tonåringar kan få om vapen och säkerhetssystem, även när frågorna inte verkar ha något skadligt syfte.

Tidigare har ChatGPT redan haft begränsningar kring att hjälpa minderåriga att skaffa vapen eller planera våld. Nu ska även praktiska uppgifter som skulle kunna användas för att underlätta våldsbrott begränsas.

Samtidigt förbättras företagets automatiska åldersbedömning. Systemet analyserar olika signaler, bland annat användningsmönster, för att avgöra om en person sannolikt är under 18 år och därmed ska omfattas av striktare skydd.

Föräldrar som kopplat sina konton till sina tonåringars kan redan få vissa säkerhetsvarningar. OpenAI arbetar nu även med att kunna meddela föräldrar om barnets konto pausas efter upprepade samtal om våld.

Säkerhetsfrågan är samtidigt omdiskuterad. Tidigare i oktober rapporterade AP om tester från organisationen Common Sense Media som visade att flera skyddsfunktioner i ChatGPT för tonåringar inte fungerade tillförlitligt. Bland annat kunde varningar till föräldrar om självskadebeteende och ätstörningar utebli eller komma för sent.

OpenAI har ifrågasatt testernas slutsatser och bland annat hänvisat till att vissa säkerhetsfunktioner kan ha testats innan de hunnit aktiveras.

Även historiska våldsdåd får nya begränsningar

OpenAI inför också striktare regler för frågor om tidigare massattacker. ChatGPT ska fortfarande kunna förklara historiska händelser och deras konsekvenser, men begränsa detaljerade rekonstruktioner av attacker.

Det gäller bland annat uppgifter om vilka vapen som användes, hur de införskaffades och detaljerade jämförelser mellan olika attentat. Begränsningarna ska gälla samtliga användare, oavsett ålder eller varför informationen efterfrågas.

Förändringarna markerar en utveckling där ChatGPT inte enbart ska bedöma enskilda frågor, utan även väga in tidigare beteenden och i vissa situationer avbryta kontakten helt.

OpenAI betonar att systemen fortfarande utvecklas och att det är svårt att avgöra när ett samtal faktiskt innebär en risk. Hur väl de nya skydden lyckas identifiera verkliga hot utan att stoppa legitima frågor återstår därför att se.