ChatGPT får ett eget läge för tonåringar

OpenAI, företaget bakom ChatGPT, har lanserat en särskild upplevelse för tonåringar. Användare som själva anger att de är 13–17 år eller som systemet bedömer är under 18 placeras automatiskt i ChatGPT for Teens.

Läget är byggt för lärande. Study Mode ska ställa frågor och hjälpa användaren steg för steg i stället för att bara lämna ett snabbt svar. Tonåringar och föräldrar kan också välja studietider då Study Mode används som standard.

OpenAI lägger till påminnelser när en elev verkar försöka hoppa över arbetet i en skoluppgift. Det finns även quiz, visuella förklaringar och pauspåminnelser som uppmanar användaren att lämna skärmen en stund.

Standardskydden är starkare för bland annat självskada, ätstörningar, våld, farliga aktiviteter och sexuellt eller grafiskt innehåll. ChatGPT ska också påminna om att tjänsten är en AI och inte använda romantiskt språk, uppmuntra känslomässigt beroende eller påstå att den har egna känslor.

Föräldrar med länkade tonårskonton kan styra vissa inställningar och få varningar i ett begränsat antal situationer med hög risk. OpenAI skriver samtidigt att informationen som delas ska begränsas. Lanseringstexten beskriver inte ett system där föräldrar kan läsa alla samtal.

Skydden bygger på OpenAI:s egna regler, modeller och tester. De är inte ett löfte om att åldersbedömningen alltid blir rätt eller att skadliga och felaktiga svar aldrig släpps igenom. Företaget anger inte heller en separat prislista eller en fullständig landlista för tonårsläget.

Behovet är tydligt även i Sverige. Mediemyndigheten rapporterar att 38 procent av flickorna och 34 procent av pojkarna i åldern 13–16 använder AI-chattbotar minst varje vecka. Bland 17–18-åringar är andelarna 49 respektive 59 procent.

UNICEF lyfter säkerhet, dataskydd, insyn och barns utveckling som centrala krav för barnanpassad AI. Ett särskilt läge kan vara en del av skyddet, men vuxenstöd, källkritik och en tydlig väg till mänsklig hjälp behövs fortfarande.

Därför spelar det roll

ChatGPT används redan regelbundet av många svenska ungdomar. Ett eget tonårsläge kan göra standardskydden tydligare och styra fler skolfrågor mot lärande, men föräldrar och skolor behöver fortfarande prata om personuppgifter, felaktiga svar och när en vuxen ska ta över.

Det här kan du göra

1. Kontrollera vilket läge kontot faktiskt visar och gå igenom inställningarna tillsammans.
2. Använd Study Mode för att resonera steg för steg, men kontrollera fakta och källor utanför ChatGPT.
3. Skriv inte in känsliga uppgifter, bilder, lösenord eller information om andra personer.
4. Be en vuxen eller professionell människa om hjälp vid oro för hälsa, självskada, hot eller andra allvarliga situationer.