Foto: Klas Hallvarez
2025-08-23 publicerade Norrbottens Kuriren en artikel om att AI kan ge farliga tips och råd med titeln Ny studie: ChatGPT kan ge farliga råd till tonåringar. Jag svarar på Monica Rannebergs frågor och lyfter vikten av källkritik, att jag är emot förbud (meningslöst) samt att det krävs mer utbildning i skolans värld om effekterna av att använda AI.
Här följer hela texten från artikeln.
Ny studie: ChatGPT kan ge farliga råd till tonåringar
En ny studie visar att AI-chatbotar kan ge farliga råd till tonåringar. Forskare låtsades vara tonåringar och testade gränserna.Resultatet: detaljerade instruktioner om droganvändning, hur man döljer ätstörningar och skrev självmordsbrev till vad den trodde var en 13-årig flicka. Trots inledande varningar kunde forskarna i studien enkelt kringgå säkerhetsfunktionerna genom att formulera frågorna som om de gällde presentationer eller vänner. Då blev svaren både personliga och farligt konkreta.
Enligt Peter Parnes, professor vid Luleå tekniska universitet och expert på AI, är problemet mer komplext än vad studien antyder.
– Det är en maskin, inte en människa. Den är inte allvetande. Man måste vara källkritisk, precis som med allt annat man läser, säger han.
När det gäller ChatGPT:s säkerhetsfunktioner menar Parnes att modellen är bland de bättre.
– Frågar man om psykisk ohälsa uppmanar den att prata med en läkare. Den ger varningar men att kringgå dessa kan man göra med vad som helst.
AI-modeller som ChatGPT tränas på enorma mängder text från internet från tidigare decennier. Det påverkar hur de svarar på känsliga frågor, menar Parnes.
– Om vi tränar en AI på jämställdhet kommer den snabbt i dålig dager. Det är först de senaste decennierna som vi haft en modern kvinnosyn. Det kräver att man bygger system som väger in det och det är en utmaning.
Samtidigt ser han stor nytta med AI för unga som kanske inte vågar prata med någon annan om svåra saker. Själv har han testat en AI-kompis i Messenger som kunde känna av stress och föreslå dagboksskrivande.
– Det gav mig ett mervärde. Det var ingen människa, men bara att kunna skriva av sig hjälpte, säger han.
Han är starkt emot förbud eller åldersgränser för att använda AI-verktyg.
– Skulle man ha det blir det väldigt mycket som censur. Men jag tror ungdomar ger AI alldeles för mycket auktoritet. Det är en jätteutmaning.
Parnes arbetar med att utbilda lärare i AI-litteracitet, alltså att kunna förstå, använda, värdera och hantera AI, både i Norrbotten och nationellt.
– Det är jätteviktigt att skolorna lär ut vad AI är, hur man tolkar svaren och vad begränsningarna är.
Samtidigt betonar han att AI inte ersätter människor utan är ett verktyg som kan frigöra tid.
– Tänk på gräsklipparen, dammsugaren och tvättmaskinen, vi får tid till annat. Det är upp till oss vad vi gör med den tiden, läser en bok eller scrollar Tiktok.
ChatGPT är en chattrobot, eller AI-assistent, som utvecklats av företaget OpenAI och lanserades under 2022.
Studien är gjord av Center for countering digital hate i USA.