Jag har tidigare skrivit ett flertal texter om AI och ChatGPT på denna blogg. Här är en text om riskerna med att överanvända och förlita sig för mycket på generativ AI inklusive ChatGPT.

Generativ AI är en spännande teknologi som används för att skapa nya och unika kreationer, från musik och konst till text och videor och har fått stor uppmärksamhet i och med ChatGPT:s lansering 221130. Genom att använda stora mängder data och algoritmer för maskininlärande så kan generativ AI skapa något som liknar det mänskliga skapandet.

Trots dess potential finns det risker med att använda generativ AI för mycket, och frågan är om det kan påverka oss som människor och vårt samhälle negativt?

Nedan diskuterar jag detta ur ett antal olika aspekter av användning av generativ AI.

Förlorar vi vår kreativa förmåga genom överanvändning av generativ AI?

Överanvändning av generativ AI kan vara en av de största riskerna för vår kreativitet och kreativa process. Det kan vara lockande att använda generativ AI för att spara tid och ansträngning när vi skapar något nytt, men om vi förlitar oss för mycket på teknologin kan vi förlora förmågan att tänka utanför ramarna och skapa något helt nytt och unikt. Vi kan bli alltför beroende av teknologin och tappa vår förmåga att vara kreativa på egen hand.

Att förlora vår kreativa förmåga kan ha allvarliga konsekvenser för vårt arbete och vår självbild då kreativitet är en viktig del av vår mänskliga natur, och det är viktigt att vi fortsätter att utveckla och utmana oss själva för att uppnå nya nivåer av originalitet och hur vi utrycker oss.

Kommer generativ AI att helt ersätta vår kreativitet?

Kommer överanvändning av generativ AI minska vår kreativitet och göra oss helt beroende av teknologin? Att skapa något från grunden kräver tid, ansträngning och tänkande. Om vi förlitar oss för mycket på generativ AI för att skapa något kan vi förlora vår förmåga att tänka kreativt och skapa något unikt.

Att förlita sig för mycket på generativ AI kan också minska vår motivation och engagemang för det kreativa arbetet. När vi använder generativ AI för att skapa något kan vi tappa intresset för själva skapandeprocessen och den kreativa utmaningen. Det kan kanske också minska vår förmåga att utveckla vår egen kreativa stil.

Kan snedvridning (bias) leda till exkludering och diskriminering?

En annan risk med generativ AI är att det kan leda till snedvridning (bias). Generativ AI är bara lika bra som de data som matas in i systemet. Om datamängden som används är snedvriden eller påverkad, kommer AI-hjärnan att producera ett snedvridet resultat. Detta kan leda till att vissa grupper exkluderas eller diskrimineras. Det är därför viktigt att se till att data som används för att träna generativ AI är mångsidig och inkluderar en bredd av olika perspektiv.

I träningen av ChatGPT:s underliggande AI-hjärna GPT3.5 så har människor hjälpt till med träningen genom att skapa både frågor och svar och frågan är då om dessa människor gör detta helt objektivt. Det är också en fråga om kulturella och sociala kopplingar som kan variera mellan olika delar av världen. ChatGPT är tränad av personer främst i USA och i Kenya och frågan ä not inte om det påverkar resultatet utan snarare hur det påverkar resultatet?

Finns det en risk att det blir ett överflöd av material skapat av generativ AI?

En annan risk med överanvändning av generativ AI är att det kan skapas för mycket nytt innehåll, vilket kan leda till ett överflöd av material som är svårt att sålla igenom. Detta kan göra det svårt för människor att hitta det som är relevant och värdefullt.

Dessutom kan det skapa en miljö där allt blir likadant och där originaliteten går förlorad. Det är också viktigt att hitta sätt att organisera och kategorisera innehåll så att det blir lättare för människor att hitta det som de söker efter.

Inom den akademiska forskningen är det en fara att det blir för enkelt att skapa nya publikationer och forskarvärlden kommer att översvämmas av publikationer som skapats med hjälp av AI vilket i sin tur kommer att påverka allmänhetens förtroende för forskningen. Vi forskare brukar säga att allt går att publicera, bara vi betalar för det. Det finns massor av akademiska konferenser och tidskrifter som bara finns för att tjäna pengar.

Finns det juridiska konsekvenser av användning av generativ AI?

Generativ AI kan producera innehåll som kan kränka upphovsrätten eller andra immateriella rättigheter. Detta kan leda till rättsliga problem för de som använder generativ AI utan att ha rättigheter till det producerade materialet eftersom det bygger på skyddat träningsdata.

Det pågår just nu flera rättsfall där rätten till träningsdata för att träna AI-hjärnorna utreds. Det vill säga, får allt data som finns tillgängligt användas för träning hur som helst? Här måste vi respektera upphovsrätten och andra rättigheter och det är fortfarande ganska oklart vad som gäller. Det som är klart är att en AI inte kan ha äganderätten till något den har skapat.

På webbplatsen Have I been trained? kan du söka bland 5.8 miljarder bilder som använts för att träna AI-hjärnor. Jag hittade inga bilder där på mig själv (Peter Parnes) men om du hittar bilder på dig själv eller som du skapat i databasen så kontakta gärna mig.

Finns det risker med missbruk av generativ AI?

Generativ AI kan användas på ett sätt som kan skada eller utnyttja andra människor, som till exempel att skapa deepfakes eller annat falskt material som kan användas för att manipulera människor eller sprida falsk information.

Jag gjorde ett experiment där jag skapade en serie bilder på LTU:s rektor Birgitta Bergvall-Kåreborn utifrån publika bilder på Birgitta. Jag stoppade inte in Birgitta i något negativt sammanhang men kunde lätt ha gjort det. Till exempel att Birgitta skakar hand och skrattar tillsammans med någon person som kan uppfattas som negativt. Självklart kan Birgitta dementera bilden, men finns den “där ute” så är skadan antagligen redan skedd och ryktet kan ta lång tid att reparera. Med dagens teknik så är det väldigt lätt att skapa denna typ av negativa fejkade bilder.

Här måste vi se till att det producerade materialet inte skadar någon annan och jag anser att detta bör ingå i läroplanen och undervisningen i grundskolan och gymnasiet kopplat till digitalisering och respekt för andra människor.

Kan generativ AI leda till sociala negativa konsekvenser?

Generativ AI kan ha sociala konsekvenser som kan påverka samhället negativt, som till exempel att människor ersätts av automatiserade processer eller att vissa yrken blir överflödiga. Detta är helt enkelt en del av att samhället utvecklas.

Det är också möjligt att det kan öka sociala klyftor där de som har tillgång till teknologin kan dra nytta av dess fördelar medan andra inte kan det.

Någon skrev ungefär följande: Det är inte AI som kommer att ta ditt jobb, utan istället är det personen som kan nyttja AI till sin fördel som kommer att ta ditt jobb. Jag tror det ligger väldigt mycket sanning i det påståendet och det leder återigen till att vi måste träna vår unga att använda till sin egen och till samhällets fördel.

Diskussion

Diskussionen om huruvida generativ AI kan påverka oss negativt negativt är en viktig. Å ena sidan kan generativ AI vara ett kraftfullt kreativt verktyg som kan hjälpa oss att uppnå nya nivåer av originalitet och nyskapande. Å andra sidan kan överanvändning av generativ AI minska vår förmåga att tänka utanför boxen och hitta nya lösningar på problem.

En möjlig fördel med att använda generativ AI för att stärka vår kreativitet är att det kan ge oss nya perspektiv och idéer som vi inte skulle ha kommit på annars. Genom att utmana oss att tänka annorlunda kan generativ AI hjälpa oss att utvidga våra kreativa gränser och hitta nya sätt att uttrycka oss på.

Samtidigt finns det en risk att vi förlorar vår egen kreativitet om vi förlitar oss för mycket på generativ AI. Om vi inte utmanar oss själva att tänka utanför ramarna och istället förlitar oss på teknologin kan vi förlora vår förmåga att skapa något unikt och personligt.

Så vad är svaret? Svaret är inte enkelt eftersom det beror på hur vi använder generativ AI och vår personliga inställning till teknologin. För vissa människor kan det vara ett ovärderligt verktyg för att stärka sin kreativitet, medan för andra kan det vara mest en distraktion eller till och med en fördumning.

Det är viktigt att tänka på hur vi använder generativ AI och att se till att det är ett verktyg för att underlätta vår kreativa process, inte en ersättning för den. Vi måste fortsätta att utveckla vår egen kreativa förmåga och använda generativ AI som ett komplement, inte som en ersättning . På så sätt kan vi använda generativ AI på ett sätt som stärker vår kreativitet och hjälper oss att skapa helt nya saker.

Sammanfattningsvis är generativ AI inklusive ChatGPT en spännande teknologi som kan användas för att skapa nya och unika kreationer. Dock som med alla teknologier finns det risker med överanvändning och det kan påverka vår kreativitet negativt. Det är därför viktigt att använda generativ AI med förnuft och att fortsätta att utveckla vår egen kreativa förmåga.

Jag tar mer än gärna emot era egna tankar i denna fråga.

Tjänsten ChatGPT som släpptes 221130 av företaget OpenAI i USA använder AI-modellen GPT3.5 som har tränats på stora mängder data från Internet och den har också tränats med hjälp av människor som skrivit både frågor och svar.

Initialt var det många som skrev negativa kommentarer om ChatGPT gällande hur den kunde användas för att fuska men viktigare är istället att titta på hur ChatGPT kan nyttjas för att stötta lärande och hjälpa elever att lära sig mer, snabbare och förhoppningsvis också lära sig djupare.

Här följer några exempel på hur ChatGPT hjälpa elever att lära sig mer.

Hjälplärare och diskussionspartner

I klassrummet så har oftast läraren inte tid att hjälpa alla elever och det finns alltid elever som inte vågar fråga för att visa att de inte förstår, mobbning eller annan brist på tillit i klassrummet. Vidare har inte alla elever tillgång till någon utanför skolan som kan hjälpa dem hemma med skolarbetet.

ChatGPT kan användas som en hjälplärare och diskussionspartner där eleven kan hjälpa dem med svar på olika frågor. Via AI-tjänsten kan eleven få hjälp genom att be om förklaringar och förtydliganden. Förstår eleven inte ett svar så är det bara att be ChatGPT förklara det igen på ett annat sätt.

Vidare kan ChatGPT användas för att verifiera att jag som elev har förstått det jag ska lära mig. Dvs., eleven uppfattar det som att den kan något och ber då ChatGPT om en förklaring. Stämmer förklaringen med elevens egen uppfattning om svaret så får den en bekräftelse men stämmer inte svaret så får eleven tänka till och avgöra om det är eleven som förstått fel eller om ChatGPT ger fel svar vilket ger ett utmärkt tillfälle för djupare lärande.

Överbygga prestationsångest och stress

Alla har någon gång i livet upplevt en prestationsångest när vi ska komma igång med en uppgift och oftast så leder det till stress och prokrastinering. Vi vet inte helt enkelt hur vi ska angripa en uppgift och här kan ChatGPT hjälpa oss och eleven att komma vidare.

Eleven kan be ChatGPT skriva ett kort svar på en skoluppgift för att komma igång. Det kan vara till exempel rena fakta kopplat till uppgiften eller en introduktion till en skrivuppgift. Eleven får här ett svar som de självklart måste granska kritiskt och redan där uppkommer ett lärande. Sedan kan eleven fortsätta med att skriva om de fakta den fått eller fortsätta skriva på introduktionen eleven fick.

Självklart behöver ChatGPT inte bara användas för att komma igång utan prestationsångesten kan uppkomma när de har kommit en bra bit in i uppgiften men inte riktigt vet hur de ska fortsätta. Här kan eleven ge ChatGPT hela sin text som de redan skrivit och be den komma med förslag på hur texten kan utvecklas vidare.

Sammanfatta och analysera texter

Alla läser inte lika fort i skolan och här kan ChatGPT sammanfatta texter för att hjälpa eleven att förstå och komma vidare. Eleven kopierar in texten de ska läsa och får tillbaka en sammanfattning.

Eftersom AI-motorn är tränad på stora textmängder från Internet så är den också tränad på sammanfattningar av de flesta böcker som skrivits. Det vill säga, boken måste inte finnas i digital form för att ChatGPT ska kunna ge en sammanfattning.

Vidare kan ChatGPT användas för att jämföra och analysera texter. Till exempel om en elev ska jämföra texterna från två olika låtar eller analysera en text utifrån en viss aspekt.

Självklart kan detta missbrukas där eleven helt enkelt hoppar över att läsa texten eller boken och då handlar det mer om motivation till lärande. Det vill säga, varför vill inte eleven lösa skoluppgiften själv utan väljer att låta ett verktyg göra det åt dem?

Diskussion

Ovan har jag presenterat några olika exempel men det finns massor med andra uppgifter där ChatGPT kan hjälpa till med lärandet. AI-tjänster som ChatGPT kan hjälpa elever i skolan och förhoppningsvis också att lära sig mer.

Genom att ChatGPT är tillgäng alltid så får alla tillgång till hjälp dygnet runt och var de än är oberoende av social bakgrund. Vi kan säga att det handlar om demokratisering av tillgången till hjälp.

Det är också väldigt viktigt att påminna om att ChatGPT bara är en statiskt språkmodell som tar det mest sannolika ordet utifrån den nuvarande kontexten. Det vill säga, det är ingen databas med fakta och därför så blir det ibland helt fel där ChatGPT fabricerar fram texter som kan uppfattas som riktiga. Bra tillfälle att över på att kritiskt granska texter.

Hur kan du som lärare, förälder eller bara som en hjälpare i elevens närhet använda ChatGPT för att hjälpa till? Jag rekommenderar att du provar själv eftersom ChatGPT är gratis för alla. Skriv lite olika frågor utifrån din uppfattning av elevens uppgifter eller dina egna uppgifter som du jobbat med tidigare för att få en uppfattning om vad den kan och inte kan hjälpa till med.