Jag har tidigare skrivit ett flertal texter om AI och ChatGPT på denna blogg. Här är en text om riskerna med att överanvända och förlita sig för mycket på generativ AI inklusive ChatGPT.

Generativ AI är en spännande teknologi som används för att skapa nya och unika kreationer, från musik och konst till text och videor och har fått stor uppmärksamhet i och med ChatGPT:s lansering 221130. Genom att använda stora mängder data och algoritmer för maskininlärande så kan generativ AI skapa något som liknar det mänskliga skapandet.

Trots dess potential finns det risker med att använda generativ AI för mycket, och frågan är om det kan påverka oss som människor och vårt samhälle negativt?

Nedan diskuterar jag detta ur ett antal olika aspekter av användning av generativ AI.

Förlorar vi vår kreativa förmåga genom överanvändning av generativ AI?

Överanvändning av generativ AI kan vara en av de största riskerna för vår kreativitet och kreativa process. Det kan vara lockande att använda generativ AI för att spara tid och ansträngning när vi skapar något nytt, men om vi förlitar oss för mycket på teknologin kan vi förlora förmågan att tänka utanför ramarna och skapa något helt nytt och unikt. Vi kan bli alltför beroende av teknologin och tappa vår förmåga att vara kreativa på egen hand.

Att förlora vår kreativa förmåga kan ha allvarliga konsekvenser för vårt arbete och vår självbild då kreativitet är en viktig del av vår mänskliga natur, och det är viktigt att vi fortsätter att utveckla och utmana oss själva för att uppnå nya nivåer av originalitet och hur vi utrycker oss.

Kommer generativ AI att helt ersätta vår kreativitet?

Kommer överanvändning av generativ AI minska vår kreativitet och göra oss helt beroende av teknologin? Att skapa något från grunden kräver tid, ansträngning och tänkande. Om vi förlitar oss för mycket på generativ AI för att skapa något kan vi förlora vår förmåga att tänka kreativt och skapa något unikt.

Att förlita sig för mycket på generativ AI kan också minska vår motivation och engagemang för det kreativa arbetet. När vi använder generativ AI för att skapa något kan vi tappa intresset för själva skapandeprocessen och den kreativa utmaningen. Det kan kanske också minska vår förmåga att utveckla vår egen kreativa stil.

Kan snedvridning (bias) leda till exkludering och diskriminering?

En annan risk med generativ AI är att det kan leda till snedvridning (bias). Generativ AI är bara lika bra som de data som matas in i systemet. Om datamängden som används är snedvriden eller påverkad, kommer AI-hjärnan att producera ett snedvridet resultat. Detta kan leda till att vissa grupper exkluderas eller diskrimineras. Det är därför viktigt att se till att data som används för att träna generativ AI är mångsidig och inkluderar en bredd av olika perspektiv.

I träningen av ChatGPT:s underliggande AI-hjärna GPT3.5 så har människor hjälpt till med träningen genom att skapa både frågor och svar och frågan är då om dessa människor gör detta helt objektivt. Det är också en fråga om kulturella och sociala kopplingar som kan variera mellan olika delar av världen. ChatGPT är tränad av personer främst i USA och i Kenya och frågan ä not inte om det påverkar resultatet utan snarare hur det påverkar resultatet?

Finns det en risk att det blir ett överflöd av material skapat av generativ AI?

En annan risk med överanvändning av generativ AI är att det kan skapas för mycket nytt innehåll, vilket kan leda till ett överflöd av material som är svårt att sålla igenom. Detta kan göra det svårt för människor att hitta det som är relevant och värdefullt.

Dessutom kan det skapa en miljö där allt blir likadant och där originaliteten går förlorad. Det är också viktigt att hitta sätt att organisera och kategorisera innehåll så att det blir lättare för människor att hitta det som de söker efter.

Inom den akademiska forskningen är det en fara att det blir för enkelt att skapa nya publikationer och forskarvärlden kommer att översvämmas av publikationer som skapats med hjälp av AI vilket i sin tur kommer att påverka allmänhetens förtroende för forskningen. Vi forskare brukar säga att allt går att publicera, bara vi betalar för det. Det finns massor av akademiska konferenser och tidskrifter som bara finns för att tjäna pengar.

Finns det juridiska konsekvenser av användning av generativ AI?

Generativ AI kan producera innehåll som kan kränka upphovsrätten eller andra immateriella rättigheter. Detta kan leda till rättsliga problem för de som använder generativ AI utan att ha rättigheter till det producerade materialet eftersom det bygger på skyddat träningsdata.

Det pågår just nu flera rättsfall där rätten till träningsdata för att träna AI-hjärnorna utreds. Det vill säga, får allt data som finns tillgängligt användas för träning hur som helst? Här måste vi respektera upphovsrätten och andra rättigheter och det är fortfarande ganska oklart vad som gäller. Det som är klart är att en AI inte kan ha äganderätten till något den har skapat.

På webbplatsen Have I been trained? kan du söka bland 5.8 miljarder bilder som använts för att träna AI-hjärnor. Jag hittade inga bilder där på mig själv (Peter Parnes) men om du hittar bilder på dig själv eller som du skapat i databasen så kontakta gärna mig.

Finns det risker med missbruk av generativ AI?

Generativ AI kan användas på ett sätt som kan skada eller utnyttja andra människor, som till exempel att skapa deepfakes eller annat falskt material som kan användas för att manipulera människor eller sprida falsk information.

Jag gjorde ett experiment där jag skapade en serie bilder på LTU:s rektor Birgitta Bergvall-Kåreborn utifrån publika bilder på Birgitta. Jag stoppade inte in Birgitta i något negativt sammanhang men kunde lätt ha gjort det. Till exempel att Birgitta skakar hand och skrattar tillsammans med någon person som kan uppfattas som negativt. Självklart kan Birgitta dementera bilden, men finns den “där ute” så är skadan antagligen redan skedd och ryktet kan ta lång tid att reparera. Med dagens teknik så är det väldigt lätt att skapa denna typ av negativa fejkade bilder.

Här måste vi se till att det producerade materialet inte skadar någon annan och jag anser att detta bör ingå i läroplanen och undervisningen i grundskolan och gymnasiet kopplat till digitalisering och respekt för andra människor.

Kan generativ AI leda till sociala negativa konsekvenser?

Generativ AI kan ha sociala konsekvenser som kan påverka samhället negativt, som till exempel att människor ersätts av automatiserade processer eller att vissa yrken blir överflödiga. Detta är helt enkelt en del av att samhället utvecklas.

Det är också möjligt att det kan öka sociala klyftor där de som har tillgång till teknologin kan dra nytta av dess fördelar medan andra inte kan det.

Någon skrev ungefär följande: Det är inte AI som kommer att ta ditt jobb, utan istället är det personen som kan nyttja AI till sin fördel som kommer att ta ditt jobb. Jag tror det ligger väldigt mycket sanning i det påståendet och det leder återigen till att vi måste träna vår unga att använda till sin egen och till samhällets fördel.

Diskussion

Diskussionen om huruvida generativ AI kan påverka oss negativt negativt är en viktig. Å ena sidan kan generativ AI vara ett kraftfullt kreativt verktyg som kan hjälpa oss att uppnå nya nivåer av originalitet och nyskapande. Å andra sidan kan överanvändning av generativ AI minska vår förmåga att tänka utanför boxen och hitta nya lösningar på problem.

En möjlig fördel med att använda generativ AI för att stärka vår kreativitet är att det kan ge oss nya perspektiv och idéer som vi inte skulle ha kommit på annars. Genom att utmana oss att tänka annorlunda kan generativ AI hjälpa oss att utvidga våra kreativa gränser och hitta nya sätt att uttrycka oss på.

Samtidigt finns det en risk att vi förlorar vår egen kreativitet om vi förlitar oss för mycket på generativ AI. Om vi inte utmanar oss själva att tänka utanför ramarna och istället förlitar oss på teknologin kan vi förlora vår förmåga att skapa något unikt och personligt.

Så vad är svaret? Svaret är inte enkelt eftersom det beror på hur vi använder generativ AI och vår personliga inställning till teknologin. För vissa människor kan det vara ett ovärderligt verktyg för att stärka sin kreativitet, medan för andra kan det vara mest en distraktion eller till och med en fördumning.

Det är viktigt att tänka på hur vi använder generativ AI och att se till att det är ett verktyg för att underlätta vår kreativa process, inte en ersättning för den. Vi måste fortsätta att utveckla vår egen kreativa förmåga och använda generativ AI som ett komplement, inte som en ersättning . På så sätt kan vi använda generativ AI på ett sätt som stärker vår kreativitet och hjälper oss att skapa helt nya saker.

Sammanfattningsvis är generativ AI inklusive ChatGPT en spännande teknologi som kan användas för att skapa nya och unika kreationer. Dock som med alla teknologier finns det risker med överanvändning och det kan påverka vår kreativitet negativt. Det är därför viktigt att använda generativ AI med förnuft och att fortsätta att utveckla vår egen kreativa förmåga.

Jag tar mer än gärna emot era egna tankar i denna fråga.