Category Archives: Techstuff

AI, ChatGPT, Digitalisering, LTU, Press, Research, Techstuff

AI och energianvändning – Förmiddag i P4 Norrbotten

Leave a comment

250618 var jag med i Förmiddag i P4 Norrbotten och pratade om energianvändning och AI. Jag och journalisten och programledaren Anna Lidé hade ett mycket intressant (enligt mig) samtal om många olika aspekter av att använda AI och större frågor om hur vi hittar information. Totalt blev det ett inslag på nästan 15 minuter. Vad tycker du? Var det intressant?

Här hittar ni en inspelning samt en transkribering. 

Oj, oj, oj. Närmsta halvtimmen kommer ni att få ha lite tålamod. Vi ska försöka prata så långsamt och lugnt och tydligt som vi kan. När jag och professor i datateknik, Peter Parnes, möts kan det bli många ord och mycket energi. Det vi ska prata om är energi. Är det mer energislukande att söka saker på nätet med AI om du jämför med en vanlig sökning på nätet med Google? Det har länge sagts att det tar tio gånger mer energi att använda AI. Så jag frågade AI hur mycket mer energi går det att söka om jag söker via AI, till exempel ChatGPT, än att googla vanligt. Copilot, det är en av de här varianterna, den sa att det är betydligt mycket mera, det är ungefär . Jag kan inte summera det här supersnabbt, men de här två olika, ChatGPT och Copilot, säger i korta ordalag totalt olika. Ja, det tar ungefär tio gånger mer, eller nej, det är ungefär samma sak. Professor i datateknik, välkommen hit.

Tack så mycket.

Hur ska vi nu få nån slags. Ordning på det här tänket. Är det miljövänligt eller ovänligt att använda Chatklippet?

Om vi börjar med mängden energi som används, så vet vi inte. De stora techjättarna, som står bakom de här olika tjänsterna talar inte om hur mycket energi som går åt. En av anledningarna är att man inte vill skylta med det. Det andra är att det är så många faktorer som kommer in när vi pratar energianvändning. Dels är det själva energin som går åt för att. svara på frågan för att köra den här AI-modellen. Sen har det varit jättemycket energi tidigare för att skapa datamodellen. AI-modellen under ytan. Sen har vi alla datorer i övrigt. Internettrafiken, kommunikationen, den enhet du själv använder för att ställa frågan. Hela tiden går det åt energi för detta.

Och bygga upp alla stora serverhallar och datahallar och allt vad det heter. Det gäller att vara medveten. Jag försöker vara medveten. Det är jättesvårt som vanlig människa. Men om jag ska ta reda på vem som är Peter Parnes kommer ofta AI-svar upp längst upp. Utan att jag ber använder AI-funktionen sin energi. Men då kan man skriva vem som är Peter Parnes och lägga till. Minustecken AI, alltså minus AI. Då får jag upp svar utan AI. Är jag en bättre människa då?

Jag tycker inte det. För mig handlar det om nyttan. Hur snabbt kan jag få svar? Jag använder de här tjänsterna. Jag har själv använt sökmotorer sen 1990-talet. Det handlar om att kunna få tillgång till informationen snabbare. Jag tillhör de som har börjat söka mer och mer via ChatGPT istället för Google. Google har tappat användare och försöker presentera detta på ett nytt sätt i form av AI. Jag söker professionellt och privat via ChatGPT därför att jag får mer sammanställda svar direkt. Då kan man tänka sig att den första frågan kanske kostar mer energi. Men om jag hade googlat exakt samma sak, då kanske jag hade behövt ställa fler frågor. Jag hittar ju inte det där, jag måste scrolla, jag klickar på länk. Men för mig kommer du tillbaka till nyttoeffekten av det här. Vad har jag för nytta av att göra den här sökningen då? Vissa saker är professionella och andra är privata. Men det kan ju vara nytta privat också.

Spännande tankar. Om det nu börjar gå mot, som jag också har läst i andra artiklar, att AI tar över och det blir mindre att man googlar, precis som du säger, att Google tappar. I min värld blir det att jag lämnar över till en funktion som går att styra. AI tar över min sökning, i stället för att jag själv tar reda på fakta. Man släpper ifrån sig en viss makt.

Det är inte en AI-fråga. Så har det varit i flera decennier, sen 1990-talet. En sak som Google gjorde tidigt. som heter Pagerank. Det var just för att ranka webbsidor utifrån ungefär 100 olika parametrar. I vilken ordning de ska presenteras för oss när vi söker. En av dem är hur många andra har klickat på den här textmassan, vad den pekar på. Så den där filtreringen har vi haft med oss i åratal. Undersökningar visar att extremt få användare går förbi första resultatsidan. Man tittar aldrig mer än de tio första, max. typ tre första och sen nöjer man sig där. Och här blir, ska jag säga med AI, det kanske till och med så att vi får ju bättre svar där AI har tittat kanske på motsvarande de 20 första, 30 första, 40 första och sen sammanställer de svaren åt oss. Så då får vi ju liksom bättre informerade svar. Och jag har själv upptäckt det här flera gånger där jag har ställt frågor, mer så här ifrågasatta frågor där det finns liksom båda sidor. Och då har ju då AI presenterat att de här säger detta och så fått källor på det.

Å andra sidan säger de här källorna det här. Jag hade nog varit lat. Jag hade nöjt mig med de första och inte tittat på å andra sidan.

Absolut. Men då säger Copilot att nya uppskattningar förbrukar en typisk fråga till ChatGPT ungefär 0,3 wattimmar. Det är ungefär lika mycket som en vanlig Google-sökning. Det säger ChatGPT. Men använder jag ChatGPT och kollar med den, då säger den att en vanlig Google-sökning förbrukar 0,3 watt-timmar medan en AI förbrukar 2-5 watt-timmar. Enorm skillnad. Så man kan inte bara ta de första svaren i alla fall.

Nej, precis. Det är som jag sa initialt. Problematiken här är att vi har inte fakta. Så de här AI-motorerna, både Copilot och. ChatGPT är samma AI-modeller, lite olika varianter. De gissar. De utgår från den fakta de har. Hittar de inte fakta, fyller de på med vad de själva – killgissar. I de här frågorna är det svårt att hitta fakta om hur mycket det drar.

Det är så mycket spännande man vill prata om här och det ska vi fortsätta göra. M People ska få sjunga Moving on up. Och så tänker jag att vi ska fråga hur mycket AI-användning tål jorden? Och så vidare. Jag vet att du är en AI-förespråkare också. Det är ju en AI-förespråkare vi har med oss här. Vill du ringa in och fråga någonting eller säga någon motsats till det? Då kan du vara en annan källa. 0920-27 5353. Pratar AI och sökningar och energi och allt vad det är för någonting. Hur svårt det kan vara att försöka vara lite miljövänlig eller annat här i världen när det går åt mycket energi. Om till exempel, jag bara på skämt här under låten sa, till exempel om jag ska vara artig och säga hej Siri, hur mår du idag? Ja, då började vi fortsätta prata och så. Då kommer hon och svarar! Jag mår utmärkt, tack. Peter Parnes, du som är professor i datateknik. Vad säger du om det här? Vad hände just nu?

Alltså, det spelades ju in och så tog det ju energi att börja inspelningen. Sen skickades det iväg, transkriberades, gjordes om till text, tolkades, genererades ett svar som sen gjordes om från text till tal igen. Och det tog ju en. en liten mängd energi, jag höll på att säga en massa energi, men det gör det ju inte. En liten mängd energi. En del av det där syns ju på själva telefonen också, att det inte ens skickades iväg.

Just det. Och det här med artighetsfraser har ju varit lite grann på ropet. Jag räcker upp handen och säger att om jag har frågat någonting, tack så mycket. Trevligt. Att man kan ha artighetsfraser till en AI, det kan man ha filosofiska tankar kring, men också ekonomiska och energitankar kring.

Varenda ord, varenda bokstav vi skickar in kräver energi i att tolka. Är vi artiga och börjar med ett hej, svarar ChatGPT med nåt artigt tillbaka. Det kostar energi. Det här blev en stor grej för två månader sen. Till och med OpenAIs vd gick ut på X och sa skämtsamt att vi skulle sluta vara artiga. Det kostar så här mycket energi så mycket pengar att hantera all artighet.

Regel nummer ett, sluta vara artig med. Men det är också spännande vilken energi som används är ju avgörande. Techjättarna har ju en enormt stor makt där. Hur går det till där?

Historiskt sett försöker de titta på miljövänligheten. Alla de stora techjättarna sätter en faktor på hela sin fabrik. Det är ju en datafabrik. Där man då sätter hur miljövänlig är den här? Här finns branschstandard för hur man. beräknar detta, precis som när vi bygger hus och annat, har vi en branschstandard. Hur miljövänlig är den här byggnaden, den här fabriken då? Och där kommer en stor del in på var kommer energin ifrån? Är det solkraft? Här uppe i norr så är det ju då vattenkraften. Det är till exempel därför vi har giganten Meta här då, som är byggd. Kom hit för en massa år sedan, bygger sedan datacenter här och hela den här. Open AI ryktas att bygga ett gigantiskt datacenter i Förenade Arabemiraten. Det ska vara helt drivet av solenergi. Motsvarande fem svenska kärnkraftverk. I mängd energi. Det sista har inte bekräftats. Det är rykten.

Men kärnkraftverk vet vi redan att det används.

I Sverige har det varit debatt om huruvida det är miljövänligt. Men i USA räknar man kärnkraften som miljövänlig. Det blir lite utsläpp i stunden. Alla techjättar i USA har insett att energin i USA tar slut. Det har man beräknat. 2030, med det som finns i dag, är det slut. Det går inte att få tag i mer energi. Där satsar alla techjättar på egen kärnkraft. Google bygger sju kärnkraftverk fram till 2030. Microsoft har köpt upp gamla Harrisburg, den andra reaktorn. Inte den som fick en härdsmälta, som var i drift fram till 2019. Microsoft har redan tagit den i bruk. Meta har precis annonserat att de investerade x miljarder i kärnkraft. Amazon gör samma sak. Bara för att kunna ha tillgång till el helt enkelt. Så att de kan bygga saker.

Det är ofta diskussioner kring AI och om det är slutet på jorden. Man är rädd för att robotar tar över världen. Men hur mycket AI tål jorden innan den går under av energi och miljömässiga frågor?

Jag tror inte. Vi gör hela tiden framsteg i elproduktionen. Gör vi det på rätt sätt har vi tekniken för att hantera detta. Solkraft är ju jättestor. stor del av detta, bygga stora solcellsfarmar framåt. Jag tror att det är den mindre risken när vi pratar AI och mänsklighetens undergång. Sen har vi massa andra människor som är negativa mot AI som menar att vi inte ska skapa det som heter artificiell generell intelligens. Där vi har en AI som i princip kan göra allt som människan kan göra men som kommer bli inte dubbelt så smart men kanske 10 000 gånger så smart. Vi får något som heter superintelligens. eller flera superintelligenser. Det där vet vi ju liksom inte om vi kommer dit. Vissa menar att vi kommer dit redan några år, att vi kommer till AGI. Då finns det personer, som svensken Max Tegmark på MIT, som menar att vi ska förbjuda AGI. Vi ska inte ta fram det, för det kommer leda till mänsklighetens undergång. Vi ska fortsätta använda AI, som vi gör idag, för speciella saker men vi ska inte skapa den här generella intelligensen.

Men såna här människor som du och många andra. Kommer det gå att hålla fingrarna ifrån nåt så spännande?

Nej, och det är en av kärnpunkterna. I protesterna måste vi vara överens på FN-nivå. Precis som med mänsklig kloning. Där blev mänskligheten överens. Vi ska inte göra mänsklig kloning. Hela världen har slutat med det. Det har varit några enstaka fall. Men när det gäller A och Is våg, där är trenden. Det är väldigt få som pratar om att förbjuda det. Förbudstanken får inte riktigt grepp att vi ska göra det. Jag ser inte att det kommer att hända. Sen har de stora techjättarna investerat så mycket pengar i detta redan och jobbar mot detta, speciellt OpenAI. De kommer inte att säga att nu kastar vi ut de där biljarderna, kronor som vi har investerat på det här, ut ur fönstret. De vill ha tillbaka pengarna, Return of investment. Det här kommer bara att fortsätta.

Jag vet inte hur vi ska avsluta det här och ge mänskligheten hopp. Vad var den sista AI-sökningen du gjorde?

Oj! Det minns jag inte.

Eller den senaste.

Jag söker jättemycket hela tiden. För en tid sen pratade vi energi. Jag satt med min son och hade en jättelång diskussion med ChatGPT. Han diskuterade framtidens funktionskraft. Vad är progressen? Hur fungerar det om det är en miljon grader där inne? Varför smälter inte hela alltet? Hur fungerar det? Han är 19 år. Vi satt där en halvtimme och diskuterade med AI. Det var nog den bästa lektion jag haft i år. Han ställde några frågor. Jag ställde några frågor. Vi diskuterade med varandra. Vi hade en lärarmentor. Det var väl investerad energianvändning. Vi lärde oss jättemycket.

Mycket energianvändning. Jag varnade er känsliga lyssnare innan. Har det varit att ha Peter Parnes här? Det har varit superintressant. Tusen tack! Peter Parnes är professor i datateknik på LTU. Perfekt!

AI, Digitalisering, Digitalisering i skolan, DrPeppar, Föreläsningar, Research, Techstuff, Webtips

Automatgenererade podcast från egna anteckningar?!

Leave a comment

Provade just att skapa en podcast med två fiktiva personer som diskuterar mina föreläsningar under 2023 och 2024? Källan är mina egna anteckningar om mina föreläsningar plus AI-genererat material. Det blev en podcast om mina egna tankar på drygt 11 min och den tog ca 3 minuter att generera. Totalt lade jag ner ca 5 minuter på att fixa detta med hjälp av Google NotebookLM.

Resultatet blev skrämmande bra och skrämmande korrekt. Sedan är det en udda känsla att lyssna på två personer som pratar om mitt eget arbete.

Än så länge kan jag inte kontrollera så mycket och det fungerar bara på engelska.

Det här är viktigt eftersom det ger oss nya möjligheter att skapa material som andra kan lära av. Skriv ner dina anteckningar och be verktyget skapa en podcast som alla kan lyssna på.

Här är podcasten och nedan är en transkribering gjord med Klang.ai.

Wow. Okay, so you weren’t kidding about a deep dive, huh? Look at all this stuff about Professor Parnes. I mean, conferences and presentations, business meetings, even notes on a what is this, a theater performance?

It’s pretty amazing, right? Shows how much interest there is in AI across, well, across pretty much every sector, I’d say.

Definitely seems like everyone wants to hear what he has to say. But for those of us who haven’t been following his every move, who is Professor Parnes and what’s got you so well obsessed?

You know, Professor Parnes has really become a leading voice in AI, especially in making it understandable, you know, especially its role in education and how work is changing.

Okay, so like translating all the tech jargon for us regular folks.

Exactly. He’s got a real talent for taking these really complex ideas and making them practical, something anyone can grasp, really.

Got it. So no PhD required. That’s good news for me. So from what I’m seeing in your notes, one of his big things is generative AI, specifically in education.

Oh, absolutely. It comes up all the time. It’s clear that he sees huge potential for generative AI to really personalize the whole learning experience.

Okay, so like how? Give me an example.

Well, imagine, for instance, a program that basically makes a custom lesson plan just for you, you know, based on your strengths and weaknesses, what you’re interested in, all that.

That’s what I call a tailored education. Personalized learning. But hold on, I’m also seeing some stuff here about like help versus cheat problem. How does that fit in?

Yeah, that’s the million dollar question when it comes to AI in the classroom, right?

Professor Parnes definitely acknowledges the potential for like a revolution in how we learn. But we’ve got to figure out the ethical side of things, too.

Yeah, that makes sense.

Like, where’s the line? At what point do these AI tools cross over from helping you learn to just straight up cheating? It’s like educators are really grappling with this right now.

It’s true. It reminds me of when calculators first came out. You know, people freaked out about that, too.

Totally. It’s like we love a good shortcut, but it’s got to be fair.

Exactly.

And that kind of leads into another big theme that Professor Parnes keeps coming back to how work is going to change, like the future of work. He’s saying that AI isn’t just going to automate stuff. It’s going to completely change what skills people need for tons of jobs.

So less about robots stealing our jobs, more about humans and AI like working together in new ways. Right.

Exactly. And what’s really cool is that he connects these ideas to specific professions. Like in one talk he gave, he talked about how, say, radiologists, they’re going to have to go way beyond just looking at X-rays because AI can already do that. He said they’ll need to become experts in understanding all the data and insights the AI is giving them.

Oh, interesting. So almost like medical detectives, he’s definitely painting a more, how do I put it, a more nuanced picture than just saying certain jobs are going to disappear. It’s about how our roles will have to adapt.

Exactly. And he doesn’t just talk in general terms either. He gets into how it plays out in different places, like for different groups of people. For example, there’s this presentation he gave to school administrators in, let me see, Skavde kommun.

Skavde kommun. You know, you don’t often hear about the administrative side of AI in education. That’s interesting. What did he focus on there?

Well, he was talking about how AI could handle a lot of the administrative stuff that takes up so much time. You know, things like scheduling and budgeting, maybe even some parts of grading. His argument was that it would free up teachers to actually, you know, teach.

So instead of teachers drowning in paperwork, they get to focus on, well, actually working with students. Now that’s an application I can get behind. It’s like he’s pushing those administrators to think bigger. You know how AI can change the whole system, not just what happens in a single classroom. Speaking of challenges, it looks like Finnish educators over at Novia are facing a similar kind of dilemma, but from a different angle.

Yeah, that’s right. They’re really wrestling with this whole question of how you design assignments and tests when AI is so readily available.

Makes sense. It’s like, why memorize facts when you can just ask a computer, right?

Exactly. So Professor Parnes is encouraging them to think about ways to assess critical thinking and creativity and problem solving, all those skills that I can’t really replicate, at least not yet.

So it’s less about testing what they know and more about testing how well they can, like, use AI as a tool. It’s like they’re on the front lines of reinventing how we measure learning. But it’s not just the education world grappling with these questions. He even gave a presentation at, what is this, Stereo Sikademen? If my Swedish isn’t too rusty, I think that’s.

The Swedish Academy of Board Directors.

That’s right. So even CEOs and board members are trying to wrap their heads around AI.

Exactly. And get this, the title of his presentation was, Will AI Replace the Boardroom? I bet that got their attention.

Talk about a conversation starter. So he’s not afraid to, you know, stir the pot a little. What kind of reactions did he get from those business leaders?

Well, let’s just say it sparked some pretty lively debate. But one of his main points was that AI can be this incredibly powerful tool for making sense of data. You know, finding those hidden patterns, seeing trends before anyone else, even predicting what might happen in the future. And he really challenged them to think about how they could be using AI to improve their own decision making, you know, to be more strategic.

So instead of robots literally taking their jobs, it’s more about AI as like a secret weapon to make better decisions.

Right. And this idea of AI as a partner, something that helps us do our jobs better, that seems to be a big theme for him.

Yeah, definitely seeing that. Okay, so we’ve got educators flipping the script on assignments and CEOs rethinking the whole boardroom dynamic. But then you’ve also got this note about a theater performance, Norbot and Stetern. Now, that’s a bit of a jump. What on earth was Professor Parns doing presenting at a theater?

It just goes to show you how AI is popping up everywhere, even in the arts. And while we don’t have a ton of details from that particular presentation, it’s fun to think about the possibilities, right? Like, could AI write a play or maybe create these crazy cool special effects on stage?

It’s like AI is pushing the limits of what’s possible in every field imaginable. Okay, so we’ve covered a lot here from classrooms to boardrooms to the stage. Professor Parns clearly sees AI’s impact going way beyond just tech. But how does all of this connect back to the real world? You know, for someone listening to this, maybe even someone here in Luleå.

Well, his work with Luleå Business is really interesting in that sense. He did a whole bunch of workshops and talks specifically for businesses in the area.

Luleå Business. Hey, that’s my neck of the woods. Yeah. So what was he telling them? Was it the same old AI pep talk or did he get into the nitty gritty?

He actually went beyond the usual talking points. He really emphasized the unique possibilities and challenges that AI brings for businesses, especially in a place like Luleå.

So like hyper local AI strategies, that’s pretty cool.

Yeah, it was really interesting. Like he was pointing out how I could be used to analyze the local market there, you know, or optimize supply chains for businesses that are way out in more remote areas. He even talked about how you could use AI to personalize marketing campaigns in a smaller community.

So it’s about taking this super powerful technology and like tailoring it to a very specific place.

Yeah, exactly. It’s all about context, right? And what was really cool was that he actually had this perfect example. He was talking about how a forestry company, you know, right there in the area could use AI to look at satellite images.

Oh, wow.

To see what, well, they could monitor the health of the forests, you know, see if there are any problems or even predict forest fires. And they could use it to figure out the best times to harvest timber and all that.

That’s amazing. So we’re talking like really practical applications of this cutting edge stuff.

Absolutely. He’s showing people AI isn’t just some abstract thing. It’s a real tool they can use right now to solve problems they’re facing in their businesses.

I’m with you. Okay, one last thing I want to touch on. I’ve got a note here about a presentation to PostNord.

Ah, yes. PostNord. They’ve started using AI in their logistic stuff, right?

Yeah, that’s what I thought. So was this just another presentation where he’s like explaining what AI is and how it works?

Well, that’s what’s really interesting about this one. He knew he was talking to a group of PostNord software developers and their business development people. So he actually designed the whole thing to be interactive.

Ooh, interactive. Okay. So more like a workshop than a lecture.

Exactly. He had built in these tools like Mentimeter to get live feedback from the audience. Oh, cool. And he’d weave their questions and comments right into what he was talking about. He even had these little thought experiments. They called them PrimaQuestion, already planned out to get everyone talking and really digging into the issues.

That’s awesome. So he’s not just talking about AI. He’s showing people how to use it to teach and learn more effectively. You know, you were right. I’m starting to see why you find Professor Parn so fascinating. He really walks the walk.

He does. So we’ve covered a lot of ground here from like the future of classrooms to how CEOs make decisions. Even, you know, what’s happening in the theater world. Professor Parns definitely sees AI touching every part of our lives. But for someone listening to this right now as they’re, you know, starting a new semester or maybe about to dive into a new project, what does it all mean for them?

That’s the big question, right? Yeah. We’ve talked about all these amazing possibilities, but also some of the really tough questions AI brings up. So where do we even begin to make sense of it all?

Well, one thing that’s really stuck with me from all of Professor Parns work is that we can’t just wait and see what happens with AI. It’s not some far off thing anymore. It’s here now. And he really stresses that we’ve all got to take an active role in shaping how it’s used.

So no more sitting on the sidelines. We got to get involved.

Exactly. Whether it’s learning about the latest developments or talking about the ethical side of things, or even just like opening ourselves up to new ways of thinking and working.

So kind of like we’ve got to become lifelong learners constantly adapting alongside all this new technology.

Yes. And I think that’s something Professor Parns really embodies in how he teaches and presents. He’s always experimenting with new things, looking for different points of view, and he loves a good debate.

It’s like he’s saying that in the age of AI, our ability to adapt and learn new things might be the most important skill we have.

OK, before we wrap up this deep dive, any final thoughts? Maybe one of those prima questions Professor Parns is so fond of, something for our listeners to chew on as they go about their day.

Well, he talks a lot about AI personalizing education, right? But what if we took that even further? What if AI could personalize our whole learning journey, not just what we learn in school?

So instead of our current education system, it’s more like we all have our own custom learning paths based on our interests and goals and how we learn best.

Exactly. It really makes you wonder, in a world where AI can create these incredible personalized learning experiences for each of us, what role would we even need schools and universities to play? It’s a big question.

It really is. And a great question to leave everyone with. Hopefully this deep dive into Professor Parns’ work has given you a new way of thinking about AI and maybe inspired you to be a part of shaping its future.

Remember, it’s not destiny. We get to decide what the future of AI looks like.

AI, ChatGPT, Techstuff

Microsoft Teams Premium med ChatGPT

Leave a comment

Fler ChatGPT-nyheter. Microsoft släpper Teams Premium som har en koppling till ChatGPT. Teams-mötena ska bli mer intelligenta och personliga (deras ord, inte mina). De lyfter bland annat automatiska mötesanteckningar, rekommenderade uppgifter (tasks) och smart indelning i mötesdelar för att lättare komma ikapp (recap).

Det ska kosta ca 100:-/användare och månad och det är 30% rabatt till och med juni. De motiverar kostnaden med att organisationer idag betalar för 3:e-parts-verktyg som nu istället blir en del av Teams Premium.

Sedan är frågan om organisationer kan köpa detta per användare eller om man måste köpa det för alla på en gång. För LTU skulle kostanden bli ca 2.2 miljoner per år bara för de anställda (utan mängdrabatt).

Wow. Detta blev ju värsta reklaminslaget. Jag använder väldigt sällan Teams-möten men ser fram emot att få prova denna funktion. Vad jag använder istället? Zoom eftersom den har bättre ljud och bild.

Läs mer här.

AI, ChatGPT, Digitalisering, Digitalisering i skolan, Techstuff

Hur fungerar ChatGPT?

1 Comment

Det finns en tid före ChatGPT och en tid efter ChatGPT. Denna AI-tjänst har påverkat hur vi ser på AI och hur den kan hjälpa oss. Samtidigt är det kanske några som funderar på hur ChatGPT fungerar och varför just denna AI-chat-hjärna är så bra? I denna artikel försöker jag förklara den underliggande tekniken.

OBS Delar av denna artikel är skapad med hjälp av ChatGPT!

ChatGPT är en så kallad transformer-modell, en typ av maskininlärningsalgoritm som är utformad för att hantera textdata. Den är tränad på en mycket stor datamängd med text, till exempel böcker och artiklar, och har lärt sig att förstå och generera text på olika språk. Om vi ställer en fråga till ChatGPT, använder den den inlärda modellen för att konstruera ett svar eller en fortsättning på texten.

Maskininlärning

Maskininlärning är ett sätt att träna upp en matematisk modell på en större mängd data. Denna inlärning kan ske på flera sätt och två metoder som används för att träna ChatGPT är övervakad (“supervised”) och belöningsstyrd (“reinforced”) inlärning . Dessa två metoder kombineras i olika steg i inlärningsprocessen av ChatGPT.

I övervakad maskininlärning (“supervised”) så tränas modellen med hjälp av att data som i förväg klassificerats där vi ger processen både input och output, dvs., förväntat rätt svar till respektive input. Modellen lär sig att generera rätt output för ett givet input genom att förbättra sina parametrar och målet är att modellen ska kunna generalisera vidare och kunna förutsäga rätt output för ny input.

I belöningsstyrd (“reinforced”) maskininlärning ger vi modellen återkoppling i form av belöningar och straff utifrån fördefinierade regler. En agent som agerar utifrån modellen gör olika handlingar och får återkoppling för hur bra dessa fungerade. Detta är väldigt kraftfullt eftersom vi kan ge agenten väldigt få instruktioner och sedan får den helt enkelt gissa sig fram till vad som är rätt utifrån den återkoppling den får. I vissa applikationer är det lätt att ge snabb återkoppling medan i andra (som t.ex. schack) så kan det vara väldigt många steg tills den kan få någon belöning eller straff.

I följande exempel så har jag programmerat en enkel applikation för att träna upp en AI-hjärna med hjälp av belöningsstyrd maskininlärning. Målet är att hjärnan ska rulla en boll över en yta till kuben som dyker upp på olika ställen på ytan samt att bollen inte ska ramla ner. Belöningen är 1.0 om den träffar kuben och 0.1 om den i varje steg kommer närmare kuben. Straffet är -1.0 om den ramlar ner och -0.1 om den rör sig bort från kuben. Under träningen, får den som input hur långt från kuben den är och sina egna X,Y-koordinater. Vidare kan hjärnan putta på bollen i form av att ge den en fysisk knuff i samma plan. Jag har alltså inte explicit talat om att målet är att den ska träffa kuben utan det styrs helt av belöningssystemet. Applikationen är skapad och tränad i dataspelsmotorn Unity.

Hur tränas ChatGPT?

ChatGPT är tränad med hjälp av både övervakad och belöningsstyrd maskininlärning med tillägget att människor har varit inblandade i själva träningen i något som kallas “reinforcement learning from human feedback (RLHF)”, fritt översatt till belöningsstyrd maskininlärning med mänsklig återkoppling. Som namnet säger så är det människor som gett modellen återkoppling på vad som är bra respektive dåliga svar. Lite paradoxalt så är det människor som gjort delar, eller i alla fall hjälpt till med själva maskininlärningen. Detta är i sig inget nytt för första gången i just ChatGPT utan snarare det som är nytt är hur många människor som varit involverade. OpenAI, företaget bakom ChatGPT har inte sagt något om hur många som involverats men gissningsvis så har de lagt ner mycket pengar på just denna del av träningen i form av ersättning.

Följande information kommer primärt från OpenAI:s eget blogginlägg om ChatGPT och från publikationen om InstructGPT som ChatGPT baseras på.

ChatGPT har tränats i flera steg där de utgår ifrån en modell som tränats med övervakad maskininlärning och denna modell kallas GPT-3.5 som tränades klart i början av 2022 med data till ca mitten av 2021.

Steg 1

I steg 1 får människor skriva lämpliga svar på slumpmässigt utvalda frågor och dessa svar används för att skapa en bas för modellen som kallas SFT-modellen (“supervised fine-tuning model”). Frågorna kommer både från en pool av frågor som utvecklare (människor) skrivit för denna träning samt från frågor som användare av föregångaren till ChatGPT har skrivit i andra OpenAI-produkter. Bilderna nedan kommer från OpenAI:s blogginlägg om ChatGPT och jag har klippt upp en större bild i dessa tre delar.

I steg 2 genererar ChatGPT flera svar (4-9 stycken) på olika frågor och människor får sedan klassificera dessa i förhållande till varandra och utifrån dessa skapas en ny modell för belöningar, RM-modellen (“reward model”). Denna kan ses som facit för ChatGPT för att hjälpa den lära sig vilka svar som faktiskt är bra. Detta steg genererar mänskligt data mycket fortare än steg 1 där människorna var tvungna att skriva hela svar själva. Resultatet från steg 2 är en modell för hur belöningarna ska delas ut i steg 3.

Steg 3

Det sista steget, steg 3 är var den stora träningen sker via belöningsstyrd maskininlärning. Här används något som heter Proximal Policy Optimization, PPO för att optimera belöningsmodellen där den finjusteras i varje steg. Dvs., för varje fråga/svar så optimerar den modellen.

Samtidigt justeras den inte för mycket, dvs., i varje steg kan den bara ändra belöningarna lite grann för att modellen inte ska blir helt trasig.

Exakt alla detaljer om hur denna träning går till har inte OpenAI avslöjat.

Steg 3 körs många gånger för att träna modellen och samtidigt finjustera belöningsmodellen.

Diskussion

Genom att involvera människor i processen så kan träningen bli mer korrekt utifrån mänskliga värderingar som är svåra att fånga via datorprogram. Slutresultatet har vi alla sett i form av ChatGPT som är minst sagt imponerande.

Begränsningar och problem

Tack vare att människor involveras så är det också stor risk att fördomar påverkar resultatet. Människor är involverade i både att skriva frågorna (till och med i andra produkter där de inte ens är medvetna om att de kommer att användas för träning) samt när svaren ska klassificeras för att skapa belöningsmodellen. Vidare är utvecklarna av modellen också människor som i sin tur påverkar resultatet. Sammantaget så är dessa inte representativa för en global användargrupp och utvecklare skriver själva om just denna begränsning.

Vidare händer det också att människorna inte är överens om hur svaren klassificeras i steg 2 och personliga åsikter kommer in i träningen. Här finns ingen faktisk sanning som kan vara avgörande om de inte är överens.

Alla som provar ChatGPT har säkert också identifierat flera problem med denna tjänst.

  • Ibland ger ChatGPT oss svar som är helt eller delvis fel. Detta är svårt att träna bort eftersom ChatGPT helt enkelt tror att dessa svar är korrekta eftersom den inte har något facit.
  • ChatGPT är väldigt känslig gällande hur vi formulerar våra frågor. Ibland kan en fråga ge svaret att den inte vet medan om vi ändra lite i frågan så får vi det svar vi eftersökte.
  • ChatGPT är väldigt pratglad och ger oss ibland väldigt långa svar när en mening hade räckt. Anledningen till detta är delvis att människorna som klassificerade svaren i steg 2 föredrar utförliga svar eftersom de kändes mer rätt.
  • ChatGPT frågar aldrig efter förtydliganden utan gissar vad vi vill veta och svarar på det. Ibland blir det skrämmande bra men ibland hade det varit bättre om den frågade tillbaka istället.
  • ChatGPT ger oss inte förbjudna svar och det beror på att ChatGPT använder en annan tjänst “Moderation API” för att filtrera bort dåliga svar. Denna filtrering fungerar ibland för bra och plockar bort för mycket samtidigt som den ibland släpper igenom sådant som inte borde vara med. Här kan vi också diskutera vad som är lämpligt innehåll eftersom det i sin tur är kopplat till vår personliga kultur.

Framtiden

Även om ChatGPT (GPT3.5) är väldigt kraftfull så är detta bara ett första steg och vi kommer att få se mycket bättre modeller i framtiden. Både från OpenAI och från andra aktörer. Det som dock är klart är att dessa AI-modeller kostar otroligt mycket pengar att skapa i form av både mänsklig kraft och datorbaserad kraft. GPT 3.5 är för övrigt tränad på en superdator hos Microsofts Azure-infrastruktur och Microsoft satsar väldigt hårt på just ChatGPT och AI i sina produkter som jag tidigare skrivit om här.

Generellt är AI-verktygen här för att stanna och även om vissa jämför integration av ChatGPT i office med det klassiska gemet som fanns förr i tiden så är jag övertygad om att denna gång kommer vi att ha otroligt mycket mer nytta av denna medhjälpare.

Det område som jag tror kommer att revolutioneras mest är dock lärande där dessa AI-tjänster kommer att finnas med oss hela tiden och kunna motivera, hjälpa, stötta, förklara, utveckla och skräddarsy vårt lärande oberoende av vart vi är i livet, dvs., i det livslånga och kontinuerliga lärandet från födsel till död.

Vill ni att jag utvecklar något vidare eller har direkta frågor så maila mig. Jag har också flera föreläsningar planerade om ChatGPT under de kommande månaderna (Luleå och Stockholm) men vill ni att jag kommer och föreläser hos er så hör av er.

Som jag började denna artikel så har vi nu en skarp gräns mellan före ChatGPT och efter ChatGPT. Hoppas ni har inspirerats av denna artikel och har ni fortfarande inte provat ChatGPT så gör det nu!

AI, ChatGPT, Digitalisering, Digitalisering i skolan, Research, Techstuff

Nyttja ChatGPT för lärande?!

1 Comment

AI-motorn ChatGPT från OpenAI släpptes 221130 och fick väldigt snabbt otroligt många användare. Enligt vissa uppgifter uppnåddes redan 1 miljoner användare efter 4 dagar.

Fusk?

En stor del av debatten om ChatGPT har kretsat runt hur den kan användas för att fuska i skolan och universitet och vissa skriver direkt att ChatGPT måste förbjudas men hur blir det då med andra verktyg som att söka på Google, forskningsassisten i Word och så enkla verktyg som rättstavning och grammatikkontroll? Ska alla dessa verktyg förbjudas också?

Egentligen har studenter på universitetsnivå kunnat fuska i många år genom att alla uppgifter och lösningar sprids online av tidigare studenter. Kanske för att hjälpa andra eller kanske bara för att få lite uppmärksamhet. I slutändan handlar det om att ha ändamålsenlig examination där vi faktiskt undersöker om eleven/studenten har lärt sig det den ska ha lärt sig i respektive kurs och vi som lärare måste fundera på vilket sorts examination vi använder.

Hur nyttja ChatGPT för lärande?

Jag vill istället diskutera hur ChatGPT kan användas till stötta elever och studenter i deras lärande och här nedan följer tio exempel. Vill dock poängtera att detta är bara toppen av ett isberg och det finns massor med fler sätt vi kan använda AI-baserade chatbottar för att stötta lärande.

1: Skrivkramp

ChatGPT kan hjälpa till att komma igång med skrivuppgifter. Jag har själv ibland svårt att komma igång med frustration som resultat och genom att be ChatGPT skriva en kort introduktion till ett visst ämne så kan det vara lättare att fortsätta skrivandet.

På samma sätta kan man mata in sin egen text och be chatbotten att fortsätta skriva för att hjälpa en vidare. Man får det en eller par paragrafer med efterföljande texter.

2: Interaktiv lärobok

ChatGPT har lärt sig massor med fakta och den kan då användas som en interaktiv lärobok där den lärande enkelt kan ställa frågor kopplade till tidigare svar. T.ex. Förklara hur de svenska fjällen skapades? följt av Hur högt är det högsta berget? där jag inte behöver skriva varken fjäll eller att det är svenska berg jag menar för det förstår chatbotten utifrån den tidigare diskussionen.

3: Analysera texter

AI-motorn kan användas för att analysera texter och är duktig på att ge förslag på hur texten bör fortsätta. T.ex. paragrafen ovan om att studenter har kunnat fuska länge ge följande förslag från ChatGPT:

“Det är därför viktigt att universitet och lärare tar initiativ för att motverka och förhindra fusk. Det kan innebära att skapa mer individuella uppgifter, använda olika examinationstekniker som förhindrar kopiering och samarbete under prov, eller att införa mer omfattande kontroller för att säkerställa att studenterna faktiskt har lärt sig det de ska ha lärt sig. Genom att vidta dessa åtgärder kan vi garantera en ändamålsenlig examination och en rättvis bedömning av studenternas kunskaper.”

4: Sammanfatta texter

Vidare kan vi be ChatGPT sammanfatta längre texter och ge oss en sammanfattning. Jag har provat på längre texter, både akademiska och skönlitteratur och fått en mycket korrekta sammanfattningar. Detta kan underlätta för personer med lässvårigheter att läsa texter och därmed lära sig. För mig som forskare och lärare underlättare det otroligt mycket att få sammanfattningar av akademiska skrivningar.

Nedan är ett exempel på där ChatGPT sammanfattar en ganska lång beskrivning av mig som ni hittar här.

Professor Peter Parnes är professor vid Luleå tekniska universitet och är aktiv inom områdena ny teknik och digitalisering i skolan. Han har grundat flera företag, inklusive Marratech som såldes till Google, där han sedan jobbade som utvecklingschef för Google Sverige. Peter är även expert åt Skolverket och engagerar sig i jämställdhet inom IT-området genom projektet #include.

5: Bättre översättningar

Vi har länge kunnat enkelt översätta via olika översättningsverktyg online men med hjälp av ChatGPT kan vi få även få förklaringar till översättningarna som hjälper oss förstå det andra språket. T.ex. Hur säger man “Var är busshållplatsen?” på spanska och förklara. ger:

“¿Dónde está la parada de autobús?” (Uttalas: “donde esta la parada de autobus”)

“Dónde” är en form av “donde” som betyder “Var”. “Está” är den tredje personens singularisform av verbet “estar” som betyder “att vara”. “La parada de autobús” betyder “busshållplatsen”. “¿” är tecknet för fråga, vilket visar att det är en fråga.

6: Ge förslag i diskussioner

Vi kan använda ChatGPT för att ge oss förslag på argument när vi arbetar med i princip alla olika ämnen. Den kan hjälpa oss att ta fram argument för olika skrivningar som t.ex. varför en viss affärsmodell är lämplig för att lösa ett affärsproblem, hur vi ska visualisera vindkraftsproduktion eller Ge mig 3 argument för varför det är bra att lära sig saker? ger

  1. Att lära sig nya saker utvecklar vår hjärna och hjälper oss att bli mer flexibla och kreativa.
  2. Att lära sig nya saker ger oss möjlighet att utforska och förstå vår omvärld på djupare nivå, vilket ökar vår kunskap och insikt.
  3. Att lära sig nya saker ökar vår livskvalitet och hjälper oss att möta nya utmaningar och situationer med mer självsäkerhet och förmåga att hantera dem.

7: Förklara programmeringfel

Många lär sig programmera idag och är man nybörjare så kan vissa fel vara svåra att förstå. T.ex. ChatGPT kan förklara följande felmeddelande från Python: Förklara följande fel: TypeError: ‘int’ object is not iterable

8: Hitta buggar i program och rätta dem

ChatGPT kan också hitta buggar och ge förslag på hur det ska rättas.

Hitta buggen i följande program 

def count_occurrence(values, to_find):
	number_of_occurrences = 0
	for v in len(values):
		if values[v] == to_find:
			number_of_occurrences += 1
	return number_of_occurrences

values = [1, 2, 3, 3]
check_for_threes = count_occurrence(values, 3)

print(check_for_threes)

ChatGPT svarar

Buggen i programmet är i första raden i funktionen count_occurrence. Koden använder len-funktionen för att iterera över values, men detta fungerar inte eftersom len-funktionen returnerar längden på values-listan, inte individuella element i listan. För att fixa buggen ska koden istället använda en for-loop för att iterera över values direkt, så här:

def count_occurrence(values, to_find):
    number_of_occurrences = 0
    for v in values:
        if v == to_find:
            number_of_occurrences += 1
    return number_of_occurrences

Med den här ändringen kommer koden att fungera som avsett och kommer att skriva ut 2 när den körs med den givna values-listan.

9: Ge sig själv positiv uppmuntran

Denna är en av mina favoriter. Be ChatGPT skriva något positivt om dig själv och njut av resultatet. Här som ett exempel för att motivera mig, Peter till att gå och träna.

Peter är en fantastisk person som alltid sätter mål för sig själv och strävar efter att bli bättre. Han har bestämt sig för att gå och träna idag, vilket är en fantastisk beslutning. Träning är en viktig del av en hälsosam livsstil och kommer att hjälpa Peter att må bra både fysiskt och mentalt. Jag är säker på att han kommer att göra ett fantastiskt jobb och känna sig stolt över sig själv efteråt. Go, Peter!

10: Skriv något positivt om någon annan

Du kan be ChatGPT skriva något positivt som en dikt för att göra någon annan glad och uppmuntra dem. Här en är en kort dikt i Karin Boye stil.

Rektor Birgitta Bergvall-Kåreborn
Med kunskap som en vägg av stål
Hon leder Luleå tekniska universitet
Med visdom och styrka, förblir hon rak

Hon är en kvinna av klokhet och stolthet
Som vägleder med mod och integritet
Ingen utmaning är för stor
När hon står i spetsen för vårt högskolor

Med kärlek för vetenskap och teknik
Hon driver vår utbildning framåt
Och med sin ständiga strävan efter förbättring
Hon är en källa till stolthet och glädje för oss alla.

Avslutande ord

Jag är övertygad om att vi bara har sett början på hur textbaserade och andra AI-verktyg kommer att revolutionera vårt lärande och påverka vårt arbetsliv i stort. ChatGPT är ett exempel på ett sådant verktyg som kan hjälpa människor att lära sig allt från grunderna i olika ämnen till avancerade färdigheter och kunskaper. Jag tror verkligen att ChatGPT har stor potential att förändra sättet vi lär oss på och jag ser fram emot att se dess utveckling i framtiden när nästa version av den underliggande AI-hjärnan släpps i version 4 under våren 2023.

Ja, jag har använt ChatGPT för att hjälpa mig skriva och förbättra delar av denna text och ge förslag på hur den kan användas i lärande.

Vad är dina tankar om hur ChatGPT kan och bör användas för lärande?

Ps. Sammanfattning

Här kommer en sammanfattning av hela texten ovan sammanfattad av ChatGPT. Notera sista meningen som jag egentligen inte har skrivit om alls men som ChatGPT lade till.

AI-motorn ChatGPT från OpenAI har snabbt fått många användare. En stor del av debatten om ChatGPT har kretsat kring hur den kan användas för att fuska i skolan och universitetet. Det har föreslagits att ChatGPT ska förbjudas, men det finns även andra verktyg som kan användas för att fuska såsom att söka på Google och forskningsassisten i Word. Istället för att förbjuda ChatGPT bör vi fundera på hur det kan användas för att stötta elever och studenter i deras lärande. Exempel på sådana användningsområden är att hjälpa till med skrivuppgifter, användas som en interaktiv lärobok, analysera texter och hjälpa till med översättningar. ChatGPT har även potential att hjälpa lärare att få en bättre inblick i hur eleverna lär sig och vilka kunskaper de behöver stöd med.

Techstuff

The Thelma Project

Leave a comment

För ca 15 år sedan (2005) så skissade jag på hur videokonferensmjukvaran Marratech skulle kunna utvecklas från en monolitisk mjukvara där allt satt ihop i ett program till en mer dynamisk miljö där man plockade ihop komponenter till sitt egen videokonferensapplikation. Visionen var att alla som kunde redigera lite HTML skulle kunna bygga sitt eget gränssnitt (antingen direkt redigera HTML eller via något byggverktyg). Detta projekt kallade jag The Thelma Project och jag satte samman en webbplats för detta på http://staff.www.ltu.se/~peppar/proj/thelma/ i februari 2006.

Ca 1.5 år senare när jag jobbade på Google så pitchade jag denna idé för höga chefer på Google som tyckte detta lät mycket rätt och gav go-ahead för att jobba vidare med idéen. Detta utvecklades senare till WebRTC som blev ett öppet projekt med flera leverantörer 2011 (efter jag lämnat Google).

Idag används WebRTC i de flesta olika webbtjänster för videokonferens via Webben. Här hittar ni också ett kort dokument som beskriver idéen. http://staff.www.ltu.se/~peppar/proj/thelma/docs/thelma/thelma-latest.pdf