Category Archives: AI

Medverkar i Sveriges Radio om EU AI Act, AI-lagen 240522

Jag gjorde ett litet inspel 240522 i Sveriges Radio P4 om EU:s nya AI-lag där vi diskuterade vad den nya lagen innebär och vilken påverkan den får på oss som medborgare samt vad som kommer att påverkas globalt. Jag blev intervjuad av Maria Lindgren som en del av Morgon i P4 Norrbotten.

Här är en AI-genererad transkribering:

Maria: P4 Norrbotten är kanalen du lyssnar på. Klockan är 16 minuter över sju den här onsdag morgonen. Vi ska prata om EUs nya AI-lagstiftning som nu har klubbats formellt. Frågan är förstås vad det kommer att betyda för oss vanliga EU-medborgare och norrbottningar. Peter Parnes, du är professor i datateknik och särskilt kunnig när det handlar om hur mänskligt lärande påverkas av AI. Hur stor förändring är det att det nu finns en lagstiftning om AI?

Peter: För det första så finns den inte än. Det kommer att dröja ett tag innan vi får den. Men det stora är att vi får mer transparens. Vi som medborgare kommer att få veta mer om när vi pratar med AI. Vissa tjänster kommer helt att förbjudas. Till exempel, vi får inte ha system som påverkar oss utifrån biologiska differenser. Vi får inte ha social ranking som man har jobbat mycket med i Kina.

Maria: Vad innebär det?

Peter: Det innebär att man utifrån ens historik får olika fördelar och nackdelar i samhället. Det kan vara lån, tillgång till utbildning etc. Har du gjort dumheter i ditt liv får du sämre ranking. Är du en god medborgare får du bättre ranking. Den typen av system blir helt förbjudna baserat på AI.

Maria: Tanken är att det här kommer att genomföras under de kommande två åren fram till 2026.

Peter: Precis. Till och med tre åren för existerande system så har man tre år på sig att anpassa inför AI.

Maria: Vad tror du då kommer att bli mest påtagligt för dig och mig? Hur kommer vi att märka det här?

Peter: Det lilla vi kommer att märka är att vi måste få reda på om vi interagerar med en AI eller inte. Idag kanske vi tycker att det är självklart. Om jag pratar med en AI-genererad röst så kanske jag hör det. Men redan nu börjar vi komma till att tekniken kommit så långt att vi inte ens kan känna igen röster längre som har genererade. När vi chattar, texter etc. Så när vi interagerar med olika enheter så ska det framkomma att det är en AI vi pratar med.

Maria: De här lagarna handlar om EU som är först ut med det här. Det ska vara den mest heltäckande lagstiftningen. Kommer man att använda EU som något slags globalt exempel när det handlar om den här typen av lagstiftning och regler?

Peter: Det är en av förhoppningarna från EUs lagstiftare. Det är just att det ska bli en förebild. Den stora andra parten här där det sker väldigt mycket på AI-området i USA. Där har man tidigt också haft förslag på egen lagstiftning. Men det har man sedan backat ifrån där man anser att lagstiftningen skulle vara för begränsande för den tekniska utvecklingen. Där var man långt framme. Man backade. Vi får helt enkelt se hur det här kommer att påverka globalt. Men det vi vet är att för de amerikanska bolagen, de flesta stora AI-jättar är amerikanska idag. För att de ska kunna ha sina produkter inom EU så måste de följa EU-lagen. Så då måste de implementera regler och transparens etc. Även om de inte använder dem i USA. Och då är förhoppningen att det ska leda till att man även gör det öppet i USA också. Och andra delar av världen, som Asien.

Maria: Men då om vi backar lite grann då. Varför behövs det en lagstiftning på det här området?

Peter: De här systemen har idag blivit väldigt, väldigt kraftfulla. De kan göra jättemycket. De kan samla information. De sammanställer information. De kan bygga upp profiler om människor. Då har vi i princip inga regler. Det är rena, vilda western där ute. Där de här tech-jättarna kan göra i princip vad de vill. Och anledningen till att vi inte har sett mer så kallade illvilliga system. Det är för att de här företagen själva har lagt begränsningar på sig själva. Så att de använder sin egen etiska kompass inom utvecklingen. Men det betyder ju inte att alla företag alltid gör detta. Och kommer att göra detta. Det är olika syn på vad som är rätt och tillåtet. Och vi har ju ganska stor skillnad mellan USA och Sverige i många frågor. Ta till exempel abortfrågan. Den är ju helt annorlunda den debatten i USA än i Sverige. Eller EU med dem.

Maria: Det här med AI är ju någonting som är ändå relativt nytt. Vad tror du om den här lagstiftningen? Kommer den att förändras? Eller är den heltäckande nu som det ser ut

Peter: Den är ju väldigt omfattande. Så att den täcker ju in väldigt, väldigt många områden. Sen är ju precis som du antyder här. Så är det en fråga. Kommer den här vara tillräcklig? När den här är implementerad fullt ut om tre år. Det kanske redan innan dess så blir det ju dags att revidera då. Men så är det ju med de flesta lagar. Och då får vi ju hoppas att lagstiftningen hänger med i den tekniska utvecklingen helt enkelt.

Maria: Vi får se hur det går. Peter Parnas, tack för att du kom hit den här morgonen.

Peter: Tack.

Etiskt bruk av AI – hur tar lärosätena ansvar inom forskning och utbildning? – SUHF 240423

SUHF arrangerade ett seminarium om etik och AI kopplat till högre utbildning och forskning. Jag gjorde ett inspel på 15 minuter och var också med i en paneldebatt tillsammans med Amy Loutfi, Oru och Fredrik Ahlgren, LNU under ledning av Sonja Bjelobaba, UU och Stefan Eriksson, SUHF.

Här är mina bilder.

Hur ser framtidens musikindustri ut? Testar Suno.ai för att skapa musik.

AI påverkar många olika branscher och så även musikindustrin. För ett år sedan kunde vi knappt skapa musik med AI och nu har vi kommit en bra bit vägen. Jag har provat tjänsten Suno.ai med vilken jag skapat 4 kärlekssånger till Agneta. Min input är en enda rad (t.ex. A love song about Agneta in the style of retro pop rock). Det är inte högkvalitativ musik men skulle jag höra vissa av dessa låtar på radion skulle jag definitivt inte kunna säga att de var gjorda av AI.

Här är 4 låtsnuttar med 2 låtar i 2 olika varianter. 2 i mer pop rock och 2 i mer western. Den senare försökte jag få till i epa-dunk men det är svårt att översätta till engelska.

Vad är dina tankar om framtiden för musikindustrin? Lyssna och kommentera gärna!

Disciplinärenden kopplade till AI inom högre utbildning 2023, UKÄ

UKÄ, Universitetskanslersämbetet har publicerat en rapport om disciplinärenden på svenska universitet under 2023. Det är generell statistik om fusk men det intressanta är att mer än halva rapporten handlar om fusk med AI. Från sidan 16 och framåt kan man läsa om vad som sker på olika lärosäten samt i bilagan så finns det tre domar publicerade som alla handlar om fusk med AI.

Det första fallet är “fällan” som skapades inom en programmeringsuppgift på Karlstads universitet (som jag för övrigt kommenterade i radio här).

Mycket intressant läsning som rekommenderas till alla som jobbar med högre undervisning.

UKÄ sammanfattar själva delen om AI så här:

“27 av de tillfrågade lärosätena har uppgett att de har haft disciplinärenden som gällt vilseledande med hjälp av AI-verktyg och 7 lärosäten har förklarat att de inte har haft några sådana ärenden. Av lärosätenas redovisningar framgår att det vid lärosätena har förekommit 221 sådana disciplinärenden. 82 studenter i de ärendena har stängts av och 26 har tilldelats en varning på grund av vilseledande med hjälp av AI. I 83 fall har anmälan mot studenten lämnats utan åtgärd. Skälen till det har bl.a. varit att lärosätets instruktioner inte varit tillräckligt tydliga eller att bevisningen inte varit tillräcklig.

UKÄ konstaterar att de flesta lärosäten numera har erfarenhet av ärenden som gällt vilseledande med hjälp AI-verktyg. Rapporten visar att det pågår ett omfattande arbete vid lärosätena med att hantera de utmaningar som AI-verktygen kan innebära för utbildningen och examinationen av studenterna.”

AI:s påverkan på utbildning och samhället

240214 hade jag möjligheten att föreläsa och diskutera AI i två omgånger.

Förmiddagen handlade om AI och examination på LTU i Luleå med institutionen HLT där jag höll en uppskattad presentation följt av en paneldebatt om hur undervisningen på LTU måste förändras. Här hittar nyfikna presentationen. Eftermiddagen spenderade jag tillsammans med Skellefteå Senioruniversitet där jag föreläste om AI:s påverkan på samhället för minst 75 seniorer.

Sammanfattningsvis var mitt budskap att AI starkt kommer att påverka lärande och här måste LTU och alla skolinstanser hänga med i den snabba utvecklingen. Utbildningsväsendets utmaning är den stora trögheten gällande att förändra utbildningar (både kurser och program). Program med start hösten 2026 bestäms “nu” och sedan ska studenterna läsa i upp till 5 år. Dvs., vi bestämmer _nu_ vad studenterna som tar examen 2031 ska läsa i stort. Frågan är dock; Hur ser samhället och arbetsmarknaden ut 2031? Nej, vi vet inte men vi måste gissa och interpolera så vi kan ge en relevant utbildning till de som ska jobba i framtiden.

Sedan måste vi också ha bra verktyg för reskill och upskill av existerande arbetskraft men det är en separat diskussion som jag kanske återkommer till senare.

Mina uppdragsutbildningar om AI och lärande

Har precis avslutat den sista sessionen inom mina uppdragsutbildningar på LTU för i år.

Jag släppte den första kursen i slutet av maj och det har blivit 6 kursomgångar under 2023 fördelade på dels en 40h-kurs och en 12h-kurs. Totalt har 532 personer gått dessa kurser under 2023 och vi har sålt ytterligare 1993 platser. Om alla dessa sålda platser nyttjas så kommer det att bli 2525 personer som gått mina utbildningar totalt.

Generellt är mina deltagare mycket nöjda och jag får kanske återkomma med lite konkreta kommentarer. Dock anser de att de lärt sig enormt mycket vilket är smickrande 🙂

Pengamässigt har mina kurser genererat drygt 1.317.000 SEK i externa intäkter till LTU under 2023-2025 varav 997.000 faktureras under 2023 (plus moms).

Nu kanske ni tänker att utbildning ska vara gratis men när det gäller uppdragsutbildning så får inte universiteten ge bort det gratis utan vi ska ta betalt till självkostnadspris. Det har regeringen bestämt.

Jag hade tänkt att ge lite nya AI-utbildningar under 2024 men vi får se vad som händer. Beror lite på min arbetsgivares prioriteringar och vad de vill att jag ska göra nästa år.

Men om det blir nya utbildningstillfällen, vad skulle DU vilja lära dig inom ramen för uppdragsutbildning eller andra former (frisåtende kurser) kopplat till AI?

Google lanserar Gemini, deras nya AI-modell

Google släppte igår en massa information och demonstrationer av deras nya AI-modell Gemini. Flera av deras demofilmer är mycket imponerande. Samtidigt så var flera av filmer när de lanserade PaLM2 också imponerande men modellen fungerade inte så bra i praktiken.

Jag har inte fått tillgång till Gemeni ännu (har någon?) men roar mig med att läsa deras tekniska rapport så länge om Gemini. Google släpper sina nya AI-modell i tre storlekar; Nano, Pro och Ultra. Pro ska vara den som ska köra i Bard (Googles ChatGPT) och vara tillgänglig för alla i 170 länder.

I den tekniska rapporten hittar man deras egen utvärdering och det är väl egentligen bara en jämförelse, den mot GPT4 som är riktigt intressant. Notera att GPT4 släpptes i mars 2023 och Gemini släpps 9 månader senare och självklart arbetar OpenAI på GPT5 (oklart när den släpps). Google väljer att lyfta MMLU-testet i sina reklamfilmer så jag fokuserar på det testet också.

Här kan vi se att Ultra slår GPT4 med 2.75 procentenheter medan Pro ligger hela 8.16 procentenheter under GPT4. Här kan det vara bra att titta på gratisalternativen också och jämföra Bard med gratis-ChatGPT och då är Pro 9.13 procentenheter bättre vilket är bra.

En annan iakttagelse vi kan göra är att att Pro är bara 0.73 procentenheter bättre än PaLM2 som körs i Bard idag. I och med att Bard med PaLM2 inte är så imponerande idag så kan vi fråga oss vad det betyder för den praktiska användning av Pro?

Ultra ska gå att komma åt via Bard Advanced som ska rullas ut under början av 2024. Dvs., oklart när vi kan få testa den. Jag antar att access också kommer att säljas via API.

Vad är dina tankar om Googles nya modell?

Många föreläsningar under november 2023

November har varit den mest intensiva föreläsningsmånaden någonsin för mig.

Jag har hållit 15 föreläsningar om AI med totalt 21.5h pratande varav 9 föreläsningar på scen (12.5h) och 6 online (9h). Jag har föreläst på plats i Stockholm, Västerås, Göteborg, Malmö och Luleå och online i Finland (2 gånger) och resten online i Sverige.

Utöver detta har jag haft 5 sessioner * 2h = 10h med uppdragsutbildning online samt 6h undervisning med studenter IRL. Uppdragsutbildningen består av ca 0.75h föreläsning (utöver timmarna ovan) och resten diskussioner i plenum och i grupper.

Jag har också spenderat många++ timmar om att läsa om och diskutera AI i olika sammanhang samt spenderat väldigt mycket tid på att förbereda presentationer, planera möten och föreläsningar, skriva texter och att diskutera med journalister.

Det stora positiva är den fantastiskt positiva återkoppling jag får vilket ger en massa dopamin, oxytocin och serotonin och en ökad positiv självkänsla.

Jag kan lugnt erkänna att det stundvis blev lite väl mycket jobbande och det blev för lite tid för återhämtning och hobbies men all den positiva återkopplingen gör att jag har återhämtat mig mycket fort. Under december lugnar det ned sig rejält och snart blir det julledigt.

Ps. Vill ni ha en egen AI-föreläsning så hör av er 🙂