Så förbereder du dig för AI-samhället

Francisca Hoyer [00:00:04]: Sverige som land verkligen behöver agera nu, både för att maximera nyttan för samhället med den här nya typen av teknologi, men också för att öka vår förståelse för hur samhället kommer att förändras.

Ulf Danielsson [00:00:17]: Det är inte de här stora techföretagen som ska bestämma vad vi ska göra för någonting. Det ska vara våra behov, hur vi definierar oss som människor, som ska vara det viktiga.

Yashar Moradbakhti [00:00:28]: Det finns mycket positivt som kommer komma. Är det ett år, tre år, fem år? Det vet vi inte, men jag tror det kommer mycket snabbare än vad vi någonsin trott.

Liselott Bergman [00:00:41]: Varmt välkommen till Innovation, en podcast från Sveriges innovationsmyndighet Vinnova. Det är försommar 2023 och det råder AI-yra. Kan vi säga någonting om AI som inte redan är sagt? Jag tänker att vi ska försöka för anledningen till att alla pratar är AI är att det är samhällsförändrande och det går så fort. Dagens avsnitt har i princip matat in all skriven text och bearbetar nu bilder, ljud och sensoriska data. Kan AI bli ett multiverktyg i människans tjänst som gör oss mer kompetenta och innovativa och hjälper oss lösa våra stora utmaningar? Det ska vi borra i idag och för att göra det har vi en superspännande panel. Varmt välkommen Francisca Hoyer, ansvarig för språkteknologiinitiativet och ansvarsfull AI på AI Sweden, och filosofiedoktor i historia.

Francisca Hoyer [00:01:43]: Tack så mycket för inbjudan.

Liselott Bergman [00:01:45]: Välkommen också Yashar Moradbakhti, grundare och VD för AI-utbildningsprodukten Lingio.

Yashar Moradbakhti [00:01:52]: Tack så mycket, kul att vara här.

Liselott Bergman [00:01:54]: Och ni båda är med i vår studio i centrala Stockholm. Med oss på länk har vi Ulf Danielsson, författare och professor i teoretisk fysik vid Uppsala universitet. Välkommen.

Ulf Danielsson [00:02:07]: Tack så mycket.

Liselott Bergman [00:02:09]: Och din röst känns också igen från till exempel Muren som går på SVT just nu, men även också bland annat På spåret och Filosofiska rummet.

Ulf Danielsson [00:02:17]: Och Idébyrån, där det varit en hel del AI på sistone också.

Liselott Bergman [00:02:22]: Ja, toppen. Det kan man kika på i efterhand om man vill ha ännu mer AI. Låt oss börja med att blicka framåt fem-tio år. Hur har AI påverkat det område som du kan mest om? Beskriv gärna så konkret som möjligt vilka förändringar som AI har lett till. Någon som är sugen på att börja?

Francisca Hoyer [00:02:48]: Jag kan ju börja. Jag har ju två hattar på mig hela tiden; historikerns hatt och språkteknologi-hatten. Om vi börjar med historiehatten, då tror jag att inom historievetenskap så kommer AI anknyta till och bygga på den transformationsprocess vi sett de senaste tio-tjugo åren och den digitaliseringsprocessen. Om ungefär tio år kommer det bli ännu enklare att hitta och sortera stora datamängder, eller det som historiker kallar källor. Det kommer möjliggöra att vi kan ställa nya frågor och utreda nya frågor på en helt annan skala. Inom språkteknologi tror jag inte vi behöver titta långt framåt för att se en otrolig transformationsprocess som har skett bara de senaste 20 åren. För ungefär 20 år sedan, då var lärandesystem eller AI-driven språkteknologi ett nischområde. Det hade ingen industriell relevans och det var bara några få som jobbade med det. Idag vet även gemene man vad AI i språkteknologi är. Vi utsätts för det varje dag, både medveten och omedveten, och det är verkligen förankrat i våra vardagsliv. Det tror jag verkligen är ett stort skifte som vi redan har sett.

Liselott Bergman [00:04:08]: Det här att man kan använda sig av stora datamängder, vad kommer det innebära konkret?

Francisca Hoyer [00:04:14]: Inom historievetenskap? Det innebär att man kan ställa frågor fast på nya skalor. Vi historiker jobbar ganska ofta i arkiv och då har vi en fysisk begränsning. Vi kan bara åka till ett antal arkiv under ett forskningsprojekt. Med digitalisering som vi redan har sett de senaste åren har det blivit möjligt att vi bygger våra analyser på ett flertal arkiv, det har jag gjort i min avhandling till exempel där jag tittat på material från över 25 arkiv i hela Europa och Sydostasien. Det öppnar ju upp så att vi verkligen kan tänka utanför nationalstaten till exempel. Att vi kan undersöka människors liv där det faktiskt har hänt och det är inte i containers utan det är globalt.

Liselott Bergman [00:05:04]: Har du några konkreta exempel på vad det kommer kunna innebära för språkmodellerna?

Liselott Bergman [00:05:10]: För språkmodeller innebär det att textmängderna också blir större. Vi ser ju en pågående digitaliseringsprocess av befintligt textmaterial som krävs för att bygga de här kraftfulla modellerna. De är ju helt beroende av att det finns tillräcklig mänsklig text och där är digitalisering av till exempel samlingar på museiarkiv och bibliotek också jätteviktigt.

Liselott Bergman [00:05:40]: Tack. Yashar, vad tänker du?

Yashar Moradbakhti [00:05:43]: Först, superspännande att höra från Francisca om det där. Om vi tittar lite trajectory framåt så startade vi som ett språkapplag för att lära utrikesfödda svenskar 2015. Det var ett volontärsprojekt. Sedan dess har jag jobbat med AI kopplat till språkteknologi och när vi tittade framåt för fem år sedan och gjorde best guess så trodde vi att vi skulle se att det här med att fånga upp röster och förstå vad det innebär, att det skulle kunna ske. Vi tänkte att det också skulle vara möjligt att översätta mellan många språk väldigt bra. Också att man kan få text to speech, att man från text kan gå till människolika röster. Allt det där har hänt och mycket mer. Tittar man framåt nu så tror jag att det kommer gå så exponentiellt så det är väldigt svårt att avgöra vad som kommer hända om ett år eller om fem år. I dagsläget har vi jobbat fyra-fem år med KTH i ett Vinnova-finansierat projekt för att ta fram en AI-kursförfattare så vi kan skapa kurser från en text-input. Det är väl nästa generationen av den här typen av generative AI-lösningar. Tittar man framåt så om det ett år, tre år, fem år? Det vet jag inte, men jag tror det kommer finnas AI-lärare som kan i realtid utbilda vem som helst i vad som helst. Det finns ett fåtal saker som är väldigt viktiga saker för människan, men lära sig hela tiden och vara nyfiken och ta nästa steg är ju en sådan här grundläggande mänsklig drivkraft. Att alla kan komma åt det, vare sig du är en rik person som har råd att åka till Stanford och få gå den utbildningen, eller imorgon eller om ett år, tre år så kan det vara urban area i Indien och du kan få samma utbildning, exakt samma förutsättningar med den här teknologin vilket är att demokratisera utbildningen. Det finns mycket positivt som kommer komma. Är det ett år, tre år, fem år? Det vet vi inte, men jag tror det kommer mycket snabbare än vad vi någonsin trott.

Liselott Bergman [00:08:08]: Jag tänker den här tillgången till utbildning finns ju till stor del redan idag. Vad är skillnaden?

Yashar Moradbakhti [00:08:15]: Det är paketeringen och att göra det betydligt enklare att ta till sig det på ditt språk, på dina termer. Det är fortfarande inte jätteenkelt att ta till sig all information som passar dig. Speciellt inte om det är ett annat språk än engelska. Det tror jag är den stora skillnaden.

Liselott Bergman [00:08:39]: Ulf, vad tänker du när du lyssnar till Francisca och Yashar?

Ulf Danielsson [00:08:45]: Ja, det är lite både och det är väldigt många spännande saker som de berättar om, saker som vi inte kunnat göra tidigare, som vi kommer kunna göra bättre eller... ja, som vi inte överhuvudtaget har kunnat göra, men det finns en risk att man inte låter de här systemen komplettera och förstärka det man gör, utan man snarare kanske ersätter en del av de saker man gör på ett sådant sätt att resultatet inte nödvändigtvis blir så mycket bättre som det skulle kunnat bli. Det gäller att använda det här på ett klokt sätt. Det här tror jag också gäller vetenskapen i stort och jag förstår att inom humaniora så är det naturligtvis en revolution att få tillgång till de här systemen, att kunna samla ihop stora mängder data och ur det få nya resultat och spännande slutsatser som man inte kan komma åt annat, det här är ju någonting som redan finns i naturvetenskapen på många sätt inom många områden, men också där finns en risk att man fokuserar på dessa jätterika mängder av data där man försöker hitta mönster på olika sätt, mönster som man kanske inte egentligen förstår vad det handlar om eller vad man ska ha till. Det gör också att själva vetenskapen kan då förvandlas till att ur stora mängder data generera mönster som man sedan kan publicera som artiklar och tycka att man har åstadkommit någonting. Så det finns risker av det slaget som jag tror att man måste vara vaksam på. Det är jättekraftfulla verktyg, men det gäller att använda dem till att förstärka det man gör och inte ersätta och de facto kanske inte nå särskilt mycket längre än vad man redan gör. Sedan en sista kommentar till det här med lärande: ja, absolut kommer det här så klart bli jättebra verktyg för att demokratisera lärande. Jag tror också att det finns den möjligheten. Samtidigt, igen, så finns det en risk att man ignorerar och underskattar den mänskliga aspekten i det hela. Jag tror fortfarande att det här mänskliga mötet är avgörande. Det handlar inte bara om den här mer rationella pedagogiken i lärandet utan det handlar också om att interagera med en verklig människa som man har någon form av förtroende för. Den aspekten kan man inte glömma bort.

Yashar Moradbakhti [00:11:09]: Får jag addera där? Jag håller med till 100%. Jag tror aldrig att vi vill ersätta lärare, det är inte dit man vill gå, men sedan är det ju bara i Sverige enorm lärarbrist och det är ett land uppe i Norden som har det väldigt bra ställt. Tittar man på landsorten i Indien eller delar av Afrika så finns det inte ens lärare. Jag tror det handlar mer om att använda tekniken där det går och hjälpa dem som har det sämst ställt att komma upp till samma nivåer som vi är på i väst. Men i väst, även här i Sverige, har vi lärarbrist. Kan det avlasta, stötta de lärare som finns idag så de kan jobba mer kvalitativt... och det är inte bara läraryrket, jag tror att många yrken kommer påverkas av det här. Du har rätt i det du säger, att man vill ju att det ska stötta, inte ersätta.

Liselott Bergman [00:11:59]: Jag tänker att du, Ulf, är inne på någonting spännande. Dels det här att människan behöver vara med i den här utvecklingsprocessen, men jag undrar också om det är mänskliga behov som till exempel att hjälpa till att lösa våra samhällsutmaningar som är utgångspunkten för den här utvecklingen som vi ser framåt eller är det snarare affärsintressen? Hur tänker ni där, Francisca?

Francisca Hoyer [00:12:24]: Om vi fokuserar just på språkteknologi, då har utvecklingen varit ganska behovsstyrd och alltid varit väldigt tillämpad. Om vi tar till exempel Transformer-modellen som ligger till grunden av de generativa modellerna som alla pratar om idag, som har tagits fram av Google, då var ju syftet med att göra sökfunktionen bättre till exempel. Det här exemplet gör det också tydligt att det är egentligen en ganska artificiell uppdelning mellan mänskliga behov och affärsintressen. Utveckling går fortast där det finns tydliga affärsintressen, sedan ser vi i Sverige att när man ser nytta, då hakar andra aktörer på. I Sverige har det varit offentlig sektor som varit drivande de senaste åren i framtagandet av de första svenska språkmodellerna till exempel. Samtidigt är det viktigt att vi inte glömmer att utan konkreta mänskliga behov finns inget affärsintresse heller. Jag kan inte ta en teknologi till marknaden där det inte finns något behov. Sedan finns det strategier för att skapa behov också, men jag tänker att den här uppdelningen är lite artificiell och det finns ett väldigt nära samspel mellan de två.

Liselott Bergman [00:13:34]: Yashar?

Yashar Moradbakhti [00:13:35]: Jag tror det primära behovet som det här löser nu, det är effektivitet och produktivitet. Jag brukar tänka att det här är som att man ska hamra i en spik och så har man inte en hammar, men så plötsligt får man en hammare. Klart man tar sig an hammaren och använder den i sitt personliga bruk. Så primärt handlar det om att individen vill bli mycket mer effektiv i sitt jobb och de här modellerna används i alla yrken nu. Det har gått snabbt så det har använts i alla typer av yrken. Jag tror det gör produktiviteten bättre för enskilda individen. Samhällsfrågorna tycker jag är superviktiga och det kommer kanske inte big tech driva lika hårt så där tror jag ändå regeringar, myndigheter behöver stötta med forskningsbidrag så samhällsfrågorna och den forskningen faktiskt får momentum, vad det nu handlar om. Big tech drivs ju av affärsintressen. Från vårt håll, som jobbar med att bygga de här verktygen, vill vi ju stötta de som har lite tid att kunna skapa kurser snabbt och kvalitativt och hjälpa till att utbilda sina anställda eller personal, så vi försöker tänka på det hela tiden. Vi har hållit på med det här med AI for good i mer än 8 år, hur vi kan stötta människan i det här vare sig det handlar om att hjälpa utrikesfödda in på arbetsmarknaden via Yrkesspråket eller stötta i den här upskilling-transformationen som sker nu framåt.

Liselott Bergman [00:15:13]: Jag tänker att vi står ju nu inför enorma samhällsutmaningar så hur kan AI bidra till att lösa dem? Finns det några konkreta exempel på det? Ulf, har du några tankar där? finns det något positivt med AI här? Kan det hjälpa oss?

Ulf Danielsson [00:15:28]: Ja, men det är klart att det gör. Det kan mycket väl handla om optimeringsproblem just när det gäller gröna omställningen, alltså hur man på olika sätt använder de resurser som finns på ett optimalt sätt. Det kan handla om transporter, energiförsörjning och andra saker. Där kan det mycket väl spela en väldigt stor roll, men jag skulle ändå vilja varna lite grann för att när man använder de här systemen så måste man också vara säker på att de faktiskt åstadkommer det man vill, det vill säga en förbättring. Ett exempel på det här kan man se när det gäller digitaliseringen i skolan som väl nu är erkänd som ett ganska stort misslyckande. Det såg man ju som en självklarhet, att införa hjälpmedel tidigt i skolan skulle leda till ett bättre lärande, och nu finns det forskningsresultat som visar att så var inte fallet. På samma sätt om vi tar ytterligare ett steg och förlitar oss på de nya systemen så måste man alltså vara klar över att när man tar in de här systemen, att de verkligen gör någonting som förbättrar och det inte bara blir av ren slentrian att man använder sig av dem.

Liselott Bergman [00:16:49]: Francisca, du nickar?

Francisca Hoyer [00:16:52]: Ja, absolut. Jag skulle vilja lägga till att jag tror det är jätteviktigt, som Ulf också var inne på, att vi verkligen inte bara förlitar oss på teknisk innovation utan att vi tar ett holistiskt angreppssätt där teknologi och särskilt AI bara kan och ska vara en pusselbit. Vi behöver en samklang bland olika angreppssätt för att verkligen ställa om systemet, annars är det bara ett plåster som vi sätter på. Men tre konkreta områden där jag ser stor potential för att AI kan bidra, det är först det demografiska skiftet som vi ser. Mycket har det senaste tiden pratats om rädslan att AI tar våra jobb och jag tror det är att fokusera på fel problem. Vi har faktiskt ett demografiskt skifte som vi måste hantera. Demografins sammansättning blir äldre, de arbetsföra blir färre och det är färre som måste göra fler jobb. Om vi fokuserar på till exempel offentlig sektor, då är det jätteviktigt att medarbetarna får stöd i sitt arbete för att klara trycket och här kan AI vara ett stöd för medarbetare.

Liselott Bergman [00:18:08]: På vilket sätt?

Francisca Hoyer [00:18:09]: Till exempel i områden där medarbetare hanterar stora mängder text. Ganska ofta är det rutinmässiga arbeten eller repetitiva uppgifter som helt enkelt kräver tid, men som inte kräver jättemycket intellektuell insats för just den insatsen, som mejlklassificering till exempel. Där kan AI frigöra tid för det mellanmänskliga till exempel. Ett annat område där vi redan idag också ser stort värde, det är hälso- och sjukvården. Även här behöver vi nya verktyg för att hantera de utmaningar vi har och det är inte bara inom diagnostik som AI kan vara ett viktigt verktyg utan även inom administration. Att sjuk- och hälsovårdspersonal kan faktiskt lägga tid på patienter istället för att skriva långa journaltexter och så vidare. Tredje och sista området där vi ser stort behov och potential, det är till exempel framtida energisystemet. I det framtida energisystemet kommer vi ha en mycket större andel av varierande elproduktion genom till exempel sol och vind, och den här produktionen måste vi också kunna lagra och kunna frigöra vid behov och efter förbrukning i realtid. Här är AI som är bra på att hitta mönster ju ett fantastiskt bra och viktigt verktyg för att hantera just det. Sedan är det också viktigt här att inte glömma att AI bygger på historiska mönster, på historisk data, och jag knyter an till vad Ulf sa också, att vi måste fråga oss vad som är bästa lösningen för det här problemet. Det kanske inte alltid är bästa startpunkten att utgå från historisk data eller inte ens möjligt som inom energisektorn, så det gäller alltså att bygga kunskap hur de här systemen fungerar och var kan vi använda dem med störst möjliga nytta.

Liselott Bergman [00:20:19]: Vår reporter Anna-Maria Stawreberg har träffat Erik Borälv på Vinnova för att höra hur Sveriges innovationsmyndighet tänker kring AI idag.

Erik Borälv [00:20:37]: Vi tycker det är viktigt att det är många som är med och testar så att det inte blir en lösning som är i händerna på några få utvalda. Det är inte bara en fråga om demokrati utan det är också ett sätt att få utvecklingen att bli bättre och sund och samhällsnyttig. Vi tycker det är också centralt att svenska aktörer äger frågar om AI, att man behärskar området och är kompetent på att ta fram egna lösningar för de behov man har.

Anna-Maria Stawreberg [00:21:02]: Vilken roll tror du AI kommer spela när det gäller utveckling av innovationer om vi tittar på de närmaste tio åren?

Erik Borälv [00:21:10]: Det är svårt att föreställa sig områden som inte kommer att påverkas. Däremot så kan man ju säga att det kommer ske gradvis och att det kommer ta plats i de saker vi redan använder och känner så att det kommer bli en del i underhållning, e-handel och det vi redan idag använder teknik för.

Anna-Maria Stawreberg [00:21:31]: Vilka branscher är det som kommer beröras mest tror du?

Erik Borälv [00:21:36]: Det kommer börja där det går att göra det snabbt och det är områden som har tillgänglig data där de här typen av lösningar och regelverket går hand i hand och där man kan se någon form av ekonomisk nytta. Idag så ser det väl ut att det är områden kopplat till det generativa, att skapa bilder och texter till exempel. Där kommer det nog ske allra först.

Anna-Maria Stawreberg [00:22:03]: Kan du ge några exempel där på branscher?

Erik Borälv [00:22:06]: Ja, men alla som jobbar med text och bild, alla som håller på med någon form av skapande. Där sker det väldigt mycket idag och många lösningar gör väldigt stor nytta och är väldigt enkla oftast att få in i arbetsflödet. Sedan finns det andra områden där AI tog sina första steg väldigt tidigt, som inom hälsoområdet och vård, så inom medicinsk bildtolkning, att ställa diagnoser baserat på bild, det är ett område där mycket har skett redan och där utvecklingen är väldigt stark. Att kunna förstå vad en bild föreställer till exempel för att kunna ställa en bra diagnos, det är någonting som kommer ske ganska snart.

Anna-Maria Stawreberg [00:22:53]: Finns det några branscher som inte kommer påverkas alls av AI?

Erik Borälv [00:22:57]: Nej, det är svårt att föreställa sig här och nu. Det tror jag faktiskt inte, men det kommer ske på olika sätt. En del kommer vara väldigt medvetna om att här finns AI och på många ställen kommer det vara inbakat, långt inne i systemen bakom kulisserna. Jag tror att alla kommer ha någon form av AI i sig. Sedan finns det områden där det finns utmaningar, där vi inte riktigt vet hur det kommer fungera och det kan till exempel vara områden där det är brist på data eller där data finns, men datan är svåranvänd. Till exempel skolbetyg är inte så enkla att använda för det finns integritetsfrågor kopplat till det.

Anna-Maria Stawreberg [00:23:44]: Vilket stöd ger Vinnova till utvecklingen av AI idag?

Erik Borälv [00:23:48]: Vi ger ganska omfattande stöd. Jag vill påstå att i alla våra utlysningar och satsningar återfinner man AI. Det finns några frågor som är särskilt intressanta och en sådan fråga är språk. AI på svenska, ett AI som kan förstå, tala och skriva svenska, det är det få andra än vi i Sverige som känner ett ansvar för. Det är en fråga vi särskilt måste ägna lite energi åt. Sedan finns det teknikfrågor som vi behöver fundera på; hur man gör molntjänster, hur man gör edge computing, hur man gör syntetiska data. Alla de här är tekniker och förmågor som varje land behöver kunna i ganska hög utsträckning så det tittar vi också på.

Liselott Bergman [00:24:40]: Vad får ni för tankar när ni lyssnar på reportaget? Ulf, håller du med Erik?

Ulf Danielsson [00:24:48]: Jag måste säga att jag kommer fortfarande tillbaka till det som vi diskuterade innan reportaget och det handlar om just det här behovet av verifiering. Jag tror att det är det absolut viktigaste när det gäller att bestämma sig på vilket sätt man ska använda AI. Det gäller alla de här sakerna som togs upp och vi har diskuterat. Det måste vara det absolut viktigaste, att man inte använder dem om man inte är säker på att de fungerar, det vill säga att det måste vara för väldefinierade uppgifter då det finns möjlighet att säkerställa att det verkligen fungerar. Det tycker jag är det absolut viktigaste rakt igenom.

Liselott Bergman [00:25:26]: Francisca, vad tänkte du när du hörde reportaget?

Francisca Hoyer [00:25:29]: Ja, många tankar också nu i samspel med Ulfs kommentar. Behovet av verifiering som Ulf tog upp är väldigt konkret på AI Sweden och i samband med de här svenska språkmodellerna som Erik också var inne på och varför det är så viktigt att många är med och testar... vi jobbar ju verkligen i väldigt nära relation med behovsägarna just i valideringen av GPT-SWE, alltså den stora svenska generativa språkmodellen som AI Sweden har tagit fram tillsammans med RISE och WASP. Då har vi ett projektkonsortium som består av behovsägare från det offentliga, Region Halland, Tillväxtverket, Sahlgrenska universitetssjukhuset, privat sektor med Länsförsäkringar, två startups, [?? 00:26:19], och alla testar modellen i sina egna tillämpningar. Ni båda två var inne på det här med hallucinering. Jag skulle säga att det är exakt det de här modellerna har tränat. Alltså, själva grundmodellerna. Det är exakt deras funktion. Det är det de ska göra. De ska gissa nästa ord. Sedan blir det viktigt att i själva tillämpningen kunna vara säkert att de gör vad de ska göra i tillämpningen. Där är det så himla viktigt, som Erik var inne på, att göra det tillsammans med behovsägarna. En annan tanke som jag hade när Erik pratade om att svenska aktörer måste äga den här AI-frågan, jag håller helt med. Det har blivit ännu tydligare nu med släppet av ChatGPT, när det har blivit så himla enkelt tillgängligt. Här tänker vi att det är verkligen viktigt att jobba tillsammans med domänexperterna, med de som ska använda modellerna. De ska vara med i utvecklingen av modellerna också och där har vi nu en vision att tillsammans med offentlig sektor ta fram en gemensam svensk språkmodell som kan utnyttjas av medarbetare inom offentlig sektor.

Liselott Bergman [00:27:34]: Vi har frågat aktörer i innovationssystemet om funderingar som de har kring AI och då är en vanlig fråga vilka typer av färdigheter och kompetenser som kommer att efterfrågas i framtidens AI-samhälle och hur man kan förbereda sig. Yashar, har du några tankar där?

Yashar Moradbakhti [00:27:52]: Det som sägs i reportaget som vi började titta på för fem år sedan när vi byggde vår AI-författare är att många kommer behöva byta yrken. Två tredjedelar av jobben kommer påverkas på något sätt. Det behöver inte vara dåligt, det kan betyda att man blir mycket mer effektiv och så, men det kommer komma nya typer av skills i ens yrke som man behöver lära sig och vad de är är inte riktigt tydligt. Jag tror man behöver inte bara ha tekniska plattformar som oss utan ett helt samhällssystem som är snabbare på att få folk in i nya skills, nya kompetenser för att vi ska göra den här omställningen snabbt. Det är så många som påverkas och jag tycker det är en stor samhällsfråga och det kommer vi känna av mycket, mycket mer än vi tror. Om folk känner sig osäkra om sin framtid och inte riktigt vet hur de ska ta steg till nästa jobb eller inom jobbet göra sin... "hur blir jag mer skilled för den här nya rollen?" Om det inte finns en tydlig resa så kommer det påverka folks vardag ganska mycket och skapa någon typ av instabilitet. Vi började tänka på det för fem år sedan, alltså hur kan vi stötta den här samhällsomvandlingen, och nu är det dags att myndigheter, politiker också börjar tänka på det och till och med börjar tänka på saker som medborgarlön på riktigt också. Det här är stora, viktiga samhällsfrågor som man bör på riktigt diskutera och göra något åt.

Liselott Bergman [00:29:26]: Francisca, har du några konkreta tankar på vilka kompetenser och färdigheter som kommer efterfrågar?

Francisca Hoyer [00:29:32]: Något som jag hört ofta nu, det är kritiska tänkandet. Kreativ problemlösning. Det återkopplar till det som vi pratade om innan, att hitta rätt lösning till rätt problem. Där krävs det att vi är kreativa problemlösare. Domän[?? 00:29:51] blir alltför viktiga. Alltså, att man även som domänexpert förstår hur AI-teknologi fungerar så att man använder det på rätt sätt. Var nyfiken och experimentera. Jag är kanske lite biased här, men jag skulle även rekommendera att alla som jobbar med AI och data ska läsa böcker om historia. Inte för att läsa sig om det förflutna nödvändigtvis utan för att förstå och öka kunskap kring vad data egentligen är, hur data produceras, hur data hänger ihop med sociala relationer, maktförhållanden, strukturer och så vidare så att vi inte bara tillämpar AI-system på rätt sätt utan att vi också bygger våra system medvetet på rätt data.

Liselott Bergman [00:30:46]: Jag tänker att du som är historiker Francisca, hur påverkar den här AI-utvecklingen den mänskliga utvecklingen i stort? Finns det något skifte i mänsklighetens historia som går att jämföra med det här AI-skiftet?

Francisca Hoyer [00:30:59]: Ja, som historiker drar jag mig lite för att uttala mig lite om framtida scenarier så den frågan lämnar jag till mina framtida kollegor. Som historiker kan jag däremot ändå idag säga att AI-utvecklingen som vi ser är en förlängning av andra processer som har pågått redan ganska länge. Ett väldigt konkret exempel är datafiering som AI verkligen bygger på och datafiering, det går tillbaka till statsbildningsprocesser, behovet av staten att samla in data om sina medborgare, och som sedan har tagits över av kommersiella aktörer sedan 1990-talet, 2000-talet för att kunna kartlägga behov, styra behov och så vidare, styra mänskligt beteende. Om vi tittar historiskt, vad har vi sett liknande? Det är ju en utveckling med enorm potential. Samtidigt en potential som alltid har risk att fördelas på ett ojämnt sätt. AI påverkar inte hela mänskligheten på samma sätt i samma grad och med det perspektivet kan vi kanske jämföra AI med den industriella revolutionen som också har frisatt enorm potential för väldigt, väldigt många, men som samtidigt var ojämnt fördelad, som skedde i olika steg för olika befolkningsgrupper och inte heller för alla på samma villkor. Det tänker jag är någonting som vi ska ta med oss också för du pratade om vilket ansvar har samhället, hur vill vi bygga vårt samhälle. Sedan är det alltid bra att inte bara tänka i termer av skiften utan att också kanske titta på andra moment som kan vara transformativa i mänsklighetens historia. En sak jag tänker på är till exempel moment där vi är tvungna som människor att reflektera över vad det betyder att vara människa. Det är ju ett grundfenomen som går igenom hela historien, att vi hela tiden är tvungna att... hur avgränsar vi oss? Vad betyder det att vara människa? Den frågan aktualiseras nu på ett extremt spännande sätt. Hur drar vi gränsen mellan människor och maskiner? Som historiker är det väldigt spännande att observera det här och jag är lite svartsjuk på mina framtida kollegor som får verkligen dyka in i den här frågan.

Liselott Bergman [00:33:29]: Ulf, vad får du för tankar när du lyssnar till Francisca?

Ulf Danielsson [00:33:33]: Jo, jag håller verkligen med mycket för det finns i någon mening lite grann av en paradox i det här. Alltså, givet att det kommer bli alltmer maskininlärning, AI, i samhället framöver och just det här behovet av verifiering innebär att man alltså måste utveckla kunskap och färdigheter som går helt ortogonalt emot vad just AI kan leverera. Man måste alltså utveckla ett analytiskt tänkande som till sin art är oberoende av AI för att om man nu ska kunna gå in och utvärdera resultaten och vad som åstadkommits, då måste man ha en kunskapsbas som är oberoende av själva AI, det vill säga man måste tillägna sig en egen förmåga att ifrågasätta och analytiskt granska de här systemen. Det innebär alltså att kunskap av i någon mening mer gammaldags kunskap kommer bli mer viktig om man verkligen ska kunna göra den här oberoende granskningen av systemen. Sedan förstås i allt det här, och det ingår också i det här, så måste man kunna ha en förmåga att bedöma systemen utifrån någon slags skala av meningsfullhet.

Liselott Bergman [00:35:03]: Vad skulle ni säga att det krävs för politiska och samhälleliga åtgärder för att stödja utvecklingen i rätt riktning här?

Francisca Hoyer [00:35:12]: Alltså, politiskt engagemang och samhällsdebatt behövs verkligen, och samhällsdebatt kring vilket samhälle vill vi bygga. Sedan finns det ju många pågående diskussioner just nu kring reglering av AI, både inom EU och också globalt. Här är det väldigt viktigt att veta vad det är man vill egentligen reglera. En viktig sak som behöver komma på plats är en internationell samverkan kring hur vi kan skapa insyn i de här jättestora modellerna för det är en grundförutsättning för att använda dem och tillämpa dem på ett korrekt sätt. Vi kanske behöver också ha lagar och regler inom flera olika sektorer, alltså att vi identifierar luckor i befintlig lagstiftning. Vi har lagstiftning som skyddar till exempel våra rättigheter och där ska det inte spela roll om jag som medborgare blir diskriminerad baserat på en analys som har genomförts i en Excelfil eller baserat på ett system som bygger på AI. Det får inte spela roll, så här är det viktigt att identifiera luckor. Och slutligen är det alltid viktigt att inte bara reglera en teknologi utan att tänka på vilket utfall vi vill ha, alltså vilket samhälle vill vi ha och leva i.

Liselott Bergman [00:36:39]: Har du några tankar Yashar om vilka samhälleliga åtgärder som behövs?

Yashar Moradbakhti [00:36:45]: Man hör ju bara i det här rummet att människor är mycket klokare nuförtiden än vad de var för en massa år sedan. Jag tror det är väldigt bra att ha den här diskussionen kring regleringar och risker tidigt. Det är ju en teknologi som har enorm potential att göra livet enklare och bättre, men däremot så kan den ju precis som all annan teknologi gå åt andra hållet. Inte så katastrofal som många tror, människan är inte så... överlag är mänskligheten ganska klok. Idag har vi regleringar för att kärnvapen inte ska skjutas tvärs hit och dit och det har vi hållit i schack fast det är ett av de största hoten just nu. Klimatet är ett jättestort problem och det kommer förr eller senare regleras ännu hårdare för att människor på riktigt känner av problemet. Jag känner att här är man ute och pratar om vad är riskerna, hur ska vi reglera, EU tar action på det och det är väldigt positivt. Sedan tror jag att man ska hitta en balans som med allt annat. Det är ju också teknik, om man pratar om EU, som är bra att man ligger i framkant så man inte hamnar efter USA och Kina eller andra aktörer som kan bygga teknik som kan vara väldigt kraftfull, så att man inte reglerar bort sig själv ur det. Inte från ett affärsmässigt perspektiv utan från ett statligt perspektiv mer. Eftersom det är så kraftfull teknik så vill man nog ändå ha access till den. Så var lite försiktig med hur man reglerar sig själv från ett geopolitiskt perspektiv, tror jag.

Liselott Bergman [00:38:22]: Ulf, håller du med om att människan är intelligent här?

Ulf Danielsson [00:38:26]: Ja, jag tror faktiskt på sikt att det är så. Jag tror heller inte att några av de här riktiga dystopierna kommer bli sanna. Jag tror faktiskt inte det. Jag tror ändå att vad som är viktigt nu rent politiskt, det är att man inte betraktar det här som en fråga om Sveriges konkurrenskraft eller att hänga med i teknikutvecklingen och "nu gäller det att tjäna så mycket pengar som möjligt", utan att man dessutom också kan göra det till en politisk fråga vad man vill använda systemen till. Alltså, det handlar om politiska ideologier. Det handlar om vilken typ av samhälle som man faktiskt vill ha. Sedan när det gäller kontrollen av de här system som vi var inne på så tror jag att det är viktigt att man inte frånkänner sig just det här mänskliga ansvaret, det vill säga i normala fall om ett företag, en myndighet begår ett fel så handlar det om individ, det handlar om de som har makten i organisationerna då som har ett ansvar för det här. Samma sak måste också gälla när man använder sig av de här AI-systemen. Det är tekniska system och använder man ett sådant system och man har inte kontroll på vad som kommer ut från det, då har man ett ansvar för det. Jag tror att Francesca också var inne på det där när det gäller diskriminering och så vidare, att man kan inte hänvisa till att det var bara det här systemet som gjorde det. Använder man sig av ett system, då är man också ansvarig för vad det här systemet då genererar.

Liselott Bergman [00:40:09]: Och på tal om ansvar, ni pratar alla om att det behövs en samhällsdebatt. Vem har ansvar för att få till den?

Yashar Moradbakhti [00:40:15]: Vi alla, tycker jag.

Francisca Hoyer [00:40:16]: Det skulle jag också säga.

Yashar Moradbakhti [00:40:18]: Jag tycker det är en viktig fråga, precis som miljön. Miljöförstöring bör man också ta på allvar eller geopolitiken i Europa där vi har krig som blossat upp rejält och som kanske inte kommer försvinna på flera år. Alla har vi ett samhällsansvar.

Liselott Bergman [00:40:33]: Hur skulle ni säga att Sverige ligger till i ett internationell perspektiv vad gäller utvecklingen av AI-produkter och tjänster? Har vi någon USP här?

Francisca Hoyer [00:40:42]: Just inom språkteknologi är det väldigt roligt att Sverige har tagit fram en av Europas absolut största generativa språkmodeller tack vare samarbete och bland annat Vinnovas satsning. När vi tittar på basteknologin inom språk ligger vi bra till, men det finns också mycket kvar att göra. Sedan när det kommer till en USP så rör vi oss mycket i internationella sammanhang och där finns det ett stort intresse för hur vi inkluderar behovsägare i vårt arbete i Sverige och i konkreta, tillämpade forsknings- och innovationsprojekt. Alltså, det är vår samarbetsförmåga i Sverige som skiljer oss kanske och som kommer hjälpa oss att hänga med.

Liselott Bergman [00:41:24]: Spännande. Yashar, vad tänker du?

Yashar Moradbakhti [00:41:28]: Jag tänker också på strukturen framför allt som vi har i Sverige där jag tror vi nog ligger tvåa rent [Unicorn? 00:41:35]-mässigt och ligger strax efter Silicon Valley. Det är ett tecken på att Sverige är bra på att bygga ny digital teknik och vi exporterar det och det går väl tillbaka till, om vi tittar tillbaka i historien, att vi har haft många duktiga industriföretag sedan många 100 år tillbaka och att det här med att exportera till resten av världen varit en del av den svenska affärskulturen. Så det har gått vidare i arv. Någons föräldrar har jobbat på ABB och varit i Japan och sålt saker, när man startar företag så tänker man "det är något digitalt, men jag ska också exportera", [har pratat om? 00:42:17] Japan eller USA, så jag tror att den kulturen är väldigt viktig och det kanske inte våra grannar har på samma sätt. Så att använda den kulturen till gott och sprida bra tekniker framåt och bra lösningar är ju så klart en positiv sak som svenskar kan bidra med.

Liselott Bergman [00:42:37]: Som vi har konstaterat flera gånger under den här stunden så går ju AI-utveckling just nu väldigt fort så hur hänger jag med? Har ni något konkret tips till mig och andra som lyssnar?

Francisca Hoyer [00:42:51]: Vi var inne på kunskap innan. AI är någonting som rör oss alla, som individer, som medarbetare, som deltagare i ett samhälle så jag skulle säga att experimentera, testa, bygg förståelse och kunskap. Var inte rädd utan nyfiken.

Yashar Moradbakhti [00:43:15]: Jag håller med 100%. Vi har som sagt jobbat med det här i fem år 24/7, kopplat till språkteknologier och de här large language models. Jag tror jag personligen lägger en till två timmar om dagen och gör research och testar olika andra produkter, läser på artiklar. Jag känner ändå att jag hänger inte med riktigt, men jag tror att man ändå ska ge sig hän att testa saker och ting för att förstå. Det är inte så överdrivet så komplicerat. Det är bara det att saker och ting blir lite mer effektivare. Istället för att Googla tio gånger och sammanfatta en text så är det vad ChatGPT gör åt dig i.. du sparar lite tid, kanske timmar, så att jag tror att inte göra en så stor grej av det heller. Det kommer bli mer produktivt, absolut. Finns det utmaningar? Absolut. Ska vi prata om det nu? Absolut. Men läs på lite bara och var inte så rädd för de tekniska termerna. Det är bara jargong. Det finns inget läskigt bakom de tekniska orden.

Liselott Bergman [00:44:16]: Ulf, hur tänker du? Hur hänger man med?

Ulf Danielsson [00:44:20]: Ja, jag tror väl att jag håller med om att man naturligtvis ska försöka av ren nyfikenhet försöka lära sig så mycket om de här systemen som möjligt. Det gäller all teknik. Man måste förstå vad som händer i världen omkring en. Samtidigt så tror jag nog att man kanske också kan tjäna på att låtsas lite grann som om de här systemen inte fanns. Man måste fortfarande fortsätta lära sig saker och stoppa in i sin biologiska, organiska hjärna och på så sitt bli bättre på att bedöma vad de här systemen gör för någonting och jag tror att man kanske inte ska använda ChatGPT för att sammanfatta alltför mycket av saker och ting som man är intresserad av för många gånger blir det faktiskt riktigt, riktigt dåligt och dessutom är det också så att man behöver träna sin hjärna på att göra sådana här saker för att sedan också kunna bedöma om de resultat som kommer ut från de här systemen verkligen är bra. Jag tror att intellektuell styrketräning helt enkelt utan de här hjälpmedlen lite grann dagligen, det tror jag är det bästa sättet att överleva i den här världen framöver.

Yashar Moradbakhti [00:45:39]: Jag håller med så använd Lingio istället som verifierar att utfallet blir korrekt, för det blir det. Tack för den.

Francisca Hoyer [00:45:47]: Om jag får lägga till en sak? Det här med intellektuellt lärande och... jag tror att oron att vi... så klart kommer vi alltid bygga nya förmågor och så, men just mänskliga viljan att till exempel skapa, att berätta är så djupt mänskligt. Trots att det kommer finnas verktyg som är extremt kraftfulla för att sammanfatta och så vidare så tror jag inte att vi kommer förlora vår drift i att vilja berätta till exempel och att skapa fast vi gör det kanske med nya verktyg.

Liselott Bergman [00:46:22]: Är det någonting som vi inte har pratat om som ni vill ta upp eller någonting som ni vill trycka lite extra på? Francisca?

Francisca Hoyer [00:46:30]: Det är ett så stort område. Jag tror just vi skulle kunna lätt fortsätta prata flera timmar om det här. En sak som jag gärna vill trycka på, det är att Sverige som land verkligen behöver agera nu både för att maximera nyttan för samhället med den här nya typen av teknologi, men också för att öka vår förståelse för hur samhället kommer förändas som en konsekvens av de här nya verktygen, som nya affärsmodeller, produktivitetsökning och så vidare. Här är det verkligen, som vi var inne på innan, att vi behöver en samhällsdebatt, vi måste ställa krav på våra politiker att vi gemensamt diskuterar och definierar vilket samhälle vi vill ha.

Yashar Moradbakhti [00:47:16]: Jag håller med och ville verkligen inte stoppa in AI i ett silo. Jag nämnde tidigare det här med klimatet som också är en stor utmaning, vi har konflikter runtom i världen, vi har barn som växer upp i svält som vi fortfarande inte gör någonting åt. Om alla var aktiva och ställde krav så tror jag mycket fler saker skulle hända till det positiva för mänskligheten. Vi har på något sätt, tillbaka till det Ulf säger, blivit passiviserade av vissa informationskanaler och inte riktigt tagit tag i de riktiga frågorna fast de inte är så jobbiga att ta tag i. Ta som Greta; en gång varje fredag gå och demonstrera och bli en av världens mest kända människor och driva en viktig fråga. Det är inte svårare än så. Om vi alla gör lite grann så kommer vi kunna påverka samhället till någonting mycket bättre. Idag behöver vi nog det mycket mer än tidigare för allt går så mycket snabbare och det som går snabbare har enormt mycket mer effekt. Så vi är i någon typ av inflection point, som vi pratar om i matematiken, där folk måste engagera sig mer i de här viktiga mänskliga frågorna.

Liselott Bergman [00:48:24]: Ulf, vi har hört dig. "Ta fram boken, ta fram pennan och pappret, glöm inte dem", men vad har du för sista medskick? Vad vill du trycka extra på här?

Ulf Danielsson [00:48:36]: Nej, men jag tror nog att det är ungefär det där, att ta ett steg tillbaka och fråga sig vad det är vi egentligen vill med alltihop det här? Vad är det för samhälle vi vill skapa? Ha det som utgångspunkt och inte se den här tekniken som något slags nödvändigt ont utan en möjlighet att göra det vi faktiskt vill. Vi var inne lite grann på det tidigare att det kan finnas någonting unikt också i Sverige givet den långa traditionen av ett hyfsat jämlikt samhälle och socialt välfärdssamhälle, att det skulle kunna finnas en möjlighet att faktiskt just här kunna utveckla en ny teknik som just har fokus på det mänskliga helt enkelt. Det är inte de här stora techföretagen som ska bestämma vad vi ska göra för någonting utan det ska vara våra behov, hur vi definierar oss som människor, som ska vara det viktiga.

Liselott Bergman [00:49:32]: Allt har ett slut och så också det här superspänstiga samtalet. Det har blivit tid att runda av. Stort tack som kom Francisca Hoyer, Yashar Moradbakhti och Ulf Danielsson.

Ulf Danielsson [00:49:43]: Tack så mycket.

Francisca Hoyer [00:49:44]: Tack så mycket.

Yashar Moradbakhti [00:49:44]: Tack.

Liselott Bergman [00:49:46]: Innovation idag har handlat om hur AI kan hjälpa oss att lösa de stora utmaningar vi står inför. Hör gärna av er till oss med era reflektioner till podcast@vinnova.se. Jag heter Liselott Bergman och dagens Innovation spelades in på Swartling Studios och producerades av Familjen för Vinnova, Sveriges innovationsmyndighet. Stort tack för att du har lyssnat.