Forskningsprojekt 2021 AI4Research

Namn: Darek M. Haftor och Sandra Bergman

Projekttitel: Utnyttja fördelarna med interaktioner mellan människan och AI i ostrukturerat beslutsfattande: sökande efter faktorer som bestämmer prestationerna

Institution: Institutionen för informatik och media

Forskningsområde: Informationssystem

Projektsammanfattning

I detta forskningsförslag fokuserar vi på prestationsfördelar från användning av artificiell intelligens (AI). Vårt fokus handlar om att identifiera faktorer som bestämmer beslutsfattandeprestationer när människor och AI arbetar tillsammans i ostrukturerade beslutssituationer. Dokumentet inleds med en introduktion till ämnet och den valda forskningsinriktningen, följt av en detaljerad beskrivning av målen för AI4-sabbatsarbetet.

Forskningsprojektets fokus

Även om företag och statliga organisationer ökar sina investeringar i olika typer av AI-system, saknas det kunskap om hur man ser till att användningen av AI-tillämpningar är fördelaktig. Det avsedda resultatet av denna föreslagna forskning förväntas ge vägledning i användningen av AI i komplexa ostrukturerade beslutsfattandesituationer.

AI har börjat användas på områden som logistik, industriverksamhet och tjänsteområden såsom bank, finans och försäkring. Intill nyligen har användningen av AI främst avsett strukturerade situationer. I sådana situationer är arbetsprocesser och beslutsfattande repetitiva och lätta att förstå, med exempel som robotteknik inom biltillverkningen och automatisering av försäkringsanspråk och låneansökningar. Sådant rutinmässigt beslutsfattande kännetecknas av entydiga resultat, insatser och regler för beslutsfattandeprocessen. Dessa kännetecken gör det möjligt att automatisera de strukturerade arbetsprocesserna och de tillhörande besluten och därmed ersätta människors beslutsfattande med beslut som fattas av maskiner.

Förutom denna etablerade men ändå begränsade användning av AI i strukturerade situationer, har försök gjorts nyligen på att låta AI stödja eller förstärka människors beslutsfattande i ostrukturerade situationer. Exempel från verkliga livet omfattar Unilevers rekryteringsprocess, Netflix beslut om handlingen i filmer och om regissörer och skådespelare och Pfizers aktiviteter kring upptäckt och utveckling av läkemedel. Ostrukturerat beslutsfattande kännetecknas av tvetydiga och/eller föränderliga mål och beslutskriterier, där det krävs att en människa fattar ett beslut som avslutar beslutsfattandeprocessen.

Det finns tre inflytelserika böcker om användningen av AI i beslutsfattande som kan ge normativ vägledning kring hur AI kan förbättra de organisatoriska prestationerna: Brynjolfsson och McAfee (2014), Daugherty och Wilson (2018) samt Davenport och Kirby (2016). I dessa böcker antyder man att användningen av AI i förstärkt ostrukturerat beslutsfattande är en större fördel för organisationer än enbart automatisering av strukturerade processer. Följaktligen kommer Microsoft ”att etablera intelligens som förstärker människans förmåga och erfarenheter. I slutändan kommer det inte att handla om människan kontra maskinen”. På samma sätt hävdar Deutsche Telekom i inledningen till sina AI-riktlinjer att ”syftet med AI är att utvidga och komplettera människans förmåga snarare än att reducera eller begränsa dem”, medan IBM bekräftar att ”syftet med AI och kognitiva system som utvecklas och tillämpas av IBM är att förstärka människans intelligens”.

Hur välmenta dessa avsikter än är så är extrapoleringar som bygger på isolerade laboratoriestudier inte tillräckligt tillfredsställande eller rigorösa. Det finns för närvarande inget avgörande bevis från verkliga livet som visar att AI-förstärkta beslutsfattandeprocesser får bättre resultat än ostrukturerade beslut som fattas enbart av människor. Vi vet för lite om de tillfälliga faktorer som bestämmer hur framgångsrika AI-förstärkta beslut blir. De viktigaste målen för den avsedda empiriska forskningen är därför (a) att tillhandahålla rigorösa empiriska bevis för att AI-förstärkt beslutsfattande i ostrukturerade situationer överträffar människors beslutsfattande och (b) att identifiera de faktorer som bestämmer hur väl AI-förstärkt beslutsfattande lyckas. Om vi uppnår dessa mål kommer vi att utöka den för närvarande begränsade kunskapsbasen på det här området och kommer att tillhandahålla viktig normativ vägledning för organisationer kring användningen av AI-tillämpningar.

Den forskningsriktning som anges här bygger på vårt senaste projekt som tilldelades utmärkelsen ”2019 Best Paper” från Strategic Management Society för sin identifiering av kontraintuitiva prestationer i AI-förstärkt beslutsfattande i ostrukturerade situationer. Studien, där PostNord var en av sponsorerna, bygger på ett kvasinaturligt experiment, där en grupp säljare på ett företag presterade avsevärt mycket bättre i sitt säljbeslutsfattande när de fick hjälp av ett AI-stödsystem utformat för att tillhandahålla flera kompletterande faktorer. Detta åstadkoms genom att matcha beslutsfattarens kognitiva stil med två faktorer: sättet att presentera informationen på som tillhandahålls av AI-systemet och sättet att utföra arbetet på, där den aktuella personen utför arbetsuppgifter, använder AI-systemet och fattar beslut. Allt detta jämfördes med tre kontrollgrupper. Två grupper använde samma AI-system utan att använda de kompletterande faktorerna, medan den andra gruppen använde ett äldre beslutsfattandesystem utan AI. Resultaten visar att gruppen som använde kompletterande faktorer klarade sig bäst. Förvånansvärt nog visar resultatet också att gruppen utan AI-system presterade bättre än de två grupperna med AI-system som inte matchas med kompletterande faktorer.

På det hela taget visar studien att AI-förstärkt beslutsfattande betingas av ett antal faktorer som måste komplettera varandra för att generera önskat resultat. Denna slutsats visar alltså att en organisation – företag, sjukvårdsinstans eller statlig myndighet – som investerar i en felaktigt konfigurerad användning av ett AI-system faktiskt klarar sig sämre än om de inte gjorde en sådan investering och arbetade som vanligt. Trots att studien bryter ny mark har den vissa begränsningar, eftersom den bortser från två välbestyrkta faktorer som bestämmer hur väl en person kan fatta beslut (dvs. beslutsfattarens motivation och beslutskompetens). Under min AI4Research-sabbatsperiod kommer jag att förbereda en empirisk studie som ska överbrygga den klyftan.

Syfte och mål med min AI4Research-sabbatsperiod

Mot bakgrund av ovanstående är det övergripande syftet med min AI4Research-sabbatsperiod att förbereda ovan nämnda forskning. Syftet ska uppnås genom att förverkliga följande mål för sabbatsperioden:

1. Att visa den här antagna forskningsriktningen för mina AI4Research-kollegor
2. Att etablera ett forskarnätverk inom AI4-kontexten
3. Att etablera ett forskningsteam för ett gemensamt forskningsförslag
4. Att etablera samarbete med ett eller flera industriföretag som vill delta i en empirisk studie
5. Att utveckla ett komplett projektförslag för en empirisk studie som handlar om att undersöka användningen av AI-förstärkt beslutsfattande i ostrukturerade situationer
6. Att lämna in forskningsförslaget till ett eller flera finansieringsorgan
7. Att ta fram detaljerade mätinstrument för insamling av data under utförande av den empiriska studien

Den här antagna forskningsinriktningen innehåller teoretiska komponenter från olika vetenskapsgrenar, såsom psykologi, socialpsykologi, sociologi, informationssystem och AI samt kostnads- och intäktsanalys. Uppsala universitets AI4Research-initiativ med kollegor från olika vetenskapsgrenar fungerar därför som en viktig intellektuell miljö för etableringen av ett framgångsrikt forskningsprojekt, såsom det föreslås här. AI4Research-kollegorna kan komplettera det nuvarande initiativet (i) med ytterligare teoretiska komponenter som är relevanta för denna forskningsriktning, (ii) med information om hur olika teoretiska faktorer kopplas samman till ett sammanhängande ramverk, och sedan (iii) hur man praktiskt använder dessa teoretiska komponenter i en empirisk studie. Fördelen med AI4Research-initiativet gäller också åt andra hållet, eftersom detta forskningsförslag kommer att informera forskningskollegorna om den senaste tekniken inom AI-forskningen som fokuserar på att utforska driftmekanismer som genererar värde från användningen av AI-system.

Förutom mig själv omfattar denna ansökan även Sandra Bergman, en forskarstuderande från Institutionen för informatik och media. Hennes forskning samfinansieras av institutionen och Swedish National Research School on Management and Information Technology. Hon intresserar sig främst för utförande av beslutsfattandeprocesser i virtuella team, där minst en beslutsaktör är en AI-applikation, till exempel Googles nuvarande användning av AI-systemet Deep Mind som hjälper vetenskapsmän världen över att samarbeta för att förstå det förödande coronaviruset.

Namn: Anders Isaksson

Projekttitel: Utveckling av AI-verktyg för förbättrad analys av vävnadssektionsbilder av cancer i tvärvetenskapliga miljöer

Institution: Institutionen för medicinska vetenskaper

Forskningsområde: Molekylär onkologi

Projektsammanfattning

I ett pilotprojekt finansierat av Cancerfonden diskuterade vi frågan om varför vissa endometriecancersvulster verkar kringgå immunsystemets antitumorala aktiviteter. Vi testar ett antal specifika hypoteser genom att leta efter samband mellan de molekylära/rumsliga mönstren i vävnadssektionerna och resultatet för patienthälsan. För att nå detta mål skapar och applicerar vi djupinlärningsalgoritmer för att identifiera olika rumsliga cellmönster i vävnadssektioner färgade med hematoxylin-eosin. Till exempel identifierar vi mönstret för tumörinfiltrerande lymfocyter (TIL).

Med hjälp av unika tillgängliga dataset samt resultatet från vår automatiserade bildanalys och TIL-identifiering, ser vi mönster som kan tillämpas på prognosen. Vi söker också efter nya molekylära mekanismer som ligger bakom dessa mönster. Sammanfattningsvis syftar detta program till att förbättra förutsägelserna med säkrare och mer informativa prognoser för patienter och kliniker.

Vad ser du fram emot mest under ditt sabbatsår?

Jag ser fram emot att diskutera de vanliga utmaningar vi står inför i utvecklingen och användningen av AI-metoder på nya tillämpningar.

Namn: Åsa Johansson

Projekttitel: AI-verktyg som förutsäger risken för vanliga sjukdomar med hjälp av genetiska data

Institution: Institutionen för immunologi, genetik och patologi

Forskningsområde: Humangenomik och molekylär epidemiologi

Projektsammanfattning

I det här projektet ska vi använda AI-verktyg med genetiska data för att skapa prognosmodeller för sjukdomsrisker. Under de senaste 15 åren har vi utfört GWAS-studier (genome-wide association studies) och har identifierat tusentals genetiska varianter som kan kopplas till vanliga sjukdomar och besvär, såsom fetma, hjärtattacker, allergier och astma. De flesta vanliga sjukdomar är komplexa, vilket innebär att många (hundratals eller tusentals) genetiska varianter påverkar sjukdomsrisken tillsammans med annan exponering, såsom livsstil och miljöfaktorer. De metoder som används idag kan inte noggrant förutsäga individer med hög risk för sjukdomar, främst på grund av det enormt stora antalet genetiska varianter i människans arvsmassa, det stora antalet som påverkar varje sjukdom, den låga effekten för varje sådan variant och möjliga interaktioner mellan de genetiska varianterna. Vår hypotes är att vi genom att använda AI kan förbättra förmågan att identifiera individer som har en hög genetisk risk för att utveckla en vanlig sjukdom.

Vad ser du fram emot mest under ditt sabbatsår?

Humangenomik är det snabbast växande området när det gäller dataproduktion och det fungerar mycket bra att använda AI-verktyg här. Erfarenheten av att använda AI i vår forskningsmiljö är dock begränsad. Jag förväntar att denna sabbatsperiod kan leda till att jag kan utbyta värdefulla erfarenheter och idéer med AI-forskare på andra områden, och jag hoppas också att vi kan etablera mer långvariga tvärvetenskapliga samarbeten.

Namn: Matteo Magnani

Projekttitel: Metoder för analys av fenomen som sprids i nätverk, med fokus på politiska idéer som sprids online med hjälp av visuellt innehåll

Institution: Institutionen för informationsteknologi

Forskningsområde: Computational social science (beräkningsbaserad samhällsvetenskap), datavetenskap, nätverksanalys

Projektsammanfattning

Att använda bilder är ett kraftfullt sätt att dela information. Sannolikheten för att informationen sprids ökar när man använder bilder och det gör även användarens engagemang. Bilder är särskilt effektiva när man vill sprida politiska budskap (till exempel budskap för eller mot åtgärder som motverkar klimatförändringarna), vilket bidrar till att definiera den offentliga dagordningen. De metoder som används idag för att studera politisk kommunikation genom visuellt innehåll förlitar sig på att domänexperter manuellt granskar utvalda bilder, ofta i tryckta nyhetsmedier. Men denna metod kan inte användas för vår komplexa samtida kommunikationsekologi som består av flera sammankopplade sociala och traditionella medier. I det här projektet kommer vi att besvara följande forskningsfrågor: Hur kan vi använda AI-metoder som härrör från nätverksanalys för att utvidga vår förmåga att djupgående kartlägga och tolka visuella berättelser på nätet, i stor skala och över flera sociala nätverk? Vilka visuella berättelser om klimatförändringar finns och hur kan de karaktäriseras med hänsyn till synlighet, engagemang, polarisering och tidsmässig utveckling?

Vad ser du fram emot mest under ditt sabbatsår?

Att ha tid att etablera det här projektet som har utvecklats i samarbete med Alexandra Segerberg (också en AI4Research-forskare), identifiera nya områden där mina forskningsresultat kan tillämpas, identifiera nya problem som ska lösas och även etablera ett bredare initiativ mellan institutionerna kring användningen av AI-metoder inom samhällsvetenskapen.

Namn: Carl Nettelblad

Projekttitel: Mångfasetterad djupinlärning för genomik och multiomik

Institution: Institutionen för informationsteknologi

Forskningsområde: Beräkningsvetenskap

Projektsammanfattning

Neurala nätverk har visat sig vara oerhört framgångsrika på att analysera bilder, video och textdata. Men än så länge har framgångarna varit mer begränsade för genomiska data. Tillsammans med min forskarstuderande har jag skapat nya anpassade nätverk för genomiska data. Hittills har vi applicerat dessa på frågor kring populationsgenetik, och har därmed visat hur de kan lära sig att identifiera individers geografiska ursprung med större noggrannhet än den gängse metoden med principalkomponentanalys (PCA). Det som dock är mest spännande med dessa nätverk är att de är allmänna.

Inom traditionell bioinformatik kräver varje datatyp och varje problemformulering helt unika algoritmer, men exemplen från bildanalysen visar hur transfer learning kan användas för att anpassa ett nätverk till ett nytt problem. Under året kommer vi att undersöka hur grundläggande nätverksdesign kan anpassas för att besvara olika genomiska frågor och även inkludera proteomiska och transkriptomiska data.

Vad ser du fram emot mest under ditt sabbatsår?

Jag ser fram emot de nya forskningsidéer och förnyade förhållningssätt till befintliga idéer som kommer att möjliggöras i en verkligt tvärvetenskaplig miljö.

Namn: Alexandra Segerberg

Projekttitel: Metoder för analys av fenomen som sprids i nätverk, med fokus på politiska idéer som sprids online med hjälp av visuellt innehåll

Institution: Statsvetenskapliga institutionen

Forskningsområde: Digitala medier och politik

Projektsammanfattning

Att använda bilder är ett kraftfullt sätt att dela information. Sannolikheten för att informationen sprids ökar när man använder bilder och det gör även användarens engagemang. Bilder är särskilt effektiva när man vill sprida politiska budskap (till exempel budskap för eller mot åtgärder som motverkar klimatförändringarna), vilket bidrar till att definiera den offentliga dagordningen. De metoder som används idag för att studera politisk kommunikation genom visuellt innehåll förlitar sig på att domänexperter manuellt granskar utvalda bilder, ofta i tryckta nyhetsmedier. Men denna metod kan inte användas för vår komplexa samtida kommunikationsekologi som består av flera sammankopplade sociala och traditionella medier. I det här projektet kommer vi att besvara följande forskningsfrågor: Hur kan vi använda AI-metoder som härrör från nätverksanalys för att utvidga vår förmåga att djupgående kartlägga och tolka visuella berättelser på nätet, i stor skala och över flera sociala nätverk? Vilka visuella berättelser om klimatförändringar finns och hur kan de karaktäriseras med hänsyn till synlighet, engagemang, polarisering och tidsmässig utveckling?

Vad ser du fram emot mest under ditt sabbatsår?

Jag ser fram emot två saker. För det första möjligheten att utveckla det här projektet tillsammans med Matteo Magnani (som också är en AI4Research-forskare). Vi samarbetar mellan institutionerna, så möjligheten att få arbeta på samma plats under en längre tid kommer att vara helt ovärderlig för att etablera en gemensam grund som vi kan arbeta vidare utifrån. För det andra kontakten med andra projekt på och utanför forskningsnavet. Ett bakomliggande syfte med samarbetet är att inte bara skapa möjligheter, utan även att se vilka utmaningar som finns och vilka konsekvenser som uppstår när man implementerar AI och djupinlärningsmetoder inom samhällsvetenskapen. Möjligheten att kunna ha breda och informella diskussioner med personer som arbetar med andra projekt och på andra fackområden kommer att berika den här processen.

Namn: Erik Zackrisson

Projekttitel: Maskininlärning inom astronomin

Institution: Institutionen för fysik och astronomi

Forskningsområde: Astronomi

Projektsammanfattning

Natthimlen är som en tidsmaskin – ljuset från de mest avlägsna astronomiska ljuskällor har förflyttat sig i mer än 13 miljarder år för att nå oss. Genom att studera sådana objekt kan vi lära oss mer om bildandet av de första galaxerna, vid en tidpunkt när universum bara var några procent av sin nuvarande ålder. År 2021 kommer James Webb-teleskopet att öppna ett nytt fönster till denna epok i universums historia, men eftersom galaxer på extrema avstånd syns mycket svagt kommer dessa data oundvikligen att vara brusiga. Genom att använda maskininlärningstekniker hoppas vi kunna förbättra det vetenskapliga resultatet av dessa nya observationer av universum som det såg ut i början.

Det finns inte särskilt mycket data som stöder utforskningen av vårt mycket avlägsna universum, till skillnad från den del av universum som ligger i vår närhet. Tack vare stora undersökningar av himlen har vi tillgång till omfattande dataset för miljarder ljuskällor i vår egen kosmiska bakgård. Här kan maskininlärning hjälpa oss att finna onormala objekt, vilket potentiellt sett kan leda till upptäckten av tidigare okända astronomiska fenomen.

Vad ser du fram emot mest under ditt sabbatsår?

Att fokusera på utvecklingen av nya forskningsmetoder och hämta influenser från andra områden.

Namn: Fiona Skerman

Forskningsområde: Slumpgrafer, nätverksteori, sannolikhet

Institution: Matematiska institutionen

Projekttitel: Grundläggande begränsningar för lärande i en gemenskapsstruktur

Projektsammanfattning

En viktig utmaning inom AI och maskininlärning är att hitta gränser för vad man kan lära sig om en uppsättning uppgifter, ett dataset: vad kan härledas realistiskt ur brusiga data. Här presenterar vi data som ett nätverk och ställer frågan om huruvida vi kan påvisa skillnaden mellan två nätverk, varav det ena innehåller ”gemenskaper” som representerar strukturen i uppgifterna. Projektet handlar om att undersöka under vilka omständigheter en lärandemodell kan upptäcka gemenskaper i data som inte är perfekta.

Vad ser du fram emot mest under ditt sabbatsår?

Möjligheten att kunna ägna tid åt att fundera över det här projektet och samverka med mina besökare och andra som har en sabbatsperiod. Jag anser att det är viktigt att alltid prata med forskare som använder nätverksdata, så att vi kan ta del av deras forskning för att se till att vi studerar korrekta nätverksegenskaper och att vi överväger användbara modeller så att vi kan upptäcka fel i nätverksdata.

Namn: Ida-Maria Sintorn

Projekt-titel: Varför funkar det inte i verkligheten? – Överbryggande av klyftan mellan tillrättalagda koncepttester och användning av biomedicinsk bildbaserad djupinlärning i verkligheten

Institution: Institutionen för informationsteknologi

Forskningsämne: Datoriserad bildanalys

Projektsammanfattning

Djupinlärning har lyft möjligheterna med bildanalys till en helt ny nivå, speciellt för tillämpningar i datorseende/igenkänning som baseras på den enorma mängd bilder som finns tillgängliga på internet. Biomedicinska tillämpningar följer efter men omständigheterna är annorlunda med mycket färre tillgängliga exempelbilder, hög kostnad för felaktiga beslut, tillförlitlighet och ansvar för beslut osv. Fokus i det här projektet är att öka förståelsen för hur man på bästa sätt kan inkorporera domänexpertis i träningen av de djupa nätverken för att åtgärda några av de tillkortakommande som hindrar djupinlärningssystemens acceptans och användning i klinisk verksamhet. Målet med projektet är att utveckla interaktiva verifierings och förbättrings verktyg för att öka trovärdigheten för bildbaserad djupinlärning i biomedicinska och kliniska tillämpningar. Mer specifikt så syftar projektet till 1) att utforska strategier för att hitta och identifiera sällsynta och/eller oväntade saker som inte funnits med i träningsdata, 2) att utveckla metoder för att interaktivt inkorporera domänexpertis gällande vilka områden och/eller detaljer i en bild som nätverket ska fokusera på eller ignorera.

Vad ser du fram emot mest under ditt sabbatsår?

Att diskutera och utbyta erfarenheter om AI/ML med forskare från andra ämnesområdet.