Kina vil gerne være verdens største nation indenfor kunstig intelligens i 2030.
Det ambitiøse mål kræver mere forskning på området, og derfor bruger en af landets største fonde, National Natural Science Foundation of China (NSFC), nu kunstig intelligens (AI) til at finde de rette forskere til peer reviews og behandling af ansøgninger i bedømmelsespanelerne.
Det skal eliminere bias og gøre processen mindre tidskrævende, for fonden modtager over 200.000 ansøgninger årligt. I Danmark anvender vi ikke AI, men flere private og offentlige fonde ser spændende muligheder i projektet – selvom de er påpasselige.
– Det er rigtig spændende, og det er noget, vi vil følge tæt. Jeg kan sagtens se, hvorfor man tænker i det, hvis de har samme tidskrævende proces som os med at finde individuelle bedømmere til et panel. Men vi er ikke parate til at gøre noget lignende, siger bestyrelsesformand i Danmarks Frie Forskningsfond, David Dreyer Lassen.
Direktør for Innovationsfonden, Tore Duvold, finder det også ’meget fascinerende, hvad de gør i Kina’, og synes, at det er særligt relevant på grund af muligheden for at reducere bias. Men det er ikke kun de offentlige fonde, der vil følge fremskridtene.
Både Villum og Velux fondene finder metoden interessant – ligeledes Novo Nordisk Fonden, selvom det ligger langt fra nuværende arbejdsprocedurer.
– Vi kender til initiativet, som er meget spændende og indeholder nogle interessante perspektiver, men det er stadig i de tidlige stadier, og vi har aktuelt ikke planer om at bruge kunstig intelligens til udvælgelse af komitemedlemmer. Det er et projekt, som vi vil følge med interesse i de kommende år, siger Niels-Henrik von Holstein-Rathlou, Head of Biomed i Novo Nordisk Fonden.
Er AI’s algoritme god nok?
Kina bruger helt nøjagtigt AI til at udvælge de fagspecifikke forskere, som skal foretage peer reviews af forskningsprojekter indenfor deres felt, før de publiceres. Men det er også planen, at de herefter vil anvende det til at udvælge de forskere, som sidder i bedømmelsespanelerne, der uddeler bevillinger.
I Danmark er disse to processer meget forskellige – og ofte differentierer de sig fra fond til fond.
Men fælles for de fleste af fondene er dog, at det er tidskrævende.
– Det kunne sikkert spare noget tid, men vi skal være forsigtige med algoritmen. Der er jo en hel række kompetencer, som man ikke kan få ind i det – f.eks. erfaring. Men det kunne være meget interessant i forhold til peer reviews, fordi vi kunne få en større pulje af mennesker at vælge i mellem, siger direktør for Innovationsfonden, Tore Duvold.
Det er også algoritmen i den kunstige intelligens, som programleder ved Velux Fonden, Henrik Tronier, er mest betænkelig ved.
– Automatisk behandling præsenteres ofte som mere objektiv end den subjektive menneskelige dømmekraft. Men det er en kendt sag, at kunstig intelligens baseret på selvlærende algoritmers mønstergenkendelse i store, uoverskuelige datamængder tenderer mod at reproducere eller endda forstærke den bias, der historisk ligger i datagrundlaget, siger Henrik Tronier og uddyber:
– I denne sammenhæng kan der altså være en risiko for, at udvælgelsen af de specifikke bedømmere gennem kunstig intelligens kan vedligeholde de eksisterende bias, siger han.
Det kan måske blive mere effektivt og fair
Det er særligt den førnævnte bias, som NSFC vil komme til livs i deres AI. Bias i denne sammenhæng kan f.eks. være ansøger, der har publiceret med bedømmer, kønsbias eller konkurrence.
I den danske forskningsverden baseres meget af den proces på tillid mellem fonden og den forsker, der skal se ansøgningerne igennem.
Sådan er det hvert fald hos Danmarks Frie Forskningsfond, fortæller bestyrelsesformand David Dreyer Lassen. Han påpeger, at det i dansk forvaltningspraksis generelt er sådan, at forskeren tjekkes af fonden, og herefter er det forskeren selv, der erklærer, hvis vedkommende er inhabil.
– Forskeren skal selv påtale det, hvis de føler, at der er inhabilitet. Vi gør det også, hvis vi kan se, at et panelmedlem har publiceret med en ansøger, eller en individuel bedømmer f.eks. har stået som medforfatter. Det forsøger vi generelt at dreje udenom, siger David Dreyer Lassen.
Generelt mener fondene, at der er en fordel i, at det er et menneske, der bedømmer, hvem der kan sidde i panelerne. Men derfor er det stadig vigtig at overveje nye muligheder og følge med tiden, mener forskningsdirektør i Villum Fonden, Thomas Bjørnholm.
– Vi bruger i dag mange internationale folk i vores paneler, og nogle paneler består endda udelukkende af medlemmer uden for Danmark. Det minimerer risikoen for forfordeling. Det er dog altid relevant at følge med i alt, hvad der kan optimere udvælgelsen af de bedste på en fair og transparent måde. Mulighederne ved kunstig intelligens kunne være, at det blev endnu mere effektivt og fair. Det vil tiden vise, siger Thomas Bjørnholm.
