21 augusti 2025

Dålig vetenskap blir big business i AI-åldern



Vetenskap är i sig ingen av Pythia, Apollons prästinna, som kan svara på alla frågor. Och det är snarare regel än undantag att "vetenskapen" är oenig i viktiga frågor. Likväl är den vetenskapliga hållningen viktig på nästan alla samhällsområden.

Skandalen Magnus Gisslén är symptomatisk för hur vetenskap håller på att marginaliseras på grund av ekonomiska managementmodeller.

Men även AI-driven bedräglig forskning växer snabbare än legitim vetenskap, påpekar Owen Brierley i Asia Times.
Sveriges f d statsepidemolog Magnus Gisslén avsattes från sin post på grund av oenighet med ledningen och generaldirektören Olivia Wigzell.

Det började med att Gisslén vid sitt tillträde fråntogs de chefsfullmakter som företrädaren Anders Tegnell hade haft. Han fick inte heller ingå i ledningsgruppen där Tegnell ingått.


Ledningsgruppen är nu helt utan läkare. GD Wigzell säger i media att hon är "trygg" med att ledningsgruppen "bärs upp" av en bred vetenskaplig bas.

I själva verket är fenomenet, att ledningsorgan rensas från fackkompetens, som ersätts av managmentspecialister och ekonomer, tidstypiskt.


Bo Jordin, specialist i allmänmedicin och företagshälsovård skriver i Läkartidningen:

"Men problemet med otillräcklig ledningskompetens i hälso- och sjukvården är så mycket vidare än att bara gälla Folkhälsomyndigheten. Vi har ju t.ex. regionerna där enligt komunallagen det operativa ledningsansvaret ligger hos lokalt valda amatörer. Vi ser också i regionerna en bristande målstyrning med oförmåga att operationalisera mål och inte minst att följa upp sina mål. Detta får betydelse för hur hälso- och sjukvården prioriteras och gör ofta vården till offer för politikers infall. Många minns 'värdebaserad vård' på Karolinska eller Millenniumhaveriet i Västra Götaland (kostnad ca 5 miljarder). Kostnaden för dessa lokalt valda politiker uppgår till ca 0,8 - 1,5 miljarder/år. Vilka mervärden för hälso- och sjukvården skapar dessa människor eller är det t.o.m. så att de utgör en belastning för vården? Ingen skulle väl drömma om att låta det operativa ledningsansvaret i en kunskapsbaserad verksamhet som t.ex. flygvapnet lades på en samling lokalt valda amatörer?"

Men vetenskapen hotas också på andra fronter, rapporterar Owen Brierley i Asia Times.

Forskare noterar en oroande trend som hotar grunden för vetenskapliga framsteg: vetenskapligt bedrägeri har blivit en industri. Och det växer så snabbt att legitima fackgranskade vetenskapliga tidskrifter inte kan hålla jämna steg.

Det här handlar inte längre om enskilda dåliga aktörer. Vi bevittnar framväxten av en organiserad, systematisk strategi för vetenskapligt bedrägeri, skriver Brierley. Formidabla artikelfabriker producerar formelbaserade forskningsartiklar, mäklarfirmor garanterar publicering mot en avgift och rovgiriga tidskrifter kringgår helt kvalitetssäkring.

Dessa organisationer döljer sig bakom respektabla etiketter som "redigeringstjänster" eller "akademiska konsulter". I verkligheten är deras affärsmodell beroende av att korrumpera den vetenskapliga processen.

Artikelfabriker översvämmar tidskrifter med bidrag för att överbelasta fackgranskningssystem. De  skickar flera artiklar till en publikation och samma artikel till flera  kanaler samtidigt. Om bara en bråkdel slinker igenom, tjänar den bedrägliga tjänsten pengar.

Beror detta bara på att forskare är lata? Svaret är mer komplext och oroande. Dagens forskare står inför begränsningar som gör dessa bedrägliga tjänster alltmer frestande. Pressen att ständigt producera ny forskning eller riskera att få sin finansiering nedskuren, kallad "publicera eller förgås"-kulturen, är ett långvarigt problem.

Dessutom står regeringar runt om i världen inför ekonomiska svårigheter och försöker minska kostnaderna, vilket resulterar i mindre finansiering för forskning. Mindre finansiering innebär ökad konkurrens.

Detta skapar en moment 22-situation för forskare som behöver publikationer för att vinna finansiering men behöver finansiering för att bedriva publicerbar forskning. 

Uppkomsten av generativ AI har gett denna bedrägeriindustri nya superkrafter. Forskare bevittnar en explosion av forskningsartiklar som verkar utnyttja AI-programvara för att producera artiklar i en aldrig tidigare skådad hastighet.

Dessa artiklar mjölkar offentliga datamängder som erbjuder ytliga bevis. Dessa hastigt genererade artiklar kännetecknas av industriell artikelproduktion, inklusive bevisfabrikation, datamanipulation, etiska fel och rena plagiat.

Överbelastade fackgranskare frestas i sin tur att använda AI-verktyg för att sammanfatta artiklar, identifiera luckor i bevisen och till och med skriva recensioner.

Vissa forskare har börjat bädda in dold text i sina bidrag, till exempel vit text på vit bakgrund eller mikroskopiska teckensnitt, som innehåller instruktioner för att åsidosätta AI-varningar och ge artikeln positiva recensioner.

Peer review-systemet, som ska skydda mot bedrägerier, står inför sina egna problem. Historien påminner oss om att peer review är viktigt men ofullkomligt. Albert Einstein hatade det.

Eftersom processen är långsam delar många forskare sina resultat först på plattformar före publicering, där arbete kan delas omedelbart.

En ökning av massåterkallelser (tio eller fler artiklar som dras tillbaka samtidigt) signalerar att vi inte har att göra med isolerade incidenter utan med ett problem i industriell skala. På 1990-talet förekom det nästan inga massåterkallelser. År 2020 var de cirka 3 000 och 2023 över 6 000.

Som jämförelse fanns det 2 000 återkallelser av enskilda artiklar år 2023. Det betyder att massåterkallelser av mer än tio artiklar var tre gånger vanligare än återkallelser av enskilda artiklar.
Owen Brierley är kursledare vid institutionen för kreativa industrier, Kingston University.

Brierleys artikel är publicerad i Asia Times och The Conversation under en Creative Commons-licens. 

Stefan Lindgren


Inga kommentarer:

Skicka en kommentar

Underteckna med ditt namn.