AI-genererad “skräpvetenskap” florerar i Google Scholar

En ny studie har upptäckt att falska AI-genererade vetenskapliga artiklar florerar i sökmotorn Google Scholar. Studiens fynd av AI-fabricerad skräpvetenskap innebär att falsk vetenskap tillgängliggörs och kan spridas i stora mängder, dessutom till en mycket lägre kostnad för illvilliga aktörer. Detta utgör en fara för såväl samhället som forskarvärlden, menar Jutta Haider och Björn Ekström från Bibliotekshögskolan, som står bakom studien tillsammans med Kristofer Söderström vid Lunds universitet och Malte Rödl vid Sveriges lantbruksuniversitet.

Ökad risk för evidenshackning

En av de stora farhågorna med AI-genererad forskning är den ökade risken för evidenshackning – att falsk forskning kan användas för strategisk manipulation.

– Risken för vad vi kallar ”evidenshackning” ökar avsevärt när AI-genererad forskning florerar i sökmotorerna. Det kan ha påtagliga konsekvenser då felaktiga resultat kan sippra längre in i samhället och möjligen också till fler och fler domäner, säger Björn Ekström, filosofie doktor i biblioteks- och informationsvetenskap.

Forskarna bakom studien har redan sett att dessa problematiska artiklar har spridit sig till andra delar av forskningsinfrastrukturen på webben, i olika arkiv, sociala medier och liknande. Spridningen går fort och Google Scholar synliggör de problematiska artiklarna. Även om artiklarna dras tillbaka finns risken att de redan har hunnit spridas, och fortsätter att göra det.

Dessutom medför den AI-genererade forskningen problem för det redan nu hårt pressade systemet om sakkunniggranskning.

Ställer högre krav på informationskunnighet

Att AI-genererad forskning breder ut sig i sökmotorernas databaser ställer högre krav på den som tar del av forskning på nätet.

– Om vi inte kan lita på att den forskning vi läser är äkta, riskerar vi att fatta beslut baserade på felaktig information. Men lika mycket som det här är en fråga om vetenskaplig oredlighet, är det en fråga om medie- och informationskunnighet, säger Jutta Haider, professor i biblioteks- och informationsvetenskap.

Hon poängterar att Google Scholar inte är någon akademisk databas. Sökmotorn är lättanvänd och snabb, men saknar kvalitetssäkring. Det är redan ett problem med vanliga Google, men är ännu mer problematiskt när det handlar om att göra vetenskap tillgänglig.

– Människors möjlighet att avgöra vilka tidskrifter och förlag som – för det mesta – publicerar kvalitetsgranskad forskning är betydelsefull för att kunna hitta och avgöra vad som är pålitlig forskning, och har stor betydelse för beslutsfattande och opinionsbildning avslutar Jutta Haider.

Studien genomfördes inom ramen för forskningsprogrammet Mistra Environmental Communication.

Läs mer

Läs studien ”GPT-fabricated scientific papers on Google Scholar: Key features, spread, and implications for preempting evidence manipulation”

Läs mer om Mistra Environmental Communication

Läs mer om forskningen inom biblioteks- och informationsvetenskap

Läs mer om forskargruppen Informationspraktiker och Digitala kulturer