Badanie ostrzega, że sztuczna inteligencja może „zalać” literaturę syntetycznymi badaniami

Sztuczna inteligencja umożliwia masową produkcję niemal identycznych artykułów naukowych, które omijają kontrole plagiatu, co budzi obawy związane z gwałtownym wzrostem niskiej jakości publikacji akademickich.

W przedrukowanym artykule opublikowanym na stronie Nature, naukowcy ujawnili, że 112 czasopism opublikowało ponad 400 powielonych artykułów w ciągu ostatnich 4,5 roku.

Te powtarzalne badania, oparte na Amerykańskim Narodowym Badaniu Zdrowia i Żywienia (NHANES), wykorzystywały te same dane do zgłaszania niemal identycznych wyników.

„Jeśli pozostanie to bez odpowiedzi, metoda oparta na AI może zostać zastosowana do wszelkiego rodzaju baz danych o otwartym dostępie, generując o wiele więcej artykułów, niż ktokolwiek może sobie wyobrazić”, mówi Csaba Szabó, farmakolog z Uniwersytetu we Fryburgu w Szwajcarii.

„To może otworzyć puszkę Pandory [and] literatura może zostać zasypana syntetycznymi publikacjami” – dodał Szabó, jak donosi Nature.

Badacze pokazali, jak łatwo jest nadużywać AI: poprosili ChatGPT i Gemini o przepisanie trzech zbędnych badań NHANES. „Byliśmy zszokowani, że od razu zadziałało” – mówi współautor, Matt Spick z University of Surrey. Manuskrypty napisane przez AI uniknęły detektorów plagiatu używanych przez wydawców.

„To nie powinno mieć miejsca i nie pomaga zdrowiu literatury naukowej” – dodaje Spick.

Redaktorzy obawiają się, że firmy sprzedające fałszywe artykuły, zwane także fabrykami artykułów, mogą wykorzystać tę lukę. „To zupełnie nowe wyzwania dla redaktorów i wydawców” – mówi Igor Rudan z University of Edinburgh.

Wydawcy zaczęli wprowadzać nowe środki, aby poradzić sobie z tym problemem. Frontiers zasygnalizowało 32% zidentyfikowanych prac, twierdząc, że te badania zostały opublikowane przed wejściem w życie ich nowych zasad dotyczących integralności. Springer Nature, którego czasopisma zawierały 37% prac, zobowiązało się do przeprowadzenia śledztw.

„Bardzo poważnie traktujemy naszą odpowiedzialność za utrzymanie prawidłowości zapisu naukowego,” mówi Richard White, dyrektor ds. edytorskich Scientific Reports.

„Redundancja sterowana przez AI stanowi ogólnie poważne i nieustające wyzwanie dla wydawców,” mówi Elena Vicario, szefowa działu integrytu badań w Frontiers.