Wikipedia Zaostrza Zasady, by Zwalczyc Błędy Generowane przez Sztuczną Inteligencję

Wikipedia ostrzega czytelników przed tekstami generowanymi przez sztuczną inteligencję, przyspiesza usuwanie stron i zakazuje obrazów AI w ramach znaczącego wysiłku na rzecz zachowania wiarygodności i zaufania.

Ostrzeżenie „Ten artykuł może zawierać tekst wygenerowany przez duży model językowy” pojawia się na setkach artykułów w Wikipedii. The Washington Post informuje, jak wolontariusze-edyci pracują nad identyfikacją i eliminacją zawartości generowanej przez AI, zawierającej błędy, fałszywe cytowania i wprowadzające w błąd dane.

„Ludzie naprawdę, naprawdę ufają Wikipedii,” powiedziała Lucie-Aimée Kaffee, badaczka polityki i sztucznej inteligencji, jak donosi The Post. „I to jest coś, czego nie powinniśmy niszczyć,” dodała Lucie.

Dokładność Wikipedii zależy od globalnej sieci wolontariuszy, którzy od początku istnienia platformy walczyli z spamem i wandalizmem. Od 2022 roku generowanie tekstu przez sztuczną inteligencję uprościło tworzenie przekonujących, ale błędnych artykułów w Wikipedii, powiedział Marshall Miller, dyrektor ds. produktu w Wikimedia Foundation. „Lubię myśleć o tym jak o systemie odpornościowym,” powiedział Miller, jak donosi The Post.

Badania Uniwersytetu Princeton wykazały, że około 5% nowych stron anglojęzycznej Wikipedii w sierpniu 2024 roku zawierało tekst wygenerowany przez AI, jak donosi The Post. Niektóre były nieszkodliwe, ale inne promowały biznesy lub agendy polityczne. Przykłady obejmowały hotel opisany zamiast wioski, oraz fałszywy artykuł o twierdzy osmańskiej, który pozostał online przez prawie rok.

Aby zwalczyć to zjawisko, redaktorzy uruchomili WikiProject AI Cleanup w 2023 roku, tworząc przewodniki do wykrywania pisania AI i wylistowując ponad 500 podejrzanych artykułów. W sierpniu Wikipedia wprowadziła nową politykę usuwania, umożliwiającą szybkie usuwanie stron, szczególnie tych zawierających widoczny tekst wygenerowany przez AI lub pozostałe wskazówki. Dodatkowo, obrazy generowane przez AI są całkowicie zakazane.

„Och, znalazłam MASĘ bałaganu od AI w kolejce zgłoszeń,” narzekała pewna redaktorka w czerwcu, jak podaje The Post.

Chociaż Fundacja Wikimedia badała narzędzia AI, które mogłyby pomóc redaktorom w zadaniach takich jak tłumaczenie, Miller podkreślił: „Sposób, w jaki Wikipedia pozostaje neutralna i wiarygodna … polega na tym, że cała ta treść przechodzi przez ręce ludzi.” Kaffee dodała: „Pytanie, ‚Gdzie chcemy mieć AI? [ … ] Jakie zasady chcemy ustawić dla wiedzy generowanej przez AI?’ myślę, że jest naprawdę ważne.”