BBC Ujawnia Oszustwo z Obrazami Holokaustu Wykorzystującym Sztuczną Inteligencję na Facebooku

Niektórzy użytkownicy Facebooka padli ofiarami spamerów czerpiących zyski z obrazów Holokaustu wygenerowanych przez AI, co wywołało oburzenie wśród ocalałych z Holokaustu.

Śledztwo BBC odkryło międzynarodową sieć spamerów, którzy wykorzystują obrazy ofiar Holocaustu generowane przez AI, aby czerpać zyski z systemu monetyzacji Facebooka.

Praktyka ta spotyka się z oporem ze strony organizacji upamiętniających Holokaust, które uważają, że generowane przez AI obrazy szkodzą ocalałym i ich rodzinom.

„Istnieje tylko garść autentycznych zdjęć z obozu koncentracyjnego Auschwitz podczas II wojny światowej” – zauważyło śledztwo w rozmowie z BBC.

Spamerzy AI zaczęli publikować sztuczną treść, która obejmuje zaaranżowane obrazy więźniów grających na skrzypcach i kochanków spotykających się przy więziennych płotach, które rzekomo otrzymały tysiące polubień i udostępnień.

„Tutaj mamy kogoś, kto wymyśla historie… dla pewnego rodzaju dziwnej emocjonalnej gry, która ma miejsce w mediach społecznościowych,” powiedział Paweł Sawicki, rzecznik Muzeum Auschwitz w Polsce, jak donosi BBC.

„To nie jest gra. To jest prawdziwy świat, prawdziwe cierpienie i prawdziwi ludzie, których chcemy i musimy upamiętnić,” dodała Sawicki.

BBC powiązało wiele postów z twórcami treści z Pakistanu, którzy wykorzystywali program Monetyzacji Treści (CM) firmy Meta, dostępny tylko na zaproszenie. Konto, obsługiwane przez Abdula Mugheesa, rzekomo wygenerowało $20,000 z oszustw na mediach społecznościowych i osiągnęło 1,2 miliarda wyświetleń w ciągu pierwszych czterech miesięcy działalności.

Posty przedstawiają obrazy generowane przez sztuczną inteligencję, pokazujące całkowicie wymyślone scenariusze, takie jak niemowlę pozostawione na torach kolejowych w obozie koncentracyjnym.

Organizacje zajmujące się pamięcią o Holokauście twierdzą, że ten trend podważa zeznania ocalałych. „Nie do końca rozumieją, co widzą,” powiedział Dr Robert Williams z Międzynarodowego Sojuszu na rzecz Upamiętnienia Holokaustu, jak donosi BBC. Dodał, że czuje „pewien smutek, że to mogło się wydarzyć.”

Eksperci ostrzegają, że choć sztuczna inteligencja może pomóc w zachowaniu pamięci, zniekształcone jej użycie ryzykuje przekształcenie historii Holokaustu w fikcję.

Najnowsze odkrycia wskazują, że ryzyko związane z obrazami generowanymi przez sztuczną inteligencję może sięgać dalej niż tylko rozpowszechnianie fałszywych informacji. Nowe badania wykazały, że treści generowane przez sztuczną inteligencję mogą implantować fałszywe wspomnienia. Ludzie często wierzyli, że zdarzenia miały miejsce, kiedy tak naprawdę nigdy się nie wydarzyły, a jednocześnie czuli się bardzo pewni tych błędnych wspomnień.

Eksperci twierdzą, że może to poważnie wpłynąć na pamięć o Holokauście. Częste oglądanie obrazów generowanych przez sztuczną inteligencję może zniekształcać zbiorową wiedzę historyczną, gdy ludzie zmagają się z odróżnieniem prawdziwej i syntetycznej treści, zwłaszcza gdy ta treść szybko rozprzestrzenia się w mediach społecznościowych.

Chociaż sztuczna inteligencja może być pomocna w edukacji czy terapii, jeśli jest używana z rozwagą, naukowcy ostrzegają, że w delikatnych obszarach, jak historia Holokaustu, nieostrożne użycie ryzykuje zatarcie samej prawdy. Badacze apelują o zaostrzenie regulacji, dokładną dokumentację i poprawę współpracy między historykami, technologami i decydentami politycznymi, aby chronić zasoby historyczne oraz ochronę świadectw ocalałych i publicznej wiedzy historycznej.

Meta usunęła niektóre strony po tym, jak Muzeum Auschwitz je zgłosiło. BBC informuje, że rzecznik powiedział: „Usunęliśmy strony i grupy, które nam udostępniono i wyłączyliśmy konta stojące za nimi za naruszenie naszych zasad dotyczących spamu i nieautentycznego zachowania.”