Naukowcy Ukrywają Kody Świetlne, Aby Odkryć Fałszywe Filmy AI

Badacze z Cornell opracowali nową technologię, która ma na celu pomóc weryfikatorom faktów w wykrywaniu fałszywych lub manipulowanych filmów, a zrobili to poprzez wbudowanie tajnych znaków wodnych w światło.

Badacze wyjaśniają, że ta metoda ukrywa prawie niewidoczne fluktuacje oświetlenia podczas ważnych wydarzeń lub w kluczowych miejscach, takich jak konferencje prasowe czy nawet całe budynki.

Te wahania, niezauważalne dla ludzkiego oka, są rejestrowane na dowolnym filmie kręconym pod specjalnym oświetleniem, które może być zaprogramowane w ekranach komputerowych, lampach fotograficznych lub istniejących wbudowanych oprawach.

„Film kiedyś był traktowany jako źródło prawdy, ale to już nie jest założenie, które możemy przyjąć” – powiedział Abe Davis, asystent profesora informatyki na Cornell, który wpadł na ten pomysł.

„Teraz możesz praktycznie tworzyć filmy na dowolny temat. To może być fajne, ale także problematyczne, ponieważ coraz trudniej jest odróżnić, co jest prawdziwe” – dodała Davis.

Tradycyjne techniki znakowania wodnego modyfikują bezpośrednio pliki wideo, wymagając współpracy z kamerą lub modelem AI używanym do ich tworzenia. Davis i jego zespół ominęli to ograniczenie, wprowadzając kod bezpośrednio do oświetlenia, zapewniając, że każde prawdziwe nagranie tematu zawiera ukryty znak wodny, bez względu na to, kto go nagrywa.

Każde zakodowane światło generuje niskiej jakości, czasowo oznaczone „kodowane wideo” sceny przy nieco innej iluminacji. „Kiedy ktoś manipuluje wideo, manipulowane części zaczynają sprzeciwiać się temu, co widzimy na tych kodowanych filmach,” wyjaśniła Davis.

„A jeśli ktoś próbuje wygenerować fałszywe wideo za pomocą AI, wynikowe kodowane filmy wyglądają po prostu jak losowe odmiany,” dodała Davis.

Lider projektu, Peter Michael, wyjaśnił, że zespół stworzył niezauważalne kody świetlne, opierając się na badaniach nad percepcją człowieka. System wykorzystuje normalne wzorce „szumów” świetlnych, aby wykrycie było trudne bez tajnego klucza. Programowalne światła mogą być kodowane za pomocą oprogramowania, podczas gdy starsze lampy mogą korzystać z małego chipa wielkości znaczka pocztowego.

Zespołowi udało się skutecznie zaimplementować do trzech oddzielnych kodów dla różnych świateł w tej samej scenie, co znacznie zwiększa trudność ich podrobienia. System zademonstrował swoją skuteczność na zewnątrz i na różnych odcieniach skóry.

Jednak Davis ostrzega, że walka z dezinformacją jest jeszcze daleka od zakończenia. „To jest ważny, ciągły problem” – powiedział. „Nie zniknie, a wręcz stanie się tylko trudniejszy.”