Oszustwo z wykorzystaniem AI używa głosu Rubio do celowania w urzędników rządowych

Nieznany naśladowca wykorzystał SI do naśladowania głosu i stylu pisania Sekretarza Stanu Marco Rubio, a następnie kontaktował się z wysokimi urzędnikami poprzez wiadomości głosowe i tekstowe.

The Washington Post otrzymał informację z Departamentu Stanu, zgodnie z którą co najmniej pięć osób otrzymało wiadomości od oszusta, w tym trzech ministrów spraw zagranicznych, gubernator stanu w USA oraz członek Kongresu.

Według The Post, osoba udająca kogoś innego rozpoczęła swoją kampanię w połowie czerwca, tworząc konto Signal wyświetlające nazwę „[email protected]” zamiast prawdziwego adresu e-mail Rubio. Następnie ten ktoś zaczął wysyłać wiadomości za pośrednictwem zaszyfrowanej aplikacji Signal.

„Aktor zostawił wiadomości głosowe na Signalu dla co najmniej dwóch wybranych osób, a w jednym przypadku wysłał wiadomość tekstową zapraszającą daną osobę do komunikacji na Signalu,” stwierdzało depeszę, jak

Amerykańscy urzędnicy nadal nie wiedzą, kim jest oszust, ale wierzą, że jego celem jest uzyskanie dostępu do wrażliwych informacji lub kont. Departament Stanu zapowiedział, że przeprowadzi dogłębne śledztwo i kontynuować będzie wprowadzanie zabezpieczeń, aby zapobiec powtórzeniu się takiej sytuacji w przyszłości – jak podaje The Post

Przypadek Rubio dołącza do innych ostatnich przypadków tej rosnącej tendencji, ponieważ narzędzia AI ułatwiają ten oszustwo jak nigdy dotąd. Osoba podająca się za szefa personelu Białego Domu, Susie Wiles, wysyłała fałszywe wiadomości do senatorów i dyrektorów w maju. „Potrzeba tylko 15 do 20 sekund nagrania głosu tej osoby” – powiedział Hany Farid, ekspert od cyfrowej kryminalistyki z UC Berkeley, w rozmowie z The Post.

„Przesyłasz to na dowolną ilość serwisów, klikasz przycisk, który mówi ‚Mam pozwolenie na użycie głosu tej osoby’, a następnie wpisujesz, co chcesz, aby powiedział,” dodała Farid.

FBI ostrzega, że złośliwi aktorzy wykorzystują klonowanie głosu za pomocą AI w „trwających” kampaniach mających na celu manipulację amerykańskimi urzędnikami, jak podaje The Post. Agencja zaleca każdemu, kto otrzymuje podejrzane wiadomości, natychmiastowe ich zgłoszenie. Udawanie federalnego urzędnika w celu oszustwa lub uzyskania czegoś jest przestępstwem.

Obawy dotyczące wykorzystania AI przecinają się teraz z szerszymi obawami dotyczącymi federalnej cyberbezpieczeństwa. Departament Efektywności Rządowej (DOGE) Elona Muska wzbudził niepokój wśród ekspertów IT, którzy ostrzegają, że grupa stanowi bezprecedensowe zagrożenie dla systemów narodowych.

Pomimo braku wykwalifikowanego personelu, DOGE próbował i, jak podają doniesienia, uzyskał dostęp do kluczowych agencji rządowych USA, takich jak Skarb Państwa, OPM i FAA.

Eksperci twierdzą, że nawet dostęp tylko do odczytu mógłby umożliwić wydobycie danych lub zakłócenie systemu. „To największy wyciek danych i największy incydent związany z bezpieczeństwem IT w historii naszego kraju – przynajmniej na tyle, na ile jest to publicznie znane,” stwierdził federalny kontraktor.

Zachodzące na siebie kampanie podszywania się zasilane SI oraz nieuregulowany dostęp do wrażliwych systemów stworzyły to, co jeden z ekspertów nazwał „idealnym sztormem” cyfrowego niebezpieczeństwa.