Hakerzy Mogą Wykorzystać AI do Podsumowywania do Rozprzestrzeniania Malware’u

Nowe badania dotyczące cyberbezpieczeństwa ujawniły niepokojący sposób, w jaki hakerzy mogą wykorzystać podsumowania AI do rozprzestrzeniania ataków ransomware.

Badacze z CloudSek wyjaśniają, że za pomocą ataku socjotechnicznego ClickFix, hakerzy mogą osadzać szkodliwe instrukcje w dokumentach za pomocą niewidocznych technik kodowania. Ukryty tekst pozostaje niewidoczny dla ludzkich oczu, ale skróty AI mogą go wykryć i podczas generowania streszczeń, mogą nieświadomie przekazywać niebezpieczne instrukcje użytkownikom.

„Zidentyfikowano nową adaptację techniki inżynierii społecznej ClickFix, która wykorzystuje niewidoczne wstawianie poleceń do zbrojenia systemów podsumowujących AI” – powiedzieli badacze.

Atak zależy od utajnienia opartego na CSS, które wykorzystuje znaki o zerowej szerokości oraz tekst biały na białym, malutkie czcionki i umieszczenie poza ekranem, aby ukryć instrukcje. Sumaryzator wykrywa niewidoczny kod, który pozostaje niewidoczny dla ludzkiego oka.

Atakujący realizują natychmiastowe przedawkowanie, dodając liczne polecenia do ukrytych sekcji, co powoduje, że AI wybiera te polecenia jako pierwsze w swoim wyjściu.

“Gdy taki spreparowany materiał jest indeksowany, udostępniany lub wysyłany e-mailem, każdy zautomatyzowany proces podsumowywania, który go przyswaja, wygeneruje podsumowania zawierające polecenia ClickFix kontrolowane przez atakujących”, wyjaśniono w badaniu.

Podczas testów, badacze pokazali, jak można manipulować podsumowującym AI, aby instruował użytkowników do uruchamiania niebezpiecznych poleceń PowerShell. Chociaż testowa wersja była nieszkodliwa, prawdziwy atak mógłby łatwo uruchomić ransomware.

Poziom ryzyka tego ataku jest wysoki, ponieważ podsumowujące AI są zintegrowane z klientami poczty e-mail, przeglądarkami i aplikacjami miejsca pracy. Badacze zwracają uwagę, że wiele osób ufa podsumowaniom bez czytania oryginalnego dokumentu, co ułatwia atakującym wykorzystanie tego zaufania.

Eksperci zalecają takie środki obronne jak usunięcie ukrytego tekstu przed podsumowaniem treści, filtrowanie podejrzanych komunikatów oraz ostrzeganie użytkowników, jeśli podsumowania zawierają instrukcje krok po kroku.

Bez tych zabezpieczeń, AI mogłoby nieumyślnie stać się „aktywnym uczestnikiem łańcucha inżynierii społecznej”.