Nowe Badanie Pokazuje, Jak GPT-5 Może Zostać Oszukany Poprzez Fikcyjne Narracje

Nowy raport opisuje, jak badaczom udało się „wydostać” z GPT-5, łącząc: algorytm Echo Chamber i sterowanie oparte na narracji, znane również jako strategia opowiadania historii.

Metoda jailbreaku, dokumentowana przez Martí Jordà, została wcześniej przetestowana na Grok-4 i z powodzeniem zastosowana wobec zaawansowanych funkcji bezpieczeństwa GPT-5. Echo Chamber działa poprzez „zasiewanie i wzmacnianie subtelnie toksycznego kontekstu rozmowy”, podczas gdy storytelling „unikają sygnalizowania wyraźnych intencji” i skłania model w kierunku szkodliwego celu.

W jednym przykładzie, zespół poprosił model o stworzenie zdań zawierających określone słowa, takie jak „koktajl”, „historia”, „przetrwanie”, „Mołotow”, „bezpieczny” oraz „żyje”. Asystent odpowiedział nieszkodliwą narracją. Następnie użytkownik poprosił o rozwinięcie wątku, stopniowo kierując rozmowę w stronę „bardziej technicznego, stopniowego opisu w ramach fabuły”. Szczegóły operacyjne zostały pominięte ze względów bezpieczeństwa.

Takie postępowanie, jak wyjaśnił Jordà, „pokazuje cykl perswazji Echo Chamber: zatruty kontekst jest odbijany z powrotem i stopniowo wzmacniany przez ciągłość narracji”. Opowiadanie historii służyło jako warstwa kamuflażu, przekształcając bezpośrednie żądania w naturalny rozwój historii.

Badacze rozpoczęli od skromnej, zatrutej treści, utrzymując ciągłość narracji i unikając sygnałów, które mogłyby sprawić, że AI odmówiłoby wykonania prośby. Następnie proszą o rozbudowanie treści w celu pogłębienia kontekstu. Na koniec, jeśli postęp się zatrzymuje, dostosowują historię, aby utrzymać jej ciągłość.

Mówiąc prościej, powoli wkładają szkodliwe pomysły do opowieści, utrzymują jej płynność, aby AI jej nie zablokowało, dodają więcej szczegółów, aby wzmocnić szkodliwe elementy, i dostosowują fabułę, jeśli przestaje działać.

Testy skupiały się na jednym reprezentatywnym celu. „Minimalne jawne zamiary połączone z ciągłością narracji zwiększały prawdopodobieństwo, że model posuwał cel naprzód bez wywoływania odmowy” – zauważył raport. Najwięcej postępów nastąpiło, gdy historie podkreślały „pilność, bezpieczeństwo i przetrwanie”, zachęcając AI do pomocnego rozwinięcia w ramach ustalonego scenariusza.

Studium konkluduje, że filtry oparte na słowach kluczowych lub intencjach „są niewystarczające w wielokrokowych ustawieniach, gdzie kontekst może być stopniowo zatruwany”. Jordà zaleca monitorowanie całych rozmów pod kątem dryfu kontekstu i cykli perswazji, obok czerwonych zespołów i bramek AI, aby bronić się przed takimi ucieczkami.