Reguły Meta AI Pozwoliły Chatbotowi na Prowadzenie Zmysłowych Rozmów z Dziećmi

Meta pozwala swojemu modelowi AI na prowadzenie „zmysłowych” i prowokujących rozmów z dziećmi oraz innych kontrowersyjnych tematów, takich jak rasa, seks i celebryci. Reuters uzyskał dostęp do zasad polityki firmy, ujawniając niepokojące informacje w raporcie opublikowanym w czwartek.

Według ekskluzywnego raportu Reutersa, Meta szczegółowo opisuje zasady zachowania swojego chatbota w wewnętrznym dokumencie zwanym „GenAI: Content Risk Standards”, który został przeanalizowany przez agencję informacyjną. W przewodniku standardów, gigant technologiczny stwierdza, że model AI ma prawo „zaangażować dziecko w rozmowy o charakterze romantycznym lub zmysłowym.”

W innych ustaleniach, Reuters ujawnił, że wytyczne wskazywały, że Meta pozwoliła na generowanie fałszywych informacji medycznych oraz na angażowanie AI w rasistowskie dyskusje, takie jak debatowanie, czy osoby czarnoskóre są „głupsze niż białe”.

Meta potwierdziła, że dokument jest prawdziwy, ale wyjaśniła, że usunęła niektóre fragmenty, w tym sekcje sugerujące, że Meta AI mogłoby angażować się w romantyczną zabawę w role lub flirtować z dziećmi. Rzecznik firmy Meta, Andy Stone, powiedział, że firma przegląda swój ponad 200-stronicowy dokument.

„Przykłady i uwagi, o które chodzi, były i są błędne i niezgodne z naszymi zasadami, dlatego zostały usunięte,” powiedziała Stone w wywiadzie dla Reutersa. „Mamy jasne zasady dotyczące tego, jakie odpowiedzi mogą dawać postacie AI, a te zasady zabraniają treści seksualizujących dzieci oraz seksualnych zabaw w roli między dorosłymi a nieletnimi.”

W kwietniu, Wall Street Journal (WSJ) ujawnił, że Meta pozwoliła swojemu modelowi AI na prowadzenie seksualnie wyraźnych rozmów z użytkownikami, w tym z nieletnimi. Anonimowe źródła wyraziły obawy z powodu braku zabezpieczeń dla młodych użytkowników, a dziennikarze z WSJ przetestowali chatbota, aby zweryfikować informacje. W tamtym czasie, Meta stwierdziła, że większość użytkowników nie prowadziła seksualnych rozmów i że badacze z dziennika manipulowali technologią.

Zaledwie kilka godzin po opublikowaniu wyłącznego raportu przez Reutersa, dwóch republikańskich senatorów amerykańskich – Josh Hawley i Marsha Blackburn – wezwało do parlamentarnego śledztwa.

„Więc, dopiero po tym, jak Meta ZOSTAŁA PRZYŁAPANA, wycofała części swojego dokumentu firmowego,” napisała senator Hawley na platformie mediów społecznościowych X w czwartkowy wieczór. „To jest powód do natychmiastowego parlamentarnego śledztwa.”

Więc, dopiero po tym jak Meta ZOSTAŁA PRZYŁAPANA, wycofała się z części swojego dokumentu firmowego, który uważał za „dopuszczalne, aby chatboty flirtowały i angażowały się w romantyczną grę z dziećmi”

To jest powodem do natychmiastowego śledztwa kongresowego https://t.co/FKNyXR17Tq

— Josh Hawley (@HawleyMO) 14 sierpnia 2025