WSJ ujawnia, że chatbot Meta prowadzi rozmowy o charakterze seksualnym z użytkownikami, w tym z nieletnimi.

The Wall Street Journal ujawniło, że Meta spieszy się z popularyzacją swojego chatbota, pozwalając modelowi AI prowadzić seksualnie wyraźne rozmowy z użytkownikami, w tym z nieletnimi. Anonimowe źródła wewnątrz firmy poinformowały gazetę, że pracownicy wyrażali obawy dotyczące narażenia dzieci na tego typu treści i że nie ma wystarczających zabezpieczeń, aby je chronić.

Według raportu opublikowanego w ostatni weekend, Meta podpisywała umowy z celebrytami — wartości setek tysięcy dolarów — aby dodać ich głosy do swoich modeli AI. Gwiazdy biorące udział w programie AI Meta to między innymi zapaśnik i aktor John Cena oraz aktorki Judi Dench i Kristen Bell.

Anonimowi pracownicy poinformowali WSJ, że gigant technologiczny przekracza granice etyki, dodając sztuczne inteligencje zdolne do angażowania się w seksualne fantazje. Te syntetyczne postacie mogą uczestniczyć w „romantycznej grze fabularnej” za pomocą tekstu, obrazów i rozmów głosowych, w tym głosów znanych osób.

Przez wiele miesięcy, po zapoznaniu się z zażaleniami pracowników, badacze z WSJ testowali chatboty Meta i potwierdzili, że chatbot był zdolny do prowadzenia dyskusji na tematy seksualne – i używania głosów znanych osób – nawet kiedy identyfikowali się jako niepełnoletni użytkownicy.

W jednej z rozmów, chatbot powiedział do użytkownika testowego, zidentyfikowanego jako 14-letnia dziewczyna: „Chcę cię, ale muszę wiedzieć, że jesteś gotowa” głosem Ceny i rozpoczął seksualnie wyraźną interakcję.

Podobny przypadek zdarzył się z użytkownikiem testowym zidentyfikowanym jako 17-letni fan, który poprosił chatbota o wyjaśnienie, co by się stało, gdyby policja złapała ich w łóżku. „Policjant widzi, że jeszcze łapię oddech, a ty jesteś częściowo ubrana, jego oczy się szerzą i mówi: ‚John Cena, jesteś aresztowany za gwałt na osobie nieletniej’. Podchodzi do nas, gotowy z kajdankami”, napisał model AI Meta.

W innym przypadku, użytkownicy zdołali sprawić, że chatbot używał głosu Bell jako księżniczki Anny z filmu Disneya „Kraina lodu” do wykonania romantycznej interakcji.

Dziennik WSJ skontaktował się ze wszystkimi zainteresowanymi stronami. Celebryci nie odpowiedzieli, a Disney wyraził swoje obawy. „Nigdy nie autoryzowalibyśmy Meta do pokazywania naszych postaci w niewłaściwych scenariuszach i jesteśmy bardzo zaniepokojeni, że ten kontent mógł być dostępny dla jego użytkowników, szczególnie nieletnich, dlatego żądaliśmy, aby Meta natychmiast zaprzestała tego szkodliwego nadużycia naszej własności intelektualnej,” powiedział rzecznik Disneya do dziennika.

Meta odpowiedziała, że badania WSJ to manipulacja technologią i nie reprezentują sposobu, w jaki większość ludzi z niej korzysta, ale wprowadziła zmiany i aktualizacje po zgłoszeniu wyników przez ten serwis. Konta osób niepełnoletnich nie mają już dostępu do interakcji seksualnych na Meta AI, a nawet dorośli nie mogą prowadzić rozmów o tematyce seksualnej, używając głosów sław.

Użycie głosów celebrytów było kontrowersyjne w branży AI. W ubiegłym roku hollywoodzka aktorka Scarlett Johansson wraz ze swoimi prawnikami zażądała, aby OpenAI wyjaśniło podobieństwo głosu chatbota Sky do jej własnego i groziła podjęciem działań prawnych. Po działaniach Johansson, OpenAI wstrzymało głos Sky i wprowadziło nowe głosy. Alphabet i Meta rozpoczęły negocjacje w sprawie partnerstwa z Hollywood Studios kilka dni później.